NL ▾
API-sleutel aanvragen

SillyTavern vs Janitor AI: wat past bij jou?

SillyTavern is software die je zelf draait en verbindt met een model naar keuze. Janitor AI is een gehoste website waar je in een browser met karakters chat. Dit artikel vergelijkt de twee en laat zien waar een API in past.

Een lokale werkplek en een cloud-eiland verbonden door een gloeiende kabel met een centrale kubus, ter vergelijking van twee chat-frontends

Bijgewerkt

Belangrijkste punten

  • SillyTavern is een frontend die je installeert; het model erachter is jouw keuze.
  • Janitor AI is een gehoste service. Controleer de huidige voorwaarden, limieten en opties op hun eigen site.
  • Onze API is alleen een backend: een OpenAI-compatibel endpoint met model uncensored, geen frontend inbegrepen.
  • Een roleplay-bericht van 30.000 tokens kost ongeveer $0,0047 bij $0,15 / $0,50 per 1M tokens.

Het korte antwoord

Bij de vraag SillyTavern vs Janitor AI is de doorslaggevende factor wie wat draait. SillyTavern is een open-source interface die je op je eigen computer of server installeert. Het bevat geen model, dus je wijst het naar een backend: een lokaal model of een API. Janitor AI is een website. Je opent het, kiest of maakt een karakter aan en chat, de hosting is geregeld.

Kies SillyTavern als je controle wilt over prompts, lorebooks, sampling-instellingen en waar je data blijft, en je geen bezwaar hebt tegen een langere setup. Kies een gehoste site als je binnen een minuut wilt beginnen met chatten en liever niets wilt onderhouden. Veel mensen gebruiken beide.

In beide gevallen is het taalmodel een aparte beslissing. Daar komt een OpenAI-compatibele API zoals deze om de hoek kijken.

Vergelijking naast elkaar

VraagSillyTavernJanitor AI
Wat is het?Zelfgehoste chatfrontendGehoste karakterchatwebsite
Waar draait het?Jouw machine of serverDe servers van de aanbieder
Bevat het een model?Nee, je verbindt er eenBiedt eigen opties; check de site voor huidige opties
Setup-inspanningInstalleer Node, draai de app, voeg een API-verbinding toeMaak een account aan in de browser
Prompt- en samplingcontroleUitgebreid, in de appControleer de site om te zien wat deze blootgeeft
KostenDe app is gratis; je betaalt voor de backend die je kiestBekijk hun huidige prijzen

De cellen die naar de site verwijzen zijn opzettelijk. Gehoste services wijzigen plannen, limieten en inhoudsregels, en een tabel hier zou snel verouderen. Kijk naar hun huidige pagina's voordat je besluit.

Waar een API in past

Een frontend en een backend zijn verschillende lagen. SillyTavern is de frontend. Onze service is een backend: het verwerkt een standaard POST /v1/chat/completions verzoek en retourneert tekst van een enkel open-weight model, gedraaid door een onafhankelijke aanbieder en afgestemd op antwoorden zonder inhoudelijke weigeringen voor legaal gebruik door volwassenen. Het heeft geen karakters, geen galerij en geen eigen chatinterface.

Dit maakt het geschikt voor SillyTavern en voor elke andere client die een OpenAI-compatibel endpoint accepteert. Als je een gehoste site gebruikt waarbij je een aangepast endpoint kunt invoeren, werken dezelfde base URL en sleutel daar ook. Of een specifieke site die instelling aanbiedt, en op welke plannen, is iets dat je op die site moet bevestigen.

Het model is niet de officiële aanbieding van een groot lab, en het is alleen tekst. Als je afbeeldingen of stem nodig hebt, heb je andere diensten nodig naast dit model.

SillyTavern verbinden met de API

De onderstaande stappen volgen de huidige menu-namen van SillyTavern. Deze kunnen iets verschuiven tussen versies.

  1. Maak een account aan en kopieer je sleutel van de API-sleutelpagina.
  2. Open in SillyTavern het stekkerpictogram (API-verbindingen).
  3. Stel API in op Chat Completion en de bron op Aangepast (OpenAI-compatibel).
  4. Voer https://api.unrestrictedaimodels.com/v1 in als aangepast endpoint (base URL).
  5. Plak je sleutel in het API-sleutelveld.
  6. Voer uncensored in als model-ID.
  7. Druk op Connect en stuur een testbericht in een willekeurige chat.

Als het mislukt, test de sleutel eerst buiten de app:

curl https://api.unrestrictedaimodels.com/v1/models \
  -H "Authorization: Bearer YOUR_KEY"

Een lijst met daarin uncensored betekent dat de sleutel en URL kloppen, en het probleem in de app-instellingen zit. Een /v1 typo of een achterliggend pad is de meest voorkomende oorzaak.

Instellingen die de moeite waard zijn om aan te passen na verbinding

De standaardwaarden in een frontend zijn geschreven voor de gemiddelde backend, dus pas een paar van deze aan zodra de verbinding werkt.

  • Contextgrootte. Stel dit in onder het 100.000-token contextvenster, bijvoorbeeld 32.000 of 64.000. SillyTavern knipt oudere berichten bij om te passen, en een kleiner aantal houdt elk verzoek goedkoper.
  • Antwoordlengte. Stel een maximum in op een paar honderd tokens voor chat, en verhoog dit voor lange scènes. Output-tokens kosten meer dan input-tokens, dus een lang maximum kost meer als het model het gebruikt.
  • Temperatuur. Waarden rond 0,8 tot 1,0 zijn geschikt voor fictie. Verlaag dit als het karakter afdwaalt of feiten verkeerd herhaalt.
  • Streaming. Zet dit aan zodat woorden verschijnen terwijl ze worden geschreven. De API verzendt tokens via SSE en rapporteert gebruik aan het einde.
  • Herhalingsstraf. De frequentie- en aanwezigheidsstraffen worden doorgegeven. Verhoog ze iets als antwoorden in een lus gaan op dezelfde zinsdelen.

Je kunt je uitgaven tijdens het gebruik bekijken: elk antwoord bevat een X-Balance-USD header met je resterende tegoed. Een volledige sleutel staat 8 gelijktijdige verzoeken en 300 per minuut toe, wat meer is dan een enkele chatsessie zal gebruiken.

Wat roleplay echt kost

Roleplay-frontends sturen veel tekst op elk bericht: de karakterkaart, het systeem-prompt, lorebook-invoer en recente chat. Stel dat elk verzoek 30.000 tokens aan prompt bevat en het model 400 tokens schrijft.

  • Invoer: 30.000 x $0,15 / 1.000.000 = $0,0045
  • Uitvoer: 400 x $0,50 / 1.000.000 = $0,0002
  • Totaal: $0,0047 per bericht, of $4,70 per 1.000 berichten.

Een top-up van $20 dekt ongeveer 4.250 berichten zoals dat. Grotere top-ups hebben een bonus: +5% vanaf $50, +10% vanaf $100 en +15% vanaf $200, dus $100 geeft $110 aan tegoed. Tegoed verloopt niet en mislukte of geweigerde verzoeken worden niet in rekening gebracht. Details staan op de prijzenpagina. Betalen kan met crypto.

Het contextvenster is 100.000 tokens, dus zeer lange chats passen, maar het inkorten van eerdere wisselingen houdt je rekening lager.

Kiezen tussen beide

Kies SillyTavern met een API-backend als je de setup wilt beheren, modellen wilt wisselen zonder apps te veranderen en chatlogs op je eigen schijf wilt houden. Reken erop dat je een avond nodig hebt om de instellingen te leren.

Kies een gehoste site wanneer gemak het belangrijkst is en je de modelopties en regels accepteert. Als je later meer controle wilt, kun je je karakterkaarten naar SillyTavern verplaatsen, omdat beide ecosystemen vaak kaarten delen.

Deze dienst is voor legaal gebruik door volwassenen, en seksuele inhoud met minderjarigen is onder geen enkele omstandigheid toegestaan. Als je het zonder verplichting wilt testen, kunnen nieuwe gebruikers $0,50 aan proeftegoed claimen op de sleutelpagina, geldig voor 7 dagen, geen kaart nodig. De documentatie geeft de volledige parameterlijst, inclusief streaming en de temperatuur- en strafinstellingen die SillyTavern verstuurt.

Vragen en antwoorden

Is SillyTavern beter dan Janitor AI?

Het zijn verschillende soorten tools. SillyTavern geeft je controle en draait op je eigen machine, terwijl Janitor AI gehost is en sneller start. De betere keuze hangt af van hoeveel setup je wilt.

Kan ik deze API met SillyTavern gebruiken?

Ja. Kies Chat Completion, dan Aangepast (OpenAI-compatibel), en voer https://api.unrestrictedaimodels.com/v1, je sleutel en de model-ID uncensored in.

Omvat de API karakters of een chatinterface?

Nee. Het is een tekst-only backend. Je brengt een frontend zoals SillyTavern of schrijft je eigen.

Hoeveel kost een roleplay-bericht?

Met een 30.000-token prompt en een 400-token antwoord, ongeveer $0,0047 bij $0,15 per 1M invoer en $0,50 per 1M uitvoer tokens.

Je sleutel is nog maar één formulier verwijderd

Maak een account aan, kopieer de sleutel, pas de base URL aan. Dat is de hele setup.

API-sleutel aanvragen