PL ▾
Pobierz klucz API

SillyTavern vs Janitor AI: Który Ci pasuje?

SillyTavern to oprogramowanie, które uruchamiasz samodzielnie i łączysz z modelem według własnego wyboru. Janitor AI to hostowana strona internetowa, na której czatujesz z postaciami w przeglądarce. Ten artykuł porównuje oba rozwiązania i pokazuje, gdzie pasuje API.

Lokalna stacja robocza i wyspa w chmurze połączone świecącym kablem z centralnym sześcianem, porównanie dwóch frontendów czatu

Zaktualizowano

Kluczowe punkty

  • SillyTavern to frontend, który instalujesz; model za nim jest Twoim wyborem.
  • Janitor AI to usługa hostowana. Sprawdź jej aktualne warunki, limity i opcje na jej stronie.
  • Nasze API to tylko backend: endpoint kompatybilny z OpenAI z modelem uncensored, bez frontendu.
  • Wiadomość roleplay o długości 30 000 tokenów kosztuje około $0,0047 przy cenie $0,15 / $0,50 za 1 mln tokenów.

Krótka odpowiedź

W pytaniu SillyTavern vs Janitor AI decydującym czynnikiem jest to, kto zarządza czym. SillyTavern to interfejs open-source, który instalujesz na swoim komputerze lub serwerze. Nie zawiera modelu, więc kierujesz go na backend: lokalny model lub API. Janitor AI to strona internetowa. Otwierasz ją, wybierasz lub tworzysz postać i czatujesz, a hosting jest za Ciebie obsługiwany.

Wybierz SillyTavern, jeśli chcesz kontrolować prompty, lorebooki, ustawienia próbkowania i miejsce przechowywania danych i nie przeszkadza Ci dłuższa konfiguracja. Wybierz hostowaną stronę, jeśli chcesz zacząć czatować za minutę i wolisz nie utrzymywać niczego. Wielu ludzi używa obu.

W każdym przypadku model językowy to osobna decyzja. Tutaj z pomocą przychodzi API kompatybilne z OpenAI, takie jak to.

Porównanie obok siebie

PytanieSillyTavernJanitor AI
Co to jest?Czatowy frontend hostowany samodzielnieHostowana strona internetowa do czatu z postaciami
Gdzie działa?Twoja maszyna lub Twój serwerSerwery dostawcy
Czy zawiera model?Nie, podłączasz go samodzielnieOferuje własne opcje; sprawdź stronę pod kątem aktualnych
Wysiłek konfiguracjiZainstaluj Node, uruchom aplikację, dodaj połączenie APIUtwórz konto w przeglądarce
Kontrola promptu i próbkowaniaRozbudowana, w aplikacjiSprawdź stronę, jakie opcje udostępnia
KosztAplikacja jest darmowa; płacisz za wybrany backendSprawdź ich aktualne ceny

Komórki z napisem „sprawdź” są celowe. Usługi hostowane zmieniają plany, limity i zasady dotyczące treści, a tabela tutaj szybko straci aktualność. Sprawdź ich aktualne strony przed podjęciem decyzji.

Gdzie pasuje API

Frontend i backend to różne warstwy. SillyTavern to frontend. Nasza usługa to backend: przyjmuje standardowe zapytanie POST /v1/chat/completions i zwraca tekst z jednego modelu o otwartych wagach, uruchamianego przez niezależnego dostawcę i dostrojonego do odpowiadania bez odmów treści dla legalnego użytku przez dorosłych. Nie ma postaci, galerii ani własnego interfejsu czatu.

Dzięki temu pasuje do SillyTavern i dowolnego innego klienta, który akceptuje endpoint kompatybilny z OpenAI. Jeśli używasz hostowanej strony, która pozwala wprowadzić niestandardowy endpoint, ten sam Base URL i klucz zadziałają tam również. Czy dana strona oferuje to ustawienie i na których planach, należy potwierdzić na tej stronie.

Model nie jest oficjalną ofertą żadnego dużego laboratorium i jest tylko do tekstu. Jeśli potrzebujesz obrazów lub głosu, będziesz potrzebować innych usług wraz z nim.

Połącz SillyTavern z API

Poniższe kroki podążają za aktualnymi nazwami menu w SillyTavern. Mogą się nieznacznie zmieniać między wersjami.

  1. Utwórz konto i skopiuj swój klucz ze strony klucza API.
  2. W SillyTavern otwórz ikonę wtyczki (Połączenia API).
  3. Ustaw API na Chat Completion, a źródło na Custom (OpenAI-compatible).
  4. Wprowadź https://api.unrestrictedaimodels.com/v1 jako niestandardowy endpoint (Base URL).
  5. Wklej swój klucz w pole klucza API.
  6. Wpisz uncensored jako ID modelu.
  7. Naciśnij Connect, a następnie wyślij wiadomość testową w dowolnym czacie.

Jeśli nie zadziała, przetestuj klucz poza aplikacją:

curl https://api.unrestrictedaimodels.com/v1/models \
  -H "Authorization: Bearer YOUR_KEY"

Lista zawierająca uncensored oznacza, że klucz i URL są poprawne, a problem jest w ustawieniach aplikacji. Błąd w pisowni /v1 lub ścieżka końcowa to najczęstsza przyczyna.

Ustawienia warte zmiany po połączeniu

Domyślne wartości w frontendzie są napisane dla przeciętnego backendu, więc dostosuj kilka z nich, gdy połączenie zadziała.

  • Rozmiar kontekstu. Ustaw go poniżej okna 100 000 tokenów, na przykład 32 000 lub 64 000. SillyTavern obcina starsze wiadomości, aby się zmieścić, a mniejsza liczba sprawia, że każde zapytanie jest tańsze.
  • Długość odpowiedzi. Ogranicz odpowiedź do kilku setek tokenów dla czatu i zwiększ ją dla długich scen. Tokeny wyjściowe kosztują więcej niż tokeny wejściowe, więc długie ograniczenie kosztuje więcej, jeśli model go użyje.
  • Temperatura. Wartości około 0,8 do 1,0 pasują do fikcji. Zmniejsz ją, jeśli postać odbiega od tematu lub powtarza fakty błędnie.
  • Strumieniowanie. Włącz je, aby słowa pojawiały się w miarę pisania. API wysyła tokeny przez SSE i raportuje użycie na końcu.
  • Kary za powtarzanie. Kary częstotliwości i obecności są przekazywane. Zwiększ je nieznacznie, jeśli odpowiedzi zapętlają się na tych samych frazach.

Możesz obserwować wydatki w miarę postępu: każda odpowiedź zawiera nagłówek X-Balance-USD z Twoim pozostałym kredytem. Pełny klucz pozwala na 8 równoległych zapytań i 300 na minutę, co jest więcej niż wykorzysta pojedyncza sesja czatu.

Ile naprawdę kosztuje roleplay

Frontendy roleplay wysyłają dużo tekstu przy każdej wiadomości: kartę postaci, prompt systemowy, wpisy z lorebooka i ostatni czat. Załóżmy, że każde zapytanie zawiera 30 000 tokenów promptu, a model pisze 400 tokenów.

  • Wejście: 30 000 x $0,15 / 1 000 000 = $0,0045
  • Wyjście: 400 x $0,50 / 1 000 000 = $0,0002
  • Łącznie: $0,0047 za wiadomość, czyli $4,70 za 1000 wiadomości.

Doładowanie za $20 wystarczy na około 4250 takich wiadomości. Większe doładowania dają bonus: +5% od $50, +10% od $100 i +15% od $200, więc $100 daje $110 kredytu. Kredyt nie wygasa, a nieudane lub odrzucone zapytania nie są rozliczane. Szczegóły znajdziesz na stronie z cenami. Płatność kryptowalutami.

Okno kontekstu wynosi 100 000 tokenów, więc zmieszczą się bardzo długie rozmowy, ale skracanie starszych wiadomości pomoże Ci utrzymać niższy rachunek.

Wybór między nimi

Wybierz SillyTavern z backendem API, gdy chcesz mieć pełną kontrolę nad konfiguracją, zmieniać modele bez zmiany aplikacji i przechowywać dzienniki czatu na własnym dysku. Przygotuj się na wieczór na naukę ustawień.

Wybierz stronę hostowaną, gdy najważniejsza jest wygoda i akceptujesz jej opcje modeli oraz zasady. Jeśli później zechcesz mieć większą kontrolę, możesz przenieść karty postaci do SillyTavern, ponieważ oba ekosystemy często dzielą się kartami.

Usługa przeznaczona jest do legalnego użytku przez osoby pełnoletnie, a treści seksualne z udziałem nieletnich są niedozwolone w żadnych okolicznościach. Jeśli chcesz przetestować usługę bez zobowiązań, nowi użytkownicy mogą uzyskać $0,50 kredytu próbnego na stronie klucza API, ważny przez 7 dni, bez podawania karty. Dokumentacja zawiera pełną listę parametrów, w tym strumieniowanie oraz ustawienia temperatury i kar, które wysyła SillyTavern.

Pytania i odpowiedzi

Czy SillyTavern jest lepszy niż Janitor AI?

To różne rodzaje narzędzi. SillyTavern daje Ci kontrolę i działa na Twojej maszynie, podczas gdy Janitor AI jest hostowane i szybsze w uruchomieniu. Lepszy wybór zależy od tego, ile konfiguracji chcesz wykonać.

Czy mogę używać tego API z SillyTavern?

Tak. Wybierz Chat Completion, następnie Custom (OpenAI-compatible), a następnie wprowadź https://api.unrestrictedaimodels.com/v1, swój klucz oraz ID modelu uncensored.

Czy API zawiera postacie lub interfejs czatu?

Nie. To backend tylko do tekstu. Przynosisz frontend taki jak SillyTavern lub piszesz własny.

Ile kosztuje wiadomość w roleplay?

Przy prompcie o 30 000 tokenach i odpowiedzi o 400 tokenach koszt wynosi około $0,0047 przy cenie $0,15 za 1 mln tokenów wejściowych i $0,50 za 1 mln tokenów wyjściowych.

Twój klucz jest o jeden formularz stąd

Utwórz konto, skopiuj klucz, zmień bazowy URL. To cała konfiguracja.

Pobierz klucz API