PT ▾
Obter chave de API

SillyTavern vs Janitor AI: Qual é a melhor escolha?

O SillyTavern é um software que você executa localmente e conecta a um modelo de sua escolha. O Janitor AI é um site hospedado onde você conversa com personagens no navegador. Este artigo compara os dois e mostra onde uma API se encaixa em cada um.

Uma estação de trabalho local e uma ilha na nuvem conectadas por um cabo luminoso a um cubo central, comparando duas interfaces de chat

Atualizado

Pontos principais

  • O SillyTavern é um frontend que você instala; o modelo por trás dele é sua escolha.
  • O Janitor AI é um serviço hospedado. Verifique seus termos, limites e opções atuais no próprio site.
  • Nossa API é apenas um backend: um endpoint compatível com OpenAI com o modelo uncensored, sem frontend incluído.
  • Uma mensagem de roleplay de 30.000 tokens custa cerca de $0,0047 a $0,15 / $0,50 por 1M de tokens.

A resposta curta

Na questão SillyTavern vs Janitor AI, o fator decisivo é quem executa o quê. O SillyTavern é uma interface open-source que você instala no seu computador ou servidor. Ele não inclui um modelo, então você o aponta para um backend: um modelo local ou uma API. O Janitor AI é um site. Você o abre, escolhe ou cria um personagem e conversa, com a hospedagem cuidada para você.

Escolha o SillyTavern se você quer controle sobre prompts, lorebooks, configurações de amostragem e onde seus dados ficam, e não se importa com uma configuração mais longa. Escolha um site hospedado se quiser começar a conversar em um minuto e preferir não manter nada. Muitas pessoas usam os dois.

De qualquer forma, o modelo de linguagem é uma decisão separada. É aí que entra uma API compatível com OpenAI, como esta.

Comparação lado a lado

PerguntaSillyTavernJanitor AI
O que é?Frontend de chat auto-hospedadoSite de chat com personagens hospedado
Onde ele roda?Sua máquina ou seu servidorServidores do provedor
Ele inclui um modelo?Não, você conecta umOferece suas próprias opções; verifique o site para as opções atuais
Esforço de configuraçãoInstale o Node, execute o app, adicione uma conexão de APICrie uma conta no navegador
Controle de prompt e amostragemExtensivo, no aplicativoVerifique o site para ver o que ele expõe
CustoO app é gratuito; você paga pelo backend que escolherVerifique os preços atuais deles

As células que dizem "verifique" são intencionais. Serviços hospedados mudam planos, limites e regras de conteúdo, e uma tabela aqui ficaria desatualizada. Consulte as páginas atuais deles antes de decidir.

Onde uma API se encaixa

Um frontend e um backend são camadas diferentes. O SillyTavern é o frontend. Nosso serviço é um backend: ele recebe uma requisição POST /v1/chat/completions padrão e retorna texto de um único modelo de pesos abertos, executado por um provedor independente e ajustado para responder sem recusas de conteúdo para uso adulto legal. Ele não tem personagens, galeria nem interface de chat própria.

Isso o torna adequado para o SillyTavern e para qualquer outro cliente que aceite um endpoint compatível com OpenAI. Se você usar um site hospedado que permita inserir um endpoint personalizado, a mesma URL base e chave funcionam lá também. Se um site específico oferece essa configuração e em quais planos, é algo a confirmar no site.

O modelo não é a oferta oficial de nenhum grande laboratório e é apenas texto. Se você precisar de imagens ou voz, precisará de outros serviços junto com ele.

Conectar o SillyTavern à API

Os passos abaixo seguem os nomes de menu atuais do SillyTavern. Eles podem mudar ligeiramente entre versões.

  1. Crie uma conta e copie sua chave na página da chave de API.
  2. No SillyTavern, abra o ícone de plugue (API Connections).
  3. Defina API para Chat Completion e a origem para Custom (OpenAI-compatible).
  4. Insira https://api.unrestrictedaimodels.com/v1 como o endpoint personalizado (URL base).
  5. Cole sua chave no campo da chave de API.
  6. Digite uncensored como o ID do modelo.
  7. Pressione Connect e envie uma mensagem de teste em qualquer chat.

Se falhar, teste a chave fora do app primeiro:

curl https://api.unrestrictedaimodels.com/v1/models \
  -H "Authorization: Bearer YOUR_KEY"

Uma lista contendo uncensored significa que a chave e a URL estão corretas, e o problema está nas configurações do app. Um erro de digitação em /v1 ou um caminho extra é a causa mais comum.

Configurações que valem a pena alterar após a conexão

Os valores padrão em um frontend são escritos para o backend médio, então ajuste alguns deles assim que a conexão funcionar.

  • Tamanho do contexto. Defina abaixo da janela de 100.000 tokens, por exemplo 32.000 ou 64.000. O SillyTavern remove mensagens antigas para caber, e um número menor mantém cada requisição mais barata.
  • Comprimento da resposta. Limite a resposta a algumas centenas de tokens para chat e aumente para cenas longas. Tokens de saída custam mais que tokens de entrada, então um limite longo custa mais se o modelo o usar.
  • Temperatura. Valores em torno de 0,8 a 1,0 são adequados para ficção. Diminua se o personagem se desviar ou repetir fatos incorretamente.
  • Streaming. Ative-o para que as palavras apareçam conforme são escritas. A API envia tokens via SSE e relata o uso no final.
  • Penalidades de repetição. As penalidades de frequência e presença são passadas. Aumente-as ligeiramente se as respostas repetirem as mesmas frases.

Você pode acompanhar os gastos conforme o uso: cada resposta inclui um cabeçalho X-Balance-USD com seu crédito restante. Uma chave completa permite 8 requisições simultâneas e 300 por minuto, o que é mais do que uma única sessão de chat usará.

Quanto o roleplay realmente custa

Frontends de roleplay enviam muito texto em cada mensagem: o cartão do personagem, o prompt do sistema, as entradas do livro de lore e o histórico recente da conversa. Suponha que cada requisição carregue 30.000 tokens de prompt e o modelo gere 400 tokens.

  • Entrada: 30.000 x $0,15 / 1.000.000 = $0,0045
  • Saída: 400 x $0,50 / 1.000.000 = $0,0002
  • Total: $0,0047 por mensagem, ou $4,70 por 1.000 mensagens.

Uma recarga de $20 cobriria cerca de 4.250 mensagens assim. Recargas maiores trazem um bônus: +5% a partir de $50, +10% a partir de $100 e +15% a partir de $200, então $100 resulta em $110 de crédito. O crédito nunca expira e requisições falhas ou recusadas não são cobradas. Os detalhes estão na página de preços. O pagamento é feito por cripto.

A janela de contexto tem 100.000 tokens, então conversas muito longas cabem, mas limpar turnos antigos manterá sua conta mais baixa.

Escolhendo entre eles

Escolha o SillyTavern com um backend de API quando quiser ter controle da configuração, alternar modelos sem alterar o aplicativo e manter os registros de conversa no seu próprio disco. Espere gastar uma noite aprendendo suas configurações.

Escolha um site hospedado quando a conveniência for a prioridade e você aceitar as opções de modelo e regras dele. Se depois quiser mais controle, você pode mover seus cartões de personagem para o SillyTavern, já que ambos os ecossistemas costumam compartilhar cartões.

Este serviço é para uso adulto lícito e conteúdo sexual envolvendo menores de idade não é permitido em nenhuma circunstância. Se quiser testar sem compromisso, novos usuários podem reivindicar $0,50 de crédito de teste na página de chaves, válido por 7 dias, sem necessidade de cartão. A documentação lista o conjunto completo de parâmetros, incluindo streaming e as configurações de temperatura e penalidade que o SillyTavern envia.

Perguntas e respostas

O SillyTavern é melhor que o Janitor AI?

São tipos diferentes de ferramentas. O SillyTavern oferece controle e roda na sua própria máquina, enquanto o Janitor AI é hospedado e mais rápido para começar. A melhor escolha depende do quanto de configuração você deseja.

Posso usar esta API com o SillyTavern?

Sim. Escolha Chat Completion, depois Custom (compatível com OpenAI) e insira https://api.unrestrictedaimodels.com/v1, sua chave e o ID do modelo uncensored.

A API inclui personagens ou uma interface de chat?

Não. É um backend apenas de texto. Você traz um frontend como o SillyTavern ou cria o seu próprio.

Quanto custa uma mensagem de roleplay?

Com um prompt de 30.000 tokens e uma resposta de 400 tokens, custa cerca de $0,0047 a $0,15 por 1M de tokens de entrada e $0,50 por 1M de tokens de saída.

Sua chave está a um formulário de distância

Crie uma conta, copie a chave e altere a URL base. Essa é toda a configuração.

Obter chave de API