FR ▾
Obtenir une clé API

SillyTavern vs Janitor AI : lequel vous convient ?

SillyTavern est un logiciel que vous exécutez vous-même et connectez à un modèle de votre choix. Janitor AI est un site web hébergé où vous discutez avec des personnages dans un navigateur. Cet article compare les deux et montre où une API s'insère dans chacun.

Une station de travail locale et une île cloud reliés par un câble lumineux à un cube central, comparant deux frontends de chat

Mis à jour le

Points clés

  • SillyTavern est un frontend que vous installez ; le modèle derrière est votre choix.
  • Janitor AI est un service hébergé. Consultez ses conditions actuelles, limites et options sur son propre site.
  • Notre API est uniquement un backend : un endpoint compatible OpenAI avec le modèle uncensored, aucun frontend inclus.
  • Un message de jeu de rôle de 30 000 tokens coûte environ $0,0047 à un taux de $0,15 / $0,50 par 1M de tokens.

La réponse courte

Dans la question SillyTavern vs Janitor AI, le facteur décisif est qui exécute quoi. SillyTavern est une interface open-source que vous installez sur votre propre ordinateur ou serveur. Il n'inclut pas de modèle, donc vous le pointez vers un backend : un modèle local ou une API. Janitor AI est un site web. Vous l'ouvrez, choisissez ou créez un personnage et discutez, l'hébergement étant géré pour vous.

Choisissez SillyTavern si vous voulez le contrôle sur les prompts, les livres de lore, les paramètres d'échantillonnage et où vos données résident, et que vous n'avez pas peur d'une installation plus longue. Choisissez un site hébergé si vous voulez commencer à discuter en une minute et préférez ne rien maintenir. Beaucoup de gens utilisent les deux.

Dans les deux cas, le modèle de langage est une décision séparée. C'est là qu'une API compatible OpenAI comme celle-ci intervient.

Comparaison côte à côte

QuestionSillyTavernJanitor AI
Qu'est-ce que c'est ?Frontend de chat auto-hébergéSite web de chat de personnages hébergé
Où s'exécute-t-il ?Votre machine ou votre serveurLes serveurs du fournisseur
Inclut-il un modèle ?Non, vous en connectez unOffre ses propres options ; consultez le site pour les options actuelles
Effort d'installationInstallez Node, exécutez l'application, ajoutez une connexion APICréez un compte dans le navigateur
Contrôle du prompt et de l'échantillonnageÉtendu, dans l'applicationConsultez le site pour ce qu'il expose
CoûtL'application est gratuite ; vous payez pour le backend que vous choisissezVérifiez leurs tarifs actuels

Les cellules qui renvoient au site sont intentionnelles. Les services hébergés modifient leurs offres, leurs limites et leurs règles de contenu, et un tableau ici deviendrait obsolète. Consultez leurs pages actuelles avant de décider.

Où une API s'insère

Un frontend et un backend sont des couches différentes. SillyTavern est le frontend. Notre service est un backend : il prend une requête POST /v1/chat/completions standard et retourne du texte d'un seul modèle à poids ouverts, exécuté par un fournisseur indépendant et ajusté pour répondre sans refus de contenu pour un usage adulte légal. Il n'a ni personnages, ni galerie, ni interface de chat propre.

Cela en fait un bon choix pour SillyTavern et pour tout autre client qui accepte un endpoint compatible OpenAI. Si vous utilisez un site hébergé qui vous permet de saisir un endpoint personnalisé, la même URL de base et la même clé fonctionnent également là-bas. La question de savoir si un site donné offre ce paramètre, et sur quels plans, est à confirmer sur ce site.

Le modèle n'est pas l'offre officielle d'un grand laboratoire, et il est texte uniquement. Si vous avez besoin d'images ou de voix, vous aurez besoin d'autres services à côté.

Connecter SillyTavern à l'API

Les étapes ci-dessous suivent les noms de menu actuels de SillyTavern. Ils peuvent varier légèrement entre les versions.

  1. Créez un compte et copiez votre clé depuis la page Clé API.
  2. Dans SillyTavern, ouvrez l'icône de prise (Connexions API).
  3. Définissez API sur Chat Completion et la source sur Custom (OpenAI-compatible).
  4. Saisissez https://api.unrestrictedaimodels.com/v1 comme endpoint personnalisé (URL de base).
  5. Collez votre clé dans le champ de clé API.
  6. Saisissez uncensored comme ID de modèle.
  7. Appuyez sur Connecter, puis envoyez un message de test dans n'importe quel chat.

Si cela échoue, testez la clé en dehors de l'application d'abord :

curl https://api.unrestrictedaimodels.com/v1/models \
  -H "Authorization: Bearer YOUR_KEY"

Une liste contenant uncensored signifie que la clé et l'URL sont correctes, et que le problème se trouve dans les paramètres de l'application. Une faute de frappe sur /v1 ou un chemin en trop est la cause la plus fréquente.

Paramètres à modifier après la connexion

Les valeurs par défaut dans un frontend sont écrites pour le backend moyen, donc ajustez quelques-unes une fois la connexion établie.

  • Taille du contexte. Définissez-la en dessous de la fenêtre de 100 000 tokens, par exemple 32 000 ou 64 000. SillyTavern supprime les messages plus anciens pour s'adapter, et un nombre plus petit rend chaque requête moins chère.
  • Longueur de la réponse. Limitez la réponse à quelques centaines de tokens pour le chat, et augmentez-la pour les scènes longues. Les tokens de sortie coûtent plus cher que les tokens d'entrée, donc une limite longue coûte plus cher si le modèle l'utilise.
  • Température. Des valeurs autour de 0,8 à 1,0 conviennent à la fiction. Réduisez-la si le personnage dérive ou répète des faits incorrectement.
  • Streaming. Activez-le pour que les mots apparaissent au fur et à mesure de leur écriture. L'API envoie des tokens via SSE et rapporte l'utilisation à la fin.
  • Pénalités de répétition. Les pénalités de fréquence et de présence sont transmises. Augmentez-les légèrement si les réponses bouclent sur les mêmes phrases.

Vous pouvez surveiller les dépenses au fur et à mesure : chaque réponse inclut un en-tête X-Balance-USD avec votre crédit restant. Une clé complète permet 8 requêtes simultanées et 300 par minute, ce qui est plus qu'une session de chat unique n'utilisera.

Ce que coûte réellement le jeu de rôle

Les frontends de jeu de rôle envoient beaucoup de texte à chaque message : la carte du personnage, le prompt système, les entrées du livre de lore et le chat récent. Disons que chaque requête contient 30 000 tokens de prompt et que le modèle écrit 400 tokens.

  • Entrée : 30 000 x $0,15 / 1 000 000 = $0,0045
  • Sortie : 400 x $0,50 / 1 000 000 = $0,0002
  • Total : $0,0047 par message, ou $4,70 pour 1 000 messages.

Un rechargement de 20 $ couvrirait environ 4 250 messages de ce type. Les rechargements plus importants offrent un bonus : +5 % à partir de 50 $, +10 % à partir de 100 $ et +15 % à partir de 200 $, de sorte que 100 $ donnent 110 $ de crédit. Le crédit n'expire jamais et les requêtes échouées ou refusées ne sont pas facturées. Les détails figurent sur la page de tarification. Le paiement se fait par crypto.

La fenêtre de contexte est de 100 000 tokens, ce qui permet d'intégrer des conversations très longues, mais réduire les anciens messages vous fera économiser.

Choisir entre les deux

Choisissez SillyTavern avec un backend d'API lorsque vous souhaitez gérer vous-même l'installation, changer de modèle sans modifier l'application et conserver les journaux de conversation sur votre propre disque. Prévoyez une soirée pour apprendre à configurer ses paramètres.

Choisissez un site hébergé lorsque la commodité prime et que vous acceptez ses options de modèles et ses règles. Si vous souhaitez plus de contrôle par la suite, vous pouvez transférer vos cartes de personnage vers SillyTavern, car les deux écosystèmes partagent couramment les mêmes cartes.

Ce service est destiné à un usage adulte légal, et le contenu sexuel impliquant des mineurs n'est autorisé sous aucune circonstance. Si vous souhaitez le tester sans engagement, les nouveaux utilisateurs peuvent réclamer 0,50 $ de crédit d'essai gratuit sur la page des clés, valable 7 jours, sans carte bancaire. La documentation liste l'ensemble des paramètres, y compris le streaming et les réglages de température et de pénalité envoyés par SillyTavern.

Questions et réponses

SillyTavern est-il meilleur que Janitor AI ?

Ce sont des types d'outils différents. SillyTavern vous donne le contrôle et s'exécute sur votre propre machine, tandis que Janitor AI est hébergé et plus rapide à démarrer. Le meilleur choix dépend du niveau de configuration que vous souhaitez.

Puis-je utiliser cette API avec SillyTavern ?

Oui. Choisissez Chat Completion, puis Custom (compatible OpenAI), et saisissez https://api.unrestrictedaimodels.com/v1, votre clé et l'ID du modèle uncensored.

L'API inclut-elle des personnages ou une interface de chat ?

Non. Il s'agit d'un backend textuel uniquement. Vous devez fournir un frontend tel que SillyTavern ou écrire le vôtre.

Combien coûte un message de jeu de rôle ?

Avec un prompt de 30 000 tokens et une réponse de 400 tokens, environ $0,0047 à un taux de $0,15 par 1M de tokens d'entrée et $0,50 par 1M de tokens de sortie.

Votre clé n'est qu'à un formulaire d'ici

Créez un compte, copiez la clé, modifiez l'URL de base. C'est toute la configuration.

Obtenir une clé API