SillyTavern против Janitor AI: что вам подходит?
SillyTavern — это программное обеспечение, которое вы устанавливаете самостоятельно и подключаете к выбранной вами модели. Janitor AI — это размещённый веб-сайт, где вы общаетесь с персонажами в браузере. В этой статье сравниваются оба варианта и показано, как API вписывается в каждый из них.

Обновлено
Ключевые моменты
- SillyTavern — это фронтенд, который вы устанавливаете; модель, стоящая за ним, — ваш выбор.
- Janitor AI — это размещённый сервис. Проверьте его текущие условия, лимиты и опции на его собственном сайте.
- Наше API — это только бэкенд: эндпоинт, совместимый с OpenAI, с моделью
uncensored, без фронтенда. - Сообщение для ролевой игры на 30 000 токенов стоит около $0,0047 при цене $0,15 / $0,50 за 1 млн токенов.
Краткий ответ
В вопросе о SillyTavern против Janitor AI решающим фактором является то, кто управляет чем. SillyTavern — это интерфейс с открытым исходным кодом, который вы устанавливаете на свой компьютер или сервер. Он не включает модель, поэтому вы указываете ему на бэкенд: локальную модель или API. Janitor AI — это веб-сайт. Вы открываете его, выбираете или создаёте персонажа и общаетесь, а размещение обрабатывается за вас.
Выберите SillyTavern, если вы хотите контролировать промпты, книги лора, настройки сэмплирования и то, где хранятся ваши данные, и вас не смущает более длительная настройка. Выберите размещённый сайт, если вы хотите начать общение через минуту и предпочитаете ничего не поддерживать. Многие люди используют оба варианта.
В любом случае, языковая модель — это отдельное решение. Именно здесь приходит на помощь API, совместимое с OpenAI, такое как это.
Сравнение бок о бок
| Вопрос | SillyTavern | Janitor AI |
|---|---|---|
| Что это такое? | Фронтенд чата с самостоятельным размещением | Размещённый веб-сайт для общения с персонажами |
| Где он работает? | Ваш компьютер или ваш сервер | Серверы провайдера |
| Включает ли он модель? | Нет, вы подключаете одну | Предлагает свои варианты; проверьте сайт на наличие текущих опций |
| Усилия по настройке | Установите Node, запустите приложение, добавьте подключение к API | Создайте аккаунт в браузере |
| Контроль промпта и сэмплирования | Обширный, в приложении | Проверьте сайт на наличие доступных опций |
| Стоимость | Приложение бесплатное; вы платите за выбранный бэкенд | Проверьте их текущие тарифы |
Ячейки со словом «проверьте» сделаны намеренно. Облачные сервисы меняют тарифы, лимиты и правила контента, и таблица здесь быстро устареет. Посмотрите их текущие страницы, прежде чем принимать решение.
Где вписывается API
Фронтенд и бэкенд — это разные слои. SillyTavern — это фронтенд. Наш сервис — это бэкенд: он принимает стандартный запрос POST /v1/chat/completions и возвращает текст от одной модели с открытыми весами, запущенной независимым провайдером и настроенной на ответы без цензуры для законного использования взрослыми. У него нет персонажей, галереи или собственного интерфейса чата.
Это делает его подходящим для SillyTavern и любого другого клиента, принимающего OpenAI-совместимый эндпоинт. Если вы используете хостинг-сервис, который позволяет ввести пользовательский эндпоинт, тот же базовый URL и ключ работают и там. Предоставляет ли конкретный сайт эту настройку и на каких тарифах — следует уточнить на самом сайте.
Модель не является официальным предложением какой-либо крупной лаборатории, и она только текстовая. Если вам нужны изображения или голос, вам понадобятся другие сервисы вместе с ней.
Подключение SillyTavern к API
Шаги ниже следуют текущим названиям меню SillyTavern. Они могут немного меняться между версиями.
- Создайте аккаунт и скопируйте свой ключ со страницы API-ключ.
- В SillyTavern откройте значок вилки (API Connections).
- Установите API в Chat Completion, а источник — в Custom (совместимый с OpenAI).
- Введите
https://api.unrestrictedaimodels.com/v1как пользовательский эндпоинт (базовый URL). - Вставьте свой ключ в поле API-ключа.
- Введите
uncensoredкак идентификатор модели. - Нажмите Connect, затем отправьте тестовое сообщение в любом чате.
Если не работает, сначала протестируйте ключ вне приложения:
curl https://api.unrestrictedaimodels.com/v1/models \
-H "Authorization: Bearer YOUR_KEY"
Список, содержащий uncensored, означает, что ключ и URL верны, а проблема в настройках приложения. Опечатка в /v1 или лишний путь — самая частая причина.
Настройки, которые стоит изменить после подключения
Значения по умолчанию во фронтенде написаны для среднего бэкенда, поэтому настройте несколько из них, когда подключение заработает.
- Размер контекста. Установите его ниже окна в 100 000 токенов, например 32 000 или 64 000. SillyTavern обрезает старые сообщения, чтобы они поместились, и меньшее число делает каждый запрос дешевле.
- Длина ответа. Ограничьте ответ несколькими сотнями токенов для чата и увеличьте его для длинных сцен. Выходные токены стоят дороже входных, поэтому длинное ограничение стоит дороже, если модель его использует.
- Температура. Значения около 0,8–1,0 подходят для художественной литературы. Уменьшите их, если персонаж отклоняется или неправильно повторяет факты.
- Потоковая передача. Включите её, чтобы слова появлялись по мере написания. API отправляет токены через SSE и сообщает об использовании в конце.
- Штрафы за повторение. Штрафы за частоту и присутствие передаются. Увеличьте их немного, если ответы зацикливаются на одних и тех же фразах.
Вы можете отслеживать расходы по мере использования: каждый ответ содержит заголовок X-Balance-USD с вашим оставшимся балансом. Полный ключ позволяет 8 параллельных запросов и 300 в минуту, что больше, чем использует один сеанс чата.
Сколько на самом деле стоит ролевая игра
Фронтенды для ролевых игр отправляют много текста при каждом сообщении: карточку персонажа, системный промпт, записи из книги лора и недавний чат. Предположим, что каждый запрос содержит 30 000 токенов промпта, а модель пишет 400 токенов.
- Ввод: 30 000 × $0,15 / 1 000 000 = $0,0045
- Вывод: 400 × $0,50 / 1 000 000 = $0,0002
- Итого: $0,0047 за сообщение, или $4,70 за 1 000 сообщений.
Пополнение на $20 хватит примерно на 4 250 таких сообщений. Крупные пополнения дают бонус: +5% от $50, +10% от $100 и +15% от $200, поэтому $100 превращаются в $110 предоплаченного баланса. Баланс не сгорает, за неудачные или отклонённые запросы не списываются средства. Подробности на странице тарифов. Оплата криптовалютой.
Контекстное окно рассчитано на 100 000 токенов, поэтому длинные диалоги помещаются, но сокращение старых сообщений поможет снизить счёт.
Выбор между ними
Выберите SillyTavern с API-бэкендом, если хотите управлять настройками, переключать модели без смены приложения и хранить логи чатов на своём диске. Приготовьтесь потратить вечер на изучение настроек.
Выберите хостинг, если для вас важнее всего удобство, и вы готовы принять их набор моделей и правила. Если позже вам понадобится больше контроля, вы можете перенести карточки персонажей в SillyTavern, так как в обеих экосистемах карточки обычно совместимы.
Этот сервис предназначен для законного использования совершеннолетними, а сексуальный контент с участием несовершеннолетних запрещён при любых обстоятельствах. Если вы хотите протестировать сервис без обязательств, новые пользователи могут получить $0,50 бесплатного пробного баланса на странице API-ключей, срок действия которого составляет 7 дней, карта не требуется. В документации приведён полный набор параметров, включая потоковую передачу и настройки температуры и штрафов, которые отправляет SillyTavern.
Дополнительные руководства
Вопросы и ответы
SillyTavern лучше, чем Janitor AI?
Это разные типы инструментов. SillyTavern даёт вам контроль и работает на вашем компьютере, тогда как Janitor AI размещён у провайдера и запускается быстрее. Лучший выбор зависит от того, сколько настроек вы хотите выполнить.
Можно ли использовать это API с SillyTavern?
Да. Выберите Chat Completion, затем Custom (OpenAI-compatible), и введите https://api.unrestrictedaimodels.com/v1, ваш API-ключ и идентификатор модели uncensored.
Включает ли API персонажей или интерфейс чата?
Нет. Это текстовый бэкенд. Вы предоставляете фронтенд, например SillyTavern, или пишете свой собственный.
Сколько стоит сообщение для ролевой игры?
При промпте на 30 000 токенов и ответе на 400 токенов — около $0,0047 при цене $0,15 за 1 млн входных токенов и $0,50 за 1 млн выходных токенов.
Ваш ключ — всего в одной форме
Создайте аккаунт, скопируйте ключ, измените базовый URL. Это вся настройка.
Получить API-ключ