SillyTavern 与 Janitor AI:哪个更适合你?
SillyTavern 是你自行运行并连接至所选模型的软件。Janitor AI 是一个托管网站,你可以在浏览器中与角色聊天。本文对比了这两者,并展示了 API 如何融入其中。

更新于
要点
- SillyTavern 是一个你安装的前端;其背后的模型由你选择。
- Janitor AI 是一项托管服务。请在其网站上查看当前的条款、限制和选项。
- 我们的 API 仅是后端:一个带有模型
uncensored的 OpenAI 兼容接口,不包含前端。 - 一条 30,000 token 的角色扮演消息费用约为 $0.0047(每 1M 个 token $0.15 / $0.50)。
简短回答
在 SillyTavern 与 Janitor AI 的选择中,决定因素是谁来运行什么。SillyTavern 是一个开源界面,你可以将其安装在自己的计算机或服务器上。它不包含模型,因此你需要将其指向后端:本地模型或 API。Janitor AI 是一个网站。你打开它,选择或创建角色,然后进行聊天,托管由平台处理。
如果你希望控制提示词、设定集、采样设置以及数据存放位置,且不介意较长的设置过程,请选择 SillyTavern。如果你希望在一分钟内开始聊天并倾向于不维护任何东西,请选择托管网站。许多人同时使用两者。
无论哪种方式,语言模型都是一个独立的决定。这正是 OpenAI 兼容 API(如本 API)的用武之地。
并排对比
| 问题 | SillyTavern | Janitor AI |
|---|---|---|
| 它是什么? | 自托管聊天前端 | 托管角色聊天网站 |
| 它在哪里运行? | 你的机器或服务器 | 提供商的服务器 |
| 它包含模型吗? | 不包含,你需要连接一个 | 提供其自己的选项;请查看网站以获取当前选项 |
| 设置工作量 | 安装 Node,运行应用,添加 API 连接 | 在浏览器中创建账户 |
| 提示词和采样控制 | 广泛,在应用内 | 查看网站以了解其暴露的功能 |
| 成本 | 应用免费;你需为你选择的后端付费 | 查阅其当前定价 |
标有“检查”的单元格是刻意为之。托管服务会更改计划、限制和内容规则,此处的表格会过时。在做出决定之前,请查看它们的当前页面。
API 的适用场景
前端和后端是不同层级。SillyTavern 是前端。我们的服务是后端:它接收标准的 POST /v1/chat/completions 请求,并由独立提供商运行的单一开放权重模型返回文本,该模型经过调整,在合法成人用途中无内容拒绝。它没有角色、没有画廊,也没有自己的聊天界面。
这使其适合 SillyTavern 以及任何接受 OpenAI 兼容接口的客户端。如果你使用允许输入自定义接口的托管网站,相同的 Base URL 和密钥也适用。特定网站是否提供该设置以及适用于哪些计划,需在该网站上确认。
该模型并非任何大型实验室的官方产品,且仅支持文本。如果你需要图像或语音,需要配合其他服务使用。
将 SillyTavern 连接到 API
以下步骤遵循当前的 SillyTavern 菜单名称。它们在不同版本之间可能会有细微变化。
- 创建账户并从API 密钥页面复制你的密钥。
- 在 SillyTavern 中,打开插头图标(API 连接)。
- 将 API 设置为 Chat Completion,将来源设置为 Custom (OpenAI-compatible)。
- 将
https://api.unrestrictedaimodels.com/v1输入为自定义接口(Base URL)。 - 将你的密钥粘贴到 API 密钥字段中。
- 输入
uncensored作为模型 ID。 - 按 Connect,然后在任何聊天中发送测试消息。
如果失败,请先在应用外测试密钥:
curl https://api.unrestrictedaimodels.com/v1/models \
-H "Authorization: Bearer YOUR_KEY"
包含 uncensored 的列表意味着密钥和 URL 正确,问题出在应用设置中。/v1 拼写错误或尾部路径是最常见的原因。
连接后值得更改的设置
前端中的默认值是针对平均后端编写的,因此连接成功后,请调整其中几项。
- 上下文窗口大小。 将其设置为低于 100,000 token 窗口,例如 32,000 或 64,000。SillyTavern 会修剪旧消息以容纳新内容,较小的数值可使每次请求更便宜。
- 回复长度。 将聊天回复限制在几百个 token 以内,长场景可适当增加。输出 token 比输入 token 更昂贵,因此较长的限制会导致更高的成本。
- Temperature。 0.8 到 1.0 的值适合小说创作。如果角色偏离主题或错误重复事实,请降低该值。
- 流式输出。 开启它以便文字实时显示。API 通过 SSE 发送 token,并在结束时报告使用情况。
- 重复惩罚。 频率和存在惩罚会被传递。如果回复循环使用相同的短语,请适当提高它们。
你可以随时查看支出:每个响应都带有 X-Balance-USD 头,显示你的剩余预付额度。完整密钥允许 8 个并发请求和每分钟 300 个请求,这远超单个聊天会话的需求。
角色扮演的实际成本
角色扮演前端在每条消息上发送大量文本:角色卡、系统提示词、设定集条目和最近的聊天记录。假设每条请求包含 30,000 token 的提示词,模型生成 400 token。
- 输入:30,000 × $0.15 / 1,000,000 = $0.0045
- 输出:400 × $0.50 / 1,000,000 = $0.0002
- 总计:每条消息 $0.0047,或每 1,000 条消息 $4.70。
充值 $20 可覆盖约 4,250 条此类消息。大额充值享有额外奖励:充值 $50 赠 5%,充值 $100 赠 10%,充值 $200 赠 15%,因此充值 $100 可获得 $110 的额度。额度不会过期,失败或被拒的请求不会扣费。详情见定价页面。支持加密货币支付。
上下文窗口为 100,000 token,因此非常长的对话可以容纳,但截断旧对话可以降低费用。
两者之间的选择
当你希望掌控设置、在不更换应用的情况下切换模型,并将聊天记录保存在自己的磁盘上时,选择搭配 API 后端的 SillyTavern。预计需要花费一个晚上来学习其设置。
当便利性最重要,且你接受其模型选项和规则时,选择托管网站。如果你后来想要更多控制权,可以将你的角色卡迁移到 SillyTavern,因为这两个生态系统通常共享角色卡。
此服务用于合法成人用途,在任何情况下均不允许涉及未成年人的性内容。如果你希望零承诺地测试,新用户可在 密钥页面 领取 $0.50 试用额度,有效期 7 天,无需银行卡。文档 列出了完整参数集,包括流式输出以及 SillyTavern 发送的温度和惩罚设置。
更多指南
问答
SillyTavern 比 Janitor AI 好吗?
它们是不同的工具类型。SillyTavern 让你拥有控制权并在你自己的机器上运行,而 Janitor AI 是托管的,启动更快。更好的选择取决于你愿意进行多少设置。
我可以将此 API 与 SillyTavern 一起使用吗?
可以。选择 Chat Completion,然后选择 Custom (OpenAI-compatible),输入你的 https://api.unrestrictedaimodels.com/v1, 密钥和模型 ID uncensored。
API 包含角色或聊天界面吗?
不包含。它是一个纯文本后端。你需要自带前端,例如 SillyTavern 或自己编写。
一条角色扮演消息的成本是多少?
使用 30,000 token 的提示词和 400 token 的回复,成本约为 $0.0047,输入 token 价格为每 1M 个 $0.15,输出 token 价格为每 1M 个 $0.50。