中文 ▾
获取 API 密钥

SillyTavern 与 Janitor AI:哪个更适合你?

SillyTavern 是你自行运行并连接至所选模型的软件。Janitor AI 是一个托管网站,你可以在浏览器中与角色聊天。本文对比了这两者,并展示了 API 如何融入其中。

本地工作站与云端岛屿通过发光电缆连接到中央立方体,对比两种聊天前端

更新于

要点

  • SillyTavern 是一个你安装的前端;其背后的模型由你选择。
  • Janitor AI 是一项托管服务。请在其网站上查看当前的条款、限制和选项。
  • 我们的 API 仅是后端:一个带有模型 uncensored 的 OpenAI 兼容接口,不包含前端。
  • 一条 30,000 token 的角色扮演消息费用约为 $0.0047(每 1M 个 token $0.15 / $0.50)。

简短回答

在 SillyTavern 与 Janitor AI 的选择中,决定因素是谁来运行什么。SillyTavern 是一个开源界面,你可以将其安装在自己的计算机或服务器上。它不包含模型,因此你需要将其指向后端:本地模型或 API。Janitor AI 是一个网站。你打开它,选择或创建角色,然后进行聊天,托管由平台处理。

如果你希望控制提示词、设定集、采样设置以及数据存放位置,且不介意较长的设置过程,请选择 SillyTavern。如果你希望在一分钟内开始聊天并倾向于不维护任何东西,请选择托管网站。许多人同时使用两者。

无论哪种方式,语言模型都是一个独立的决定。这正是 OpenAI 兼容 API(如本 API)的用武之地。

并排对比

问题SillyTavernJanitor AI
它是什么?自托管聊天前端托管角色聊天网站
它在哪里运行?你的机器或服务器提供商的服务器
它包含模型吗?不包含,你需要连接一个提供其自己的选项;请查看网站以获取当前选项
设置工作量安装 Node,运行应用,添加 API 连接在浏览器中创建账户
提示词和采样控制广泛,在应用内查看网站以了解其暴露的功能
成本应用免费;你需为你选择的后端付费查阅其当前定价

标有“检查”的单元格是刻意为之。托管服务会更改计划、限制和内容规则,此处的表格会过时。在做出决定之前,请查看它们的当前页面。

API 的适用场景

前端和后端是不同层级。SillyTavern 是前端。我们的服务是后端:它接收标准的 POST /v1/chat/completions 请求,并由独立提供商运行的单一开放权重模型返回文本,该模型经过调整,在合法成人用途中无内容拒绝。它没有角色、没有画廊,也没有自己的聊天界面。

这使其适合 SillyTavern 以及任何接受 OpenAI 兼容接口的客户端。如果你使用允许输入自定义接口的托管网站,相同的 Base URL 和密钥也适用。特定网站是否提供该设置以及适用于哪些计划,需在该网站上确认。

该模型并非任何大型实验室的官方产品,且仅支持文本。如果你需要图像或语音,需要配合其他服务使用。

将 SillyTavern 连接到 API

以下步骤遵循当前的 SillyTavern 菜单名称。它们在不同版本之间可能会有细微变化。

  1. 创建账户并从API 密钥页面复制你的密钥。
  2. 在 SillyTavern 中,打开插头图标(API 连接)。
  3. 将 API 设置为 Chat Completion,将来源设置为 Custom (OpenAI-compatible)。
  4. 将 https://api.unrestrictedaimodels.com/v1 输入为自定义接口(Base URL)。
  5. 将你的密钥粘贴到 API 密钥字段中。
  6. 输入 uncensored 作为模型 ID。
  7. 按 Connect,然后在任何聊天中发送测试消息。

如果失败,请先在应用外测试密钥:

curl https://api.unrestrictedaimodels.com/v1/models \
  -H "Authorization: Bearer YOUR_KEY"

包含 uncensored 的列表意味着密钥和 URL 正确,问题出在应用设置中。/v1 拼写错误或尾部路径是最常见的原因。

连接后值得更改的设置

前端中的默认值是针对平均后端编写的,因此连接成功后,请调整其中几项。

  • 上下文窗口大小。 将其设置为低于 100,000 token 窗口,例如 32,000 或 64,000。SillyTavern 会修剪旧消息以容纳新内容,较小的数值可使每次请求更便宜。
  • 回复长度。 将聊天回复限制在几百个 token 以内,长场景可适当增加。输出 token 比输入 token 更昂贵,因此较长的限制会导致更高的成本。
  • Temperature。 0.8 到 1.0 的值适合小说创作。如果角色偏离主题或错误重复事实,请降低该值。
  • 流式输出。 开启它以便文字实时显示。API 通过 SSE 发送 token,并在结束时报告使用情况。
  • 重复惩罚。 频率和存在惩罚会被传递。如果回复循环使用相同的短语,请适当提高它们。

你可以随时查看支出:每个响应都带有 X-Balance-USD 头,显示你的剩余预付额度。完整密钥允许 8 个并发请求和每分钟 300 个请求,这远超单个聊天会话的需求。

角色扮演的实际成本

角色扮演前端在每条消息上发送大量文本:角色卡、系统提示词、设定集条目和最近的聊天记录。假设每条请求包含 30,000 token 的提示词,模型生成 400 token。

  • 输入:30,000 × $0.15 / 1,000,000 = $0.0045
  • 输出:400 × $0.50 / 1,000,000 = $0.0002
  • 总计:每条消息 $0.0047,或每 1,000 条消息 $4.70。

充值 $20 可覆盖约 4,250 条此类消息。大额充值享有额外奖励:充值 $50 赠 5%,充值 $100 赠 10%,充值 $200 赠 15%,因此充值 $100 可获得 $110 的额度。额度不会过期,失败或被拒的请求不会扣费。详情见定价页面。支持加密货币支付。

上下文窗口为 100,000 token,因此非常长的对话可以容纳,但截断旧对话可以降低费用。

两者之间的选择

当你希望掌控设置、在不更换应用的情况下切换模型,并将聊天记录保存在自己的磁盘上时,选择搭配 API 后端的 SillyTavern。预计需要花费一个晚上来学习其设置。

当便利性最重要,且你接受其模型选项和规则时,选择托管网站。如果你后来想要更多控制权,可以将你的角色卡迁移到 SillyTavern,因为这两个生态系统通常共享角色卡。

此服务用于合法成人用途,在任何情况下均不允许涉及未成年人的性内容。如果你希望零承诺地测试,新用户可在 密钥页面 领取 $0.50 试用额度,有效期 7 天,无需银行卡。文档 列出了完整参数集,包括流式输出以及 SillyTavern 发送的温度和惩罚设置。

问答

SillyTavern 比 Janitor AI 好吗?

它们是不同的工具类型。SillyTavern 让你拥有控制权并在你自己的机器上运行,而 Janitor AI 是托管的,启动更快。更好的选择取决于你愿意进行多少设置。

我可以将此 API 与 SillyTavern 一起使用吗?

可以。选择 Chat Completion,然后选择 Custom (OpenAI-compatible),输入你的 https://api.unrestrictedaimodels.com/v1, 密钥和模型 ID uncensored。

API 包含角色或聊天界面吗?

不包含。它是一个纯文本后端。你需要自带前端,例如 SillyTavern 或自己编写。

一条角色扮演消息的成本是多少?

使用 30,000 token 的提示词和 400 token 的回复,成本约为 $0.0047,输入 token 价格为每 1M 个 $0.15,输出 token 价格为每 1M 个 $0.50。

只差一张表单,即可获得密钥

创建账户,复制密钥,更改Base URL。这就是全部设置。

获取 API 密钥