JA ▾
API キーを取得

SillyTavernとJanitor AI:どちらがあなたに合うか?

SillyTavernは自分で実行するソフトウェアで、お好みのモデルに接続します。Janitor AIはブラウザ上でキャラクターとチャットできるホスティングサイトです。この記事では両者を比較し、APIがそれぞれの環境にどう組み込まれるかを示します。

ローカルワークステーションとクラウドアイランドが光るケーブルで中央のキューブに接続され、2つのチャットフロントエンドを比較

更新日:

主要ポイント

  • SillyTavernはインストールするフロントエンドです。その背後のモデルはあなたの選択です。
  • Janitor AIはホスティングされたサービスです。現在の利用規約、制限、オプションは公式サイトでご確認ください。
  • 当APIはバックエンドのみです:モデルuncensoredを持つOpenAI互換のエンドポイントであり、フロントエンドは含まれていません。
  • 30,000トークンのロールプレイメッセージは、100万トークンあたり$0.15 / $0.50で約$0.0047かかります。

短い答え

SillyTavern対Janitor AIの問いにおいて、決定的な要因は誰が何を運用するかです。SillyTavernはオープンソースのインターフェースで、自分のコンピュータやサーバーにインストールします。モデルは含まれていないため、バックエンドを指し示します:ローカルモデル、またはAPIです。Janitor AIはウェブサイトです。開いて、キャラクターを選択または作成し、チャットします。ホスティングはお任せです。

プロンプト、lorebook、サンプリング設定、データの保存場所を管理したい場合や、セットアップに時間をかけても構わない場合はSillyTavernを選んでください。1分以内にチャットを始めたい場合や、メンテナンスをしたくない場合はホスティングサイトを選んでください。多くのユーザーは両方を併用しています。

いずれにせよ、言語モデルは別の判断です。それがこのようなOpenAI互換APIの出番です。

並列比較

質問SillyTavernJanitor AI
それは何ですか?セルフホスティングチャットフロントエンドホスティングキャラクターチャットウェブサイト
どこで動作しますか?あなたのマシンまたはサーバープロバイダーのサーバー
モデルが含まれていますか?いいえ、モデルを1つ接続します独自のオプションを提供します。現在のオプションについてはサイトをご確認ください
セットアップの労力Node.jsをインストールし、アプリを実行し、API接続を追加します。ブラウザでアカウントを作成
プロンプトとサンプリングの制御アプリ内で広範サイトが公開している内容をご確認ください
コストアプリは無料です。選択したバックエンドに対して支払います現在の料金を確認

"確認"と書かれたセルは意図的です。ホスティングサービスはプラン、制限、コンテンツルールを変更し、ここでの表は古くなります。決定する前に現在のページを確認してください。

APIの適合箇所

フロントエンドとバックエンドは異なるレイヤーです。SillyTavernはフロントエンドです。当サービスはバックエンドです:標準的なPOST /v1/chat/completionsリクエストを受け取り、単一のオープンウェイトモデルからのテキストを返します。独立したプロバイダーによって実行され、成人による合法的な利用に対してコンテンツ拒否なしで応答するように調整されています。キャラクター、ギャラリー、チャットインターフェースは独自には持っていません。

これにより、OpenAI互換のエンドポイントを受け入れるSillyTavernやその他のクライアントにそのまま組み込むことができます。カスタムエンドポイントを入力できるホスティングサイトを使用している場合、同じベースURLとAPI キーもそちらで使用できます。特定のサイトがその設定を提供しているか、どのプランで可能かは、そのサイトで確認してください。

モデルはいかなる大手ラボの公式提供物ではなく、テキストのみです。画像や音声が必要な場合は、他のサービスも必要になります。

SillyTavernをAPIに接続

以下の手順は現在のSillyTavernメニュー名に従っています。バージョン間でわずかに変更される場合があります。

  1. アカウントを作成し、APIキーページからキーをコピーしてください。
  2. SillyTavernでプラグアイコン(API接続)を開きます。
  3. APIをChat Completionに、ソースをCustom (OpenAI-compatible)に設定します。
  4. カスタムエンドポイント(ベースURL)としてhttps://api.unrestrictedaimodels.com/v1を入力します。
  5. API キーフィールドにキーを貼り付けます。
  6. モデルIDとしてuncensoredを入力します。
  7. Connectを押して、任意のチャットでテストメッセージを送信します。

失敗した場合は、まずアプリ外でキーをテストしてください:

curl https://api.unrestrictedaimodels.com/v1/models \
  -H "Authorization: Bearer YOUR_KEY"

uncensoredが含まれるリストが返れば、APIキーとURLは正しく、問題はアプリの設定にあります。/v1のタイプミスまたは末尾のパスが最も一般的な原因です。

接続後に設定を変更する価値がある項目

フロントエンドのデフォルト値は平均的なバックエンド向けに書かれているため、接続が機能したらいくつか調整してください。

  • コンテキストサイズ。 100,000トークンのコンテキストウィンドウ以下に設定します(例:32,000または64,000)。SillyTavernは古いメッセージを収めるためにトリミングし、より小さな値にすると各リクエストの費用が抑えられます。
  • 応答の長さ。 チャットのために応答を数百トークンに制限し、長いシーンでは上げます。出力トークンは入力トークンより高価なので、モデルがそれを使用する場合、長い制限はより高価になります。
  • 温度。 0.8から1.0の値はフィクションに適しています。キャラクターが逸脱したり事実を誤って繰り返す場合は下げてください。
  • ストリーミング。 単語が書かれると同時に表示されるようにオンにします。APIはSSEを介してトークンを送信し、最後に使用状況を報告します。
  • 反復ペナルティ。 頻度と存在ペナルティはそのまま渡されます。返信が同じフレーズでループする場合、少し上げてください。

利用中に支出をリアルタイムで確認できます:各レスポンスには、残高クレジットを示すX-Balance-USDヘッダーが含まれます。完全なAPI キーでは、最大8つの同時リクエストと1分あたり300リクエストが可能で、これは単一のチャットセッションで必要となる量よりも多いです。

ロールプレイの実際のコスト

ロールプレイフロントエンドはメッセージごとに大量のテキストを送信します:キャラクターカード、システムプロンプト、lorebookエントリ、および最近のチャット。各リクエストが30,000トークンのプロンプトを持ち、モデルが400トークンを書くとします。

  • 入力: 30,000 x $0.15 / 1,000,000 = $0.0045
  • 出力: 400 x $0.50 / 1,000,000 = $0.0002
  • 合計: 1メッセージあたり$0.0047、または1,000メッセージあたり$4.70

$20のチャージで、そのようなメッセージが約4,250回分カバーできます。より大きなチャージにはボーナスが付きます: $50から+5%、$100から+10%、$200から+15%。つまり、$100チャージで$110のクレジットが得られます。クレジットは期限切れにならず、失敗または拒否されたリクエストは課金されません。詳細は料金ページをご覧ください。お支払いは暗号資産で行えます。

コンテキストウィンドウは100,000トークンなので、非常に長いチャットでも収まりますが、古い会話のターンをトリミングすることで請求額を抑えることができます。

どちらを選ぶか

セットアップを自分で行い、アプリを変更せずにモデルを切り替え、チャットログを自分のディスクに保存したい場合は、APIバックエンド付きのSillyTavernを選んでください。設定を学ぶのに1晩費やす覚悟が必要です。

利便性が最も重要で、モデルの選択肢やルールを受け入れることができる場合は、ホスト型サイトを選んでください。後でより多くの制御を持ちたい場合は、両方のエコシステムが一般的にキャラクターカードを共有しているため、キャラクターカードをSillyTavernに移動することができます。

このサービスは成人による合法的な利用に限定され、未成年者を含む性的なコンテンツはいかなる場合でも許可されません。気軽に試したい場合は、新しいユーザーはAPI キーページで7日間有効な$0.50の無料トライアルクレジットを取得できます(カード不要)。ドキュメントには、ストリーミングやSillyTavernが送信する温度やペナルティ設定など、完全なパラメータセットが記載されています。

質問と回答

SillyTavernはJanitor AIよりも優れていますか?

これらは異なる種類のツールです。SillyTavernは制御権を与え、あなたのマシン上で動作します。一方、Janitor AIはホスト型で、すぐに開始できます。どちらがより良いかは、あなたがどの程度のセットアップを行うかによります。

このAPIをSillyTavernで使用できますか?

はい。Chat Completionを選択し、Custom (OpenAI-compatible)を選択して、https://api.unrestrictedaimodels.com/v1, あなたのAPI キーとモデルID uncensoredを入力してください。

APIにはキャラクターやチャットインターフェースが含まれていますか?

いいえ。これはテキスト専用のバックエンドです。SillyTavernなどのフロントエンドを用意するか、自分で記述する必要があります。

ロールプレイメッセージの料金はどのくらいですか?

30,000トークンのプロンプトと400トークンの返信の場合、入力1Mトークンあたり$0.15、出力1Mトークンあたり$0.50で、約$0.0047です。

キーはフォーム 1 つで手に入ります

アカウントを作成し、キーをコピーし、ベースURLを変更します。これでセットアップは完了です。

API キーを取得