TH ▾
รับคีย์ API

SillyTavern vs Janitor AI: ตัวไหนเหมาะกับคุณ?

SillyTavern คือซอฟต์แวร์ที่คุณติดตั้งเองและเชื่อมต่อกับโมเดลที่คุณเลือก ส่วน Janitor AI เป็นเว็บไซต์แบบโฮสต์ที่คุณแชทกับตัวละครผ่านเบราว์เซอร์ บทความนี้เปรียบเทียบทั้งสองและแสดงวิธีที่ API เข้ากับแต่ละระบบ

เครื่องคอมพิวเตอร์ในเครื่องและเกาะคลาวด์ที่เชื่อมด้วยสายไฟสว่างไปยังลูกบาศก์กลาง เปรียบเทียบฟรอนต์เอนด์แชทสองแบบ

อัปเดต

ประเด็นสำคัญ

  • SillyTavern คือ frontend ที่คุณติดตั้ง โมเดลที่อยู่เบื้องหลังเป็นทางเลือกของคุณ
  • Janitor AI เป็นบริการแบบโฮสต์ ตรวจสอบเงื่อนไข ขีดจำกัด และตัวเลือกปัจจุบันได้ที่เว็บไซต์ของตนเอง
  • API ของเราเป็นเพียง backend: เอนด์พอยต์ที่เข้ากันได้กับ OpenAI พร้อมโมเดล uncensored โดยไม่รวม frontend
  • ข้อความ roleplay ขนาด 30,000 โทเคนมีค่าใช้จ่ายประมาณ $0.0047 ที่อัตรา $0.15 / $0.50 ต่อ 1M tokens

คำตอบสั้นๆ

ในประเด็นเปรียบเทียบ SillyTavern กับ Janitor AI ปัจจัยชี้ขาดคือใครเป็นผู้รันอะไร SillyTavern เป็นอินเทอร์เฟซโอเพนซอร์สที่คุณติดตั้งบนคอมพิวเตอร์หรือเซิร์ฟเวอร์ของคุณเอง มันไม่ได้รวมโมเดลไว้ ดังนั้นคุณจึงต้องชี้ไปยังแบ็กเอนด์: โมเดลในเครื่อง หรือ API Janitor AI เป็นเว็บไซต์ คุณเปิดเข้าไป เลือกหรือสร้างตัวละคร แล้วเริ่มแชท โดยที่การจัดการโฮสติงทำไว้ให้คุณแล้ว

เลือก SillyTavern หากคุณต้องการควบคุมพรอมต์ lorebooks การตั้งค่า sampling และที่เก็บข้อมูลของคุณ และไม่รังเกียจการติดตั้งที่ยาวนานกว่า เลือกไซต์แบบโฮสต์หากคุณต้องการเริ่มแชทในหนึ่งนาทีและชอบไม่ต้องดูแลอะไร คนจำนวนมากใช้ทั้งสองอย่าง

ไม่ว่าจะเลือกอย่างไร โมเดลภาษาเป็นสิ่งที่ต้องตัดสินใจแยกต่างหาก นี่คือจุดที่ API ที่เข้ากันได้กับ OpenAI เช่นของเราเข้ามามีบทบาท

การเปรียบเทียบแบบเคียงข้างกัน

คำถามSillyTavernJanitor AI
คืออะไร?ฟรอนต์เอนด์แชทแบบโฮสต์เองเว็บไซต์แชทตัวละครแบบโฮสต์
ทำงานที่ไหน?เครื่องของคุณหรือเซิร์ฟเวอร์ของคุณเซิร์ฟเวอร์ของผู้ให้บริการ
รวมโมเดลไว้ด้วยหรือไม่?ไม่ คุณต้องเชื่อมต่อเองมีตัวเลือกของตัวเอง; ดูที่เว็บไซต์เพื่อดูตัวเลือกปัจจุบัน
ความพยายามในการติดตั้งติดตั้ง Node, รันแอป, เพิ่มการเชื่อมต่อ APIสร้างบัญชีในเบราว์เซอร์
การควบคุมพรอมต์และการสุ่มตัวอย่างครอบคลุมมาก ในแอปดูที่เว็บไซต์เพื่อดูสิ่งที่เปิดเผย
ต้นทุนแอปฟรี; คุณจ่ายสำหรับแบ็กเอนด์ที่คุณเลือกตรวจสอบราคาปัจจุบัน

ช่องที่ระบุว่า "ตรวจสอบ" เป็นการตั้งใจทำ บริการแบบโฮสต์เปลี่ยนแผน ขีดจำกัด และกฎเนื้อหา และตารางที่นี่จะล้าสมัย ดูหน้าปัจจุบันของพวกเขาก่อนตัดสินใจ

ตำแหน่งของ API

เฟรมเอนด์และแบ็กเอนด์เป็นเลเยอร์ที่ต่างกัน SillyTavern คือเฟรมเอนด์ บริการของเราคือแบ็กเอนด์: รับคำขอ POST /v1/chat/completions มาตรฐานและส่งข้อความจากโมเดลโอเพนเวตเดียวที่รันโดยผู้ให้บริการอิสระและปรับแต่งเพื่อตอบโดยไม่ปฏิเสธเนื้อหาสำหรับการใช้งานผู้ใหญ่ที่ถูกต้องตามกฎหมาย ไม่มีตัวละคร ไม่มีแกลเลอรี และไม่มีอินเทอร์เฟซแชทของตัวเอง

นั่นทำให้มันเข้ากันกับ SillyTavern และไคลเอนต์อื่นๆ ที่รองรับเอนด์พอยต์ที่เข้ากันได้กับ OpenAI หากคุณใช้ไซต์แบบโฮสต์ที่ให้คุณป้อนเอนด์พอยต์แบบกำหนดเอง URL พื้นฐานและคีย์เดียวกันก็ใช้งานได้เช่นกัน ว่าไซต์ใดเสนอการตั้งค่านี้ และในแผนใด เป็นสิ่งที่ต้องยืนยันในไซต์นั้น

โมเดลนี้ไม่ใช่ผลิตภัณฑ์ทางการจากแล็บใหญ่ใดๆ และเป็นแบบข้อความเท่านั้น หากต้องการรูปภาพหรือเสียง จำเป็นต้องใช้บริการอื่นควบคู่ไปด้วย

เชื่อมต่อ SillyTavern กับ API

ขั้นตอนด้านล่างอ้างอิงจากชื่อเมนูปัจจุบันของ SillyTavern ซึ่งอาจเปลี่ยนแปลงเล็กน้อยระหว่างเวอร์ชันต่างๆ

  1. สร้างบัญชีและคัดลอกคีย์ API ของคุณจากหน้า คีย์ API
  2. ใน SillyTavern เปิดไอคอนปลั๊ก (API Connections)
  3. ตั้งค่า API เป็น Chat Completion และแหล่งข้อมูลเป็น Custom (OpenAI-compatible)
  4. ป้อน https://api.unrestrictedaimodels.com/v1 เป็นเอนด์พอยต์แบบกำหนดเอง (base URL)
  5. วางคีย์ของคุณลงในช่อง API key
  6. พิมพ์ uncensored เป็นรหัสโมเดล
  7. กด Connect จากนั้นส่งข้อความทดสอบในแชทใดก็ได้

หากล้มเหลว ให้ทดสอบคีย์นอกแอปพลิเคชันก่อน:

curl https://api.unrestrictedaimodels.com/v1/models \
  -H "Authorization: Bearer YOUR_KEY"

รายการที่มี uncensored หมายความว่าคีย์และ URL ถูกต้อง และปัญหาอยู่ที่การตั้งค่าแอป ข้อผิดพลาด /v1 หรือ path ที่เกินมาคือสาเหตุที่พบบ่อยที่สุด

การตั้งค่าที่ควรเปลี่ยนหลังจากเชื่อมต่อ

ค่าเริ่มต้นใน frontend ถูกเขียนมาสำหรับ backend ทั่วไป ดังนั้นควรปรับค่าบางค่าเมื่อการเชื่อมต่อทำงานได้แล้ว

  • ขนาดของหน้าต่างบริบท ตั้งค่าให้ต่ำกว่าหน้าต่างบริบท 100,000 โทเคน เช่น 32,000 หรือ 64,000 SillyTavern จะตัดข้อความเก่าออกเพื่อให้พอดี และจำนวนที่น้อยกว่าจะทำให้แต่ละคำขอมีราคาถูกลง
  • ความยาวของ response จำกัดคำตอบไว้ที่ไม่กี่ร้อยโทเคนสำหรับแชท และเพิ่มค่าสำหรับฉากยาว output tokens มีค่าใช้จ่ายมากกว่า input tokens ดังนั้นการจำกัดที่ยาวนานจะมีค่าใช้จ่ายมากกว่าหากโมเดลใช้มัน
  • อุณหภูมิ ค่าประมาณ 0.8 ถึง 1.0 เหมาะกับงานนวนิยาย ลดค่านี้หากตัวละครเบี่ยงเบนหรือทำซ้ำข้อเท็จจริงผิดๆ
  • streaming เปิดใช้งานเพื่อให้คำปรากฏขึ้นเมื่อเขียน API ส่งโทเคนผ่าน SSE และรายงานการใช้งานที่ท้ายที่สุด
  • การปรับลดความซ้ำ ค่าปรับความถี่และค่าปรับการปรากฏจะถูกส่งผ่าน หากคำตอบวนลูปในวลีเดียวกัน ให้เพิ่มค่าเหล่านี้เล็กน้อย

คุณสามารถติดตามการใช้จ่ายขณะใช้งาน: แต่ละการตอบกลับจะมีเฮดเดอร์ X-Balance-USD พร้อมเครดิตคงเหลือของคุณ คีย์เต็มรูปแบบอนุญาตให้ทำคำขอพร้อมกัน 8 คำขอและ 300 คำขอต่อนาที ซึ่งมากกว่าที่เซสชันแชทเดียวจะใช้งาน

ต้นทุนที่แท้จริงของการเล่นบทบาทสมมติ

เฟรมเอนด์ roleplay ส่งข้อความจำนวนมากในทุกข้อความ: การ์ดตัวละคร พรอมต์ระบบ lorebook entries และแชทล่าสุด สมมติว่าแต่ละคำขอมี 30,000 โทเคนของ prompt และโมเดลเขียน 400 โทเคน

  • อินพุต: 30,000 x $0.15 / 1,000,000 = $0.0045
  • เอาต์พุต: 400 x $0.50 / 1,000,000 = $0.0002
  • รวม: $0.0047 ต่อข้อความ หรือ $4.70 ต่อ 1,000 ข้อความ

การเติมเงิน $20 จะครอบคลุมข้อความประมาณ 4,250 ข้อความแบบนั้น การเติมเงินจำนวนมากขึ้นจะมีโบนัส: +5% จาก $50, +10% จาก $100 และ +15% จาก $200 ดังนั้น $100 จะให้เครดิต $110 เครดิตไม่หมดอายุ และคำขอที่ล้มเหลวหรือถูกปฏิเสธจะไม่ถูกเรียกเก็บเงิน รายละเอียดอยู่ที่ หน้าราคา การชำระเงินผ่านคริปโต

หน้าต่างบริบทมีขนาด 100,000 โทเคน ดังนั้นแชทที่ยาวมากจึงรองรับได้ แต่การตัดข้อความเก่าออกจะช่วยลดบิลของคุณ

การเลือกระหว่างทั้งสอง

เลือก SillyTavern พร้อม API backend เมื่อคุณต้องการควบคุมการตั้งค่าเอง สลับโมเดลได้โดยไม่ต้องเปลี่ยนแอป และเก็บประวัติแชทไว้ในดิสก์ของคุณเอง คาดว่าจะใช้เวลาหนึ่งช่วงเย็นในการเรียนรู้การตั้งค่า

เลือกไซต์แบบโฮสต์เมื่อความสะดวกสำคัญที่สุด และคุณยอมรับตัวเลือกโมเดลและกฎของไซต์นั้น หากภายหลังต้องการการควบคุมมากขึ้น คุณสามารถย้ายการ์ดตัวละครไปยัง SillyTavern ได้ เนื่องจากทั้งสองระบบนิเวศมักใช้การ์ดร่วมกัน

บริการนี้สำหรับการใช้งานผู้ใหญ่ที่ถูกต้องตามกฎหมาย และเนื้อหาทางเพศที่เกี่ยวข้องกับผู้เยาว์ ไม่อนุญาตภายใต้เงื่อนไขใดก็ตาม หากคุณต้องการทดสอบโดยไม่ผูกพัน ผู้ใช้ใหม่สามารถรับเครดิตทดลองใช้ฟรี $0.50 บน หน้าคีย์ มีอายุ 7 วัน ไม่ต้องใช้บัตร เอกสาร ระบุชุดพารามิเตอร์เต็มรูปแบบ รวมถึง streaming และการตั้งค่า temperature และ penalty ที่ SillyTavern ส่ง

ถาม-ตอบ

SillyTavern ดีกว่า Janitor AI หรือไม่?

ทั้งสองเป็นเครื่องมือคนละประเภท SillyTavern ให้คุณควบคุมและทำงานบนเครื่องของคุณเอง ในขณะที่ Janitor AI เป็นแบบโฮสต์และเริ่มใช้งานเร็วขึ้น การเลือกที่ดีกว่าขึ้นอยู่กับปริมาณการตั้งค่าที่คุณต้องการ

ฉันสามารถใช้ API นี้กับ SillyTavern ได้หรือไม่?

ได้ เลือก Chat Completion จากนั้นเลือก Custom (OpenAI-compatible) และใส่ https://api.unrestrictedaimodels.com/v1, คีย์ของคุณและ ID โมเดล uncensored

API รวมตัวละครหรืออินเทอร์เฟซแชทด้วยหรือไม่?

ไม่ เป็น backend แบบข้อความเท่านั้น คุณต้องนำ frontend มาเอง เช่น SillyTavern หรือเขียนของคุณเอง

ข้อความ roleplay หนึ่งข้อความมีราคาเท่าไหร่?

ด้วยพรอมต์ขนาด 30,000 โทเคน และคำตอบขนาด 400 โทเคน คิดเป็นประมาณ $0.0047 ที่อัตรา $0.15 ต่อ 1M input tokens และ $0.50 ต่อ 1M output tokens

คีย์ของคุณอยู่ห่างแค่แบบฟอร์มเดียว

สร้างบัญชี คัดลอกคีย์ และเปลี่ยน base URL นั่นคือการตั้งค่าทั้งหมด

รับคีย์ API