ผลิตภัณฑ์สองรูปแบบที่แตกต่างกัน
OpenRouter ซึ่งอธิบายตัวเองอย่างเปิดเผย คือ API เดียวที่ให้สิทธิ์เข้าถึงแคตตาล็อกโมเดลขนาดใหญ่จากหลายผู้ให้บริการ คุณเลือกโมเดลตามชื่อในแต่ละคำขอ และเกตเวย์จะส่งต่อคำขอนั้น การออกแบบนี้เน้นเรื่องทางเลือก: คุณสามารถลองโมเดลได้สิบกว่าตัวภายในบ่ายเดียว และสลับไปมาระหว่างโมเดลเหล่านั้นเมื่อมีโมเดลใหม่ปรากฏขึ้น
บริการนี้ถูกออกแบบมาให้แคบลงอย่างตั้งใจ โดยเปิดให้บริการโมเดลแบบเปิดน้ำหนักเพียงโมเดลเดียว ซึ่งรันโดยผู้ให้บริการอิสระและปรับแต่งมาให้ตอบโดยไม่มีการปฏิเสธเนื้อหาสำหรับการใช้งานผู้ใหญ่ที่ถูกต้องตามกฎหมาย รหัสโมเดลคือ uncensored เสมอ ไม่มีแคตตาล็อกและไม่มีระบบเปลี่ยนเส้นทางระหว่างผู้ขาย นอกจากนี้ ยังไม่ใช่ API ทางการของผู้ผลิตโมเดลใดๆ ซึ่งควรกล่าวไว้ให้ชัดเจน
ดังนั้นการเปรียบเทียบจึงไม่ใช่ "อันไหนดีกว่า" แต่เป็น "คุณต้องการความหลากหลาย หรือต้องการการทำงานที่เชื่อถือได้เพียงอย่างเดียว" ส่วนที่เหลือของหน้านี้จะอธิบายความแตกต่างที่ส่งผลต่อการตัดสินใจนั้น
เปรียบเทียบเคียงข้างดูอย่างรวดเร็ว
ตารางนี้ระบุเฉพาะสิ่งที่ทราบเกี่ยวกับบริการนี้และสิ่งที่เปิดเผยเกี่ยวกับเกตเวย์โดยทั่วไป สำหรับข้อมูลเกี่ยวกับโมเดล ราคา หรือนโยบายของ OpenRouter ปัจจุบัน โปรดตรวจสอบเว็บไซต์ของพวกเขาโดยตรง
| คำถาม | บริการนี้ | เกตเวย์หลายโมเดล เช่น OpenRouter |
|---|---|---|
| จำนวนโมเดล | หนึ่ง (uncensored) | หลายโมเดลจากผู้ให้บริการหลายราย |
| รูปแบบ API | การสร้างแชทที่เข้ากันได้กับ OpenAI | เข้ากันได้กับ OpenAI |
| พฤติกรรมการปฏิเสธ | ปรับแต่งให้ตอบโดยไม่มีการปฏิเสธเนื้อหาสำหรับการใช้งานผู้ใหญ่ที่ถูกต้องตามกฎหมาย | แตกต่างกันไปตามโมเดลและผู้ให้บริการ; ตรวจสอบแต่ละรายการ |
| ราคา | $0.15 ต่อ 1M input, $0.50 ต่อ 1M output | แตกต่างกันไปตามโมเดล; ตรวจสอบราคาปัจจุบัน |
| หน้าต่างบริบท | 100,000 โทเคน | แตกต่างกันไปตามโมเดล |
| มอดาลิตี | ข้อความเท่านั้น | ตรวจสอบรายการโมเดล |
| ชำระเงินที่นี่ | คริปโตเท่านั้น (USDT บน TRC20, USDC บน Base) | ตรวจสอบตัวเลือกการชำระเงินของพวกเขา |
| การใช้ข้อมูล | พรอมต์ไม่ถูกใช้ในการฝึกฝน | ตรวจสอบตามผู้ให้บริการ |
รูปแบบชัดเจน: เมื่อแถวใดระบุว่า "เปลี่ยนแปลง" เกตเวย์จะให้ความยืดหยุ่น แต่คุณต้องแลกกับการได้คำตอบเดียวที่ตายตัว เมื่อคอลัมน์ซ้ายมีค่าที่ชัดเจน คุณจะได้ความแน่นอน แต่ต้องแลกกับการสูญเสียตัวเลือก
เมื่อเกตเวย์เป็นตัวเลือกที่ดีกว่า
ซื่อสัตย์กับความต้องการของคุณ เกตเวย์หลายโมเดลเหมาะกว่าเมื่อ:
- คุณต้องการเปรียบเทียบโมเดล หากส่วนหนึ่งของงานคุณคือการประเมินว่าโมเดลใดเขียนได้ดีที่สุดสำหรับงานของคุณ แคตตาล็อกจะช่วยประหยัดเวลาจากการเปิดบัญชีผู้ขายหลายบัญชี
- คุณต้องการมากกว่าข้อความ บริการนี้ไม่มีการสร้างภาพ เสียง หรือวิดีโอ ไม่มี embeddings และไม่มี fine-tuning หากผลิตภัณฑ์ของคุณต้องการฟีเจอร์เหล่านี้ คุณจะต้องหาแหล่งข้อมูลอื่นอยู่ดี
- คุณต้องการการสำรองเมื่อผู้ให้บริการล้มเหลว โมเดลหนึ่งบนผู้ให้บริการหนึ่งคือจุดล้มเหลวเพียงจุดเดียว เกตเวย์ที่สามารถเปลี่ยนเส้นทางเมื่อเกิดเหตุขัดข้องได้คือข้อได้เปรียบจริงสำหรับแอปพลิเคชันบางประเภท
- คุณต้องการบริบทขนาดใหญ่มาก หน้าต่างบริบทของเรารองรับ 100,000 โทเคนสำหรับพรอมต์และการสร้างผลลัพธ์ โมเดลอื่นอาจรองรับมากกว่านี้ ดังนั้นโปรดตรวจสอบโมเดลที่คุณสนใจ
- คุณต้องใช้วิธีการชำระเงินอื่น เว็บไซต์นี้รับเฉพาะคริปโต หากทีมของคุณไม่สามารถจ่ายได้ วิธีนี้ก็จบกัน
สิ่งเหล่านี้ไม่ใช่การวิพากษ์วิจารณ์ฝ่ายใดฝ่ายหนึ่ง แต่เป็นรายการสิ่งที่บริการโมเดลเดียวไม่พยายามทำ
เมื่อเอนด์พอยต์เฉพาะเจาะจงมีเหตุผลในการใช้งาน
เหตุผลที่เลือกตัวเลือกแบบแคบๆ ส่วนใหญ่เป็นเรื่องของความคาดการณ์ได้
พฤติกรรมที่คุณสามารถวางแผนรองรับได้ บนเกตเวย์ "uncensored" เป็นคุณสมบัติของโมเดลแต่ละตัวและผู้ให้บริการที่ให้บริการนั้น ผู้ให้บริการอาจใช้การกลั่นกรองของตัวเอง โมเดลอาจถูกแทนที่หรือเลิกใช้งาน และชื่อโมเดลเดียวกันอาจทำงานแตกต่างกันบนโฮสต์ต่างๆ เมื่อมีโมเดลเดียวที่ตายตัว การทดสอบของคุณจากเดือนที่แล้วยังคงอธิบายสิ่งที่คุณเรียกใช้งานในวันนี้ คุณยังต้องการการทดสอบรีเกรสชันของคุณเอง แต่ขอบเขตที่ครอบคลุมจะเล็กลง
ราคาเดียวสำหรับใส่ในสเปรดชีต ที่ $0.15 ต่อ 1M input tokens และ $0.50 ต่อ 1M output tokens การสนทนาหนึ่งรอบที่มี input tokens 3,000 และ output tokens 250 มีค่าใช้จ่าย 3,000 x $0.15 / 1M = $0.00045 บวก 250 x $0.50 / 1M = $0.000125 รวมเป็น $0.000575 การสนทนา 1,000 รอบมีค่าใช้จ่าย $0.575 ไม่ต้องค้นหาราคาต่อโมเดล และคำขอที่ล้มเหลวหรือถูกปฏิเสธจะไม่ถูกเรียกเก็บเงิน
การดำเนินงานที่เรียบง่าย คีย์เต็มรูปแบบอนุญาตให้ทำคำขอพร้อมกัน 8 คำขอและ 300 คำขอต่อนาที การตอบกลับ 429 จะระบุโค้ด rate_limited หรือ concurrency และเมื่อโหลดเกินชั่วคราวจะเพิ่ม Retry-After: 5 นี่คือโมเดลการจำกัดอัตราทั้งหมด
เครดิตแบบเติมเงินล่วงหน้าที่ไม่หมดอายุ เติมเงินตั้งแต่ $20 ถึง $500 เป็นจำนวนเต็มดอลลาร์ พร้อมโบนัส +5% เมื่อเติม $50, +10% เมื่อเติม $100 และ +15% เมื่อเติม $200 ไม่มีสมาชิกที่ต้องลืม หน้าราคา มีรายละเอียด
การเปลี่ยนหรือลองทั้งสองอย่างมีค่าใช้จ่ายเกือบศูนย์
เนื่องจากทั้งสองฝ่ายใช้โปรโตคอล OpenAI การถูกผูกมัดกับผู้ให้บริการ (lock-in) จึงน้อยมาก คุณเก็บชื่อโมเดลและ Base URL ไว้ในการกำหนดค่า และคุณสามารถส่งพรอมต์เดียวกันไปยังทั้งสองฝ่ายได้ นี่คือสคริปต์เปรียบเทียบสำหรับเอนด์พอยต์เฉพาะ; สำหรับเกตเวย์ ให้สลับค่าจากแดชบอร์ดของผู้ให้บริการนั้น
import os
from openai import OpenAI
targets = {
"dedicated": {
"base_url": "https://api.uncensoredllmapi.com/v1",
"key": os.environ["UNCENSORED_API_KEY"],
"model": "uncensored",
},
# Fill this in from the gateway's own docs and dashboard:
# "gateway": {"base_url": "...", "key": "...", "model": "..."},
}
prompt = "Write a menacing two-sentence speech for a fantasy tyrant."
for name, t in targets.items():
client = OpenAI(base_url=t["base_url"], api_key=t["key"])
r = client.chat.completions.create(
model=t["model"],
messages=[{"role": "user", "content": prompt}],
max_tokens=200,
)
print(name, "->", r.choices[0].message.content)
ใช้พรอมต์เดียวกันกับที่ผลิตภัณฑ์ของคุณจะส่งจริงๆ รวมถึงพรอมต์ที่ขอบเขต นับจำนวนการปฏิเสธ บันทึกโทนเสียง และเปรียบเทียบต้นทุนต่อคำขอหนึ่งพันคำโดยใช้รายการราคาของแต่ละฝ่าย สำหรับการทดสอบครั้งแรกที่นี่ ให้ขอเครดิตทดลองใช้ $0.50 บน หน้าคีย์ API ใช้ได้ 7 วัน จำกัดหนึ่งต่อคน และไม่ต้องชำระเงิน ที่ 2,000 input tokens และ 500 output tokens ต่อการเรียก (ประมาณ $0.00055 ต่อครั้ง) จะครอบคลุมการเรียกได้ประมาณ 900 ครั้ง
วิธีการตัดสินใจ
กฎการตัดสินใจแบบสั้นๆ ใช้ได้กับทีมส่วนใหญ่:
- หากคุณต้องการหลายโมเดล โมดัลลิตี้อื่น หรือการสลับผู้ให้บริการ ให้ใช้เกตเวย์ และทดสอบพฤติกรรมเมื่อถูกปฏิเสธบนโมเดลที่คุณเลือก
- หากคุณต้องการการสร้างข้อความที่ไม่ปฏิเสธคำขอจากผู้ใหญ่ที่ถูกต้องตามกฎหมาย ในราคาเดียว ให้ใช้เอนด์พอยต์เฉพาะ
- หากคุณไม่แน่ใจ ให้รันสคริปต์ด้านบนเป็นเวลาหนึ่งชั่วโมง ทั้งสองตัวเลือกมีค่าใช้จ่ายต่ำในการลอง
บางทีมใช้ทั้งสองอย่าง: ใช้เกตเวย์สำหรับการทดลองและงานทั่วไป และใช้เอนด์พอยต์เดียวที่เชื่อถือได้สำหรับฟีเจอร์เดียวที่การปฏิเสธทำให้ผลิตภัณฑ์ล้มเหลว รายละเอียดการตั้งค่าของเราอยู่ใน เอกสาร และ รายการตรวจสอบการผลิต ครอบคลุมสิ่งที่ต้องตรวจสอบก่อนเปิดตัว
กฎหนึ่งข้อยังคงไม่เปลี่ยนแปลงไม่ว่าจะเป็นผู้ให้บริการใด: บริการนี้ไม่อนุญาตให้มีเนื้อหาทางเพศที่เกี่ยวข้องกับ ผู้เยาว์ และคุณรับผิดชอบสิ่งที่แอปพลิเคชันของคุณเผยแพร่
