兩種不同的產品形態
OpenRouter 在其公開描述中,是一個單一 API,提供來自許多供應商的龐大模型目錄。您可以針對每個請求選擇模型,閘道器會將請求轉發。這種設計圍繞著選擇性:您可以在一個下午嘗試十幾種模型,並隨著新模型的出現而切換。
此服務刻意縮小範圍。它提供單一開放權重模型,由獨立供應商運行,並針對合法成人用途調整為無內容拒絕的回答。模型 ID 始終為 uncensored。沒有目錄,也沒有供應商間的轉發。它也不是任何模型製造商的官方 API,這點值得明確說明。
因此,比較不是「哪一個更好」,而是「您需要廣泛性,還是需要一種可靠的行為?」本頁其餘部分將詳述影響此選擇的差異。
一目了然的比較
該表格僅列出關於此服務已知的事項,以及關於閘道器的一般公開聲明。關於 OpenRouter 當前模型、價格或政策的任何資訊,請直接查看其網站。
| 問題 | 此服務 | 多模型閘道器(如 OpenRouter) |
|---|---|---|
| 模型數量 | 單一(uncensored) | 來自多個供應商的許多模型 |
| 介面格式 | OpenAI 相容聊天補全 | 與 OpenAI 相容 |
| 拒絕行為 | 經過調整,可在合法成人用途下無內容拒絕地回答 | 因模型和供應商而異;請逐一檢查 |
| 價格 | 每 1M 輸入 $0.15,每 1M 輸出 $0.50 | 因模型而異;請查看當前定價 |
| 上下文視窗 | 100,000 token | 因模型而異 |
| 模式 | 僅文字 | 請查看模型列表 |
| 此處付款 | 僅限加密貨幣(TRC20 上的 USDT,Base 上的 USDC) | 請查看他們的付款選項 |
| 數據使用 | 提示詞不用於訓練 | 請按供應商檢查 |
模式很明顯:凡標註「因...而異」的行,閘道器提供靈活性,但您需放棄單一固定答案。凡左欄有具體數值的行,您獲得可預測性,但需放棄選項。
閘道器是更好選擇的情況
誠實面對您的需求。當以下情況出現時,多模型閘道器更適合:
- 您想比較模型。 如果您的一部分工作是評估哪種模型最適合您的任務,目錄可讓您避免開啟十幾個供應商帳戶。
- 您需要文字以外的功能。 此服務沒有圖像、音訊或影片生成、嵌入或微調功能。如果您的產品需要這些功能,您無論如何都需要其他來源。
- 您希望跨供應商備援。 單一供應商的單一模型是一個故障點。能夠繞過停機的閘道器對某些應用程式是真正的優勢。
- 你需要非常大的上下文。 我們的上下文視窗可容納 100,000 個 token,包含提示詞與補全。其他模型可能提供更多,請檢查你關注的模型。
- 您需要不同的付款方式。 此網站僅接受加密貨幣。如果您的團隊無法以此方式付款,問題便已解決。
這些都不是對任何一方的批評。這是一份單一模型服務未嘗試做的事情清單。
專用端點展現價值的情況
選擇窄範圍選項的理由主要關於可預測性。
可規劃的行為。 在閘道器上,「無審查」是個別模型和提供服務的供應商的屬性。供應商可能會應用自己的審核機制,模型可能會被替換或退役,且相同模型名稱在不同主機上的行為可能不同。對於單一固定模型,您上個月的測試仍能描述您今天呼叫的內容。您仍然需要自己的回歸測試,但它們覆蓋的範圍較小。
只需一個價格即可放入試算表。 每 1M 輸入 token 為 $0.15,每 1M 輸出 token 為 $0.50。一次包含 3,000 輸入 token 和 250 輸出 token 的對話輪次成本為 3,000 x $0.15 / 1M = $0.00045,加上 250 x $0.50 / 1M = $0.000125,總計 $0.000575。一千次輪次的成本為 $0.575。無需查詢每種模型的價格,且失敗或被拒絕的請求不會收費。
簡單的運營。 完整金鑰可獲得 8 個並行請求和每分鐘 300 次請求。429 回應包含代碼 rate_limited 或 concurrency,臨時超載會加上 Retry-After: 5。這就是整個速率限制模型。
永不過期的預付額度。 以整數美元儲值,金額從 $20 到 $500 不等,$50 以上贈送 5%,$100 以上贈送 10%,$200 以上贈送 15%。沒有需要忘記的訂閱。定價頁面有詳細資訊。
切換或同時測試的成本幾乎為零
由於兩方都使用 OpenAI 協議,鎖定效應極小。將模型名稱和 Base URL 保留在配置中,您就可以對兩者執行相同的提示詞。以下是專用端點的並列腳本;對於閘道器,請從該供應商的儀表板替換值。
import os
from openai import OpenAI
targets = {
"dedicated": {
"base_url": "https://api.uncensoredllmapi.com/v1",
"key": os.environ["UNCENSORED_API_KEY"],
"model": "uncensored",
},
# Fill this in from the gateway's own docs and dashboard:
# "gateway": {"base_url": "...", "key": "...", "model": "..."},
}
prompt = "Write a menacing two-sentence speech for a fantasy tyrant."
for name, t in targets.items():
client = OpenAI(base_url=t["base_url"], api_key=t["key"])
r = client.chat.completions.create(
model=t["model"],
messages=[{"role": "user", "content": prompt}],
max_tokens=200,
)
print(name, "->", r.choices[0].message.content)
使用你的產品真正會發送的提示詞,包括邊緣案例。計算拒絕次數,記錄語氣,並使用各方的價格表比較每千次請求的成本。在此進行首次測試,請在 API 金鑰頁面領取 $0.50 免費試用額度。有效期為 7 天,每人限領一次,無需付款。每次呼叫使用 2,000 個輸入 token 和 500 個輸出 token(約 $0.00055),可涵蓋約 900 次呼叫。
如何做出選擇
對於大多數團隊,簡短的決策規則即可:
- 如果你需要多個模型、其他類型或跨供應商備援,請使用閘道器,並在你選擇的特定模型上測試拒絕行為。
- 如果您需要不會拒絕合法成人請求的文字生成,且價格已知,請使用專用端點。
- 如果你不確定,請運行上述腳本一小時。兩者嘗試起來都很便宜。
有些團隊同時使用兩者:用於實驗和一般任務的閘道器,以及用於單一關鍵功能(模型拒絕回答會導致產品體驗中斷)的單一可靠端點。我們的設定細節位於 文件,生產環境檢查清單涵蓋上線前需審查的內容。
無論供應商為何,有一條規則保持不變:此服務不允許涉及未成年人的色情內容,且您需對您的應用程式發布的內容負責。
