两种不同的产品形态
OpenRouter 在其公开描述中,是一个提供来自许多供应商的大量模型目录访问权限的单 API。你每个请求按名称选择模型,网关会进行转发。这种设计围绕选择构建:你可以在一个下午尝试十几个模型,并随着新模型的推出而切换。
该服务刻意收窄范围。它提供一个开放权重模型,由独立服务商托管,针对合法成人用途进行调优,可无审查地回答。模型 ID 始终为 uncensored。没有目录,也没有供应商间的路由。它也不是任何模型厂商的官方 API,这一点值得明确说明。
因此,比较不是“哪个更好”,而是“你需要广度,还是需要一种可靠的行为?”本页面的其余部分将详细介绍影响该选择的差异。
一目了然的对比
该表仅列出关于该服务的已知信息以及关于网关的公开声明。关于 OpenRouter 当前模型、价格或政策的信息,请直接查看其网站。
| 疑问 | 该服务 | 多模型网关(如 OpenRouter) |
|---|---|---|
| 模型数量 | 一个(uncensored) | 众多,来自多个提供商 |
| 接口格式 | 兼容 OpenAI 的对话补全 | 兼容 OpenAI |
| 拒绝行为 | 针对合法的成人使用进行无内容拒绝调优 | 因模型和供应商而异;请逐一检查 |
| 价格 | 每 1M 输入 token $0.15,每 1M 输出 token $0.50 | 因模型而异;请查看当前定价 |
| 上下文窗口 | 100,000 个 token | 因模型而异 |
| 模态 | 仅文本 | 查看模型列表 |
| 在此处支付 | 仅限加密货币(TRC20 上的 USDT,Base 上的 USDC) | 查看他们的支付选项 |
| 数据使用 | 提示词不用于训练 | 按供应商检查 |
模式很清晰:任何一行显示“因...而异”的地方,网关为你提供灵活性,而你放弃单一固定答案。而在左列具有具体值的地方,你获得可预测性,但放弃选项。
网关是更好选择的情况
诚实地对待你的需求。当以下情况时,多模型网关更适合:
- 你想比较模型。 如果你的工作部分在于评估哪个模型最适合你的任务,目录可以帮你避免打开十几个供应商账户。
- 你需要文本以外的内容。 该服务没有图像、音频或视频生成、嵌入或微调。如果你的产品需要其中任何一项,你无论如何都需要其他来源。
- 你想要跨供应商的备用方案。 一个供应商的一个模型是一个单点故障。能够绕过故障进行路由的网关对于某些应用程序是一个真正的优势。
- 你需要一个非常大的上下文窗口。 我们的上下文窗口为 100,000 token,包含提示词和补全。其他模型可能提供更多,因此请检查你关注的那个。
- 你需要不同的支付方式。 该网站仅接受加密货币。如果你的团队无法以这种方式支付,那就决定了。
这些都不是对任何一方的批评。这是一份单模型服务未尝试做的事情清单。
专用接口发挥作用的场景
窄选项的优势主要在于可预测性。
你可以规划的行为。 在网关上,“无审查”是个别模型和服务提供它的供应商的属性。供应商可能会应用自己的审查,模型可能会被替换或退役,相同的模型名称在不同主机上可能表现不同。使用一个固定模型,你上个月的测试仍然描述你今天调用的内容。你仍然需要自己的回归测试,但它们覆盖的表面更小。
电子表格中只需一个价格。 输入 token 每 1M 为 $0.15,输出 token 每 1M 为 $0.50。一次包含 3,000 个输入 token 和 250 个输出 token 的聊天轮次成本为 3,000 x $0.15 / 1M = $0.00045 加上 250 x $0.50 / 1M = $0.000125,即 $0.000575。一千次轮次的成本为 $0.575。无需按模型查找,失败或被拒绝的请求不收费。
简单的操作。 完整密钥允许 8 个并发请求和每分钟 300 个请求。429 响应携带代码 rate_limited 或 concurrency,临时过载添加 Retry-After: 5。这就是整个速率限制模型。
预付额度永不过期。 充值金额从 $20 到 $500,按整美元计算,$50 起 +5%,$100 起 +10%,$200 起 +15%。没有需要去忘记的订阅。定价页面 有详细信息。
切换或同时尝试的成本几乎为零
由于双方都使用 OpenAI 协议,锁定非常小。将模型名称和基础 URL 保留在配置中,你可以对两者运行相同的提示词。以下是专用端点的并排脚本;对于网关,请从该供应商的仪表板中替换值。
import os
from openai import OpenAI
targets = {
"dedicated": {
"base_url": "https://api.uncensoredllmapi.com/v1",
"key": os.environ["UNCENSORED_API_KEY"],
"model": "uncensored",
},
# Fill this in from the gateway's own docs and dashboard:
# "gateway": {"base_url": "...", "key": "...", "model": "..."},
}
prompt = "Write a menacing two-sentence speech for a fantasy tyrant."
for name, t in targets.items():
client = OpenAI(base_url=t["base_url"], api_key=t["key"])
r = client.chat.completions.create(
model=t["model"],
messages=[{"role": "user", "content": prompt}],
max_tokens=200,
)
print(name, "->", r.choices[0].message.content)
使用你的产品真正会发送的提示词,包括边缘提示词。统计拒绝次数,注意语气,并使用各自的价格表比较每千次请求的成本。在此进行首次测试,请在 API 密钥页面 领取 $0.50 试用额度。有效期为 7 天,每人限领一次,无需付款。每次调用 2,000 输入 token 和 500 输出 token(约 $0.00055/次),可覆盖约 900 次调用。
如何做出决定
简短的决策规则适用于大多数团队:
- 如果你需要多个模型、其他模态或跨供应商的备用方案,请使用网关,并测试你选择的精确模型的拒绝行为。
- 如果你需要不会拒绝合法成人请求的文本生成,且价格固定,请使用专用端点。
- 如果你不确定,请运行上面的脚本一小时。两者尝试起来都很便宜。
一些团队同时使用两者:一个用于实验和通用任务的网关,以及一个用于拒绝会破坏产品的单一功能的可靠端点。我们的设置详情在 文档 中,生产清单 涵盖了发布前需要审查的内容。
无论供应商如何,有一条规则保持不变:该服务不允许涉及未成年人的色情内容,你负责你的应用程序发布的内容。
