Две разные формы продукта
OpenRouter, как он описывает себя публично, — это единый API, дающий доступ к большому каталогу моделей от многих провайдеров. Вы выбираете модель по имени в каждом запросе, а шлюз перенаправляет его. Эта архитектура построена вокруг выбора: вы можете попробовать дюжину моделей за несколько часов и переключаться между ними по мере появления новых.
Этот сервис намеренно уже. Он предоставляет одну модель с открытыми весами, запущенную независимым поставщиком и настроенную на ответы без отказов по контенту для законного использования взрослыми. Идентификатор модели всегда uncensored. Нет каталога и маршрутизации между поставщиками. Также это не официальный API создателя какой-либо модели, что стоит указать прямо.
Так что сравнение не в том, «что лучше». А в том, «нужна ли вам широта выбора или нужна одна надёжная модель?». Остальная часть этой страницы разбирает различия, влияющие на этот выбор.
Сравнение рядом
Таблица перечисляет только то, что известно об этом сервисе и публично заявлено о шлюзах в целом. Для любых данных о текущих моделях, ценах или политиках OpenRouter проверьте их сайт напрямую.
| Вопрос | Этот сервис | Шлюз для множества моделей, такой как OpenRouter |
|---|---|---|
| Количество моделей | Одна (uncensored) | Множество, от многих провайдеров |
| Формат API | Chat completions, совместимые с OpenAI | Совместим с OpenAI |
| Поведение при отказе | Настроена на ответы без отказов по контенту для законного использования взрослыми | Различается в зависимости от модели и поставщика; проверьте каждую |
| Цена | $0,15 за 1 млн входных токенов, $0,50 за 1 млн выходных токенов | Различается в зависимости от модели; проверьте текущие цены |
| Контекстное окно | 100 000 токенов | Различается в зависимости от модели |
| Модальности | Только текст | Проверьте список моделей |
| Оплата здесь | Только криптовалюта (USDT в сети TRC20, USDC в сети Base) | Проверьте варианты оплаты |
| Использование данных | Промпты не используются для обучения | Проверьте для каждого поставщика |
Паттерн ясен: где в строке указано «варьируется», шлюз даёт гибкость, а вы отказываетесь от одного фиксированного ответа. Где в левом столбце конкретное значение, вы получаете предсказуемость, но отказываетесь от вариантов.
Когда шлюз — лучший выбор
Будьте честны с собой относительно своих требований. Шлюз для множества моделей подходит лучше, когда:
- Вы хотите сравнить модели. Если часть вашей работы — оценка того, какая модель генерирует лучше для вашей задачи, каталог сэкономит вам открытие десятков аккаунтов у разных вендоров.
- Вам нужно больше, чем текст. У этого сервиса нет генерации изображений, аудио или видео, нет эмбеддингов и нет тонкой настройки. Если вашему продукту нужно что-то из этого, вам всё равно понадобится другой источник.
- Вы хотите резервирование между поставщиками. Одна модель у одного поставщика — это одна точка отказа. Шлюз, который может обойти сбой, — реальное преимущество для некоторых приложений.
- Вам нужен очень большой контекст. Наше контекстное окно — 100 000 токенов для промпта и ответа. Другие модели могут предлагать больше, поэтому проверьте ту, которая вам нужна.
- Вам нужен другой способ оплаты. Этот сайт принимает только криптовалюту. Если ваша команда не может платить так, это решающий аргумент.
Ничто из этого не является критикой какой-либо стороны. Это список того, что не пытается сделать сервис с одной моделью.
Когда выделенный эндпоинт заслуживает места
Аргумент в пользу узкого варианта в основном касается предсказуемости.
Поведение, на которое можно рассчитывать. В шлюзе uncensored — свойство конкретной модели и провайдера, который её обслуживает. Провайдеры могут применять свою модерацию, модели могут заменяться или выводиться из эксплуатации, и одно и то же имя модели может вести себя по-разному у разных хостов. С одной фиксированной моделью ваши тесты прошлого месяца всё ещё описывают то, что вы вызываете сегодня. Вам всё ещё нужны собственные регрессионные тесты, но поверхность, которую они покрывают, меньше.
Одна цена для внесения в электронную таблицу. При цене $0,15 за 1 млн входных токенов и $0,50 за 1 млн выходных токенов, один ход чата с 3 000 входными токенами и 250 выходными токенами стоит 3 000 x $0,15 / 1 млн = $0,00045 плюс 250 x $0,50 / 1 млн = $0,000125, итого $0,000575. Тысяча ходов стоит $0,575. Не нужно искать цену по моделям, а упавшие или отклонённые запросы не тарифицируются.
Простые операции. Полный ключ поддерживает 8 параллельных запросов и 300 запросов в минуту. Ответ 429 содержит код rate_limited или concurrency, а временная перегрузка добавляет заголовок Retry-After: 5. Это вся модель ограничения частоты запросов.
Предоплаченный баланс, который не сгорает. Пополните от $20 до $500 целыми долларами, с +5% от $50, +10% от $100 и +15% от $200. Нет подписки, о которой можно забыть. На странице цен есть подробности.
Переключение или пробный запуск обоих вариантов почти ничего не стоит
Поскольку обе стороны используют протокол OpenAI, привязка минимальна. Храните имя модели и базовый URL в конфигурации, и вы можете запускать один и тот же промпт к любому из них. Вот скрипт сравнения для выделенного эндпоинта; для шлюза подставьте значения из панели управления этого провайдера.
import os
from openai import OpenAI
targets = {
"dedicated": {
"base_url": "https://api.uncensoredllmapi.com/v1",
"key": os.environ["UNCENSORED_API_KEY"],
"model": "uncensored",
},
# Fill this in from the gateway's own docs and dashboard:
# "gateway": {"base_url": "...", "key": "...", "model": "..."},
}
prompt = "Write a menacing two-sentence speech for a fantasy tyrant."
for name, t in targets.items():
client = OpenAI(base_url=t["base_url"], api_key=t["key"])
r = client.chat.completions.create(
model=t["model"],
messages=[{"role": "user", "content": prompt}],
max_tokens=200,
)
print(name, "->", r.choices[0].message.content)
Используйте те же промпты, которые реально будет отправлять ваш продукт, включая пограничные. Посчитайте отказы, отметьте тон и сравните стоимость за тысячу запросов, используя списки цен каждой стороны. Для первого теста здесь получите пробный кредит в размере $0,50 на странице API-ключа. Он действителен 7 дней, один на человека, и не требует оплаты. При 2 000 входных и 500 выходных токенах на вызов (около $0,00055 за каждый) его хватит примерно на 900 вызовов.
Как принять решение
Краткое правило принятия решений подходит для большинства команд:
- Если вам нужно несколько моделей, другие модальности или резервирование между поставщиками, используйте шлюз и протестируйте поведение при отказе на конкретной выбранной модели.
- Если вам нужна генерация текста, которая не отказывает законным запросам взрослых, по одной известной цене, используйте выделенный эндпоинт.
- Если вы не уверены, запустите указанный выше скрипт на час. Оба варианта недороги для проверки.
Некоторые команды используют оба варианта: шлюз для экспериментов и общих задач, а также один надёжный эндпоинт для той единственной функции, где отказы от генерации ломают продукт. Подробности настройки нашего варианта приведены в документации, а чеклист для production охватывает то, что нужно проверить перед запуском.
Одно правило остаётся неизменным независимо от поставщика: этот сервис не допускает сексуальный контент с участием несовершеннолетних, и вы несёте ответственность за то, что публикует ваше приложение.
