Hugging Face и OpenRouter: революция в использовании открытых моделей


Hugging Face и OpenRouter объединили усилия для упрощения работы с открытыми моделями. Все основные релизы открытых моделей уже публикуются на Hugging Face Hub, а OpenRouter обеспечивает масштабируемую маршрутизацию, распределяя запросы по более чем 80 провайдерам на основе актуальных измерений каждого из них. Теперь каждый открытый вес модели на Hub, которую обслуживает провайдер, можно вызывать с помощью токена Hugging Face через единый API, при этом для каждого запроса выбирается лучший провайдер. С переходом на OpenRouter, запросы к языковым моделям теперь обрабатываются через эту платформу, которая выбирает оптимального провайдера для каждого вызова, основываясь на текущих ценах, скорости и надежности. Если первый провайдер не отвечает, запрос автоматически перенаправляется к следующему. При этом код остается неизменным, и пользователи могут продолжать использовать знакомые инструменты.

Поддержка различных API

Маршрутизатор поддерживает API Chat Completions и Responses от OpenAI, а также Messages API от Anthropic для всех чат-моделей, независимо от провайдера. Пользователи могут выбрать своего агента или SDK и модель, затем следовать инструкциям или скопировать весь процесс в качестве подсказки для своего агента. Доступны руководства по настройке для Claude Code, Codex, OpenCode, Pi и Hermes Agent.

Как используются открытые модели

На платформе OpenRouter доля открытых моделей возросла с 26.8% токенов в октябре 2025 года до 71.7% к концу сентября 2026 года, достигнув пика в 77.5% в июле. За тот же период недельный объем открытых моделей увеличился более чем в 60 раз, в то время как закрытые модели выросли почти в десять раз. На этой неделе самой используемой моделью на OpenRouter является открытая модель DeepSeek V4.1 Flash 1017, с 59.2 триллиона токенов. Открытые модели обходятся в среднем в четыре раза дешевле: $0.28 за миллион входных токенов и $1.62 за миллион выходных токенов, по сравнению с $1.27 и $6.36 для закрытых моделей. Несмотря на это, лучшие открытые модели все еще уступают лучшим проприетарным на самых сложных бенчмарках. Например, модель Kimi K3.1 Pro, лучшая среди открытых, набрала 46 баллов на Artificial Analysis Intelligence Index, в то время как Claude Fable 5.2 — 65 баллов, при этом стоимость задачи составляет $3.68 против $26.54.

Маршрутизация с помощью OpenRouter

OpenRouter обрабатывает более 800 триллионов токенов в месяц для более чем 10 миллионов пользователей, используя более 600 моделей от 80 провайдеров. Маршрутизация основана на актуальных измерениях каждого провайдера. Недавно OpenRouter обновил свою систему маршрутизации: теперь она не только учитывает самую низкую цену, но и выбирает провайдера с наилучшим сочетанием цены, скорости и надежности. Если провайдер начинает работать медленно или выходит из строя, трафик перенаправляется к другому провайдеру, а неудачные попытки повторяются с помощью следующего лучшего провайдера в рамках одного запроса. Согласно измерениям OpenRouter, новая маршрутизация снизила количество ошибок на 46% и улучшила время до первого токена на 16.9%, а пропускную способность — на 16.3%. Ранее провайдеры выбирали только одного провайдера для запроса и возвращали ошибку, если он не отвечал. Теперь запрос повторяется у другого провайдера, что значительно увеличивает надежность.

Цены и доступные функции

Цены остаются прежними: пользователи оплачивают цену провайдера в своем счете Hugging Face, без дополнительных наценок. Пользователи PRO получают $2 кредитов каждый месяц, а команды и организации Enterprise — $2 за каждое место. Генерация изображений, видео и аудио продолжает работать как и прежде, напрямую через провайдеров Hugging Face без участия OpenRouter. На страницах моделей пользователи могут сразу взаимодействовать с моделью через виджет. Две новые вкладки показывают информацию о провайдерах и метриках, включая цену, скорость и время работы за последние 24 часа. Пользователи могут отключить любого провайдера в своих настройках, чтобы маршрутизатор не отправлял запросы к ним.

Изменения в использовании ключей провайдеров

Запросы к языковым моделям теперь проходят через OpenRouter и выставляются на счет Hugging Face, поэтому больше нельзя использовать собственный API-ключ для провайдера с этими моделями. Однако пользователи все еще могут выбирать провайдера с помощью суффикса в идентификаторе модели или отключать провайдеров в настройках, сохраняя при этом прежний код. Ключи для провайдеров изображений и видео продолжают работать.

Будущее сотрудничества

Это первый шаг в партнерстве с OpenRouter. В дальнейшем планируется подключение аккаунтов OpenRouter к Hugging Face и маршрутизация большего количества задач через OpenRouter. Пользователи могут попробовать модель или ознакомиться с документацией по провайдерам для начала работы.

Комментарии (0)

Войдите, чтобы оставлять комментарии.
Пока нет комментариев. Будьте первым!