В последние годы использование AI-агентов в разработке программного обеспечения стало неотъемлемой частью рабочих процессов. Однако, когда разработчик ставит перед AI-агентом задачу кодирования, агент не просто предоставляет ответ. Он планирует, генерирует код, проводит тесты и повторяет процесс, чтобы исправить ошибки. В результате одна задача может использовать от 10 до 50 раз больше токенов, чем обычный запрос в чате.

Увеличение расходов на токены

С увеличением полезности AI-агента растет и количество его вызовов. При ценообразовании на основе токенов, рабочие процессы, создающие наибольшую ценность, могут стать и самыми дорогими. Это финансовое давление уже заметно: например, компания Uber исчерпала весь бюджет на AI на 2026 год к апрелю, увеличив использование Claude Code. GitHub Copilot также изменил свою модель ценообразования с фиксированной ставки на систему учета кредитов. По прогнозам Gartner, к 2028 году расходы на токены для AI-кодирования превысят средние зарплаты разработчиков.

Ограничения и их последствия

Естественной реакцией на растущие расходы становится введение ограничений на использование, лимитов на количество мест и одобрений перед запуском агентов разработчиками. Однако такие универсальные ограничения могут сдерживать рабочие процессы, которые приносят ценность. Они также оптимизируют неправильный показатель. Стоимость за токен измеряет потребление, а не результаты. Часть расходов может быть связана с неэффективностью, включая повторные попытки и бесконечные циклы, в то время как другая часть отражает работу по доставке программного обеспечения. Система учета не может различить эти аспекты, как и лимит на расходы.

Измерение результатов

Более подходящим показателем является стоимость за объединенный pull request: общая стоимость разработки с помощью AI делится на количество изменений, которые прошли проверку и были объединены. Важно отслеживать переработки и дефекты, чтобы более дешевые изменения не скрывали низкое качество. Если эта стоимость снижается по мере увеличения использования AI без ущерба для качества, значит, разработчики превращают больше потребления в полезное программное обеспечение. Вопрос заключается не в том, сколько токенов они используют, а в том, сколько завершенной работы приносит инвестиция.

Оптимизация использования AI

Для улучшения этой ситуации необходимо внести два изменения: резервировать дорогостоящую инференцию для задач, которые в ней нуждаются, и снизить стоимость рутинной работы. Агентное кодирование не требует самого мощного модели на каждом этапе. Для сложного планирования и новых рассуждений можно использовать передовые модели или локальные флагманы, в то время как подходящие задачи, такие как генерация кода, создание тестов и повторная рефакторинг, можно направлять на открытые модели, которые вы используете сами. Шлюз может направлять запросы в зависимости от сложности задачи, чувствительности данных, стоимости и задержки. Это позволяет резервировать премиум-инференцию для тех моментов, которые оправдывают ее использование, а не применять премиум-цены ко всему рабочему процессу.

Изменение экономики повторного использования

Следующий шаг — определить, кто владеет мощностями. При аренде инференции каждый вызов увеличивает счет. При владении мощностями большая часть затрат фиксируется заранее, поэтому каждый дополнительный вызов становится дешевле по мере увеличения использования. Экономика проста: ценообразование за токен делает интенсивное использование более дорогим, в то время как владение мощностями становится более эффективным по мере их использования. Однако владение не бесплатно: необходимо учитывать расходы на электроэнергию, эксплуатацию, обслуживание и амортизацию. Важным показателем является полная стоимость за объединенный pull request.

Примеры успешного применения

Компания HPE, например, использует гибридную AI-платформу, которая направляет рутинные рабочие нагрузки из более чем 150 внутренних приложений на открытые модели, работающие на месте, включая HPE Private Cloud AI. Это позволило снизить затраты на токены на 30-50%. С помощью HPE Private Cloud AI владение вашей инференцией не означает отказа от передовых моделей. Объем работы выполняется на мощностях, которые вы контролируете, а шлюз отправляет наиболее сложные задачи.

Стратегия для будущего

Важно помнить, что владение мощностями подходит не всем. Низкое или непредсказуемое использование выгоднее для API, так как не требует капитальных вложений в неиспользуемую инфраструктуру. Владение оправдывает себя, когда спрос остается стабильным. Большинство предприятий будут использовать гибридный подход: передовые API для сложной или непостоянной работы и собственные мощности для повторяемого объема. Губернативный шлюз решает, что покидает здание, позволяя использовать передовые модели без потери контроля над вашим кодом. По мере того как разработчики все активнее используют кодирующие агенты, использование будет продолжать расти. Реальный выбор заключается в том, отразится ли этот рост в увеличении переменных затрат или в большем количестве программного обеспечения, выпущенного на мощностях, которые вы контролируете.