Gemini Decisions API: Новая эра принятия решений с помощью ИИ


В мире технологий принятие решений становится все более сложной задачей, особенно когда речь идет о многомодальных данных. Google представил Gemini Decisions API, который использует новый модельный подход Gemini Decision 1 для быстрой и эффективной обработки до 1,000 вопросов с ответами "да/нет", выбора и оценок по рубрикам. Этот API доступен через Gemini API в Google AI Studio и предлагает инновационные решения для различных задач.

Основные возможности Gemini Decisions API

Gemini Decisions API предоставляет пользователям специализированные инструменты для принятия ограниченных решений, таких как выбор инструментов, проверка политик, маршрутизация моделей и оценка контекста. API позволяет передавать один многомодальный ввод, включая текст, изображения, аудио, видео и PDF-документы, объемом до 256K токенов, вместе с до 1,000 независимыми вопросами. В отличие от традиционных методов, которые генерируют текст ответов токен за токеном, Gemini Decision 1 оценивает варианты ответов за один проход, возвращая вероятности и оценки уверенности с задержкой от 150 до 250 миллисекунд. При этом стоимость составляет всего $0.10 за 1 миллион входных токенов, при этом токены на выходе не тарифицируются.

Высокая производительность и точность

На тестах, охватывающих маршрутизацию агентов, рассуждения, ранжирование и многомодальное понимание, Gemini Decision 1 демонстрирует лучшие результаты, включая наименьшую ошибку калибровки. Модель оценивает варианты без декодирования токен за токеном, что позволяет поддерживать среднюю задержку на уровне 50-100 миллисекунд для вычислений модели (150-250 миллисекунд в целом) при работе с многомодальными вводами и контекстами до 16K токенов. При этом производительность остается стабильной при увеличении количества вопросов от 1 до 100 за один запрос.

Многомодальная оценка в одном запросе

Gemini Decision 1 построен на основе родной многомодальной архитектуры, что позволяет обрабатывать текст, изображения, аудио, видео и PDF-документы в одном запросе. Пользователи могут комбинировать различные модальности, например, сопоставляя запись звонка с метаданными аккаунта или сканированный PDF-документ с фотографиями повреждений. Также предусмотрена возможность настройки разрешения для изображений и видео для управления визуальными деталями и стоимостью токенов. Каждый ответ включает в себя оценку уверенности (от 0 до 1), что позволяет программному обеспечению перенаправлять неоднозначные случаи на резервные решения или к человеческим рецензентам. В API предусмотрены три типа вопросов:
  • noul (Да/Нет): Оценивает вероятность выполнения условия "да/нет" с дополнительными критериями для истинных и ложных описаний.
  • choice (Множественный выбор): Выбирает из 2 до 255 вариантов, возвращая победителя и нормализованные вероятности для каждого кандидата.
  • score (Оценка по рубрике): Оценивает ввод по заданной рубрике, возвращая непрерывный взвешенный балл и вероятности для каждого уровня.
  • Примеры использования Decisions API

    Команды Google уже активно используют Decisions API как низколатентный контрольный механизм, позволяя быстро разрабатывать функции, определяя варианты, а не обучая пользовательские классификаторы или дожидаясь генеративных вызовов. Вот несколько примеров:
  • Динамическая маршрутизация моделей в Gemini Notebook: Decisions API используется как маршрутизатор в реальном времени, мгновенно направляя входящие запросы к оптимальному уровню модели для каждого запроса, что позволяет снизить задержку до 40%.
  • Быстрая итерация дизайна в Stitch: Новый экспериментальный инструмент в Stitch использует Decisions API для генерации играбельных прототипов продуктовых потоков за считанные секунды.
  • Выбор эмодзи в CC: CC от Google Labs использует Decisions API для мгновительного выбора подходящей реакции из более чем 200 вариантов.
  • Слой безопасности для инструментов MCP в Поиске: Google Search использует Decisions API для обнаружения противодействующего поведения и контента с высокой эффективностью.
  • Начало работы с Gemini Decision 1

    Gemini Decision 1 доступен по цене $0.10 за 1 миллион входных токенов и $0 за токены на выходе. В Google AI Studio предусмотрен бесплатный уровень API, который можно использовать для прототипирования. Ваш общий ввод тарифицируется один раз за запрос, независимо от количества оцениваемых вопросов. Нет дополнительных расходов на токены на выходе, переменные счета за токены мышления или отдельные затраты на транскрипцию аудио и OCR. Вы можете начать разработку, получив API-ключ в Google AI Studio и опробовав демонстрационные приложения, такие как Doorstep Parcels, Speed Sketch и Find the Zoo Keeper. Также доступны руководства по Python, JavaScript и REST в документации Decisions API.

    Комментарии (0)

    Войдите, чтобы оставлять комментарии.
    Пока нет комментариев. Будьте первым!