Google представила Gemini Decisions API: 1000 решений за один проход
Отдельный LLM-эндпоинт для закрытых задач: да/нет, multi-choice, рубрики — 150–250 мс и $0.10 за 1M input-токенов, без output-биллинга.
Google выпустила Gemini Decisions API на базе специализированной модели gemini-decision-1 — отдельный эндпоинт для закрытых (closed-set) решений: yes/no-проверки, multi-choice с 2–255 вариантами и порядковые рубрики. Вместо генерации токенов модель оценивает варианты за один forward pass: 150–250 мс end-to-end, для каждого ответа — confidence score от 0 до 1. Ввод мультимодальный (текст, изображения, аудио, видео, PDF, до 256K токенов), до 1000 вопросов на один запрос. Цена — $0.10 за 1M input-токенов, output-токены не тарифицируются: по бенчмаркам Google это примерно в 5 раз дешевле, чем Flash-Lite через обычный API.
Внутри Google API уже используют как «контрольную плоскость»:
- маршрутизация моделей в Gemini Notebook — интент-классификация за миллисекунды;
- safety-слой для MCP-инструментов в Search: детекция adversarial-поведения инструментов в рамках latency-бюджета;
- выбор эмодзи в CC, быстрая итерация макетов в Stitch.
Что это значит для агентной архитектуры
- Роутеры в агентных пайплайнах (выбор модели, выбор инструмента, проверка политик, оценка контекста) больше не обязаны быть полноценным LLM: появился дешёвый и откалиброванный примитив.
- Confidence score даёт чистый механизм эскалации: неоднозначные случаи — на fallback-модель или к человеку.
- Для MCP-инфраструктуры это готовая точка для внешних проверок вызовов инструментов (policy checks, anomaly detection), которые раньше были дороги из-за генеративных вызовов.
Тренд очевиден: «решение» (выбрать из набора) отделяется от «генерации» (написать ответ) — и каждый слой оптимизируется отдельно.