Создавайте более отзывчивые приложения с Decisions API
Быстрые решения конкретных задач с низкими затратами — для любого приложения.
В ходе работы приложения и агенты принимают множество небольших решений: как классифицировать входные данные, куда направить запрос или какое действие выполнить дальше. Каждое из этих решений само по себе простое. Но при масштабировании задержки и затраты накапливаются.
Сегодня мы открываем общий доступ к Decisions API. Decisions API на базе GPT‑6 Luna направляет интеллектуальные возможности Luna на вопросы с ограниченным набором ответов. Это помогает приложениям и агентам принимать решения почти в реальном времени на основе текста, изображений и структурированных данных — до 10 раз быстрее, чем при использовании GPT‑6 Luna через Responses API.
После запуска публичной бета-версии мы добавили встроенную интеграцию с GPT‑Live, кэширование промптов для повторно используемого контекста и возможность выполнять инференс в пределах выбранного региона — США или ЕС. Разработчики также могут передавать данные напрямую в формате JSON, включать изображения в инструкции к вопросам и задавать до 400 вопросов в одном запросе — вдвое больше прежнего лимита. Мы также продолжили сокращать задержки, в том числе за счёт дополнительных мощностей в нескольких регионах Азии.
Первый опыт использования Decisions показал, что он подходит для самых разных задач.
Команды OpenAI применяют Decisions API в работе над продуктами и в бизнес-процессах. Команда dots использует его, чтобы сократить время отклика и сделать взаимодействие более интерактивным. Наша команда по Личным финансам использует его для категоризации описаний транзакций, а команда по Коммуникациям — для классификации публикаций по темам и оценки того, поддерживают ли они ключевые сообщения или ставят их под сомнение. Это помогает определить, какие материалы требуют более внимательного изучения.
Эти первые примеры показывают, как быстрое принятие решений в структурированном формате помогает превращать поступающую информацию в полезные действия при решении самых разных задач. Клиенты применяют Decisions API столь же широко: от точного распределения затрат на ИИ до создания более интерактивных сервисов для изучения языков.
Использовать Decisions API просто: разработчики задают вопрос и допустимые ответы, а затем передают контекст в виде текста, изображений или непосредственно в формате JSON. API возвращает ответ одного из трёх поддерживаемых типов — вероятность, выбранный вариант или оценку. Приложение может использовать его, чтобы определить дальнейшие действия. Разные типы ответов позволяют применять Decisions для широкого круга задач.
Decisions API поддерживает три типа ответов:
Тип | Назначение | Основной результат |
|---|---|---|
predicate | Оценить вероятность того, что условие выполняется, например, что у товара есть видимые повреждения. | probability: оценка вероятности выполнения условия от 0 до 1. |
choice | Выбрать один из заданных вами вариантов, например определить, должен ли агент продолжить работу, повторить попытку или запросить уточнение. | choice: одно из заданных вами значений. Ответ также содержит вероятности и уровень уверенности. |
score | Оценить входные данные по упорядоченной шкале, например по степени повреждения. | score: среднее значение индексов уровней, взвешенное по вероятностям. |
С GPT‑Live ваши голосовые приложения смогут поддерживать естественный, выразительный диалог и плавно реагировать на перебивания, сохраняя непрерывность беседы. Теперь Decisions API напрямую интегрируется с GPT‑Live(открывается в новом окне), помогая приложениям быстро принимать решения по конкретным задачам прямо во время разговора. Агент поддержки клиентов может решить, нужно ли задать уточняющий вопрос, перенаправить запрос или передать проблему на следующий уровень поддержки. Аватар может менять выражение лица, пока пользователь говорит с ним, и в зависимости от его слов подмигивать или улыбаться в ответ, делая общение более интерактивным.
В примере ниже выражение лица аватара выбирается по мере обновления расшифровки разговора. Добавьте эту конфигурацию в session.triggers существующего сеанса GPT‑Live.
Live отправляет событие decision.event; приложение считывает выбранное значение reaction и соответствующим образом анимирует персонажа. Подробнее о подключении голосовых приложений к Decisions API.(открывается в новом окне)
Microphone off until you start
Expression palette
Tap a face to preview it.
Live decisions
Watch as the Decisions API chooses a facial expression based on what each of you says.
Your words
Watch the reaction as you speak.
Assistant’s words
Watch the face as the assistant replies.
Try saying
I rehearsed my audition for my cat. She walked out halfway through.
Время этой демонстрации ограничено. При использовании вы соглашаетесь с Условиями использования OpenAI и подтверждаете ознакомление с нашей Политикой конфиденциальности.
С сегодняшнего дня Decisions API с GPT‑6 Luna общедоступен через выделенный эндпоинт Decisions. Актуальные тарифы и сведения о кэшировании приведены в руководстве по ценам и доступности(открывается в новом окне).
Начните с одного решения, которое ваше приложение принимает регулярно. Определите вопрос, возможные ответы и контекст, необходимый для выбора между ними. Проверьте его на примерах, отражающих реальное использование, в Decisions Playground(открывается в новом окне) со своими текстами или изображениями либо выполните первый запрос по руководству для разработчиков(открывается в новом окне).
Использование Decisions API стоит 0,10 доллара США за миллион входных токенов. Кэшированные входные данные стоят 0,01 доллара США за миллион токенов. Сведения о записи в кэш со сроком хранения 30 минут и 12 часов см. в руководстве по ценам.(открывается в новом окне) Вы платите только за входные токены: плата за выходные токены не взимается. Региональная обработка доступна в США и ЕС, а клиентам, отвечающим условиям, доступно нулевое хранение данных (ZDR)(открывается в новом окне). Подробнее см. в разделах о ценах и кэшировании(открывается в новом окне) и управлении данными(открывается в новом окне).
