애플리케이션과 에이전트는 워크플로 전반에서 입력을 분류하는 방법, 요청을 전달할 대상, 다음에 수행할 작업 등 수많은 작은 결정을 내립니다. 하나하나는 간단한 결정입니다. 하지만 규모가 커지면 지연 시간과 비용이 쌓입니다.
오늘 Decisions API를 정식 출시합니다. GPT‑6 Luna를 기반으로 구축된 Decisions API는 답변의 범위가 정해진 질문에 Luna의 지능을 집중합니다. 이를 통해 애플리케이션과 에이전트는 텍스트, 이미지, 구조화된 입력을 바탕으로 거의 실시간에 가깝게 결정을 내릴 수 있으며, Responses API를 통한 GPT‑6 Luna 사용 대비 최대 10배 빠른 속도를 제공합니다.
공개 베타 이후 GPT‑Live 네이티브 통합, 재사용되는 컨텍스트를 위한 프롬프트 캐싱, 미국 및 EU 내 추론 처리를 추가했습니다. 개발자는 JSON 형식의 입력을 그대로 전달하고, 질문 지침에 이미지를 포함하며, 요청당 이전 한도의 두 배인 최대 400개의 질문을 할 수도 있습니다. 또한 아시아 여러 지역의 처리 용량을 추가하는 등 지연 시간을 지속적으로 개선해 왔습니다.
Decisions의 초기 도입 사례를 통해 다양한 용도로 활용할 수 있다는 점이 확인되었습니다.
OpenAI의 여러 팀은 제품 및 비즈니스 워크플로 전반에 Decisions API를 적용하고 있습니다. dot 팀은 응답 시간을 줄이고 상호작용을 개선하는 데 활용하고 있습니다. 개인 금융 팀은 거래 내역을 분류하는 데 활용하고 있습니다. 커뮤니케이션 팀은 Decisions로 언론 보도를 주제별로 분류하고, 주요 메시지를 뒷받침하는지 반박하는지를 점수로 평가하여 더 면밀한 검토가 필요한 보도를 파악합니다.
이러한 초기 사례는 빠르고 구조화된 의사결정을 통해 다양한 상황에서 유입되는 정보를 유용한 행동으로 연결할 수 있음을 보여줍니다. 고객들도 AI 비용을 정확히 배분하는 일부터 상호작용이 더 풍부한 언어 학습 경험을 만드는 일까지 Decisions API를 폭넓게 활용하고 있습니다.
Decisions API는 사용법이 간단합니다. 개발자가 질문과 허용되는 답변을 정의한 다음 텍스트, 이미지 또는 JSON 형식으로 컨텍스트를 제공하면 됩니다. API는 지원되는 세 가지 답변 유형인 확률, 선택, 점수 중 하나를 반환하며, 애플리케이션은 이를 사용해 다음 작업을 결정할 수 있습니다. 이처럼 다양한 답변 유형을 지원하므로 Decisions를 폭넓은 용도로 활용할 수 있습니다.
Decisions API는 세 가지 답변 유형을 지원합니다.
유형 | 용도 | 주요 결과 |
|---|---|---|
확률 추정 | 제품에 눈에 보이는 손상이 있는지 등 특정 조건이 참일 확률을 추정합니다. | 확률: 조건이 참일 확률을 0~1 사이의 값으로 추정한 결과입니다. |
선택 | 에이전트가 계속 진행할지, 다시 시도할지, 추가 설명을 요청할지 등 미리 정의한 옵션 중 하나를 선택합니다. | 선택: 제공한 값 중 하나입니다. 응답에는 확률과 신뢰도도 포함됩니다. |
점수 | 손상 정도와 같이 평가 기준에 순서대로 정의된 등급에 따라 입력을 평가합니다. | 점수: 각 등급의 인덱스를 확률로 가중 평균한 값입니다. |
GPT‑Live를 사용하면 음성 애플리케이션에 자연스럽고 표현력 풍부한 대화 기능을 구현할 수 있습니다. 사용자가 중간에 말을 하더라도 매끄럽게 처리하여 대화의 흐름을 이어갑니다. 이제 Decisions API는 GPT‑Live와의 네이티브 통합을 지원(새 창에서 열기)하여 애플리케이션이 실시간 대화 중에 필요한 판단을 빠르게 내릴 수 있도록 돕습니다. 고객 지원 에이전트는 추가 확인 질문을 할지, 요청을 다른 곳으로 전달할지, 문제를 상위 담당자에게 넘길지 결정할 수 있습니다. 아바타는 사용자가 말을 하는 동안 표정을 조절하고, 사용자의 말에 따라 윙크나 미소로 반응하여 더 풍부한 상호작용을 제공할 수 있습니다.
아래 예시에서는 대화 내용이 텍스트로 변환되어 업데이트될 때마다 아바타의 표정을 선택합니다. 기존 GPT‑Live 세션의 session.triggers에 이 설정을 추가하세요.
Live가 decision.event를 전송하면 애플리케이션은 선택된 reaction을 읽고 그에 맞춰 캐릭터를 움직입니다. 음성과 Decisions API를 연결하는 방법을 자세히 알아보세요.(새 창에서 열기)
Microphone off until you start
Expression palette
Tap a face to preview it.
Live decisions
Watch as the Decisions API chooses a facial expression based on what each of you says.
Your words
Watch the reaction as you speak.
Assistant’s words
Watch the face as the assistant replies.
Try saying
I rehearsed my audition for my cat. She walked out halfway through.
이 데모는 시간 제한이 있습니다. 사용 시 OpenAI 이용약관에 동의하고 개인정보 보호 정책을 확인한 것으로 간주됩니다.
오늘 정식 출시된 Decisions API는 전용 Decisions 엔드포인트를 통해 GPT‑6 Luna와 함께 사용할 수 있습니다. 현재 요금과 캐싱에 관한 자세한 내용은 요금 및 이용 가능 여부 가이드(새 창에서 열기)를 참고하세요.
애플리케이션이 자주 반복해서 내리는 결정 하나부터 시작하세요. 질문, 가능한 답변, 그리고 답변을 구분하는 데 필요한 컨텍스트를 정의하세요. Decisions Playground(새 창에서 열기)에서 직접 준비한 텍스트나 이미지로 실제 사용 상황을 반영한 예시를 테스트하거나, 개발자 가이드(새 창에서 열기)에 따라 첫 요청을 보내 보세요.
Decisions API의 요금은 입력 토큰 100만 개당 0.10달러입니다. 캐시된 입력의 요금은 토큰 100만 개당 0.01달러입니다. 30분 및 12시간 캐시 쓰기 요금은 요금 가이드를 참고하세요.(새 창에서 열기) 입력 토큰에 대해서만 요금을 지불하며, 출력 토큰 요금은 없습니다. 미국 및 EU 내에서 지역별 처리가 가능하며, 자격 요건을 충족하는 고객은 데이터 비보관(새 창에서 열기)을 이용할 수 있습니다. 자세한 내용은 요금 및 캐싱(새 창에서 열기)과 데이터 관리(새 창에서 열기)를 참고하세요.
