Vytvárajte responzívnejšie aplikácie s Decisions API
Rýchle, cielené a nákladovo efektívne rozhodovanie pre každú aplikáciu.
Aplikácie a agenti robia v priebehu pracovného postupu množstvo drobných rozhodnutí: ako klasifikovať vstup, kam nasmerovať požiadavku alebo akú akciu vykonať ďalej. Každé z nich je samo osebe jednoduché. Pri veľkom objeme sa však ich latencia a náklady sčítavajú.
Dnes sprístupňujeme Decisions API pre všetkých. Decisions API využíva GPT‑6 Luna a sústreďuje inteligenciu modelu Luna na otázky s vymedzenými odpoveďami. Pomáha tak aplikáciám a agentom rozhodovať sa na základe textu, obrázkov a štruktúrovaných vstupov takmer v reálnom čase, až 10-krát rýchlejšie než GPT‑6 Luna cez Responses API.
Od verejnej beta verzie sme pridali natívnu integráciu s GPT‑Live, caching príkazov pre opakovane používaný kontext a možnosť vykonávať inferenciu výhradne v USA alebo EÚ. Vývojári môžu tiež priamo odovzdávať vstupy vo formáte JSON, vkladať obrázky do pokynov k otázkam a položiť až 400 otázok v jednej požiadavke, čo je dvojnásobok pôvodného limitu. Naďalej sme znižovali aj latenciu, okrem iného rozšírením kapacity vo viacerých regiónoch Ázie.
Prvé nasadenia Decisions ukázali jeho využiteľnosť v rozmanitých situáciách.
Tímy v celej spoločnosti OpenAI využívajú Decisions API v produktových aj firemných pracovných postupoch. Tím zodpovedný za dots ho používa na skrátenie času odozvy a zlepšenie interaktivity. Náš tím pre osobné financie ho používa na kategorizáciu opisov transakcií. Komunikačný tím zas pomocou Decisions triedi mediálne výstupy podľa tém a hodnotí, či podporujú alebo spochybňujú kľúčové posolstvá. Ľahšie tak určí, čo si zaslúži bližšie preskúmanie.
Tieto prvé príklady ukazujú, ako môže rýchle, štruktúrované rozhodovanie premieňať prichádzajúce informácie na užitočné kroky v širokej škále situácií. Rovnako široko využívajú Decisions API aj zákazníci: od presného priraďovania nákladov na AI až po interaktívnejšiu výučbu jazykov.
Používanie Decisions API je jednoduché: vývojári definujú otázku a povolené odpovede a potom poskytnú kontext v podobe textu, obrázkov alebo priamo vo formáte JSON. API vráti jeden z troch podporovaných typov odpovedí – pravdepodobnosť, voľbu alebo skóre – podľa ktorých môžu aplikácie určiť ďalší postup. Vďaka rôznym typom odpovedí možno Decisions využiť v širokej škále situácií.
Decisions API podporuje tri typy odpovedí:
Typ | Použitie | Hlavný výsledok |
|---|---|---|
predicate | Odhad pravdepodobnosti, že je podmienka splnená, napríklad či je výrobok viditeľne poškodený. | probability: odhad od 0 do 1, že je podmienka splnená. |
choice | Výber jednej z vopred definovaných možností, napríklad či má agent pokračovať, skúsiť to znova alebo požiadať o objasnenie. | choice: jedna z vami zadaných hodnôt. Odpoveď zahŕňa aj pravdepodobnosti a mieru istoty. |
score | Posúdenie vstupu podľa usporiadaných úrovní hodnotiacej škály, napríklad podľa závažnosti poškodenia. | score: priemer indexov úrovní vážený pravdepodobnosťami. |
S GPT‑Live môžete do hlasových aplikácií priniesť prirodzenú, expresívnu konverzáciu, ktorá plynulo zvláda aj prerušenia. Decisions API teraz ponúka natívnu integráciu s GPT‑Live(otvorí sa v novom okne), vďaka ktorej môžu aplikácie počas živých rozhovorov robiť rýchle, cielené rozhodnutia. Agent zákazníckej podpory sa môže rozhodnúť, či položí doplňujúcu otázku, presmeruje požiadavku alebo postúpi problém na vyššiu úroveň podpory. Avatar môže meniť mimiku, kým sa s ním používateľ rozpráva, a podľa jeho slov reagovať žmurknutím či úsmevom, čím vytvorí interaktívnejší zážitok.
V nasledujúcom príklade sa výraz avatara vyberá na základe aktualizácií prepisu. Pridajte túto konfiguráciu do session.triggers v existujúcej relácii GPT‑Live.
Live vyšle udalosť decision.event; aplikácia načíta vybranú hodnotu reaction a podľa nej animuje postavu. Zistite viac o prepojení hlasu s Decisions API.(otvorí sa v novom okne)
Microphone off until you start
Expression palette
Tap a face to preview it.
Live decisions
Watch as the Decisions API chooses a facial expression based on what each of you says.
Your words
Watch the reaction as you speak.
Assistant’s words
Watch the face as the assistant replies.
Try saying
I rehearsed my audition for my cat. She walked out halfway through.
Táto ukážka je časovo obmedzená. Používaním vyjadruješ súhlas s Podmienkami používania spoločnosti OpenAI a berieš na vedomie naše Zásady ochrany osobných údajov.
Decisions API je od dnešného dňa všeobecne dostupné s GPT‑6 Luna prostredníctvom vyhradeného koncového bodu Decisions. Aktuálne sadzby a podrobnosti o ukladaní do vyrovnávacej pamäte nájdete v príručke k cenám a dostupnosti(otvorí sa v novom okne).
Začnite jedným rozhodnutím, ktoré vaša aplikácia robí opakovane. Definujte otázku, možné odpovede a kontext potrebný na ich rozlíšenie. Otestujte ho na príkladoch zodpovedajúcich reálnemu používaniu v Decisions Playground(otvorí sa v novom okne) s vlastným textom alebo obrázkami, prípadne podľa príručky pre vývojárov(otvorí sa v novom okne) odošlite svoju prvú požiadavku.
Decisions API stojí 0,10 USD za milión vstupných tokenov. Vstup uložený vo vyrovnávacej pamäti stojí 0,01 USD za milión tokenov. Informácie o zápisoch do vyrovnávacej pamäte na 30 minút a 12 hodín nájdete v našej cenovej príručke.(otvorí sa v novom okne) Platíte len za vstupné tokeny: za výstupné tokeny sa neúčtuje žiadny poplatok. Regionálne spracovanie je dostupné v USA a EÚ a oprávnení zákazníci môžu využiť nulové uchovávanie údajov(otvorí sa v novom okne). Podrobnosti nájdete v informáciách o cenách a ukladaní do vyrovnávacej pamäte(otvorí sa v novom okne) a o možnostiach správy údajov(otvorí sa v novom okne).
