Izradite aplikacije koje brže reagiraju uz Decisions API
Brze, ciljane odluke uz nizak trošak za svaku aplikaciju.
Aplikacije i agenti donose mnogo malih odluka tijekom radnog procesa: kako klasificirati ulazne podatke, kamo usmjeriti zahtjev ili koju radnju poduzeti sljedeću. Pojedinačno, te su odluke jednostavne. No pri velikom broju odluka latencija i troškovi se zbrajaju.
Decisions API od danas je opće dostupan. Izgrađen na modelu GPT‑6 Luna, Decisions API usmjerava inteligenciju tog modela na pitanja s ograničenim skupom odgovora. Time aplikacijama i agentima pomaže donositi odluke gotovo u stvarnom vremenu na temelju teksta, slika i strukturiranih ulaznih podataka, do 10 puta brže nego GPT‑6 Luna putem Responses API-ja.
Od javne beta-verzije dodali smo izvornu integraciju s modelom GPT‑Live, predmemoriranje upita za kontekst koji se ponovno upotrebljava te mogućnost izvođenja inferencije unutar SAD-a i EU-a. Razvojni programeri mogu i izravno proslijediti ulazne podatke u formatu JSON, uključiti slike u upute za pitanja te postaviti do 400 pitanja po zahtjevu, dvostruko više od prijašnjeg ograničenja. Nastavili smo i smanjivati latenciju, među ostalim dodavanjem kapaciteta u nekoliko regija u Aziji.
Prve primjene Decisions API-ja pokazale su koliko je širok raspon njegove upotrebe.
Timovi diljem OpenAI-ja primjenjuju Decisions API u radnim procesima vezanima uz proizvode i poslovanje. Tim za dotove upotrebljava ga kako bi skratio vrijeme odgovora i poboljšao interaktivnost. Naš tim za osobne financije upotrebljava ga za kategorizaciju opisa transakcija, a tim za komunikacije upotrebljava Decisions za klasifikaciju medijskih objava po temama i procjenu podupiru li ključne narative ili ih osporavaju. To pomaže prepoznati što treba detaljnije pregledati.
Ti prvi primjeri pokazuju kako brzo, strukturirano odlučivanje može pretvoriti dolazne informacije u korisne radnje u širokom rasponu primjena. Korisnici primjenjuju Decisions API jednako široko, od preciznog pripisivanja troškova umjetne inteligencije do interaktivnijeg učenja jezika.
Upotreba Decisions API-ja jednostavna je: razvojni programeri definiraju pitanje i dopuštene odgovore, a zatim daju kontekst u obliku teksta, slika ili izravno u formatu JSON. API vraća jednu od triju podržanih vrsta odgovora – vjerojatnost, odabir ili ocjenu – na temelju koje aplikacije mogu odrediti što slijedi. Različite vrste odgovora omogućuju širok raspon primjena Decisions API-ja.
Decisions API podržava tri vrste odgovora:
Vrsta | Namjena | Glavni rezultat |
|---|---|---|
predicate | Procjena vjerojatnosti da je uvjet ispunjen, primjerice ima li proizvod vidljiva oštećenja. | probability: procjena od 0 do 1 da je uvjet ispunjen. |
choice | Odabir jedne od unaprijed definiranih mogućnosti, primjerice treba li agent nastaviti, pokušati ponovno ili zatražiti pojašnjenje. | choice: jedna od vrijednosti koje ste naveli. Odgovor uključuje i vjerojatnosti te razinu pouzdanosti. |
score | Ocjenjivanje ulaznih podataka prema uređenim razinama na ljestvici, primjerice prema težini oštećenja. | score: prosjek indeksa razina ponderiran njihovim vjerojatnostima. |
Uz GPT‑Live u svoje glasovne aplikacije možete uvesti prirodan, izražajan razgovor, uz glatko upravljanje prekidima koje čuva tijek razgovora. Decisions API sada se izvorno integrira s modelom GPT‑Live(otvara se u novom prozoru) i pomaže aplikacijama donositi brze, ciljane odluke tijekom razgovora uživo. Agent za korisničku podršku može odlučiti treba li postaviti dodatno pitanje radi pojašnjenja, usmjeriti zahtjev ili proslijediti problem višoj razini podrške. Avatar može prilagođavati izraze lica dok mu se korisnik obraća te, ovisno o njegovim riječima, odgovoriti namigivanjem ili osmijehom kako bi interakcija bila življa.
Primjer u nastavku upotrebljava ažuriranja transkripta za odabir izraza lica avatara. Dodajte ovu konfiguraciju u session.triggers u postojećoj sesiji modela GPT‑Live.
Live šalje decision.event; aplikacija čita odabranu vrijednost reaction i u skladu s njom animira lik. Saznajte više o povezivanju glasovnih aplikacija s Decisions API-jem.(otvara se u novom prozoru)
Microphone off until you start
Expression palette
Tap a face to preview it.
Live decisions
Watch as the Decisions API chooses a facial expression based on what each of you says.
Your words
Watch the reaction as you speak.
Assistant’s words
Watch the face as the assistant replies.
Try saying
I rehearsed my audition for my cat. She walked out halfway through.
Ova demonstracija vremenski je ograničena. Korištenjem pristajete na OpenAI-jeve Uvjete i potvrđujete da ste upoznati s našim Pravilnikom o zaštiti privatnosti.
Decisions API od danas je opće dostupan uz GPT‑6 Luna putem namjenske krajnje točke Decisions. Aktualne cijene i pojedinosti o predmemoriranju potražite u vodiču za cijene i dostupnost(otvara se u novom prozoru).
Počnite s jednom odlukom koju vaša aplikacija često donosi. Definirajte pitanje, moguće odgovore i kontekst potreban za njihovo razlikovanje. Testirajte je na primjerima koji odražavaju stvarnu upotrebu u alatu Decisions Playground(otvara se u novom prozoru) s vlastitim tekstom ili slikama ili slijedite vodič za razvojne programere(otvara se u novom prozoru) da biste poslali prvi zahtjev.
Decisions API stoji 0,10 USD po milijunu ulaznih tokena. Predmemorirani ulazni podaci stoje 0,01 USD po milijunu tokena. Za upise u predmemoriju s trajanjem od 30 minuta i 12 sati pročitajte naš vodič za cijene.(otvara se u novom prozoru) Plaćate samo ulazne tokene: izlazni tokeni ne naplaćuju se. Regionalna obrada dostupna je u SAD-u i EU-u, a korisnicima koji ispunjavaju uvjete dostupna je opcija bez zadržavanja podataka(otvara se u novom prozoru). Pojedinosti potražite u odjeljcima o cijenama i predmemoriranju(otvara se u novom prozoru) te kontrolama podataka(otvara se u novom prozoru).
