Preskočite na glavno vsebino
OpenAI

Kako upravljati naložbe v UI v agentski dobi

Pet praktičnih korakov za razumevanje uporabe UI, nadzor porabe in vlaganje v delo, ki ustvarja največjo vrednost.

Nalaganje …

Cilj družbe OpenAI je, da umetna inteligenca sčasoma postane dostopnejša, zmogljivejša in cenovno ugodnejša. Od GPT‑4 do GPT‑5.4 se je cena na milijon žetonov znižala za 97 %. GPT‑5.6 nadaljuje ta napredek: po indeksu Artificial Analysis Coding Agent Index zagotavlja boljšo zmogljivost s 54 % manj izhodnimi žetoni in 57 % manj časa na nalogo.

Toda sama cena žetonov ne pokaže, ali umetna inteligenca ustvarja vrednost. Vodje bi morali spremljati koristno delo na dolar: opravljene naloge, prihranjen čas, izboljšane odločitve in delovne tokove, pripravljene na širitev.

Ko ekipe prehajajo s klepeta na daljše delovne tokove, skrbniki potrebujejo jasnejši vpogled v povpraševanje, porabo in tveganja. 

Tukaj je pet načinov za samozavestno vlaganje.

1. Izostrite vpogled v uporabo in porabo

Vodje v podjetjih potrebujejo jasen pregled nad uporabo UI: kdo jo uporablja, katere izdelke ali modele uporablja, koliko zmogljivosti porablja in kakšno delo ta uporaba podpira. Brez tega vpogleda je naraščajoč račun težko razumeti. Lahko pomeni potrato, produktivno preizkušanje ali delovni tok, ki postaja poslovno ključen.

ChatGPT Work podpira daljše večstopenjske naloge, zato se lahko uporaba med različnimi delovnimi tokovi zelo razlikuje. Skrbniki morajo videti delo za to uporabo, ne le porabljene točke. To omogoča skupen pogled na povpraševanje v celotnem ChatGPT. Posodobljena analitika uporabe in nadzor porabe v skrbniški konzoli(odpre se v novem oknu) skrbnikom pomagata spremljati uvajanje, porabo točk in stroške po uporabniku, izdelku in modelu; slediti trendom skozi čas; prepoznati nove vzorce; ter razumeti, kdaj uporaba kaže na široko sprejetje, delovni tok naprednega uporabnika ali ponavljajoč se poslovni proces, ki si morda zasluži več naložb.

Pregled analitike, ki prikazuje uporabo ChatGPT-ja in Codexa ter porabo točk

Vpogledi na različnih ravneh pomagajo usmerjati odločitve o naložbah in omogočanju uporabe:

  • Delovni prostor: Ali se uvajanje in poraba gibljeta skupaj?
  • Ekipa in uporabnik: Kje povpraševanje raste in kdo morda potrebuje več podpore?
  • Produkt in model: Kje se uporablja dražja inteligenca in ali je to povpraševanje trajno?

Ti pogledi skupaj skrbnikom pomagajo odločiti, kam vlagati, kje usmerjati uporabnike in kje postaviti omejitve.

2. Ocenjujte učinkovitost modela po donosnosti izida

Najnižja cena žetonov ne pomeni vedno najnižjih skupnih stroškov. Cenejši model lahko odpove, zahteva ponovne poskuse ali ustvari delo, ki ga je treba popraviti. Zmogljivejši model je lahko dražji na žeton, vendar hitreje doseže sprejemljiv rezultat, z manj poskusi in manj pregledovanja.

Modele ocenjujte glede na delo, ki ga morajo opraviti. Uporabite evalvacije, ki odražajo resnične naloge, vključno z robnimi primeri, in pred preizkušanjem določite, kaj pomeni »dovolj dobro«. Nato izmerite celotne stroške doseganja tega standarda: uporabo modela in orodij, poskuse, stopnjo dokončanja, zakasnitev in človeški pregled.

Pri prednostnih delovnih tokovih spremljajte strošek na sprejeti izid. V podpori strankam je to lahko rešen primer. V inženiringu je to lahko preizkušena sprememba, ki uspešno prestane pregled. Ta strošek povežite s poslovno vrednostjo, kot so prihranjen čas, krajši cikli, zaščiteni prihodki, izognjeno tveganje ali ustvarjena zmogljivost.

Izbira modela je le del enačbe. Jasna navodila, osredotočena orodja, ponovno uporaben kontekst in izrecni pogoji za ustavitev lahko zmanjšajo zanke in nepotrebno porabo. Cilj je uskladiti model in delovni tok z nalogo: uporabite manjše ali hitrejše modele, kadar dosegajo merilo kakovosti, prelomno inteligenco pa prihranite za zapleteno, nejasno ali zelo pomembno delo.

3. Upravljajte napredne delovne tokove, preden se razširijo

Vodje v podjetjih bi morali upravljanje obravnavati kot operativno plast, ki določa, katero delo z UI se lahko razširi. Praktično delo pomeni opredeliti, kateri kontekst lahko ChatGPT uporablja, do katerih orodij lahko dostopa, katera dejanja lahko izvaja, kdo odobri bolj tvegane korake in kako se dodeli dodatna zmogljivost, ko ekipe najdejo dragocene delovne tokove.

To postane pomembnejše, ko ekipe uvajajo vtičnike, povezovalnike, Computer Use in druge prelomne zmožnosti, ki lahko delujejo v različnih poslovnih sistemih. ChatGPT Work skrbnikom daje centraliziran nadzor nad dostopom, odobrenim kontekstom, povezanimi orodji, dovoljenimi dejanji, uporabo in porabo. Nadzor porabe, kot so privzete nastavitve delovnega prostora, omejitve skupin, individualne izjeme in zahteve za pregled s kontekstom projekta, vodjem pomaga podpirati delo z visoko vrednostjo, ne da bi omejitve zvišali za vse.

Pri prednostnih uvedbah lahko OpenAI-jevi inženirji UI za uvedbo(odpre se v novem oknu) neposredno sodelujejo s strankami pri evalvacijah, arhitekturi, zakasnitvah, zanesljivosti in zasnovi delovnih tokov, da izboljšajo tako zmogljivost kot stroškovno učinkovitost. Zasebnost in upravljanje morata biti del tega dela od začetka: občutljivi delovni tokovi potrebujejo ustrezen nadzor dostopa, pristop k hrambi podatkov, vpogled v skladnost in poti odobritve, preden se razširijo. Kjer je to primerno, lahko OpenAI-jevi kontrolniki zasebnosti za podjetja, vključno z možnostmi ničelne hrambe podatkov(odpre se v novem oknu), strankam pomagajo uvajati UI v okoljih z visokim zaupanjem.

4. Financirajte delovne tokove, ki se lahko krepijo

Vodje v podjetjih bi morali naložbe v UI upravljati kot portfelj: širok dostop za vsakodnevno produktivnost, funkcijsko usmerjene delovne tokove, ki izboljšujejo ponovljivo delo, in manjše število strateških stav, zgrajenih okoli lastnega konteksta podjetja. Najmočnejši kandidati so delovni tokovi, ki se ponavljajo v pomembnem obsegu, imajo jasno lastništvo in jih je mogoče meriti glede kakovosti, tveganja in poslovne vrednosti.

Financiranje naj sledi zrelosti. Raziskovanje naj preveri, ali model zmore nalogo; validacija naj reprezentativne primere preizkusi glede na jasno merilo kakovosti; produkcijsko financiranje pa naj podpira integracije, kontrole, zanesljivost in upravljanje sprememb, potrebne za širitev. Skupne zmogljivosti, kot so identiteta, zaupanja vredni povezovalniki, skrbno odbrano znanje, evalvacije, ugotovljivost, usmerjanje modelov in ponovno uporabni vzorci agentov, je treba financirati centralno, da je vsak nov delovni tok lažje in varneje zagnati.

5. Uskladite zmogljivost z dokazanim povpraševanjem

Ko delovni tok dokaže svojo vrednost, naj vodje produkt, zmogljivost in model podpore uskladijo z njegovim povpraševanjem. ChatGPT Work ponuja pripravljene zmogljivosti za klepet, kodiranje, agentske delovne tokove, povezovalnike, vtičnike, Computer Use in administracijo. Podjetja lahko to osnovo razširijo z lastniškimi podatki, dovoljenji, evalvacijami in logiko delovnih tokov, kadar ti elementi ustvarjajo razlikovalno vrednost.

Pri produkcijskih obremenitvah naj komercialna struktura ustreza vzorcem uporabe: zagotovljena zmogljivost za produkcijske sisteme in agente, ki potrebujejo gotovost dostopa, lestvica zmogljivosti za predvidljive obsežne obremenitve API-ja ter Batch API(odpre se v novem oknu), prilagodljiva obdelava(odpre se v novem oknu) ali predpomnjenje pozivov za asinhrono delo ali ponavljajoč se kontekst.

Pri večjih strateških uvedbah lahko OpenAI Frontier in Deployment Company(odpre se v novem oknu) podjetjem pomagata graditi, uvajati in upravljati UI-sodelavce v poslovnih sistemih. Ta pristop vodjem omogoča, da dokazano delo širijo z ustreznim izdelkom, zmogljivostjo in modelom podpore, namesto da bi moral vsak delovni tok na novo zgraditi lastno infrastrukturo.

Avtor

OpenAI