Ako riadiť investície do agentickej AI v agentickej ére

Cieľom OpenAI je, aby bola umelá inteligencia postupom času prístupnejšia, výkonnejšia a cenovo dostupnejšia. Od GPT‑4 po GPT‑5.4 klesla cena za milión tokenov o 97 %. GPT‑5.6⁠ na tento pokrok nadväzuje a prináša lepší výkon v indexe Artificial Analysis Coding Agent Index s o 54 % menším počtom výstupných tokenov a o 57 % kratším časom na úlohu.

Samotná cena tokenu však neukazuje, či AI vytvára hodnotu. Lídri by sa mali zamerať na užitočnú prácu za každý dolár: dokončené úlohy, ušetrený čas, kvalitnejšie rozhodnutia a pracovné postupy pripravené na škálovanie.

Keď tímy prechádzajú od chatu k dlhšie trvajúcim pracovným postupom, správcovia potrebujú jasnejší prehľad o dopyte, výdavkoch a rizikách. 

Tu je päť spôsobov, ako investovať s istotou.

Vedúci pracovníci podnikov potrebujú jasný prehľad o používaní AI: kto ju používa, ktoré produkty alebo modely používa, koľko kapacity spotrebúva a aký typ práce toto používanie podporuje. Bez takéhoto prehľadu je ťažké interpretovať narastajúci účet. Môže to odrážať plytvanie, produktívne experimentovanie alebo pracovný postup, ktorý sa začína stávať kriticky dôležitým pre podnikanie.

ChatGPT Work⁠ podporuje dlhšie úlohy pozostávajúce z viacerých krokov, takže využitie sa môže výrazne líšiť v závislosti od pracovného postupu. Administrátori potrebujú vidieť prácu, ktorá stojí za týmto využitím, nielen spotrebované kredity. Je to možné vďaka zdieľanému prehľadu o dopyte naprieč službou ChatGPT. Aktualizované analytické nástroje na sledovanie používania a kontroly výdavkov⁠ v Admin Console⁠(otvorí sa v novom okne) umožňujú správcom sledovať mieru využívania, spotrebu kreditov a výdavky podľa používateľa, produktu a modelu, monitorovať vývoj v čase, identifikovať vznikajúce vzorce a pochopiť, či používanie odráža široké prijatie, pracovný postup intenzívneho používateľa alebo opakujúci sa podnikový proces, ktorý si môže zaslúžiť ďalšie investície.

Poznatky na rôznych úrovniach pomáhajú usmerňovať rozhodnutia týkajúce sa investícií a podpory:

• Pracovný priestor: Rastie miera využívania spolu s výdavkami?
• Tím a používatelia: Kde rastie dopyt a kto potrebuje viac podpory?
• Produkt a model: kde sa využíva nákladnejšia inteligencia a pretrváva tento dopyt?

Tieto prehľady spoločne pomáhajú správcom rozhodnúť sa, kam investovať, kde poskytovať koučing alebo kde nastaviť limity.

Najnižšia cena za token nemusí vždy znamenať najnižšie celkové náklady. Lacnejší model môže zlyhať, skúsiť znova alebo vytvoriť výstup, ktorý bude potrebné opraviť. Výkonnejší model môže mať vyššiu cenu za token, ale prijateľný výsledok dosiahne rýchlejšie, s menším počtom pokusov a menšou potrebou kontroly.

Hodnoť modely podľa práce, ktorú majú vykonávať. Používaj evaluačné testy, ktoré odrážajú skutočné úlohy⁠ vrátane hraničných prípadov a pred testovaním si definujte, čo znamená „dostatočne dobré“. Potom zmeraj celkové náklady na dosiahnutie tohto štandardu: používanie modelu a nástrojov, pokusy, mieru dokončenia, latenciu a ľudskú kontrolu.

Pri prioritných pracovných postupoch sleduj náklady na prijatý výsledok. V zákazníckej podpore môže ísť o vyriešený prípad. V inžinierstve môže ísť o otestovanú zmenu, ktorá prejde kontrolou. Prepoj dané náklady s obchodnou hodnotou, ako je ušetrený čas, skrátený čas cyklu, ochránené výnosy, odvrátené riziko alebo vytvorená kapacita.

Výber modelu je len jednou časťou rovnice. Jasné pokyny, zamerané nástroje, opakovane použiteľný kontext a explicitné podmienky zastavenia môžu znížiť počet cyklov a zbytočné náklady. Cieľom je prispôsobiť model a pracovný postup danej úlohe: používať menšie alebo rýchlejšie modely, keď spĺňajú požadovanú úroveň kvality, a vyhradiť prelomovú inteligenciu na komplexnú, nejednoznačnú alebo prácu s vysokými dôsledkami.

Podnikoví lídri by mali k riadeniu pristupovať ako k prevádzkovej vrstve, ktorá určuje, ktoré iniciatívy v oblasti AI možno škálovať. Praktická práca spočíva v definovaní toho, aký kontext môže ChatGPT používať, ku ktorým nástrojom môže pristupovať, aké akcie môže vykonávať, kto schvaľuje kroky s vysokou rizikovosťou, a ako sa prideľuje dodatočná kapacita, keď tímy nájdu hodnotné pracovné postupy.

Toto sa stáva ešte dôležitejším s tým, ako tímy zavádzajú doplnky, konektory, používanie počítačov a ďalšie prelomové schopnosti, ktoré dokážu fungovať naprieč podnikovými systémami. ChatGPT Work⁠ poskytuje správcom centralizované ovládacie prvky pre prístup, schválený kontext, pripojené nástroje, povolené akcie, používanie a výdavky. Kontroly výdavkov, ako sú predvolené nastavenia pracovného priestoru, skupinové limity, individuálne prepísania a žiadosti o kontrolu s kontextom projektu, pomáhajú lídrom podporovať prácu s vysokou hodnotou bez plošného zvyšovania limitov.

V prípade prioritných nasadení môžu AI inžinieri pre nasadzovanie⁠(otvorí sa v novom okne) spoločnosti OpenAI pracovať priamo so zákazníkmi na hodnoteniach, architektúre, latencii, spoľahlivosti a návrhu pracovných postupov s cieľom zlepšiť výkon aj nákladovú efektívnosť. Ochrana súkromia a riadenie by mali byť súčasťou tejto práce od začiatku: citlivé pracovné postupy potrebujú správne riadenie prístupu, nastavenie uchovávania údajov, prehľad o súlade s predpismi a schvaľovacie postupy ešte pred tým, než sa začnú škálovať. V príslušných prípadoch môžu podnikové prvky OpenAI na ochranu súkromia vrátane možností nulového uchovávania údajov⁠(otvorí sa v novom okne) pomôcť zákazníkom nasadiť AI v prostrediach s vysokou mierou dôvery.

Vedúci predstavitelia podnikov by mali riadiť investície do AI ako portfólio: široký prístup na podporu každodennej produktivity, pracovné postupy špecifické pre jednotlivé funkcie, ktoré zlepšujú opakovateľnú prácu, a menší počet strategických iniciatív vybudovaných na vlastnom kontexte spoločnosti. Najvhodnejšími kandidátmi sú pracovné postupy, ktoré sa opakujú v dostatočnom rozsahu, majú jasne určenú zodpovednosť a pri ktorých možno merať kvalitu, riziká a prínos pre podnikanie.

Financovanie by sa malo odvíjať od zrelosti. Prieskum by mal testovať, či model dokáže zvládnuť úlohu. Validácia by mala testovať reprezentatívne prípady voči jasne stanovenej latke kvality. Financovanie produkčnej fázy by malo podporovať integrácie, kontrolné mechanizmy, spoľahlivosť a riadenie zmien potrebné na škálovanie. Spoločné funkcie, ako sú správa identít, dôveryhodné konektory, spravované znalostné zdroje, hodnotenia, monitorovanie, smerovanie medzi modelmi a opakovane použiteľné vzory agentov, by sa mali financovať centrálne, aby bolo zavedenie každého nového pracovného postupu jednoduchšie a bezpečnejšie.

Keď pracovný postup preukáže svoju hodnotu, mal by si prispôsobiť produkt, kapacitu a model podpory jeho dopytu. ChatGPT Work⁠ poskytuje hotové funkcie pre chat, kódovanie, agentné pracovné postupy, konektory, doplnky, používanie počítača a správu. Spoločnosti môžu tento základ rozšíriť o vlastné údaje, oprávnenia, hodnotenia a logiku pracovných postupov tam, kde tieto prvky vytvárajú odlišujúcu hodnotu.

Pri produkčných pracovných záťažiach by komerčný model mal zodpovedať vzorcom používania: garantovaná kapacita⁠ pre produkčné systémy a agentov, ktorí potrebujú istotu prístupu, úroveň škálovania⁠ pre predvídateľné pracovné záťaže API s vysokým objemom a Batch API⁠(otvorí sa v novom okne), Flex spracovanie⁠(otvorí sa v novom okne) alebo Prompt Caching⁠ pre asynchrónnu prácu alebo opakovaný kontext.

Pri väčších strategických nasadeniach môžu OpenAI Frontier⁠ a Deployment Company⁠(otvorí sa v novom okne) pomôcť firmám vytvárať, nasadzovať a spravovať AI spolupracovníkov naprieč podnikovými systémami. Tento prístup umožňuje lídrom škálovať osvedčené pracovné postupy so správnym produktom, kapacitou a modelom podpory namiesto toho, aby si každý pracovný postup musel nanovo budovať vlastnú infraštruktúru.