It-tagħlimiet ta’ Netomi biex tiskala sistemi aġentiċi

L-intrapriżi jistennew li l-aġenti tal-AI jimmaniġġjaw workflows imħawdin b’mod affidabbli, jirrispettaw il-politiki awtomatikament, joperaw taħt tagħbija kbira, u juru x-xogħol tagħhom.

Netomi⁠⁠(jinfetaħ f’tieqa ġdida) tibni sistemi li jilħqu dan il-livell għoli, u sservi klijenti tal-Fortune 500 bħal United Airlines u DraftKings. Il-pjattaforma tagħha tgħaqqad GPT‑4.1 għal użu ta’ għodod affidabbli u b’latenza baxxa ma’ GPT‑5.2 għal ippjanar aktar profond u b’diversi passi, u tħaddem it-tnejn f’saff ta’ eżekuzzjoni rregolat iddisinjat biex iżomm l-azzjonijiet immexxija mill-mudell prevedibbli taħt kundizzjonijiet reali ta’ produzzjoni.

It-tħaddim ta’ sistemi aġentiċi fuq din l-iskala ta lil Netomi mudell ċar ta’ x’jagħmel dawn l-implimentazzjonijiet jaħdmu fl-intrapriża.

Talba waħda ta’ intrapriża rari tikkorrispondi għal API waħda. Workflows reali jkopru magni tal-booking, databases tal-lealtà, sistemi CRM, loġika tal-politiki, ħlasijiet, u sorsi ta’ għarfien. Id-data spiss tkun mhux kompluta, kontradittorja, jew sensittiva għaż-żmien. Sistemi li jiddependu fuq flussi fraġli jikkrollaw taħt din il-varjabbiltà.

Netomi ddisinjat l-Agentic OS tiegħu biex il-mudelli OpenAI joqogħdu fiċ-ċentru ta’ pipeline ta’ orkestrazzjoni rregolata mibnija għal dan il-livell ta’ ambigwità. Il-pjattaforma tuża GPT‑4.1 għal raġunament u sejħiet ta’ għodod veloċi u affidabbli—kritiċi għal workflows f’ħin reali—u GPT‑5.2 meta jkun meħtieġ ippjanar f’diversi passi jew raġunament aktar profond.

Biex tiżgura mġiba konsistenti tal-aġent f’kompiti twal u kumplessi, Netomi ssegwi l-mudelli ta’ prompting aġentiku rakkomandati minn OpenAI:

• Tfakkiriet ta’ persistenza biex jgħinu lil GPT‑5.2 iġorr ir-raġunament tul workflows twal u b’diversi passi
• Aspettattivi espliċiti għall-użu tal-għodod, li jrażżnu tweġibiet alluċinati billi jiggwidaw lil GPT‑4.1 biex isejjaħ għodod għal informazzjoni awtorevoli waqt operazzjonijiet tranżazzjonali
• Ippjanar strutturat, li jisfrutta r-raġunament aktar profond ta’ GPT‑5.2 biex ifassal u jwettaq kompiti f’diversi passi
• Deċiżjonijiet dwar rich media mmexxija mill-aġent, billi jiddependu fuq GPT‑5.2 biex jiskopri u jindika meta sejħa ta’ għodda għandha tirritorna stampi, vidjows, formoli, jew elementi oħra rikki u multimodali

Flimkien, dawn il-mudelli jgħinu lill-mudell jimmappa b’mod affidabbli talbiet mhux strutturati għal workflows f’diversi passi u jżomm l-istat bejn interazzjonijiet mhux kontinwi.

Ftit industriji juru l-ħtieġa għal raġunament f’diversi passi daqs il-linji tal-ajru, fejn interazzjoni waħda normalment tgħaddi minn diversi sistemi u saffi ta’ politika. Mistoqsija waħda tista’ teħtieġ verifika tar-regoli tan-nollijiet, kalkolu mill-ġdid tal-benefiċċji tal-lealtà, bidliet fil-biljetti, u koordinazzjoni mal-operazzjonijiet tat-titjiriet.

“Fil-linji tal-ajru, il-kuntest jinbidel kull minuta. L-AI trid tirraġuna dwar ix-xena li jinsab fiha l-klijent—mhux biss twettaq kompitu iżolat,” qal Mehta. “Għalhekk l-għarfien tas-sitwazzjoni hu ħafna aktar importanti minn sempliċement workflows, u għalhekk arkitettura ensemble immexxija mill-kuntest hija essenzjali.”

B’GPT‑4.1 u GPT‑5.2, Netomi tista’ tkompli testendi dawn il-mudelli f’awtomazzjonijiet aktar sinjuri u b’diversi passi—tuża l-mudelli mhux biss biex twieġeb mistoqsijiet, iżda biex tippjana kompiti, tissekwenza azzjonijiet, u tikkoordina s-sistemi backend li fuqhom tiddependi linja tal-ajru ewlenija.

F’mumenti ta’ pressjoni kbira—booking mill-ġdid waqt maltempata, soluzzjoni ta’ kwistjoni ta’ fatturazzjoni, jew ġestjoni ta’ żidiet f’daqqa fid-domanda—l-utenti jabbandunaw kwalunkwe sistema li toqgħod taħsibha. Il-latenza tiddefinixxi l-fiduċja.

Ħafna sistemi tal-AI jfallu għax iwettqu l-kompiti b’mod sekwenzjali: ikklassifika → irkupra → ivvalida → sejjaħ għodod → iġġenera output. Minflok, Netomi ddisinjat għall-konkorenza, billi sfruttat streaming b’latenza baxxa u l-istabbiltà tas-sejħiet tal-għodod ta’ GPT‑4.1.

GPT‑4.1 jipprovdi ħin mgħaġġel sal-ewwel token u mġiba prevedibbli tas-sejħiet tal-għodod, li jagħmlu din l-arkitettura vijabbli fuq skala kbira; filwaqt li GPT‑5.2 jipprovdi mogħdijiet ta’ raġunament aktar profondi u b’diversi passi meta jkun hemm bżonn. Il-qafas ta’ konkorenza ta’ Netomi jiżgura li s-sistema kollha, mhux biss il-mudell, tibqa’ taħt limiti kritiċi ta’ latenza.

Dawn il-ħtiġijiet ta’ konkorenza mhumiex uniċi għal-linji tal-ajru. Kull sistema esposta għal żidiet f’daqqa u estremi fit-traffiku teħtieġ l-istess dixxiplina arkitettonika. DraftKings, pereżempju, tittestja regolarment dan il-mudell taħt pressjoni, bi traffiku waqt avvenimenti sportivi ewlenin li jaqbeż l-40,000 talba simultanja tal-klijenti kull sekonda.

Matul dawn l-avvenimenti, Netomi żammet tweġibiet ta’ inqas minn tliet sekondi b’eżattezza ta’ 98% fil-klassifikazzjoni tal-intenzjoni, anke meta workflows imissu kontijiet, ħlasijiet, tfittxijiet ta’ għarfien, u kontrolli regolatorji.

“L-AI hija ċentrali u kritika għal kif nappoġġjaw lill-klijenti fil-mumenti li jimportaw l-aktar,” qal Paul Liberman, Ko-Fundatur u President tal-Operazzjonijiet f’DraftKings. “Il-pjattaforma ta’ Netomi tgħinna nimmaniġġjaw żidiet kbar ħafna fl-attività b’aġilità u preċiżjoni.”

Fuq skala kbira, il-mudell ta’ konkorenza ta’ Netomi jiddependi fuq is-sejħiet tal-għodod veloċi u prevedibbli ta’ GPT‑4.1, li jżommu workflows f’diversi passi reatttivi taħt tagħbija estrema.

L-AI għall-intrapriżi trid tkun affidabbli mid-disinn, bil-governanza minsuġa direttament fir-runtime—mhux miżjuda bħala saff estern.

Meta l-kunfidenza fl-intenzjoni tinżel taħt il-limitu, jew meta talba ma tistax tiġi klassifikata b’ċertezza għolja, jidħlu l-mekkaniżmi ta’ governanza ta’ Netomi biex jiddeterminaw kif tiġi ttrattata t-talba, u jiżguraw li s-sistema tbiegħed ruħha mill-ġenerazzjoni libera favur mogħdijiet ta’ eżekuzzjoni kkontrollati.

Fuq livell tekniku, is-saff ta’ governanza jimmaniġġja:

• Validazzjoni ta’ skemi, li tivvalida kull sejħa ta’ għodda kontra argumenti mistennija u kuntratti OpenAPI qabel l-eżekuzzjoni
• Infurzar tal-politiki li japplika filtri tas-suġġetti, restrizzjonijiet tal-marka, u kontrolli ta’ konformità inline waqt ir-raġunament u l-użu tal-għodod
• Protezzjoni tal-PII biex tiskopri u taħbi data sensittiva bħala parti mill-preproċessar u l-immaniġġjar tar-rispons
• Fallback deterministiku, li jidderieġi lura lejn imġibiet magħrufa u sikuri meta l-intenzjoni, id-data, jew is-sejħiet tal-għodod ikunu ambigwi
• Osservabbiltà tar-runtime, li tesponi traċċi tat-token, passi ta’ raġunament, u logs tal-katina tal-għodod għal spezzjoni u debugging f’ħin reali

F’oqsma regolati ħafna bħall-assigurazzjoni dentali, din it-tip ta’ governanza mhijiex negozjabbli. Klijent ta’ Netomi fl-industrija tal-assigurazzjoni jipproċessa qrib żewġ miljun talba ta’ fornituri kull sena fil-50 stat kollha, inklużi kontrolli tal-eliġibbiltà, tfittxijiet tal-benefiċċji, u mistoqsijiet dwar l-istatus tat-talbiet fejn tweġiba waħda żbaljata tista’ toħloq riskju regolatorju jew ta’ servizz downstream.

Matul il-perjodu ta’ reġistrazzjoni miftuħa, meta l-iskrutinju u l-volum laħqu l-quċċata, il-kumpanija kellha bżonn AI li tinforza l-politika bħala parti mir-runtime innifsu. L-arkitettura ta’ Netomi kienet kapaċi tilħaq dan ir-rekwiżit kumpless.

“Bnejna s-sistema sabiex jekk l-aġent qatt jasal għal inċertezza, ikun jaf eżatt kif jirtira b’mod sikur,” qal Mehta. “Il-governanza mhijiex miżjuda minn barra—hija parti mir-runtime.”

It-triq ta’ Netomi turi x’hemm bżonn biex tinkiseb il-fiduċja tal-intrapriża: ibni għall-kumplessità, agħmel parallelizzazzjoni biex tilħaq it-talbiet tal-latenza, u daħħal il-governanza f’kull workflow. Il-mudelli OpenAI jiffurmaw is-sinsla tar-raġunament, filwaqt li l-inġinerija tas-sistemi ta’ Netomi tiżgura li l-intelliġenza tkun operattivament sigura, awditabbli, u lesta għal ambjenti Fortune 500.

Dawn il-prinċipji għenu lil Netomi tiskala f’uħud mill-aktar industriji impenjattivi fid-dinja—u joffru mudell għal kull startup li trid tibdel l-AI aġentika f’infrastruttura ta’ grad ta’ produzzjoni.

L-implimentazzjoni ta’ sistemi aġentiċi f’ambjenti Fortune 500 teħtieġ veloċità, preċiżjoni, u governanza integrata. L-arkitettura ta’ Netomi twassal it-tlieta, u żżomm il-prestazzjoni anke waqt żidiet estremi fit-traffiku u workflows kumplessi u b’diversi passi.

• Twasslu tweġibiet ta’ inqas minn tliet sekondi waqt avvenimenti b’traffiku għoli
• Inżammet eżattezza ta’ 98% fil-klassifikazzjoni tal-intenzjoni fuq skala kbira
• Ġew immaniġġjati żidiet fit-traffiku li qabżu l-40,000 talba simultanja tal-klijenti kull sekonda
• Il-governanza ddaħħlet direttament fir-runtime, b’fallback deterministiku u infurzar tal-politiki