Kaip V7 suteikia DI agentams institucinę atmintį

Šiuolaikiniai modeliai gali išspręsti sudėtingas užduotis, tačiau savaime nesupranta jų verslo konteksto. Kuri fondo ataskaita yra naujausia? Kaip tas pats subjektas vadinamas trijose skirtingose sistemose?

Šis kontekstas slypi dokumentuose, duomenų kambariuose, skaičiuoklėse, el. laiškuose ir vidiniuose įrankiuose: jis išsklaidytas, nesusietas ir agentams nematomas. Finansų, draudimo ir nekilnojamojo turto komandoms tikslus informacijos radimas darbo eigose yra būtinybė.

Kartu sukūrę plačiai naudojamą kompiuterinės regos prieinamumo programėlę, Rizzoli ir Edwardsson 2018 m. įkūrė V7⁠(atsidaro naujame lange), kad padėtų įmonėms mokyti DI sistemas suprasti jų veiklą. V7 Go yra agentinė platforma kritinės svarbos darbo eigoms kurti ir paslėptam kontekstui tvarkyti kaip atminčiai, kurioje agentai gali vykdyti užklausas ir kurios pagrindu gali veikti.

V7 Go naudoja GPT‑5.6 Luna informacijai iš milijonų failų išgauti ir jai tvarkyti Konteksto grafe, kuris susieja subjektus, ryšius bei cituojamus įrodymus ir užtikrina MCP paiešką bei pakartojamas, šimtus etapų galinčias apimti darbo eigas. Darbo eigose V7 Go naudoja GPT‑5.6 Terra ir Sol protavimui bei įrankiams valdyti vykdant sudėtingas daugiapakopes instrukcijas, kurioms žmonėms prireiktų dešimčių valandų. V7 taip pat pradeda naudoti GPT‑6 Astra reikliausioms Konteksto grafo užklausoms, įskaitant tūkstančius dokumentų apimančią finansinę analizę.

V7 teigimu, kartu veikiant kontekstui, modeliams ir įrankiams, agentai 50–100 etapų darbo eigas atlieka per kelias minutes, pasiekia 99,9 % tikslumą ir išsaugo audituojamą kiekvieno sprendimo pėdsaką.

Konteksto grafas išsprendžia konkrečią problemą. Agentams tenka iš naujo atrasti kontekstą su kiekviena užklausa, todėl atliekama dešimtys paieškų, eikvojamas laikas ir žetonai, o ryšiuose slypinti svarbi informacija dažnai lieka nepastebėta.

Gavusi duomenis, V7 Go prisijungia prie saugyklų, tokių kaip SharePoint ir Google Drive, nuskaito jose esančius subjektus, ryšius, faktus, atributus bei rodiklius ir užpildo grafą, kuriame naršyti dešimteriopai pigiau ir greičiau nei taikant ilgo konteksto metodus.

Konteksto grafas suteikia agentams struktūrizuotą, naujausią informacijos rinkinį, kuriame jie gali tiesiogiai vykdyti užklausas. Gavusi naują failą, V7 Go nustato įmones, fondus, žmones ar bet kokius kitus ontologijos subjektus, tada susieja kiekvieną faktą su nauju arba esamu įrašu ir išsaugo cituojamus įrodymus bei nuorodą į pirminį šaltinį. Jei grafe nepakanka informacijos, V7 Go vis tiek gali ieškoti pradiniuose dokumentuose naudodama RAG.

V7 taip pat patikrino, kokią reikšmę turi šio konteksto struktūra. Atliekant HERB etaloninį testą, skirtą įmonių sistemose išsklaidytai informacijai rasti ir susieti, vien paieška pagrįsta V7 sistema oficialų bazinį rezultatą pranoko 69 %, o neatsakomose užklausose haliucinacijų sumažino 38 %. V7 Go naudoja šį su šaltiniais susietą kontekstą, kad sudėtingos darbo eigos būtų pagrįstos pačios įmonės informacija.

V7 Go šį sutvarkytą kontekstą naudoja tokiose darbo eigose kaip privataus kapitalo sandorių vertinimas ir draudimo rizikos vertinimas. Toliau pateiktoje demonstracijoje darbo eiga iš sandorio dokumento, vadinamo konfidencialios informacijos memorandumu (CIM), išgauna pagrindinius finansinius rodiklius, sandorio sąlygas ir informaciją apie vadovybę, nurodo rizikos laukų šaltinius, o tada V7 Go parengia pirminio vertinimo pažymą.

Konteksto grafas leidžia modeliui dirbti su įmonės istorija kaskart jos nesimokant iš naujo. Ilgai veikiantiems agentams V7 Go naujausius pokalbius išlaiko aktyviame modelio kontekste, o senesnę medžiagą saugo grafe, kad prireikus ją būtų galima rasti.

Šis bendras kontekstas jau spartina daug dokumentų apimantį V7 klientų darbą:

• Turto valdytojai sandorius gali įvertinti 21 kartą greičiau ir visą dieną trukusį procesą sutrumpinti iki 15 minučių

• Finansinių paslaugų komanda peržiūros laiką sutrumpino nuo daugiau nei 100 iki mažiau nei 10 valandų ir kiekvienai užduočiai sutaupo 12 000 USD ekspertų darbo sąnaudų

• Suteikus agentams istorinių žinių apie visas ankstesnes draudimo išmokų paraiškas ir galiojančius polisus, draudimo komandų klaidų apdorojant paraiškas sumažėjo 13,5 %, palyginti su rankiniu būdu atliekamu procesu

Sudėtingos daugiapakopės darbo eigos priklauso nuo modelio gebėjimo patikimai vykdyti ilgas instrukcijas, naudoti įrankius, interpretuoti rezultatus ir atlikti ilgą veiksmų seką. Viena ankstesniame etape padaryta klaida gali brangiai kainuoti ir pakirsti pasitikėjimą DI sistemomis. V7 Go padeda modeliams atlikti ilgalaikes užduotis, apimančias deterministinį kodą, perdavimą mažesniems modeliams, failų generavimo etapus ir integracijas, o kiekvienas vykdymas palieka audituojamą pėdsaką.

DI generuojamose darbo eigose V7 Go kiekvieną etapą priskiria sparčiajam, vidutiniam arba išmaniajam lygmeniui. GPT‑5.6 Luna atlieka struktūrizuotą duomenų išgavimą ir kitus didelės apimties darbus, o GPT‑5.6 Terra arba Sol užtikrina pokalbius, „Go Agent“ maršrutą ir etapus, kuriems reikia daugiau protavimo ar įrankių naudojimo.

V7 naujus modelius tikrina nuolat atnaujinamu etaloninių testų rinkiniu, apimančiu citatų tikslumą, duomenų išgavimo iš šimtų tipų dokumentų kokybę, atsakymų teisingumą, instrukcijų laikymąsi, delsą, sąnaudas ir realias įmonių darbo eigas. OpenAI pranoksta daugumą modelių pagal V7 svarbiausias elgsenos savybes. Be to, OpenAI per kelias valandas patvirtino ir įgyvendino V7 pajėgumo didinimo poreikius, o kitiems V7 naudojamiems paslaugų teikėjams tam prireikė kelių savaičių.

Naujausioje V7 infrastruktūroje pagrindinės darbo eigos su keliais išoriniais iškvietimais dabar atliekamos iki 50 % greičiau. V7 nustatė ir kitą GPT‑5.6 Luna efektyvumo pranašumą: vieno dokumento sąnaudos buvo 78 % mažesnės nei naudojant GPT‑5.4 mini. Be to, daug dokumentų apdorojančius V7 Go krūvius V7 perkėlė iš pokalbių užbaigimo API į Responses API. Atliekant bandymus, dėl šio pakeitimo kai kuriose darbo eigose, kuriose apdorojama daug PDF failų, žetonų naudojimas sumažėjo maždaug 5 %, o kaupimas podėlyje tapo patikimesnis.

V7 taip pat išbandė GPT‑6 Astra su sudėtingiausiomis savo užklausomis. GPT‑5.6 Sol jau pasiekė daugelio esamų V7 etaloninių testų ribas, todėl įmonė sukūrė sudėtingesnį grafų užklausų klausimų rinkinį, pagrįstą netvarkingesniais realaus pasaulio duomenimis iš tūkstančių dokumentų. Testo duomenų rinkinys apima keturis sudėtingumo lygius. V7 duomenimis, labai sudėtingame lygyje GPT‑5.6 Sol surinko 78 %, o GPT‑6 Astra pasiekė 89 % tikslumą. Lengvame, vidutiniame ir sudėtingame lygiuose abu modeliai surinko beveik 100 %.

V7 Go jau suteikia prieigą prie Konteksto grafo užklausų ir duomenų įkėlimo per savo MCP serverį, todėl klientai gali tuo naudotis iš ChatGPT ir kitų suderinamų klientų. Naudodami MCP, jie taip pat gali kurti V7 Go darbo eigas programoje Codex. Kartu su paprastesniu darbo eigų projektavimu tai sutrumpino vidutinės trukmės darbo eigai sukurti reikalingą laiką nuo maždaug valandos iki maždaug 20 minučių.

Ilgalaikis V7 tikslas – padaryti šią bendrą atmintį aktyvesnę. Komanda siekia sukurti darbo eigas, kurios būtų paleidžiamos pasikeitus Konteksto grafo faktams, pažymėtų neatitikimus ir parodytų žmonėms, kurias analizes reikia peržiūrėti iš naujo. Pavyzdžiui, patikslinus fondo ataskaitą, V7 Go galėtų pažymėti darbus, kuriuose vis dar remiamasi senais skaičiais.

„Mūsų tikslas – padėti įmonėms persitvarkyti DI amžiui pasitelkiant darbo eigas, kurios atlieka kritinės svarbos užduotis, ir atmintį, pranokstančią mus, žmones“, – sako Rizzoli. „Tikros naudos iš DI gaus ne tos finansų įmonės, kurios turės daugiausia agentų. Ją gaus turinčiosios geriausią kontekstą.“