Kuidas V7 annab AI-agentidele institutsionaalse mälu

Tänapäeva mudelid suudavad keerukaid ülesandeid läbi arutleda, kuid ei mõista automaatselt nende aluseks olevat ärikonteksti. Milline fondiaruanne on praegu kehtiv? Kuidas nimetatakse sama olemit kolmes eri süsteemis?

See kontekst asub dokumentides, andmeruumides, arvutustabelites, meilides ja sisetööriistades: hajutatuna, korrastamata ja agentidele nähtamatuna. Rahandus-, kindlustus- ja kinnisvarameeskondade jaoks ei saa töövoosisese otsingu täpsuse osas järeleandmisi teha.

Pärast laialt kasutatava arvutinägemisel põhineva hõlbustusrakenduse ühist loomist asutasid Rizzoli ja Edwardsson 2018. aastal ettevõtte V7⁠(avaneb uues aknas), et aidata ettevõtetel õpetada AI-süsteemidele oma tegevuse toimimist. V7 Go on agentidel põhinev platvorm missioonikriitiliste töövoogude loomiseks ning peidetud konteksti korrastamiseks mäluks, millest agendid saavad päringuid teha ja mille põhjal tegutseda.

V7 Go kasutab GPT‑5.6 Lunat miljonitest failidest teabe eraldamiseks ja selle korrastamiseks kontekstgraafis, mis ühendab olemid, seosed ja viidatud tõendid ning toetab MCP-otsingut ja korratavaid, sadadest etappidest koosneda võivaid töövooge. Töövoogudes kasutab V7 Go GPT‑5.6 Terrat ja Soli arutluseks ning tööriistade kasutamiseks keerukate mitmeetapiliste juhiste täitmisel, milleks inimestel kuluks kümneid tunde. V7 hakkab kasutama ka GPT‑6 Astrat kõige nõudlikumate kontekstgraafi päringute jaoks, sealhulgas tuhandeid dokumente hõlmavaks finantsanalüüsiks.

V7 sõnul läbivad agendid tänu konteksti, mudelite ja tööriistade koostööle 50–100 etapist koosnevad töövood minutitega, saavutades 99,9% täpsuse ning säilitades iga tehtud otsuse auditeeritava jälje.

Kontekstgraaf lahendab ühe konkreetse probleemi. Agendid peavad iga päringu puhul konteksti uuesti avastama, mistõttu tehakse kümneid otsinguid, mis kulutavad aega ja tokeneid, ning sageli jääb seostesse peidetud oluline teave leidmata.

Andmete saabudes loob V7 Go ühenduse selliste hoidlatega nagu SharePoint ja Google Drive, otsib neist olemeid, seoseid, fakte, atribuute ja mõõdikuid ning täidab graafi, mille läbimine on pika konteksti meetoditega võrreldes suurusjärgu võrra odavam ja kiirem.

Kontekstgraaf annab agentidele struktureeritud ja ajakohase andmestiku, millest nad saavad otse päringuid teha. Uue faili saabudes tuvastab V7 Go ettevõtted, fondid, inimesed või mis tahes muud ontoloogias olevad olemid, seob iga fakti uue või olemasoleva kirjega ning säilitab viidatud tõendid koos algallikaga. Kui graaf ei sisalda piisavalt teavet, saab V7 Go RAG-i abil siiski alusdokumentidest otsida.

V7 on testinud ka seda, kui palju mõjutab tulemust konteksti struktuur. Ettevõtte süsteemides hajutatud teabe leidmise ja ühendamise võrdlustestis HERB edestas V7 ainult otsingul põhinev süsteem ametlikku lähtetaset 69% ning vähendas vastuseta päringute puhul hallutsinatsioone 38%. V7 Go kasutab seda allikatega seotud konteksti, et keerukad töövood tugineksid iga ettevõtte enda teabele.

V7 Go kasutab seda korrastatud konteksti näiteks erakapitalitehingute hindamise ja kindlustusriskide hindamise töövoogudes. Allolevas demos eraldab töövoog tehingudokumendist nimega konfidentsiaalse teabe memorandum (CIM) andmed, sisestab peamised finantsnäitajad, tehingutingimused ja juhtkonna üksikasjad, viitab riskiväljadele ning seejärel koostab V7 Go hindamismärkme.

Kontekstgraaf võimaldab mudelil kasutada ettevõtte ajalugu, ilma et see peaks seda iga kord uuesti õppima. Pikaajaliselt töötavate agentide puhul hoiab V7 Go hiljutised vestlused mudeli aktiivses kontekstis ja talletab vanema materjali graafi, kust selle saab vajaduse korral tuua.

See ühine kontekst kiirendab juba V7 klientide dokumendimahukat tööd:

• Varahaldurid saavad tehinguid hinnata 21 korda kiiremini, lühendades terve päeva kestnud protsessi vaid 15 minutile

• Finantsteenuste meeskond lühendas läbivaatusele kuluvat aega enam kui 100 tunnilt alla 10 tunni, säästes iga ülesande ekspertide kuludelt 12 000 dollarit

• Kindlustusmeeskonnad vähendasid nõuete töötlemise vigu käsitsi töö lähtetasemega võrreldes 13,5%, kui nende agentidele anti teadmised kõigist varasematest nõuetest ja kehtivatest poliisidest

Keerukad mitmeetapilised töövood eeldavad, et mudel järgib usaldusväärselt pikki juhiseid, kasutab tööriistu, tõlgendab tulemusi ja läbib pika etappide jada. Üks varases etapis tekkinud viga võib tuua kaasa kulukaid tagajärgi ja õõnestada usaldust AI-süsteemide vastu. V7 Go juhib mudeleid läbi pikaajaliste ülesannete, mis hõlmavad deterministlikku koodi, töö üleandmist väiksematele mudelitele, failide loomise etappe ja integratsioone, ning jätab igast käitusest auditeeritava jälje.

AI loodud töövoogudes määrab V7 Go iga etapi kiirele, keskmisele või nutikale tasemele. GPT‑5.6 Luna tegeleb struktureeritud andmete eraldamise ja muu suuremahulise tööga, GPT‑5.6 Terra või Sol aga toetavad vestlust, Go Agenti rada ning etappe, mis nõuavad rohkem arutlust või tööriistade kasutamist.

V7 testib uusi mudeleid pidevalt ajakohastatava võrdlustestide komplektiga, mis hõlmab viidete täpsust, sadade dokumenditüüpide andmeeralduse kvaliteeti, vastuste õigsust, juhiste järgimist, latentsust, kulusid ja ettevõtete tegelikke töövooge. OpenAI edestab enamikku mudeleid omadustes, mida V7 kõige olulisemaks peab. OpenAI kiitis V7 võimsuse suurendamise vajadused heaks ja viis muudatused ellu mõne tunniga, teistel V7 kasutatavatel teenusepakkujatel kulus selleks nädalaid.

V7 uusimas täitmiskeskkonnas jõuavad mitut väliskutset tegevad põhitöövood nüüd lõpule kuni 50% kiiremini. V7 mõõtis GPT‑5.6 Lunaga veel ühe tõhususe kasvu: dokumendi kohta olid kulud 78% väiksemad kui GPT‑5.4 mini puhul. V7 viis ka oma dokumendimahukad V7 Go töökoormused vestluse lõpetamise API-lt üle Responses API-le. Testides vähendas see muudatus mõne PDF-mahuka töövoo tokenikasutust ligikaudu 5% ja parandas vahemälu töökindlust.

V7 testis ka GPT‑6 Astrat oma kõige keerulisemate päringutega. GPT‑5.6 Sol oli paljudes V7 senistes võrdlustestides saavutanud maksimumilähedase tulemuse, mistõttu koostas ettevõte keerukama graafipäringute küsimustiku tuhandetest dokumentidest pärinevate korrastamata reaalandmete põhjal. Testi andmestik hõlmab nelja raskusastet. V7 andmetel saavutas GPT‑5.6 Sol kõige raskemal tasemel 78% ja GPT‑6 Astra 89% täpsuse. Mõlemad mudelid saavutasid lihtsal, keskmisel ja raskel tasemel ligi 100% tulemuse.

V7 Go teeb kontekstgraafi päringud ja andmete sisestamise juba oma MCP-serveri kaudu kättesaadavaks, nii et kliendid saavad neid kasutada ChatGPT‑s ja teistes ühilduvates klientrakendustes. Samuti saavad nad MCP kaudu Codexis V7 Go töövooge luua. Koos lihtsama töövoodisainiga on see lühendanud keskmise pikkusega töövoo loomise aega ligikaudu ühelt tunnilt umbes 20 minutile.

V7 pikemaajaline eesmärk on muuta see ühismälu ennetavamaks. Meeskond arendab töövooge, mis käivituvad kontekstgraafi faktide muutumisel, märgivad vastuolud ja näitavad inimestele, millised analüüsid tuleb uuesti üle vaadata. Näiteks fondi korrigeeritud aruanne võiks panna V7 Go märgistama tööd, mis tugineb endiselt vanadele arvudele.

„Meie eesmärk on aidata ettevõtetel AI-ajastuks ümber korralduda, pakkudes missioonikriitilisi ülesandeid lahendavaid töövooge ja inimestest paremat mälu,“ ütleb Rizzoli. „AI-st tõelist kasu saavaid finantsettevõtteid ei erista suurim agentide arv. Neid eristab parim kontekst.“