Kako V7 daje institucionalno pamćenje AI agentima

Današnji modeli mogu rasuđivanjem riješiti složene zadatke, ali ne razumiju automatski poslovni kontekst na kojem se ti zadaci temelje. Koje je izvješće fonda aktualno? Kako je isti entitet nazvan u trima sustavima?

Taj se kontekst nalazi u dokumentima, virtualnim podatkovnim sobama, proračunskim tablicama, e-pošti i internim alatima: raspršen je, nepovezan i nevidljiv agentima. Timovima u financijama, osiguranju i nekretninama točnost dohvaćanja podataka u tijekovima rada nije predmet kompromisa.

Nakon što su zajedno izradili široko korištenu aplikaciju računalnog vida za pristupačnost, Rizzoli i Edwardsson osnovali su V7⁠(otvara se u novom prozoru) 2018. kako bi pomogli tvrtkama naučiti sustave umjetne inteligencije kako funkcionira njihovo poslovanje. V7 Go agentska je platforma za izradu ključnih tijekova rada koja skriveni kontekst organizira u memoriju koju agenti mogu pretraživati i na temelju nje djelovati.

V7 Go upotrebljava GPT‑5.6 Luna za izdvajanje informacija iz milijuna datoteka i njihovo organiziranje u Grafu konteksta, koji povezuje entitete, odnose i citirane dokaze te omogućuje MCP pretraživanje i ponovljive tijekove rada koji mogu obuhvaćati stotine koraka. Za tijekove rada V7 Go upotrebljava GPT‑5.6 Terra i Sol za rasuđivanje i uporabu alata prema složenim uputama s više koraka, za čije su izvršavanje ljudima potrebni deseci sati. V7 također počinje upotrebljavati GPT‑6 Astra za najzahtjevnije upite u Grafu konteksta, uključujući financijsku analizu tisuća dokumenata.

Uz zajednički rad konteksta, modela i alata, V7 navodi da agenti u nekoliko minuta dovršavaju tijekove rada od 50 do 100 koraka, dosežu točnost od 99,9 % i pritom čuvaju revizijski trag svake donesene odluke.

Graf konteksta rješava konkretan problem. Agenti pri svakom zahtjevu moraju iznova otkrivati kontekst, što dovodi do desetaka pretraživanja koja troše vrijeme i tokene, a često se previde ključne informacije skrivene u odnosima.

Kada podaci stignu, V7 Go povezuje se sa spremištima kao što su SharePoint i Google Drive, pretražuje ih radi pronalaženja entiteta, odnosa, činjenica, atributa i mjernih podataka te popunjava graf kojim se može prolaziti višestruko jeftinije i brže nego uz pristupe s dugim kontekstom.

Graf konteksta agentima pruža strukturiran i ažuran zapis koji mogu izravno pretraživati. Kada stigne nova datoteka, V7 Go prepoznaje tvrtke, fondove, osobe ili bilo koji entitet u ontologiji, zatim svaku činjenicu povezuje s novim ili postojećim zapisom i čuva citirane dokaze koji upućuju na izvor. Ako graf ne sadrži dovoljno informacija, V7 Go i dalje može pretraživati izvorne dokumente pomoću RAG-a.

V7 je testirao i koliko je važna struktura tog konteksta. Na mjerilu HERB za pronalaženje i povezivanje informacija raspoređenih među poslovnim sustavima, V7-ov sustav koji se oslanja samo na dohvaćanje nadmašio je službenu referentnu vrijednost za 69 % i smanjio halucinacije na upitima bez mogućeg odgovora za 38 %. V7 Go upotrebljava taj kontekst povezan s izvorima kako bi složeni tijekovi rada ostali utemeljeni na vlastitim informacijama svake tvrtke.

V7 Go upotrebljava taj organizirani kontekst u tijekovima rada poput procjene transakcija fondova privatnog kapitala i preuzimanja rizika u osiguranju. U demonstraciji u nastavku tijek rada iz dokumenta o transakciji, nazvanog Memorandum o povjerljivim informacijama (CIM), izdvaja ključne financijske podatke, uvjete transakcije i pojedinosti o upravi te navodi izvore za polja rizika, nakon čega V7 Go izrađuje bilješku o procjeni.

Graf konteksta omogućuje modelu da se koristi poviješću tvrtke bez ponovnog učenja pri svakom zadatku. Za dugotrajne agente V7 Go zadržava nedavne razmjene u aktivnom kontekstu modela, a stariji materijal sprema u graf kako bi se dohvatio kada zatreba.

Taj zajednički kontekst već ubrzava rad s mnogo dokumenata kod korisnika V7-a:

• Upravitelji imovinom mogu procjenjivati transakcije 21 puta brže nego prije, skraćujući cjelodnevni postupak na samo 15 minuta

• Tim za financijske usluge skratio je pregled s više od 100 sati na manje od 10, čime je na svakom zadatku uštedio 12.000 USD troškova stručnjaka

• Timovi u osiguranju smanjili su pogreške u obradi odštetnih zahtjeva za 13,5 % u odnosu na ručnu obradu nakon što su agentima omogućili pristup povijesnim podacima o svim prethodnim zahtjevima i postojećim policama

Složeni tijekovi rada s više koraka ovise o tome može li model pouzdano slijediti opsežne upute, pokretati alate, tumačiti rezultate i prolaziti kroz dugačak niz koraka. Jedna pogreška u ranoj fazi može prouzročiti skupe posljedice i narušiti povjerenje u sustave umjetne inteligencije. V7 Go vodi modele kroz dugotrajne zadatke koji obuhvaćaju deterministički kod, predaju manjim modelima, korake generiranja datoteka i integracije, uz revizijski trag svakog izvođenja.

U tijekovima rada koje generira umjetna inteligencija V7 Go svakom koraku dodjeljuje brzu, srednju ili pametnu razinu. GPT‑5.6 Luna obavlja strukturirano izdvajanje i druge opsežne poslove, dok GPT‑5.6 Terra ili Sol pokreću chat, putanju Go Agenta i korake koji zahtijevaju više rasuđivanja ili uporabe alata.

V7 testira nove modele na skupu mjerila koji se neprekidno održava, a obuhvaća točnost citata, kvalitetu izdvajanja iz stotina vrsta dokumenata, točnost odgovora, praćenje uputa, latenciju, troškove i stvarne poslovne tijekove rada. OpenAI nadmašuje većinu modela u ponašanjima koja su V7-u najvažnija. OpenAI je u roku od nekoliko sati odobrio i proveo povećanje kapaciteta koje je V7 zatražio, dok je drugim pružateljima usluga kojima se V7 koristi za to trebalo nekoliko tjedana.

U najnovijem testnom sklopu V7-a ključni tijekovi rada s nekoliko vanjskih poziva sada završavaju do 50 % brže. V7 je uz GPT‑5.6 Luna zabilježio i dodatno povećanje učinkovitosti: trošak po dokumentu bio je 78 % niži nego uz GPT‑5.4 mini. V7 je i svoja opterećenja u V7 Go koja uključuju mnogo dokumenata prebacio s API-ja za dovršavanje razgovora na Responses API. U testiranju je ta promjena u nekim tijekovima rada s mnogo PDF-ova smanjila potrošnju tokena za oko 5 % i poboljšala pouzdanost predmemoriranja.

V7 je testirao i GPT‑6 Astra na svojim najzahtjevnijim upitima. GPT‑5.6 Sol dosegnuo je gornju granicu na mnogim postojećim mjerilima V7-a, pa je tvrtka izradila zahtjevniji skup pitanja za pretraživanje grafa, koristeći neurednije podatke iz stvarnog svijeta raspoređene u tisućama dokumenata. Skup podataka za test obuhvaća četiri razine težine. V7 navodi da je na vrlo teškoj razini GPT‑5.6 Sol ostvario 78 %, a GPT‑6 Astra točnost od 89 %. Oba su modela na lakoj, srednjoj i teškoj razini ostvarila rezultat blizu 100 %.

V7 Go već omogućuje pretraživanje i unos podataka u Graf konteksta putem svojeg MCP poslužitelja, pa se korisnici njime mogu služiti iz ChatGPT‑a i drugih kompatibilnih klijenata. Putem MCP-a mogu izrađivati i tijekove rada za V7 Go u Codexu. Uz jednostavnije osmišljavanje tijekova rada, time je vrijeme potrebno za izradu tijeka rada srednje duljine skraćeno s približno jednog sata na oko 20 minuta.

Dugoročni je cilj V7-a tu zajedničku memoriju učiniti proaktivnijom. Tim razvija tijekove rada koji se pokreću kada se promijene činjenice u Grafu konteksta, označavaju nedosljednosti i pokazuju ljudima koje analize treba ponovno pregledati. Primjerice, izmijenjeno izvješće fonda moglo bi potaknuti V7 Go da označi rad koji se i dalje oslanja na stare brojke.

„Cilj nam je pomoći tvrtkama da se prilagode dobu umjetne inteligencije uz tijekove rada koji rješavaju ključne zadatke i memoriju koja nadmašuje ljudsku“, kaže Rizzoli. „Financijske tvrtke koje će ostvariti stvarnu vrijednost od umjetne inteligencije neće biti one s najviše agenata. Bit će to one s najboljim kontekstom.“