Így ad a V7 intézményi memóriát az AI-ügynököknek

A mai modellek képesek érveléssel megoldani összetett feladatokat, de nem értik automatikusan az ezek hátterében álló üzleti kontextust. Melyik alapjelentés az aktuális? Hogyan nevezik ugyanazt az entitást három különböző rendszerben?

Ez a kontextus dokumentumokban, adatszobákban, táblázatokban, e-mailekben és belső eszközökben található: szétszórtan, rendezetlenül és az ügynökök számára láthatatlanul. A pénzügyi, biztosítási és ingatlanpiaci csapatok számára a munkafolyamatokon belüli visszakeresés pontossága alapkövetelmény.

Miután közösen létrehoztak egy széles körben használt, számítógépes látáson alapuló akadálymentesítési alkalmazást, Rizzoli és Edwardsson 2018-ban megalapította a V7⁠(új ablakban nyílik meg)-et, hogy segítsenek a vállalatoknak megtanítani az AI-rendszereknek, hogyan működik a szervezetük. A V7 Go egy ügynökalapú platform kritikus fontosságú munkafolyamatok létrehozására, amely a rejtett kontextust az ügynökök által lekérdezhető és felhasználható memóriába rendezi.

A V7 Go a GPT‑5.6 Lunával nyer ki információkat több millió fájlból, és a Kontextusgráfba rendezi őket. Ez összekapcsolja az entitásokat, kapcsolatokat és hivatkozott bizonyítékokat, így támogatva az MCP-keresést és az akár több száz lépésből álló, megismételhető munkafolyamatokat. A munkafolyamatokhoz a V7 Go a GPT‑5.6 Terrát és Solt használja érvelésre és eszközhasználatra az olyan összetett, többlépéses utasítások végrehajtása során, amelyek teljesítése az embereknek több tucat órát venne igénybe. A V7 a legnagyobb igényű Kontextusgráf-lekérdezéseknél is elkezdte használni a GPT‑6 Astrát, többek között a több ezer dokumentumot átfogó pénzügyi elemzéseknél.

A V7 szerint az együttműködő kontextusnak, modelleknek és eszközöknek köszönhetően az ügynökök percek alatt, 99,9%-os pontossággal hajtanak végre 50–100 lépéses munkafolyamatokat, miközben minden döntésről ellenőrizhető napló készül.

A Kontextusgráf egy konkrét problémát old meg. Az ügynököknek minden kérésnél újra fel kell tárniuk a kontextust, ami több tucat keresést, valamint jelentős idő- és tokenráfordítást igényel, miközben gyakran elsikkadnak a kapcsolatok mélyén rejlő fontos információk.

Amikor adatok érkeznek, a V7 Go olyan tárhelyekhez kapcsolódik, mint a SharePoint és a Google Drive, entitásokat, kapcsolatokat, tényeket, attribútumokat és mérőszámokat keres bennük, majd feltölt egy gráfot, amelyen nagyságrendekkel olcsóbban és gyorsabban lehet végighaladni, mint a hosszú kontextusra épülő megközelítésekkel.

A Kontextusgráf strukturált, naprakész és közvetlenül lekérdezhető információkat biztosít az ügynököknek. Új fájl érkezésekor a V7 Go azonosítja a vállalatokat, alapokat, személyeket és az ontológia bármely más entitását, majd minden tényt új vagy meglévő rekordhoz kapcsol, és megőrzi az eredeti forrásra hivatkozó bizonyítékot. Ha a gráf nem tartalmaz elegendő információt, a V7 Go RAG segítségével továbbra is kereshet az alapul szolgáló dokumentumokban.

A V7 azt is tesztelte, mennyit számít ennek a kontextusnak a struktúrája. A vállalati rendszerekben szétszórt információk megtalálását és összekapcsolását mérő HERB teszten a V7 kizárólag visszakeresésre épülő rendszere 69%-kal múlta felül a hivatalos alapszintet, és 38%-kal csökkentette a hallucinációkat a megválaszolhatatlan lekérdezéseknél. A V7 Go ezt a forrásokhoz kapcsolt kontextust használja, hogy az összetett munkafolyamatok minden vállalat saját információira épüljenek.

A V7 Go ezt a rendezett kontextust használja például magántőke-befektetési ügyletek előszűrésére és biztosítási kockázatvállalásra. Az alábbi bemutatóban egy munkafolyamat információkat nyer ki egy bizalmas információs memorandumnak (CIM) nevezett ügyleti dokumentumból, feldolgozza a legfontosabb pénzügyi adatokat, ügyleti feltételeket és vezetői információkat, hivatkozásokkal látja el a kockázati mezőket, majd a V7 Go elkészíti az előszűrési feljegyzést.

A Kontextusgráfnak köszönhetően a modell úgy használhatja egy vállalat előzményeit, hogy nem kell minden alkalommal újratanulnia őket. A hosszú ideig futó ügynököknél a V7 Go a legutóbbi interakciókat a modell aktív kontextusában tartja, a régebbi anyagokat pedig a gráfban tárolja, hogy szükség esetén visszakereshesse őket.

Ez a megosztott kontextus már most felgyorsítja a sok dokumentummal járó munkát a V7 ügyfeleinél:

• A vagyonkezelők a korábbinál 21-szer gyorsabban szűrhetik elő az ügyleteket, így az egész napos folyamat mindössze 15 percre rövidül

• Egy pénzügyi szolgáltatási csapat több mint 100 óráról 10 óra alá csökkentette az ellenőrzési időt, feladatonként 12 000 dollár szakértői költséget megtakarítva

• A biztosítási csapatok 13,5%-kal csökkentették a kárrendezési hibákat a manuális alapszinthez képest, miután ügynökeik hozzáférést kaptak az összes korábbi kárigény és meglévő kötvény előzményeihez

Az összetett, többlépéses munkafolyamatokhoz elengedhetetlen, hogy a modell megbízhatóan kövesse a hosszú utasításokat, eszközöket futtasson, értelmezze az eredményeket, és végighaladjon a lépések hosszú során. Már egyetlen korai hiba is költséges következményekkel járhat, és alááshatja az AI-rendszerekbe vetett bizalmat. A V7 Go hosszú távú feladatokon vezeti végig a modelleket, a determinisztikus kódtól és a kisebb modelleknek való feladatátadástól kezdve a fájlgenerálási lépéseken át az integrációkig, minden futtatásról ellenőrizhető naplót készítve.

Az AI által létrehozott munkafolyamatokban a V7 Go minden lépést gyors, közepes vagy intelligens szinthez rendel. A GPT‑5.6 Luna végzi a strukturált adatkinyerést és más nagy volumenű feladatokat, míg a GPT‑5.6 Terra vagy Sol működteti a csevegést, a Go Agent útvonalát, valamint a több érvelést vagy eszközhasználatot igénylő lépéseket.

A V7 az új modelleket folyamatosan karbantartott tesztcsomaggal vizsgálja, amely kiterjed a hivatkozások pontosságára, a több száz dokumentumtípuson végzett adatkinyerés minőségére, a válaszok helyességére, az utasítások követésére, a késleltetésre, a költségekre és a valós vállalati munkafolyamatokra. Az OpenAI a V7 számára legfontosabb működési jellemzők többségében felülmúlja a legtöbb modellt. Az OpenAI emellett órákon belül jóváhagyta és megvalósította a V7 kapacitásbővítési igényeit, míg a V7 más szolgáltatóinál ez hetekig tartott.

A V7 legújabb végrehajtási környezetében a több külső hívást alkalmazó kulcsfontosságú munkafolyamatok akár 50%-kal gyorsabban fejeződnek be. A V7 további hatékonyságjavulást mért a GPT‑5.6 Lunával: a dokumentumonkénti költség 78%-kal alacsonyabb volt, mint a GPT‑5.4 mini esetében. A V7 a sok dokumentumot feldolgozó V7 Go-munkaterheléseit is átállította a csevegés-befejezési API-ról a Responses API-ra. A tesztekben ez a változtatás egyes, sok PDF-et feldolgozó munkafolyamatoknál mintegy 5%-kal csökkentette a tokenfelhasználást, és megbízhatóbbá tette a gyorsítótárazást.

A V7 a GPT‑6 Astrát is tesztelte a legnehezebb lekérdezésein. A GPT‑5.6 Sol a V7 számos meglévő tesztjén már elérte a teljesítményplafont, ezért a vállalat több ezer dokumentum rendezetlenebb, valós adataiból állított össze nehezebb gráflekérdezési kérdéssort. A teszt adatkészlete négy nehézségi szintet ölel fel. A V7 beszámolója szerint a nagyon nehéz szinten a GPT‑5.6 Sol 78%-os, míg a GPT‑6 Astra 89%-os pontosságot ért el. A könnyű, közepes és nehéz szinten mindkét modell közel 100%-ot ért el.

A V7 Go MCP-szervere már hozzáférést biztosít a Kontextusgráf lekérdezéséhez és adatbetöltéséhez, így az ügyfelek a ChatGPT‑ből és más kompatibilis kliensekből is használhatják. Az MCP-n keresztül a Codexben is létrehozhatnak V7 Go-munkafolyamatokat. Az egyszerűbb munkafolyamat-tervezéssel együtt ez körülbelül egy óráról mintegy 20 percre csökkentette egy közepes hosszúságú munkafolyamat létrehozási idejét.

A V7 hosszabb távú célja, hogy ez a megosztott memória proaktívabbá váljon. A csapat olyan munkafolyamatokon dolgozik, amelyek a Kontextusgráf tényeinek változásakor elindulnak, jelzik az ellentmondásokat, és megmutatják, mely elemzéseket kell újra megvizsgálni. Egy módosított alapjelentés például arra késztetheti a V7 Go-t, hogy megjelölje a még mindig a régi számokra támaszkodó munkákat.

„Célunk, hogy segítsünk a vállalatoknak új eszközökkel felkészülni az AI korára: a kritikus feladatokat megoldó munkafolyamatokkal és az emberi memóriánál jobban teljesítő memóriával” – mondja Rizzoli. „Nem azok a pénzügyi vállalatok nyerik majd a legtöbbet az AI-ból, amelyeknek a legtöbb ügynökük van. Hanem azok, amelyeknek a legjobb a kontextusuk.”