Cara V7 memberi ejen AI memori institusi

Model masa kini boleh menaakul tugasan yang kompleks, tetapi tidak memahami secara automatik konteks perniagaan yang mendasari tugasan tersebut. Laporan dana yang manakah terkini? Apakah nama yang digunakan untuk entiti yang sama merentasi tiga sistem?

Konteks itu tersimpan dalam dokumen, bilik data, hamparan, e-mel dan alat dalaman: berselerak, belum diselaraskan dan tidak dapat dilihat oleh ejen. Bagi pasukan dalam bidang kewangan, insurans dan hartanah, ketepatan pencarian dalam aliran kerja tidak boleh dikompromi.

Selepas bersama-sama membina aplikasi kebolehcapaian penglihatan komputer yang digunakan secara meluas, Rizzoli dan Edwardsson mengasaskan V7⁠(dibuka dalam tetingkap baru) pada 2018 untuk membantu syarikat mengajar sistem AI cara perniagaan mereka beroperasi. V7 Go ialah platform berasaskan ejen untuk membina aliran kerja kritikal dan menyusun konteks tersembunyi menjadi memori yang boleh ditanya serta digunakan oleh ejen untuk bertindak.

V7 Go menggunakan GPT‑5.6 Luna untuk mengekstrak maklumat daripada jutaan fail dan menyusunnya dalam Graf Konteks, yang menghubungkan entiti, hubungan serta bukti petikan, sekali gus menguasakan carian MCP dan aliran kerja berulang yang boleh merangkumi ratusan langkah. Bagi aliran kerja, V7 Go menggunakan GPT‑5.6 Terra dan Sol untuk penaakulan serta penggunaan alat merentasi arahan berbilang langkah yang kompleks dan memerlukan puluhan jam untuk disiapkan oleh manusia. V7 juga mula menggunakan GPT‑6 Astra untuk pertanyaan Graf Konteks yang paling mencabar, termasuk analisis kewangan merentasi ribuan dokumen.

Dengan konteks, model dan alat yang berfungsi bersama, V7 menyatakan bahawa ejen menyelesaikan aliran kerja 50–100 langkah dalam beberapa minit dengan ketepatan 99.9%, sambil mengekalkan jejak setiap keputusan yang boleh diaudit.

Graf Konteks menyelesaikan satu masalah khusus. Ejen perlu mencari semula konteks bagi setiap permintaan, lalu menjalankan puluhan carian yang menggunakan masa dan token, serta sering terlepas maklumat penting yang tersembunyi dalam hubungan antara data.

Apabila data tiba, V7 Go bersambung kepada repositori seperti SharePoint dan Google Drive, mengimbas entiti, hubungan, fakta, atribut serta metrik, kemudian mengisi graf yang jauh lebih murah dan pantas untuk ditelusuri berbanding pendekatan berkonteks panjang.

Graf Konteks memberikan ejen rekod berstruktur dan terkini yang boleh ditanya terus. Apabila fail baharu tiba, V7 Go mengenal pasti syarikat, dana, individu atau mana-mana entiti dalam ontologi, kemudian menghubungkan setiap fakta kepada rekod baharu atau sedia ada serta mengekalkan bukti petikan yang merujuk kepada sumber asal. Jika graf tidak mengandungi maklumat yang mencukupi, V7 Go masih boleh mencari dokumen asas menggunakan RAG.

V7 turut menguji sejauh mana struktur konteks itu memberikan kesan. Dalam HERB, penanda aras untuk mencari dan menghubungkan maklumat yang tersebar merentasi sistem perusahaan, sistem pencarian sahaja V7 mengatasi garis dasar rasmi sebanyak 69% dan mengurangkan halusinasi bagi pertanyaan yang tidak dapat dijawab sebanyak 38%. V7 Go menggunakan konteks yang dipautkan kepada sumber itu untuk memastikan aliran kerja kompleks berasaskan maklumat setiap syarikat sendiri.

V7 Go menggunakan konteks tersusun itu dalam aliran kerja seperti penilaian awal urus niaga ekuiti persendirian dan pengunderaitan insurans. Dalam demo di bawah, satu aliran kerja mengekstrak maklumat daripada dokumen urus niaga yang dipanggil Memorandum Maklumat Sulit (CIM), memasukkan data kewangan utama, syarat urus niaga dan butiran pengurusan, serta memetik medan risiko sebelum V7 Go menghasilkan nota penilaian awal.

Graf Konteks membolehkan model menggunakan sejarah sesebuah firma tanpa perlu mempelajarinya semula setiap kali. Bagi ejen yang berjalan untuk tempoh panjang, V7 Go mengekalkan interaksi terkini dalam konteks aktif model dan menyimpan bahan terdahulu dalam graf untuk dicapai apabila diperlukan.

Konteks bersama itu sudah mempercepat kerja yang sarat dokumen untuk pelanggan V7:

• Pengurus aset boleh menilai urus niaga 21 kali lebih pantas, memendekkan proses sehari penuh kepada hanya 15 minit

• Sebuah pasukan perkhidmatan kewangan mengurangkan masa semakan daripada lebih 100 jam kepada kurang 10 jam, sekali gus menjimatkan kos pakar sebanyak $12,000 bagi setiap tugasan

• Pasukan insurans mengurangkan ralat pemprosesan tuntutan sebanyak 13.5% berbanding garis dasar manual selepas memberi ejen mereka pengetahuan sejarah tentang semua tuntutan terdahulu dan polisi sedia ada

Aliran kerja berbilang langkah yang kompleks bergantung pada keupayaan model untuk mengikuti arahan panjang dengan andal, menjalankan alat, mentafsir hasil dan menelusuri rangkaian langkah yang panjang. Satu ralat pada peringkat awal boleh membawa akibat yang mahal dan menjejaskan kepercayaan terhadap sistem AI. V7 Go membimbing model melalui tugasan jangka panjang yang merangkumi kod berketentuan, penyerahan kepada model yang lebih kecil, langkah penjanaan fail dan penyepaduan, dengan jejak yang boleh diaudit bagi setiap pelaksanaan.

Dalam aliran kerja yang dijana oleh AI, V7 Go memetakan setiap langkah kepada peringkat pantas, sederhana dan pintar. GPT‑5.6 Luna mengendalikan pengekstrakan berstruktur dan kerja bervolum tinggi yang lain, manakala GPT‑5.6 Terra atau Sol menguasakan sembang, laluan Ejen Go dan langkah yang memerlukan lebih banyak penaakulan atau penggunaan alat.

V7 menguji model baharu menggunakan rangkaian penanda aras yang diselenggara secara berterusan, meliputi ketepatan petikan, kualiti pengekstrakan bagi ratusan jenis dokumen, ketepatan jawapan, pematuhan arahan, kependaman, kos dan aliran kerja perusahaan sebenar. OpenAI mengatasi kebanyakan model dalam tingkah laku yang paling diutamakan oleh V7. OpenAI juga meluluskan dan melaksanakan peningkatan kapasiti yang diperlukan V7 dalam masa beberapa jam, berbanding beberapa minggu bagi penyedia lain yang digunakan V7.

Dalam harnes terbaharu V7, aliran kerja utama yang melibatkan beberapa panggilan luaran kini selesai sehingga 50% lebih pantas. V7 mencatat satu lagi peningkatan kecekapan dengan GPT‑5.6 Luna: kos bagi setiap dokumen 78% lebih rendah berbanding GPT‑5.4 mini. V7 turut memindahkan beban kerja V7 Go yang sarat dokumen daripada API Pelengkapan Sembang kepada API Respons. Dalam ujiannya, perubahan itu mengurangkan penggunaan token kira-kira 5% bagi sesetengah aliran kerja yang banyak menggunakan PDF serta meningkatkan kebolehpercayaan cache.

V7 turut menguji GPT‑6 Astra dengan pertanyaan paling sukarnya. GPT‑5.6 Sol telah mencapai tahap tepu pada banyak penanda aras sedia ada V7, jadi syarikat itu menghasilkan set soalan pertanyaan graf yang lebih mencabar menggunakan data sebenar yang lebih berselerak daripada ribuan dokumen. Set data ujian itu merangkumi empat tahap kesukaran. Pada tahap amat sukar, V7 melaporkan bahawa GPT‑5.6 Sol memperoleh 78%, manakala GPT‑6 Astra mencapai ketepatan 89%. Kedua-dua model memperoleh hampir 100% pada tahap mudah, sederhana dan sukar.

V7 Go sudah menyediakan fungsi pertanyaan dan pengingesan Graf Konteks melalui pelayan MCP, jadi pelanggan boleh menggunakannya daripada ChatGPT dan klien lain yang serasi. Mereka juga boleh mencipta aliran kerja V7 Go melalui MCP dalam Codex. Bersama reka bentuk aliran kerja yang lebih mudah, ini telah mengurangkan masa untuk mencipta aliran kerja sederhana panjang daripada kira-kira satu jam kepada sekitar 20 minit.

Matlamat jangka panjang V7 adalah untuk menjadikan memori bersama itu lebih proaktif. Pasukan itu sedang membangunkan aliran kerja yang bermula apabila fakta dalam Graf Konteks berubah, menandai ketidakselarasan dan menunjukkan analisis yang perlu disemak semula. Sebagai contoh, laporan dana yang dinyatakan semula boleh mendorong V7 Go menandai kerja yang masih bergantung pada angka lama.

“Matlamat kami adalah untuk membantu perusahaan melengkapkan semula operasi bagi era AI, dengan aliran kerja yang menangani tugasan kritikal dan memori yang mengatasi kemampuan manusia,” kata Rizzoli. “Firma kewangan yang memperoleh nilai sebenar daripada AI bukanlah firma yang mempunyai paling banyak ejen. Sebaliknya, firma tersebut mempunyai konteks yang terbaik.”