Cách V7 cung cấp trí nhớ tổ chức cho tác nhân AI

Các mô hình ngày nay có thể suy luận để xử lý những tác vụ phức tạp, nhưng không tự động hiểu bối cảnh kinh doanh nền tảng của các tác vụ đó. Báo cáo quỹ nào là bản hiện hành? Cùng một thực thể được đặt tên như thế nào trong ba hệ thống?

Bối cảnh đó nằm rải rác trong tài liệu, phòng dữ liệu, bảng tính, email và công cụ nội bộ; chưa được đối chiếu và tác nhân không thể nhìn thấy. Với các nhóm trong lĩnh vực tài chính, bảo hiểm và bất động sản, độ chính xác khi truy xuất trong quy trình là yêu cầu bắt buộc.

Sau khi cùng xây dựng một ứng dụng hỗ trợ khả năng tiếp cận bằng thị giác máy tính được sử dụng rộng rãi, Rizzoli và Edwardsson thành lập V7⁠(mở trong cửa sổ mới) vào năm 2018 nhằm giúp các công ty dạy hệ thống AI hiểu cách doanh nghiệp của họ vận hành. V7 Go là nền tảng tác nhân dùng để xây dựng các quy trình tối quan trọng và sắp xếp bối cảnh bị chôn vùi thành bộ nhớ mà tác nhân có thể truy vấn rồi hành động dựa trên đó.

V7 Go dùng GPT‑5.6 Luna để trích xuất thông tin từ hàng triệu tệp và sắp xếp vào Đồ thị Ngữ cảnh, nơi kết nối các thực thể, mối quan hệ và bằng chứng trích dẫn, qua đó hỗ trợ tìm kiếm bằng MCP cùng những quy trình có thể lặp lại và kéo dài hàng trăm bước. Đối với Quy trình, V7 Go dùng GPT‑5.6 Terra và Sol để suy luận và sử dụng công cụ theo các chỉ dẫn phức tạp gồm nhiều bước mà con người phải mất hàng chục giờ để hoàn thành. V7 cũng bắt đầu sử dụng GPT‑6 Astra cho những truy vấn Đồ thị Ngữ cảnh đòi hỏi cao nhất, bao gồm phân tích tài chính trên hàng nghìn tài liệu.

Khi bối cảnh, mô hình và công cụ phối hợp với nhau, V7 cho biết tác nhân có thể hoàn tất quy trình gồm 50–100 bước trong vài phút với độ chính xác 99,9%, đồng thời duy trì dấu vết có thể kiểm toán của mọi quyết định.

Đồ thị Ngữ cảnh giải quyết một vấn đề cụ thể. Tác nhân phải tìm hiểu lại bối cảnh cho mỗi yêu cầu, dẫn đến hàng chục lượt tìm kiếm tốn thời gian và token, nhưng vẫn thường bỏ sót thông tin quan trọng ẩn trong các mối quan hệ.

Khi dữ liệu được đưa vào, V7 Go kết nối với các kho lưu trữ như SharePoint và Google Drive, quét tìm thực thể, mối quan hệ, dữ kiện, thuộc tính và chỉ số, rồi điền vào một đồ thị có tốc độ duyệt nhanh hơn và chi phí thấp hơn một bậc so với các phương pháp dùng ngữ cảnh dài.

Đồ thị Ngữ cảnh cung cấp cho tác nhân một hồ sơ có cấu trúc, luôn cập nhật để truy vấn trực tiếp. Khi có tệp mới, V7 Go xác định các công ty, quỹ, cá nhân hoặc bất kỳ thực thể nào trong bản thể học, rồi liên kết từng dữ kiện với một hồ sơ mới hoặc hiện có và lưu lại bằng chứng trích dẫn từ nguồn gốc. Nếu đồ thị không chứa đủ thông tin, V7 Go vẫn có thể dùng RAG để tìm kiếm trong các tài liệu nền.

V7 cũng đã kiểm thử mức độ ảnh hưởng của cấu trúc bối cảnh này. Trên HERB, tiêu chuẩn đánh giá khả năng tìm và kết nối thông tin phân tán trong các hệ thống doanh nghiệp, hệ thống chỉ truy xuất của V7 vượt chuẩn cơ sở chính thức 69% và giảm 38% hiện tượng bịa thông tin ở các truy vấn không thể trả lời. V7 Go sử dụng bối cảnh liên kết với nguồn này để bảo đảm các quy trình phức tạp luôn bám sát thông tin riêng của từng công ty.

V7 Go sử dụng bối cảnh đã được sắp xếp này trong các quy trình như sàng lọc thương vụ vốn cổ phần tư nhân và thẩm định bảo hiểm. Trong bản demo dưới đây, một quy trình trích xuất thông tin từ tài liệu thương vụ có tên Bản ghi nhớ thông tin mật (CIM), đưa vào các số liệu tài chính quan trọng, điều khoản thương vụ và thông tin quản lý, đồng thời trích dẫn các trường rủi ro trước khi V7 Go tạo bản ghi chú sàng lọc.

Đồ thị Ngữ cảnh giúp mô hình làm việc với lịch sử của doanh nghiệp mà không phải tìm hiểu lại mỗi lần. Với các tác nhân chạy dài hạn, V7 Go giữ những lượt trao đổi gần đây trong ngữ cảnh hoạt động của mô hình và lưu nội dung cũ hơn vào đồ thị để truy xuất khi cần.

Bối cảnh dùng chung này đã giúp khách hàng của V7 tăng tốc các công việc xử lý nhiều tài liệu:

• Các công ty quản lý tài sản có thể sàng lọc thương vụ nhanh gấp 21 lần, rút ngắn quy trình kéo dài cả ngày xuống còn 15 phút

• Một nhóm dịch vụ tài chính đã rút ngắn thời gian rà soát từ hơn 100 giờ xuống dưới 10 giờ, tiết kiệm 12.000 USD chi phí chuyên gia cho mỗi tác vụ

• Các nhóm bảo hiểm giảm 13,5% lỗi xử lý yêu cầu bồi thường so với quy trình thủ công cơ sở sau khi cung cấp cho tác nhân kiến thức lịch sử về mọi yêu cầu trước đây và các hợp đồng hiện hành

Các quy trình phức tạp gồm nhiều bước đòi hỏi mô hình phải thực hiện chỉ dẫn dài một cách đáng tin cậy, vận hành công cụ, diễn giải kết quả và xử lý một chuỗi bước kéo dài. Chỉ một lỗi ở khâu đầu cũng có thể gây hậu quả tốn kém và làm suy giảm niềm tin vào các hệ thống AI. V7 Go dẫn dắt các mô hình thực hiện những tác vụ dài hạn, từ mã có tính tất định, chuyển giao cho mô hình nhỏ hơn và tạo tệp đến tích hợp, đồng thời lưu lại dấu vết có thể kiểm toán của mỗi lần chạy.

Trong các quy trình do AI tạo, V7 Go ánh xạ từng bước vào các cấp nhanh, vừa và thông minh. GPT‑5.6 Luna đảm nhiệm việc trích xuất có cấu trúc và các tác vụ khối lượng lớn khác; GPT‑5.6 Terra hoặc Sol hỗ trợ trò chuyện, lộ trình Go Agent và các bước cần suy luận sâu hơn hoặc sử dụng công cụ.

V7 kiểm thử các mô hình mới bằng một bộ tiêu chuẩn đánh giá được duy trì liên tục, bao quát độ chính xác của trích dẫn, chất lượng trích xuất trên hàng trăm loại tài liệu, độ chính xác của câu trả lời, khả năng tuân thủ chỉ dẫn, độ trễ, chi phí và các quy trình doanh nghiệp thực tế. OpenAI vượt trội hơn hầu hết mô hình ở những năng lực mà V7 coi trọng nhất. OpenAI cũng phê duyệt và đáp ứng nhu cầu tăng công suất của V7 chỉ trong vài giờ, trong khi các nhà cung cấp khác mà V7 sử dụng mất nhiều tuần.

Trong hệ thống điều khiển mới nhất của V7, các quy trình chính có nhiều lệnh gọi ra bên ngoài nay hoàn tất nhanh hơn tới 50%. V7 còn ghi nhận một mức tăng hiệu quả khác với GPT‑5.6 Luna: chi phí trên mỗi tài liệu thấp hơn 78% so với GPT‑5.4 mini. V7 cũng chuyển các tác vụ V7 Go xử lý nhiều tài liệu từ API hoàn thiện hội thoại sang API Phản hồi. Qua kiểm thử, thay đổi này giúp một số quy trình xử lý nhiều tệp PDF giảm khoảng 5% lượng token sử dụng và tăng độ tin cậy của bộ nhớ đệm.

V7 cũng thử nghiệm GPT‑6 Astra với những truy vấn khó nhất của mình. GPT‑5.6 Sol đã gần chạm trần ở nhiều tiêu chuẩn đánh giá hiện có của V7, nên công ty đã tạo một bộ câu hỏi truy vấn đồ thị khó hơn, sử dụng dữ liệu thực tế thiếu chuẩn hóa từ hàng nghìn tài liệu. Tập dữ liệu kiểm thử gồm bốn cấp độ khó. Ở cấp cực khó, V7 cho biết GPT‑5.6 Sol đạt 78%, còn GPT‑6 Astra đạt độ chính xác 89%. Cả hai mô hình đều đạt gần 100% ở các cấp dễ, vừa và khó.

V7 Go đã cung cấp khả năng truy vấn và nhập dữ liệu vào Đồ thị Ngữ cảnh qua máy chủ MCP, nhờ đó khách hàng có thể sử dụng từ ChatGPT và các ứng dụng tương thích khác. Họ cũng có thể tạo quy trình V7 Go qua MCP trong Codex. Cùng với thiết kế quy trình đơn giản hơn, điều này đã rút ngắn thời gian tạo một quy trình có độ dài trung bình từ khoảng một giờ xuống còn khoảng 20 phút.

Mục tiêu dài hạn của V7 là giúp bộ nhớ dùng chung này trở nên chủ động hơn. Nhóm đang hướng đến các quy trình tự khởi chạy khi dữ kiện trong Đồ thị Ngữ cảnh thay đổi, gắn cờ điểm bất nhất và cho người dùng biết những phân tích nào cần được xem xét lại. Chẳng hạn, một báo cáo quỹ được trình bày lại có thể khiến V7 Go gắn cờ những công việc vẫn dựa trên số liệu cũ.

“Mục tiêu của chúng tôi là giúp doanh nghiệp tái trang bị cho kỷ nguyên AI bằng các quy trình giải quyết những tác vụ tối quan trọng và một bộ nhớ vượt trội hơn con người”, Rizzoli cho biết. “Các công ty tài chính thực sự thu được giá trị từ AI sẽ không phải là những công ty có nhiều tác nhân nhất. Đó sẽ là những công ty có bối cảnh tốt nhất.”