Cách GPT‑5.6 kết hợp trí tuệ tiên phong với hiệu suất tiên phong

Chúng tôi thiết kế dòng mô hình GPT‑5.6 nhằm cân bằng năng lực và chi phí trên toàn bộ các loại tác vụ mà người dùng giao cho mô hình. Mô hình chủ lực GPT‑5.6 Sol của chúng tôi, khi dùng mức suy luận Max, vượt qua Claude Fable 5 trên Bảng xếp hạng Agent Lập trình của Artificial Analysis với chi phí chưa đến một nửa. Terra đạt hiệu năng ngang GPT‑5.5 trên các phép đo chuẩn về trí tuệ với mức giá bằng một nửa, còn Luna là mô hình nhanh nhất và có giá phải chăng nhất của chúng tôi, với giá thấp hơn Sol 80%. Để đạt được mức hiệu suất này, các nhóm nghiên cứu và kỹ thuật của chúng tôi đã thực hiện những hoạt động tối ưu hóa đáng kể ở mọi lớp chính trong hệ thống. Các cải tiến này trải rộng trên mô hình, quy trình suy luận (cách chúng tôi chạy mô hình để tạo đầu ra) và hệ thống điều khiển tác nhân được cả Codex lẫn ChatGPT Công việc sử dụng.

Trong bốn năm qua, khi mở rộng quy mô các mô hình để phục vụ 1 tỷ người dùng hoạt động và hơn 2 triệu doanh nghiệp, hiệu suất luôn là yếu tố trọng tâm giúp chúng tôi đưa lợi ích của trí tuệ đến với mọi người. Sứ mệnh của chúng tôi là bảo đảm trí tuệ nhân tạo tổng hợp mang lại lợi ích cho toàn thể nhân loại. Trong những năm qua, chúng tôi không ngừng khai phá các cơ hội tối ưu hóa lớn hơn trên toàn bộ hệ thống để cung cấp những mô hình có hiệu năng cao nhất tại mọi điểm trên đường cong chi phí–trí tuệ. Với GPT‑5.6, chúng tôi đạt hiệu suất trí tuệ trên mỗi token cao nhất từ trước đến nay; mô hình này được huấn luyện để hoàn thành nhiều công việc hơn trên mỗi token. Trong quá trình huấn luyện, chúng tôi tối ưu hóa cả khả năng hoàn thành tác vụ lẫn hiệu suất, định hướng mô hình đi theo lộ trình trực tiếp hơn để xử lý tác vụ.

Bài viết này mở rộng phạm vi ra ngoài mô hình để chia sẻ cách chúng tôi nâng cao hiệu suất nhờ những bước tiến ở hai phần chính khác của hệ thống: 1) suy luận—tối ưu hóa các quy trình như cân bằng tải, giải mã suy đoán, lưu bộ nhớ đệm và tối ưu hóa kernel nhằm khai thác nhiều đầu ra hơn từ cùng một phần cứng; và 2) hệ thống điều khiển tác nhân—quản lý tốt hơn tình trạng ngữ cảnh phình to, việc sử dụng công cụ và công việc lặp lại. Chúng tôi cũng sẽ chia sẻ vai trò của GPT‑5.6 Sol trong việc tự động hiện thực hóa một số thành quả này. Dù mỗi cải tiến riêng lẻ có vẻ hạn chế, khi cộng hưởng, những thành quả này giúp chúng tôi vươn tới vị trí tiên phong cả về trí tuệ lẫn hiệu suất.

Trong một thế giới bị giới hạn về năng lực tính toán, nơi nhu cầu sử dụng mô hình tăng nhanh hơn công suất, hiệu suất là yếu tố cốt lõi trong mọi thiết kế hệ thống. Điều này đặc biệt đúng với hệ thống suy luận của chúng tôi, nơi chạy các mô hình đã huấn luyện để tạo phản hồi. Mục tiêu chính của chúng tôi là phục vụ nhiều token hơn trên cùng một phần cứng, đồng thời duy trì mức trí tuệ, độ trễ, tính sẵn sàng và độ tin cậy mà người dùng mong đợi.

Để đạt được điều này, chúng tôi phải tối ưu hóa toàn bộ hệ thống. Một mô hình có thể rất hiệu quả khi xét riêng lẻ nhưng vẫn tốn kém khi phục vụ nếu yêu cầu được phân phối kém, phần cứng ở trạng thái nhàn rỗi hoặc quá trình di chuyển dữ liệu làm chậm tính toán. Các cải tiến ở mọi lớp được cộng hưởng, với hiệu quả đến từ việc tối ưu hóa định tuyến (nơi gửi yêu cầu), lập lịch (thời điểm gửi yêu cầu), kernel (phần mềm chạy trên GPU), lưu bộ nhớ đệm (lưu và tái sử dụng công việc) và cách triển khai mô hình (thứ tự thực thi mã GPU). GPT‑5.6 Sol trong Codex đóng vai trò then chốt trong tất cả các hoạt động tối ưu hóa này.

Ví dụ quan trọng đầu tiên là cân bằng tải. Trên quy mô toàn cầu, chúng tôi định tuyến yêu cầu dựa trên các yếu tố như vị trí địa lý, công suất khả dụng và loại bộ tăng tốc (loại GPU hoặc chip chuyên dụng chạy mô hình). Trong một cụm, chúng tôi phân phối công việc giữa các phiên bản mô hình dựa trên tải, độ dài ngữ cảnh, mức độ sẵn có của bộ nhớ đệm và các thuộc tính khác của yêu cầu. Trong mỗi phiên bản, công việc sau đó phải được phân chia hiệu quả giữa các bộ tăng tốc, mạng con của mô hình và lõi tính toán. GPT‑5.6 Sol trong Codex giúp chúng tôi phân tích lưu lượng thực tế, xác định những nguyên nhân gây mất cân bằng từng bị bỏ sót, thử nghiệm chiến lược định tuyến mới và liên tục tinh chỉnh các phương pháp kinh nghiệm này. Chỉ riêng những cải tiến về cân bằng tải này đã giảm đáng kể chi phí phục vụ các mô hình của chúng tôi.

Chúng tôi cũng dùng GPT‑5.6 Sol để tối ưu hóa lượt truyền xuôi của mô hình: quá trình tính toán biến đổi đầu vào thành dự đoán token tiếp theo. Ngay cả khi từng phép toán riêng lẻ diễn ra nhanh chóng, việc di chuyển bộ nhớ quá mức, đồng bộ hóa và bố trí dữ liệu kém hiệu quả vẫn có thể khiến GPU phải chờ. Để tránh tình trạng này, GPT‑5.6 Sol đã tìm ra những phần việc có thể tính toán trước, loại bỏ hoặc xử lý song song. Với Codex, GPT‑5.6 Sol đã tự động viết lại và tối ưu hóa các kernel dùng trong môi trường thực tế của chúng tôi—phần mã cốt lõi thực thi những phép toán cấu thành mô hình. Điều này có được một phần nhờ chúng tôi đã huấn luyện GPT‑5.6 để viết và cải thiện kernel hiệu quả bằng Triton⁠(mở trong cửa sổ mới) và Gluon⁠(mở trong cửa sổ mới), hai ngôn ngữ lập trình GPU nguồn mở do OpenAI duy trì. Kết hợp với những tiến bộ rộng hơn về kernel do GPT‑5.6 Sol mang lại, các nỗ lực này đã giảm 20% chi phí phục vụ đầu cuối. Chúng tôi cũng đầu tư mạnh vào công cụ xác minh, chẳng hạn như công cụ nguồn mở FpSan⁠(mở trong cửa sổ mới) (trình kiểm tra số dấu phẩy động), để hỗ trợ xác thực tính chính xác của các kernel do GPT‑5.6 Sol viết.

Giải mã suy đoán là một đòn bẩy khác giúp cải thiện tốc độ và hiệu suất. Kỹ thuật này chạy một mô hình nháp nhỏ hơn (hay “mô hình suy đoán”) song song với mô hình chính, đề xuất một số token để mô hình chính xác minh đồng thời. Khi các đề xuất đó được chấp nhận, hệ thống có thể tạo nhiều token đầu ra chỉ trong một lượt chạy của mô hình chính, qua đó giảm lượng tính toán tuần tự tốn kém. GPT‑5.6 Sol đã cải thiện mô hình nháp của chính mình bằng cách thiết kế và chạy hàng trăm thử nghiệm trên kiến trúc của mô hình, kiểm tra các thay đổi về quy mô, cấu trúc và tính năng. Ngoài ra, GPT‑5.6 Sol đã khởi chạy và giám sát quá trình huấn luyện mô hình suy đoán, đồng thời tự động can thiệp khi có sự cố, bao gồm lỗi phần cứng và tình trạng huấn luyện thiếu ổn định. Những cải tiến này đã nâng hiệu suất tạo token lên hơn 15%.

Khi xử lý các token đầu vào chưa được lưu vào bộ nhớ đệm, mô hình tạo bộ nhớ đệm khóa–giá trị (KV) trong một lượt tính toán chuyên sâu; khi tạo đầu ra, mô hình liên tục đọc và mở rộng bộ nhớ đệm đó. Cấu hình phục vụ tối ưu—như gộp lô, phân mảnh và quản lý KV—phụ thuộc nhiều vào khối lượng công việc: độ dài câu lệnh và đầu ra, kích thước lô, tỷ lệ truy cập thành công bộ nhớ đệm, đặc điểm truy vấn cùng nhiều yếu tố khác. Tuy nhiên, trước đây không gian cấu hình quá lớn để có thể tinh chỉnh một cách có hệ thống, khiến các kỹ sư phải dựa vào những phương pháp kinh nghiệm tổng quát. Nhờ GPT‑5.6 Sol trong Codex, chúng tôi có thể phân tích khối lượng công việc thực tế, tạo và đánh giá các cấu hình ứng viên, đồng thời siêu tối ưu hóa cách cấu hình công cụ thực thi và mô hình cho từng tình huống. Điều này giúp một cấp độ tối ưu hóa mới theo từng khối lượng công việc trở nên khả thi, qua đó khai thác nhiều năng lực suy luận hữu ích hơn từ cùng một phần cứng.

Tối ưu hóa suy luận là một vòng phản hồi liên tục. Chúng tôi đo lường hoạt động thực tế, xác định những khoảng cách lớn nhất, triển khai thay đổi và xác minh rằng chúng cải thiện toàn bộ hệ thống chứ không chỉ một phép đo chuẩn riêng lẻ. GPT‑5.6 Sol và Codex đẩy nhanh mọi khâu trong vòng lặp đó. Nhờ đó, đội ngũ của chúng tôi có thể khám phá thêm nhiều ý tưởng, phản ứng nhanh hơn trước khối lượng công việc thay đổi và xây dựng một hệ thống suy luận có độ trễ thấp hơn, công suất cao hơn cùng chi phí thấp hơn cho người dùng.

ChatGPT Công việc và Codex hoàn thành các tác vụ phức tạp thông qua một chuỗi yêu cầu đến mô hình và lệnh gọi công cụ. Trong một lượt tương tác—từ yêu cầu của người dùng đến phản hồi cuối cùng—Codex có thể kiểm tra mã nguồn, tìm kiếm lịch sử triển khai, đọc báo cáo sự cố, chỉnh sửa tệp và chạy kiểm thử. Mỗi bước đều có thể cần một yêu cầu riêng.

Việc chuẩn bị ngữ cảnh, truyền dữ liệu, chạy suy luận, gọi công cụ và khởi động quy trình đều tiêu tốn thời gian lẫn tài nguyên tính toán. Nếu một tác vụ cần 30 yêu cầu đến mô hình, mỗi giây phát sinh thêm cho từng yêu cầu sẽ cộng dồn đáng kể. Cải thiện hiệu năng tổng thể đòi hỏi phải giảm công việc lặp lại trong toàn hệ thống, chứ không chỉ làm cho mô hình chạy nhanh hơn.

Những hệ số nhân này đã định hướng cách chúng tôi thiết kế hệ thống điều khiển tác nhân—một lớp điều phối bằng Rust kết nối các mô hình, công cụ và môi trường của người dùng. Tiếp theo, chúng tôi sẽ trình bày cách hạn chế ngữ cảnh phình to, tải công cụ và tái sử dụng công việc để nâng cao hiệu suất của từng yêu cầu.

Khi tác nhân được cấp quyền truy cập vào nhiều công cụ, kỹ năng, plugin và lịch sử hội thoại hơn, cửa sổ ngữ cảnh có thể dễ dàng mở rộng. Điều này làm tăng chi phí, khiến mô hình mất tập trung và kích hoạt những bước suy luận không cần thiết. Hệ thống điều khiển có thể giảm chi phí này bằng cơ chế khám phá trì hoãn, nhờ đó các tích hợp, công cụ MCP tùy chỉnh, kỹ năng và plugin chỉ xuất hiện khi cần. Hệ thống điều khiển cũng ngăn từng công cụ và tích hợp MCP chiếm dụng cửa sổ ngữ cảnh ngoài dự kiến. Theo mặc định, đầu ra của công cụ bị giới hạn ở 10.000 token, trừ khi mô hình yêu cầu một giới hạn khác.

Như đã đề cập, trong một lượt tương tác, vòng lặp tác nhân có thể gửi cùng một bộ hướng dẫn, lịch sử hội thoại, định nghĩa công cụ và kết quả trước đó đến GPU nhiều lần. Việc xử lý các đầu vào lặp lại này rất tốn kém, vì vậy tính năng lưu bộ nhớ đệm câu lệnh sẽ tái sử dụng phần tính toán gắn với tiền tố của một câu lệnh đã xử lý trước đó. Để giữ nguyên tiền tố đó, hệ thống điều khiển coi toàn bộ lịch sử mà mô hình nhìn thấy là dữ liệu chỉ được phép nối thêm: tin nhắn mới, kết quả công cụ và cập nhật môi trường được thêm vào cuối thay vì chèn vào ngữ cảnh trước đó. Các công cụ cũng được trình bày theo thứ tự xác định, còn những chế độ cài đặt khi chạy, chẳng hạn như chính sách phê duyệt, được áp dụng trong quá trình thực thi thay vì nhúng vào định nghĩa công cụ. Lựa chọn thiết kế này góp phần giúp Codex và ChatGPT Công việc đạt tỷ lệ truy cập thành công bộ nhớ đệm câu lệnh cao trên tổng thể.

Những bước tiến về hiệu suất mà GPT‑5.6 mang lại là kết quả của nhiều năm cải tiến tích lũy trên toàn bộ hệ thống, từ nghiên cứu, suy luận đến hệ thống điều khiển tác nhân của chúng tôi. Vai trò của GPT‑5.6 trong việc hiện thực hóa nhiều cải tiến này khiến chúng tôi lạc quan rằng tốc độ tối ưu hóa sẽ ngày càng tăng. Chúng tôi sẽ tiếp tục đẩy mạnh các hoạt động như tối ưu hóa kernel, song song với những cải tiến nền tảng cho hệ thống của mình. Chúng tôi mong muốn chuyển những cải tiến liên tục ở tầng nền này thành năng lực trí tuệ có chi phí hiệu quả và được cung cấp rộng rãi hơn cho người dùng cũng như khách hàng.

Đặc biệt cảm ơn Matthew Ferrari, Philippe Tillet, Ahmed Ibrahim, Joe Gershenson và Steve Coffey, các thành viên đội ngũ kỹ thuật, vì những đóng góp cho bài viết này.