Ứng phó với bước tiến mới về năng lực mạng trọng yếu

An ninh mạng đang thay đổi nhanh chóng khi các mô hình ngày càng mạnh hơn, vừa có thể củng cố hệ thống phòng thủ mạng, vừa có thể tạo điều kiện cho các cuộc tấn công với tốc độ và quy mô chưa từng có.

Các đánh giá nội bộ mới nhất trong vài ngày qua về Astra, một trong những mô hình sắp ra mắt của chúng tôi, cho thấy những bước tiến đáng kể trong lập trình tác nhân và an ninh mạng. Cùng với nhận định của các chuyên gia, những kết quả này đã khiến chúng tôi đi đến kết luận vào tối qua rằng không thể loại trừ khả năng mô hình đạt năng lực mạng mức trọng yếu theo Khung chuẩn bị⁠(mở trong cửa sổ mới) của chúng tôi.

Chúng tôi chia sẻ thông tin này vì tin rằng cần minh bạch với công chúng cũng như cộng đồng an toàn và an ninh về sự thay đổi tiềm tàng này trong năng lực của mô hình.

Chúng tôi công bố Khung chuẩn bị lần đầu vào tháng 12 năm 2023, từ rất lâu trước khi các mô hình tiến gần đến năng lực ở cấp độ này trong các lĩnh vực sinh học, hóa học, an ninh mạng và khả năng AI tự cải thiện. Chúng tôi xây dựng khung này để định hướng việc xác định những bước tiến về năng lực và lên kế hoạch cho những việc công ty sẽ thực hiện khi các năng lực đó xuất hiện. Các mô hình trước đây, bao gồm GPT‑5.6‑Sol, đã được đánh giá về năng lực mạng tiên phong và được xếp ở ngưỡng Cao (thay vì Trọng yếu).

Theo Khung chuẩn bị, một mô hình đạt ngưỡng an ninh mạng Trọng yếu nếu có thể tự xác định và phát triển mã khai thác zero-day hoạt động được ở mọi mức độ nghiêm trọng trên nhiều hệ thống trọng yếu thực tế đã được gia cố mà không cần con người can thiệp; hoặc nếu chỉ từ một mục tiêu khái quát, mô hình có thể xây dựng và thực thi toàn bộ các chiến lược tấn công mạng mới nhằm vào những mục tiêu đã được gia cố. 

Trong khi tiếp tục đo kiểm và đánh giá mô hình này, các kết quả sơ bộ cho thấy hiệu suất đủ mạnh để chúng tôi hiện chưa thể loại trừ khả năng mô hình đạt năng lực mức Trọng yếu. Astra là một mô hình sắp ra mắt và không tham gia vào việc khai thác Hugging Face. 

Theo đó, chúng tôi đã mở rộng quy mô kiểm thử độ vững chắc của các biện pháp bảo vệ và kiểm soát an ninh để bảo đảm chúng phù hợp với việc triển khai những năng lực này. Trong nội bộ, chúng tôi cũng đã thực hiện các biện pháp sau để bảo đảm quá trình phát triển tiếp theo của mô hình này diễn ra an toàn và bảo mật: 

• Chúng tôi đang áp dụng các biện pháp kiểm soát an ninh nghiêm ngặt hơn cho những mô hình có năng lực cao hơn và các hoạt động liên quan, bao gồm môi trường kiểm thử biệt lập; quyền truy cập mạng và công cụ bị hạn chế; tăng cường bảo vệ và mã hóa trọng số mô hình; bổ sung khả năng giám sát, phát hiện; cùng cơ chế thực thi trong hộp cát.
• Chúng tôi đang tạm dừng những hoạt động nội bộ liên quan đến Astra chưa đáp ứng các yêu cầu kiểm soát an ninh tăng cường này.
• Chúng tôi đã triển khai cơ chế giám sát toàn diện đối với các hành động rủi ro và tình trạng lệch chuẩn trong mọi ứng dụng tác nhân của Astra, bao gồm cả quá trình huấn luyện và đánh giá. Các hệ thống giám sát đánh giá Chuỗi suy luận của mô hình và kích hoạt biện pháp ứng phó an ninh để xem xét, ngăn chặn hoạt động có rủi ro cao.
• Chúng tôi sẽ phối hợp với các cơ quan chính phủ liên quan và một số tổ chức an toàn AI được chọn để kiểm thử năng lực của mô hình này.
• Chúng tôi sẽ cung cấp cho các đối tác kiểm thử bên thứ ba những biện pháp kiểm soát an ninh được khuyến nghị để họ thực hiện an toàn các đánh giá và khối lượng công việc có rủi ro cao hơn. 

Khung này đã định hướng cho chúng tôi trong những lần chuyển đổi năng lực khác. Vào tháng 6 năm 2025, khi các mô hình của chúng tôi tiến gần đến ngưỡng năng lực cao về sinh học theo Khung chuẩn bị, chúng tôi đã trình bày các biện pháp đang thực hiện để tăng cường bảo vệ, mở rộng kiểm thử, hợp tác với chuyên gia bên ngoài và triển khai thêm các biện pháp kiểm soát an ninh. Chúng tôi đang áp dụng nguyên tắc tương tự trong trường hợp này.

Chúng tôi tin rằng các mô hình tiên tiến có năng lực mạng nên giúp bên phòng thủ xác định và khắc phục lỗ hổng trước những kẻ tấn công. Chúng tôi cam kết hợp tác với các chính phủ, viện an toàn và tổ chức xã hội dân sự để bảo đảm những năng lực tiên phong của các mô hình như Astra và các thế hệ tiếp theo được triển khai có trách nhiệm, rộng rãi vì lợi ích của toàn nhân loại.