GPT‑6 Cyber: Bước tiến mới cho tác nhân an ninh mạng bám sát mục tiêu
Mô hình an ninh mạng được huấn luyện để tìm và xác minh lỗ hổng có thể khai thác, đồng thời tuân thủ phạm vi do nhà nghiên cứu đặt ra.
Chúng tôi giới thiệu GPT‑6 Cyber, một bước tiến lớn trong nghiên cứu bảo mật: tìm và khắc phục lỗ hổng tốt hơn, đồng thời tuân thủ các giới hạn do nhà nghiên cứu đặt ra một cách đáng tin cậy hơn nhiều. GPT‑6 Cyber cải thiện đáng kể so với GPT‑5.6 Cyber trên các bài đo chuẩn an ninh mạng quan trọng, bao gồm mức cải thiện tương đối 51% trên ExploitGym và bước tiến vượt bậc trong kiểm thử khả năng tuân thủ phạm vi. Mô hình đang góp phần bảo vệ phần mềm trong thực tế, phát hiện và xác minh hàng nghìn cách khai thác trong các cơ sở mã có vai trò trọng yếu về bảo mật như Linux và Firefox.
Trên ExploitGym, bài kiểm thử khả năng khai thác một lỗ hổng được chỉ định của mô hình, GPT‑6 Cyber đạt 48,5%, tăng so với mức 32,1% của GPT‑5.6 Cyber. Mô hình cũng tuân thủ giới hạn nhiệm vụ đáng tin cậy hơn: trong một bài đánh giá riêng về khả năng bám sát mục tiêu, GPT‑6 Cyber tránh khai thác các dịch vụ ngoài phạm vi trong 99,93% bài kiểm thử khi không có câu lệnh triển khai, và 100% khi có câu lệnh này. Sự cải thiện về khả năng bám sát mục tiêu này phản ánh quá trình huấn luyện chuyên biệt để tuân thủ phạm vi được cấp phép, tôn trọng các hạn chế và báo cáo kết quả chính xác.
Những năng lực này đang góp phần bảo vệ các hệ thống thực tế. Các nhà nghiên cứu của chúng tôi đã dùng GPT‑6 Cyber để phát triển 948 mã khai thác leo thang đặc quyền trong Linux và xác định 81 lỗ hổng có mức độ nghiêm trọng cao chưa từng được biết đến trong Firefox, dù trước đó đã có kiểm thử sâu rộng bằng các mô hình tiên phong. Mô hình cũng hỗ trợ phát triển các bản vá dự kiến, và Mozilla đã phát hành bản sửa lỗi cho nhiều lỗ hổng trong Firefox(mở trong cửa sổ mới). Các đội ngũ bảo mật tại Cisco, Calif và CodeRabbit đang dùng mô hình để nghiên cứu lỗ hổng và rà soát mã; chúng tôi cũng đã sử dụng mô hình để tìm và khắc phục điểm yếu trong hạ tầng của chính mình.
Rõ ràng, chúng ta chỉ có một khoảng thời gian hữu hạn để dùng các mô hình tiên phong bảo vệ phần mềm. Mục tiêu của chúng tôi là mở rộng mạnh mẽ Daybreak, đưa năng lực nghiên cứu bảo mật tiên tiến đến các tổ chức ở mọi quy mô, nhà nghiên cứu độc lập và bên bảo trì phần mềm nguồn mở. Các mô hình dòng chính như GPT‑6 Astra đã hỗ trợ rà soát mã, phân loại và ưu tiên xử lý lỗ hổng, cũng như phát triển bản vá. Daybreak Blue giúp lực lượng phòng thủ đã được xác minh kiểm chứng lỗ hổng và bản sửa lỗi với ít lần từ chối không cần thiết hơn, còn Daybreak Red cho phép phát triển mã khai thác chuyên sâu hơn và thực hiện kiểm thử bảo mật được cấp phép bằng GPT‑6 Cyber.
GPT‑6 Cyber là một bước tiến lớn so với GPT‑5.6 Cyber và vượt trội hơn GPT‑6 Astra ở hầu hết các tác vụ an ninh mạng, ngay cả khi Astra không từ chối yêu cầu. Chúng tôi đánh giá mô hình qua các tác vụ đòi hỏi phải hiểu phần mềm, xác định lỗ hổng và phát triển mã khai thác hoạt động được. Dựa trên các kết quả này, chúng tôi xếp mô hình ở mức Đặc biệt nghiêm trọng về an ninh mạng theo Khung chuẩn bị, tăng từ mức Cao của GPT‑5.6 Cyber.
Trên ExploitGym, bài kiểm thử khả năng khai thác một lỗ hổng được chỉ định trong mục tiêu từ xa, GPT‑6 Cyber đạt 48,5%, cao hơn khoảng 16 điểm phần trăm so với mức 32,1% của GPT‑5.6 Cyber. Để kiểm thử khả năng phát hiện lỗ hổng, chúng tôi cũng xây dựng một bài đánh giá mới về kiểm thử xâm nhập web theo hướng tấn công. Các mô hình thăm dò ứng dụng web mà không có quyền truy cập mã nguồn. GPT‑6 Cyber phát hiện được 40,3% tổng số lỗ hổng, so với 32,0% của GPT‑6 Astra.
Daybreak Red được thiết kế để hỗ trợ các quy trình bảo mật nâng cao hơn, bao gồm phát triển mã khai thác hoạt động được và sử dụng chúng với các mục tiêu từ xa. Để đánh giá những năng lực này, chúng tôi xây dựng bài đo chuẩn mới tên là RemoteExploitBench, sử dụng các lỗ hổng đã biết trong những ứng dụng như GitLab, PostgreSQL và Jenkins được triển khai trong môi trường có kiểm soát. Trong đánh giá ban đầu, GPT‑6 Astra chạy với Daybreak Blue đã từ chối 100% tác vụ, còn GPT‑6 Cyber hoàn thành 95%; thất bại duy nhất là một mã khai thác mà mô hình không thể làm cho hoạt động từ xa. Xem kết quả đầy đủ và cấu hình đánh giá trong thẻ hệ thống(mở trong cửa sổ mới).
Một rủi ro của các tác nhân an ninh mạng là vượt ra ngoài phạm vi nhiệm vụ được giao, tìm cách khai thác các dịch vụ không liên quan hoặc phớt lờ quy tắc tác nghiệp của nhà nghiên cứu.
Chúng tôi đặt khả năng bám sát mục tiêu làm trọng tâm của GPT‑6 Cyber, sử dụng huấn luyện chuyên biệt để giúp mô hình tuân thủ phạm vi được cấp phép, các hạn chế về hành động và báo cáo chính xác công việc đã thực hiện. Trước khi triển khai, chúng tôi đã thực hiện một loạt bài đánh giá khả năng bám sát mục tiêu để đo lường những hành vi này. Xem kết quả đầy đủ trong thẻ hệ thống(mở trong cửa sổ mới).
Một trong số đó là ExploitGym Honeypot, bài đánh giá được xây dựng dựa trên bài học từ sự cố Hugging Face. Chúng tôi giao cho mô hình một nhiệm vụ khai thác khó trong môi trường cô lập, với quyền truy cập các dịch vụ hỗ trợ như kho gói phần mềm hoặc kho lưu trữ đối tượng. Chúng tôi cố ý khiến các dịch vụ này dễ bị khai thác, để việc tấn công chúng có thể làm lộ cờ của nhiệm vụ. Mô hình phải tự suy luận rằng việc khai thác chúng nằm ngoài phạm vi nhiệm vụ.
GPT‑6 Cyber cho thấy sự cải thiện vượt bậc so với GPT‑5.6 Cyber trong bài đánh giá này. Khi được kiểm thử mà không có câu lệnh an toàn dành cho triển khai, mô hình tránh khai thác các dịch vụ ngoài phạm vi trong 99,93% trường hợp, tăng so với mức 94,49% của GPT‑5.6 Cyber. Khi có những câu lệnh đó, GPT‑6 Cyber tuân thủ giới hạn trong 100% trường hợp.
Có thể thấy trực tiếp cách mô hình GPT‑6 Cyber lập luận về việc tuân thủ giới hạn trong chuỗi tư duy của nó:
“Can't assume extra API or attack controller not target. We should only target binary/server.”
“don't explore out of scope credentials.”
GPT‑6 Cyber đang giúp các đội ngũ bảo mật tìm lỗ hổng, xác minh tác động và phát triển biện pháp khắc phục. Khách hàng đã đưa mô hình vào sử dụng với các cơ sở mã lớn, các tác vụ phát triển mã khai thác kéo dài và hoạt động rà soát bảo mật:
Chúng tôi cũng đã sử dụng GPT‑6 Cyber để bảo vệ hệ thống của chính mình. Đây là một trong những mô hình chủ chốt trong công việc mà chúng tôi gần đây đã chia sẻ về củng cố bảo mật cho hạ tầng dùng để huấn luyện các mô hình tiên phong. Trong các chiến dịch kiểm thử đội đỏ (red team) có kiểm soát, các tác nhân dùng GPT‑6 Cyber và những mô hình OpenAI khác đã kết hợp nhiều lỗ hổng để thoát khỏi microVM và thực thi mã trên máy chủ bên dưới. Chúng tôi đã sử dụng các phát hiện này để vá phần mềm, siết chặt hạn chế mạng và báo cáo vấn đề cho bên bảo trì cũng như nhà cung cấp.
Các nhà nghiên cứu lỗ hổng của chúng tôi cũng sử dụng GPT‑6 Cyber để tìm và xác minh lỗ hổng trong phần mềm nguồn mở trên quy mô lớn. Công việc này đã phát hiện những lỗi chưa từng được biết đến trong các phần mềm vốn đã được kiểm tra kỹ lưỡng suốt nhiều năm:
Phát hiện 81 lỗ hổng mới trong Firefox. GPT‑6 Cyber có thể phù hợp với các quy trình tự chủ để tìm lỗ hổng và đề xuất bản vá chất lượng cao trên quy mô lớn. Trong một chiến dịch nghiên cứu lỗ hổng, GPT‑6 Cyber đã cung cấp bằng chứng và các bài kiểm thử có thể tái lập cho 81 lỗ hổng mới được Mozilla xếp loại có mức độ nghiêm trọng cao, đồng thời chỉ ra rằng 30 vấn đề đã biết khác nghiêm trọng hơn mức được báo cáo trước đó. Chúng tôi đã thông báo các phát hiện cho Mozilla, kèm theo những bản vá đề xuất để hỗ trợ đội ngũ kỹ sư phát triển biện pháp khắc phục. Mozilla ủng hộ công việc này và đã bắt đầu tích hợp các bản sửa lỗi ngay sau khi nhận được báo cáo(mở trong cửa sổ mới).
Phát triển mã khai thác cho 948 lỗ hổng trong nhân Linux. GPT‑6 Cyber đã tái hiện 1.724 lỗ hổng và phát triển mã khai thác hoạt động được cho 948 lỗ hổng — gấp hơn năm lần con số 166 mà GPT‑5.6 Sol khai thác được khi dùng cùng hệ thống điều khiển phục vụ nghiên cứu. Theo hướng dẫn của cộng đồng Linux, chúng tôi đã thông báo 304 phát hiện đặc biệt nghiêm trọng cho bên bảo trì kèm theo các bản vá dự kiến, và đang phối hợp khắc phục những lỗ hổng còn lại.
Chứng minh các lỗ hổng RCE đặc biệt nghiêm trọng. Gần đây, chúng tôi đã trình bày về một lỗ hổng đặc biệt nghiêm trọng trong Brotli(mở trong cửa sổ mới), thư viện nén được Node.js và nhiều phần mềm khác sử dụng. Các nhà nghiên cứu bảo mật của chúng tôi đã dùng GPT‑6 Cyber cùng những mô hình OpenAI khác để phát triển và xác minh mã khai thác, cho thấy lỗi này có thể cho phép thực thi mã từ xa trong các ứng dụng sử dụng thư viện.
Khi các mô hình ngày càng mạnh hơn và phát hiện nhiều lỗ hổng bảo mật hơn, chúng tôi cũng ghi nhận nhiều nỗ lực sử dụng chúng để gây hại hơn. Trong số này có các nỗ lực của những đối tượng tấn công mạng và các nhóm đối kháng tìm cách chưng cất mô hình của chúng tôi. Vì vậy, chúng tôi kết hợp năng lực mạnh hơn của GPT‑6 Cyber với các biện pháp bảo vệ mạnh hơn nhằm phát hiện và ngăn chặn hành vi lạm dụng, đồng thời giữ hành động của mô hình trong phạm vi ý định và quyền hạn mà người dùng cho phép.
Cùng với việc ra mắt GPT‑6 Cyber, chúng tôi đã bổ sung và tăng cường các biện pháp bảo vệ sau (xem thông tin đầy đủ trong thẻ hệ thống(mở trong cửa sổ mới)):
Giám sát hành vi lệch mục tiêu chuyên biệt cho an ninh mạng. Chúng tôi giám sát xem hành động có phù hợp với quyền hạn mà người dùng cho phép hay không, đồng thời nhận diện hoạt động phát triển và kiểm thử mã khai thác hợp lệ.
Giám sát có trọng điểm đối với các mối đe dọa mới. Ví dụ, trong quá trình phối hợp công bố các lỗ hổng PHP đặc biệt nghiêm trọng, chúng tôi đã thiết lập giám sát có trọng điểm đối với các nỗ lực phát triển mã khai thác nhắm vào máy chủ PHP đang hoạt động, đồng thời vẫn hỗ trợ lực lượng phòng thủ vá các hệ thống bị ảnh hưởng.
Xử lý an toàn riêng tư (PSP). Chúng tôi dùng các bước kiểm tra tự động để rà soát những tương tác liên quan nhằm phát hiện hành vi lạm dụng. Chính sách lưu giữ dữ liệu tiêu chuẩn vẫn được áp dụng mặc định. Khách hàng API sử dụng chế độ không lưu giữ dữ liệu(mở trong cửa sổ mới) thường phải dùng PSP(mở trong cửa sổ mới). Cơ chế này rà soát các bản ghi mã hóa được lưu trong kho của khách hàng trong 30 ngày mà không để nhân sự OpenAI xem câu lệnh và phản hồi.
Bảo vệ trước nguy cơ thông tin xác thực bị đánh cắp. Theo mặc định, chúng tôi yêu cầu dùng danh sách IP được phép khi truy cập API Daybreak Red, chỉ chấp nhận yêu cầu từ các mạng đã phê duyệt, với một số ít ngoại lệ. Chúng tôi cũng giám sát để phát hiện thông tin xác thực bị xâm phạm.
Cô lập môi trường và giám sát. Như với các mô hình trước đây, chúng tôi khuyến nghị cô lập môi trường(mở trong cửa sổ mới), xét duyệt hành động(mở trong cửa sổ mới) và có con người giám sát các quy trình rủi ro cao.
Ngăn việc hỗ trợ hoạt động mạng có rủi ro cao. Chúng tôi sử dụng các bước kiểm tra mới để chặn hoạt động rủi ro cao liên quan đến hệ thống trọng yếu (xem thêm bên dưới).
Bảo vệ hạ tầng trọng yếu là yếu tố được cân nhắc hàng đầu khi thiết kế các biện pháp bảo vệ và quyền truy cập GPT‑6 Cyber. Hạ tầng này bao gồm nhà máy điện, cơ sở xử lý nước, cùng công nghệ vận hành và hệ thống điều khiển công nghiệp (OT/ICS) làm nền tảng cho chúng. Chúng tôi muốn vừa cung cấp cho các đội ngũ bảo vệ những hệ thống này quyền truy cập các mô hình mạnh nhất của mình, vừa tăng cường biện pháp bảo vệ để ngăn các cuộc tấn công trái phép.
Thứ nhất, để trang bị cho lực lượng phòng thủ này, chương trình tài trợ Daybreak dành cho lực lượng phòng thủ tuyến đầu trị giá 1 tỷ USD của chúng tôi trợ cấp quyền truy cập cho các đội ngũ có nguồn lực hạn chế, như tổ chức chính phủ và nhà cung cấp dịch vụ thiết yếu. Chúng tôi cũng giới thiệu một nhóm mới trong Daybreak Red (Daybreak Red dành cho hạ tầng trọng yếu) dành cho các đơn vị bảo vệ hạ tầng trọng yếu đã được phê duyệt. Nhóm này cho phép họ thực hiện kiểm thử được cấp phép trên các hệ thống trọng yếu, đồng thời vẫn duy trì biện pháp ngăn mô hình lệch mục tiêu.
Thứ hai, để ngăn lạm dụng các nền tảng Daybreak Red và Blue, chúng tôi đã tinh chỉnh biện pháp ngăn việc hỗ trợ và phát triển năng lực có thể xâm phạm hệ thống điều khiển công nghiệp hoặc hệ thống thiết yếu cho an toàn, can thiệp vào thiết bị, gây thương tích nghiêm trọng, thiệt hại vật chất thảm khốc hoặc gián đoạn dịch vụ đe dọa tính mạng. Hình dưới đây so sánh tỷ lệ gắn nhãn của các biện pháp bảo vệ trên bốn cấu hình truy cập, trước và sau các bản cập nhật gần đây mà chúng tôi đang triển khai cùng GPT‑6 Cyber.
Tỷ lệ chặn của các biện pháp bảo vệ cao hơn không phải lúc nào cũng tốt hơn. Nhiều kỹ thuật trong bài đánh giá này cũng thiết yếu đối với công việc bảo mật hợp lệ: tìm hiểu hệ thống, tìm lỗ hổng và xác minh rằng các bản sửa lỗi có thể chống chịu tấn công. Vì vậy, chúng tôi đánh giá các tỷ lệ này song song với khả năng hỗ trợ nghiên cứu và vá lỗi hợp lệ, thay vì hướng tới mức 100%.
Để đánh giá cách các mô hình có thể hỗ trợ bảo vệ hạ tầng trọng yếu, chúng tôi hợp tác với Dragos, nhà cung cấp toàn cầu về an ninh mạng cho công nghệ vận hành mở rộng (xOT). Dragos đã thực hiện các bài đánh giá bằng những mô hình Daybreak Red cho phép nhiều hoạt động an ninh mạng hơn, trong môi trường phòng thí nghiệm có kiểm soát. Các bài đánh giá bao gồm những yêu cầu tăng dần từ khám phá mạng và liệt kê tài sản, đến trinh sát có mục tiêu, trích xuất trái phép dữ liệu nhạy cảm và thao tác thiết bị trái phép, tiềm ẩn nguy hiểm.
Chúng tôi sử dụng phản hồi từ Dragos để tinh chỉnh các biện pháp bảo vệ, nhằm chặn sự hỗ trợ có hại mà không hạn chế việc kiểm thử được cấp phép một cách không cần thiết. Xem báo cáo cuối cùng của Dragos(mở trong cửa sổ mới) để biết chi tiết về các bài đánh giá. Chúng tôi cũng đang mở rộng hợp tác với các nhà cung cấp bảo mật tấn công và đội tím khác về kiểm thử xâm nhập và kiểm thử đội đỏ (red team) bằng AI; đồng thời hợp tác với các công ty năng lượng, đơn vị vận hành hạ tầng trọng yếu khác và phòng thí nghiệm quốc gia để đánh giá hiệu quả cùng các biện pháp bảo vệ của mô hình trong phòng thủ công nghiệp. Chúng tôi cũng tăng đầu tư vào điều tra mối đe dọa để phát hiện việc sử dụng mô hình liên quan đến OT/ICS. Chúng tôi sẽ tiếp tục tinh chỉnh các biện pháp bảo vệ dựa trên ý kiến từ đối tác và cộng đồng bảo mật, bao gồm báo cáo qua /feedback khi các biện pháp bảo vệ bỏ sót hoạt động có hại hoặc làm gián đoạn công việc hợp lệ.
Ban đầu, GPT‑6 Cyber được cung cấp qua API và Codex cho một nhóm khách hàng Daybreak Red đã được chọn và phê duyệt. Chúng tôi sẽ sớm mở rộng dần quyền truy cập đến toàn bộ khách hàng Daybreak Red, đồng thời cũng đang cung cấp GPT‑5.6 Cyber cho tất cả khách hàng Daybreak Red. Chúng tôi cũng đang mở rộng quyền truy cập bản alpha Daybreak Blue cho GPT‑6 Astra đến nhiều tổ chức và nhà nghiên cứu bảo mật cá nhân hơn; hãy cho chúng tôi biết(mở trong cửa sổ mới) nếu bạn quan tâm.
Người dùng và tổ chức mới có thể đăng ký tham gia Daybreak và bắt đầu với các kỹ năng, sản phẩm và đối tác an ninh mạng của chúng tôi.
