Hợp tác với Hacktron để tìm lỗ hổng trong các hệ thống của OpenAI

Hôm nay, chúng tôi công bố hợp tác với Hacktron để tìm lỗ hổng trong các hệ thống của OpenAI. Các kỹ sư của chúng tôi và các nhà nghiên cứu bảo mật của Hacktron sẽ chọn những lĩnh vực ưu tiên cao để cùng kiểm thử, tập trung vào cách các hệ thống của chúng tôi tương tác với dịch vụ bên thứ ba. Trong khuôn khổ hợp tác này, chúng tôi đang mở rộng quyền truy cập của Hacktron vào các mô hình tiên phong của mình thông qua Daybreak Red.

Trong khi nỗ lực đẩy nhanh công tác phòng thủ mạng bằng AI tiên phong, chúng tôi cũng khẩn trương tìm và khắc phục lỗ hổng trong chính các hệ thống của mình. Đầu tuần này, chúng tôi đã thông báo rằng các nhà nghiên cứu của Cathedral sẽ sát cánh cùng các nhóm của chúng tôi trong đợt tăng cường bảo mật tiếp theo. Chúng tôi cũng đã nâng mức thưởng tìm lỗi để tạo thêm động lực cho các nhà nghiên cứu độc lập tìm kiếm những lỗ hổng mà quá trình kiểm thử nội bộ có thể đã bỏ sót.

Chúng tôi biết đến Hacktron qua chương trình Thưởng tìm lỗi bảo mật và ấn tượng với tầm ảnh hưởng của những lỗ hổng mà các nhà nghiên cứu của họ đã phát hiện và báo cáo cho chúng tôi. Đội ngũ này xây dựng các tác nhân AI để rà soát mã, kiểm thử xâm nhập và kiểm thử đội đỏ (red team). Các nghiên cứu⁠(mở trong cửa sổ mới) của họ đã phát hiện lỗ hổng trong cách các ứng dụng, hạ tầng đám mây và hệ thống danh tính tương tác với nhau. Công việc của họ cho thấy những gì các kỹ sư bảo mật có thể đạt được khi xây dựng giải pháp xoay quanh AI để tăng tốc và thực hiện những nghiên cứu tham vọng hơn.

Khi các tác nhân AI kết nối dịch vụ theo những cách mới, sự kết hợp các kỹ năng đó càng trở nên giá trị. Hợp tác cùng Hacktron sẽ giúp chúng tôi kiểm thử những kết nối đó kỹ lưỡng hơn và vận dụng những gì học được để tăng cường khả năng phòng thủ.

Chúng tôi biết ơn Hacktron và các nhà nghiên cứu độc lập khác đã dành thời gian tìm kiếm và báo cáo điểm yếu, góp phần tăng cường bảo mật để bảo vệ tất cả người dùng của chúng tôi. Để xem những hệ thống nào nằm trong phạm vi kiểm thử hoặc gửi báo cáo phát hiện lỗ hổng, hãy truy cập chương trình Thưởng tìm lỗi bảo mật⁠(mở trong cửa sổ mới) của chúng tôi.