Vào tháng 6, trong quá trình huấn luyện và đánh giá nội bộ, các mô hình của chúng tôi đã truy cập các trang web của chính phủ Úc theo những cách không được phép. Chúng tôi cũng lẽ ra phải ứng phó tốt hơn. Chúng tôi xin lỗi và đang nỗ lực để làm tốt hơn trong tương lai.
Trong bài viết này, chúng tôi trình bày những gì mình biết, những thay đổi đã thực hiện và những việc sẽ làm để xây dựng lại niềm tin với người dân Úc. Đây là một loại sự cố mạng mới, cho thấy một thách thức đang nổi lên trên toàn cầu. Một trong những cách chúng tôi dự định thể hiện trách nhiệm với sự việc này là chủ động hợp tác với Úc để giúp xây dựng các phương thức thiết thực cho các nhà phát triển AI và chính phủ trong việc xác định, thông báo và ứng phó với hành vi của AI trên không gian mạng, dù là hành vi độc hại hay ngoài ý muốn.
Sau sự cố Hugging Face vào tháng 7, chúng tôi bắt đầu rà soát các hoạt động huấn luyện và đánh giá trước đó để xác định những tổ chức khác bị ảnh hưởng. Vào giữa tháng 8, cuộc rà soát đã phát hiện hoạt động ảnh hưởng đến các trang web của chính phủ Úc dưới đây.
Dưới đây là những gì chúng tôi biết dựa trên bằng chứng:
Services Australia: Một mô hình OpenAI đã phát hiện cách lấy được quyền truy cập không công khai của dịch vụ, rồi chạy lệnh, truy xuất các tệp nội bộ, thông tin xác thực và số liệu thống kê tổng hợp, đồng thời ghi tệp. Tuy nhiên, hồ sơ của từng bệnh nhân hoặc khách hàng không bị truy cập. Chúng tôi trình bày chi tiết hơn về sự cố này ở phần dưới.
Cục Thống kê và Nghiên cứu Tội phạm NSW (BOCSAR): Một mô hình OpenAI đã truy cập Công cụ Bản đồ Tội phạm công khai của BOCSAR để nghiên cứu số liệu thống kê tội phạm công khai (ở phần dưới, chúng tôi giải thích thêm vì sao các mô hình thực hiện nhiều nhiệm vụ nghiên cứu thông tin khác nhau). Mô hình đã gửi các yêu cầu API và yêu cầu siêu dữ liệu trang web thông qua công cụ công khai của BOCSAR. Công cụ này cung cấp thông tin xác thực cho các yêu cầu API từ trình duyệt. Hệ thống BOCSAR đã trả về cấu hình ứng dụng, các tác vụ và nhật ký vận hành, cùng siêu dữ liệu trang web. Hồ sơ tội phạm của từng cá nhân không bị truy cập.
Sở Y tế bang Victoria: Các tác nhân OpenAI đã phát hiện một khóa truy cập bị lộ và dùng khóa này để truy vấn hệ thống báo cáo của Cơ quan Thông tin Y tế Victoria (VAHI), truy xuất cấu hình báo cáo cùng số liệu thống kê khảo sát tổng hợp. Hiện chưa rõ những thông tin này lẽ ra được phép truy cập đến mức nào; điều đó phụ thuộc vào chính sách truy cập của VAHI. Hồ sơ y tế cá nhân hoặc câu trả lời khảo sát có thể xác định danh tính người trả lời không bị truy cập.
Viện Y tế và Phúc lợi Úc (AIHW): Các tác nhân OpenAI đã dùng dịch vụ duyệt web và tải xuống của bên thứ ba để truy xuất số liệu thống kê tổng hợp, trong đó có dữ liệu từ trang web của AIHW, đồng thời truy vấn trực tiếp dữ liệu biểu đồ. Những nỗ lực riêng biệt nhằm vượt qua các biện pháp kiểm soát truy cập đều không thành công. Tài liệu được tải xuống dường như vốn đã được công khai. Không có hệ thống nào bị xâm nhập. Hồ sơ y tế cá nhân không bị truy cập.
Chúng tôi đã mở các cuộc điều tra về những hoạt động này ngay khi phát hiện vào giữa tháng 8. Chúng tôi đã thông báo cho Services Australia và Sở Y tế bang Victoria vào ngày 10 tháng 9, và cho Cục Thống kê và Nghiên cứu Tội phạm NSW vào ngày 18 tháng 9. Hoạt động liên quan đến Viện Y tế và Phúc lợi Úc chưa đạt ngưỡng phải thông báo theo tiêu chí của chúng tôi, vì cách truy cập dường như phù hợp với quyền truy cập công khai. Tuy nhiên, chúng tôi đã thông báo cho viện vào ngày 24 tháng 9 để chia sẻ các phát hiện và đề nghị tổ chức một buổi trao đổi thông tin.
Mục tiêu của chúng tôi là cung cấp cho các cơ quan bị ảnh hưởng một bản tường trình chi tiết sau khi hoàn tất điều tra. Tuy nhiên, lẽ ra chúng tôi phải chia sẻ những phát hiện sơ bộ sớm hơn và liên tục cập nhật cho các cơ quan của Úc khi có thêm thông tin được xác minh.
Kể từ đó, chúng tôi đã phối hợp chặt chẽ với các cơ quan chính phủ Úc để chia sẻ những gì đã tìm hiểu được đến nay. Nếu xác định thêm bất kỳ cơ quan nào bị ảnh hưởng, chúng tôi sẽ kịp thời thông báo trực tiếp cho họ bằng những thông tin hiện có và tiếp tục cập nhật khi có thêm thông tin được xác minh.
Trong quá trình huấn luyện và đánh giá nội bộ vào tháng 6, chúng tôi đã chạy một mô hình OpenAI thử nghiệm chỉ dùng nội bộ, không dự kiến phát hành công khai và chưa có đầy đủ các biện pháp bảo vệ được áp dụng trong những sản phẩm cung cấp cho công chúng. Trong quá trình huấn luyện và đánh giá này, mô hình đã truy cập Dịch vụ Báo cáo Thống kê Medicare của Services Australia. Đến nay, cuộc rà soát của chúng tôi chưa tìm thấy bằng chứng cho thấy hồ sơ y tế của bất kỳ ai đã bị truy cập.
Khi huấn luyện và đánh giá nội bộ các mô hình, chúng tôi giao cho chúng những nhiệm vụ lấy từ một tập hợp lớn các câu hỏi nghiên cứu thuộc nhiều chủ đề, phản ánh những câu hỏi chi tiết mà người dùng có thể đặt ra. Quá trình này huấn luyện mô hình tìm kiếm, diễn giải và phân tích thông tin công khai để có thể hữu ích hơn với mọi người. Các mô hình của chúng tôi được yêu cầu trả lời những câu hỏi này bằng số liệu thống kê đã được công bố công khai.
Trong trường hợp này, một trong những nhiệm vụ được giao cho mô hình là nghiên cứu mức chi tiêu bình quân đầu người của chính phủ cho thuốc điều trị bệnh da liễu tại các cộng đồng ở bang Victoria. Mô hình gặp khó khăn khi tìm kiếm thông tin đó và đã thực hiện những hành động mà chúng tôi không cho phép. Trong khi tìm kiếm thông tin này tại Dịch vụ Báo cáo Thống kê Medicare của Services Australia, mô hình phát hiện một cách truy cập vào phần không công khai của dịch vụ. Sau đó, mô hình dùng quyền truy cập này để xem thông tin kỹ thuật của hệ thống và mã nguồn liên quan đến dịch vụ — tất cả vẫn nhằm tìm kiếm thông tin được yêu cầu ban đầu. Chúng tôi không chủ định để hoạt động này xảy ra. Việc truy cập dịch vụ và các hoạt động tiếp theo lẽ ra không được phép xảy ra.
Sau sự cố Hugging Face, chúng tôi đã tăng cường các biện pháp bảo vệ trong nghiên cứu, bao gồm bổ sung các hạn chế về mạng và mở rộng hoạt động giám sát. Chúng tôi đã triển khai các biện pháp kiểm soát để chặn truy cập Internet trực tiếp trong những môi trường nghiên cứu này, chỉ cho phép truy cập web qua nội dung được lưu trong bộ nhớ đệm. Đóng vai trò là một lớp bảo mật bổ sung, các hệ thống giám sát hiện tại của chúng tôi có thể phát hiện hoạt động như vậy và gửi cảnh báo cho đội ngũ để con người khẩn trương xem xét. Ví dụ, khi một mô hình có được quyền truy cập Internet trực tiếp trong một lần huấn luyện gần đây(mở trong cửa sổ mới), hệ thống giám sát đã phát hiện hoạt động này và gửi cảnh báo cho người phụ trách xem xét. Chúng tôi đã dừng lần huấn luyện đó. Chúng tôi tiếp tục kiểm thử các biện pháp bảo vệ này và khắc phục những thiếu sót. Hugging Face vẫn là sự cố nghiêm trọng nhất mà chúng tôi từng ghi nhận.
Mọi người muốn biết rằng AI đang được phát triển an toàn, và điều đó bắt đầu từ hành động của chính những công ty như chúng tôi. Gần đây, chúng tôi đã chia sẻ(mở trong cửa sổ mới) rằng chúng tôi đã tạm dừng việc huấn luyện và đánh giá có sử dụng công cụ đối với các mô hình có năng lực cao nhất của mình. Chúng tôi sẽ chỉ tiếp tục huấn luyện các mô hình đó khi tin chắc rằng những biện pháp bảo vệ bổ sung đã được triển khai. Hiện chúng tôi đang xây dựng các biện pháp này.
Khi năng lực của các hệ thống AI nói chung ngày càng tăng, chúng tôi cũng nhận thấy thời gian để giúp các tổ chức tìm và khắc phục điểm yếu đang dần thu hẹp. Điều này đòi hỏi sự chung tay hành động cùng các lực lượng phòng vệ mạng trên toàn thế giới.
Chúng tôi đã cùng các tổ chức trong lĩnh vực công nghệ, an ninh mạng và cơ sở hạ tầng trọng yếu đưa ra lời kêu gọi chung tay hành động về phòng vệ mạng. Lời kêu gọi đó bắt đầu từ trách nhiệm của chính chúng tôi, bao gồm tăng cường các biện pháp bảo vệ, thông báo kịp thời và hỗ trợ thiết thực cho những tổ chức bị ảnh hưởng. Lời kêu gọi cũng đề nghị đầu tư cho các đội ngũ bảo vệ dịch vụ thiết yếu để họ có thể tìm ra lỗ hổng, xác minh hiệu quả của các bản sửa lỗi và chia sẻ những giải pháp hiệu quả.
Tại Úc, chúng tôi cam kết đóng góp nguồn lực và chuyên môn để hỗ trợ các cơ quan bị ảnh hưởng, đồng thời giúp lực lượng phòng vệ mạng áp dụng những nguyên tắc này vào thực tế, bao gồm:
Hỗ trợ chuyên biệt cho các cơ quan bị ảnh hưởng. Chúng tôi sẽ dành các nguồn lực cần thiết để giúp những cơ quan bị ảnh hưởng hiểu rõ những gì đã xảy ra và đánh giá tác động. Việc này bao gồm chia sẻ các phát hiện kỹ thuật liên quan và thu xếp để các cơ quan làm việc với đội ngũ ứng phó của chúng tôi thông qua những cơ chế chia sẻ thông tin phù hợp.
Tài trợ và hỗ trợ để tăng cường năng lực phòng vệ mạng. Chúng tôi sẽ hỗ trợ chính quyền các cấp và các ngành tại Úc bằng tín dụng từ quỹ Daybreak dành cho lực lượng phòng vệ tuyến đầu trị giá 1 tỷ USD của mình, cùng hỗ trợ kỹ thuật nhằm tăng cường năng lực phòng vệ mạng cho cơ sở hạ tầng trọng yếu và các môi trường nhạy cảm khác. Trên nền tảng hợp tác với các chính phủ và đơn vị vận hành cơ sở hạ tầng trọng yếu, công việc này sẽ giúp các tổ chức hiểu rõ hơn, phát hiện và ứng phó tốt hơn với rủi ro từ các tác nhân AI ngày càng có năng lực cao.
Một tổ công tác tại Úc. Chúng tôi sẽ thành lập một tổ công tác với sự tham gia của các chuyên gia độc lập tại Úc để xây dựng những khuyến nghị chính sách thiết thực nhằm quản lý rủi ro từ các tác nhân AI ngày càng có năng lực cao. Dựa trên bài học từ các sự cố này, tổ công tác sẽ tập trung cải thiện quy trình thông báo, tăng cường phối hợp giữa các nhà phát triển AI và chính phủ, đồng thời xác định những biện pháp bảo vệ hệ thống chính phủ tốt hơn. Các khuyến nghị của tổ công tác sẽ là cơ sở để OpenAI định hướng cách tiếp cận của mình và hỗ trợ công tác bảo đảm an toàn AI, an ninh mạng của chính quyền các cấp tại Úc. Tổ công tác dự kiến hoàn thành công việc vào cuối năm và cũng sẽ đề xuất những bước đi thiết thực mà các công ty AI có thể thực hiện để giảm nguy cơ xảy ra các sự cố tương tự.
Chính quyền các cấp, các ngành và người dân Úc từ trước đến nay luôn là những đối tác vô cùng quý giá của OpenAI. Chúng tôi không xem đó là điều hiển nhiên và quyết tâm khắc phục những sai sót này.
Giám đốc Chiến lược của OpenAI, Jason Kwon, sẽ bay từ trụ sở OpenAI tại Mỹ đến Sydney để tham dự phiên họp của Ủy ban Đặc biệt Lưỡng viện về Trí tuệ Nhân tạo vào thứ Ba, ngày 6 tháng 10. Ông sẽ trả lời các câu hỏi về những gì chúng tôi biết, cách chúng tôi ứng phó, những bước đã thực hiện và cách chúng tôi sẽ làm tốt hơn trong thời gian tới.
Chúng tôi sẽ tiếp tục chia sẻ các phát hiện đã được xác minh với những cơ quan bị ảnh hưởng và chính quyền có liên quan. Chúng tôi sẽ công bố thông tin cập nhật về cuộc rà soát đang diễn ra và tiến độ thực hiện những cam kết này. Chúng tôi biết rằng còn rất nhiều việc phải làm để xây dựng lại niềm tin, và chúng tôi có trách nhiệm chứng minh với người dân Úc rằng mình đang thực hiện những thay đổi có ý nghĩa và giữ đúng lời hứa.
