Góp phần xây dựng tiêu chuẩn chung cho AI tiên tiến
Các mô hình ngày càng có năng lực cao có thể củng cố phòng thủ mạng, đẩy nhanh khám phá khoa học và mở rộng khả năng tiếp cận chuyên môn. Nhưng chúng cũng có thể tạo ra rủi ro an toàn và an ninh nếu năng lực của chúng bị hiểu sai, các biện pháp bảo vệ không đầy đủ, hoặc chính phủ thiếu thông tin cần thiết để ứng phó. Để hiện thực hóa các lợi ích một cách an toàn và tự tin, xã hội sẽ cần những thể chế có năng lực kỹ thuật và quản trị để đánh giá, bảo đảm an toàn và quản trị các hệ thống ngày càng có năng lực cao.
Đó là một lý do OpenAI góp phần sáng lập Quỹ hỗ trợ Appia(mở trong cửa sổ mới), do Quỹ hỗ trợ Linux bảo trợ. Appia sẽ phát triển các bộ thông số kỹ thuật mở và có tính mô-đun, nhằm chuyển dịch các tiêu chuẩn quốc tế và các khung quản trị sẵn có thành các tiêu chí đánh giá thực tế trên toàn bộ chuỗi giá trị AI. Hoạt động của Appia có thể giúp xây dựng một tầng niềm tin cốt lõi còn thiếu, nhờ đó mà các bên thứ ba kiểm tra mức độ tuân thủ tiêu chuẩn, từ đó tạo ra các minh chứng rõ ràng và có khả năng tái sử dụng cao hơn khi các mô hình, hạ tầng và ứng dụng được phát triển bởi những tổ chức khác nhau. Thông qua công việc này, Appia sẽ góp phần tạo ra một ngôn ngữ kỹ thuật chung, cho phép các định chế quốc gia và quốc tế có thể tin tưởng vào kết quả công việc của nhau.
Chúng tôi xem nỗ lực này là bước tiếp theo quan trọng trong một chương trình rộng hơn nhằm củng cố các thể chế, tiêu chuẩn và thực hành đánh giá cần thiết cho các hệ thống AI tiên tiến.
Kế hoạch chi tiết gần đây của chúng tôi về quản trị dân chủ đối với AI tiên phong đưa ra lộ trình cho công việc đó. Kế hoạch này kêu gọi một khung bền vững của Hoa Kỳ, một Trung tâm Tiêu chuẩn và Đổi mới AI (CAISI) được tăng cường, cùng một chiến lược rộng hơn về khả năng chống chịu trong toàn chính phủ. Kế hoạch cũng thừa nhận rằng rủi ro biên có phạm vi quốc tế. Các quốc gia nên cùng nhau phát triển các khung an toàn tương thích, những kênh đáng tin cậy để chia sẻ phát hiện về rủi ro, và các phản ứng phối hợp trước sự cố.
Năng lực quốc gia và hợp tác quốc tế nên củng cố lẫn nhau. Những thể chế vững mạnh như CAISI có thể phát triển chuyên môn kỹ thuật, đánh giá các hệ thống tiên phong và hỗ trợ một hệ sinh thái đánh giá độc lập. Một mạng lưới các thể chế quốc gia có năng lực sau đó có thể thiết lập phương pháp chung, công nhận bằng chứng đáng tin cậy và mang lại cho chính phủ hiểu biết kỹ thuật chung cần thiết để cùng hành động.
Tiêu chuẩn đóng vai trò trọng tâm trong nỗ lực đó, và chúng phải dựa trên phương thức đánh giá đáng tin cậy cùng sự chặt chẽ về mặt kỹ thuật. Trong cẩm nang chung về kiểm định độc lập đáng tin cậy, chúng tôi đã chỉ rõ những yếu tố mà các cuộc đánh giá công nghệ tiên phong ngày càng cần phải công khai: hệ thống được thử nghiệm, quyền truy cập công cụ và bộ khung đánh giá, các phương pháp dùng để khơi gợi năng lực hệ thống, nguồn lực sẵn có và các bước kiểm tra được thực hiện để xác thực kết quả. Chúng tôi cũng đã đưa các nguyên tắc này vào thực tiễn thông qua quan hệ đối tác thử nghiệm với US CAISI và UK AISI, những đơn vị mà công việc đánh giá năng lực tiên phong và các biện pháp bảo vệ chống lạm dụng sinh học của họ đã mang lại những cải tiến cụ thể cho hệ thống của chúng tôi. Hoạt động này đóng vai trò quan trọng trong việc tạo nền móng cho các quy trình có thể chuẩn hóa nhằm kiểm tra hiệu suất một cách đồng bộ và có khả năng so sánh được.
Các quy trình này bổ sung cho hạ tầng an toàn toàn diện hơn của OpenAI. Khung Chuẩn bị ứng phó là nền tảng cho cách chúng tôi định nghĩa và triển khai phương pháp quản lý các rủi ro nghiêm trọng nhất từ các hệ thống AI tiên tiến, bao gồm cả các quy trình nội bộ. Khung quản trị công nghệ tiên phong áp dụng các phần liên quan của phương pháp đó vào một tài liệu quản trị công khai. Tài liệu này nêu ra các nghĩa vụ pháp lý cụ thể, bao gồm đánh giá rủi ro, báo cáo mô hình, kiểm soát an ninh, ứng phó sự cố và tiếp thu ý kiến chuyên gia từ bên ngoài. Cùng với nhau, các tài liệu này giúp chuyển dịch những cam kết chung thành các quy trình vận hành thực tế có thể được xác thực và cải tiến.
Trách nhiệm của Appia hướng tới giải quyết thách thức tiếp theo: giúp các quy trình tương thích để vận hành trôi chảy giữa các tổ chức, các hệ thống pháp luật và trong toàn chuỗi cung ứng.
OpenAI đã đóng góp vào một hệ sinh thái to rộng hơn gồm các tiêu chuẩn và nỗ lực tiền tiêu chuẩn hóa. Chúng tôi tham gia Tổ chức Tiêu chuẩn hóa Quốc tế và Ủy ban Kỹ thuật Điện Quốc tế, Ủy ban Kỹ thuật Hỗn hợp 1, Tiểu ban 42 về Trí tuệ nhân tạo(mở trong cửa sổ mới) và Liên minh AI do Viện Tiêu chuẩn và Công nghệ Quốc gia dẫn dắt(mở trong cửa sổ mới); góp phần sáng lập Diễn đàn Mô hình tiên phong và Quỹ AI Tác nhân(mở trong cửa sổ mới) của Quỹ hỗ trợ Linux; tham gia Liên minh vì AI An toàn(mở trong cửa sổ mới); tham gia ban chỉ đạo của Liên minh về Nguồn gốc và Tính xác thực Nội dung(mở trong cửa sổ mới); đồng thời tham gia các quy trình của Nhóm đặc trách kỹ thuật Internet(mở trong cửa sổ mới) và Liên minh danh tính trực tuyến nhanh(mở trong cửa sổ mới) để thúc đẩy các tiêu chuẩn kỹ thuật có khả năng tương tác.
Thông qua các diễn đàn này, nay có thêm Appia, mục tiêu của chúng tôi là những bài học kinh nghiệm từ việc phát triển công nghệ tiên phong thành các quy trình mở, có cơ sở kỹ thuật vững chắc, để chính phủ, doanh nghiệp và các bên đánh giá độc lập có thể sử dụng tại nhiều khu vực pháp lý.
