Thỏa thuận của chúng tôi với Bộ Chiến tranh

Hôm qua, chúng tôi đã đạt được thỏa thuận với Lầu Năm Góc về việc triển khai các hệ thống AI tiên tiến trong các môi trường được phân loại, mà chúng tôi yêu cầu họ cũng cung cấp cho tất cả các công ty AI.

Chúng tôi nghĩ rằng thỏa thuận của chúng tôi có nhiều rào chắn hơn bất kỳ thỏa thuận nào trước đây cho việc triển khai AI được phân loại, bao gồm cả Anthropic. Đây là lý do.

Chúng tôi có ba ranh giới đỏ chính định hướng công việc của chúng tôi với DoW, nhìn chung cũng được một số phòng thí nghiệm tiên phong khác chia sẻ:

• Không sử dụng công nghệ OpenAI để giám sát hàng loạt trong nước.
• Không sử dụng công nghệ OpenAI để chỉ đạo các hệ thống vũ khí tự trị. 
• Không sử dụng công nghệ OpenAI cho các quyết định tự động có rủi ro cao (ví dụ: các hệ thống như “tín dụng xã hội”).

Các phòng thí nghiệm AI khác đã giảm hoặc loại bỏ lan can an toàn của họ và chủ yếu dựa vào các chính sách sử dụng như là biện pháp bảo vệ chính của họ trong việc triển khai an ninh quốc gia. Chúng tôi nghĩ rằng phương pháp của chúng tôi bảo vệ tốt hơn khỏi việc sử dụng không thể chấp nhận được.

Trong thỏa thuận này, chúng tôi bảo vệ các lằn ranh đỏ của mình thông qua một cách tiếp cận toàn diện và đa tầng hơn. Chúng tôi giữ toàn quyền quyết định đối với hệ thống bảo mật của mình, chúng tôi triển khai thông qua điện toán đám mây, nhân viên OpenAI được cấp phép đều tham gia vào quá trình này, và chúng tôi có các điều khoản hợp đồng bảo vệ chặt chẽ. Tất cả những điều này đều bổ sung thêm vào các biện pháp bảo vệ mạnh mẽ hiện có trong luật pháp Hoa Kỳ. 

Chúng tôi tin tưởng sâu sắc vào nền dân chủ. Nhận thức được tầm quan trọng của công nghệ này, chúng tôi tin rằng con đường duy nhất khả thi là cần sự hợp tác chặt chẽ giữa các nỗ lực về trí tuệ nhân tạo và tiến trình dân chủ. Chúng tôi cũng tin rằng công nghệ của chúng tôi sẽ mang đến những rủi ro mới cho thế giới, và chúng tôi muốn những người bảo vệ Hoa Kỳ có được những công cụ tốt nhất.

Thỏa thuận của chúng tôi bao gồm:

1. Kiến trúc triển khai. Đây là một triển khai hoàn toàn trên nền tảng đám mây, với một hệ thống bảo mật do chúng tôi vận hành bao gồm các nguyên tắc này và nhiều nguyên tắc khác. Chúng tôi không cung cấp cho DoW các mô hình "bảo vệ" hoặc không được đào tạo về an toàn, cũng như chúng tôi không triển khai các mô hình của mình trên các thiết bị biên (nơi có thể có khả năng sử dụng vũ khí sát thương tự động). 

Kiến trúc triển khai của chúng tôi sẽ cho phép chúng tôi xác minh một cách độc lập rằng các đường đỏ này không bị vượt qua, bao gồm cả việc chạy và cập nhật các bộ phân loại.

2. Hợp đồng của chúng tôi. Dưới đây là ngôn ngữ liên quan:

Bộ Chiến tranh có thể sử dụng Hệ thống AI cho mọi mục đích hợp pháp, phù hợp với luật hiện hành, các yêu cầu tác chiến, và các quy trình an toàn và giám sát đã được thiết lập vững chắc. Hệ thống AI sẽ không được sử dụng để tự mình chỉ đạo vũ khí tự hành trong bất kỳ trường hợp nào mà luật, quy định, hoặc chính sách của Bộ yêu cầu sự kiểm soát của con người, cũng như sẽ không được sử dụng để đảm nhận các quyết định rủi ro cao khác đòi hỏi sự phê duyệt của một người ra quyết định theo cùng các thẩm quyền đó. Theo DoD Directive 3000.09 (dtd 25 January 2023), mọi việc sử dụng AI trong các hệ thống tự hành và bán tự hành phải trải qua quy trình xác minh, thẩm định, và thử nghiệm nghiêm ngặt để bảo đảm chúng hoạt động như dự định trong các môi trường thực tế trước khi triển khai.

Đối với các hoạt động tình báo, mọi hoạt động xử lý thông tin cá nhân sẽ tuân thủ Tu chính án thứ tư, Đạo luật An ninh Quốc gia năm 1947 và Đạo luật Tình báo và Giám sát Nước ngoài năm 1978, Sắc lệnh Hành pháp 12333, và các chỉ thị hiện hành của Bộ Quốc phòng yêu cầu mục đích tình báo nước ngoài được xác định rõ ràng. Theo các quy định hiện hành, hệ thống trí tuệ nhân tạo không được sử dụng để giám sát thông tin cá nhân của công dân Hoa Kỳ một cách không hạn chế. Hệ thống này cũng không được sử dụng cho các hoạt động thực thi pháp luật trong nước trừ trường hợp được cho phép theo Đạo luật Posse Comitatus và các luật hiện hành khác.

3. Sự tham gia của chuyên gia AI. Chúng tôi sẽ có các kỹ sư OpenAI được cấp phép, triển khai tiền phương để hỗ trợ chính phủ, với các nhà nghiên cứu về an toàn và phù hợp đã được cấp phép tham gia trong vòng lặp. 

Tại sao bạn lại làm điều này? 

Trước hết, chúng tôi cho rằng quân đội Hoa Kỳ chắc chắn cần các mô hình AI mạnh mẽ để hỗ trợ sứ mệnh của họ, đặc biệt là trước các mối đe dọa ngày càng gia tăng từ những đối thủ tiềm tàng, những bên đang ngày càng tích hợp các công nghệ AI vào hệ thống của họ. Ban đầu chúng tôi không tham gia vào một hợp đồng triển khai mật, vì chúng tôi không cảm thấy rằng các biện pháp bảo vệ và hệ thống của chúng tôi đã sẵn sàng và đã làm việc chăm chỉ để đảm bảo rằng việc triển khai mật có thể xảy ra với các biện pháp bảo vệ để đảm bảo rằng các ranh giới đỏ không bị vượt qua. 

Chúng tôi đã—và vẫn—không sẵn sàng loại bỏ các biện pháp bảo vệ kỹ thuật then chốt để nâng cao hiệu năng trong công việc liên quan đến an ninh quốc gia. Đó không phải là cách tiếp cận đúng đắn để hỗ trợ quân đội Mỹ. 

Thứ hai, chúng tôi cũng muốn hạ nhiệt tình hình giữa DoW và các phòng thí nghiệm trí tuệ nhân tạo của Mỹ. Một tương lai tốt đẹp sẽ đòi hỏi sự hợp tác thực sự và sâu rộng giữa chính phủ và các phòng thí nghiệm trí tuệ nhân tạo. Trong thỏa thuận này, chúng tôi yêu cầu các điều khoản tương tự được áp dụng cho tất cả các phòng thí nghiệm AI, và cụ thể là chính phủ sẽ cố gắng giải quyết vấn đề với Anthropic; tình trạng hiện tại là một khởi đầu rất tồi tệ cho giai đoạn hợp tác tiếp theo giữa chính phủ và các phòng thí nghiệm AI.

Tại sao bạn có thể đạt được thỏa thuận trong khi Anthropic không thể? Bạn đã ký thỏa thuận mà họ không muốn?

Dựa trên những gì chúng tôi biết, chúng tôi tin rằng hợp đồng của chúng tôi cung cấp các bảo đảm tốt hơn và các biện pháp bảo vệ có trách nhiệm hơn so với các thỏa thuận trước đó, bao gồm cả hợp đồng ban đầu của Anthropic. Chúng tôi nghĩ rằng các đường đỏ của chúng tôi có thể thực thi hơn ở đây vì việc triển khai chỉ giới hạn ở đám mây (không phải ở rìa), giữ cho ngăn xếp an toàn của chúng tôi hoạt động theo cách chúng tôi nghĩ là tốt nhất và giữ cho nhân viên OpenAI được thông báo.

Chúng tôi không biết tại sao Anthropic không thể đạt được thỏa thuận này, và chúng tôi hy vọng rằng họ và nhiều phòng thí nghiệm sẽ xem xét nó.

Bạn có nghĩ rằng Anthropic nên được chỉ định là một “rủi ro chuỗi cung ứng” không?

Không, và chúng tôi đã nói rõ quan điểm của mình về điều này với chính phủ.

Liệu thỏa thuận này có cho phép Bộ Chiến tranh sử dụng các mô hình OpenAI để cung cấp năng lượng cho vũ khí tự trị? 

Không. Dựa trên hệ thống an toàn, triển khai chỉ dành cho đám mây, ngôn ngữ hợp đồng và luật pháp, quy định và chính sách hiện hành, chúng tôi tự tin rằng điều này không thể xảy ra. Chúng tôi cũng sẽ có nhân viên OpenAI trong vòng lặp để đảm bảo bổ sung.  

Liệu thỏa thuận này có cho phép Bộ Chiến tranh sử dụng các mô hình OpenAI để tiến hành giám sát hàng loạt đối với người Mỹ?

Không. Dựa trên hệ thống an toàn của chúng tôi, ngôn ngữ hợp đồng và luật hiện hành hạn chế mạnh mẽ DoW khỏi giám sát trong nước, chúng tôi tự tin rằng điều này không thể xảy ra. Chúng tôi cũng sẽ có nhân viên OpenAI trong vòng lặp để đảm bảo bổ sung.  

Bạn có phải triển khai các mô hình mà không có hệ thống bảo mật không?

Không, chúng tôi vẫn giữ toàn quyền kiểm soát đối với hệ thống an toàn mà chúng tôi triển khai và sẽ không triển khai nếu thiếu các biện pháp bảo vệ an toàn. Ngoài ra, các nhà nghiên cứu về an toàn và căn chỉnh của chúng tôi sẽ tham gia và giúp cải tiến hệ thống theo thời gian. Chúng tôi biết rằng các phòng thí nghiệm AI khác đã giảm bớt các biện pháp bảo vệ mô hình và dựa vào chính sách sử dụng làm biện pháp bảo vệ chính, nhưng chúng tôi nghĩ rằng cách tiếp cận nhiều lớp của chúng tôi sẽ bảo vệ tốt hơn chống lại việc sử dụng không thể chấp nhận được.

Điều gì xảy ra nếu chính phủ vi phạm các điều khoản của hợp đồng?

Như với bất kỳ hợp đồng nào, chúng tôi có thể chấm dứt hợp đồng nếu đối tác vi phạm các điều khoản. Chúng tôi không mong đợi điều đó xảy ra.

Điều gì sẽ xảy ra nếu chính phủ chỉ thay đổi luật pháp hoặc các chính sách DoW hiện có?

Hợp đồng của chúng tôi đề cập rõ ràng đến các luật và chính sách về giám sát và vũ khí tự trị như chúng tồn tại ngày nay, vì vậy ngay cả khi các luật hoặc chính sách đó thay đổi trong tương lai, việc sử dụng các hệ thống của chúng tôi vẫn phải phù hợp với các tiêu chuẩn hiện hành được phản ánh trong thỏa thuận. 

Làm thế nào để bạn giải quyết các lập luận mà Anthropic đưa ra trong bài đăng trên blog của họ⁠(mở trong cửa sổ mới) về cuộc thảo luận của họ với DoW?

Trong bài đăng của họ, Anthropic nêu ra hai ranh giới đỏ của họ (chúng tôi cũng có cùng hai ranh giới đỏ đó, cộng thêm ranh giới thứ ba: ra quyết định tự động trong các tình huống có mức độ quan trọng cao), và các lý do vì sao họ không tin rằng các ranh giới đỏ này sẽ được duy trì trong các hợp đồng mà họ đã thấy từ DoW vào thời điểm đó. Dưới đây là lý do tại sao chúng tôi tin rằng những đường đỏ tương tự sẽ được áp dụng trong hợp đồng của chúng tôi:

• Giám sát hàng loạt trong nước. Qua cuộc trao đổi, chúng tôi thấy rõ Bộ Vũ khí Hoa Kỳ (DoW) coi việc giám sát nội địa quy mô lớn là bất hợp pháp và không có kế hoạch sử dụng biện pháp này cho mục đích đó. Chúng tôi đảm bảo rằng việc nó không thuộc phạm vi sử dụng hợp pháp đã được nêu rõ trong hợp đồng.
• Vũ khí hoàn toàn tự động. Bề mặt triển khai đám mây được đề cập trong hợp đồng của chúng tôi sẽ không cho phép cung cấp năng lượng cho vũ khí hoàn toàn tự động, vì điều này sẽ yêu cầu triển khai biên giới. 

Ngoài các biện pháp bảo vệ này, hợp đồng của chúng tôi cung cấp các biện pháp bảo vệ theo lớp bổ sung bao gồm ngăn xếp an toàn của chúng tôi và các chuyên gia kỹ thuật OpenAI trong vòng lặp.