Tăng cường giám sát dân chủ trong an ninh quốc gia

AI đang thay đổi cách các chính phủ dân chủ bảo vệ người dân. AI có thể giúp ngăn chặn các cuộc tấn công mạng, bảo vệ cơ sở hạ tầng trọng yếu, phát hiện sớm các mối đe dọa và giúp công chức nắm rõ tình hình hơn trong khủng hoảng. Khi được sử dụng hiệu quả, các công cụ này có thể tăng cường an ninh quốc gia.

Giám sát dân chủ giúp bảo đảm việc thực thi quyền lực công luôn có trách nhiệm giải trình trước người dân. Khi AI giúp hoạt động an ninh quốc gia nhanh hơn và hiệu quả hơn, các thể chế chịu trách nhiệm giám sát hoạt động đó cũng cần theo kịp. AI có thể nhanh chóng hành động trên quy mô lớn dựa trên bối cảnh thiếu hoặc lỗi thời, mục tiêu được cấu hình sai hay giả định không phù hợp, khiến sai sót khó được phát hiện thủ công trước khi lan rộng. Giám sát đặc biệt quan trọng khi sử dụng AI cho an ninh quốc gia vì các quyết định có thể buộc phải giữ bí mật và dẫn đến những hậu quả nghiêm trọng.

Dựa trên Các nguyên tắc về an ninh quốc gia, chúng tôi triển khai AI trong lĩnh vực an ninh quốc gia với các biện pháp bảo vệ, sự phán đoán thực chất của con người và cơ chế giám sát phù hợp, đặc biệt trong những tình huống có hệ quả nghiêm trọng. Các nguyên tắc này cũng ưu tiên việc giúp những thể chế có nhiệm vụ giám sát xây dựng năng lực theo dõi hoạt động sử dụng AI với tốc độ và quy mô tương ứng.

Các cơ quan chính phủ đã có thẩm quyền và trách nhiệm rõ ràng trong việc giám sát các hoạt động an ninh quốc gia. Khi AI tham gia vào các hoạt động đó, phương thức giám sát có thể cần thay đổi. Phương thức giám sát truyền thống đòi hỏi nhiều nhân lực và gần như bất khả thi khi các nhóm nhỏ dùng phương pháp của thời đại giấy tờ phải rà soát những hệ thống vận hành ở tốc độ máy móc.

OpenAI tin rằng các hệ thống có năng lực cao hơn cần được giám sát chặt chẽ hơn, và chúng tôi cũng áp dụng nguyên tắc đó cho chính mình. Theo Khung chuẩn bị của chúng tôi, các mô hình tiên tiến phải trải qua quá trình đánh giá nghiêm ngặt trước khi triển khai để xác định năng lực và mức độ đầy đủ của các biện pháp bảo vệ. Việc xem xét kỹ lưỡng này tiếp tục sau khi triển khai thông qua hoạt động giám sát thường xuyên và rà soát sự cố; những gì chúng tôi học được sẽ giúp củng cố các biện pháp bảo vệ và định hướng phát triển mô hình trong tương lai.

OpenAI không và cũng không nên đảm nhiệm vai trò giám sát chính phủ. Trách nhiệm đó thuộc về các quan chức dân cử và những cơ quan công quyền được thành lập cho mục đích này. Thay vào đó, chúng tôi có thể dùng công nghệ để hỗ trợ các cơ quan giám sát thực hiện nhiệm vụ hiện có.

Ba nguyên tắc sau sẽ định hướng công việc này.

Thứ nhất, AI nên củng cố chứ không thay thế phán đoán của con người và thể chế. Việc xác định hành vi của chính phủ có hợp pháp, phù hợp và tuân thủ các quy tắc, chính sách hiện hành hay không thuộc về các cơ quan có thẩm quyền và những tổ chức giám sát được thành lập theo pháp luật.

Thứ hai, việc chính phủ sử dụng AI phải có thể truy vết và dễ hiểu đối với cơ quan giám sát có thẩm quyền. Người đánh giá cần hiểu được AI đã góp phần như thế nào vào một quyết định, đồng thời bảo vệ thông tin mật, thông tin riêng tư và thông tin nhạy cảm về an ninh.

Thứ ba, AI nên được dùng để tăng cường năng lực cho các thể chế giám sát dân chủ. Không thể mở rộng quy mô giám sát thủ công đối với việc sử dụng AI trong chính phủ. Khi AI được ứng dụng trong an ninh quốc gia và các hoạt động chính phủ có hệ quả nghiêm trọng khác, các cơ quan giám sát cũng nên sử dụng AI một cách có trách nhiệm, dễ hiểu và phù hợp với nhiệm vụ được giao.

Trong năm tới, chúng tôi dự định thúc đẩy sáng kiến này theo những hướng sau:

• Chúng tôi sẽ phối hợp với các quan chức có thẩm quyền để xác định những cơ hội thiết thực mà công cụ AI hoặc hỗ trợ kỹ thuật có thể giúp hoạt động giám sát hiệu quả hơn.

• Chúng tôi sẽ cung cấp 5 triệu USD dưới hình thức đào tạo, hỗ trợ kỹ thuật và credit OpenAI cho các cơ quan giám sát của chính phủ dân chủ nhằm hỗ trợ việc ứng dụng và đánh giá công cụ AI một cách có trách nhiệm.

• Chúng tôi sẽ phối hợp với các cơ quan giám sát để thí điểm những công cụ giúp người đánh giá có thẩm quyền xem xét hồ sơ liên quan đến các quyết định của chính phủ có AI hỗ trợ, bao gồm dữ liệu đầu vào, đầu ra và việc sử dụng công cụ có liên quan, qua đó hiểu rõ hơn AI đã tác động đến kết quả như thế nào. Các công cụ sẽ có khả năng tương tác hoặc không phụ thuộc vào mô hình khi điều kiện cho phép. Các cơ quan tham gia, chứ không phải OpenAI, sẽ duy trì quyền kiểm soát đối với bằng chứng, kết quả đầu ra và phát hiện; những thông tin này sẽ chỉ dành cho các quan chức chính phủ có thẩm quyền.

• Chúng tôi sẽ tham vấn xã hội dân sự và các chuyên gia kỹ thuật để quan điểm của họ góp phần định hướng cách OpenAI phát triển những công cụ này và thực hiện các trách nhiệm đi kèm.

AI có thể tập trung quyền lực, nhưng cũng có thể giúp các thể chế dân chủ thực thi và kiểm soát quyền lực hiệu quả hơn. Công nghệ không thể tự quyết định chúng ta sẽ có tương lai nào, nhưng những lựa chọn mà các thể chế và doanh nghiệp đưa ra lúc này thì có thể.

Chúng tôi sẽ đánh giá tiến độ của sáng kiến này dựa trên việc những người đánh giá có thẩm quyền có thể thực hiện nghĩa vụ tốt hơn hay không, và công chúng có thêm cơ sở vững chắc để tin rằng các hệ thống AI của chính phủ đang được sử dụng đúng mục đích hay không.

Khi việc chính phủ sử dụng AI tiếp tục phát triển, OpenAI sẽ tiếp tục hỗ trợ các cơ quan chịu trách nhiệm giám sát hoạt động này.