Pendekatan kami terhadap kemitraan pemerintah dan keamanan nasional
Pemerintah mulai menggunakan sistem AI terdepan untuk pekerjaan yang semakin penting, termasuk dalam keamanan nasional. Hal itu menciptakan kebutuhan baru bagi laboratorium AI, pemerintah, dan masyarakat sipil untuk bekerja sama menentukan bagaimana alat-alat ini seharusnya digunakan dalam konteks sensitif.
Kami percaya masyarakat demokratis harus dapat menggunakan AI untuk melindungi masyarakat, mempertahankan infrastruktur penting, menyediakan layanan publik, dan merespons ancaman yang muncul, termasuk di bidang seperti pertahanan siber dan keamanan biologis, di mana AI dapat memberi keuntungan nyata bagi pihak yang bertahan. Namun sistem AI yang semakin canggih harus diterapkan dengan cara yang memperkuat akuntabilitas demokratis, pertimbangan manusia yang bermakna, dan supremasi hukum, serta memperkuat lembaga demokratis alih-alih memusatkan kekuasaan.
Hari ini kami menerbitkan Prinsip Keamanan Nasional OpenAI untuk memberikan transparansi tentang pendekatan kami terhadap kemitraan pemerintah dan penggunaan teknologi kami untuk keamanan nasional.
Prinsip-prinsip ini mencerminkan upaya lintas perusahaan untuk mengembangkan pendekatan yang lebih komprehensif terhadap pekerjaan kami di bidang keamanan nasional dan penegakan hukum seiring kemajuan teknologi kami. Kami melibatkan pakar keamanan nasional terkemuka, David Kris, untuk membantu memfasilitasi proses ini dan memberikan penilaian independennya, mengadakan sesi dengar pendapat di seluruh perusahaan, serta melibatkan karyawan yang mewakili berbagai tim, mulai dari riset dan keselamatan hingga kebijakan dan kemitraan pemerintah.
Kami menerbitkannya sekarang saat kami memperluas kerja sama dengan pemerintah AS dan mitra sekutu di bidang-bidang pertahanan yang krusial, terutama siber dan biosekuriti. Dalam sebulan terakhir, sebagai bagian dari program pertahanan siber Daybreak, kami telah menjalin kemitraan Trusted Access for Cyber dengan Australia, Kanada, Jepang, Republik Korea, Prancis, Jerman, Polandia, Belanda, dan lembaga-lembaga UE seperti ENISA. Kami juga memiliki kemitraan yang terus berkembang dan tepercaya dengan pemerintah Inggris di bidang siber, pengujian, dan evaluasi. Kami mengambil pendekatan serupa dalam biosekuriti. Bulan lalu, kami juga mengumumkan perluasan akses tepercaya ke model GPT‑Rosalind kami bagi mitra pemerintah AS dan sekutu tertentu yang mendukung misi kesehatan masyarakat dan biodefense.
Prinsip-prinsip ini berlaku untuk kemitraan keamanan nasional dan penegakan hukum kami saat ini maupun di masa depan, termasuk kerja sama kami yang sudah berjalan dengan Departemen Perang. Saat mengumumkan perjanjian kami awal tahun ini, kami menetapkan beberapa pembatasan kontraktual: tidak menggunakan teknologi OpenAI untuk pengawasan domestik massal, tidak menggunakan teknologi OpenAI untuk mengarahkan sistem senjata otonom, dan tidak menggunakan teknologi OpenAI untuk keputusan otomatis berisiko tinggi. Pembatasan tersebut sejalan dengan prinsip-prinsip yang kami bagikan hari ini.
Kami percaya hal yang tepat adalah bersikap jelas tentang bagaimana teknologi kami dapat dan tidak dapat digunakan, serta bersikap transparan mengenai hal itu. Namun banyak pertanyaan paling berdampak tentang AI dalam pemerintahan, terutama dalam keamanan nasional, harus dijawab melalui proses demokratis. Peran perusahaan seperti kami adalah membantu memberi masukan bagi keputusan tersebut, bukan mengambilnya sendiri. Itulah sebabnya kami mendukung upaya legislasi untuk menetapkan pelindung bagi sebagian penggunaan militer AI dengan risiko tertinggi, termasuk dalam konteks pengawasan domestik, sistem senjata otonom, dan penggunaan berisiko tinggi lainnya yang secara langsung memengaruhi keamanan nasional AS.
Baca prinsip-prinsipnya di sini(terbuka di jendela baru).
