Pendekatan kami terhadap perkongsian kerajaan dan keselamatan negara
Kerajaan mula menggunakan sistem AI perbatasan untuk kerja yang semakin penting, termasuk dalam keselamatan negara. Hal ini mewujudkan keperluan baharu bagi makmal AI, kerajaan dan masyarakat sivil untuk bekerjasama menentukan cara alat ini patut digunakan dalam situasi yang sensitif.
Kami percaya masyarakat demokratik harus dapat menggunakan AI untuk melindungi orang ramai, mempertahankan infrastruktur kritikal, menyampaikan perkhidmatan awam dan bertindak balas terhadap ancaman baharu, termasuk dalam bidang seperti pertahanan siber dan keselamatan biologi, yang membolehkan AI memberi kelebihan nyata kepada pihak bertahan. Namun sistem AI yang semakin berkeupayaan mesti dilaksanakan dengan cara yang mengukuhkan kebertanggungjawapan demokratik, pertimbangan manusia yang bermakna dan kedaulatan undang-undang, serta memperkukuh institusi demokratik dan bukannya menumpukan kuasa.
Hari ini kami menerbitkan Prinsip Keselamatan Negara OpenAI untuk memberikan ketelusan tentang pendekatan kami terhadap perkongsian kerajaan dan penggunaan teknologi kami bagi tujuan keselamatan negara.
Prinsip ini mencerminkan usaha merentas syarikat untuk membangunkan pendekatan yang lebih menyeluruh terhadap kerja kami dalam bidang keselamatan negara dan penguatkuasaan undang-undang seiring dengan kemajuan teknologi kami. Kami mendapatkan khidmat pakar keselamatan negara terkemuka, David Kris, untuk membantu memudahkan cara proses ini dan memberikan pertimbangan bebas beliau, mengadakan sesi mendengar pandangan di seluruh syarikat, serta melibatkan pekerja daripada pelbagai pasukan, daripada penyelidikan dan keselamatan hingga dasar dan kerjasama kerajaan.
Kami menerbitkannya sekarang ketika kami memperluas kerja kami dengan kerajaan A.S. dan rakan sekutu dalam bidang pertahanan yang kritikal, khususnya siber dan biokeselamatan. Dalam bulan lalu, sebagai sebahagian daripada program pertahanan siber Daybreak kami, kami telah pun mewujudkan kerjasama Trusted Access for Cyber dengan Australia, Kanada, Jepun, Republik Korea, Perancis, Jerman, Poland, Belanda dan institusi EU seperti ENISA. Kami juga mempunyai kerjasama yang semakin berkembang dan dipercayai dengan kerajaan UK dalam bidang siber, ujian dan penilaian. Kami mengambil pendekatan yang serupa dalam biokeselamatan. Bulan lalu, kami juga mengumumkan perluasan akses dipercayai kepada model GPT‑Rosalind kami untuk rakan terpilih dalam kerajaan A.S. dan sekutu yang menyokong misi kesihatan awam dan pertahanan biologi.
Prinsip ini terpakai kepada kerjasama keselamatan negara dan penguatkuasaan undang-undang kami, kini dan pada masa hadapan, termasuk kerja sedia ada kami dengan Jabatan Perang. Apabila kami mengumumkan perjanjian kami pada awal tahun ini, kami menyatakan beberapa sekatan kontrak: teknologi OpenAI tidak boleh digunakan untuk pengawasan domestik secara besar-besaran, tidak boleh digunakan untuk mengarahkan sistem senjata autonomi dan tidak boleh digunakan untuk keputusan automatik berisiko tinggi. Sekatan tersebut selaras dengan prinsip yang kami kongsikan hari ini.
Kami percaya tindakan yang betul ialah menjelaskan cara teknologi kami boleh dan tidak boleh digunakan, serta bersikap telus mengenainya. Namun banyak persoalan paling penting tentang AI dalam kerajaan, khususnya dalam keselamatan negara, harus dijawab melalui proses demokratik. Peranan syarikat seperti kami adalah membantu memaklumkan keputusan tersebut, bukan membuatnya secara bersendirian. Itulah sebabnya kami menyokong usaha perundangan untuk mewujudkan perlindungan bagi sebahagian penggunaan AI ketenteraan yang paling berisiko tinggi, termasuk dalam konteks pengawasan domestik, sistem senjata autonomi dan penggunaan berisiko tinggi lain yang secara langsung menjejaskan keselamatan negara A.S.
Baca prinsip tersebut di sini(dibuka dalam tetingkap baru).
