AS memajukan keselamatan AI melalui tindakan negeri dan persekutuan

Oleh Chris Lehane, Ketua Pegawai Hal Ehwal Global

Dari ibu negeri di seluruh negara ke Washington hingga ke persidangan antarabangsa, pendekatan serius terhadap tadbir urus AI frontier sedang terbentuk. Bersama-sama, pendekatan ini memajukan visi demokratik untuk AI.

California, New York dan yang terbaru Illinois telah memajukan perundangan keselamatan frontier yang membantu menggerakkan negara ke arah garis asas bersama untuk mentadbir sistem AI paling berkuasa.

Usaha ini mencerminkan momentum di sebalik apa yang OpenAI panggil federalisme berbalik: negeri-negeri membantu menetapkan hala tuju bersama melalui rangka kerja yang sama. Apabila usaha yang dipimpin negeri bertemu dengan usaha yang sedang berjalan di peringkat persekutuan, satu piawaian nasional mula terbentuk, meletakkan asas bagi rangka kerja AI global yang dipimpin AS. Kami percaya cara terbaik untuk memastikan AI memberi manfaat kepada ramai, bukan hanya segelintir, ialah keputusan penting—bermula dengan keselamatan frontier—dibuat oleh kerajaan demokratik, bukan semata-mata oleh makmal frontier.

Akhirnya, Amerika Syarikat paling baik dilayani oleh rangka kerja nasional yang berasaskan prinsip tersebut. Namun jika rangka kerja itu belum wujud, negeri-negeri boleh membawa kita ke sana dengan meluluskan undang-undang yang saling mencerminkan. Langkah demi langkah, mereka boleh mewujudkan piawaian nasional secara de facto.

Dan jika keselamatan menjadi keutamaan, piawaian nasional sebegini ialah pendekatan dasar terbaik untuk memastikan (a) AS terus memimpin dalam inovasi dan tidak dilemahkan oleh tampalan peraturan yang akan memperlahankan keupayaan membina stack AI demokratik global yang memastikan pihak baik mempunyai alat yang diperlukan untuk mempertahankan diri daripada pelaku jahat yang mahu menyalahgunakan AI dalam bidang seperti keselamatan siber; dan (b) meletakkan AS pada kedudukan terkuat untuk membawa piawaian nasional itu dan membentuk pendekatan global bagi pelaksanaan AI yang selamat berasaskan nilai demokratik. Jika kita mahu mewujudkan rangka kerja keselamatan yang benar-benar mengutamakan pembentukan piawaian nasional dan antarabangsa—iaitu perkara yang paling menyokong pelaksanaan AI yang selamat—usaha keras, kesungguhan tujuan dan strategi yang menghubungkan negeri-negeri, kerajaan persekutuan dan perbincangan antarabangsa diperlukan. Pendekatan yang bersifat lakonan atau sekadar menunjukkan kebajikan tidak akan menyelesaikan tugas ini—kekacauan di peringkat negeri bukan demi kepentingan terbaik pendekatan keselamatan yang tahan lama; ia hanya akan membawa lebih banyak kekacauan.

Agar pendekatan itu berjaya, negeri-negeri harus terus menyelaraskan unsur teras, seperti yang telah dilakukan California, New York dan Illinois. Secara umum, unsur-unsur tersebut ialah:

• Rangka kerja keselamatan yang didokumenkan dengan penilaian risiko bagi model frontier serta pendedahan awam tentang penilaian tersebut dan keputusannya.
• Pelaporan insiden keselamatan yang serius.
• Tadbir urus dan akauntabiliti melalui audit bebas yang objektif.

Secara bersama, ketiga-tiga negeri ini telah memasukkan pengawasan demokratik ke dalam pelaksanaan AI frontier. California menetapkan rangka kerja pendedahan teras. New York menunjukkan bahawa pendekatan itu boleh diterima pakai merentas bidang kuasa. Illinois melengkapkannya dengan mewajibkan pengesahan bebas terhadap pendedahan utama.

Kami menyedari bahawa perundangan sering merangkumi peruntukan tambahan untuk mendapatkan undi yang diperlukan bagi kelulusan. Namun kami percaya inilah unsur penting yang diperlukan untuk mewujudkan piawaian nasional secara de facto melalui federalisme berbalik. Tanpa disiplin itu, kita berisiko mengalami peluasan dasar dan tampalan undang-undang negeri yang sukar dikuatkuasakan oleh pengawal selia, mengelirukan pengguna untuk dinavigasi, serta mengalihkan sumber pembangun—terutamanya di syarikat pemula dan syarikat kecil—yang lebih baik dilaburkan dalam keselamatan. Khususnya, seperti yang ditunjukkan beberapa minggu kebelakangan ini, apabila model AI menjadi semakin berkeupayaan, kita memerlukan sistem yang koheren yang membolehkan kita menyalurkan alat tersebut kepada kerajaan, infrastruktur kritikal, sekutu dan rakan kongsi dipercayai.

Pembuat dasar juga harus berwaspada terhadap peluasan misi. Negeri-negeri tidak sepatutnya diminta mengurus risiko keselamatan negara yang ketara (atau pada hakikatnya membuat keputusan keselamatan negara bagi pihak seluruh negara) atau menjalankan semakan yang sangat teknikal yang lebih sesuai dikendalikan oleh pakar persekutuan dengan sumber, kepakaran, akses kepada sistem terperingkat dan keupayaan untuk bekerja rapat dengan pasukan kami.

Di peringkat persekutuan, Pentadbiran Trump terus bekerjasama dengan pakar teknikal dan keselamatan negara untuk membangunkan rangka kerja bagi ujian kerajaan AS terhadap model AI paling berkeupayaan dalam bidang siber. Rangka kerja itu akan menetapkan piawaian, garis masa dan proses ujian. OpenAI terlibat dalam perbincangan membina dengan Pentadbiran, syarikat setara, kumpulan perniagaan dan pihak berkepentingan lain yang membantu membentuk usaha ini.

Usaha berterusan dalam penilaian siber menunjukkan mengapa ketekalan itu penting. Pada masa ini, dan memang dapat difahami, model sedang diuji sebelum rangka kerja persekutuan dimuktamadkan. Sepanjang makmal melalui proses itu, satu pengajaran menjadi jelas: kita memerlukan pendekatan yang tekal dan boleh diulang di peringkat negeri dan persekutuan. Ini penting jika kita mahu model paling berkeupayaan berada di tangan kerajaan, pembela infrastruktur kritikal, sekutu dan rakan kongsi dipercayai yang lain. Kami menghargai matlamat Pentadbiran untuk memastikan rangka kerja ini tersedia menjelang awal Ogos.

Rangka kerja ujian persekutuan akan membantu menyalurkan alat AI lanjutan kepada kerajaan, pembela infrastruktur kritikal, sekutu dan rakan kongsi dipercayai yang lain. Dengan itu, ia akan memperkukuh institusi demokrasi dan membantu membina stack AI demokratik yang dipimpin AS. Kini masanya untuk menggunakan kelebihan inovasi Amerika bagi menyokong AI demokratik.

Proses persekutuan yang tidak jelas mahupun tampalan undang-undang negeri tidak akan menghasilkan rejim keselamatan frontier yang koheren. Kita memerlukan pendekatan yang memastikan penguji terbaik menilai model paling berkeupayaan—dan pembela dipercayai mendapat akses kepada alat tersebut dengan cukup cepat untuk mendahului pelaku berniat jahat.

Kongres juga sedang bergerak. Penggubal undang-undang di kedua-dua dewan dan daripada kedua-dua parti—termasuk yang terbaru, Wakil Jay Obernolte dan Lori Trahan—telah mengambil perhatian terhadap perkembangan di negeri-negeri dan cabang eksekutif, serta mengemukakan cadangan untuk rangka kerja persekutuan. Tiada draf perbincangan yang mempunyai laluan realistik untuk diluluskan akan sempurna. Namun kami melihat usaha ini sebagai langkah maju yang produktif dan percaya banyak peruntukannya bernas serta wajar disokong.

Kami juga berasa digalakkan kerana pemimpin Senat dan Dewan sedang menumpukan usaha serius pada tadbir urus nasional dan cadangan keselamatan frontier, dan kami telah mengadakan perbualan membina dengan ramai daripada mereka. Memandangkan saiz dan pengaruh negeri-negeri yang telah menggubal undang-undang yang sehaluan, memasukkan pendekatan tersebut ke dalam perundangan persekutuan sepatutnya memudahkan penubuhan satu rejim keselamatan frontier nasional.

Pelan tindakan keselamatan frontier OpenAI menggariskan unsur penting yang kami percaya perlu ada dalam rangka kerja itu.

Pertama, kerajaan persekutuan harus menerajui ujian dan penilaian terhadap sistem paling maju. AI frontier menimbulkan persoalan keselamatan negara dan keselamatan awam yang memerlukan kepakaran teknikal, sumber dan akses yang tidak dapat ditiru sepenuhnya oleh mana-mana negeri.

Usaha itu harus memperkukuh Center for AI Standards and Innovation (CAISI), yang diwujudkan di bawah Presiden Biden dan diperkukuh di bawah Presiden Trump. CAISI boleh menyediakan keupayaan persekutuan yang tahan lama untuk menilai model lanjutan dan mengalihkan keselamatan frontier ke arah pencegahan mudarat sebelum ia berlaku, bukan bergantung terutamanya pada akauntabiliti selepas kejadian. Sebarang perundangan persekutuan harus mempertimbangkan dengan teliti bagaimana CAISI harus bekerjasama dengan seluruh kerajaan dan apakah peranannya di pusat ujian.

Kedua, syarikat yang membangunkan sistem paling berkeupayaan harus memenuhi keperluan yang jelas, termasuk audit bebas, pelaporan insiden, piawaian keselamatan yang kukuh dan perlindungan pemberi maklumat.

Ketiga, usaha persekutuan dan negeri harus saling memperkukuh. Undang-undang negeri tidak semuanya akan sama, dan kami berharap dapat bekerjasama dengan pembuat dasar di seluruh negara untuk memastikan undang-undang tersebut memperkukuh keselamatan sambil memaksimumkan manfaat ekonomi AI.

Negeri-negeri juga harus terus berperanan sebagai makmal demokrasi dalam bidang di luar keselamatan frontier, termasuk perlindungan belia, dasar elektrik dan alam sekitar, serta pendidikan dan literasi AI.

Rangka kerja persekutuan tetap penting. AI frontier menimbulkan persoalan keselamatan negara, daya saing ekonomi dan keselamatan awam yang akhirnya memerlukan piawaian nasional, keupayaan nasional dan institusi nasional untuk menyokong AI demokratik.

Perundangan nasional juga penting bagi rangka kerja antarabangsa yang dipimpin AS untuk piawaian AI. Idea itu dibincangkan beberapa minggu lalu di G7, bersama Brazil, Mesir, India, Kenya dan Korea, apabila CEO makmal frontier terkemuka membincangkan keperluan rangka kerja sedemikian. Selepas mesyuarat itu, CEO OpenAI Sam Altman mencadangkan dalam Financial Times⁠(dibuka dalam tetingkap baru) “sebuah forum antarabangsa yang dipimpin AS yang menetapkan piawaian diterima, menyediakan analisis pakar dan tidak berat sebelah tentang keupayaan serta risiko, dan menjadikan teknologi tersedia kepada negara dan syarikat yang mengambil bahagian serta mematuhi peraturan.” Minggu ini, CEO Google DeepMind Demis Hassabis turut mengemukakan idea bernas dalam kertas baharu. Perundangan persekutuan—yang semestinya bersifat dwipartisan—akan menyediakan asas kukuh bagi usaha antarabangsa itu.

Momentum itu kini dapat dilihat di setiap peringkat. Negeri-negeri sedang menetapkan pendekatan bersama. Kongres dan cabang eksekutif sedang membina ke arah rangka kerja nasional. Dan pemimpin global mula membincangkan piawaian antarabangsa. Jika setiap satu membina di atas yang lain, AS boleh menerajui pembangunan rangka kerja global yang berasaskan visi demokratik untuk AI. Dan pendekatan penyelarasan demokratik terhadap AI inilah pendekatan yang benar-benar mengutamakan keselamatan.