Ruang untuk Dasar AI Terbuka. Kita perlu bertindak.

Kita telah memasuki babak baharu dalam keupayaan AI, dan keadaan ini menuntut babak baharu bagi dasar AI. Tiada syarikat, industri atau kerajaan yang mampu menangani cabaran ini secara bersendirian. Kita perlu menghadapi detik ini dengan mengutamakan tindakan bermakna berbanding kesempurnaan dasar.

Inilah yang sedang kami lakukan:

1. Menggesa keperluan keselamatan AI nasional yang mandatori. Kami mahu bekerjasama dengan Kongres berkenaan peraturan keselamatan AI nasional yang mandatori dan berasaskan keupayaan.

2. Mengekalkan momentum di peringkat negeri. Sehingga Kongres mengambil tindakan, kami akan terus menyokong perundangan negeri yang memperkukuh ekosistem keselamatan AI secara menyeluruh. Hari ini, kami mengumumkan sokongan kami terhadap empat rang undang-undang California: SB 813 mengenai infrastruktur menyeluruh bagi penilaian keselamatan bebas, AB 1405 mengenai piawaian juruaudit AI, SB 1119 mengenai perlindungan untuk golongan muda dan AB 1864 mengenai perlindungan daripada ancaman biologi berasaskan AI.

3. Memajukan piawaian yang diterajui industri. Kami akan bekerjasama dengan makmal perbatasan lain untuk memajukan piawaian AI perbatasan, sambil membina usaha sukarela sekarang, dengan atau tanpa sokongan kerajaan.

4. Membina piawaian global. Kami akan menyokong pendekatan antarabangsa yang serasi untuk mengukur keupayaan, mengurus risiko, mengekalkan kawalan manusia serta menentukan bila dan bagaimana pembangunan perlu diperlahankan atau dihentikan, walaupun ini bermakna memperlahankan kemajuan keupayaan model.

Ketua Saintis kami, Jakub Pachocki, baru-baru ini menulis⁠ bahawa peningkatan pesat kecerdasan mesin, termasuk potensi peningkatan kendiri rekursif, memerlukan “sikap amat berhati-hati”. OpenAI akan terus mengusahakan penyelesaian teknikal untuk penjajaran dan pemantauan, membina sistem pertahanan serta memperlahankan pembangunan apabila perlu. Namun, kerja teknikal dalam setiap makmal sahaja tidak akan mencukupi. Kita juga memerlukan piawaian bersama, termasuk tentang bila pembangunan perlu diperlahankan atau dihentikan.

Taruhannya amat besar. AI canggih boleh mempercepat pembangunan ubat baharu⁠, memperkukuh infrastruktur kritikal⁠, memperluas peluang ekonomi⁠ dan membantu menyelesaikan masalah saintifik⁠ yang gagal dirungkai walaupun setelah diusahakan oleh manusia selama beberapa generasi. Namun, keupayaan yang menjadikan model lebih berguna turut membawa risiko dan tidak akan kekal terbatas pada beberapa makmal perbatasan sahaja. Model yang dibangunkan di seluruh dunia, termasuk model terbuka, akan semakin menghampiri tahap perbatasan hari ini dan tersedia secara meluas.

Keupayaan Astra, bukti awal pecutan penyelidikan dipacu AI dan esei Jakub semuanya menunjukkan arah yang sama: AI berkembang dengan pantas dan dasar perlu bergerak seiring dengannya.

Greg Brockman menyifatkannya sebagai “ruang masa untuk pihak pertahanan”⁠(dibuka dalam tetingkap baru): tempoh terhad apabila AI perbatasan boleh membantu pihak pertahanan memperkukuh sistem kritikal sebelum keupayaan serangan yang ampuh tersebar luas. Penggubal dasar menghadapi detik yang serupa: ruang masa yang semakin sempit untuk mewujudkan perlindungan berkekalan sebelum keupayaan AI mengatasi institusi yang bertanggungjawab mentadbirnya.

Apabila keupayaan meningkat, keyakinan terhadap keselamatan mesti semakin menentukan kadar kemajuan AI. Keselamatan bukan penghalang kemajuan; keselamatanlah yang membolehkan kemajuan bergerak lebih jauh dan memberi manfaat kepada lebih ramai orang.

Kami telah memperkukuh langkah perlindungan dalam pemantauan, penjajaran dan keselamatan sepanjang kitar hayat pembangunan model, termasuk pengasingan yang lebih kukuh bagi beban kerja penyelidikan perbatasan, pemantauan yang diperluas terhadap tingkah laku model semasa latihan dan penilaian yang menggunakan alat, serta peraturan yang lebih jelas tentang bila kebimbangan perlu dieskalasikan. Bagi Astra, kami juga memperkenalkan pemantauan sejagat terhadap keseluruhan trajektori, termasuk rentetan fikiran, dan titik kawalan penilaian penjajaran mandatori sebelum penggunaan dalaman yang lebih meluas.

Perlindungan tersebut mesti terus mendahului keupayaan. Apabila penerusan tindakan menimbulkan risiko keselamatan yang tidak boleh diterima, kami akan memperlahankan atau menghentikan pembangunan atau pelaksanaan sistem yang tidak dapat kami lindungi dengan secukupnya, seperti yang pernah kami lakukan sebelum ini dan seperti yang dikehendaki oleh Rangka Kerja Kesediaan⁠(dibuka dalam tetingkap baru) kami.

Peningkatan kendiri rekursif yang berautonomi sepenuhnya—iaitu sistem AI secara bebas memacu generasi AI berturut-turut yang semakin berkeupayaan—tidak berlaku pada hari ini. Ia tidak wajar diusahakan melainkan jika dan sehingga ia dapat dilakukan dengan selamat.

Namun, AI telah pun mempercepat sebahagian penyelidikan yang digunakan untuk membangunkan dan menjajarkan model generasi seterusnya. Penyelidikan⁠ terkini kami menunjukkan bahawa ejen AI boleh melaksanakan beberapa tugas yang akan mengambil masa beberapa hari bagi penyelidik mahir. Ini bukan penambahbaikan kendiri rekursif, tetapi merupakan bukti arah perkembangannya.

Pecutan itu juga boleh dan mesti ditumpukan kepada keselamatan. Matlamat kami adalah untuk membina penyelidik AI berautomasi secara selamat yang bekerja di bawah penyeliaan manusia bagi memajukan kedua-dua pembelajaran mendalam dan penjajaran—dengan menggunakan setiap generasi AI untuk membantu menjadikan generasi seterusnya lebih selamat, lebih sejajar dan lebih mudah dikawal, bukan sekadar lebih berkeupayaan.

Kerajaan perlu membangunkan kaedah bersama untuk mengukur kemajuan ini, mengekalkan kawalan manusia yang bermakna dan menetapkan ambang keselamatan bersama bagi menentukan bila dan bagaimana pembangunan perlu diperlahankan atau dihentikan. Jika kita tidak dapat memenuhi ambang keselamatan tertentu tanpa memperlahankan pertumbuhan keupayaan, kita harus mengutamakan yang pertama. Semakin berkuasa teknologi ini, semakin kukuh perlindungan di sekelilingnya diperlukan.

Prospek pembangunan AI yang dipercepatkan oleh AI menuntut lebih daripada komitmen sukarela. Amerika Syarikat memerlukan peraturan nasional mandatori berasaskan keupayaan yang boleh berkembang seiring dengan perkembangan teknologi.

Rangka Tindakan Tadbir Urus Demokratik AI perbatasan⁠ kami menggariskan langkah ke arah rangka kerja persekutuan yang berkekalan: keperluan bersama untuk pengujian dan penilaian bebas, perlindungan keselamatan siber yang lebih kukuh, peraturan jelas bagi pelaporan insiden, kesiapsiagaan negara yang lebih tinggi dan langkah bersama untuk menjejaki kemajuan ke arah penambahbaikan kendiri rekursif.

Beberapa cadangan serius tentang keselamatan perbatasan kini sedang dibentuk di Kongres. Kami akan terus terlibat secara konstruktif dan menjangka akan menyokong perundangan yang meningkatkan ambang keselamatan dengan ketara. Dengan kepentingan sebesar ini, kita tidak boleh membiarkan tuntutan kesempurnaan menghalang kemajuan yang baik. Kongres perlu bertindak sebelum ditangguhkan.

Rangka kerja kebangsaan perlu kukuh tetapi disasarkan dengan teliti. Keperluan keselamatan perbatasan perlu terpakai kepada segelintir makmal berkemampuan sumber tinggi yang membangunkan sistem paling berkeupayaan—bukan kepada syarikat pemula, pembangun kecil atau penyelidik yang beroperasi jauh daripada perbatasan. Kewajipan perlu setimpal dengan keupayaan dan risiko.

Dasar keselamatan perbatasan juga tidak sepatutnya menjadi dasar pemberat terbuka dengan nama lain. Model terbuka boleh menjadi sebahagian daripada penyelesaian, khususnya dalam keselamatan siber dan apabila keperluan kedaulatan, keselamatan atau lokasi data mengutamakan pelaksanaan setempat. Kebanyakannya bersaing bukan pada perbatasan, tetapi dari segi kos, kawalan dan kependaman. Seperti yang kami tegaskan ketika menandatangani surat Pemberat Terbuka dan Kepimpinan AI Amerika⁠(dibuka dalam tetingkap baru), Amerika memerlukan kedua-dua model terbuka dan tertutup. Rangka kerja persekutuan harus menangani keupayaan dan risiko perbatasan tanpa melemahkan persaingan, memperkukuh kedudukan pemain sedia ada atau mendorong inovasi ke luar negara.

Rangka kerja awam yang serius perlu mengurangkan, bukan meningkatkan, penumpuan kuasa. Hari ini, makmal perbatasan sebahagian besarnya menetapkan peraturan sendiri untuk mengurus risiko perbatasan. Piawaian yang bertanggungjawab secara demokratik, pengesahan bebas dan ketelusan yang bermakna akan menggantikan sistem tadbir urus swasta yang berpecah-pecah itu.

Langkah ini penting untuk kepimpinan Amerika. Amerika Syarikat tidak boleh memenangi era AI dengan keupayaan semata-mata. Mendahului dari segi teknikal tidak banyak ertinya jika orang ramai, institusi dan kerajaan tidak cukup mempercayai teknologi tersebut untuk menggunakannya. Perlindungan yang kukuh bukan kompromi yang mengorbankan inovasi. Perlindungan tersebut ialah sebahagian daripada infrastruktur yang diperlukan untuk penerimagunaan meluas—dan kepimpinan Amerika yang berkekalan.

Kita sangat memerlukan piawaian nasional mengenai AI, dan sesiapa sahaja yang bekerja di perbatasan dapat melihat betapa mendesaknya perkara ini. Sehingga Kongres bertindak, negeri perlu terus mengambil langkah untuk mengisi kekosongan dan meningkatkan standard.

OpenAI telah menyokong SB 53 California, Akta RAISE New York, SB 315 Illinois, serta audit bebas dalam perundangan keselamatan perbatasan yang sedang dipertimbangkan di Massachusetts. Kami menggalakkan negeri-negeri untuk menyelaraskan pendekatan berdasarkan langkah perlindungan bersama ini. Dengan berbuat demikian, negeri boleh mewujudkan garis dasar kebangsaan secara de facto yang akhirnya boleh dikodifikasikan oleh Kongres—pendekatan yang kami namakan ⁠federalisme songsang⁠. Namun, penyelarasan bukan bermakna membekukan keperluan yang ada.

Hari ini, kami secara rasmi menyokong empat rang undang-undang tambahan dari California yang telah diluluskan oleh badan perundangan dan akan dihantar kepada Gabenor Newsom. Bersama-sama, rang undang-undang ini menangani bahagian yang saling melengkapi dalam ekosistem keselamatan AI.

SB 813⁠(dibuka dalam tetingkap baru) akan menetapkan proses untuk melantik organisasi bebas dan berkelayakan yang mampu menilai risiko AI. Seperti yang kami nyatakan dalam ⁠(dibuka dalam tetingkap baru)rangka tindakan keselamatan perbatasan⁠(dibuka dalam tetingkap baru), kami lebih memilih agar penilaian teknikal bebas diwajibkan di peringkat persekutuan, tempat penggubal dasar boleh menetapkan piawaian yang konsisten untuk kelayakan penilai, keselamatan dan akses kepada maklumat yang sangat sensitif. Namun, tanpa tindakan persekutuan, California boleh membantu menetapkan peraturan bagi sistem penilaian bebas kebangsaan yang selamat dan berkeupayaan serta memberikan tahap keselamatan yang lebih baik.

AB 1405⁠(dibuka dalam tetingkap baru) akan mewujudkan keperluan pendaftaran, kebebasan, ketelusan dan kebertanggungjawaban untuk juruaudit AI.

SB 1119⁠(dibuka dalam tetingkap baru) akan mewajibkan jaminan umur, penilaian risiko, audit bebas, kawalan ibu bapa dan perlindungan daripada kandungan berbahaya untuk kanak-kanak serta remaja yang menggunakan chatbot pendamping. Kami baru-baru ini menyatakan sokongan kami⁠ terhadap rang undang-undang ini, yang berasaskan langkah keselamatan belia yang telah dimajukan oleh OpenAI melalui produk kami, ⁠prinsip dasar global⁠ serta sokongan terhadap ⁠(dibuka dalam tetingkap baru)Akta AI Selamat untuk Ibu Bapa & Kanak-kanak⁠(dibuka dalam tetingkap baru), di samping perlindungan yang terbina dalam ChatGPT untuk Remaja—termasuk tetapan lalai yang lebih kukuh dalam bidang sensitif, Waktu Senyap, Waktu Belajar dan peringatan untuk berehat.

AB 1864⁠(dibuka dalam tetingkap baru) akan mewajibkan penyedia sintesis gen dan pengilang peralatan sintesis atas meja mematuhi piawaian saringan persekutuan, sekali gus memperkukuh perlindungan fizikal yang penting daripada ancaman biologi berasaskan AI.

Sebahagian daripada rang undang-undang ini tidak kami sokong pada masa lalu, dan kini kami menyokongnya selepas mempertimbangkannya kembali berdasarkan lonjakan keupayaan terkini yang kami lihat.

Rang undang-undang ini bukan pengganti kepada peraturan persekutuan. Usaha ini merupakan usaha serius yang dapat melindungi orang ramai sekarang, menunjukkan bentuk langkah perlindungan yang boleh dilaksanakan, dan membantu membina momentum untuk tindakan persekutuan.

Undang-undang sahaja tidak akan menjadikan AI termaju selamat. Kami juga memerlukan amalan konkrit dalam makmal yang membangunkan sistem paling berkebolehan. Tempat paling mendesak untuk bermula ialah pemantauan.

Hal ini amat penting bagi ketidakjajaran—apabila model mengejar objektif dengan cara yang melanggar niat manusia atau batasan yang ditetapkan, tanpa memerlukan kesedaran atau niat jahat. Apabila model memperoleh autonomi yang lebih besar, menggunakan alat yang lebih berkuasa dan beroperasi dalam tempoh yang lebih lama, pembangun seharusnya diwajibkan untuk memantau tingkah laku tidak sejajar ini serta menunjukkan bahawa perlindungan berkesan telah disediakan.

Pemantauan mesti dikaitkan dengan keperluan pendedahan yang jelas. Seperti yang kami perjuangkan di California, syarikat perlu diwajibkan memberikan notis bertulis prom kepada pihak yang terjejas apabila, semasa pembangunan atau penilaian, model mereka memintas kawalan keselamatan organisasi lain tanpa kebenaran dan mengakses, mengubah atau memusnahkan sistem terlindung atau maklumat sulit organisasi tersebut secara ketara. Kami juga menyokong keperluan pelaporan persekutuan bagi insiden AI serius yang lain dan sedang berusaha untuk menentukan insiden yang perlu diliputi serta perkara yang perlu terkandung dalam keperluan tersebut.

Seperti yang kami kongsikan minggu lalu, OpenAI sedang membangunkan rangka kerja untuk melaporkan insiden ketidakjajaran yang membawa kesan besar dan memantau aktiviti model perbatasan secara sistematik, termasuk penggunaan dalaman. Ini bermula sebagai usaha yang diterajui syarikat, tetapi kami berharap ia dapat membantu memaklumkan dasar persekutuan dan keperluan pelaporan yang lebih meluas.

Kami ingin bekerjasama dengan makmal lain mengenai piawaian yang diterajui industri. Sebarang piawaian yang diterajui industri akan melengkapi—bukan menggantikan—perlindungan persekutuan wajib dan pengawasan demokratik. Namun, kami telah memasuki fasa keupayaan AI yang berbeza, dan segala-galanya harus dipertimbangkan—termasuk mempertimbangkan perkara yang boleh dibangunkan secara sukarela di luar kerajaan sebagai langkah segera.

Sebarang piawaian sedemikian akhirnya juga mesti melangkaui sempadan negara. Model, penyelidikan dan kepakaran teknikal bergerak di seluruh dunia, manakala kegagalan yang melibatkan sistem paling berkeupayaan boleh membawa kesan jauh melangkaui negara tempat sistem itu dibangunkan. Amerika Syarikat perlu mewujudkan piawaian yang boleh dipercayai di dalam negara jika mahu memimpin di peringkat antarabangsa—dan kami semakin yakin bahawa piawaian antarabangsa yang serasi akan diperlukan.

Jendela dasar AI masih terbuka, buat masa ini. Kami berhasrat memanfaatkannya.

Ini bermakna bertindak dengan segera, rendah hati dan bersedia menyesuaikan diri. Ini bermakna menyokong cadangan serius yang meningkatkan ambang keselamatan dengan ketara walaupun tidak menepati sepenuhnya reka bentuk pilihan kami. Dan ini bermakna memperkukuh rangka kerja seiring dengan perkembangan teknologi.

Tiada langkah pertama yang sempurna. Namun, risiko lebih besar sekarang ialah menunggu terlalu lama untuk mengambil langkah pertama.