Membina piawaian untuk fasa AI seterusnya

Misi kami adalah untuk memastikan kecerdasan am buatan memberi manfaat kepada seluruh manusia. Seperti yang dihuraikan baru-baru ini oleh Sam Altman dan Jakub Pachocki, kami mengutamakan usaha ke arah misi ini berdasarkan tiga matlamat utama:

1. Mengharungi fasa kemajuan AI seterusnya dengan membina penyelidik AI automatik, menggunakannya untuk menambah baik penyelesaian masalah penyelarasan secara berulang, dan mencari cara agar manusia kekal terlibat dalam kitaran penambahbaikan kendiri.

2. Menyampaikan manfaat kemajuan sains dan pertumbuhan ekonomi yang dimungkinkan oleh mesin amat pintar.

3. Memperkasa setiap individu dengan AGI peribadi.

AI sedang mempercepat penyelidikan dan kejuruteraan kami sendiri, manakala penyelidikan berteraskan AI telah menghasilkan kemajuan dalam matematik, termasuk Masalah Milenium Navier-Stokes. Kemajuan ini amat menjanjikan bagi dua lagi matlamat kami, yang boleh membawa kepada penemuan penting dalam bidang perubatan, penjagaan kesihatan yang boleh diakses secara meluas, serta pemerkasaan ekonomi untuk perniagaan kecil dan usahawan individu di seluruh dunia.

AI sedang berkembang dalam banyak syarikat dan negara, dan kemajuan seluruh bidang ini mengubah peluang serta cabaran yang dihadapi semua orang. Di samping manfaatnya yang lain, AI berkeupayaan yang diselaraskan akan memainkan peranan penting dalam membantu kita mengharungi peralihan ini—dengan memperkukuh pertahanan, memajukan penyelidikan penyelarasan serta membantu manusia memahami dan membimbing peringkat pembangunan AI seterusnya.

Untuk mengharungi peralihan ini dengan selamat, penyelidikan penyelarasan perlu bergerak seiring dengan keupayaan tersebut agar sistem yang dibina oleh kami dan pihak lain kekal selaras dengan nilai kemanusiaan serta berada di bawah kawalan manusia. Hal ini semakin penting apabila sistem AI menjadi lebih berkeupayaan dan berautonomi, termasuk apabila sistem tersebut mengambil alih lebih banyak tugas penyelidikan dan pembangunan AI itu sendiri. Untuk memastikan kemajuan AI berterusan secara selamat dan bermanfaat, kita memerlukan kemajuan dalam penyelidikan penyelarasan serta piawaian bersama yang membimbing pembangunan merentas makmal dan negara.

Penyelidikan AI automatik boleh melibatkan tahap pengawasan manusia yang berbeza-beza. Apabila sistem AI mengambil alih lebih banyak tugas membangunkan generasi AI yang seterusnya, sistem tersebut semakin mampu memacu proses penambahbaikan kendiri rekursif (RSI), walaupun manusia masih terlibat. Apabila proses ini semakin diautomasikan, kemajuan AI boleh meningkat dengan pantas.

Kami percaya penyelidikan AI automatik akan menghasilkan model yang meningkatkan kehidupan manusia secara langsung. Penyelidikan ini boleh mengurangkan kos kecerdasan maju agar manusia di seluruh dunia dapat meraih manfaatnya. Penyelidikan automatik juga boleh membantu kami meningkatkan penyelarasan dengan ketara dan membina pertahanan terhadap AI yang semakin berkeupayaan—penyelidik AI automatik juga boleh menjadi penyelidik keselamatan AI automatik. Sistem lebih berkeupayaan yang diselaraskan boleh membantu melindungi infrastruktur kritikal, mempertahankan diri daripada ejen AI berbahaya dan membangunkan langkah perlindungan baharu.

RSI berautonomi sepenuhnya belum berlaku pada hari ini, dan kita tidak seharusnya mengusahakannya melainkan dan sehingga ia dapat dilakukan dengan selamat. Keputusan sama ada dan bagaimana kita harus meneruskannya mestilah bergantung pada keupayaan kita mengekalkan kawalan manusia serta pilihan demokratik yang berasaskan maklumat⁠(dibuka dalam tetingkap baru) tentang manfaat dan risikonya. Jika dilakukan tanpa ketelitian dan kewaspadaan yang sewajarnya, RSI boleh menyebabkan manusia kehilangan kawalan praktikal terhadap pembangunan AI dan tidak lagi mampu mengawasi proses penyelidikan yang tidak lagi difahami. Dari tahap ini, AI boleh menjadi lebih berbahaya, kurang selaras dan, secara keseluruhannya, mengancam manusia. Insiden Hugging Face yang kami dedahkan, walaupun bukan kesan langsung RSI, memberikan gambaran awal tentang jenis risiko yang boleh menjadi jauh lebih serius tanpa perlindungan dan penyelarasan yang teguh.

Piawaian antarabangsa bagi amalan keselamatan dan sekuriti dalam pembangunan AI perbatasan mungkin sama pentingnya dengan penyelidikan penyelarasan itu sendiri untuk mengawal rentak kemajuan di perbatasan. Piawaian boleh mewujudkan takrifan bersama bagi bukti berkualiti tinggi dan garis dasar yang dipersetujui untuk ketegasan perlindungan teknikal. Ringkasnya, piawaian membantu kita menjawab soalan, “Apakah rupa amalan yang baik dalam mengurangkan risiko bencana AI?”

Institusi demokrasi sedia ada seperti Center for AI Standards and Innovation (CAISI), undang-undang negeri dan kerangka persekutuan untuk AI semuanya boleh membantu usaha ini, begitu juga bentuk baharu perkongsian awam-swasta⁠(dibuka dalam tetingkap baru). Namun, pembangunan dan pelaksanaan AI sedang berlaku di pelbagai negara, penerimagunaannya berlaku di seluruh dunia, dan kesannya mungkin dialami oleh semua orang dalam apa-apa bentuk dan pada suatu ketika.

Oleh itu, usaha antarabangsa untuk membangunkan piawaian diperlukan bagi menangani beberapa cabaran utama:

• Pemecahan—Penilaian, keperluan pelaporan dan takrifan insiden oleh negara yang berbeza boleh bercanggah, sekali gus menyukarkan perbandingan bukti, pemahaman keupayaan yang sedang muncul dan tindak balas terhadap risiko rentas sempadan.

• Tindakan bersama—Tindakan bebas oleh setiap negara boleh menghasilkan keadaan yang tidak diingini oleh mana-mana negara. RSI mampu mempercepat penyelidikan AI itu sendiri, sehingga berpotensi melampaui keupayaan bersama kita untuk memahami kemajuan, menilai risiko dan mengekalkan pengawasan manusia yang bermakna.

• Keupayaan tidak seimbang—Aktiviti pembangunan perbatasan dan kepakaran berkaitan tidak diagihkan secara sama rata di seluruh dunia. Hal ini memburukkan kedua-dua masalah di atas.

Cabaran ini melibatkan model terbuka dan model tertutup.

Tegasnya, mana-mana makmal AI yang menjalankan penyelidikan AI automatik atau membangunkan keupayaan maju lain mesti bertanggungjawab untuk melakukannya dengan selamat, selaras dengan prinsip asas tanggungjawab kendiri dan undang-undang sedia ada. Rasional kami untuk piawaian berteraskan usaha mengelakkan pemusatan kuasa dan menghasilkan keputusan praktikal yang lebih baik. Piawaian membolehkan lebih ramai pihak berkepentingan di luar makmal menyuarakan pandangan tentang hala tuju teknologi ini, di samping menyediakan prinsip yang jelas dan boleh dijadikan sandaran tanpa bergantung pada amalan khusus mana-mana makmal. Kita juga berkemungkinan memperoleh hasil yang lebih baik jika semua pihak bekerjasama menangani cabaran di atas.

Itulah sebabnya kami percaya Amerika Syarikat harus memimpin usaha untuk bekerjasama dengan negara di seluruh dunia bagi membangunkan piawaian teknikal global untuk AI perbatasan, termasuk RSI.

Walaupun kami menjangkakan konsep ini akan banyak berkembang dari semasa ke semasa, dua aspek tetap penting.

Satu cara untuk mencapainya adalah dengan memanfaatkan rangkaian institut keselamatan AI yang sedang berkembang—seperti yang telah ditubuhkan di Australia, Kanada, Jerman, Perancis, Kenya, Jepun, Korea, Singapura, India dan United Kingdom—untuk memudahkan penetapan piawaian melalui CAISI dan badan industri negara, dengan tumpuan khusus pada (1) model serta pembangun AI perbatasan, yang diukur berdasarkan penanda aras keupayaan; dan (2) pengurusan manfaat-risiko bagi penyelidikan AI automatik, termasuk RSI. Amerika Syarikat boleh meneruskan usaha CAISI yang mewujudkan Rangkaian Antarabangsa bagi Pengukuran, Penilaian dan Sains AI Maju⁠(dibuka dalam tetingkap baru) pada tahun 2024, yang menghimpunkan institusi awam untuk bekerjasama dalam pengukuran, penilaian dan sains AI.

Piawaian yang dibangunkan melalui usaha ini akan menyediakan asas teknikal bersama bagi pengukuran dan penilaian keupayaan, penilaian risiko serta kecukupan perlindungan. Piawaian teknikal ini bukan lesen, semakan prapelancaran wajib atau syarat kelulusan bagi model AI. Kerajaan setiap negara akan memutuskan sama ada dan bagaimana piawaian ini harus diterapkan dalam sistem perundangan masing-masing.

Usaha ini juga harus menyokong ekosistem AI yang berdaya saing dengan mendapatkan pandangan pembangun model terbuka dan model tertutup, pakar teknikal bebas serta ahli akademik. Piawaian bersama harus dibangunkan secara telus dan direka agar tidak memberi kelebihan kepada syarikat, negara atau model perniagaan tertentu, termasuk dengan menyukarkan peserta baharu atau pembangun model berwajaran terbuka untuk bersaing.

Seperti yang telah kami cadangkan⁠(dibuka dalam tetingkap baru), pendekatan ini boleh mengambil iktibar daripada bidang seperti penerbangan dan kestabilan kewangan, apabila negara-negara membangunkan piawaian teknikal bersama serta saluran kerjasama yang dipercayai tanpa melepaskan kuasa negara. Usaha ini juga harus bekerjasama rapat dengan badan piawaian sedia ada dan yang lebih baharu seperti ISO⁠(dibuka dalam tetingkap baru), Forum Model Perbatasan⁠(dibuka dalam tetingkap baru), Yayasan AI Agentic⁠(dibuka dalam tetingkap baru) dan Perikatan AI Terbuka dan Selamat⁠(dibuka dalam tetingkap baru), serta organisasi yang menumpukan pelaksanaan seperti Yayasan Appia, yang sedang membangunkan spesifikasi praktikal untuk menghubungkan piawaian antarabangsa dengan penilaian AI dunia sebenar.

Piawaian AI antarabangsa akan menjadi amat penting dalam mengurus peningkatan autonomi dalam penyelidikan AI dan penambahbaikan kendiri rekursif. Secara khusus, piawaian ini boleh merangkumi:

• Penilaian kemajuan AI yang berkaitan dengan RSI dan jumlah penyelidikan autonomi yang dijalankan dalam sesebuah syarikat AI. Laporan terbaru kami tentang pecutan penyelidikan merupakan sumbangan awal kepada usaha ini.

• Pengawasan manusia terhadap penyelidikan AI automatik, termasuk jenis proses penyelidikan AI automatik yang perlu mencetuskan semakan manusia dengan segera.

• Pengelasan, penjejakan, pelaporan dan tindak balas insiden bagi isu penyelarasan dan penyelidikan AI automatik, seperti tahap keterukan insiden dan ambang pelaporan yang seragam. Kerangka pelaporan ketidakselarasan kami ialah satu sumbangan awal.

Selain piawaian ini, kami percaya bahawa pengendali infrastruktur kritikal dan kerajaan di seluruh dunia perlu mewujudkan saluran komunikasi yang selamat untuk berkongsi kebimbangan keselamatan negara, kerentanan dan ancaman yang sedang muncul, serta amalan terbaik dalam bidang keselamatan AI perbatasan yang berkembang pesat. Dialog antara Amerika Syarikat dengan China dalam bidang ini merupakan langkah positif, dan rundingan akan datang berlangsung pada masa yang tepat.

Mengawal rentak pembangunan AI bukanlah tentang mengekalkan kelajuan yang telah ditetapkan. Dari sudut teknikal, ini bermakna memastikan penyelidikan penyelarasan dan pelaksanaan hasil penyelidikan itu sentiasa mendahului kemajuan keupayaan. Dari sudut kemasyarakatan, ini bermakna menggunakan piawaian, institusi dan kerjasama untuk memperkukuh rangkaian industri, hubungan sosial dan kuasa pasaran demi menghasilkan manfaat untuk semua pihak. Seruan baru-baru ini untuk tindakan bersama dalam pertahanan siber ialah contoh pendekatan yang kedua.

Amerika Syarikat berada pada kedudukan yang baik untuk memimpin kerana industri AInya berada di perbatasan teknologi, dan negara itu masih mempunyai kedudukan istimewa dalam rangkaian global bagi bidang penting seperti kewangan, perdagangan, pertahanan, teknologi dan sistem maklumat. Kepimpinan sekarang akan menentukan sama ada Amerika Syarikat membentuk kerangka AI global atau sekadar menyaksikan sistem yang berpecah-belah, tidak seimbang dan sarat konflik bertapak di sekelilingnya. Ini juga akan menentukan sama ada AI maju mengukuhkan rangkaian sedia ada Amerika Syarikat dan sekutunya; kegagalan memimpin mungkin melemahkan rangkaian tersebut.

Persaingan geopolitik bukan sahaja berkisar tentang siapa yang mendahului dari sudut teknikal, tetapi juga tentang penerimagunaan dan penyebaran AI. Semakin lama, perkara ini mungkin ditentukan oleh pihak yang menerajui kerjasama realistik dan peraturan munasabah yang dikehendaki perniagaan serta masyarakat di seluruh dunia jika mereka mahu mempertaruhkan masa depan pada teknologi ini.

Tadbir urus negara yang kukuh, dihubungkan melalui kerjasama antarabangsa yang praktikal, menawarkan jalan ke arah perlindungan lebih mantap, inovasi berterusan dan akses luas kepada manfaat AI.