Mbangun standar kanggo tahap AI sabanjure
Misi kita yaiku mesthekake yen kecerdhasan umum tiruan migunani kanggo kabeh manungsa. Kaya sing bubar diandharake Sam Altman lan Jakub Pachocki, kita ngutamakake pakaryan kanggo nggayuh misi iki kanthi telung tujuan utama:
Ngliwati tahap kemajuan AI sabanjure kanthi mbangun panliti AI otomatis, nggunakake sistem kasebut kanggo terus ngrampungake masalah penyelarasan, lan nemokake cara supaya manungsa tetep melu ing siklus panyampurnan mandiri.
Nyalurake paedahe kemajuan ilmiah lan pertumbuhan ekonomi sing diwujudake dening mesin sing cerdas banget.
Menehi daya marang saben wong kanthi AGI pribadi.
AI nyepetake riset lan rekayasa kita dhewe, lan riset kanthi dhukungan AI wis ngasilake kemajuan ing matematika, kalebu Masalah Milenium Navier–Stokes. Kemajuan iki menehi pangarep-arep gedhe kanggo rong tujuan liyane, sing bisa ngasilake panemuan wigati ing babagan medis, layanan kesehatan sing bisa diakses kanthi jembar, lan pemberdayaan ekonomi kanggo usaha cilik lan wirausaha mandiri ing endi wae.
AI saya maju ing pirang-pirang perusahaan lan negara, lan kemajuan ing saindenging bidang iki ngowahi kesempatan lan tantangan sing diadhepi saben wong. Saliyane paedah liyane, AI sing kapabel lan selaras bakal dadi bagean wigati kanggo ngliwati transisi iki—kanthi nguwatake pertahanan, majokake riset penyelarasan, lan mbantu wong mangerteni lan ngarahake tahap pangembangan AI sabanjure.
Supaya transisi iki bisa diliwati kanthi aman, riset penyelarasan kudu ngimbangi lajune kapabilitas kasebut, supaya sistem sing dibangun kita lan pihak liya tetep selaras karo nilai-nilai manungsa lan ing kendhaline manungsa. Iki saya wigati nalika sistem AI saya kapabel lan otonom, kalebu nalika sistem kasebut nindakake saya akeh pakaryan riset lan pangembangan AI. Supaya kemajuan AI terus aman lan migunani, dibutuhake kemajuan riset penyelarasan lan standar bebarengan kanggo nuntun pangembangan ing macem-macem laboratorium lan negara.
Riset AI otomatis bisa ditindakake kanthi tingkat pangawasan manungsa sing beda-beda. Nalika sistem AI saya akeh nindakake pakaryan kanggo ngembangake generasi AI sabanjure, sistem kasebut bisa saya nyurung proses panyampurnan mandiri rekursif (RSI), sanajan manungsa tetep melu. Nalika proses iki saya otomatis, laju kemajuan AI bisa mundhak kanthi cepet.
Kita yakin riset AI otomatis bakal ngasilake model sing langsung ningkatake uripe wong. Iki bisa ngedhunake biaya kecerdasan maju supaya wong ing saindenging donya bisa ngrasakake paedahe. Riset otomatis uga bisa mbantu kita ningkatake penyelarasan kanthi nyata lan mbangun pertahanan ngadhepi AI sing saya kapabel—panliti AI otomatis uga bisa dadi panliti keslametan AI otomatis. Sistem sing luwih kapabel lan selaras bisa mbantu ngamanake prasarana kritis, nangkis agen AI sing mbebayani, lan ngembangake langkah pangayoman anyar.
RSI sing otonom sakabehe durung dumadi saiki, lan aja nganti kita ngupayakake sadurunge bisa ditindakake kanthi aman. Kaputusan apa lan kepiye proses iki diterusake kudu gumantung marang kemampuan kita njaga kendhali manungsa lan marang pilihan demokratis adhedhasar informasi(mbukak ing jendhela anyar) ngenani paedah lan risikone. Yen ditindakake tanpa kawigaten lan kehati-hatian sing trep, RSI bisa njalari manungsa kelangan kendhali praktis marang pangembangan AI lan ora bisa ngawasi proses riset sing wis ora dimangerteni. Saka kahanan iki, AI bisa dadi luwih mbebayani, kurang selaras, lan sacara sakabèhané dadi ancaman tumrap manungsa. Kedadeyan Hugging Face sing wis kita wedharake, sanajan dudu asil langsung saka RSI, menehi gambaran awal babagan risiko sing bisa dadi luwih abot yen ora ana pangayoman lan penyelarasan sing kukuh.
Standar internasional kanggo praktik keslametan lan keamanan ing pangembangan AI tercanggih bisa padha wigatine karo riset penyelarasan kanggo ngatur laju pangembangan teknologi tercanggih. Standar bisa nggawe definisi bebarengan babagan bukti bermutu lan patokan sing disepakati kanggo kaketatan pangayoman teknis. Cekake, standar kasebut mbantu kita mangsuli pitakon, “Kaya apa mitigasi risiko AI katastrofik sing apik?”
Lembaga demokratis sing wis ana, kayata Center for AI Standards and Innovation (CAISI), hukum negara bagian, lan kerangka federal kanggo AI, bisa mbantu upaya iki, semono uga wujud kemitraan publik-swasta anyar(mbukak ing jendhela anyar). Nanging, pangembangan lan penerapan AI lumaku ing pirang-pirang negara, adopsine dumadi sacara global, lan dampake bisa uga bakal dirasakake saben wong kanthi cara lan wektu sing beda-beda.
Mula, upaya internasional kanggo ngembangake standar dibutuhake kanggo ngrampungake sawetara tantangan utama:
Fragmentasi—Evaluasi, syarat pelaporan, lan definisi kedadeyan saka negara sing beda-beda bisa padha cecongkrahan, saengga luwih angel mbandhingake bukti, mangerteni kapabilitas anyar, lan nanggapi risiko lintas-wates.
Tumindak bebarengan—Yen saben negara tumindak dhewe-dhewe, asile bisa dadi kahanan sing ora dikarepake negara endi wae. RSI bisa nyepetake riset AI dhewe, nganti bisa ngluwihi kemampuan kita bebarengan kanggo mangerteni kemajuan, mbiji risiko, lan njaga pangawasan manungsa sing nyata.
Kapasitas sing ora rata—Kagiyatan pangembangan teknologi tercanggih lan kawruh sing gegandhengan ora sumebar kanthi rata ing saindenging donya. Iki ndadekake rong masalah ing ndhuwur saya abot.
Tantangan iki ditrapake tumrap model mbukak lan model katutup.
Perlu ditegesake, saben laboratorium AI sing ngupayakake riset AI otomatis utawa kapabilitas maju liyane kudu tanggung jawab kanggo nindakake kanthi aman, miturut prinsip dhasar tanggung jawab mandiri lan hukum sing lumaku. Dhasar pamikiran kita babagan standar yaiku supaya kakuwasan ora mung ngumpul ing pihak tartamtu lan supaya asil praktise luwih apik. Standar menehi dalan supaya luwih akeh pihak ing njaba laboratorium bisa melu nemtokake arah pangembangan teknologi iki, uga nyedhiyakake prinsip sing cetha lan bisa diendelake tanpa gumantung marang praktik laboratorium tartamtu. Lan asile bisa luwih apik yen kabeh pihak makarya bebarengan kanggo ngrampungake tantangan ing ndhuwur.
Mula, kita yakin Amerika Serikat kudu mimpin upaya kerja sama karo negara-negara ing saindenging donya kanggo ngembangake standar teknis global kanggo AI tercanggih, kalebu RSI.
Sanajan kita ngarepake konsep iki bakal owah kanthi gedhe sairing wektu, ana rong unsur sing bakal tetep wigati.
Salah siji cara kanggo nggayuh iki yaiku nggunakake jejaring lembaga keslametan AI sing lagi tuwuh—kayata sing wis dibentuk ing Australia, Kanada, Jerman, Prancis, Kenya, Jepang, Korea, Singapura, India, lan Britania Raya—kanggo nggampangake panyusunan standar liwat CAISI lan badan industri nasional, kanthi fokus khusus marang (1) model lan pangembang AI tercanggih, sing diukur nganggo patokan kapabilitas; lan (2) pengelolaan paedah-risiko kanggo riset AI otomatis, kalebu RSI. Amerika Serikat bisa nerusake pambentukan International Network for Advanced AI Measurement, Evaluation, and Science(mbukak ing jendhela anyar) dening CAISI ing taun 2024, sing nglumpukake lembaga publik kanggo kerja sama ing pangukuran, evaluasi, lan ilmu AI.
Standar sing diasilake saka upaya iki bakal nyedhiyakake dhasar teknis bebarengan kanggo pangukuran lan evaluasi kapabilitas, pambiji risiko, lan kacukupan pangayoman. Standar teknis iki ora bakal dadi lisensi, paninjauan wajib sadurunge dirilis, utawa syarat persetujuan kanggo model AI. Pamrentah nasional bakal nemtokake apa lan kepiye standar kasebut dilebokake ing sistem hukume dhewe.
Upaya iki uga kudu ndhukung ekosistem AI sing kompetitif kanthi rembugan karo pangembang model mbukak lan model katutup, ahli teknis independen, lan kalangan akademis. Standar bebarengan kudu dikembangake kanthi transparan lan dirancang supaya ora nguntungake perusahaan, negara, utawa model bisnis tartamtu, kalebu kanthi ora ngrendheti pesaing anyar utawa pangembang model bobot mbukak.
Kaya sing wis kita usulake(mbukak ing jendhela anyar), pendekatan iki bisa njupuk piwulang saka bidang kayata penerbangan lan stabilitas keuangan, nalika negara-negara wis ngembangake standar teknis bebarengan lan saluran kerja sama sing dipercaya tanpa masrahake wewenang nasional. Upaya iki uga kudu makarya raket karo badan standar lawas lan anyar kayata ISO(mbukak ing jendhela anyar), Frontier Model Forum(mbukak ing jendhela anyar), Agentic AI Foundation(mbukak ing jendhela anyar), lan Open Secure AI Alliance(mbukak ing jendhela anyar), uga organisasi sing fokus marang penerapan, kayata Appia Foundation, sing ngembangake spesifikasi praktis kanggo nyambungake standar internasional karo pambiji AI ing kahanan nyata.
Standar AI internasional bakal wigati banget kanggo ngelola otonomi sing saya mundhak ing riset AI lan panyampurnan mandiri rekursif. Kanthi luwih rinci, iki bisa nyakup standar kanggo:
Evaluasi kemajuan AI sing gegandhengan karo RSI lan akehe riset otonom sing ditindakake ing sawijining perusahaan AI. Laporan kita sing paling anyar babagan percepatan riset minangka sumbangan awal kanggo upaya iki.
Pangawasan manungsa marang riset AI otomatis, kalebu jinis proses riset AI otomatis sing kudu langsung dipriksa manungsa.
Klasifikasi, pelacakan, pelaporan, lan pananggulangan kedadeyan sing gegandhengan karo penyelarasan lan riset AI otomatis, kayata tingkat keruwetan kedadeyan lan ambang pelaporan sing padha. Kerangka pelaporan ketidakselarasan kita minangka sumbangan awal.
Saliyane standar kasebut, kita yakin operator prasarana kritis lan pamrentah ing saindenging donya perlu nggawe saluran komunikasi sing aman kanggo nuduhake keprihatinan keamanan nasional, kerentanan lan ancaman anyar, uga praktik paling apik ing bidang keslametan AI tercanggih sing owah kanthi cepet. Dhialog antarane Amerika Serikat lan Tiongkok babagan bidang kasebut bakal dadi langkah positif, lan rembugan sing bakal teka dianakake ing wektu sing pas.
Ngatur laju pangembangan AI dudu ateges njaga kacepetan sing wis ditemtokake. Saka sisih teknis, iki ateges mesthekake riset penyelarasan lan penerapane tansah luwih maju tinimbang kapabilitas AI. Saka sisih sosial, iki ateges nggunakake standar, lembaga, lan kolaborasi kanggo nguwatake jejaring industri, sesambungan sosial, lan daya pasar supaya ngasilake asil sing nguntungake kabeh pihak. Seruan anyar kanggo tumindak bebarengan ing pertahanan siber minangka salah siji tuladha bab kasebut.
Amerika Serikat nduweni posisi sing apik kanggo mimpin amarga industri AI-ne ana ing tataran teknis tercanggih, lan isih nduweni posisi istimewa ing jejaring global kanggo bidang wigati kayata keuangan, perdagangan, pertahanan, teknologi, lan sistem informasi. Kepemimpinan saiki bakal nemtokake apa Amerika Serikat mbentuk kerangka AI global utawa mung nyawang sistem sing kepisah-pisah, ora rata, lan kebak konflik tuwuh ing saubenge. Iki uga bakal nemtokake apa AI maju bisa nguwatake jejaring sing wis diduweni Amerika Serikat lan sekutune; yen ora mimpin, jejaring kasebut bisa saya ringkih.
Saingan geopolitik ora mung ngenani sapa sing luwih maju kanthi teknis, nanging uga ngenani adopsi lan panyebaran AI. Saya suwe, adopsi lan panyebaran kasebut bisa ditemtokake dening pihak sing nyengkuyung kerja sama realistis lan aturan sing wicaksana, sing bakal dikarepake bisnis lan masyarakat ing endi wae yen arep masrahake masa depane marang teknologi iki.
Tata kelola nasional sing kuwat lan disambungake liwat kerja sama internasional sing praktis menehi dalan tumuju pangayoman sing luwih kuwat, inovasi sing terus lumaku, lan akses jembar marang paedahe AI.
