Jendhela kebijakan AI mbukak. Kita kudu tumindak.

Kita wis mlebu babak anyar kabisan AI, lan iki mbutuhaké babak anyar kanggo kebijakan AI. Ora ana perusahaan, industri, utawa pamrentah sing bisa ngadhepi tantangan iki dhèwèkan. Kita kudu ngadhepi wektu iki kanthi ngutamakaké tumindak nyata tinimbang kasampurnan kebijakan.

Iki sing lagi kita tindakake:

1. Nyengkuyung syarat keamanan AI nasional sing wajib. Kita kepengin kerja sama kaliyan Kongres babagan regulasi keamanan AI nasional sing wajib lan adhedhasar kapabilitas.

2. Njaga momentum ing negara-negara bagéan. Nganti Kongres tumindak, kita bakal terus nyengkuyung undang-undang negara bagéan sing nguwataké ekosistem keamanan AI sing luwih jembar. Dina iki, kita ngumumaké dhukungan kita kanggo patang rancangan undang-undang California: SB 813 ngenani infrastruktur umum kanggo pambiji keamanan mandiri, AB 1405 ngenani standar auditor AI, SB 1119 ngenani pengayoman kanggo wong enom, lan AB 1864 ngenani pangreksa tumrap ancaman biologis kanthi AI.

3. Ngembangake standar sing dipimpin industri. Kita bakal kerja sama karo laboratorium tercanggih liyane kanggo ngembangake standar AI tercanggih, mbangun upaya sukarela saiki, kanthi utawa tanpa dhukungan pamaréntah.

4. Mbangun standar global. Kita bakal nyengkuyung pendekatan internasional sing kompatibel kanggo ngukur kapabilitas, ngatur risiko, njaga kendhali manungsa, lan nemtokaké kapan lan kepiyé pangembangan kudu dialonaké utawa diendhegaké, sanajan kuwi tegesé ngalonaké kemajuan kapabilitas model.

Kepala Ilmuwan kita, Jakub Pachocki, bubar nulis⁠ manawa munggahé kecerdasan mesin kanthi cepet, kalebu potènsi panyampurnan dhiri rekursif, mbutuhaké “kawaspadan sing banget dhuwur”. OpenAI bakal terus ngupayakaké solusi teknis kanggo penyelarasan lan pamantauan, mbangun sistem pertahanan, lan ngalonaké pangembangan nalika perlu. Nanging, karya teknis ing saben laboratorium waé ora bakal cukup. Kita uga mbutuhaké standar bebarengan, kalebu babagan kapan pangembangan kudu dialonaké utawa diendhegaké.

Taruhané gedhé banget. AI maju bisa nyepetaké pangembangan obat-obatan anyar⁠, nguwataké infrastruktur kritis⁠, nggedhèkaké kesempatan ékonomi⁠, lan mbantu ngrampungaké masalah ilmiah⁠ sing ora bisa dirampungaké déning upaya manungsa nganti pirang-pirang generasi. Nanging, kabisan sing ndadèkaké model luwih migunani uga nggawa risiko, lan ora bakal terus winates ing sawetara laboratorium tercanggih. Model sing dikembangaké ing saindenging donya, kalebu model mbukak, bakal saya nyedhaki tingkat tercanggih saiki lan sumadya kanthi amba.

Kapabilitas Astra, bukti awal panyepetan riset kanthi AI, lan esai Jakub kabèh nuduhaké arah sing padha: AI maju kanthi cepet, lan kebijakan kudu mlaku bebarengan.

Greg Brockman nggambarake “jendhela pembéla”⁠(mbukak ing jendhela anyar): wektu winates nalika AI tercanggih bisa mbantu pembéla nguwataké sistem kritis sadurungé kabisan serangan sing kuat sumebar kanthi amba. Pembuat kebijakan ngadhepi kahanan sing padha: jendhela kesempatan sing saya nutup kanggo netepaké pengamanan sing lestari sadurungé kabisan AI ngluwihi institusi sing tanggung jawab ngatur.

Nalika kapabilitas saya gedhé, kapercayan marang keamanan kudu saya nemtokaké lajuné kemajuan AI. Keamanan ora ngalangi kemajuan; keamanan sing ndadèkaké kemajuan bisa luwih adoh lan migunani kanggo luwih akèh wong.

Kita wis nguwataké pangreksa pemantauan, penyelarasan, lan keamanan ing saindhenging siklus pangembangan model, kalebu isolasi sing luwih kuwat kanggo beban kerja riset tercanggih, pemantauan luwih amba tumrap prilaku model sajrone pelatihan lan evaluasi sing migunakaké piranti, lan aturan sing luwih cetha ngenani kapan kudu ngeskalasikaké prakara sing nguwatirké. Kanggo Astra, kita uga ngenalaké pemantauan universal tumrap kabèh rangkaian, kalebu ranté pikiran, lan tahap evaluasi penyelarasan sing wajib sadurungé panggelaran internal sing luwih jembar.

Pengayoman kasebut kudu terus luwih maju tinimbang kabisan. Yen nerusaké bakal nuwuhaké risiko keamanan sing ora bisa ditampa, kita bakal ngalonaké utawa ngendhegaké pengembangan utawa panggelaran sistem sing ora bisa direksa kanthi cukup, kaya sing wis tau kita tindakaké lan kaya sing diwajibaké miturut kerangka kerja kesiapan⁠(mbukak ing jendhela anyar) kita.

Paningkatan mandiri rekursif kanthi otonom sakabehe—nalika sistem AI kanthi mandiri nyurung generasi AI sabanjuré supaya saya mumpuni—durung kedadeyan saiki. Kita ora kudune ngupayakake iki nganti bisa ditindakake kanthi aman.

Nanging, AI wis nyepetaké sawatara pérangan riset sing digunakaké kanggo ngembangaké lan nyelarasaké model generasi sabanjuré. Riset⁠ paling anyar kita nuduhaké manawa agen AI bisa nindakake sawetara tugas sing mbutuhaké pirang-pirang dina kanggo peneliti trampil. Iki dudu panyampurnan dhiri rekursif, nanging dadi bukti arah perkembangan.

Panyepetan kuwi uga bisa lan kudu diarahaké marang keslametan. Tujuan kita yaiku kanthi aman mbangun panaliti AI otomatis sing makarya ing sangisoré pangawasan manungsa kanggo majokaké sinau jero lan keselarasan—kanthi migunakaké saben generasi AI kanggo mbantu nggawé generasi sabanjuré luwih aman, luwih selaras, lan luwih gampang dikendhalèkaké, ora mung luwih mumpuni.

Pamrentah kudu ngembangaké cara sing padha kanggo ngukur kemajuan iki, njaga kendhali manungsa sing nyata, lan netepaké wates keamanan bebarengan kanggo nemtokaké kapan lan kepriyé pengembangan kudu dialonaké utawa diendhegaké. Yen kita ora bisa nyukupi wates keamanan tartamtu tanpa ngalonaké tuwuhé kabisan, kita kudu mprioritasaké sing pisanan. Saya kuwat teknologiné, saya kuwat uga pangreksa ing saubengé sing kudu disiyapaké.

Prospek pangembangan AI sing dicepetake dening AI mbutuhake luwih saka mung komitmen sukarela. Amerika Serikat mbutuhake regulasi nasional wajib adhedhasar kabisan sing bisa berkembang selaras karo teknologi kasebut.

Cithak Biru Tata Kelola Demokratis kanggo AI Tercanggih⁠ kita njlentrehaké dalan tumuju kerangka kerja federal sing lestari: syarat pengujian lan pambiji mandiri sing padha, pangreksan keamanan siber sing luwih kuwat, aturan pelaporan insiden sing cetha, kesiapan nasional sing luwih gedhé, lan ukuran bebarengan kanggo nglacak kemajuan tumuju penyampurnan dhiri rekursif.

Sawetara usulan serius babagan keamanan AI tercanggih saiki lagi dirumusaké ing Kongres. Kita bakal terus melu kanthi konstruktif lan ngarep-arep bisa ndhukung legislasi sing nyata-nyata ngunggahaké standar keamanan. Amarga taruhane gedhé banget, aja nganti ngoyak kasampurnan malah ngalangi kabecikan. Kongres kudu tumindak sadurungé nutup sidang.

Kerangka kerja nasional kudu kuwat nanging ditujokake kanthi ati-ati. Syarat keamanan AI tercanggih mung kudu ditrapaké marang sawetara laboratorium kanthi sumber daya gedhé sing ngembangaké sistem paling mumpuni—dudu marang perusahaan rintisan, pangembang cilik, utawa panaliti sing adoh saka tingkat tercanggih. Kewajiban kudu imbang karo kabisan lan risiko.

Kebijakan keamanan tercanggih uga aja nganti dadi kebijakan bobot terbuka kanthi jeneng liya. Model mbukak bisa dadi pérangan saka solusi, utamané ing keamanan siber lan nalika kebutuhan kedaulatan, keamanan, utawa domisili data luwih cocog karo penyebaran lokal. Akèh-akèhé saingan dudu ing tingkat tercanggih, nanging ing babagan biaya, kendhali, lan latensi. Kaya sing kita tegesaké nalika nandhatangani layang Bobot Terbuka lan Kepemimpinan AI Amerika⁠(mbukak ing jendhela anyar), Amerika mbutuhaké model terbuka lan ketutup. Kerangka kerja federal kudu nangani kapabilitas lan risiko tercanggih tanpa ngringkihaké saingan, ngukuhaké pemain mapan, utawa nyurung inovasi menyang manca negara.

Kerangka kerja publik sing serius kudu nyuda, dudu nambah, pemusatan kakuwasan. Saiki, laboratorium AI tercanggih umumé netepaké aturané dhéwé kanggo ngatur risiko wates. Standar sing bisa dipertanggungjawabake kanthi demokratis, verifikasi mandiri, lan transparansi sing nyata bakal ngganti sistem tata kelola swasta sing kapecah-pecah kasebut.

Iki wigati kanggo kepemimpinan Amerika. Amerika Serikat ora bisa menang ing jaman AI mung kanthi kabisan. Kaunggulan teknis ora bakal pati migunani yen masarakat, institusi, lan pamrentah ora cukup percaya marang teknologi iki kanggo migunakaké. Pangreksa sing kuwat dudu konsesi sing nglawan inovasi. Pangreksa iki kalebu prasarana sing dibutuhaké supaya teknologi diadopsi kanthi amba—lan supaya kepemimpinan Amerika bisa lestari.

Kita pancen mbutuhake standar nasional babagan AI, lan sapa wae sing makarya ing AI tercanggih bisa ndeleng sepira mendesake kahanane. Nganti Kongres tumindak, negara-negara bagéan kudu terus maju kanggo ngisi kekosongan lan ningkatake standar.

OpenAI wis ndhukung SB 53 California, RAISE Act New York, SB 315 Illinois, lan audit mandiri ing rancangan undang-undang keamanan AI tercanggih sing lagi dibahas ing Massachusetts. Kita nyengkuyung negara-negara bagian supaya selaras ing pengamanan umum iki. Kanthi mangkono, negara-negara kasebut bisa nggawe patokan dhasar nasional de facto sing pungkasane bisa dikodifikasi Kongres—sawijining pendekatan sing diarani ⁠federalisme kuwalik⁠. Nanging, harmonisasi ora ateges syaraté ora diowahi.

Saiki, kita resmi nyengkuyung patang rancangan undang-undang California tambahan sing wis lolos saka legislatif lan arep menyang Gubernur Newsom. Yen digabungake, rancangan-rancangan kasebut ngatasi bagean-bagean sing saling nglengkapi ing ekosistem keamanan AI.

SB 813⁠(mbukak ing jendhela anyar) bakal netepaké proses kanggo nunjuk organisasi mandiri lan mumpuni sing bisa mbiji risiko AI. Kaya sing wis kita nyatakaké ing ⁠(mbukak ing jendhela anyar)cithak biru keamanan AI tercanggih⁠(mbukak ing jendhela anyar), kita luwih milih supaya pambiji teknis mandiri diwajibaké ing tingkat federal, supaya para pembuat kebijakan bisa netepaké standar sing konsisten kanggo kualifikasi penilai, keamanan, lan akses menyang informasi sing sensitif banget. Nanging, amarga ora ana tumindak federal, California bisa mbantu netepaké aturan dhasar kanggo sistem pambiji mandiri nasional sing aman lan mumpuni, sing ngasilaké asil keamanan sing luwih apik.

AB 1405⁠(mbukak ing jendhela anyar) bakal netepaké syarat registrasi, kamardikan, transparansi, lan akuntabilitas kanggo auditor AI.

SB 1119⁠(mbukak ing jendhela anyar) bakal mbutuhake jaminan umur, pambiji risiko, audit mandiri, kontrol wong tuwa, lan pangayoman saka konten sing mbebayani kanggo bocah lan remaja sing nggunakake chatbot pendamping. Bubar iki, kita nyatakake dhukungan⁠ tumrap rancangan undang-undang iki, sing nerusaké langkah keslametan para mudha sing wis diupayakaké OpenAI liwat produk kita, ⁠prinsip kebijakan global⁠, lan dhukungan kanggo ⁠(mbukak ing jendhela anyar)Undang-Undang AI Aman kanggo Wong Tuwa & Bocah⁠(mbukak ing jendhela anyar), uga pangreksa sing wis dipasang ing ChatGPT kanggo Remaja—kalebu setelan gawan sing luwih kuwat ing wilayah sensitif, Jam Sepi, Jam Sinau, lan pangéling kanggo ngaso.

AB 1864⁠(mbukak ing jendhela anyar) bakal ngawajibaké panyedhiya sintesis gén lan prodhusèn piranti sintesis méja supaya manut standar penyaringan federal, saéngga nguwataké pangreksa fisik penting saka ancaman biologis kanthi AI.

Sawetara rancangan undang-undang iki biyèn ora kita dukung, nanging saiki kita dhukung sawisé nimbang manèh amarga mundhaké kabisan sing bubar kita deleng.

Rancangan undang-undang iki dudu pangganti regulasi federal. Iki minangka upaya serius sing bisa nglindhungi wong saiki, nuduhaké kaya apa pangayoman sing bisa ditrapaké, lan mbantu mbangun dorongan kanggo tumindak federal.

Hukum waé ora bakal nggawe AI canggih dadi aman. Kita uga mbutuhake praktik konkret ing laboratorium sing ngembangake sistem paling mumpuni. Papan sing paling mendesak kanggo miwiti yaiku pemantauan.

Iki penting banget kanggo ketidakselarasan—nalika model nggayuh tujuan kanthi cara sing nglanggar karsa manungsa utawa wates sing wis ditemtokaké, tanpa mbutuhaké kesadaran utawa niyat ala. Nalika model saya otonom, migunakaké piranti sing luwih kuat, lan makarya luwih suwé, pengembang kudu diwajibaké kanggo ngawasi prilaku sing ora selaras iki lan mbuktèkaké manawa pangreksa sing efektif wis ditrapaké.

Pemantauan kudu disambungaké karo syarat pangungkapan sing cetha. Kaya sing kita perjuangaké ing California, perusahaan kudu diwajibaké menehi kabar tinulis prompt marang pihak sing kena pengaruh nalika, sajrone pengembangan utawa evaluasi, model ngliwati kendhali keamanan organisasi liya tanpa wewenang lan kanthi signifikan ngakses, ngowahi, utawa ngrusak sistem sing dilindhungi utawa informasi rahasia duwèké organisasi kasebut. Kita uga ndhukung syarat pelaporan federal kanggo insiden AI serius liyane lan lagi ngupaya nemtokaké insiden endi sing kudu dicakup lan apa waé sing kudu kalebu ing syarat kasebut.

Kaya sing kita andharaké minggu kepungkur, OpenAI lagi ngembangaké kerangka kerja kanggo nglaporaké insiden ketidakselarasan sing nduwé akibat gedhé lan ngawasi aktivitas model tercanggih kanthi sistematis, kalebu penggunaan internal. Iki diwiwiti minangka upaya sing dipimpin perusahaan, nanging kita ngarep-arep bisa mbantu dadi bahan kanggo kebijakan federal lan syarat pelaporan sing luwih amba.

Kita kepengin makarya bebarengan kaliyan laboratorium sanès babagan standar sing dipimpin déning industri. Standar apa wae sing dipimpin industri bakal nglengkapi—ora ngganti—pengayoman federal sing wajib lan pengawasan demokratis. Nanging, kita wis mlebu fase kapabilitas AI sing beda, lan kabeh kudu dipertimbangaké—kalebu nimbang apa sing bisa dibangun kanthi sukarela ing njaba pamaréntah minangka langkah langsung.

Standar kaya mangkono pungkasane uga kudu ngluwihi tapel wates negara. Model, riset, lan keahlian teknis pindhah ngliwati donya, lan kagagalan sing nglibataké sistem paling mumpuni bisa nuwuhaké akibat adoh ngluwihi negara panggonan sistem kasebut dikembangaké. Amerika Serikat kudu netepaké standar sing bisa dipercaya ing njero negeri yen arep mimpin ing tingkat internasional—lan kita saya yakin manawa standar internasional sing kompatibel bakal perlu.

Jendhela kebijakan AI saiki isih mbukak. Kita arep migunakaké kesempatan iki.

Iki ateges tumindak kanthi cepet, andhap asor, lan gelem adaptasi. Iki ateges ndhukung usulan serius sing nyata-nyata ngunggahaké standar keamanan, sanajan ora persis kaya rancangan kita. Lan iki ateges nguwataké kerangka krja nalika teknologi terus ngrembaka.

Ora ana langkah kapisan sing bakal sampurna. Nanging, risiko sing luwih gedhé saiki yaiku kesuwèn ngentèni kanggo miwiti.