Bukas ang window ng patakaran sa AI. Kailangan nating kumilos.

Nakarating na tayo sa isang bagong kabanata sa mga kakayahan ng AI, at nangangailangan ito ng bagong kabanata para sa patakaran sa AI. Walang kumpanya, industriya, o pamahalaan ang makatutugon sa hamong ito nang mag-isa. Kailangan nating harapin ang panahong ito sa pamamagitan ng pagbibigay-priyoridad sa makabuluhang pagkilos kaysa sa pagiging perpekto ng patakaran.

Narito ang ginagawa namin:

1. Pagsusulong ng mga obligadong pambansang kinakailangan sa kaligtasan ng AI. Gusto naming makipagtulungan sa Kongreso tungkol sa obligadong pambansang regulasyon sa kaligtasan ng AI na nakabatay sa kakayahan.

2. Pagpapanatili ng momentum sa mga estado. Hanggang sa kumilos ang Kongreso, patuloy naming susuportahan ang batas ng estado na nagpapalakas sa mas malawak na ecosystem ng kaligtasan ng AI. Ngayon, inanunsyo namin ang aming suporta para sa apat na panukalang batas ng California: SB 813 sa pangkalahatang imprastraktura para sa mga independiyenteng pagtatasa ng kaligtasan, AB 1405 sa mga pamantayan ng AI-auditor, SB 1119 sa mga proteksyon para sa mga kabataan, at AB 1864 sa mga pananggalang laban sa mga banta ng biyolohikal na pinapagana ng AI.

3. Isinusulong ang mga pamantayang pinangungunahan ng industriya. Makikipagtulungan kami sa iba pang frontier lab upang isulong ang mga pamantayan para sa frontier AI, na bumubuo ngayon ng boluntaryong pagsisikap, may suporta man o wala mula sa pamahalaan.

4. Pagtatatag ng mga pandaigdigang pamantayan. Isusulong namin ang magkakatugmang internasyonal na mga pamamaraan sa pagsukat ng mga kakayahan, pamamahala ng panganib, pagpapanatili ng kontrol ng tao, at pagtukoy kung kailan at paano dapat pabagalin o ihinto ang pagpapaunlad, kahit mangahulugan iyon ng pagpapabagal sa pagsulong ng mga kakayahan ng modelo.

Kamakailan, isinulat⁠ ng Chief Scientist naming si Jakub Pachocki na ang mabilis na pagsulong ng machine intelligence, kabilang ang potensyal ng recursive self-improvement, ay nangangailangan ng “sukdulang pag-iingat.” Patuloy na maghahanap ang OpenAI ng mga teknikal na solusyon sa alignment at pag-monitor, bubuo ng mga defensive system, at magpapabagal ng development kung kinakailangan. Pero hindi sasapat ang teknikal na trabaho sa loob ng mga indibidwal na lab. Kailangan din namin ng mga pinagsasaluhang pamantayan, kabilang ang kung kailan dapat pabagalin o ihinto ang development.

Napakalaki ng nakataya. Maaaring pabilisin ng advanced na AI ang pagbuo ng mga bagong gamot⁠, palakasin ang kritikal na imprastraktura⁠, palawakin ang mga oportunidad sa ekonomiya⁠, at tumulong sa paglutas ng mga suliraning pang-agham⁠ na hindi nalutas sa kabila ng mga henerasyon ng pagsisikap ng tao. Ngunit may kaakibat ding mga panganib ang mga kakayahang ginagawang mas kapaki-pakinabang ang mga modelo, at hindi mananatiling limitado ang mga ito sa iilang nangungunang laboratoryo. Ang mga modelong binuo sa buong mundo, kabilang ang mga open na modelo, ay lalong makakalapit sa antas ng mga nangungunang modelo ngayon at magiging malawak na available.

Ang mga kakayahan ng Astra, ang mga unang ebidensya ng pagbilis ng pananaliksik na hinimok ng AI, at ang sanaysay ni Jakub ay pawang nakaturo sa iisang direksyon: Mabilis na umuunlad ang AI, at kailangang sumabay ang patakaran dito.

Inilarawan ni Greg Brockman ang “window ng mga defender”⁠(magbubukas sa bagong window): ang limitadong panahon kung kailan makatutulong ang frontier AI sa mga defender na palakasin ang mahahalagang system bago maging laganap ang makapangyarihang offensive na kakayahan. Nahaharap ang mga policymaker sa katulad na sandali: isang panahong malapit nang magsara upang magtatag ng matatag na mga pananggalang bago malampasan ng mga kakayahan ng AI ang mga institusyong responsable sa pamamahala rito.

Habang lumalago ang mga kakayahan, lalong dapat itakda ng tiwala sa kaligtasan ang bilis ng pag-usad ng AI. Ang kaligtasan ay hindi hadlang sa pag-unlad; ito ang nagbibigay-daan upang higit pang lumago ang pag-unlad at makinabang ang mas maraming tao.

Pinatatag namin ang mga safeguard sa pagsubaybay, pagkakahanay, at seguridad sa buong lifecycle ng pag-develop ng modelo, kabilang ang mas mahigpit na isolation para sa mga workload ng frontier na pananaliksik, pinalawak na pagsubaybay sa gawi ng modelo sa panahon ng pagsasanay at pagsusuri na gumagamit ng tool, at mas malinaw na mga tuntunin kung kailan dapat i-escalate ang mga alalahanin. Para sa Astra, ipinakilala rin namin ang pangkalahatang pagsubaybay sa mga buong trajectory, kabilang ang mga kadena ng pag-iisip, at isang mandatoryong gate ng pagsusuri ng pagkakahanay bago ang mas malawak na panloob na pag-deploy.

Dapat patuloy na manguna ang mga pananggalang na iyon sa mga kakayahan. Kapag ang pagpapatuloy ay magdudulot ng hindi katanggap-tanggap na panganib sa kaligtasan, babagalin o ititigil namin ang pagbuo o pag-deploy ng mga sistemang hindi namin sapat na mapangangalagaan, tulad ng nagawa na namin noon at ayon sa kinakailangan ayon sa aming Preparedness Framework⁠(magbubukas sa bagong window).

Ang ganap na autonomous na paulit-ulit na pagpapahusay sa sarili—kung saan ang mga AI system ay independiyenteng bumubuo ng sunod-sunod at lalong mas may kakayahang mga AI—ay hindi nangyayari sa kasalukuyan. Hindi natin ito dapat ituloy maliban na lang kung magagawa ito nang ligtas.

Gayunpaman, pinabibilis na ng AI ang ilang bahagi ng pananaliksik na ginagamit upang bumuo at ihanay ang susunod na henerasyon ng mga modelo. Ipinapakita ng aming pinakabagong pananaliksik⁠ na kayang magsagawa ang mga AI agent ng ilang gawaing aabutin ng ilang araw para sa mahuhusay na mananaliksik. Hindi ito recursive na pagpapabuti sa sarili, ngunit ebidensya ito ng direksyong tinatahak.

Ang pagpapabilis na iyon ay maaari at dapat ding ituon sa kaligtasan. Layunin naming ligtas na bumuo ng mga naka-automate na mananaliksik ng AI na nagtatrabaho sa ilalim ng pangangasiwa ng tao para isulong ang parehong malalimang pag-aaral at pag-aayon—gamit ang bawat henerasyon ng AI para makatulong na gawing mas ligtas, mas naaayon, at mas madaling kontrolin ang susunod na henerasyon ng AI, hindi lamang mas may kakayahan.

Dapat bumuo ang mga pamahalaan ng magkakatulad na paraan para sukatin ang pag-unlad na ito, mapanatili ang makabuluhang kontrol ng tao, at magtakda ng magkakatulad na pamantayan sa kaligtasan kung kailan at paano dapat pabagalin o ihinto ang pag-unlad. Kung hindi natin matutugunan ang ilang mga pamantayan sa kaligtasan nang hindi pinapabagal ang paglago ng kakayahan, dapat nating unahin ang nauna. Habang nagiging mas makapangyarihan ang teknolohiya, dapat ding maging mas matibay ang mga nakapaligid na pananggalang.

Ang posibilidad ng pag-develop ng AI na pinabilis ng AI ay nangangailangan ng higit pa sa mga boluntaryong pangako. Kailangan ng Estados Unidos ng mandatory, nakabatay sa kakayahan na pambansang regulasyon na maaaring umunlad kasabay ng pag-unlad ng teknolohiya.

Inilalatag ng aming Blueprint para sa Demokratikong Pamamahala ng Frontier AI⁠ ang landas tungo sa matibay na pederal na balangkas: mga magkakatulad na kinakailangan sa pagsubok at independiyenteng pagtatasa, mas matibay na proteksiyon sa cybersecurity, malinaw na mga tuntunin sa pag-uulat ng insidente, higit na pambansang kahandaan, at magkakatulad na hakbang para masubaybayan ang progreso tungo sa recursive na pagpapabuti sa sarili.

May ilang seryosong panukala para sa kaligtasan ng frontier AI ang kasalukuyang nabubuo sa Kongreso. Patuloy kaming makikipag-ugnayan nang konstruktibo at inaasahan naming susuportahan ang batas na makabuluhang magpapataas ng pamantayan ng kaligtasan. Dahil sa ganitong kataas na nakataya, hindi natin maaaring hayaang ang perpekto ay maging kaaway ng mabuti. Dapat kumilos ang Kongreso bago ito mag-adjourn.

Dapat matibay ngunit maingat na nakatuon ang pambansang balangkas. Dapat ilapat ang mga kinakailangan sa kaligtasan para sa frontier sa iilang laboratoryong may sapat na resources na bumubuo ng pinakamahuhusay na system—hindi sa mga startup, maliliit na developer, o researcher na malayo sa frontier. Dapat nakaayon ang mga obligasyon sa mga kakayahan at panganib.

Hindi rin dapat maging patakaran para sa open weights ang patakaran sa kaligtasan ng frontier sa ilalim lamang ng ibang pangalan. Maaaring maging bahagi ng solusyon ang mga open na modelo, lalo na sa cybersecurity at kung saan mas pinapaboran ng mga pangangailangan sa soberanya, seguridad, o lokasyon ng data ang lokal na pag-deploy. Karamihan ay hindi nakikipagkumpitensya sa frontier, kundi sa gastos, kontrol, at latency. Gaya ng aming pinagtibay sa pagpirma sa liham ng Open Weights and American AI Leadership⁠(magbubukas sa bagong window), kailangan ng Amerika ang parehong bukas at saradong mga modelo. Dapat tugunan ng isang pederal na balangkas ang mga kakayahan at panganib sa frontier nang hindi pinapahina ang kompetisyon, pinatitibay ang mga nanunungkulan, o pinapalakas ang inobasyon sa ibang bansa.

Dapat bawasan, hindi dagdagan, ng seryosong pampublikong framework ang konsentrasyon ng kapangyarihan. Sa kasalukuyan, ang mga laboratoryo sa hangganan ay kadalasang nagtatakda ng sarili nilang mga patakaran para sa pamamahala ng mga frontier risk. Papalitan ng mga pamantayang may demokratikong pananagutan, independiyenteng beripikasyon, at makabuluhang transparency ang pira-pirasong sistemang iyon ng pribadong pamamahala.

Mahalaga ito sa pamumuno ng Amerika. Hindi maaaring magwagi ang United States sa panahon ng AI dahil lamang sa kakayahan. Hindi gaanong magiging mahalaga ang pagiging nangunguna sa teknikal na aspeto kung hindi sapat ang tiwala ng mga tao, institusyon, at pamahalaan sa teknolohiya para tanggapin ito. Ang matibay na pananggalang ay hindi isang konsesyon laban sa inobasyon. Bahagi sila ng imprastrakturang kailangan para sa malawakang paggamit—at para sa pangmatagalang pangunguna ng America.

Kailanganga kailangan natin ng mga pambansang pamantayan sa AI, at makikita ng sinumang nagtatrabaho sa frontier ang pagkaapurahan. Hangga't hindi kumikilos ang Kongreso, dapat magpatuloy ang mga estado sa pagkilos para punan ang puwang at itaas ang pamantayan.

Sinuportahan ng OpenAI ang SB 53 ng California, RAISE Act ng New York, SB 315 ng Illinois, at mga independent na audit sa batas sa kaligtasan ng frontier na isinasaalang-alang sa Massachusetts. Hinihikayat namin ang mga estado na magkaisa sa mga karaniwang pananggalang na ito. Sa paggawa nito, makalilikha sila ng de facto na pambansang batayan na maaaring gawing batas ng Kongreso sa huli—isang lapit na tinatawag naming ⁠baligtad na pederalismo⁠. Ngunit hindi nangangahulugan ang pagkakatugma na panatilihing nakapirmi ang mga requirement.

Ngayon, pormal naming ineendorso ang apat na karagdagang panukalang batas ng California na naipasa na sa lehislatura at patungo na kay Gobernador Newsom. Sama-sama, tinutugunan nila ang mga komplementaryong bahagi ng ecosystem ng kaligtasan ng AI.

Magtatatag ang SB 813⁠(magbubukas sa bagong window) ng proseso para sa pagtatalaga ng mga kwalipikado at independiyenteng organisasyon na may kakayahang masuri ang mga panganib ng AI. Gaya ng sinabi namin sa aming ⁠(magbubukas sa bagong window)blueprint para sa kaligtasan ng frontier⁠(magbubukas sa bagong window), mas gusto namin na kinakailangan ang mga independiyenteng teknikal na pagtatasa sa antas pederal, kung saan maaaring magtatag ang mga tagagawa ng patakaran ng mga pare-parehong pamantayan para sa mga kwalipikasyon, seguridad, at pag-access sa mga sensitibong impormasyon ng mga tagasuri. Ngunit kung walang pagkilos sa pederal na antas, makakatulong ang California na itatag ang mga tuntunin para sa isang ligtas at may kakayahang pambansang sistema ng independiyenteng pagtatasa na naghahatid ng mas mabuting resulta sa kaligtasan.

Lilikha ang AB 1405⁠(magbubukas sa bagong window) ng mga kinakailangan sa pagpaparehistro, kalayaan, transparency, at pananagutan para sa mga AI auditor.

Ang SB 1119⁠(magbubukas sa bagong window) ay mangangailangan ng katiyakan sa edad, mga pagtatasa ng panganib, independiyenteng pag-audit, kontrol ng magulang, at pananggalang laban sa mapaminsalang nilalaman para sa mga bata at kabataan na gumagamit ng mga kasamang chatbot. Kamakailan lamang ay ipinahiwatig namin ang aming suporta ipinahayag namin ang aming suporta⁠ sa panukalang batas na ito, na nakabatay sa mga hakbang para sa kaligtasan ng kabataan na isinulong ng OpenAI sa pamamagitan ng aming mga produkto, ⁠pandaigdigang prinsipyo sa patakaran⁠, at suporta para sa ⁠(magbubukas sa bagong window)Parents & Kids Safe AI Act⁠(magbubukas sa bagong window), pati na rin sa mga proteksyong nakapaloob sa ChatGPT para sa mga tinedyer—kabilang ang mas mahihigpit na default sa mga sensitibong larangan, Oras ng Pahinga, Oras ng Pag-aaral, at mga paalala na magpahinga.

Hihilingin ng AB 1864⁠(magbubukas sa bagong window) sa mga tagapagbigay ng gene-synthesis at tagagawa ng benchtop synthesis equipment na sundin ang mga pederal na pamantayan sa screening, na magpapalakas sa mahalagang pisikal na pananggalang laban sa mga banta sa biyolohikal na pinapagana ng AI.

Hindi namin sinuportahan noon ang ilan sa mga panukalang batas na ito, ngunit sinusuportahan na namin ngayon ang mga ito matapos muling pag-isipan batay sa kamakailang malaking pag-unlad sa mga kakayahang nakita namin.

Ang mga panukalang batas na ito ay hindi kapalit ng pederal na regulasyon. Seryoso ang mga pagsisikap na ito na maaaring magprotekta sa mga tao ngayon, magpakita kung ano ang hitsura ng mga pananggalang na maaaring gumana, at makatulong na bumuo ng momentum para sa pederal na pagkilos.

Hindi magiging ligtas ang advanced na AI dahil lamang sa mga batas. Kailangan din natin ng mga konkretong pamamaraan sa loob ng mga laboratoryo upang makabuo ng mga sistemang may pinakamahuhusay na kakayahan. Ang pinakaagarang dapat simulan ay ang pagsubaybay.

Partikular itong mahalaga para sa hindi pagkakaayon—kapag itinutuloy ng modelo ang layunin sa mga paraang lumalabag sa layunin ng tao o mga itinakdang hangganan, nang hindi nangangailangan ng kamalayan o masamang layunin. Habang nagkakaroon ang mga modelo ng higit na awtonomiya, gumagamit ng mas makapangyarihang tool, at gumagana nang mas mahahabang panahon, dapat atasan ang mga developer na subaybayan ang mga pag-uugaling hindi nakaayon ito at ipakita na may mabisang mga pananggalang na nakalagay.

Dapat maiugnay ang pagsubaybay sa malinaw na mga kinakailangan sa pagbubunyag. Gaya ng aming isinulong sa California, dapat obligahin ang mga kumpanya na prompt na magbigay ng nakasulat na abiso sa mga apektadong partido kapag, habang dine-develop o ine-evaluate ang kanilang mga modelo, nalalampasan ng mga ito nang walang pahintulot ang mga kontrol sa seguridad ng ibang organisasyon at makabuluhang ina-access, binabago, o sinisira ang mga protektadong sistema o kumpidensyal na impormasyon ng organisasyong iyon. Sinusuportahan din namin ang mga pederal na kinakailangan sa pag-uulat para sa iba pang malulubhang insidente ng AI at nagsisikap kaming tukuyin kung aling mga insidente ang dapat saklawin at kung ano ang dapat na nilalaman ng mga kinakailangang iyon.

Gaya ng ibinahagi namin noong nakaraang linggo, bumubuo ang OpenAI ng balangkas para sa pag-uulat ng mahahalagang insidente ng hindi pagkakaayon at sistematikong pagsubaybay sa aktibidad ng mga nangungunang modelo, kabilang ang panloob na paggamit. Nagsisimula ito bilang pagsisikap na pinangungunahan ng kumpanya, ngunit umaasa kaming makatutulong ito sa paghubog ng mas malawak na pederal na patakaran at mga kinakailangan sa pag-uulat.

Gusto naming makipagtulungan sa iba pang mga lab sa mga pamantayang pinangungunahan ng industriya. Ang anumang pamantayang pinangungunahan ng industriya ay makadaragdag—hindi papalit—sa mga ipinag-uutos na pederal na pananggalang at demokratikong pangangasiwa. Ngunit pumasok na tayo sa ibang yugto ng mga kakayahan ng AI, at dapat isaalang-alang ang lahat—kabilang ang pagsasaalang-alang kung ano ang maaaring kusang buuin sa labas ng pamahalaan bilang agarang hakbang.

Kailangan ding sa huli ay lumampas sa mga pambansang hangganan. Kumikilos sa buong mundo ang mga modelo, pananaliksik, at teknikal na kadalubhasaan, at ang mga kabiguang kinasasangkutan ng mga sistemang may pinakamalawak na kakayahan ay maaaring magkaroon ng mga kahihinatnang malayong lampas sa bansang kung saan binuo ang mga ito. Kailangang magtatag ang United States ng mga kapani-paniwalang pamantayan sa loob ng bansa kung gusto nitong manguna sa pandaigdigang antas—at lalo kaming kumbinsido na kakailanganin ang magkakatugmang pandaigdigang pamantayan.

Bukas ang window ng patakaran sa AI, sa ngayon. Plano naming gamitin ito.

Nangangahulugan ito ng pagkilos nang may pagmamadali, pagpapakumbaba, at kahandaang umangkop. Nangangahulugan din ito ng pagsuporta sa mga seryosong panukalang makabuluhang nagtataas ng pamantayan sa kaligtasan, kahit hindi eksaktong tulad ng idinisenyo sana namin. At nangangahulugan din ito ng pagpapatibay sa balangkas habang umuunlad ang teknolohiya.

Walang unang hakbang ang magiging perpekto. Ngunit ang mas malaking panganib ngayon ay ang paghihintay nang masyadong matagal bago kumuha ng isa.