Pagbuo ng mga pamantayan para sa susunod na yugto ng AI
Misyon naming tiyaking nakikinabang ang lahat sa artificial general intelligence. Gaya ng ibinalangkas kamakailan nina Sam Altman at Jakub Pachocki, binibigyan namin ng priyoridad ang aming gawain para sa misyong ito ayon sa tatlong pangunahing layunin:
I‑navigate ang susunod na panahon ng pag-unlad ng AI, sa pamamagitan ng pagbuo ng isang automated AI researcher, pag‑iterate nito sa alignment problem, at paghahanap ng mga paraan para manatiling bahagi ang mga tao ng proseso ng pagpapahusay ng sarili.
Maghatid ng mga benepisyo ng scientific progress at pag-unlad ng ekonomiya na ginagawang posible ng mga makinang may napakataas na intelligence.
Bigyan ang bawat isa ng kakayahan gamit ang isang personal na AGI.
Pinabibilis ng AI ang sarili naming research at engineering, at nagbunga ang AI-enabled research ng mga pagsulong sa mathematics, kabilang ang Navier-Stokes Millennium Problem. Malaki ang maitutulong ng pag-unlad na ito sa dalawa pa naming layunin, na maaaring humantong sa mahahalagang pagtuklas sa medisina, pangangalagang pangkalusugan na maa-access ng marami, at pagpapasigla ng ekonomiya para sa maliliit na negosyo at mga indibidwal na negosyante kahit saan.
Umuunlad ang AI sa maraming kumpanya at bansa, at binabago ng pag-unlad na ito sa iba't ibang larangan ang mga oportunidad at hamong kinakaharap ng lahat. Kasabay ng iba pang benepisyo nito, magiging mahalagang bahagi ng pag-navigate natin sa transition na ito ang naka-align na AI—na pinapalakas ang mga depensa, isinusulong ang alignment research, at tinutulungan ang mga taong maunawaan at gabayan ang mga susunod na yugto ng pag-unlad ng AI.
Para ligtas na ma-navigate ang transition na ito, kailangang makasabay alignment research sa mga kakayahang ito para manatiling naka-align ang mga system na binubuo natin at binubuo ng iba sa mga pinapahalagahan ng mga tao at nasa ilalim ng kontrol ng tao. Lalo itong nagiging mahalaga habang tumataas ang kakayahan at awtonomiya ng mga AI system, kabilang ang habang nagsasagawa ang mga ito ng higit pang AI research at development. Para manatiling ligtas at kapaki-pakinabang ang patuloy na pag-unlad ng AI, kakailanganin ang mga pagsulong sa alignment research at iisang pamantayan na gagabay sa pagpapaunlad sa iba't ibang laboratory at bansa.
Puwedeng kailanganin sa automated AI research ang iba’t ibang antas ng human supervision. Habang mas maraming gawain sa pagbuo ng mga susunod na henerasyon ng AI ang isinasagawa ng mga AI system, mas kaya nilang itulak ang proseso ng recursive self-improvement (RSI), kahit patuloy na nakikibahagi ang mga tao. Habang lalong nagiging awtomatiko ang prosesong ito, maaaring mabilis na umusad ang pag-unlad ng AI.
Naniniwala kami na makakalikha ang automated AI research ng mga model na direktang magpapabuti sa buhay ng mga tao. Puwede nitong pababain ang halaga ng advanced intelligence para makinabang ang mga tao sa buong mundo. Makakatulong din ang automated research na lubos naming mapahusay ang alignment at makabuo ng mga depensa laban sa lalong nagiging capable na AI—puwede ring maging automated AI safety researcher ang isang automated AI researcher. Makakatulong ang mga mas capable at aligned system na protektahan ang mahalagang infrastructure, depensahan laban sa mapanganib na AI agent, at bumuo ng mga bagong hakbang sa proteksyon.
Hindi pa nangyayari ngayon ang ganap na autonomous na RSI, at hindi natin ito dapat isulong maliban kung at hangga't hindi ito maisasagawa nang ligtas. Ang pagpapasya kung magpapatuloy at kung paano ito gagawin ay dapat nakasalalay sa kakayahan nating mapanatili ang kontrol ng tao at sa mga demokratikong pasyang nakabatay sa sapat na kaalaman(magbubukas sa bagong window) tungkol sa mga pakinabang at panganib. Kung gagawin nang walang nararapat na pag-iingat, maaaring humantong ang RSI sa pagkawala ng praktikal na kontrol ng mga tao sa pag-unlad ng AI at sa kawalan nila ng kakayahang pangasiwaan ang mga proseso ng pananaliksik na hindi na nila nauunawaan. Mula rito, maaaring maging mas mapanganib at hindi gaanong nakaayon ang AI, at sa kabuuan ay magdulot ng panganib sa mga tao. Bagama't hindi tuwirang resulta ng RSI, ang Hugging Face Incident na isiniwalat namin ay nagbibigay ng paunang larawan ng mga uri ng panganib na maaaring lumubha nang husto kung walang matitibay na pananggalang at alignment.
Ang mga internasyonal na pamantayan para sa mga gawain sa kaligtasan at seguridad sa pagpapaunlad ng frontier AI ay maaaring maging kasinghalaga ng mismong pananaliksik sa alignment sa pagtukoy sa bilis ng pag-usad sa frontier. Maaaring magtakda ang mga pamantayan ng magkakatulad na kahulugan ng de-kalidad na ebidensiya at napagkasunduang mga batayan para sa higpit ng mga teknikal na pananggalang. Sa madaling salita, tinutulungan tayo nitong sagutin ang tanong na, “Ano ang maituturing na mahusay na paraan ng pagbawas sa panganib ng sakuna mula sa AI?”
Makakatulong dito ang mga umiiral na demokratikong institusyon gaya ng Center for AI Standards and Innovation (CAISI), mga batas ng estado, at isang pederal na balangkas para sa AI, gayundin ang mga bagong anyo ng pakikipagtulungan ng pampubliko at pribadong sektor(magbubukas sa bagong window). Ngunit nagaganap ang pagpapaunlad at pagpapatupad ng AI sa maraming bansa, ginagamit na ito sa buong mundo, at malamang na maranasan ng lahat ang mga epekto nito sa iba't ibang paraan at panahon.
Dahil dito, kailangan ang mga internasyonal na pagsisikap na bumuo ng mga pamantayan upang lutasin ang ilang pangunahing hamon:
Pagkawatak-watak—Maaaring magkasalungat ang mga pagsusuri, kinakailangan sa pag-uulat, at depinisyon ng insidente ng iba't ibang bansa, kaya mas mahirap paghambingin ang ebidensiya, unawain ang mga bagong kakayahan, at tumugon sa mga panganib na tumatawid sa mga hangganan.
Sama-samang pagkilos—Kapag kumilos nang hiwalay ang bawat bansa, maaari itong magbunga ng mga resultang ayaw ng lahat ng bansa. Kayang pabilisin ng RSI ang mismong pananaliksik sa AI, posibleng lampas sa sama-sama nating kakayahang unawain ang pag-unlad, tasahin ang mga panganib, at panatilihin ang makabuluhang pangangasiwa ng tao.
Hindi pantay na kakayahan—Hindi pantay ang pagkakabahagi sa buong mundo ng mga gawain sa pagpapaunlad ng frontier AI at kaugnay na kadalubhasaan. Lalo nitong pinalalala ang dalawang problemang nabanggit.
Nalalapat ang mga hamong ito sa mga open at closed na modelo.
Upang maging malinaw, dapat managot ang anumang AI lab na nagsasagawa ng awtomatikong pananaliksik sa AI o bumubuo ng iba pang advanced na kakayahan sa ligtas na paggawa nito, alinsunod sa mga pangunahing prinsipyo ng pananagutan sa sarili at mga umiiral na batas. Nakaugat ang aming batayan para sa mga pamantayan sa pag-iwas sa pagkonsentra ng kapangyarihan at pagkamit ng mas mahuhusay na praktikal na resulta. Nagbibigay ang mga pamantayan ng paraan upang makapagbigay ng opinyon ang mas maraming stakeholder sa labas ng mga laboratoryo kung paano dapat umunlad ang teknolohiyang ito, at ng malinaw na hanay ng mga prinsipyong maaasahan anuman ang partikular na gawain ng alinmang laboratoryo. At malamang na makakamit natin ang mas magagandang resulta kung magtutulungan ang mga panig upang tugunan ang mga hamon sa itaas.
Kaya naniniwala kaming dapat pangunahan ng Estados Unidos ang pakikipagtulungan sa mga bansa sa buong mundo upang bumuo ng mga pandaigdigang teknikal na pamantayan para sa frontier AI, kabilang ang RSI.
Bagama't inaasahan naming malaki ang magiging pagbabago sa konseptong ito sa paglipas ng panahon, dalawang aspeto ang magiging mahalaga.
Isang paraan upang maisakatuparan ito ang paggamit sa umuusbong na network ng mga instituto para sa kaligtasan ng AI—gaya ng mga naitatag na sa Australia, Canada, Germany, France, Kenya, Japan, Korea, Singapore, India, at United Kingdom—upang mapadali ang pagtatakda ng mga pamantayan sa pamamagitan ng CAISI at mga pambansang samahan ng industriya, na partikular na nakatuon sa (1) mga frontier AI model at developer, ayon sa mga benchmark ng kakayahan; at (2) pamamahala ng pakinabang at panganib para sa awtomatikong pananaliksik sa AI, kabilang ang RSI. Maaaring palawakin ng Estados Unidos ang paglikha ng CAISI sa International Network for Advanced AI Measurement, Evaluation, and Science(magbubukas sa bagong window) noong 2024, na pinag-uugnay ang mga pampublikong institusyon upang magtulungan sa pagsukat, pagsusuri, at agham ng AI.
Magbibigay ang mga pamantayang bubuuin sa pagsisikap na ito ng iisang teknikal na pundasyon para sa pagsukat at pagsusuri ng kakayahan, pagtatasa ng panganib, at kasapatan ng mga pananggalang. Ang mga teknikal na pamantayang ito ay hindi magiging mga lisensiya, sapilitang pagsusuri bago ilabas, o kinakailangan sa pag-apruba para sa mga modelo ng AI. Ang mga pambansang pamahalaan ang magpapasya kung isasama ang mga pamantayang ito sa sarili nilang mga sistemang legal at kung paano.
Dapat ding suportahan ng gawaing ito ang isang kompetitibong ecosystem ng AI sa pamamagitan ng pagkonsulta sa mga developer ng open na modelo at saradong modelo, mga independiyenteng teknikal na eksperto, at akademya. Dapat buuin nang malinaw ang mga iisang pamantayan at idisenyo upang hindi nito paboran ang mga partikular na kumpanya, bansa, o modelo ng negosyo, kabilang ang pag-iwas na pahirapan ang mga bagong kalahok o developer ng open-weight na makipagkompetensiya.
Gaya ng aming iminungkahi(magbubukas sa bagong window), maaaring matuto ang pamamaraang ito mula sa mga larangan gaya ng abyasyon at katatagan ng pananalapi, kung saan nakabuo ang mga bansa ng magkakatulad na teknikal na pamantayan at mapagkakatiwalaang mga paraan ng pakikipagtulungan nang hindi isinusuko ang pambansang awtoridad. Dapat din itong makipagtulungan nang malapitan sa mga matagal nang umiiral at mas bagong organisasyon sa pamantayan gaya ng ISO(magbubukas sa bagong window), Frontier Model Forum(magbubukas sa bagong window), Agentic AI Foundation(magbubukas sa bagong window), at Open Secure AI Alliance(magbubukas sa bagong window), gayundin sa mga organisasyong nakatuon sa pagpapatupad gaya ng Appia Foundation, na bumubuo ng mga praktikal na espesipikasyong nag-uugnay sa mga internasyonal na pamantayan at aktuwal na pagtatasa ng AI.
Magiging lubhang mahalaga ang mga internasyonal na pamantayan sa AI sa pamamahala sa tumataas na awtonomiya sa pananaliksik sa AI at recursive self-improvement. Sa partikular, maaaring kabilang dito ang mga pamantayan para sa:
Pagsusuri sa pag-unlad ng AI na may kaugnayan sa RSI at sa dami ng autonomous na pananaliksik na nagaganap sa loob ng isang kumpanya ng AI. Ang aming kamakailang ulat tungkol sa pagpapabilis ng pananaliksik ay isang paunang ambag sa pagsisikap na ito.
Pangangasiwa ng tao sa awtomatikong pananaliksik sa AI, kabilang ang mga uri ng proseso ng awtomatikong pananaliksik sa AI na dapat magbunsod ng agarang pagsusuri ng tao.
Pag-uuri, pagsubaybay, pag-uulat, at pagtugon sa mga insidenteng may kaugnayan sa alignment at awtomatikong pananaliksik sa AI, gaya ng magkakatulad na antas ng tindi ng insidente at mga pamantayan kung kailan dapat mag-ulat. Isang paunang ambag ang aming balangkas sa pag-uulat ng misalignment.
Bukod sa mga pamantayang ito, naniniwala kaming mahalagang magtatag ang mga operator ng kritikal na imprastraktura at mga pamahalaan sa buong mundo ng mga ligtas na paraan ng komunikasyon upang magbahagi ng mga alalahanin sa pambansang seguridad, mga bagong kahinaan at banta, at pinakamahuhusay na gawain sa mabilis na umuunlad na larangan ng kaligtasan ng frontier AI. Magiging positibong hakbang ang dayalogo ng Estados Unidos at China sa mga larangang ito, at napapanahon ang mga nalalapit na pag-uusap.
Hindi nakabatay ang pag-unlad ng AI batay sa isang predetermined na bilis. Sa teknikal na aspekto, tinitiyak natin na nauuna ang research alignment at deployment ng nasabing research kaysa sa mga kakayahan ng AI. Sa panlipunang aspekto, ginagamit natin ang mga pamantayan, institusyon, at pakikipagtulungan para palakasin ang mga network ng industriya, ugnayang panlipunan, at puwersa sa market para lumikha ng mga resultang kapaki-pakinabang para sa lahat. Ipinapakita ng kamakailang panawagan para sa sama-samang pagkilos para sa cyber defense ang nasabing punto.
May magandang posisyon ang United States para manguna dahil nasa technical frontier ang AI industry nito, at nananatili itong may mahalagang global network position sa mahahalagang larangan tulad ng pananalapi, kalakalan, depensa, teknolohiya, at information systems Ang pamumuno ngayon ang magpapasya kung huhubugin ng United States ang pandaigdigang AI framework o hahayaan nitong umusbong sa paligid nito ang watak-watak, hindi patas, at puno ng alitang system. Ito rin ang magpapasya kung palalakasin ng advanced AI ang mga network na mayroon na ang United States at mga ally nito; at maaari nitong humina kung hindi ito mangunguna.
Ang geopolitical competition ay hindi lang iikot sa kung sino ang nangunguna sa teknolohiya, kundi pati na rin sa paggamit at pagpapalaganap ng AI. Mas lalo itong matutukoy ng kung sino ang magsusulong ng makatotohanang pakikipagtulungan at matinong mga tuntunin na nanaisin ng mga negosyo at lipunan saanman kung iaasa nila ang kanilang kinabukasan sa teknolohiyang ito.
Ang matibay na pambansang pamamahala, na inuugnay ng praktikal na pandaigdigang pakikipagtulungan, ay nagbibigay ng landas tungo sa mas matibay na mga proteksyon, tuloy-tuloy na innovation, at malawak na access sa mga benepisyo ng AI.
