Pahayag ni Sam Altman sa United Nations Security Council

Ngayong araw, nagsalita si Sam Altman, CEO ng OpenAI, sa United Nations Security Council tungkol sa artificial intelligence. Tinalakay niya ang potensyal ng AI na palawakin ang mga oportunidad, ang kahalagahan ng pagpapanatili sa makapangyarihang mga system sa ilalim ng kontrol ng tao, at ang pangangailangan ng pandaigdigang kooperasyon sa kaligtasan ng AI.

Salamat po, Mr. President at mga Kamahalaan. Ikinararangal kong maparito at makapagsalita sa inyong lahat sa mahalagang panahong ito.

Ilang taon na nating pinag-uusapan ang artificial intelligence, ngunit tila nag-iba ito nitong mga nakaraang linggo at buwan. Dahil sa mabilis na pagsulong ng mga modelo, tila lumiit ang panahong nalalabi, naging mas konkreto ang mga pakinabang, ngunit naging mas agaran din ang mga nakataya at ang mga panganib.

May kailangan tayong pagpasyahan. Ang AI ay maaaring maging katulad ng isang bagong Renaissance ng pagkamalikhain at pagtuklas, o ng isang bagong Rebolusyong Industriyal na puno ng kaguluhan at pagkagambala.

Ang Renaissance ay isang panahon kung saan pinalawak ng mga bagong kasangkapan, ideya, at institusyon ang pinaniniwalaan ng mga tao na kaya nilang gawin. Maaaring gampanan ng AI ang papel na iyon sa ating panahon. Naniniwala akong higit na may kakayahan ang mga tao kaysa sa inaakala nila, ngunit nalilimitahan sila ng teknolohiyang dapat sana'y nagbibigay sa kanila ng kakayahan, subalit sa halip ay nakagagambala at madalas umaagaw ng atensyon.

Ang pinakamahusay na anyo ng AI ay hindi ang paggamit sa mga tao na parang mga piyesa lang ng isang napakalaking makina, o pag-optimize sa bawat bahagi ng buhay hanggang sa maglaho na ang mga aspektong makatao. Layunin nitong bigyan ang mga tao ng higit na kakayahang magpasya at kumilos sa isang mundong patuloy na nagiging mas masalimuot: higit na kakayahang matuto, lumikha, tumuklas, bumuo, at makilahok. Maraming bagay ang hindi kaya—at hindi dapat—i-automate ng AI.

Dapat buuin ang AI para sa mga tao, hindi lang para pabilisin ang pagpapatakbo ng mga makina nang wala nang ibang layunin. Napaka-dystopian ng ilan sa mga sinabi ng mga taong gumagawa ng AI, anupa't parang plot ang mga ito ng isang pangit na pelikulang science fiction.

Nakakatakot din ang anumang bagay na ganito kalakas. Masalimuot ang panahong ito dahil sabay nating nadarama ang napakalaking potensyal at ang lubos na nauunawaang pangamba.

Matutulungan ng mga modelong ito ang mga tao na tumuklas ng bagong kaalaman: mga bagong gamot, mas mahusay na pangangalagang pangkalusugan, mas matatag na edukasyon, at bumuo ng mas produktibong ekonomiya. Maaari maging mga bagong kasangkapan ang mga ito upang maabot ng mga tao ang mga pangarap at ambisyong tila hindi pa kayang abutin ngayon. Lubhang naging mas masalimuot ang buhay ng karaniwang tao. Maaaring maging pananggalang ang AI laban sa kasalimuotang ito, bukod sa pagiging kasangkapan para sa walang-katulad na pagtuklas at inobasyon.

Sa kabilang banda, habang lalong humuhusay at nagiging mas autonomouse ang mga AI system, maaaring mas mabilis na umuusad ang mga ito kaysa sa ating mga institusyon, ituon ang kapangyarihan sa iilang mga kamay, o gumawa ng mga desisyong hindi na nauunawaan o nakokontrol ng mga tao.

Lalong nagiging mahalaga ang alalahaning iyon habang papalapit tayo sa mga system na kayang pahusayin ang sarili at ang mga susunod na bersyon nito—na madalas tawaging recursive self-improvement. Habang nagiging mas automated ang proseso ng pagbuo ng AI, maaaring mabilis na bumilis ang pagsulong nito. Nangangailangan ang panahong ito ng sukdulang pag-iingat.

Lubos akong sumasang-ayon kay Propesor Bengio. Bagama't dalawa ang sasabihin ko sa halip na tatlo—naniniwala akong may dalawang paraan na maaaring humantong sa napakasamang kalagayan ang pagsulong ng AI, at kailangan nating iwasan ang mga iyon.

Una, maaaring mawalan tayo ng kontrol sa hinaharap at mapunta ito sa AI. Ang panganib ay baka masyado itong mabilis na umusad kaya hindi na masundan ng mga tao ang nangyayari o makialam kapag kinakailangan. Malinaw na magiging napakasama nito.

Hindi dapat tumanggap ang industriya ng labis na panganib mula sa teknolohiya dahil lang sa napakalaki ng mga pakinabang nito at pakiramdam nila'y napakahalaga nito upang bagalan. Ang pagnanais na maungusan ang ibang kumpanya sa kompetisyon ay hindi dahilan upang gumawa ng padalus-dalos na mga desisyon. Hindi rin kami naniniwalang nakakulong tayo sa isang karerang hindi natin kayang bagalan. Kusa kaming nagpabagal noon. Gagawin namin itong muli sa hinaharap. Ayaw naming bumuo ng mga system—at sa tingin namin ay mahalagang iwasan ng lahat ang pagbuo ng mga system—kung hindi namin maibibigay ang mga kinakailangang katiyakan sa alignment, kakayahang masubaybayan, at kaligtasan.

Kailangan nating maunawaan ang ginagawa ng mga system na ito at magkaroon ng matibay na ebidensyang gagawin ng mga ito ang nilalayon ng mga tao, kahit nagiging napakatalino ng mga ito. Lalo na habang nagiging sobrang sobrang talino ng mga ito. Hindi mahalaga kung tinataya ng mga tao sa 10%, 1%, 12%, o 0.1% ang panganib ng isang sakuna. Wala sa mga antas na ito ang katanggap-tanggap kahit kaunti. At hindi tayo dapat magsanay ng mga modelong hindi natin lubos na mapatutunayang mapananatili natin sa ilalim ng kontrol ng tao.

Iyan ang isang paraan kung paano maaaring magkamali ang mga bagay-bagay. Sa kabilang direksyon, maaaring ituon ng mga system na ito ang labis na kapangyarihan sa iilang mga kamay. Walang sinumang tao, kumpanya, o bansa ang dapat makagamit ng pinakamakapangyarihang mga modelo ng AI upang ipilit sa lahat ang kanilang pananaw sa mundo. Maaaring gamitin ng isang kumpanya o bansang naniniwalang ito lamang ang mapagkakatiwalaan sa teknolohiyang ito ang paniniwalang iyon upang bigyang-katwiran ang halos kahit ano. Kailangan nating tanggihan ang pangangatwirang iyon, kahit pabor ito sa sinumang panig.

Naniniwala akong may praktikal na landas sa dalawang usaping ito. Sa OpenAI, hinaharap namin ang mga tanong na ito nang may malinaw na layunin: dapat bigyan ng AI ang mga tao ng higit na kapangyarihan sa sarili nilang buhay. Higit na kalayaang mamuhay ayon sa kanilang kagustuhan. Higit na kakayahang lumutas ng mga problema, malaki man o maliit, at mapaunlad ang kanilang mga komunidad. Ayaw naming mahulog sa bitag ng labis na optimismo. Ayaw din naming mahulog sa bitag ng labis na paniniwalang hahantong ito sa kapahamakan. Hindi makatutulong ang pagtutuon sa alinmang sukdulang posisyon upang matagumpay nating malutas ang mga hamong kinakaharap natin, lalo na ngayong napakalalaki ng mga hamong kinakaharap ng mundo at ng mga mamamayan nito, at posibleng makatulong ang teknolohiyang ito na malutas ang mga iyon. Kaya sinisikap naming tahakin ang gitnang landas sa pagitan ng dalawang sukdulang ito.

Para sa amin, nangangahulugan iyon ng tatlong prinsipyo.

Una, habang lalong humuhusay ang AI, dapat manatili ang mga tao sa sentro ng pagpapasya tungkol dito. Ang alignment ay hindi isang abstract na tanong sa pananaliksik. Ito ang gawain ng pagtiyak na mapagkakatiwalaang mananatili ang mga system na ito sa ilalim ng kontrol ng tao, sasalamin sa mga pagpapahalaga ng tao, at tutulong sa mga taong gabayan ang mga susunod na yugto ng pag-unlad. Hindi namin sinusubukan—at hindi natin dapat subukang—i-automate ang pagpapasya o mga pagpapahalaga ng tao.

Ikalawa, ang mga pakinabang ng pagsulong ng agham at paglago ng ekonomiya ay dapat gawin ng mga tao at para sa mga tao. Dapat tulungan ng AI ang mga mananaliksik na makatuklas, mga doktor na gumamot ng pasyente, mga guro na magturo ng estudyante, mga negosyante na magtatag ng kumpanya, at mga komunidad na lumutas ng mga problemang dati'y tila imposibleng malutas—at marami pang iba. Sa tuloy-tuloy na kuwento ng pag-unlad ng sangkatauhan, hindi pinapalitan ng mga kasangkapan ang kakayahan ng taong magpasya at kumilos. Sa halip, pinahuhusay ng mga tamang kasangkapan ang kakayahan ng mga tao, at naniniwala akong higit pa ang mararating nito kaysa sa inaakala nating posible.

Ikatlo, dapat palakasin ng teknolohiyang ito ang bawat indibidwal. Magmumula ang isang magandang kinabukasan sa mga taong inaabot ang kanilang potensyal at bumubuo ng halaga para sa sarili, sa kanilang komunidad, sa kanilang bansa, at sa mas malawak na mundo. Maaaring isa kami sa mga bumubuo ng teknolohiyang ito, ngunit hindi kami ang mga bayani ng kuwentong ito. Ang tungkulin namin ay bigyang-kakayahan ang mga tao sa buong mundo at magtiwala sa pambihirang talento at kakayahan ng sangkatauhan.

Mayroon na tayong mga modelong kayang tumuklas ng kaalamang hindi pa natin natataglay noon. Isaalang-alang ang pagsulong na nakita natin sa matematika. Tatlong tag-araw ang nakalipas, katamtaman ang husay ng aming mga modelo sa matematika na pang-elementarya. Dalawang tag-araw ang nakalipas, mahusay na ang mga ito sa mga paligsahan sa matematika para sa high school. Noong nakaraang tag-araw, naabot namin ang antas ng gintong medalya sa pinakaprestihiyosong pandaigdigang paligsahan sa matematika. At ilang linggo lang ang nakalipas ngayong tag-araw, nalutas ng isa sa aming mga modelo ang isa sa mga Millennium Prize Problem—ang mga Navier-Stokes equation.

Ginagamit ang mga equation na ito sa pagdidisenyo ng sasakyang panghimpapawid, pagtataya ng panahon, at pag-aaral ng daloy ng dugo. Hindi kami lumulutas ng mga problema sa matematika para lang masabing nalutas namin iyon, kundi upang bigyang-kakayahan ang mga taong tumuklas ng bagong kaalaman at gamitin ito upang mapahusay ang pangangalagang pangkalusugan, maiangat ang antas ng pamumuhay, at mapalawak ang potensyal ng lahat sa buong mundo. Napakarami pang dapat matuklasan.

Ngunit napakahalagang hindi palitan ng mga kumpanya ang mga demokratikong proseso.

Kung magiging demokratiko ang AI, hindi maaaring mga laboratoryo lang sa San Francisco ang gumawa ng pinakamahahalagang desisyon. Dapat hubugin ang mga ito sa pamamagitan ng mga demokratikong proseso at ng mga pamahalaang mananagot sa mga taong pinaglilingkuran nila.

Sa pandaigdigang antas, mangangailangan ito ng pagtutulungan. Sa ating kasaysayan, may mga pagkakataong nagsama-sama pa rin para sa magkakatulad na interes at kabutihang panlahat ang mga bansang magkakatunggali at hindi palaging magkasundo, sa harap ng isang makapangyarihang bagong teknolohiya. Naniniwala kaming dapat itong maging isa sa mga pagkakataong iyon.

Kailangan natin ng mekanismo para sa magkatuwang na pambansa at pandaigdigang pamantayan para sa frontier AI: mga pamantayan sa pagsukat ng kakayahan, pag-assess ng mga panganib, pagtukoy kung sapat ba ang mga pananggalang, at pagpapanatili ng makabuluhang pangangasiwa ng tao habang nagiging mas autonomous ang mga system.

Kailangan natin ng magkakaparehong pamantayan upang maihambing ng mga bansa ang ebidensya, ma-verify ang pagsunod, at magkaroon ng iisang wika at pagkaunawa sa mga nangyayari.

Kailangan natin ng tumpak at mabilis na pag-uulat ng mga insidente, pati na ng mga protocol sa pag-uuri at pag-uulat, upang matuto ang mundo mula sa mga kabiguan bago pa maging sakuna ang mga ito.

At kailangan natin ng mga ligtas na channel sa pagitan ng mga pamahalaan, mga operator ng kritikal na imprastraktura, at mga eksperto sa teknikal upang maibahagi ang mga umuusbong na mga kahinaan at mga bagong banta.

Siyempre, hindi dapat patatagin ng mga pamantayang ito ang puwesto ng mga nakatatag na organisasyon o paboran ang isang modelo ng negosyo kaysa sa iba. Dapat nitong suportahan ang mga developer ng bukas at saradong modelo, mga bagong kalahok at nakatatag na laboratoryo, pambansang awtoridad at pandaigdigang kooperasyon. Dapat magpasya ang bawat pamahalaan kung paano isasama ang mga pamantayan sa sarili nitong sistemang legal. Ngunit magiging mas mabuti ang kalagayan nating lahat kung magkakasundo tayo sa kung ano ang maituturing na mahusay na ebidensya, pananggalang, at pangangasiwa sa pandaigdigang antas.

Wala sa amin ang lahat ng sagot, at bukas na bukas kami sa anumang mas magandang ideya. Handa kaming makipagtulungan sa inyong lahat at gawin ang aming buong makakaya upang matukoy ang landas pasulong.

Nasa sangandaan tayo. Ang isang landas ay patungo sa isang mundo kung saan nakasentro lang ang kapangyarihan sa iilan, hindi malinaw ang mga pagpapasya, at pakiramdam ng mga tao ay ipinipilit sa kanila ang pinakamahalagang teknolohiya sa kanilang panahon. Ang kabilang landas ay patungo sa isang mundo kung saan pinaglilingkuran ng AI ang mga tao dahil tumutulong silang magpasya, sa pamamagitan ng mga demokratikong institusyon, kung paano ito dapat i-develop at gabayan; kung saan napapabuti ng pagsulong ng agham ang mga tunay na buhay; kung saan mas maraming tao ang puwedeng makibahagi sa hinaharap; at kung saan patuloy na bibigyan ng teknolohiyang ito ang mga indibidwal at komunidad ng higit na kakayahang mamuhay ayon gusto nila. Isa itong kinabukasan na puno ng naisakatuparang potensyal, pananabik, at pagkamangha.

At naniniwala kaming ito ang kinakabukasang nararapat buuin. Maraming salamat po.