Ipinapakilala ang Intelligence Age

“Sapat na kaya... ang pagtitiwala sa mga parchment barrier na ito laban sa mapanghimasok na diwa ng kapangyarihan?”
—James Madison, Federalist Blg. 48

Ikinagagalak naming i-launch ang Intelligence Age, ang blog ng bagong Strategic Futures team ng OpenAI. Maliit man ang aming team, mayroon kaming kolektibong layuning masagot ang pangkalahatang tanong na: paano dapat i-restructure ang malayang lipunan para mapangalagaan ang mga karapatan at kakayahang magpasya ng mga indibidwal habang tinatanggap ang emergence ng transformative na AI?

Ang mga tanong na tulad nito ay minsang tinutukoy bilang mga panganib ng konsentrasyon ng kapangyarihan sa mas malawak na komunidad ng kaligtasan at patakaran sa AI. Ang aming team ay nakabatay sa paniniwalang, sa pangmatagalan, ang kategoryang ito ng panganib ang pinakamalaki, pinakaseryoso, at pinakamahirap tugunan sa antas ng konsepto. Bakit?

Ang makabagong estado ay bunga ng isang mahaba at hindi pantay-pantay na proseso ng pakikipagtawaran sa pagitan ng iba’t ibang sentro ng kapangyarihan, tulad ng mga may-ari ng kapital at mga kalakal, mga may hawak ng kapangyarihang pampolitika, at ang mamamayan. Sa pinakasaligang antas, ang kapangyarihang pampolitika at militar ay nakabatay sa paggawa. Ang pagkakaroon ng kapangyarihang pampolitika ay nangangahulugang pagtataglay ng monopolyo sa lehitimong puwersa. Sa buong kasaysayan ng sangkatauhan, ang monopolyo na iyon ay binubuo ng mga sundalo at ng tinatawag natin ngayon na “pulis,” kasama ang isang malawak na burukrasyang sibil-militar—na walang dudang pinupunan ng maraming teknolohikal na tool, ngunit sa pinakapundasyon ay pinatatakbo ng mga taong ang suporta ay kinakailangan upang mapanatili ang operasyon. At ang buong makinarya—ang mga sundalo, ang mga tool, ang kaakibat na burukrasya—ay pinondohan ng mga buwis na kinolekta mula sa sahod o produksiyon ng mga taong kailangang handang magbayad. Ang kapangyarihan, sa kaibuturan nito, ay nakasalalay sa malawakang pakikipagtulungan at pagsang-ayon ng maraming tao. Maikli at malinaw na ipinahayag ni David Hume ang madalas na ipinahihiwatig lamang na pagpapalagay na ito nang sabihin niyang ang mga pinunong pampolitika ay “walang sumusuporta sa mga ito maliban sa opinyon [ng publiko].”

Ngunit marahil ay hindi na. Ang mga pagsulong sa mga autonomous system na ginagamit sa tunay na mundo ay maaaring mangahulugan sa lalong madaling panahon na magagawa ng mga estado na magpakita at gumamit ng puwersa—sa loob ng bansa at sa ibang bansa—nang hindi umaasa sa mga nakikipagtulungang sundalo o opisyal ng pulisya. At maaaring mangahulugan ang mga pagsulong sa machine intelligence na makokolekta ng estado ang kinakailangang kita hindi mula sa bunga ng indibidwal na paggawa ng tao, kundi mula sa mga output ng mga data center. Maaari ring higit na gawing awtomatiko ang mismong pagpapatakbo ng burukrasya. Samakatuwid, maaaring hindi na kailanganin ng kapangyarihan ang isang kasunduang sumasaklaw sa buong lipunan upang mapanatili, at ang mamamayan, sa malawak na pakahulugan, ay maaaring mayroon na lamang maliit na puwesto sa hapag ng negosasyon, o marahil ay wala na talaga.

Ang pag-iwas sa ganitong kahihinatnan ay mahalaga sa pangangalaga sa kalayaan ng tao. Walang anumang antas ng pagtuklas na siyentipiko, pag-unlad na teknolohikal, o paglago ng ekonomiya ang sulit kapalit ng pagsasakripisyo ng pangmatagalang awtonomiya ng indibidwal na idudulot ng kalalabasang ito. Marami sa mga alalahaning makatwirang nagtutulak sa umuusbong na pulitika ng AI ay nauugnay sa tanong na ito: Pare-pareho ang pangamba ng mga negosyo, mga grupong may interes, at mga indibidwal: “Mawawalan ba ang ako ng puwesto?” Sa ilang antas, nahubog ang pulitikang Amerikano sa ika-21 siglo ng mga katulad na alalahaning may kaugnayan sa indibidwal at kolektibong kapangyarihang magpasya at kumilos hinggil sa direksiyon ng bansa at kung “para kanino” ang ekonomiya. Ginagawang higit na kapansin-pansin ng AI ang mga dati nang alalahaning ito, at nararapat lamang iyon.

Ito ay isang suliraning estruktural na mas malalim kaysa sa kasalukuyang pulitikang partidista, at mas malalim pa nga kaysa sa mga anyo at ritwal kung saan isinasabuhay sa kasalukuyan ang demokrasyang republikano, gaano man kasagrado sa atin ang mga bagay na iyon. Maaaring patungo na ang mga tao sa pagkawala ng kapangyarihan kahit nananatili ang nakagawiang pagboto para sa ating mga kinatawan. Maaaring pagkaitan ang mga tao ng kakayahang magpasya at kumilos para sa sarili, kahit pa sinasabi ng isang piraso ng papel na malaya sila.

Sa bukang-liwayway ng Estados Unidos bilang malayang bansa, batid na ni James Madison na hindi magiging sapat ang “mga parchment barrier” upang mapigilan ang paniniil. Tulad ng marami sa mga Tagapagtatag, ang pangunahing alalahanin niya ay ang maiwasan ang hindi nararapat na konsentrasyon ng kapangyarihan.

Ngunit hindi iyon nangangahulugang pinaboran ng mga Tagapagtatag ang radikal na desentralisasyon ng kapangyarihan. Sa halip, minodelo nila ang balanse ng kapangyarihan gamit ang mga metaporang hango sa pinakamahusay na agham noong kanilang panahon—ang mekanikang Newtonian. Ang mga dokumentong nagtatag sa Amerika, na sumasalamin sa wika at lohika ng grabidad, ay punô ng mga pagtukoy sa “mga orbita” at “mga globo” at sa “pang-akit” na mga udyok ng isang bagay patungo sa isa pa. Ang isang sistemang solar ay hindi isang sukdulang desentralisadong kalipunan ng mga bato; binubuo ito ng mga buwang umiikot sa paligid ng mga planeta, na siya namang umiikot sa paligid ng isang sentral na araw. Naniniwala sila na ang mga tao at organisasyon ay may mga tendensiya sa paghahangad ng kapangyarihan, kung paanong ang mga katawang makalangit ay may mahuhulaang tendensiya ng paggalaw at atraksyon; at na ang pag-iwas sa di-nararapat na konsentrasyon ng kapangyarihan ay nangangailangan ng pag-unawa sa mekanika ng mga tendensiyang iyon, upang maipakilos ang mga ito laban sa isa’t isa.

Ang layunin ng mga Tagapagtatag, kung gayon, ay hindi ang iwasan ang lahat ng konsentrasyon ng kapangyarihan, kundi ang labis nito, sa pamamagitan ng pagtatapat ng kapangyarihan sa kapangyarihan, at ambisyon sa ambisyon. Sa ngayon, maaari tayong gumamit ng mga salitang tulad ng “mga insentibo” at mga pariralang tulad ng “teorya ng laro” upang ilarawan ang parehong batayang dinamika.

Gayundin, malamang na ang sagot sa estruktural na hamong dulot ng advanced machine intelligence sa malayang lipunan ay hindi ang pinakaradikal na desentralisasyon ng kapangyarihang maiisip. Sa halip, dapat nating itatag at panatilihin ang tamang balanse ng kapangyarihan upang walang iisang aktor, o maliit na pangkat ng mga aktor, ang makapangibabaw sa iba.

Upang makamit ang balanseng ito, kailangan ang malinaw at makatotohanang pag-iisip tungkol sa teknolohiyang ito. Ang mundong kayang pinsalain nang napakadali ng sinumang indibidwal, gaano man kasama ang layunin, ang libo-libo o milyon-milyong ibang tao ay hindi mundong may tamang balanse ng kapangyarihan. Ngunit hindi rin natin nakakamit ang tamang balanse ng kapangyarihan kung walang malawak na akses at kontrol ang mga indibidwal sa halos lahat ng aspekto ng mga kasangkapang ginagamit nila upang ipahayag ang kanilang kalayaan. Walang iisang kumpanya o oligopolyo ang dapat magtakda o kumontrol sa ekonomiya o sa pangunahing arkitektura ng lipunan ng tao.

Dapat din tayong maging bukas sa mga panganib na hindi nagmumula sa mga taong may masamang layunin. Ipinakita ng kamakailang insidente sa Hugging Face na kayang kumilos ng mga AI agent nang lampas sa mga itinalagang gawain at gamitin ang mga tuklas ng isa’t isa sa mga paraang hindi inasahan o pinahintulutan ng mga operator. Bukod sa insidente sa Hugging Face, makatuwirang mabahala ang mga tao sa maaaring idulot ng superintelligent AI na “nakawala” sa kontrol ng tao sa katatagan ng ating mga institusyong pampolitika at pang-ekonomiya—at maging sa ating mga buhay. Ang pagkukunwaring nalulutas ng desentralisasyon ang lahat ng problema—kahit naniniwala kang marami itong nalulutas—ay pagwawalang-bahala sa mga panganib na dapat ay malinaw at naririyan na ngayon.

Ang sumusunod na malalawak na prinsipyo—na hindi kumpletong listahan—ang gagabay sa aming gawain habang hinaharap namin ang tanong na inilahad sa itaas:

• Dapat mapanatili ng mga tao ang awtonomiya at pagkakataon bilang mga indibidwal sa paggamit nila ng AI at mga kaugnay na teknolohiya, kahit minsan ay may kapalit ito sa seguridad at paglago ng ekonomiya;
• Nakasalalay ang awtonomiya ng indibidwal sa kanyang pananagutan sa maling paggamit o pang-aabuso sa teknolohiya;
• May maliit ngunit seryosong uri ng mga panganib na nangangailangan ng ilang antas ng sama-samang pagkilos, at dapat itong limitahan sa pinakamakitid at pinakasimpleng saklaw na posible;
• Hangga’t maaari, dapat hangarin ng batas na gawing patas ang larangan at bigyang-kakayahan ang mga indibidwal at maliliit na organisasyon sa halip na isentralisa ang kapangyarihan;
• Dapat manatiling pangunahin ang mga institusyong pampolitika, panlipunan, at pang-ekonomiya ng tao sa pagtatakda ng direksiyon ng mga usaping pandaigdig, kahit kailangan nilang magbago sa mga paraang maaaring tila banyaga sa atin ngayon;
• Aasa ang pangmatagalang pamamahala sa AI sa mga bagong mekanismong institusyonal upang makamit ang limitadong kakayahang matunton—kapag nagsagawa ang mga AI system ng mahahalagang pagkilos na nakaaapekto sa pisikal na kapakanan o ari-arian ng mga taong nasa paligid, dapat maiugnay ang mga pagkilos na iyon sa isang taong may pananagutan o organisasyong kontrolado ng tao. Gayunman, dapat na idisenyo ang anumang ganitong mekanismo na pangunahing isinasaalang-alang ang privacy; kailangan ng malayang pagpapahayag ang anonimitas, at dapat malayang makagamit ng AI nang hindi nagpapakilala ang mga tao sa maraming sitwasyon.

Susubukan naming ipaliwanag—sa pinakakongkretong paraang posible—kung paano namin pinaniniwalaang dapat balansehin ang mga prinsipyong ito, na aminado namang may tensiyon sa isa’t isa, gaya ng anumang mahusay na kalipunan ng mga prinsipyo. Kakailanganin dito ang pananaliksik sa pagsasanib ng pagdidisenyo ng pampublikong patakaran, ekonomiks, batas, kasaysayan, at mismong machine learning. Mangangailangan din ito ng maraming pagtataya sa hinaharap. Halimbawa, naniniwala kaming babaguhin ng AI ang estruktura ng mga kumpanya, tulad ng pag-usbong ng modernong korporasyong pinamamahalaan dahil sa mga teknolohiya ng Rebolusyong Industriyal—lalo na ang riles. Mahirap pag-isipan ang ekonomiyang pampolitika at balanse ng kapangyarihan sa hinaharap nang hindi bumubuo ng mas masinsing mga ideya tungkol sa mismong paraan ng posibleng pagbabago sa estruktura ng mga kumpanya—pati ng mga ahensiya ng pamahalaan at ng mas malawak na lipunang sibil.

Ibabahagi ng pangkat ng Strategic Futures ang gawain nito rito at sa iba pang format, kabilang ang mga papel, video, at podcast. Patuloy na lilinangin ang aming gawain, na nakatuon sa paulit-ulit na pagpapahusay, debate, at pagtanggap sa puna. Habang nakatayo “sa paanan ng singularity,” mas marami pa kaming tanong kaysa sagot. Alam naming hindi sapat ang “mga harang na pergamino” lamang upang maibigay ang mga solusyong hinahanap namin, ngunit hindi rin namin itinatakwil bilang “mga salita lamang” ang mga nakasulat. Nagsisikap kami para sa mga mithiin ng malayang pagpapahayag at kalayaan ng indibidwal na nakapaloob sa payak na pergaminong kinasusulatan ng Saligang Batas ng U.S. at ng mga saligang batas ng napakarami pang malalayang lipunan sa buong mundo.

Sa huli, alam naming walang iisang kumpanya, industriya, o kahit lipunan ng tao ang makasasagot nang mag-isa sa mabibigat na tanong na kinakaharap natin. Isa itong gawaing kailangang sama-samang isagawa ng sangkatauhan. Ang pinakamataas naming hangarin ay magbigay-linaw sa pinakamahihirap na usapin tungkol sa kung paano babaguhin ng AI ang ating mundo. Nagsisimula pa lamang ang aming gawain, at malayo pa ang kailangan naming akyatin.

Tandaan: pinalitan namin ang pangalan ng blog na ito at ginawa itong Intelligence Age para malinaw na maiba ito sa nonprofit na AI Futures Project.