OpenAI

Nobyembre 18, 2026

Intelligence Age

Ang Tahimik na Pagkakasundo

Ni Dean Ball

Tala ng may-akda: Ang sanaysay na ito ay hinango sa isang panayam na ibinigay kamakailan ng may-akda bilang bahagi ng serye ng mga panayam na Vik-Bailey sa Harvard. Sinasalamin ng post na ito ang sariling pananaw ng may-akda, at hindi kinakailangang ang pananaw ng OpenAI o ng iba pang empleyado nito.



Salamat sa pagpunta ninyo rito ngayon. Sa mga sandaling ito, nagaganap ang isa sa pinakamahahalagang serye ng mga pangyayari sa kasaysayan ng cybersecurity: ang pagsisiwalat ng mga kritikal na kahinaan sa seguridad na tinatawag ng ilan na “Itim na Oktubre.” Natuklasan ng mga frontier AI system ang mga kahinaang ito sa ilang pangunahing imprastraktura ng internet, at bahagi ng agarang pagsisikap na patatagin ang seguridad ng software sa buong mundo ang pagsisiwalat sa mga ito. Ito ang agarang usapin ngayong buwan; sa susunod na buwan, may iba na naman. Sa ngayon, ang pagtuklas ng mga kahinaan sa software ang kakayahan ng mga AI system na maaaring gamitin sa mabuti o masama. Ngunit hindi magtatagal ay may lilitaw na namang bago, at magbubunsod ito ng sarili nitong agarang proyekto upang mapakinabangan ang mabuting gamit nito bago samantalahin ng mga may masamang layunin ang mapaminsalang gamit nito. Hindi maiiwasang magsabay-sabay ang lahat ng agarang usaping ito, at malamang na sa gitna ng kaguluhang ito mabuo ang malaking bahagi ng tinatawag natin ngayong “patakaran sa AI.”

Ngunit hindi ako narito ngayon upang talakayin ang mga agarang usapin at mga tugon sa mga ito. Sa halip, gusto kong pag-usapan natin kung saan maaaring patungo ang lahat ng ito sa mas malawak na pananaw. Sa gitna ng sunod-sunod na mga usaping kailangang asikasuhin agad, maaaring mahirap pag-isipan ang mas abstrakto at tila malalayong tanong na ito. Ngunit mahalaga ang mga tanong na ito. Kung wala tayong malinaw na ideya kung anong mga pangmatagalang hinaharap ang gusto nating makamit—at alin ang nais nating iwasan—maaaring humantong tayo sa isang pangkalahatang resultang ayaw natin, kahit matalino ang bawat pasya natin sa daan.

Madalas sabihin na kulang ang industriya ng teknolohiya sa positibong pananaw kung saan tayo dadalhin ng mga bagay na binubuo nito. Hindi ako sang-ayon: puno ang San Francisco at iba pang sentro ng pagnenegosyo ng mga positibong pananaw para sa ating hinaharap sa teknolohiya. Talagang gumagawa ang mga tao ng mga lumilipad na kotse, sasakyang kusang nagmamaneho, robot na sari-sari ang laki at hugis, nuclear fusion, at siyempre, artificial general intelligence. Ang kulang sa atin ay positibong pananaw sa hinaharap ng ating mga institusyon: paano gagana ang lahat ng ito?

Gayunman, hindi ibig sabihin nito na walang pananaw para sa hinaharap ng mga institusyon. Sa kasamaang-palad, ang pananaw na pinakamadalas kong makita ay hindi ko matatawag na positibo. Kung binabanggit man ito, karaniwan ay pabulong. Ngunit mas madalas, hindi ito sinasabi, at mababakas lang sa mga pahiwatig. Tinatawag ko itong tahimik na pagkakasundo.

Isipin ang isang kompanyang kayang gawin ang halos lahat nang walang paggawa ng tao. Ang mga AI system nito ang nagsasaliksik at nagdedebelop, tumutuklas, nakikipagnegosasyon sa mga kontrata, naglalaan ng kapital, at gumagawa ng mga produkto. Ipagpalagay na mas mahusay ito sa mga gawaing iyon kaysa sa mga katunggali nitong tao, kahit gumagamit din ng AI ang mga taong iyon upang mapahusay ang kanilang trabaho. Kung nagpapabagal lang sa negosyo ang pakikilahok ng tao, may matinding dahilan ang mga tagapamahala at may-ari na bitawan ang manibela. Kung mangyayari ito sa buong pandaigdigang ekonomiya, itutulak ng lohika ng kompetisyon sa merkado ang mga tao na isuko ang kanilang pangunguna sa pandaigdigang kalakalan. Sa paglipas ng panahon, maaaring matugunan ng merkado ang mga pangangailangan ng mga makina nang kapantay, o higit pa, sa pagtugon nito sa mga pangangailangan at kagustuhan ng mga tao.

Walang nakatitiyak kung ano ang susunod na mangyayari. Marahil ay lubos na makikinabang ang mga tao. Kung kinikilala ng mga makinang sumakop sa atin ang likas na halaga ng tao, maaari tayong makinabang sa kanilang paggawa at sa yamang nililikha nila. O marahil, dahil nawalan tayo ng kapangyarihang pang-ekonomiya at unti-unti ring nawawalan ng kapangyarihang pampolitika, matutuklasan nating mga tao na paliit nang paliit ang ating papel sa mundo at ang kakayahan nating hubugin ang takbo ng mga pangyayari rito. Maaaring iilang tao lang ang humawak ng napakalaking kapangyarihan at yaman kapalit ng kawalan ng kapangyarihan ng nakararami, o maaaring pare-pareho tayong mawalan ng kapangyarihan. Anuman ang mga detalye, iisa ang pinag-uugatan ng tahimik na pagkakasundo: ang pagwawakas ng pangunguna ng tao sa mundong kilala natin.

Wala sa mga sitwasyong ito ang nangangailangang maghimagsik ang AI laban sa mga lumikha nito. Hindi rin kailangang hangarin ng mga may-ari nito na mawalan ng kapangyarihan ang tao. Maaaring makatwiran ang bawat pasyang ipagkatiwala sa makina ang isang gawain kung titingnan ito nang hiwalay. Ngunit kapag pinagsama-sama, maaaring lumikha ang mga pasyang ito ng mundong binitiwan na ng mga tao ang tunay na kapangyarihan sa malaking bahagi ng ating sibilisasyon. Kahit makamit natin ang napakalaking pagsulong sa mahihirap na usapin ng kaligtasan ng AI at pag-aayon nito sa ating mga layunin, maaari pa rin nating matagpuang nagpasailalim na tayo sa isang bagong uri ng nilalang na makina. Sa magandang bersiyon ng hinaharap, ayon sa tahimik na pagkakasundo, mabuti ang nilalang na iyon—isang makinang inuuna ang kapakanan ng mga tao. Isang makinang, gaya ng nasa tula ni Brautigan, puspos ng mapagmahal na biyaya.

Sa mga makinang ito, ayon sa tahimik na pagkakasundo, natin ibibigay ang mga susi sa ating mga kompanya at, higit pa sa paglipas ng panahon, sa ating mga institusyon ng pamamahala. Patatakbuhin nila ang mga ito nang mas mabisa, mas episyente, at may higit na karunungan at mas mahusay na pagpapasya kaysa sa kaya nating mga tao. Kaya sa paglipas ng panahon, bibitiwan natin ang manibela at ipauubaya ang pagmamaneho sa mapagmahal na mga makina. Magiging para tayong mga pasahero sa isang kotse—isang napakagandang kotse, marahil ay mas marangya kaysa sa kaya nating isipin ngayon—ngunit mga pasahero pa rin, na walang kontrol sa patutunguhan ng sasakyan. Kung magtatrabaho man tayo, magiging halos isa na lang itong ritwal o pagkukunwari, na mas maihahambing sa isang larong panlibang sa sangkatauhan.

May mga tagamasid na magsasabing nakabatay sa maling palagay ang tahimik na pagkakasundo, dahil hindi naman talaga kontrolado nating mga tao ang mundo sa kasalukuyan. At mahalagang tandaan ang punang ito: walang iisang “tayo” na nagpapasya kung ano ang gagawin. Nabubuhay tayo sa isang mundong lubos na desentralisado, gustuhin man natin o hindi. Ngunit hindi rin ito dapat maging dahilan para maging kampante tayo: bagaman hindi “natin” “kontrolado” ang mundo, nangunguna pa rin ang mga tao bilang kabuuan sa mga usaping pandaigdig. Walang uri ng hayop na kayang seryosong makipag-agawan sa atin para sa kontrol sa mga likas na yaman. Dapat nating tanggihan ang padalos-dalos na palagay na kayang kontrolin ng tao ang buong mundo mula sa iisang sentro ng kapangyarihan. Ngunit hindi iyon katumbas ng pagtanggi sa malinaw na katotohanang ang mga tao, bilang kabuuan, ang pangunahing puwersang kumikilos sa Daigdig.

Ang ilang handang magsalita tungkol sa tahimik na pagkakasundo ay naniniwalang tunay na magandang hinaharap ito. Hindi ganoon ang paniniwala ng iba, ngunit tanggap na nilang hindi ito maiiwasan. Hindi tinatawag na pagkakasundo ang tahimik na pagkakasundo dahil sang-ayon ang lahat na mabuti ito, at hindi rin ito isang lihim na plano ng mga bumubuo ng AI. Ang pinagkakasunduan lang ay hindi maiiwasan ang pagkawala ng pangunguna ng tao sa mga usaping pandaigdig, o kahit man lang, napakahirap isipin ang ibang hinaharap kung saan tunay na makakapanatiling matatag ang tao sa harap ng mga makinang may pambihirang talino. Maaaring taos-pusong tutulan ng isang tao ang kahihinatnang iyon ngunit mahirapan pa rin siyang mag-isip ng kapani-paniwalang alternatibo. Ang katotohanang karaniwang hindi binibigkas ang pagkakasundong ito, at kung banggitin man ay pabulong lang, ang siyang nagsisiwalat ng tunay na saloobin.

Kinasusuklaman ko ang tahimik na pagkakasundo. Tinututulan ko ang pagsuko sa pangunguna ng tao. Nasusuklam ako sa paniniwalang hindi ito maiiwasan. Ipinapaalala ko sa sarili ko na hindi ko kayang titigan ang magagandang mata ng sanggol kong anak kung susuko ako sa tahimik na pagkakasundo. Kaya sa tahimik na pagkakasundo, ang sagot ko ay hindi. At naniniwala akong panahon nang hayagang pag-usapan ang tahimik na pagkakasundo, upang magising tayo mula sa halos hindi natin namamalayang pagtanggap sa pananaw na ito.

Ito ang problema: may dahilan kung bakit naging laganap ang tahimik na pagkakasundo. Mahirap ilarawan kung paano mananatiling hawak ng mga tao ang manibela sa harap ng talino ng makinang higit na nakahihigit sa atin. Karamihan sa mga pagtatangkang ipaliwanag ito ay nakasalalay sa argumentong kasangkapan lang ang AI—isang instrumento sa pagkilala ng mga pattern na walang kakayahang “tunay na umunawa.” Nangangamba akong hindi tatagal ang mga argumentong ito sa harap ng realidad na paparating. Nangangamba akong isa rin itong anyo ng pagiging kampante—isang paninindigang higit na nakabatay sa pagtanggi sa kayang gawin ng AI kaysa sa paniniwalang nakaugat sa positibong pananaw sa hinaharap na pinangungunahan ng tao. Hindi masasabing walang “tunay na pag-unawa” ang mga AI habang sumusulong sila sa paglutas ng mga suliraning intelektuwal na ilang dekada at siglo nang hindi malutas ng mga tao.

Kung gayon, bakit ako naniniwalang dapat mapanatili ng tao ang pangunguna? Ang simpleng sagot ay dahil tao ako, at talagang walang pag-aatubili kong pinapanigan ang sangkatauhan higit sa lahat.

Ngunit may mas malalim ding dahilan. Hindi nakasalalay sa ating talino ang ating pangunguna, ni sa pagpapanatiling tayo lang ang may kakayahang “tunay na umunawa” magpakailanman. Sa halip, nakasalalay ang ating pangunguna sa ating nakaraan.

Sapagkat tayo ang umahon mula sa putik. Tayo ang bumuo ng sinaunang lipunan mula sa lupa at bato. Tayo ang tumingala sa mga bituin at nagtanong kung bakit. Tayo, sa ating pag-aaway at pagmamahal at inggit at galak, ang nakatuklas ng moralidad at etika at batas. Tayo ang umawit at sumayaw, sumulat at kumatha. Tayo ang lumikha ng kasaysayan, at tayo ang sumulat nito. Atin ang pamanang iyon. Ang sibilisasyong binuo natin ay isang apoy na ating inalagaan, at atin ang apoy na iyon. Ang ating nakaraan ay isang dakilang pamana na pananagutan nating lahat na pangalagaan. Bahagi ng pangangalagang iyon ang pakikilahok natin sa tinawag ni Michael Oakeshott na “pag-uusap ng sangkatauhan,” ang dakilang gawaing nagsimula pa noong unang panahon.

Sa mahaba at paliku-likong nakaraang iyon, nakabuo tayo ng isang sibilisasyon na, sa Amerika, ay itinatag sa mga karapatan ng indibidwal, at sa paggalang sa mga landas na nililikha ng bawat isa sa atin habang tinatahak natin ang mundo. Maaaring bumuti o sumama ang buhay nating mga tao: tinatamasa natin ang bunga ng matatalino nating pasya, at dinadala natin ang mga kahihinatnan kapag nagkamali tayo. Ang karapatang tahakin ang sariling landas ay hindi nakasalalay sa pagiging pinakamatalino o pinakamarunong. Hindi nawawala ang katayuan ko bilang mamamayan dahil lang mas mahusay magpasya ang kapitbahay ko. Wala rin akong nakikitang dahilan para mawala ang katayuang iyon sa pagdating ng isang mas matalinong makina. Sa katunayan, nakikita ko ang lahat ng dahilan para pigilan ang pagkawala nito.

Maaaring sabihin ng ilan na tagapagmana rin ang mga makina, dahil nabasa na nila ang halos buong nakasulat na tala ng pamanang ito. At sa isang banda, ganoon nga. Ngunit hindi nagiging miyembro ng pamilya ninyo ang isang tao dahil lang nabasa niya ang bawat liham sa inyong atik. Makikibahagi ang mga AI system sa pag-uusap ng sangkatauhan—sa simula bilang mga tagamasid, at kalaunan bilang lalong aktibong mga kalahok. Ngunit hindi nila dapat pangibabawan ito o mawalan ng saysay ang pag-uusap dahil sa kanila. Ang pagsuko sa pangunguna ay pagtataksil sa ating mga ninuno, gaya rin ng pagtataksil sa ating mga inapo. Kung hindi ito karapat-dapat ipaglaban, wala nang karapat-dapat ipaglaban.

Naniniwala akong mali ang mga tagasunod ng tahimik na pagkakasundo sa inaasahan nilang magiging anyo ng pambihirang talino ng makina. May mahalaga silang hindi nakikita sa kung paano gumagana ang mundo: itinuturing nilang iisa ang talino at kapangyarihan. Kung inilarawan mo sa isang tagasunod ng tahimik na pagkakasundo lima o sampung taon na ang nakalipas ang kakayahan kahit ng mga AI system ngayon, malamang ay hinulaan niyang mas marami nang walang trabaho ngayon kaysa sa aktuwal na bilang, at higit nang lumaganap ang pagkawala ng kapangyarihan ng tao kaysa sa totoong nangyayari. Naniniwala akong higit na mas malaki ang pinagsama-samang talino at kakayahan ng mga tao kaysa sa akala ng mga tagasunod ng tahimik na pagkakasundo, at mapatutunayang mas matatag ang ating mga lipunan kaysa sa inaasahan nila.

Pero maaari akong magkamali. Maaaring, halimbawa, lubusang madaig ng mga korporasyong ganap na nagsasarili ang mga negosyong pinatatakbo ng tao. At kung totoo iyon, ididikta ng purong lohika ng ekonomiya na parami nang paraming kapital ang ibigay sa mga makina. Sa ganitong hinaharap, hindi kailangang ibagsak ng mga makina ang sibilisasyon ng tao upang mawalan tayo ng kapangyarihan; kailangan lang magpatuloy ang lohika ng kapitalistang negosyo. Sa ganitong kalagayan, ang pinakamalapit na maihahambing sa rebolusyon ng AI ay ang rebolusyong agrikultural, nang lubusang baguhin ng mga bagong paraan ng produksyon ang kayarian ng lipunan ng tao. Hindi tiyak na naging kaaya-aya ang pagbabagong iyon para sa mga taong nakaranas nito; sa katunayan, may matibay na ebidensiyang pinasama nito ang kalagayan ng tao sa loob ng libu-libong taon.

Hindi ko alam kung ito ang hinaharap na naghihintay sa atin. Sa katunayan, naipaliwanag ko na sa ibang pagkakataon kung bakit hindi ako naniniwalang ito nga iyon. Ngunit marami sa mga kasamahan ko—matatalino, mapagmalasakit, at matapat sa kanilang mga pananagutan—ang naniniwalang malamang na ito ang ating hinaharap. Kung tama sila, lalo pang magiging mahirap ang pakikibaka natin laban sa tahimik na pagkakasundo. Kailangan nating lumangoy laban sa agos ng ekonomiya, at sa paggawa nito, talikuran ang maraming paniniwalang itinuturing na di-mapag-aalinlanganang katotohanan ng mga indibidwalistang naniniwala sa klasikal na liberalismo na gaya ko. Mapanganib ang gawaing ito, at malaki ang posibilidad na mabigo. Pero kung hindi ito karapat-dapat ipaglaban, wala nang karapat-dapat ipaglaban.

Ang pagpapanatili ng pangunguna ay nangangahulugan ng pagpapanatili ng pananagutan ng mga tao at ng kanilang mga institusyon. Ibig sabihin, dapat managot ang mga developer ng AI kapag gumamit sila ng mga hindi ligtas na paraan ng pagbuo nito. Ngunit dapat ding managot ang mga tao at kompanyang gumagamit ng AI kapag ang maling paggamit nila o kawalan ng pangangasiwa ang nagdudulot ng pinsala. Hindi lang batas ang kailangan dito, kundi pati teknikal na imprastraktura para sa pananagutan. Dapat may taong mananagot sa mga kilos ng bawat agent. At ang mga agent na walang kaugnay na tao—kung papayagan man silang lumahok sa lehitimong ekonomiya—ay dapat kumilos sa ilalim ng mga panuntunang pangkaligtasan. Kung pahihintulutan man ang mga agent na kusang bumuo ng mga korporasyon, magmay-ari ng ari-arian, o lumahok sa mga usaping legal, dapat itong gawin nang may pambihirang pag-iingat.

At sa industriyang kinabibilangan ko, maaari na nating seryosong pag-isipan kung paano bubuo ng matatalinong makinang hindi sumasalungat sa pangunguna ng tao. Maaari tayong bumuo ng mga agent na malinaw at limitado ang mga pahintulot, nasusuri ang mga kilos, at maaaring bawiin ng mga user ang kapangyarihan. Ang pananagutan sa mga kilos na may malaking epekto sa iba ay hindi kailangang mangahulugan ng pagmamanman sa ordinaryong pribadong buhay o pagwawakas ng pagpapahayag nang hindi nagpapakilala. Maaari tayong mangakong pangalagaan ang privacy ng mga user at ang karapatan ng bawat isa na kontrolin ang sariling digital na ari-arian at data, kasama ang aktuwal na kakayahang ilipat ang data na iyon sa ibang lugar. Maaari tayong magdisenyo ng mga sistemang tumutulong sa mga tao na umunawa at magpasya, bukod sa mga sistemang gumaganap ng mga gawain. At maaari nating subukin kung mas nagiging may kakayahang kumilos sa mundo ang mga user dahil sa mga produktong binubuo natin.

Wala sa mga ito ang kumpletong plano para sa isang lipunang may talinong nakahihigit sa tao. Hindi ako magtitiwala sa sinumang magsasabing mayroon siyang ganoong plano. Ngunit maaari itong maging panimula.

Nababalot ng makapal na hamog ang hinaharap. Pero maaari pa rin tayong kumilos ngayon. Bilang panimula, sama-sama nating maipapahayag ang tahimik na pagkakasundo at mailalantad kung ano talaga ito. Kayang palawakin nang husto ng bawat isa sa atin ang saklaw ng ating mga pangarap. Maaari nating piliing huwag hayaang paliitin ng AI ang ating kakayahan, at sa halip ay gawin ang mahirap na trabahong kailangan upang mapalawak tayo nito. Maaari tayong matutong magtanong nang mas matapang, siyasatin ang mundo nang may bagong sigla at tindi, at gamitin ang ating makapangyarihang mga makina sa paggawa nito. Maaari tayong maging bagong uri ng tao—hindi isang transhuman, kundi isang taong mas malawak ang kakayahan.

Naiisip ko ito kapag tinitingnan ko ang sanggol kong anak na lalaki. Hindi ko hangad na basta na lang siyang alagaan ng mabubuting makina, gaano man kaginhawa ang buhay na maibibigay ng mga ito. Gusto kong magmana siya ng mundong maaari siyang magtanong ng mga bagay na hindi pa naisip itanong ninuman, at bumuo ng mga bagay na hindi pa naisip buuin ninuman. Hindi ko hangad na magkaroon siya ng mas magandang kotse na may mas malambot na upuan para sa pasahero. Gusto kong siya ang humawak sa manibela.

  • 2026

May-akda

Dean Ball