OpenAI

18 November 2026

Intelligence Age

Kesepakatan Tanpa Swara

Dening Dean Ball

Cathetan panulis: Esai dina iki diadaptasi saka ceramah sing bubar diwenehake panulis minangka bagean saka seri Ceramah Vik-Bailey ing Harvard. Tulisan iki nggambarake panemune panulis dhewe, lan ora mesthi nggambarake panemune OpenAI utawa karyawan liyane.



Matur nuwun wis rawuh ing kene dina iki. Nalika kita lagi guneman iki, lagi dumadi salah siji rerangkening kedadeyan keamanan siber paling wigati ing sejarah: pambocoran serangkaian celah keamanan kritis sing dening sawetara wong diarani “Oktober Ireng”. Celah-celah ing sawetara prasarana inti internet iki ditemokake dening sistem AI tercanggih, lan pambocorane dadi bagean saka upaya mendhesak kanggo nguwatake keamanan piranti lunak ing saindenging donya. Iki prakara mendhesak ing sasi iki; sasi ngarep bakal ana liyane. Nemokake celah keamanan piranti lunak iku kabisan sing saiki wis digayuh sistem AI lan bisa digunakake kanggo kabecikan utawa piala. Nanging ora suwe bakal ana kabisan liyane, sing uga bakal nuwuhake proyek mendhesak kanggo nggunakake sisih becike sadurunge pihak sing duwe niyat ala nggunakake sisih alane. Kabeh prakara mendhesak iki mesthi bakal tumpang tindih, lan akeh bab sing saiki kita sebut “kabijakan AI” bisa uga bakal dirumusake ing tengah kahanan rame iki.

Nanging dina iki aku teka ora kanggo ngrembug bab-bab mendhesak sing kudu langsung ditanggapi iku. Aku malah kepengin ngrembug karo sampeyan kabeh bab arah sing bisa dituju yen dideleng saka gambaran sing luwih amba. Ing tengah prakara mendhesak sing teka tanpa kendhat, pancen angel mikirake pitakonan-pitakonan sing luwih abstrak lan adoh saka urusan langsung iki. Nanging pitakonan-pitakonan iki wigati. Tanpa gambaran bab mangsa ngarep jangka dawa sing kepengin kita gayuh—lan sing kepengin kita endhani—kita bisa pungkasane oleh asil sakabehe sing ora kita karepake, sanajan saben langkah wis kita putusake kanthi wicaksana.

Asring ana sing kandha yen industri teknologi ora duwe sesawangan positif bab menyang ngendi asil pangembangane bakal nggawa kita. Aku ora sarujuk: San Francisco lan pusat-pusat wirausaha liyane kebak sesawangan positif tumrap mangsa ngarep teknologi kita. Wong-wong pancen lagi ngembangake mobil mabur, kendaraan otonom, robot maneka ukuran lan wujud, fusi nuklir, lan mesthi wae, kecerdhasan umum tiruan. Sing kurang malah sesawangan positif tumrap mangsa ngarep institusi kita: kepriye kabeh iki bakal mlaku?

Nanging iku ora ateges ora ana sesawangan tumrap institusi ing mangsa ngarep. Sayange, sesawangan sing paling kerep taktemoni dudu sesawangan sing miturutku positif. Yen nganti diucapake, biasane mung kanthi bisik-bisik. Nanging luwih kerep ora diucapake, lan mung bisa dingerteni saka sing kasirat. Aku ngarani iku kesepakatan tanpa swara.

Bayangna sawijining perusahaan sing bisa nindakake meh kabeh bab tanpa tenaga manungsa. Sistem AI-ne nindakake riset lan pangembangan, ngasilake panemuan, negosiasi kontrak, ngalokasikake modal, lan nglakokake produksi. Upamane perusahaan iku luwih unggul ing kabeh bab mau tinimbang pesainge sing ditindakake manungsa, sanajan manungsa mau wis nggunakake AI kanggo nguwatake upayane. Yen campur tangane manungsa mung ndadekake bisnis luwih alon, para manajer lan sing duwe perusahaan bakal nduweni dorongan kuwat kanggo ngeculake tangane saka setir. Yen iki kelakon ing saindenging ekonomi global, logika saingan pasar bakal nyurung manungsa ngeculake kalungguhan utamane ing perdagangan global. Suwe-suwe, pasar bisa uga bakal nglayani panjaluke mesin kanthi porsi padha gedhene, utawa malah luwih gedhe, tinimbang anggone nglayani panjaluk lan pepenginane manungsa.

Ora ana sing ngerti kanthi mesthi apa sing bakal kelakon sawise iku. Bisa uga manungsa bakal oleh paedah sing gedhe banget. Yen mesin-mesin sing wis njupuk alih peran kita iku ngajeni banget manungsa amarga ajine manungsa dhewe, kita bisa ngrasakake paedah saka gaweyane lan kasugihan sing diasilake. Utawa bisa uga, amarga kelangan kuwasa ekonomi lan saya kelangan kuwasa politik, kita manungsa bakal saya ora nduweni peran ing jagad, lan saya ora bisa nemtokake arahe urusan donya. Mbokmenawa mung segelintir manungsa sing bakal nyekel kuwasa lan kasugihan gedhe banget kanthi ngorbanake wong akeh sing kelangan daya, utawa mbokmenawa kita kabeh bakal padha-padha kelangan daya. Kepriye wae rinciane, bab sing dadi underane kesepakatan tanpa swara iku yaiku pungkasane kalungguhan utama manungsa ing jagad sing kita kenal saiki.

Kabeh skenario iki bisa kelakon tanpa AI kudu mbalela marang pangriptane. Uga bisa kelakon tanpa sing duwe AI kudu kepengin manungsa kelangan daya. Saben keputusan kanggo masrahake tugas bisa katon mlebu nalar yen dideleng dhewe-dhewe. Nanging yen digabung, keputusan-keputusan iku bisa ngasilake jagad sing manungsane wis masrahake wewenang nyata tumrap akeh bagean peradabane. Sanajan kita bisa maju kanthi luar biasa anggone ngrampungake pitakonan ruwet babagan kaslametan AI lan kaselarasan AI karo tujuwan manungsa, kita isih bisa wae pungkasane tundhuk marang sawijining entitas mesin jinis anyar. Miturut kesepakatan tanpa swara iku, ing mangsa ngarep versi sing nyenengake, entitas kasebut bakal becik atine, sawijining mesin sing tansah ngutamakake kapentingan paling becik kanggo manungsa. Mesin sing, kaya ing geguritane Brautigan, kebak sih katresnan.

Miturut kesepakatan tanpa swara iku, marang mesin-mesin iki kita bakal masrahake kendhali perusahaan-perusahaan kita, lan saya suwe uga institusi-institusi pamarentahan kita. Mesin-mesin iku bakal nglakokake kabeh mau kanthi luwih efektif, luwih efisien, lan kanthi kawicaksanan sarta tetimbangan sing luwih apik tinimbang sing bisa ditindakake manungsa. Mula, suwe-suwe kita bakal ngeculake tangan saka setir, lan nglilani mesin-mesin sing kebak katresnan iku njupuk alih anggone nyopir. Kita bakal kaya penumpang ing mobil—mobil sing apik banget, mbokmenawa saka segi materi luwih apik tinimbang sing bisa kita impikake saiki—nanging tetep wae mung penumpang, ora duwe kendhali marang arah tujuwane kendaraan iku. Yen kita isih nyambut gawe, umume mung dadi ritual utawa ethok-ethokan, luwih kaya dolanan kanggo nglipur spesies kita.

Sawetara pengamat bakal kandha yen kesepakatan tanpa swara iku adhedhasar anggepan sing kliru, amarga wiwitane wae kita manungsa ora ngendhaleni jagad saiki. Lan kritik iki pantes dieling-eling: ora ana siji “kita” sing mutusake apa sing kudu ditindakake. Seneng utawa ora, kita urip ing jagad sing kuwasane sumebar banget, ora dumunung ing siji pusat. Nanging bab iki uga aja nganti ndadekake kita lena: sanajan “kita” ora “ngendhaleni” jagad, manungsa sacara bebarengan pancen nduweni kalungguhan utama ing urusan donya. Ora ana spesies kewan sing dadi saingan abot kanggo kita anggone nguwasani sumber daya. Kita kudu nolak panemu sing cethek yen manungsa bisa ngendhaleni jagad saka ndhuwur, nanging aja nganti penolakan iku dicampur karo panyelakan marang kasunyatan sing cetha: manungsa, sacara bebarengan, iku paraga utama ing Bumi.

Sawetara wong sing gelem nyuarakake kesepakatan tanpa swara iki percaya yen iku pancen mangsa ngarep sing becik. Liyane ora percaya mangkono, nanging pasrah amarga nganggep iku ora bisa diendhani. Kesepakatan tanpa swara iku dudu kesepakatan amarga kabeh wong sarujuk yen iku becik, lan uga dudu rencana rahasia ing antarane wong-wong sing ngembangake AI. Sing disepakati mung yen ilange kalungguhan utama manungsa ing urusan donya iku ora bisa diendhani, utawa saora-orane angel banget mbayangake sesawangan mangsa ngarep liyane sing tenan bisa tetep kukuh nalika ana mesin kanthi kecerdasan ngluwihi manungsa. Wong bisa kanthi tulus nolak asil kaya mangkono, nanging tetep kangelan mbayangake sesawangan liya sing mlebu nalar. Sing dadi pratandha yaiku kasunyatan yen kesepakatan iki umume ora diucapake, utawa paling banter mung dibisikake .

Aku sengit marang kesepakatan tanpa swara iku. Aku nolak yen manungsa kudu ngeculake kalungguhan utamane. Aku ora sudi nampa anggepan yen iku ora bisa diendhani. Aku ngelingake awakku dhewe yen aku ora bakal bisa nyawang mripate anakku lanang sing isih bayi lan endah iku yen aku tundhuk marang kesepakatan tanpa swara. Mula, marang kesepakatan tanpa swara iku, wangsulanku: ora. Lan aku percaya wis tekan wektune kanggo ngrembug kesepakatan tanpa swara kanthi blaka, supaya kita sadhar saka anggone nampa sesawangan iki sing lumrahe tanpa kita sadari.

Masalahe mangkene: ana sebabe kenapa kesepakatan tanpa swara iku nganti dadi kesepakatan. Angel njlentrehake kepriye manungsa bakal tetep nyekel setir nalika urip bebarengan karo mesin sing kecerdasane adoh ngluwihi manungsa. Umume upaya kanggo njlentrehake bab iku gumantung marang alesan yen AI mung piranti, sarana kanggo ngenali pola sing ora bisa “mangerteni kanthi temenan”. Aku kuwatir alesan-alesan iki ora bakal kukuh nalika ngadhepi kasunyatan sing bakal teka. Aku kuwatir iku uga sawijining wujud kalenan—sikap sing luwih akeh adhedhasar panyelakan marang kabisan AI, dudu kapercayan sing bosok ing sesawangan nyata tumrap mangsa ngarep sing dipimpin manungsa. AI ora bisa diarani ora bisa “mangerteni kanthi temenan” nalika malah wiwit nuduhake kemajuan ing prakara-prakara intelektual sing wis puluhan nganti atusan taun durung bisa dirampungake manungsa.

Yen mangkono, kenapa aku percaya manungsa kudu tetep nduweni kalungguhan utama? Wangsulan gampange yaiku amarga aku manungsa, lan aku pancen mbelani kaunggulan manungsa tanpa rumangsa perlu njaluk pangapura.

Nanging uga ana alesan sing luwih jero. Kalungguhan utama kita ora adhedhasar kapinteran kita, utawa upaya kanggo terus dadi siji-sijine sing bisa “mangerteni kanthi temenan” ing salawas-lawase. Kalungguhan utama kita malah adhedhasar mangsa kepungkur kita.

Amarga kita sing biyen metu saka endhut. Kita sing mbangun masyarakat purba saka lemah lan watu. Kita sing nyawang lintang-lintang lan takon apa sebabe. Kita, kanthi pasulayan lan katresnan, rasa meri lan kabungahan, sing nemokake moralitas, etika, lan ukum. Kita sing nembang lan njoged, nulis lan ngripta musik. Kita sing nggawe sejarah, lan kita uga sing nulis. Warisan iku duweke kita. Peradaban sing wis kita bangun iku geni sing wis kita rumat, lan geni iku duweke kita. Mangsa kepungkur kita iku warisan agung sing dadi tanggung jawab kita kabeh kanggo ngrumat. Salah siji wujud tanggung jawab iku yaiku melu ing bab sing diarani Michael Oakeshott “pacelathon umat manungsa”, sawijining upaya gedhe sing diwiwiti wiwit jaman purba.

Liwat mangsa kepungkur sing dawa lan kebak liku iku, kita mbangun peradaban sing, ing Amerika, dirancang kanthi hak individu minangka dhasare, kanthi ngajeni dalan sing kita rintis dhewe-dhewe sajrone nglakoni urip ing jagad. Urip manungsa bisa dadi luwih becik utawa luwih ala: kita ngrasakake woh saka keputusan sing wicaksana, lan kita nanggung akibate nalika kliru. Hak kanggo ngambah dalane dhewe ora gumantung marang apa wong iku paling pinter utawa paling wicaksana. Aku ora kelangan kalungguhanku minangka warga negara mung amarga tanggaku nduweni tetimbangan sing luwih becik. Aku uga ora weruh alesan kenapa tekane mesin sing luwih pinter kudu ngilangi kalungguhan iku. Malah, aku weruh akeh alesan kanggo nyegah supaya kalungguhan iku ora ilang.

Sawetara wong bisa uga kandha yen mesin-mesin, sing wis maca meh kabeh cathetan tinulis saka warisan iki, uga kalebu ahli waris. Lan saka sudut pandang tartamtu, pancen iya. Nanging wong sing wis maca saben layang ing lotenge kulawargamu ora banjur dadi anggota kulawargamu. Sistem AI bakal melu ing pacelathon umat manungsa, wiwitane minangka pengamat lan saya suwe minangka peserta, nanging ora kena nguwasani pacelathon iku utawa ndadekake pacelathon iku ora ana gunane maneh. Masrahake kalungguhan utama iku padha karo ngiyanati leluhur, lan uga ngiyanati anak putu kita. Yen iki ora pantes diperjuwangake, ora ana apa wae sing pantes diperjuwangake.

Aku dhewe percaya yen para panyengkuyung kesepakatan tanpa swara iku kliru babagan kaya apa wujude kecerdasan super mesin mengko. Dheweke ora nggatekake sawijining bab wigati babagan cara jagad iki lumaku: dheweke madhakake kecerdasan karo kuwasa. Yen limang utawa sepuluh taun kepungkur sampeyan njlentrehake kabisan sistem AI saiki marang panyengkuyung kesepakatan tanpa swara, mbokmenawa dheweke bakal ngira yen pengangguran saiki mesthine adoh luwih dhuwur tinimbang kasunyatane, lan manungsa umume mesthine wis kelangan daya luwih akeh tinimbang sing nyata kelakon. Aku percaya yen kecerdasan lan kabisan kolektif manungsa iku adoh luwih gedhe tinimbang sing dianggep para panyengkuyung kesepakatan tanpa swara, lan masyarakat kita bakal kabukten luwih kukuh tinimbang ramalane.

Nanging aku bisa wae kliru. Bisa wae, upamane, perusahaan sing mlaku kanthi otonom sakabehe bisa ngalahake kabeh usaha manungsa ing saingan. Lan yen iku bener, logika ekonomi apa anane bakal nuntut supaya saya akeh modal dipasrahake marang mesin. Ing mangsa ngarep kaya mangkene, manungsa bisa kelangan daya tanpa mesin kudu nggulingake peradaban manungsa; cukup yen logika usaha kapitalis terus lumaku kaya biasane. Ing kahanan iki, revolusi AI paling cedhak pepadhane karo revolusi tetanen, nalika cara produksi anyar ngowahi dhasar tatanan masyarakat manungsa. Durung cetha apa owah-owahan iku nyenengake kanggo manungsa sing ngalami; malah ana bukti kuwat yen owah-owahan iku ndadekake karaharjan manungsa saya ala nganti ewonan taun.

Aku ora ngerti apa iki mangsa ngarep sing bakal kita adhepi. Malah, ing papan liya aku wis ngandharake yen aku ora percaya bakal mangkono. Nanging akeh kanca nyambut gaweku—wong-wong sing pinter, peduli, lan tanggung jawab—percaya yen iki bisa banget dadi mangsa ngarep kita. Yen dheweke bener, perjuwangan kita nglawan kesepakatan tanpa swara bakal saya abot. Kita kudu nglangi nglawan ilining ekonomi, lan kanggo nindakake iku, kita kudu nolak akeh bab sing dadi dogma tumrap penganut individualisme liberal klasik kaya aku. Iki bakal dadi upaya sing mbebayani, lan kemungkinan gagale ora cilik. Nanging yen iki ora pantes diperjuwangake, ora ana apa wae sing pantes diperjuwangake.

Njaga kalungguhan utama ateges tetep njaga supaya manungsa lan institusine bisa dijaluk tanggung jawab. Tegese, pangembang AI kudu tanggung jawab yen nggunakake cara pangembangan sing ora aman. Nanging wong lan perusahaan sing nggunakake AI uga kudu dijaluk tanggung jawab yen panyalahgunaan utawa kurang pangawasane sing nyebabake karugian. Iki ora mung mbutuhake ukum, nanging uga prasarana teknis kanggo njamin tanggung jawab. Tumindake agen kudu bisa digandhengake karo wong sing tanggung jawab. Agen sing ora kaiket karo manungsa—yen pancen diidini melu ing ekonomi sing sah—kudu tumindak ing sangisore watesan pengaman. Wewenang apa wae kanggo agen supaya bisa ngedegake perusahaan, nduweni properti, utawa melu prakara ing pengadilan kanthi otonom kudu diwenehake kanthi ngati-ati banget, yen pancen arep diwenehake.

Lan ing industriku, kita bisa miwiti mikir kanthi tenanan kepriye carane mbangun mesin cerdas sing selaras karo kalungguhan utama manungsa. Kita bisa mbangun agen sing ijine cetha lan winates, tumindake bisa diaudit, lan wewenange bisa dicabut dening pangguna. Tanggung jawab tumrap tumindak sing nduweni pangaribawa nyata marang wong liya ora kudu ateges ngawasi urip pribadi saben dina utawa mungkasi kabebasan mratelakake panemu tanpa nyebut jeneng. Kita bisa duwe komitmen marang privasi pangguna lan kedaulatan individu tumrap properti digital lan datane, kalebu kabisan nyata kanggo nggawa data iku menyang papan liya. Kita bisa ngrancang sistem sing mbantu wong mangerteni lan nggawe keputusan, uga sistem sing nindakake tugas. Lan kita bisa nguji apa produk sing kita bangun ndadekake panggunane luwih bisa tumindak ing jagad iki.

Kabeh iki dudu rancangan jangkep kanggo masyarakat sing urip karo kecerdasan ngluwihi manungsa. Aku bakal ora percaya marang sapa wae sing ngakoni duwe rancangan kaya mangkono. Nanging iki bisa dadi titik wiwitan.

Mangsa ngarep isih ketutupan pedhut kandel. Nanging kita isih bisa tumindak dina iki. Bebarengan, salah siji sing bisa kita tindakake yaiku nyuarakake kesepakatan tanpa swara iku kanthi blaka, supaya wujude katon cetha. Saben wong ing antarane kita bisa nggedhekake gegayuhane kanthi adoh ngluwihi wates saiki. Kita bisa milih ora nglilani AI nyuda kabisan kita, lan kosok baline, ngupaya tenanan supaya AI bisa ngrembakakake kabisan kita. Kita bisa sinau ngajokake pitakonan sing saya wani, nlusuri jagad kanthi semangat lan tekad anyar, lan nggunakake mesin-mesin kita sing ampuh kanggo nindakake iku. Kita bisa dadi manungsa jinis anyar—dudu transhuman, nanging manungsa sing kabisane saya jembar.

Aku mikir bab iki nalika nyawang anakku lanang sing isih bayi. Aku ora kepengin dheweke mung dijaga mesin-mesin sing becik atine, senajan mesin-mesin iku bisa menehi urip sing kepenak banget. Aku kepengin dheweke marisi jagad sing ngidini dheweke ngajokake pitakonan sing durung tau kapikir dening sapa wae, lan nggawe samubarang sing durung tau kapikir arep digawe dening sapa wae. Aku ora kepengin dheweke duwe mobil sing luwih apik kanthi kursi penumpang sing luwih empuk. Aku kepengin dheweke sing nyekel setire.

  • 2026

Penulis

Dean Ball