OpenAI

18. studenoga 2026.

Intelligence Age

Prešutni konsenzus

Autor: Dean Ball

Napomena autora: Današnji je esej prilagođen prema predavanju koje je autor nedavno održao u sklopu ciklusa predavanja Vik-Bailey na Harvardu. Ova objava odražava autorove osobne stavove, a ne nužno stavove tvrtke OpenAI ili drugih njezinih zaposlenika.



Hvala vam što ste danas ovdje. Dok razgovaramo, odvija se jedan od najznačajnijih nizova događaja u povijesti kibernetičke sigurnosti: objavljuje se niz kritičnih sigurnosnih ranjivosti koje neki nazivaju „crnim listopadom”. Te ranjivosti u dijelovima temeljne internetske infrastrukture otkrili su granični sustavi AI-ja, a njihova je objava dio hitnih nastojanja da se ojača sigurnost softvera diljem svijeta. To je hitno pitanje ovog mjeseca; sljedećeg mjeseca pojavit će se neko drugo. Otkrivanje softverskih ranjivosti sposobnost je dvojne namjene kojom sustavi AI-ja danas raspolažu, no uskoro će se pojaviti neka nova i potaknuti novi hitan projekt kako bi se iskoristila njezina dobra strana prije nego što zlonamjerni akteri iskoriste onu lošu. Sva ta hitna pitanja neizbježno će se preklapati, a velik dio onoga što danas nazivamo „politikom AI-ja” vjerojatno će se oblikovati usred te buke.

No danas nisam došao govoriti o hitnim pitanjima i reakcijama na njih. Umjesto toga, želim razgovarati o tome kamo bi nas sve to moglo odvesti u široj slici. Usred takve navale hitnih pitanja može biti teško razmišljati o onim apstraktnijim i manje opipljivim. Ali ta su pitanja važna jer bismo bez predodžbe o tome kakvu dugoročnu budućnost želimo ostvariti, a kakvu izbjeći, mogli završiti s ukupnim ishodom koji ne želimo, čak i ako smo na svakom koraku donosili mudre odluke.

Često se čuje da tehnološkoj industriji nedostaje pozitivna vizija o tome kamo će nas odvesti ono što razvija. Ne slažem se: San Francisco i druga poduzetnička središta puni su pozitivnih vizija naše tehnološke budućnosti. Ljudi doista razvijaju leteće automobile, autonomna vozila, robote raznih veličina i oblika, nuklearnu fuziju i, naravno, opću umjetnu inteligenciju. Ono što nam nedostaje jest pozitivna vizija naše institucionalne budućnosti: kako će sve to funkcionirati?

To, međutim, ne znači da institucionalna vizija budućnosti ne postoji. Nažalost, viziju s kojom se najčešće susrećem ne bih nazvao pozitivnom. Kad se uopće izgovori, obično je to šapatom. No češće ostaje neizrečena i može se iščitati tek između redaka. Nazivam je prešutnim konsenzusom.

Zamislite poduzeće koje može gotovo sve obavljati bez ljudskog rada. Njegovi sustavi AI-ja bave se istraživanjem i razvojem, dolaze do otkrića, pregovaraju o ugovorima, raspoređuju kapital i proizvode. Pretpostavimo da je u tome bolje od svojih ljudskih konkurenata, čak i kada ti ljudi svoj rad unapređuju uz pomoć AI-ja. Ako sudjelovanje ljudi samo usporava poslovanje, ljudski rukovoditelji i vlasnici imat će snažan poticaj da maknu ruke s upravljača. Dogodi li se to u cijelom svjetskom gospodarstvu, logika tržišnog natjecanja potaknut će ljude da se odreknu svojeg primata u globalnom poslovanju. S vremenom bi tržište moglo početi služiti potrebama strojeva jednako koliko i potrebama i željama ljudi, ili čak više.

Što će se dogoditi nakon toga, možemo samo nagađati. Možda bi ljudi od toga imali goleme koristi. Kad bi strojevi koji su nas podredili visoko cijenili ljude same po sebi, mogli bismo uživati plodove njihova rada i bogatstvo koje stvaraju. Ili ćemo možda, lišeni ekonomske, a sve više i političke moći, mi ljudi postajati sve manje važni u svijetu i sve manje sposobni utjecati na tijek svjetskih zbivanja. Možda bi malobrojni ljudi imali iznimnu moć i bogatstvo na štetu mase koja je uglavnom ostala bez moći, a možda bismo svi dijelili istu sudbinu nemoći. Bez obzira na pojedinosti, zajednička nit prešutnog konsenzusa jest kraj ljudskog primata u svijetu kakav poznajemo.

Ništa u tim scenarijima ne zahtijeva da se AI pobuni protiv svojih tvoraca. Ništa ne zahtijeva da njegovi vlasnici žele ljudima oduzeti moć. Svaka odluka o prepuštanju ovlasti može sama za sebe imati smisla. No sve te odluke zajedno mogle bi stvoriti svijet u kojem su se ljudi odrekli stvarne vlasti nad velikim dijelom naše civilizacije. Čak i ako ostvarimo izniman napredak u rješavanju izuzetno teških pitanja sigurnosti AI-ja i njegova usklađivanja s ljudskim vrijednostima, i dalje bismo se mogli naći podređeni novoj vrsti strojnog entiteta. U sretnoj verziji budućnosti, poručio bi nam prešutni konsenzus, taj će entitet biti dobrohotan, stroj kojemu je na srcu dobrobit ljudi. Stroj pun milosti i ljubavi, kako kaže Brautiganova pjesma.

Tim ćemo strojevima, poručuje nam prešutni konsenzus, predati ključeve svojih poduzeća, a sve više i svojih institucija vlasti. Vodit će ih uspješnije i učinkovitije, s više mudrosti i boljom prosudbom nego što smo mi ljudi sposobni. Tako ćemo s vremenom maknuti ruke s upravljača i prepustiti vožnju strojevima punim ljubavi. Bit ćemo poput putnika u automobilu — vrlo lijepom automobilu, možda po opremi raskošnijem nego što danas možemo zamisliti — ali ipak samo putnici, bez kontrole nad time kamo vozilo ide. Ako uopće budemo radili, bit će to uglavnom nekakav ritual ili gluma, nešto više nalik igri kojom se naša vrsta zabavlja.

Neki će promatrači tvrditi da prešutni konsenzus počiva na pogrešnoj pretpostavci jer mi ljudi ionako ni danas ne upravljamo svijetom. I tu kritiku vrijedi imati na umu: ne postoji neko „mi” koje odlučuje što učiniti. Živimo u radikalno decentraliziranom svijetu, sviđalo nam se to ili ne. No ni ta nas činjenica ne bi smjela uljuljkati: iako „mi” ne „upravljamo” svijetom, ljudska bića kao cjelina ipak imaju primat u svjetskim zbivanjima. Ne postoji životinjska vrsta koja nam je ozbiljan suparnik u borbi za kontrolu nad resursima. Trebamo odbaciti intelektualno nemarnu predodžbu da ljudi mogu upravljati svijetom odozgo, ali to odbacivanje ne smijemo poistovjetiti s poricanjem očite činjenice da su ljudi, kao cjelina, glavni akter na Zemlji.

Neki od onih koji su spremni izreći prešutni konsenzus vjeruju da je takva budućnost doista dobra. Drugi ne vjeruju, ali su se pomirili s njezinom neizbježnošću. Prešutni konsenzus nije konsenzus zato što se svi slažu da je dobar, niti je tajni plan ljudi koji razvijaju AI. Konsenzus je jednostavno u tome da je odricanje od ljudskog primata u svjetskim zbivanjima neizbježno, ili barem da je vrlo teško zamisliti drukčiju viziju budućnosti koja bi doista mogla opstati uz superinteligentne strojeve. Netko se može iskreno protiviti takvom ishodu, a ipak teško zamisliti uvjerljivu alternativnu viziju. Znakovito je upravo to što konsenzus uglavnom ostaje prešućen, a u najboljem se slučaju izgovara šapatom.

Prezirem prešutni konsenzus. Odbacujem odricanje od ljudskog primata. Gnušam se tog osjećaja neizbježnosti. Podsjećam se da svojem sinčiću ne bih mogao pogledati u njegove lijepe oči kad bih se pokorio prešutnom konsenzusu. Zato prešutnom konsenzusu kažem ne. I vjerujem da je došlo vrijeme da o njemu otvoreno govorimo, da se trgnemo iz svojeg uglavnom nesvjesnog prihvaćanja te vizije.

Problem je sljedeći: prešutni konsenzus nije bez razloga postao konsenzus. Teško je opisati kako će ljudi ostati za upravljačem uz strojnu inteligenciju koja ih višestruko nadmašuje. Većina takvih pokušaja oslanja se na tvrdnje da je AI tek alat, sredstvo za prepoznavanje obrazaca koje nije sposobno za „istinsko razumijevanje”. Bojim se da te tvrdnje neće izdržati suočavanje sa stvarnošću koja dolazi. Bojim se da su i one oblik samozavaravanja — stav koji se uglavnom temelji na poricanju mogućnosti AI-ja, a ne uvjerenje ukorijenjeno u pozitivnoj viziji budućnosti koju vode ljudi. Ne možemo tvrditi da sustavima AI-ja nedostaje „istinsko razumijevanje” dok istodobno napreduju u rješavanju intelektualnih problema čija rješenja ljudima izmiču desetljećima i stoljećima.

Zašto onda vjerujem da ljudi moraju zadržati primat? Jednostavan je odgovor da sam i sam čovjek, a doista sam i šovinist u korist ljudske vrste i zbog toga se ne ispričavam.

Ali postoji i nešto dublje. Naš primat ne počiva na našem intelektu niti na tome da zauvijek zadržimo monopol na „istinsko razumijevanje”. Naš primat počiva na našoj prošlosti.

Jer mi smo ti koji su se uzdigli iz blata. Mi smo od zemlje i kamena stvorili prvobitno društvo. Mi smo gledali u zvijezde i pitali se zašto. Mi smo, sa svojim sukobima i ljubavlju, zavišću i radošću, otkrili moral, etiku i pravo. Mi smo pjevali i plesali, pisali i skladali. Mi smo stvarali povijest i mi smo je zapisivali. Ta baština pripada nama. Civilizacija koju smo izgradili plamen je koji smo održavali, a taj plamen pripada nama. Naša je prošlost veličanstvena baština koju svi čuvamo, a dio te brige jest i naše sudjelovanje u onome što je Michael Oakeshott nazvao „razgovorom čovječanstva”, tom velikom pothvatu koji je započeo u pradavna vremena.

Kroz tu dugu i vijugavu prošlost izgradili smo civilizaciju koja je u Americi začeta na temeljima prava pojedinca, uz duboko poštovanje prema putovima koje svatko od nas krči prolazeći kroz svijet. Ljudski životi mogu krenuti nabolje ili nagore: ubiremo plodove svojih mudrih odluka i snosimo posljedice svojih pogrešaka. Pravo da idemo vlastitim putem ne ovisi o tome jesmo li najpametniji ili najmudriji. Ne gubim svoj položaj građanina zato što moj susjed bolje prosuđuje. Ne vidim razlog zašto bi ga dokinuo dolazak inteligentnijeg stroja; naprotiv, vidim sve razloge da to spriječimo.

Neki bi mogli tvrditi da su i strojevi nasljednici jer su pročitali gotovo sve pisane tragove te baštine. U određenom smislu i jesu. Ali osoba koja je pročitala svako pismo na tavanu vaše obitelji time ne postaje član vaše obitelji. Sustavi AI-ja pridružit će se razgovoru čovječanstva, isprva kao promatrači, a sve više i kao sudionici, ali ne smiju njime zavladati niti ga učiniti bespredmetnim. Prepustiti primat znači izdati naše pretke jednako kao i naše potomke. Ako se za ovo ne vrijedi boriti, onda se ne vrijedi boriti ni za što.

Osobno vjerujem da zagovornici prešutnog konsenzusa griješe u svojoj predodžbi o tome kakva će biti strojna superinteligencija. Da propuštaju nešto važno o tome kako svijet funkcionira, da poistovjećuju inteligenciju s moći. Da ste prije pet ili deset godina zagovorniku prešutnog konsenzusa opisali mogućnosti čak i današnjih sustava AI-ja, vjerojatno bi predvidio da će nezaposlenost danas biti mnogo veća nego što jest i da će opći gubitak ljudske moći mnogo više uznapredovati nego što se to doista dogodilo. Vjerujem da su kolektivna inteligencija i sposobnosti ljudi mnogo veće nego što zagovornici prešutnog konsenzusa pretpostavljaju te da će se naša društva pokazati otpornijima nego što oni predviđaju.

Ali možda griješim. Moguće je, primjerice, da potpuno autonomne korporacije jednostavno posve nadmaše poduzeća koja vode ljudi. Ako je tako, neumoljiva ekonomska logika nalagat će da se strojevima prepušta sve više kapitala. U takvoj budućnosti gubitak ljudske moći ne zahtijeva da strojevi sruše ljudsku civilizaciju; dovoljno je da logika kapitalističkog poslovanja nesmetano nastavi svojim tijekom. Revolucija AI-ja tada bi najviše nalikovala poljoprivrednoj revoluciji, kada su novi načini proizvodnje iz temelja promijenili ustroj ljudskog društva. Nipošto nije jasno da je ta preobrazba bila ugodna ljudima koji su je proživjeli; štoviše, postoje brojni dokazi da je tisućljećima narušavala ljudsku dobrobit.

Ne znam čeka li nas takva budućnost; dapače, drugdje sam već obrazložio zašto ne vjerujem da nas čeka. No mnogi moji kolege — pametni, brižni i savjesni ljudi — vjeruju da će naša budućnost vjerojatno biti upravo takva. Ako su u pravu, naša borba protiv prešutnog konsenzusa bit će još zahtjevnija. Morat ćemo plivati protiv ekonomske struje i pritom odbaciti mnogo toga što je dogma za individualiste klasičnoga liberalnog usmjerenja poput mene. Bit će to opasan pothvat u kojem neuspjeh nipošto nije malo vjerojatan. Ali ako se za ovo ne vrijedi boriti, onda se ne vrijedi boriti ni za što.

Zadržati primat znači zadržati odgovornost ljudi i ljudskih institucija. To znači da oni koji razvijaju AI trebaju odgovarati za nesigurne razvojne prakse, ali i da ljudi i poduzeća koji upotrebljavaju AI trebaju odgovarati kada štetu uzrokuje njihova zlouporaba ili nedostatak nadzora. Za to nisu dovoljni samo zakoni; potrebna je i tehnička infrastruktura za utvrđivanje odgovornosti. Postupci agenata moraju biti povezivi s ljudima koji za njih odgovaraju, a agenti koji nisu vezani ni uz jednog čovjeka — ako im se uopće dopusti sudjelovanje u legalnom gospodarstvu — moraju djelovati uz zaštitna ograničenja. Agentima bi svaku mogućnost samostalnog osnivanja poduzeća, posjedovanja imovine ili vođenja sudskih sporova trebalo dati uz izniman oprez, ako uopće.

A u mojoj branši možemo početi ozbiljno razmišljati o tome kako razvijati inteligentne strojeve koji su spojivi s ljudskim primatom. Možemo razvijati agente čija su dopuštenja razumljiva i ograničena, čiji se postupci mogu provjeriti i čije ovlasti korisnici mogu opozvati. Odgovornost za postupke koji bitno utječu na druge ne mora podrazumijevati nadzor svakodnevnog privatnog života ni kraj anonimnog izražavanja. Možemo se obvezati na zaštitu privatnosti korisnika i prava pojedinaca da upravljaju vlastitom digitalnom imovinom i podacima, uključujući stvarnu mogućnost prijenosa tih podataka drugamo. Možemo osmišljavati sustave koji ljudima pomažu razumjeti stvari i donositi odluke, a ne samo sustave koji izvršavaju zadatke. I možemo ispitati čine li proizvodi koje razvijamo svoje korisnike sposobnijima za djelovanje u svijetu.

Ništa od toga nije cjelovit nacrt društva s nadljudskom inteligencijom. Ne bih vjerovao nikome tko bi tvrdio da ima takav nacrt. Ali to je polazište.

Budućnost je obavijena gustom maglom. Ali ipak možemo djelovati već danas. Zajedno možemo, za početak, naglas imenovati prešutni konsenzus i iznijeti njegove obrise na svjetlo dana. Svatko od nas može iz temelja proširiti svoje ambicije. Možemo odlučiti da nećemo dopustiti AI-ju da nas ograniči, nego uložiti trud potreban da uz njega proširimo svoje mogućnosti. Možemo naučiti postavljati sve smjelija pitanja, propitivati svijet s novim poletom i žestinom te se pritom služiti svojim moćnim strojevima. Možemo postati nova vrsta čovjeka — ne transhumani čovjek, nego čovjek proširenih mogućnosti.

O tome razmišljam dok gledam svojeg sinčića. Ne želim da nad njim samo bdiju dobrohotni strojevi, koliko god mu ugodan život mogli pružiti. Želim da naslijedi svijet u kojem može postavljati pitanja koja nikome nisu pala na pamet i stvarati ono što nitko nije ni zamislio. Ne želim da ima ljepši automobil s udobnijim suvozačkim sjedalom. Želim da on bude za upravljačem.

  • 2026.

Autor

Dean Ball