OpenAI

18. novembar 2026.

Doba inteligencije

Prešutni konsenzus

Autor: Dean Ball

Napomena autora: Današnji esej prilagođen je iz predavanja koje je autor nedavno održao u okviru ciklusa predavanja Vik-Bailey na Harvardu. Ova objava odražava lične stavove autora, a ne nužno stavove kompanije OpenAI ili bilo kojeg drugog njenog zaposlenika.



Hvala vam što ste danas ovdje. Upravo sada odvija se jedan od najznačajnijih nizova događaja u historiji kibernetičke sigurnosti: objavljivanje niza kritičnih sigurnosnih propusta koje neki nazivaju „crnim oktobrom“. Te propuste u dijelovima ključne internetske infrastrukture otkrili su granični AI sistemi, a njihovo objavljivanje dio je hitnih nastojanja da se ojača sigurnost softvera širom svijeta. To je hitno pitanje ovog mjeseca; sljedećeg mjeseca pojavit će se neko drugo. Otkrivanje softverskih ranjivosti sposobnost je dvojne namjene kojom AI sistemi danas raspolažu, ali uskoro će se pojaviti neka druga. Ona će potaknuti novi hitni projekt kako bi se iskoristila njena dobra strana prije nego što zlonamjerni akteri iskoriste lošu. Sva ta hitna pitanja neminovno će se preklapati, a velik dio onoga što danas zovemo „politikom AI-ja“ vjerovatno će se oblikovati usred te vreve.

Ali nisam danas došao govoriti o hitnim pitanjima i reagiranju na njih. Želim, umjesto toga, govoriti o tome kuda bi nas sve ovo moglo odvesti kada pogledamo širu sliku. Usred takve navale hitnih pitanja može biti teško razmišljati o ovim apstraktnijim i manje opipljivim temama. Ali ta su pitanja važna. Bez predodžbe o tome kakvu dugoročnu budućnost želimo ostvariti, a kakvu izbjeći, mogli bismo završiti s ukupnim ishodom koji ne želimo, čak i ako na svakom koraku donosimo mudre odluke.

Često se kaže da tehnološkoj industriji nedostaje pozitivna vizija o tome kuda će nas odvesti ono što razvija. Ne slažem se: San Francisco i druga poduzetnička središta puna su pozitivnih vizija naše tehnološke budućnosti. Ljudi zaista razvijaju leteće automobile, autonomna vozila, robote raznih veličina i oblika, nuklearnu fuziju i, naravno, opću umjetnu inteligenciju. Ono što nam nedostaje jeste pozitivna vizija naše institucionalne budućnosti: kako će sve to funkcionirati?

To, međutim, ne znači da institucionalna vizija budućnosti ne postoji. Nažalost, viziju koju najčešće susrećem ne bih nazvao pozitivnom. Kada se uopće izgovori, to je obično šapatom. Ali češće ostaje neizrečena i može se razabrati samo iz onoga što se podrazumijeva. Nazivam je prešutnim konsenzusom.

Zamislite kompaniju koja gotovo sve može obavljati bez ljudskog rada. Njeni AI sistemi bave se istraživanjem i razvojem, dolaze do otkrića, pregovaraju o ugovorima, raspoređuju kapital i proizvode robu. Pretpostavimo da je u tome bolja od svojih ljudskih konkurenata, čak i kada ti ljudi svoj rad unapređuju uz pomoć AI-ja. Ako ljudsko učešće samo usporava poslovanje, rukovodioci i vlasnici imat će snažan podsticaj da sklone ruke s volana. Ako se to dogodi širom globalne ekonomije, logika tržišne konkurencije potaknut će ljude da se odreknu primata u globalnom poslovanju. S vremenom bi tržište moglo početi služiti potrebama mašina jednako kao potrebama i željama ljudi, ili čak i više.

Šta će se dogoditi nakon toga, možemo samo nagađati. Možda bi ljudi od toga imali ogromnu korist. Ako bi mašine koje su nas podredile visoko cijenile ljude zbog njihove suštinske vrijednosti, mogli bismo uživati u plodovima njihovog rada i bogatstvu koje stvaraju. A možda ćemo, lišeni ekonomske i sve više političke moći, mi ljudi postajati sve manje važni u svijetu i sve manje sposobni da utičemo na tok svjetskih zbivanja. Možda bi mali broj ljudi imao izuzetnu moć i bogatstvo na račun mnoštva uglavnom lišenog moći, a možda bismo svi dijelili istu sudbinu nemoći. Bez obzira na pojedinosti, zajednička nit koja čini prešutni konsenzus jeste kraj ljudskog primata u svijetu kakav poznajemo.

Ništa u ovim scenarijima ne zahtijeva da se AI pobuni protiv svojih tvoraca. Ništa ne zahtijeva ni da njegovi vlasnici žele ljudima oduzeti moć. Svaka odluka o prepuštanju ovlasti može, sama za sebe, imati smisla. Ali zajedno bi te odluke mogle stvoriti svijet u kojem su ljudi prepustili stvarnu vlast nad velikim dijelom naše civilizacije. Čak i ako izuzetno napredujemo u rješavanju teških pitanja sigurnosti AI-ja i njegove usklađenosti s ljudskim vrijednostima, i dalje bismo mogli završiti podređeni novoj vrsti mašinskog entiteta. U sretnoj verziji budućnosti, kako bi nam prešutni konsenzus rekao, taj entitet bit će dobroćudan, mašina kojoj su na srcu najbolji interesi ljudi. Mašina puna milosti i ljubavi, kako kaže Brautiganova pjesma.

Tim ćemo mašinama, poručuje nam prešutni konsenzus, predati ključeve svojih kompanija, a sve više i svojih institucija vlasti. One će njima upravljati uspješnije i efikasnije, uz više mudrosti i bolje rasuđivanje nego što smo mi ljudi sposobni pružiti. Tako ćemo s vremenom skloniti ruke s volana i prepustiti vožnju mašinama punim ljubavi. Bit ćemo poput putnika u automobilu — veoma lijepom, možda po udobnosti i raskoši boljem nego što danas možemo sanjati — ali ipak putnika koji nemaju kontrolu nad tim kuda vozilo ide. Ako uopće budemo radili, to će uglavnom biti neka vrsta rituala ili glume, nešto nalik igri za zabavu naše vrste.

Neki će posmatrači tvrditi da prešutni konsenzus počiva na pogrešnoj pretpostavci jer mi ljudi ni danas zapravo ne upravljamo svijetom. I tu kritiku vrijedi imati na umu: ne postoji jedno „mi“ koje odlučuje šta treba učiniti. Živimo u radikalno decentraliziranom svijetu, sviđalo nam se to ili ne. Ipak, ni ta nas činjenica ne smije uljuljkati: iako „mi“ ne „upravljamo“ svijetom, ljudska bića zajedno ipak imaju primat u svjetskim zbivanjima. Nijedna životinjska vrsta ne predstavlja nam ozbiljnog suparnika u borbi za kontrolu nad resursima. Trebamo odbaciti intelektualno nepromišljenu ideju da ljudi mogu upravljati svijetom odozgo, ali to ne smijemo poistovjetiti s poricanjem očigledne činjenice da su ljudi, zajedno, glavni akter na Zemlji.

Neki od onih koji su spremni izreći prešutni konsenzus smatraju da je to zaista dobra budućnost. Drugi to ne misle, ali su se pomirili s njenom neizbježnošću. Prešutni konsenzus nije konsenzus zato što se svi slažu da je dobar, niti je tajni plan ljudi koji razvijaju AI. Konsenzus je naprosto u tome da je odricanje od ljudskog primata u svjetskim zbivanjima neizbježno ili barem da je veoma teško zamisliti drugačiju viziju budućnosti koja bi zaista mogla opstati uz superinteligentne mašine. Čovjek se može iskreno protiviti takvom ishodu, a ipak teško uspijevati zamisliti uvjerljivu alternativu. Mnogo govori upravo činjenica da taj konsenzus uglavnom ostaje prešutan, u najboljem slučaju izgovoren ispod glasa.

Prezirem prešutni konsenzus. Odbacujem odricanje od ljudskog primata. Gnušam se tog osjećaja neizbježnosti. Podsjećam sebe da svog malog sina ne bih mogao pogledati u njegove lijepe oči kada bih se pokorio prešutnom konsenzusu. Zato prešutnom konsenzusu kažem ne. I vjerujem da je došlo vrijeme da o njemu otvoreno progovorimo i trgnemo se iz svog uglavnom nesvjesnog prihvatanja te vizije.

Problem je u sljedećem: prešutni konsenzus nije bez razloga postao konsenzus. Teško je opisati kako će ljudi ostati za volanom uz mašinsku inteligenciju koja ih daleko nadmašuje. Većina pokušaja oslanja se na tvrdnje da je AI samo alat, sredstvo za prepoznavanje obrazaca koje nije sposobno za „istinsko razumijevanje“. Bojim se da ti argumenti neće izdržati suočavanje sa stvarnošću koja dolazi. Bojim se da su i oni svojevrsno samozavaravanje — stav zasnovan uglavnom na poricanju onoga što AI može, a ne uvjerenje utemeljeno u pozitivnoj viziji budućnosti koju vode ljudi. Ne može se tvrditi da AI sistemima nedostaje „istinsko razumijevanje“ dok istovremeno napreduju u rješavanju intelektualnih problema čija rješenja ljudima izmiču decenijama i stoljećima.

Zašto onda vjerujem da ljudi moraju zadržati primat? Jednostavan odgovor glasi: zato što sam ljudsko biće i što sam zaista šovinist ljudske vrste koji se zbog toga ne izvinjava.

Ali postoji i nešto dublje. Naš primat ne počiva na našem intelektu niti na tome da zauvijek zadržimo monopol na „istinsko razumijevanje“. Naš primat počiva na našoj prošlosti.

Jer mi smo ti koji su se izdigli iz blata. Mi smo od zemlje i kamena stvorili prvobitno društvo. Mi smo gledali u zvijezde i pitali zašto. Mi smo, sa svojim sukobima i ljubavlju, zavišću i radošću, otkrili moral, etiku i pravo. Mi smo ti koji su pjevali i plesali, pisali i komponovali. Mi smo stvarali historiju i mi smo je zapisivali. To naslijeđe je naše. Civilizacija koju smo izgradili plamen je koji smo održavali i taj plamen pripada nama. Naša prošlost veličanstveno je naslijeđe koje svi čuvamo, a dio te brige je i naše učešće u onome što je Michael Oakeshott nazvao „razgovorom čovječanstva“, tom velikom poduhvatu započetom u pradavna vremena.

Kroz tu dugu i vijugavu prošlost izgradili smo civilizaciju koja je u Americi zamišljena na temeljima prava pojedinca, uz duboko poštovanje prema putevima koje svi krčimo dok prolazimo kroz svijet. Životi ljudskih bića mogu krenuti nabolje ili nagore: ubiremo plodove svojih mudrih odluka i snosimo posljedice kada pogriješimo. Pravo da idemo vlastitim putem ne zavisi od toga jesmo li najpametniji ili najmudriji. Ne gubim svoj status građanina zato što moj komšija bolje rasuđuje. Ne vidim zašto bi ga dolazak inteligentnije mašine također trebao poništiti; naprotiv, vidim sve razloge da to spriječimo.

Neki će možda tvrditi da su i mašine nasljednici jer su pročitale gotovo sve pisane tragove tog naslijeđa. I u izvjesnom smislu jesu. Ali osoba koja je pročitala svako pismo na tavanu vaše porodice time ne postaje njen član. AI sistemi pridružit će se razgovoru čovječanstva, najprije kao posmatrači, a sve više i kao učesnici, ali ne smiju njime zavladati niti ga učiniti bespredmetnim. Prepustiti primat znači izdati naše pretke jednako kao i naše potomke. Ako ova borba nije vrijedna truda, onda nije nijedna.

Lično vjerujem da zagovornici prešutnog konsenzusa griješe u pogledu toga kakva će biti mašinska superinteligencija. Da im promiče nešto važno u vezi s tim kako svijet funkcionira, da poistovjećuju inteligenciju s moći. Da ste zagovorniku prešutnog konsenzusa prije pet ili deset godina opisali sposobnosti čak i današnjih AI sistema, vjerovatno bi predvidio da će nezaposlenost sada biti mnogo veća nego što jeste i da će opći gubitak ljudske moći biti znatno odmakliji nego što zaista jest. Vjerujem da su kolektivna ljudska inteligencija i sposobnosti daleko veće nego što zagovornici prešutnog konsenzusa pretpostavljaju i da će se naša društva pokazati otpornijim nego što oni predviđaju.

Ali možda griješim. Moguće je, naprimjer, da potpuno autonomne korporacije jednostavno sasvim potisnu preduzeća kojima upravljaju ljudi. Ako je tako, neumoljiva ekonomska logika nalagat će da se mašinama predaje sve više kapitala. U toj budućnosti gubitak ljudske moći ne zahtijeva da mašine sruše ljudsku civilizaciju; dovoljno je da logika kapitalističkog poslovanja nastavi djelovati nesmanjenim tempom. U tom bi slučaju revolucija AI-ja najviše nalikovala poljoprivrednoj revoluciji, kada su novi načini proizvodnje iz temelja promijenili ustrojstvo ljudskog društva. Nipošto nije jasno da je ta preobrazba bila ugodna ljudima koji su je proživjeli; naprotiv, postoje brojni dokazi da je hiljadama godina pogoršavala ljudsku dobrobit.

Ne znam je li to budućnost koja nas čeka, a na drugim sam mjestima i iznosio argumente zašto ne vjerujem da jeste. Ali mnoge moje kolege — pametni, brižni i savjesni ljudi — vjeruju da je to vjerovatno naša budućnost. Ako su u pravu, naša borba protiv prešutnog konsenzusa bit će utoliko teža. Morat ćemo plivati protiv ekonomske struje i pritom odbaciti mnogo toga što je dogma za individualiste klasične liberalne tradicije poput mene. Bit će to opasan poduhvat, u kojem neuspjeh nipošto nije malo vjerovatan. Ali ako ova borba nije vrijedna truda, onda nije nijedna.

Zadržati primat znači zadržati i odgovornost ljudi i ljudskih institucija. To znači da oni koji razvijaju AI trebaju odgovarati za nesigurne razvojne prakse, ali i da ljudi i firme koje koriste AI trebaju snositi odgovornost kada štetu prouzrokuje njihova zloupotreba ili nedostatak nadzora. Za to nisu dovoljni samo zakoni; potrebna je i tehnička infrastruktura koja omogućava utvrđivanje odgovornosti. Postupci agenata moraju biti povezani s ljudima koji za njih odgovaraju, a agenti iza kojih ne stoji čovjek — ako im se uopće dopusti da učestvuju u legalnoj ekonomiji — moraju djelovati uz zaštitna ograničenja. Svaku mogućnost da agenti samostalno osnivaju korporacije, posjeduju imovinu ili vode sudske sporove treba odobravati krajnje oprezno, ako je uopće treba odobriti.

A u mojoj industriji možemo početi ozbiljno razmišljati o tome kako graditi inteligentne mašine koje su spojive s ljudskim primatom. Možemo razvijati agente s razumljivim i ograničenim dozvolama, čiji se postupci mogu provjeravati i čije ovlasti korisnici mogu povući. Odgovornost za postupke koji bitno utiču na druge ne mora podrazumijevati nadzor nad svakodnevnim privatnim životom niti ukidanje mogućnosti anonimnog izražavanja. Možemo se obavezati na zaštitu privatnosti korisnika i prava pojedinaca da upravljaju vlastitom digitalnom imovinom i podacima, uključujući stvarnu mogućnost da te podatke prenesu drugdje. Možemo osmišljavati sisteme koji ljudima pomažu da bolje razumiju stvari i donose odluke, kao i sisteme koji izvršavaju zadatke. I možemo provjeravati jesu li korisnici proizvoda koje razvijamo sposobniji djelovati u svijetu zahvaljujući tim proizvodima.

Ništa od ovoga nije potpun nacrt društva s nadljudskom inteligencijom. Ne bih vjerovao nikome ko tvrdi da ga ima. Ali od nečega se može početi.

Budućnost je obavijena gustom maglom. Ali ipak možemo djelovati već danas. Za početak, možemo zajedno naglas imenovati prešutni konsenzus i iznijeti njegove obrise na svjetlo dana. Svako od nas može iz temelja proširiti vlastite ambicije. Možemo odlučiti da ne dopustimo da nas AI umanji, nego da uložimo trud potreban da uz njega postanemo veći. Možemo naučiti postavljati sve smjelija pitanja, propitivati svijet s novim žarom i silinom i pritom se služiti svojim moćnim mašinama. Možemo postati nova vrsta čovjeka — ne transčovjek, nego čovjek proširenih mogućnosti.

O tome razmišljam dok gledam svog malog sina. Ne želim da nad njim samo bdiju dobronamjerne mašine, ma koliko mu udoban život mogle pružiti. Želim da naslijedi svijet u kojem može postavljati pitanja koja nikome nisu pala na pamet i graditi ono što niko nije ni zamislio. Ne želim da ima ljepši automobil s udobnijim suvozačkim sjedištem. Želim da on drži volan.

  • 2026

Autor

Dean Ball