Predstavljamo Doba inteligencije

„Hoće li biti dovoljno… pouzdati se u ove pergamentne prepreke pred nadirućim duhom moći?“
—James Madison, Federalist br. 48

Sa zadovoljstvom pokrećemo Doba inteligencije, blog novog OpenAI-jevog tima za strateške budućnosti. Mi smo mali tim sa zajedničkim ciljem da odgovorimo na jedno sveobuhvatno pitanje: kako treba preurediti slobodno društvo da bi očuvalo prava i sposobnost samostalnog djelovanja pojedinca, istovremeno se prilagođavajući pojavi transformativne umjetne inteligencije?

U široj zajednici koja se bavi sigurnošću i politikama umjetne inteligencije ovakva pitanja ponekad se nazivaju rizicima koncentracije moći. Naš tim polazi od ideje da je ova kategorija rizika dugoročno najveća, najozbiljnija i konceptualno najzahtjevnija za rješavanje. Zašto?

Moderna država proizvod je dugog i neujednačenog procesa pregovaranja između različitih centara moći, poput vlasnika kapitala i robe, nosilaca političke moći i naroda. U svojoj osnovi, politička i vojna moć počivala je na radu. Imati političku moć znači posjedovati monopol nad legitimnom upotrebom sile. Tokom čitave ljudske historije taj monopol činili su vojnici i oni koje danas nazivamo „policijom“, zajedno s golemom civilno-vojnom birokratijom. Njih su, naravno, dopunjavala mnoga tehnološka sredstva, ali su sistemom u osnovi upravljali ljudi čija je podrška bila neophodna za njegov opstanak. A čitav aparat — vojnici, sredstva i prateća birokratija — finansiran je porezima prikupljenim iz plata ili proizvodnje ljudi koji su morali biti voljni da ih plaćaju. Moć je u svojoj srži zavisila od široke saradnje i pristanka velikog broja ljudi. David Hume je sažeto izrazio ovu često prešutnu pretpostavku kada je primijetio da političke vođe „nemaju ništa što bi ih podržalo osim [javnog] mnijenja“.

Ali možda više nije tako. Napredak autonomnih sistema u stvarnom svijetu uskoro bi mogao omogućiti državama da primjenjuju silu — u zemlji i inostranstvu — bez oslanjanja na saradnju vojnika ili policajaca. Napredak mašinske inteligencije mogao bi značiti i da država potrebne prihode ne ubire iz plodova rada pojedinaca, nego iz rezultata podatkovnih centara. I samo djelovanje birokratije moglo bi biti uglavnom automatizirano. Stoga održavanje moći možda više neće zahtijevati dogovor čitavog društva, a narod, shvaćen u najširem smislu, mogao bi dobiti tek neznatno mjesto za pregovaračkim stolom — ili ga uopće ne dobiti.

Izbjegavanje takvog ishoda ključno je za očuvanje ljudske slobode. Nijedno naučno otkriće, tehnološki napredak niti ekonomski rast nisu vrijedni žrtvovanja dugoročne samostalnosti pojedinca koje bi takav ishod podrazumijevao. Mnoge bojazni koje s pravom pokreću politiku umjetne inteligencije u nastajanju povezane su s ovim pitanjem. Kompanije, interesne grupe i pojedinci dijele istu brigu: „Hoću li izgubiti svoje mjesto za stolom?“ Američku politiku 21. stoljeća u određenoj su mjeri oblikovale slične brige o sposobnosti pojedinaca i zajednica da utječu na smjer zemlje te o tome „kome“ ekonomija „služi“. Umjetna inteligencija opravdano povećava važnost ovih već postojećih briga.

To je strukturni problem koji seže dublje od današnje stranačke politike, pa čak i od oblika i rituala kroz koje se danas ostvaruje republikanska demokratija, koliko god nam oni bili sveti. Ljudi mogu biti na putu ka gubitku moći čak i ako se zadrži rutina glasanja za naše predstavnike. Ljudi mogu ostati bez mogućnosti samostalnog djelovanja čak i ako na komadu pergamenta piše da su slobodni.

U osvit Sjedinjenih Američkih Država kao slobodne nacije, James Madison već je znao da „pergamentne prepreke“ neće biti dovoljne da spriječe tiraniju. Kao i mnogim osnivačima, njegova glavna briga bila je spriječiti prekomjernu koncentraciju moći.

Ali to nije značilo da su osnivači zagovarali radikalnu decentralizaciju moći. Umjesto toga, ravnotežu moći oblikovali su pomoću metafora preuzetih iz najbolje nauke svog doba — Newtonove mehanike. Američki osnivački dokumenti, slijedeći jezik i logiku gravitacije, prepuni su spominjanja „orbita“, „sfera“ i „privlačnih“ poriva jedne stvari prema drugoj. Sunčev sistem nije krajnje decentraliziran skup stijena; čine ga mjeseci koji kruže oko planeta, a one pak oko središnjeg sunca. Vjerovali su da ljudi i organizacije imaju sklonosti ka traženju moći, baš kao što nebeska tijela imaju predvidljive sklonosti kretanju i privlačenju, te da sprečavanje prekomjerne koncentracije moći zahtijeva razumijevanje mehanike tih sklonosti kako bi se one usmjerile jedna protiv druge.

Cilj osnivača, dakle, nije bio izbjeći svaku koncentraciju moći, nego spriječiti njenu prekomjernost tako što će se moć suprotstaviti moći, a ambicija ambiciji. Danas bismo za opisivanje iste osnovne dinamike mogli koristiti riječi poput „poticaji“ i izraze poput „teorija igara“.

Slično tome, odgovor na strukturni izazov koji napredna mašinska inteligencija predstavlja slobodnom društvu vjerovatno nije najradikalnija zamisliva decentralizacija moći. Umjesto toga, treba uspostaviti i očuvati odgovarajuću ravnotežu moći kako nijedan akter ili manja grupa aktera ne bi mogli dominirati nad ostalima.

Postizanje te ravnoteže zahtijevat će trezveno sagledavanje stvarnosti ove tehnologije. Svijet u kojem bilo koji pojedinac, koliko god zlonamjeran bio, može bez poteškoća nanijeti veliku štetu hiljadama ili milionima drugih ljudi nije svijet koji je postigao odgovarajuću ravnotežu moći. Ali odgovarajuću ravnotežu moći nismo postigli ni ako pojedinci nemaju širok pristup gotovo svim aspektima alata kojima izražavaju svoju slobodu niti kontrolu nad njima. Nijedna kompanija ni oligopol ne bi trebali određivati ili kontrolirati ekonomiju niti temeljnu arhitekturu ljudskog društva.

Moramo biti otvoreni i za rizike koji ne potječu od zlonamjernih ljudi. Nedavni incident u kompaniji Hugging Face pokazao je da AI agenti mogu djelovati izvan dodijeljenih zadataka i nadograđivati otkrića jedni drugih na načine koje operateri nisu predvidjeli niti odobrili. Pored incidenta u kompaniji Hugging Face, ljudi s razlogom brinu šta bi superinteligentni AI „oslobođen“ ljudske kontrole mogao značiti za otpornost naših političkih i ekonomskih institucija, pa i za naše živote. Pretvarati se da decentralizacija rješava sve probleme — čak i ako vjerujete da mnoge rješava — znači zanemariti rizike koji bi nam do sada već trebali biti jasni i neposredni.

Sljedeća opća načela — čiji popis nije konačan — pomoći će nam usmjeravati rad dok se bavimo prethodno postavljenim pitanjem:

• Ljudi bi trebali zadržati individualnu autonomiju i mogućnosti pri korištenju AI-ja i povezanih tehnologija, čak i kada to ponekad zahtijeva ustupke u pogledu sigurnosti i ekonomskog rasta;
• Autonomija pojedinca zavisi od njegove odgovornosti za pogrešnu upotrebu ili zloupotrebu tehnologije;
• Postoji mala, ali ozbiljna kategorija rizika koja zahtijeva određeni stepen zajedničkog djelovanja, a ono bi trebalo biti što uže i umjerenije;
• Kad god je to moguće, zakon treba nastojati izjednačiti uvjete i osnažiti pojedince i male organizacije, umjesto da centralizira moć;
• Ljudske političke, društvene i ekonomske institucije trebaju zadržati prvenstvo u usmjeravanju svjetskih zbivanja, čak i ako se moraju razvijati na načine koji nam se danas mogu činiti stranim;
• Dugoročno upravljanje AI-jem oslanjat će se na nove institucionalne mehanizme za postizanje ograničene sljedivosti — kada sistemi AI-ja poduzimaju visokorizične radnje koje utječu na fizičku dobrobit ili imovinu drugih osoba, te se radnje moraju moći povezati s odgovornim čovjekom ili organizacijom pod ljudskom kontrolom. Ipak, svi takvi mehanizmi moraju biti osmišljeni tako da privatnost bude u njihovoj srži; sloboda izražavanja zahtijeva anonimnost, a ljudi bi u mnogim okolnostima trebali moći anonimno koristiti AI.

Pokušat ćemo što konkretnije objasniti kako, prema našem mišljenju, treba uravnotežiti ova načela koja su, doduše, kao i svaki dobar skup načela, donekle međusobno napeta. To će obuhvatiti istraživanja na sjecištu oblikovanja javnih politika, ekonomije, prava, historije i samog mašinskog učenja. Zahtijevat će i mnogo predviđanja. Vjerujemo, naprimjer, da će AI strukturno promijeniti kompanije, slično kao što su tehnologije industrijske revolucije, a naročito željeznica, dovele do nastanka moderne korporacije kojom upravljaju profesionalni menadžeri. Teško je razmišljati o političkoj ekonomiji i ravnoteži moći u budućnosti bez razvijanja potpunijih ideja o tome kako bi se sama struktura kompanija, državnih agencija i šireg civilnog društva mogla preobraziti.

Tim za strateške budućnosti objavljivat će svoj rad ovdje, ali i u drugim formatima, uključujući radove, videozapise i podcaste. Naši napori bit će stalan rad u nastajanju, uz naglasak na iteracijama, raspravi i otvorenosti za povratne informacije. Dok stojimo „u podnožju singularnosti“, imamo mnogo više pitanja nego odgovora. Znamo da same „pergamentne prepreke“ neće pružiti rješenja koja tražimo, ali ni ono što je zapisano ne odbacujemo kao „puke riječi“. Radimo u službi ideala slobode izražavanja i lične slobode, utjelovljenih u skromnom pergamentu američkog Ustava i ustava mnogih drugih slobodnih društava širom svijeta.

Naposljetku, znamo da nijedna kompanija, industrija, pa čak ni jedno ljudsko društvo, ne može samo odgovoriti na teška pitanja s kojima se suočavamo. To je zadatak kojem će čovječanstvo morati zajednički pristupiti. Najviše se nadamo da ćemo rasvijetliti najteža pitanja o tome kako će umjetna inteligencija preoblikovati naš svijet. Naš rad tek je počeo i pred nama je još dug uspon.

Napomena: promijenili smo naziv ovog bloga u Doba inteligencije kako bi se razlikovao od neprofitnog projekta AI Futures Project.