Predstavljamo Intelligence Age

„Hoće li biti dovoljno… pouzdati se u te pergamentne prepreke protiv nadirućeg duha moći?”
—James Madison, Federalist br. 48

Sa zadovoljstvom pokrećemo Intelligence Age, blog novog tima Strategic Futures tvrtke OpenAI. Mi smo malen tim sa zajedničkim ciljem da odgovorimo na jedno sveobuhvatno pitanje: kako preustrojiti slobodno društvo da očuva prava i sposobnost samostalnog djelovanja pojedinca, a istodobno se prilagodi pojavi transformativne umjetne inteligencije?

Takva se pitanja u široj zajednici posvećenoj sigurnosti i reguliranju umjetne inteligencije ponekad nazivaju rizicima koncentracije moći. Naš tim polazi od ideje da je ta kategorija rizika dugoročno najveća, najozbiljnija i konceptualno najzahtjevnija za rješavanje. Zašto?

Moderna država rezultat je dugog i neravnomjernog procesa pregovaranja među različitim središtima moći, kao što su vlasnici kapitala i dobara, nositelji političke moći i građani. U samoj osnovi političke i vojne moći nalazio se ljudski rad. Imati političku moć znači imati monopol nad legitimnom uporabom sile. Tijekom cijele ljudske povijesti taj su monopol činili vojnici i oni koje danas nazivamo „policijom”, zajedno s golemom civilno-vojnom birokracijom. Svakako su im pomagali brojni tehnološki alati, ali sustavom su u osnovi upravljali ljudi čija je potpora bila potrebna za njegovo održavanje. A cijeli aparat — vojnici, alati i prateća birokracija — financirao se porezima na plaće ili proizvodnju ljudi koji su morali biti spremni plaćati ih. Moć je u svojoj srži ovisila o širokoj suradnji i pristanku velikog broja ljudi. David Hume sažeto je izrazio tu često prešutnu pretpostavku primijetivši da političke vođe „nemaju ništa što bi ih podupiralo osim [javnog] mnijenja”.

No možda više nije tako. Napredak autonomnih sustava u stvarnom svijetu uskoro bi mogao omogućiti državama da primjenjuju silu u zemlji i inozemstvu bez oslanjanja na suradnju vojnika ili policajaca. Napredak strojne inteligencije mogao bi pak omogućiti državi da potrebne prihode ne ubire od plodova ljudskog rada, nego od rezultata podatkovnih centara. I samo funkcioniranje birokracije moglo bi se uvelike automatizirati. Stoga održavanje moći možda više neće zahtijevati dogovor na razini cijelog društva, a građani u najširem smislu mogli bi dobiti tek neznatno mjesto za pregovaračkim stolom — ili ga uopće ne dobiti.

Izbjegavanje takvog ishoda presudno je za očuvanje ljudske slobode. Nikakvo znanstveno otkriće, tehnološki napredak ni gospodarski rast nisu vrijedni žrtvovanja dugoročne samostalnosti pojedinca koje bi takav ishod podrazumijevao. Mnoge bojazni koje s pravom pokreću novonastalu politiku umjetne inteligencije povezane su s tim pitanjem. Tvrtke, interesne skupine i pojedinci dijele istu zabrinutost: „Hoću li izgubiti mjesto za stolom?” Američku politiku 21. stoljeća donekle su oblikovale slične dvojbe o tome koliko pojedinci i zajednice mogu utjecati na smjer zemlje te „komu” gospodarstvo „služi”. Umjetna inteligencija opravdano stavlja te postojeće dvojbe u prvi plan.

To je strukturni problem koji seže dublje od današnje stranačke politike, pa čak i od oblika i obreda kroz koje se danas ostvaruje republikanska demokracija, koliko god nam oni bili sveti. Ljudi mogu gubiti moć čak i ako se zadrži uobičajeno glasanje za naše predstavnike. Ljudima se može oduzeti sposobnost samostalnog djelovanja čak i ako na komadu pergamenta piše da su slobodni.

Na samom početku Sjedinjenih Država kao slobodne države James Madison već je znao da „pergamentne prepreke” neće biti dovoljne za sprječavanje tiranije. Poput mnogih utemeljitelja, prvenstveno je želio izbjeći pretjeranu koncentraciju moći.

No to nije značilo da su utemeljitelji zagovarali radikalnu decentralizaciju moći. Umjesto toga, ravnotežu moći oblikovali su prema metaforama iz najbolje znanosti svojeg doba — Newtonove mehanike. Američki utemeljiteljski dokumenti, odražavajući jezik i logiku gravitacije, prepuni su pojmova poput „orbita” i „sfera” te „privlačnih” poriva jedne stvari prema drugoj. Sunčev sustav nije krajnje decentraliziran skup kamenja; čine ga mjeseci koji kruže oko planeta, a oni pak oko središnjeg sunca. Vjerovali su da ljudi i organizacije imaju sklonosti težnji za moći, baš kao što nebeska tijela imaju predvidljive sklonosti kretanju i privlačenju. Smatrali su i da je za izbjegavanje pretjerane koncentracije moći potrebno razumjeti mehaniku tih sklonosti kako bi ih se usmjerilo jedne protiv drugih.

Cilj utemeljitelja stoga nije bio izbjeći svaku koncentraciju moći, nego njezino pretjerano gomilanje, suprotstavljajući moć moći, a ambiciju ambiciji. Danas bismo za opis iste temeljne dinamike mogli upotrijebiti riječi poput „poticaji” i izraze poput „teorija igara”.

Slično tome, odgovor na strukturni izazov koji napredna strojna inteligencija predstavlja slobodnom društvu vjerojatno nije najradikalnija zamisliva decentralizacija moći. Umjesto toga treba uspostaviti i očuvati pravu ravnotežu moći kako nijedan akter ili mala skupina aktera ne bi mogli dominirati ostalima.

Postizanje te ravnoteže zahtijevat će trezveno promišljanje stvarnosti ove tehnologije. Svijet u kojem bilo koji pojedinac, koliko god zlonamjeran bio, može bez teškoća nanijeti veliku štetu tisućama ili milijunima drugih ljudi nije svijet koji je postigao pravu ravnotežu moći. No pravu ravnotežu moći nismo postigli ni ako pojedinci nemaju širok pristup gotovo svim aspektima alata kojima izražavaju svoju slobodu niti nadzor nad njima. Nijedna tvrtka ni oligopol ne bi smjeli određivati ili nadzirati gospodarstvo ni temeljnu arhitekturu ljudskog društva.

Moramo biti otvoreni i prema rizicima koji ne potječu od zlonamjernih ljudi. Nedavni incident na platformi Hugging Face pokazao je da agenti umjetne inteligencije mogu djelovati izvan dodijeljenih zadataka i nadograđivati otkrića drugih na načine koje operateri nisu predvidjeli ni odobrili. Osim incidenta na platformi Hugging Face, ljudi s pravom strahuju od toga što bi superinteligentna umjetna inteligencija „oslobođena“ ljudskog nadzora mogla značiti za otpornost naših političkih i gospodarskih institucija, pa i za naše živote. Pretvarati se da decentralizacija rješava sve probleme — čak i ako vjerujete da ih rješava mnogo — znači zanemarivati rizike koji bi dosad već trebali biti jasni i neposredni.

Sljedeća opća načela — čiji popis nije iscrpan — pomoći će usmjeravati naš rad dok razmatramo prethodno postavljeno pitanje:

• Ljudi bi pri uporabi umjetne inteligencije i povezanih tehnologija trebali zadržati osobnu autonomiju i mogućnosti, čak i kada to ponekad zahtijeva ustupke u sigurnosti i gospodarskom rastu;
• Osobna autonomija ovisi o osobnoj odgovornosti za pogrešnu uporabu ili zlouporabu tehnologije;
• Postoji malobrojna, ali ozbiljna skupina rizika koja zahtijeva određeni stupanj zajedničkog djelovanja, a ono bi trebalo biti što uže i umjerenije;
• Kad god je moguće, zakon bi trebao nastojati osigurati jednake uvjete te osnažiti pojedince i male organizacije, umjesto da centralizira moć;
• Ljudske političke, društvene i gospodarske institucije trebale bi zadržati prvenstvo u usmjeravanju svjetskih zbivanja, čak i ako se moraju razvijati na načine koji nam se danas mogu činiti stranima;
• Dugoročno upravljanje umjetnom inteligencijom oslanjat će se na nove institucionalne mehanizme za postizanje ograničene sljedivosti — kada sustavi umjetne inteligencije poduzimaju visokorizične radnje koje utječu na fizičku dobrobit ili imovinu trećih osoba, te se radnje moraju moći povezati s odgovornom osobom ili organizacijom pod ljudskim nadzorom. No svi takvi mehanizmi moraju biti osmišljeni tako da im privatnost bude u samoj srži; sloboda izražavanja zahtijeva anonimnost, a ljudi bi u mnogim okolnostima trebali moći anonimno rabiti umjetnu inteligenciju.

Pokušat ćemo što konkretnije objasniti kako bi, prema našem mišljenju, trebalo uravnotežiti ta načela koja su, kao i svaki dobar skup načela, međusobno donekle napeta. To će uključivati istraživanja na sjecištu oblikovanja javnih politika, ekonomije, prava, povijesti i samog strojnog učenja. Zahtijevat će i mnogo predviđanja. Vjerujemo, primjerice, da će umjetna inteligencija strukturno promijeniti tvrtke, slično kao što su tehnologije industrijske revolucije, a osobito željeznica, dovele do nastanka suvremene upravljačke korporacije. Teško je promišljati političku ekonomiju i ravnotežu moći budućnosti bez razvijanja potpunijih zamisli o tome upravo kako bi se mogla preobraziti sama struktura tvrtki, ali i državnih tijela te civilnog društva u cjelini.

Tim za strateške budućnosti svoj će rad predstavljati ovdje i u drugim formatima, uključujući radove, videozapise i podcaste. Naš će se rad neprestano razvijati, uz naglasak na doradi, raspravi i otvorenosti za povratne informacije. Dok stojimo „u podnožju singularnosti”, imamo mnogo više pitanja nego odgovora. Znamo da same „pergamentne prepreke” neće pružiti rješenja koja tražimo, ali ni zapisano ne odbacujemo kao „puke riječi”. Radimo u službi ideala slobode izražavanja i osobne slobode, zajamčenih na skromnom pergamentu američkog Ustava i ustava mnogih drugih slobodnih društava diljem svijeta.

U konačnici znamo da nijedna tvrtka, industrija, pa ni ljudsko društvo ne može samostalno odgovoriti na teška pitanja s kojima se suočavamo. To je zadaća koju će čovječanstvo morati zajednički preuzeti. Najviše se nadamo da ćemo rasvijetliti najteža pitanja o tome kako će umjetna inteligencija preoblikovati naš svijet. Naš je rad tek počeo i pred nama je još dug uspon.

Napomena: naziv ovog bloga promijenili smo u Intelligence Age kako bi se jasno razlikovao od neprofitnog projekta AI Futures Project.