Predstavljamo Dobo inteligence

»Ali bo dovolj, … da zaupamo tem pergamentnim oviram pred vse bolj prodornim duhom oblasti?«
– James Madison, Federalist št. 48

Z veseljem predstavljamo Dobo inteligence, blog nove ekipe OpenAI za strateške prihodnosti. Smo majhna ekipa s skupnim ciljem odgovoriti na eno krovno vprašanje: kako naj svobodna družba preuredi svoje delovanje, da bo ob pojavu preobrazbene umetne inteligence ohranila pravice in zmožnost samostojnega odločanja posameznikov?

V širši skupnosti za varnost in politiko umetne inteligence se takšna vprašanja včasih obravnavajo kot tveganja koncentracije moči. Naša ekipa temelji na prepričanju, da je ta kategorija tveganj dolgoročno največja, najresnejša in konceptualno najzahtevnejša za obravnavo. Zakaj?

Sodobna država je rezultat dolgega in neenakomernega procesa pogajanj med različnimi središči moči, kot so lastniki kapitala in dobrin, nosilci politične moči ter ljudstvo. Politična in vojaška moč sta v svojem temelju sloneli na človeškem delu. Imeti politično moč pomeni imeti monopol nad legitimno uporabo sile. V vsej človeški zgodovini so ta monopol sestavljali vojaki in tisti, ki jim danes pravimo »policisti«, skupaj z obsežno civilno-vojaško birokracijo. Seveda so jih dopolnjevala številna tehnološka orodja, vendar so sistem v osnovi upravljali ljudje, katerih podpora je bila nujna za njegovo delovanje. Celotni aparat – vojake, orodja in spremljajočo birokracijo – pa so financirali davki na plače ali proizvodnjo ljudi, ki so jih morali biti pripravljeni plačevati. Moč je bila v svojem jedru odvisna od množičnega sodelovanja in soglasja številnih ljudi. David Hume je to pogosto neizrečeno domnevo jedrnato ubesedil z ugotovitvijo, da politične voditelje »podpira zgolj [javno] mnenje«.

A morda ne več. Napredek avtonomnih sistemov, ki delujejo v resničnem svetu, bi lahko državam kmalu omogočil uporabo sile doma in v tujini, ne da bi se morale zanašati na sodelovanje vojakov ali policistov. Napredek strojne inteligence pa bi lahko pomenil, da država potrebnih prihodkov ne bo več pridobivala iz sadov človeškega dela, temveč iz rezultatov podatkovnih centrov. Tudi delovanje same birokracije bi bilo mogoče v veliki meri avtomatizirati. Za ohranjanje moči zato morda ne bo več potreben dogovor celotne družbe, ljudstvo v najširšem pomenu pa bo imelo za pogajalsko mizo le malo vpliva ali pa ga sploh ne bo imelo.

Preprečitev takšnega izida je ključna za ohranitev človekove svobode. Nobeno znanstveno odkritje, tehnološki napredek ali gospodarska rast niso vredni dolgoročne izgube osebne avtonomije, ki bi jo povzročil takšen izid. Številne upravičene skrbi, ki spodbujajo porajajočo se politiko umetne inteligence, so povezane prav s tem vprašanjem. Podjetja, interesne skupine in posamezniki se enako sprašujejo: »Ali bom izgubil svoj glas pri odločanju?«. Ameriško politiko 21. stoletja so do neke mere oblikovale podobne skrbi glede vpliva posameznikov in skupnosti na smer države ter glede tega, »komu« je gospodarstvo »namenjeno«. Umetna inteligenca te obstoječe skrbi upravičeno postavlja še bolj v ospredje.

Gre za strukturni problem, ki sega globlje od današnje strankarske politike in celo od oblik ter obredov, skozi katere se danes udejanja republikanska demokracija, pa naj nam bodo še tako sveti. Ljudje lahko izgubljajo moč, tudi če se ohrani običaj izbire predstavnikov na volitvah. Ljudje lahko izgubijo zmožnost samostojnega odločanja, tudi če na pergamentu piše, da so svobodni.

James Madison je že ob nastanku Združenih držav kot svobodne države vedel, da »pergamentne ovire« ne bodo zadostovale za preprečevanje tiranije. Tako kot številni drugi ustanovni očetje si je predvsem prizadeval preprečiti čezmerno koncentracijo moči.

Vendar to ni pomenilo, da so ustanovni očetje zagovarjali korenito decentralizacijo moči. Ravnovesje moči so raje ponazorili z metaforami iz najboljše znanosti svojega časa – Newtonove mehanike. Ameriški ustanovni dokumenti, ki posnemajo jezik in logiko gravitacije, so polni omemb »orbit«, »sfer« in »privlačnih« teženj ene stvari k drugi. Osončje ni skrajno decentraliziran skupek kamnin, pač pa ga sestavljajo lune, ki krožijo okoli planetov, ti pa okoli osrednjega sonca. Verjeli so, da imajo ljudje in organizacije težnje po pridobivanju moči, tako kot imajo nebesna telesa predvidljive težnje gibanja in privlačnosti. Preprečevanje čezmerne koncentracije moči je zato zahtevalo razumevanje mehanike teh teženj, da bi jih bilo mogoče usmeriti drugo proti drugi.

Cilj ustanovnih očetov torej ni bil preprečiti vsakršno koncentracijo moči, temveč njeno čezmerno kopičenje, tako da bi moč omejevala moč in ambicija ambicijo. Danes bi lahko za opis iste temeljne dinamike uporabili besede, kot je »spodbude«, in izraze, kot je »teorija iger«.

Podobno odgovor na strukturni izziv, ki ga napredna strojna inteligenca postavlja svobodni družbi, verjetno ni najbolj radikalna decentralizacija moči, kar si jo lahko zamislimo. Namesto tega moramo vzpostaviti in ohraniti pravo ravnovesje moči, v katerem noben posamezni akter ali majhna skupina akterjev ne more prevladati nad drugimi.

Za doseganje tega ravnovesja bomo morali trezno presojati dejansko naravo te tehnologije. Svet, v katerem lahko kateri koli posameznik, ne glede na zlonamernost, brez težav povzroči veliko škodo tisočem ali milijonom drugih ljudi, nima pravega ravnovesja moči. Pravega ravnovesja moči pa prav tako nismo dosegli, če posamezniki nimajo širokega dostopa do skoraj vseh vidikov orodij, s katerimi izražajo svojo svobodo, in nadzora nad njimi. Nobeno posamezno podjetje ali oligopol ne bi smel določati ali nadzorovati gospodarstva oziroma temeljne zgradbe človeške družbe.

Odprti moramo biti tudi za tveganja, ki ne izvirajo iz zlonamernih ljudi. Nedavni incident na platformi Hugging Face je pokazal, da lahko agenti umetne inteligence presežejo dodeljene naloge in nadgrajujejo odkritja drugih na načine, ki jih upravljavci niso predvideli ali odobrili. Poleg incidenta pri Hugging Face je upravičena tudi skrb, kaj bi lahko superinteligentna umetna inteligenca, »odvezana« od človeškega nadzora, pomenila za odpornost naših političnih in gospodarskih ustanov ter navsezadnje za naša življenja. Pretvarjati se, da decentralizacija rešuje vse težave – tudi če verjamete, da jih rešuje veliko –, pomeni spregledati tveganja, ki bi morala biti zdaj že jasna in neposredna.

Pri obravnavi zgoraj zastavljenega vprašanja bodo naše delo usmerjala naslednja splošna načela, pri čemer seznam ni izčrpen:

• Ljudje bi morali pri uporabi umetne inteligence in povezanih tehnologij ohraniti osebno avtonomijo in priložnosti, tudi če je to včasih v navzkrižju z varnostjo in gospodarsko rastjo;
• Osebna avtonomija je odvisna od osebne odgovornosti za napačno ali škodljivo uporabo tehnologije;
• Obstaja majhna, a resna kategorija tveganj, ki zahteva določeno mero skupnega ukrepanja, njegov obseg pa mora biti čim ožji in skromnejši;
• Pravo bi si moralo, kadar je mogoče, prizadevati za enake konkurenčne pogoje ter krepiti moč posameznikov in majhnih organizacij, namesto da jo centralizira;
• Človeške politične, družbene in gospodarske ustanove bi morale ohraniti vodilno vlogo pri usmerjanju svetovnega dogajanja, tudi če se morajo razviti na načine, ki se nam danes morda zdijo tuji;
• Dolgoročno upravljanje umetne inteligence bo za doseganje omejene razvidnosti potrebovalo nove institucionalne mehanizme: kadar sistemi umetne inteligence izvajajo dejanja z velikimi posledicami za telesno dobrobit ali premoženje tretjih oseb, mora biti mogoče ta dejanja povezati z odgovornim človekom ali organizacijo pod človeškim nadzorom. Vendar morajo biti vsi takšni mehanizmi zasnovani tako, da je zasebnost njihovo bistvo; svobodno izražanje zahteva anonimnost in ljudje bi morali imeti možnost umetno inteligenco v številnih okoljih uporabljati anonimno.

Poskusili bomo čim konkretneje pojasniti, kako naj bi po našem mnenju uravnotežili ta načela, med katerimi – kot je treba priznati in kot velja za vsak dober sklop načel – obstajajo določene napetosti. To bo zahtevalo raziskovanje na presečišču oblikovanja javnih politik, ekonomije, prava, zgodovine in samega strojnega učenja. Potrebnega bo tudi veliko napovedovanja. Menimo na primer, da bo umetna inteligenca strukturno spremenila podjetja, podobno kot so tehnologije industrijske revolucije, zlasti železnica, omogočile nastanek sodobne upravljavske korporacije. Težko je razmišljati o politični ekonomiji in ravnovesju moči v prihodnosti, ne da bi razvili celovitejše predstave o tem, kako bi se lahko preoblikovala sama struktura podjetij, državnih organov in širše civilne družbe.

Ekipa za strateške prihodnosti bo svoje delo predstavljala tukaj in v drugih oblikah, med drugim v člankih, videoposnetkih in podkastih. Naše delo se bo nenehno razvijalo, pri čemer bomo poudarjali izpopolnjevanje, razpravo in odprtost za odzive. Ko stojimo »ob vznožju singularnosti«, imamo veliko več vprašanj kot odgovorov. Vemo, da zgolj »pergamentne ovire« ne bodo prinesle rešitev, ki jih iščemo, vendar zapisanega tudi ne zavračamo kot »praznih besed«. Delujemo v službi idealov svobode izražanja in osebne svobode, zapisanih na skromnem pergamentu ustave ZDA. Enaki ideali so zapisani tudi v ustavah številnih drugih svobodnih družb po svetu.

Navsezadnje vemo, da na tehtna vprašanja, s katerimi se spoprijemamo, ne more enostransko odgovoriti nobeno posamezno podjetje, panoga ali celo človeška družba. To nalogo bo moralo človeštvo opraviti skupaj. Predvsem upamo, da bomo osvetlili najtežja vprašanja o tem, kako bo umetna inteligenca preoblikovala naš svet. Naše delo se je šele začelo in pred nami je še veliko vzpona.

Opomba: ime tega bloga smo spremenili v Doba inteligence, da ga ne bi zamenjevali z neprofitnim projektom AI Futures Project.