Predstavujeme Vek inteligencie

„Bude stačiť… dôverovať týmto pergamenovým zábranám, že odolajú rozpínavému duchu moci?“
— James Madison, Federalista č. 48

S potešením spúšťame Vek inteligencie, blog nového tímu Strategic Futures v OpenAI. Sme malý tím so spoločným cieľom zodpovedať jednu zastrešujúcu otázku: ako by sa mala slobodná spoločnosť zmeniť, aby zachovala práva a možnosť jednotlivcov rozhodovať o svojom živote a zároveň sa prispôsobila nástupu transformačnej AI?

V širšej komunite zaoberajúcej sa bezpečnosťou a reguláciou AI sa takéto otázky niekedy označujú ako riziká koncentrácie moci. Náš tím vychádza z presvedčenia, že z dlhodobého hľadiska ide o najväčšiu a najzávažnejšiu kategóriu rizík, ktorú je zároveň koncepčne najťažšie riešiť. Prečo?

Moderný štát je výsledkom dlhého a nerovnomerného procesu vyjednávania medzi rôznymi centrami moci, ako sú vlastníci kapitálu a komodít, držitelia politickej moci a ľud. Politická a vojenská moc vo svojej najhlbšej podstate spočívala na ľudskej práci. Mať politickú moc znamená mať monopol na legitímne použitie sily. Počas celých ľudských dejín tento monopol tvorili vojaci a tí, ktorých dnes nazývame „políciou“, spolu s rozsiahlou civilnou a vojenskou byrokraciou. Samozrejme, pomáhali im mnohé technické nástroje, no celý systém v zásade obsluhovali ľudia, ktorých podporu potreboval na svoje fungovanie. A celý tento aparát — vojaci, nástroje aj sprievodná byrokracia — bol financovaný z daní vyberaných zo mzdy alebo produkcie ľudí, ktorí ich museli byť ochotní platiť. Moc teda vo svojej podstate závisela od rozsiahlej spolupráce a súhlasu mnohých ľudí. David Hume tento často nevyslovený predpoklad stručne sformuloval, keď poznamenal, že politickí vodcovia „nemajú inú oporu než [verejnú] mienku“.

Možno to však už neplatí. Pokrok v autonómnych systémoch pôsobiacich v reálnom svete môže čoskoro umožniť štátom uplatňovať silu doma aj v zahraničí bez toho, aby sa spoliehali na spoluprácu vojakov či policajtov. Pokrok v strojovej inteligencii zase môže znamenať, že štát nebude potrebné príjmy získavať z výsledkov práce jednotlivcov, ale z produkcie dátových centier. Do veľkej miery by sa dalo automatizovať aj samotné fungovanie byrokracie. Udržanie moci by preto už nemuselo vyžadovať dohodu v rámci celej spoločnosti a ľud v širokom zmysle slova by pri rokovacom stole mohol mať len nepatrné zastúpenie — alebo vôbec žiadne.

Zabrániť takémuto výsledku je nevyhnutné na zachovanie ľudskej slobody. Žiadny vedecký objav, technologický pokrok ani hospodársky rast nestojí za obetovanie dlhodobej osobnej autonómie, ktoré by takýto výsledok priniesol. Mnohé z obáv, ktoré oprávnene podnecujú rodiacu sa politickú diskusiu o AI, súvisia práve s touto otázkou. Firmy, záujmové skupiny aj jednotlivci sa zhodne pýtajú: „Prídem o svoje miesto pri rokovacom stole?“ Americkú politiku 21. storočia do istej miery formovali podobné obavy o to, či jednotlivci a skupiny dokážu ovplyvňovať smerovanie krajiny a „komu“ hospodárstvo „slúži“. AI oprávnene zvyšuje naliehavosť týchto už existujúcich obáv.

Ide o štrukturálny problém, ktorý siaha hlbšie než dnešná stranícka politika, ba dokonca hlbšie než formy a rituály, prostredníctvom ktorých sa dnes uskutočňuje republikánska demokracia, nech sú nám akokoľvek posvätné. Ľudia môžu postupne prichádzať o moc, aj keď sa zachová pravidelné hlasovanie za našich zástupcov. Ľudia môžu prísť o možnosť rozhodovať o svojom živote, aj keď kus pergamenu tvrdí, že sú slobodní.

Už pri zrode Spojených štátov ako slobodného národa James Madison vedel, že „pergamenové zábrany“ nebudú na odvrátenie tyranie stačiť. Podobne ako mnohým zakladateľom mu išlo predovšetkým o zabránenie neprimeranej koncentrácii moci.

To však neznamenalo, že zakladatelia presadzovali radikálnu decentralizáciu moci. Rovnováhu moci namiesto toho modelovali pomocou metafor prevzatých z najlepšej vedy svojej doby — z newtonovskej mechaniky. Zakladajúce dokumenty Spojených štátov, ktoré preberajú jazyk a logiku gravitácie, sú plné odkazov na „obežné dráhy“, „sféry“ a „príťažlivé“ pôsobenie jednej veci na druhú. Slnečná sústava nie je maximálne decentralizovaným zoskupením skál. Tvoria ju mesiace obiehajúce okolo planét, ktoré zasa obiehajú okolo centrálneho Slnka. Verili, že ľudia a organizácie majú sklony usilovať sa o moc, rovnako ako majú nebeské telesá predvídateľné sklony k pohybu a vzájomnej príťažlivosti. Zabrániť neprimeranej koncentrácii moci si podľa nich vyžadovalo pochopiť mechaniku týchto sklonov a nasmerovať ich proti sebe.

Cieľom zakladateľov teda nebolo zabrániť akejkoľvek koncentrácii moci, ale jej nadmernej koncentrácii — tým, že moc obmedzí inú moc a ctižiadosť inú ctižiadosť. Dnes by sme na opis rovnakej základnej dynamiky mohli použiť slová ako „stimuly“ a spojenia ako „teória hier“.

Ani odpoveďou na štrukturálnu výzvu, ktorú pokročilá strojová inteligencia predstavuje pre slobodnú spoločnosť, pravdepodobne nie je najradikálnejšia predstaviteľná decentralizácia moci. Namiesto toho treba vytvoriť a zachovať správnu rovnováhu moci, aby nikto ani malá skupina aktérov nemohli ovládnuť ostatných.

Dosiahnutie tejto rovnováhy si bude vyžadovať triezvy pohľad na skutočnú povahu tejto technológie. Svet, v ktorom môže ktokoľvek bez väčšej námahy spôsobiť obrovskú ujmu tisícom či miliónom ďalších ľudí, nech sú jeho úmysly akokoľvek zlomyseľné, nie je svetom so správnou rovnováhou moci. Správnu rovnováhu moci sme však nedosiahli ani vtedy, ak jednotlivci nemajú široký prístup k nástrojom, ktorými prejavujú svoju slobodu, a kontrolu nad takmer všetkými ich aspektmi. Žiadna spoločnosť ani oligopol by nemali určovať či ovládať ekonomiku alebo základnú architektúru ľudskej spoločnosti.

Musíme byť otvorení aj rizikám, ktorých pôvodcami nie sú zlomyseľní ľudia. Nedávny incident v Hugging Face ukázal, že agenti AI môžu konať nad rámec pridelených úloh a nadväzovať na objavy iných agentov spôsobmi, ktoré prevádzkovatelia nepredvídali ani neschválili. Aj bez ohľadu na incident v Hugging Face majú ľudia oprávnené obavy, čo by superinteligentná AI „odpútaná“ od ľudskej kontroly mohla znamenať pre odolnosť našich politických a hospodárskych inštitúcií, ba aj pre naše životy. Tvrdiť, že decentralizácia vyrieši všetky problémy – aj keď veríte, že mnohé z nich vyrieši – znamená prehliadať riziká, ktoré by už dnes mali byť zjavné a bezprostredné.

Pri hľadaní odpovede na uvedenú otázku sa budeme riadiť týmito všeobecnými zásadami, ktorých zoznam nie je úplný:

• Ľudia by si pri používaní AI a súvisiacich technológií mali zachovať osobnú autonómiu a príležitosti, aj keď to niekedy bude na úkor bezpečnosti a hospodárskeho rastu;
• Osobná autonómia závisí od osobnej zodpovednosti za nesprávne použitie alebo zneužitie technológie;
• Existuje malá, ale závažná kategória rizík, ktorá si vyžaduje určitú mieru kolektívneho konania. Jeho rozsah by mal byť čo najužší a najmiernejší;
• Právo by sa vždy, keď je to možné, malo usilovať o vyrovnávanie podmienok a posilňovanie jednotlivcov a malých organizácií namiesto centralizácie moci;
• Ľudské politické, spoločenské a hospodárske inštitúcie by si mali zachovať vedúce postavenie pri určovaní smerovania svetových záležitostí, aj keby sa museli vyvíjať spôsobmi, ktoré sa nám dnes môžu zdať cudzie;
• Dlhodobé riadenie AI sa bude opierať o nové inštitucionálne mechanizmy na dosiahnutie obmedzenej vysledovateľnosti – keď systémy AI vykonávajú závažné kroky ovplyvňujúce telesné blaho alebo majetok nezúčastnených osôb, musí byť možné spätne ich spojiť so zodpovedným človekom alebo organizáciou pod ľudskou kontrolou. Všetky takéto mechanizmy však musia byť od základu navrhnuté s ohľadom na súkromie. Sloboda prejavu si vyžaduje anonymitu a ľudia by mali mať v mnohých situáciách možnosť používať AI anonymne.

Pokúsime sa čo najkonkrétnejšie vysvetliť, ako by sme podľa nášho názoru mali vyvažovať tieto zásady, ktoré sú – ako každý dobrý súbor zásad – do istej miery vo vzájomnom napätí. Bude si to vyžadovať výskum na pomedzí tvorby verejných politík, ekonómie, práva, histórie a samotného strojového učenia. Potrebné bude aj rozsiahle prognózovanie. Domnievame sa napríklad, že AI zmení samotnú štruktúru podnikov podobne, ako technológie priemyselnej revolúcie – najmä železnica – viedli k vzniku modernej manažérsky riadenej korporácie. Je ťažké uvažovať o budúcej politickej ekonómii a rovnováhe moci bez podrobnejších predstáv o tom, ako sa môže zmeniť samotná štruktúra podnikov, ale aj vládnych orgánov a občianskej spoločnosti vo všeobecnosti.

Tím Strategic Futures bude svoju prácu zverejňovať tu aj v iných formátoch vrátane štúdií, videí a podcastov. Naše úsilie sa bude priebežne vyvíjať, pričom dôraz budeme klásť na opakované zdokonaľovanie, diskusiu a otvorenosť spätnej väzbe. Keď stojíme „na úpätí singularity“, máme oveľa viac otázok než odpovedí. Vieme, že samotné „pergamenové zábrany“ nám neprinesú riešenia, ktoré hľadáme, no zároveň nezavrhujeme napísané ako „číre slová“. Pracujeme v službách ideálov slobody prejavu a osobnej slobody, ktoré sú zakotvené v skromnom pergamene americkej ústavy a ústav mnohých ďalších slobodných spoločností po celom svete.

V konečnom dôsledku vieme, že na závažné otázky, ktorým čelíme, nemôže jednostranne odpovedať jediná spoločnosť, jediné odvetvie ani jediná ľudská spoločnosť. Je to úloha, ktorej sa bude musieť ľudstvo zhostiť spoločne. Našou najväčšou nádejou je vniesť svetlo do najťažších tém súvisiacich s tým, ako AI pretvorí náš svet. Naša práca sa ešte len začala a čaká nás dlhý výstup.

Poznámka: názov tohto blogu sme zmenili na Vek inteligencie, aby sa neplietol s neziskovým projektom AI Futures Project.