Bemutatkozik Az intelligencia kora

„Vajon elegendő lesz… ezekre a pergamenkorlátokra hagyatkozni a hatalom terjeszkedő szellemével szemben?”
– James Madison, A föderalista 48. sz.

Örömmel indítjuk útjára Az intelligencia korát, az OpenAI új Stratégiai Jövőképek csapatának blogját. Kis csapatunk közös célja, hogy választ adjon egy mindent átfogó kérdésre: miként kell átalakítani a szabad társadalmat úgy, hogy az átalakító erejű MI megjelenése mellett is megőrizze az egyéni jogokat és az önrendelkezést?

Az MI biztonságával és szabályozásával foglalkozó tágabb közösségben az ilyen kérdéseket olykor a hatalomkoncentráció kockázatainak nevezik. Csapatunk arra az elképzelésre épül, hogy hosszú távon ez a kockázati kategória a legnagyobb, a legsúlyosabb és fogalmilag a legnehezebben kezelhető. Miért?

A modern állam a különböző hatalmi központok – például a tőke és az árucikkek tulajdonosai, a politikai hatalom gyakorlói és a nép – közötti alkuk hosszú és egyenetlen folyamatának eredménye. A politikai és katonai hatalom legalapvetőbb támasza a munka volt. Politikai hatalommal rendelkezni annyit jelent, mint birtokolni a legitim erőszak monopóliumát. Az emberiség történelme során ezt a monopóliumot mindvégig a katonák, a ma „rendőrségnek” nevezett szervezet és a kiterjedt polgári-katonai bürokrácia alkotta. Mindezt természetesen számos technológiai eszköz egészítette ki, ám a rendszert alapvetően emberek működtették, akiknek a támogatása nélkül az nem maradhatott volna fenn. Az egész apparátust – a katonákat, az eszközöket és a hozzájuk tartozó bürokráciát – pedig olyan emberek béréből vagy termeléséből beszedett adókból finanszírozták, akiknek hajlandónak kellett lenniük fizetni. A hatalom alapja sok ember széles körű együttműködése és beleegyezése volt. David Hume tömören megfogalmazta ezt a gyakran kimondatlan feltételezést, amikor megjegyezte, hogy a politikai vezetőknek „semmi más támaszuk nincs, csak a [közvélemény]”.

Lehet azonban, hogy ez már nincs így. A fizikai világban működő autonóm rendszerek fejlődése hamarosan lehetővé teheti, hogy az államok együttműködő katonák és rendőrök nélkül is erőt alkalmazzanak belföldön és külföldön. A gépi intelligencia fejlődése pedig azt jelentheti, hogy az állam nem az egyes emberek munkájának gyümölcséből, hanem adatközpontok teljesítményéből szedheti be a szükséges bevételt. Maga a bürokrácia működése is nagyrészt automatizálhatóvá válhat. A hatalom fenntartásához így talán már nem lesz szükség az egész társadalommal kötött alkura, a tág értelemben vett nép pedig csak szerény helyet kaphat a tárgyalóasztalnál – vagy akár teljesen ki is maradhat.

Az emberi szabadság megőrzéséhez elengedhetetlen, hogy elkerüljük ezt a kimenetelt. Semmilyen tudományos felfedezés, technológiai fejlődés vagy gazdasági növekedés nem ér annyit, hogy feláldozzuk érte az egyén hosszú távú önrendelkezését, amivel ez a kimenetel járna. Az MI körül kibontakozó politikai vitát jogosan tápláló aggodalmak közül sok ehhez a kérdéshez kapcsolódik. A vállalkozások, érdekcsoportok és magánszemélyek egyaránt attól tartanak: „Elveszítem a helyemet a tárgyalóasztalnál?”A 21. századi amerikai politikát bizonyos mértékig hasonló aggodalmak alakították: mennyi egyéni és közösségi beleszólásunk van az ország irányába, és „kiért” működik a gazdaság. Az MI joggal helyezi még inkább előtérbe ezeket a már korábban is létező aggályokat.

Ez olyan strukturális probléma, amely mélyebbre nyúlik a jelenlegi pártpolitikai küzdelmeknél, sőt még azoknál a formáknál és rítusoknál is, amelyekben ma a köztársasági demokrácia megvalósul, bármilyen szentek is legyenek számunkra. Az emberek akkor is haladhatnak a hatalomvesztés felé, ha megmarad a képviselőink megválasztásának megszokott rendje. Az embereket akkor is megfoszthatják önrendelkezésüktől, ha egy darab pergamen szerint szabadok.

Amikor az Egyesült Államok szabad nemzetként megszületett, James Madison már tudta, hogy a „pergamenkorlátok” nem elegendők a zsarnokság megakadályozásához. Sok más alapító atyához hasonlóan elsősorban a hatalom túlzott összpontosulását akarta elkerülni.

Ez azonban nem jelentette azt, hogy az alapító atyák a hatalom radikális decentralizálását támogatták. A hatalmi egyensúlyt inkább koruk legkorszerűbb tudományából, a newtoni mechanikából merített metaforákkal írták le. Amerika alapító okiratai a gravitáció nyelvezetét és logikáját tükrözve tele vannak „pályákra”, „szférákra” és az egyik dolgot a másik felé hajtó „vonzóerőre” utaló kifejezésekkel. A Naprendszer nem kőzetek lehető leginkább decentralizált halmaza: holdakból áll, amelyek bolygók körül keringenek, a bolygók pedig egy központi csillag körül. Úgy vélték, hogy az emberek és szervezetek hajlamosak a hatalom megszerzésére, ahogy az égitestek mozgása és vonzása is kiszámítható tendenciákat mutat. A hatalom túlzott összpontosulásának elkerüléséhez ezért meg kell érteni e hajlamok mechanikáját, hogy egymással szemben fejthessék ki hatásukat.

Az alapító atyák célja tehát nem a hatalom mindenfajta összpontosulásának elkerülése volt, hanem a túlzott koncentráció megakadályozása: hatalmat állítottak szembe hatalommal, becsvágyat becsvággyal. Ma ugyanezeket az alapvető mögöttes dinamikákat olyan szavakkal és kifejezésekkel írhatnánk le, mint az „ösztönzők” és a „játékelmélet”.

Ehhez hasonlóan valószínűleg nem a hatalom elképzelhető legradikálisabb decentralizációja jelenti a választ arra a strukturális kihívásra, amelyet a fejlett gépi intelligencia támaszt a szabad társadalommal szemben. Ehelyett a hatalom megfelelő egyensúlyának kialakítására és megőrzésére kell törekednünk, hogy egyetlen szereplő vagy szereplők szűk csoportja se uralhassa a többieket.

Ennek az egyensúlynak a megteremtéséhez józanul kell gondolkodnunk e technológia valóságáról. Nem beszélhetünk megfelelő hatalmi egyensúlyról egy olyan világban, ahol bármely egyén – legyen bármilyen rosszindulatú – könnyedén okozhat súlyos kárt emberek ezreinek vagy millióinak. De akkor sincs megfelelő hatalmi egyensúly, ha az emberek nem férnek hozzá széles körben a szabadságuk kifejezésére használt eszközök szinte minden funkciójához, és nem rendelkeznek felettük. Egyetlen vállalat vagy oligopólium sem határozhatja meg és tarthatja ellenőrzése alatt a gazdaságot vagy az emberi társadalom alapvető szerkezetét.

Nyitottnak kell lennünk azokra a kockázatokra is, amelyek nem rosszindulatú emberektől erednek. A közelmúltbeli Hugging Face-incidens megmutatta, hogy az MI-ügynökök a rájuk bízott feladatokon túlmutatóan is cselekedhetnek, és olyan módon építhetnek egymás felfedezéseire, amelyet az üzemeltetők nem láttak előre és nem engedélyeztek. A Hugging Face-incidensen túl joggal aggasztja az embereket, mit jelenthet a politikai és gazdasági intézményeink ellenálló képességére – sőt az életünkre – nézve egy emberi ellenőrzés alól „elszabadult” szuperintelligens MI. Ha úgy teszünk, mintha a decentralizáció minden problémát megoldana – még ha úgy véljük is, hogy sokat valóban megold –, figyelmen kívül hagyjuk azokat a kockázatokat, amelyeknek mára világosan és közvetlenül érzékelhetőnek kellene lenniük.

Munkánkat az alábbi átfogó – és nem teljes körű – alapelvek vezérlik majd, miközben a fent felvetett kérdéssel foglalkozunk:

• Az embereknek meg kell őrizniük egyéni önrendelkezésüket és lehetőségeiket az MI és a kapcsolódó technológiák használata során, még akkor is, ha ez olykor a biztonság és a gazdasági növekedés rovására megy;
• Az egyéni önrendelkezés feltétele, hogy az egyén felelősséget vállaljon a technológia helytelen vagy visszaélésszerű használatáért;
• Létezik a kockázatoknak egy szűk, de súlyos kategóriája, amely bizonyos mértékű közös fellépést igényel; ennek hatókörét a lehető legszűkebben és legmérsékeltebben kell meghatározni;
• A jogszabályoknak lehetőség szerint az egyenlő versenyfeltételek megteremtésére, valamint az egyének és a kis szervezetek megerősítésére kell törekedniük, nem pedig a hatalom központosítására;
• Az emberi politikai, társadalmi és gazdasági intézményeknek meg kell őrizniük elsődleges szerepüket a világ ügyeinek alakításában, még akkor is, ha ehhez ma idegennek tűnő módokon kell fejlődniük;
• Az MI hosszú távú irányításának új intézményi mechanizmusokra kell támaszkodnia a korlátozott átláthatóság megteremtéséhez: amikor az MI-rendszerek kívülállók testi épségét vagy tulajdonát érintő, nagy téttel járó műveleteket végeznek, e műveleteknek visszavezethetőknek kell lenniük egy felelős emberre vagy emberi irányítás alatt álló szervezetre. Ugyanakkor minden ilyen mechanizmust úgy kell megtervezni, hogy középpontjában a magánélet védelme álljon. A szabad véleménynyilvánításhoz hozzátartozik a névtelenség, és az embereknek számos helyzetben joguk kell legyen névtelenül használni az MI-t.

Megpróbáljuk a lehető legkonkrétabban kifejteni, szerintünk hogyan teremthető egyensúly ezen alapelvek között, amelyek – mint minden jó alapelvrendszer elemei – kétségtelenül bizonyos feszültségben állnak egymással. Ehhez a szakpolitikai tervezés, a közgazdaságtan, a jog, a történelem és a gépi tanulás metszéspontjában végzett kutatásra lesz szükség. Emellett jelentős előrejelzési munkát is igényel majd. Úgy véljük például, hogy az MI szerkezeti szinten alakítja majd át a vállalatokat, hasonlóan ahhoz, ahogy az ipari forradalom technológiái – különösen a vasút – életre hívták a modern, professzionális vezetésű nagyvállalatot. Nehéz a jövő politikai gazdaságtanáról és hatalmi egyensúlyáról gondolkodni anélkül, hogy részletesebb elképzeléseket alkotnánk arról, pontosan hogyan alakulhat át maguknak a vállalatoknak – valamint a kormányzati szerveknek és tágabban a civil társadalomnak – a szerkezete.

A Stratégiai Jövőképek csapata itt és más formátumokban, köztük tanulmányokban, videókban és podcastokban is közzéteszi munkáját. Munkánk folyamatosan formálódik majd; kiemelt szerepet kap benne az iteráció, a vita és a visszajelzések iránti nyitottság. „A szingularitás előhegyein” állva jóval több kérdésünk van, mint válaszunk. Tudjuk, hogy a „pergamenkorlátok” önmagukban nem kínálnak megoldást, de az írott szót sem vetjük el „puszta szóként”. Az Egyesült Államok szerény pergamenre vetett alkotmányában és a világ számos más szabad társadalmának alkotmányában rögzített szólásszabadság és egyéni szabadság eszményeit szolgáljuk.

Végső soron tudjuk, hogy az előttünk álló súlyos kérdésekre egyetlen vállalat, iparág, sőt még egyetlen emberi társadalom sem adhat egymaga választ. Ezt a feladatot az emberiségnek közösen kell elvégeznie. Legfőbb reményünk, hogy fényt deríthetünk azokra a legnehezebb kérdésekre, amelyek azt érintik, miként alakítja át világunkat az MI. Munkánk még csak most kezdődött, és hosszú út áll előttünk a csúcsig.

Megjegyzés: a blog nevét Az intelligencia korára változtattuk, hogy egyértelműen megkülönböztessük a nonprofit AI Futures Projecttől.