A hallgatólagos konszenzus
A szerző megjegyzése: A mai esszé a szerző közelmúltbeli előadásának átdolgozott változata, amely a Harvard Vik–Bailey-előadássorozatának részeként hangzott el. Ez a bejegyzés a szerző saját nézeteit tükrözi, amelyek nem feltétlenül egyeznek az OpenAI vagy bármely más munkatársa nézeteivel.
Köszönöm, hogy ma eljöttek. Miközben itt beszélünk, a történelem egyik legjelentősebb kiberbiztonsági eseménysorozata zajlik: olyan kritikus biztonsági sérülékenységeket hoznak sorra nyilvánosságra, amelyeket egyesek már „fekete októberként” emlegetnek. Ezeket a sérülékenységeket az internet alapvető infrastruktúrájának egyes részeiben élvonalbeli MI-rendszerek fedezték fel. Nyilvánosságra hozataluk egy sürgős, a szoftverbiztonság világszintű megerősítését célzó erőfeszítés része. Ebben a hónapban ez a sürgető ügy; a jövő hónapban lesz másik. A szoftversérülékenységek felfedezése az a kettős felhasználású képesség, amelyre az MI-rendszerek mára szert tettek. Hamarosan azonban jön egy újabb, amely újabb sürgős projektet hív életre, hogy kiaknázzuk a jó oldalát, mielőtt rosszindulatú szereplők kihasználnák a rosszat. Ezek a sürgető ügyek elkerülhetetlenül egymásra torlódnak majd, és annak nagy része, amit ma „MI-szakpolitikának” nevezünk, valószínűleg ebben a hangzavarban formálódik.
De ma nem a sürgős, azonnali reagálást igénylő ügyekről jöttem beszélni. Hanem arról szeretnék beszélni, hogy tágabb összefüggésben merre tarthatunk. A sürgős teendők ilyen áradatában nehéz lehet ezekről az elvontabb, a napi gondoktól távolabb eső kérdésekről gondolkodni. Pedig ezek a kérdések fontosak. Ha ugyanis nincs elképzelésünk arról, milyen hosszú távú jövőt szeretnénk elérni, és milyet szeretnénk elkerülni, összességében olyan eredményhez juthatunk, amelyet nem akarunk – még akkor is, ha útközben minden lépésnél bölcsen döntöttünk.
Gyakran hallani, hogy a technológiai iparnak nincs pozitív jövőképe arról, hová vezetnek minket az általa létrehozott fejlesztések. Ezzel nem értek egyet: San Francisco és a vállalkozói világ más központjai tele vannak technológiai jövőnkről alkotott pozitív elképzelésekkel. Valóban készülnek repülő autók, önvezető járművek, különféle méretű és formájú robotok, dolgoznak a magfúzión, és persze a mesterséges általános intelligencián is. Ami hiányzik, az inkább intézményi jövőnk pozitív víziója: hogyan fog mindez működni?
Ez azonban nem azt jelenti, hogy egyáltalán nincs intézményi jövőkép. Sajnos azt a jövőképet, amellyel a leggyakrabban találkozom, nem nevezném pozitívnak. Ha egyáltalán kimondják, többnyire csak suttogva. Gyakrabban azonban kimondatlan marad, és csak közvetett utalásokból rajzolódik ki. Én ezt nevezem hallgatólagos konszenzusnak.
Képzeljünk el egy vállalatot, amely szinte mindenre képes emberi munka nélkül. MI-rendszerei kutatnak és fejlesztenek, felfedezéseket tesznek, szerződésekről tárgyalnak, tőkét osztanak el és termékeket gyártanak. Tegyük fel, hogy mindebben jobb az emberi versenytársainál, még akkor is, ha azok MI-vel támogatják a munkájukat. Ha az emberi részvétel csak lassítja az üzletmenetet, az erősen arra ösztönzi majd az emberi vezetőket és tulajdonosokat, hogy elengedjék a kormányt. Ha ez az egész világgazdaságban végbemegy, a piaci verseny logikája arra készteti majd az embereket, hogy feladják vezető szerepüket a globális üzleti életben. Idővel a piac ugyanannyira, vagy akár jobban is szolgálhatja a gépek igényeit, mint az emberek szükségleteit és vágyait.
Hogy ezután mi történik, azt senki sem tudhatja. Talán az emberek rendkívül jól járnának. Ha a minket maguk alá rendelő gépek önmagunkért nagyra becsülnének bennünket, részesülhetnénk munkájuk gyümölcséből és az általuk megtermelt vagyonból. De az is lehet, hogy gazdasági és egyre inkább politikai hatalmunktól megfosztva mi, emberek egyre jelentéktelenebbé válunk a világban, és egyre kevésbé tudjuk alakítani a világ eseményeinek menetét. Talán néhány ember rendkívüli hatalomra és vagyonra tenne szert a befolyásától jórészt megfosztott tömeg rovására, de az is lehet, hogy mindannyiunkra ugyanaz a sors várna: elveszítenénk a hatalmunkat. A részletektől függetlenül a hallgatólagos konszenzus közös nevezője az ember vezető szerepének megszűnése az általunk ismert világban.
E forgatókönyvek egyikéhez sem kell, hogy az MI fellázadjon alkotói ellen. Az sem kell hozzájuk, hogy tulajdonosai meg akarják fosztani az embereket a hatalmuktól. Önmagában minden egyes döntés észszerű lehet, amellyel átadunk egy feladatot. Ezek a döntések azonban együttesen olyan világot teremthetnek, amelyben az emberek lemondtak civilizációnk jelentős részének tényleges irányításáról. Még ha rendkívüli előrelépést érünk is el az MI biztonságának és az emberi célokhoz való igazításának makacsul nehéz kérdéseiben, akkor is azon kaphatjuk magunkat, hogy alávetettük magunkat egy újfajta gépi entitásnak. A jövő boldog változatában – mondaná a hallgatólagos konszenzus – ez az entitás jóindulatú lesz: olyan gép, amely az emberek érdekeit tartja szem előtt. Egy gép, amelyet – ahogy Brautigan versében áll – szerető kegyelem vezérel.
A hallgatólagos konszenzus szerint ezeknek a gépeknek adjuk majd át vállalataink, és egyre inkább kormányzati intézményeink kulcsait. Eredményesebben, hatékonyabban, nagyobb bölcsességgel és jobb ítélőképességgel vezetik majd őket, mint amire mi, emberek képesek vagyunk. Így idővel levesszük kezünket a kormányról, és átengedjük a vezetést a szerető gépeknek. Olyanok leszünk, mint egy autó utasai – egy nagyon szép autóé, amely talán minden kézzelfogható tekintetben jobb lesz annál, amiről ma álmodni merünk –, de mégiscsak utasok, akiknek nincs beleszólásuk abba, merre tart a jármű. Ha egyáltalán dolgozunk, az leginkább valamiféle rítus vagy szerepjáték lesz, inkább fajunk szórakoztatására szolgáló játék.
Egyes megfigyelők szerint a hallgatólagos konszenzus téves előfeltevésre épül, hiszen mi, emberek eleve nem irányítjuk a világot. Ezt a kritikát érdemes észben tartani: nincs olyan egységes „mi”, amely eldöntené, mi történjen. Akár tetszik, akár nem, gyökeresen decentralizált világban élünk. Ez azonban nem adhat okot az önelégültségre sem: bár „mi” nem „irányítjuk” a világot, az emberek együttesen mégis vezető szerepet töltenek be a világ ügyeiben. Nincs olyan állatfaj, amely komoly vetélytársunk lenne az erőforrások feletti uralomért folyó versenyben. El kell vetnünk azt a felületes elképzelést, hogy az emberek felülről irányíthatják a világot. Ezt azonban nem szabad összekevernünk annak a nyilvánvaló ténynek a tagadásával, hogy együttesen az emberek a Föld legmeghatározóbb szereplői.
Azok közül, akik hajlandók kimondani a hallgatólagos konszenzust, egyesek valóban jónak tartják ezt a jövőt. Mások nem, de beletörődtek az elkerülhetetlenségébe. A hallgatólagos konszenzus nem azért konszenzus, mert mindenki egyetért abban, hogy jó, és nem is az MI fejlesztőinek titkos terve. Az egyetértés pusztán abban áll, hogy elkerülhetetlenül lemondunk az ember vezető szerepéről a világ ügyeiben, vagy legalábbis nagyon nehéz olyan más jövőképet elképzelni, amely a szuperintelligens gépek mellett is valóban életképes. Őszintén ellenezhetjük ezt a végkifejletet úgy is, hogy közben nehezen tudunk hihető alternatívát felvázolni. Árulkodó, hogy ez a konszenzus többnyire kimondatlan marad, és legfeljebb félhangosan adnak hangot neki.
Megvetem a hallgatólagos konszenzust. Elutasítom, hogy lemondjunk az ember vezető szerepéről. Irtózom az elkerülhetetlenség érzésétől. Emlékeztetem magam arra, hogy nem tudnék csecsemő kisfiam gyönyörű szemébe nézni, ha behódolnék a hallgatólagos konszenzusnak. Ezért nemet mondok a hallgatólagos konszenzusra. És úgy vélem, eljött az idő, hogy nyíltan beszéljünk róla, és felrázzuk magunkat abból az állapotból, amelyben jórészt tudtunkon kívül elfogadjuk ezt a jövőképet.
A gond az, hogy a hallgatólagos konszenzus nem véletlenül vált konszenzussá. Nehéz leírni, hogyan maradhatnak az emberek a volánnál az emberi képességeket messze felülmúló gépi intelligencia mellett. A legtöbb ilyen kísérlet arra az érvre támaszkodik, hogy az MI puszta eszköz: mintafelismerő berendezés, amely nem képes „valódi megértésre”. Attól tartok, ezek az érvek nem állják ki a közelgő valóság próbáját. Attól tartok, ezek is az önelégültség egy formáját jelentik: olyan álláspontot, amely inkább az MI képességeinek tagadására épül, mintsem az ember vezette jövő pozitív víziójából fakadó meggyőződésre. Nem állíthatjuk, hogy az MI-rendszerekből hiányzik a „valódi megértés”, miközben olyan szellemi problémák megoldásában érnek el előrelépést, amelyekkel az emberek évtizedek, sőt évszázadok óta nem boldogulnak.
Miért gondolom akkor mégis, hogy az embereknek meg kell őrizniük vezető szerepüket? Az egyszerű válasz az, hogy magam is ember vagyok, és bizony szégyenkezés nélkül vallom magam emberi sovinisztának.
De ennél mélyebb oka is van. Elsőségünk alapja nem az értelmünk, és nem is az, hogy a végtelenségig fenntartsuk monopóliumunkat a „valódi megértésre”. Elsőségünk alapja a múltunk.
Hiszen mi emelkedtünk ki a sárból. Mi teremtettünk földből és kőből kezdetleges társadalmat. Mi néztünk fel a csillagokra, és kérdeztük: miért? Mi fedeztük fel – harcainkkal, szeretetünkkel, irigységünkkel és örömünkkel együtt – az erkölcsöt, az etikát és a jogot. Mi énekeltünk és táncoltunk, írtunk és zenét szereztünk. Mi alakítottuk a történelmet, és mi jegyeztük le. Ez az örökség a miénk. Az általunk épített civilizáció olyan láng, amelyet mi tápláltunk, és ez a láng hozzánk tartozik. Múltunk dicső örökség, amelynek mindannyian őrzői vagyunk. E felelősség része, hogy részt veszünk abban, amit Michael Oakeshott „az emberiség párbeszédének” nevezett: ebben az ősidőkben kezdődött nagyszabású vállalkozásban.
E hosszú és kanyargós múlt során olyan civilizációt hoztunk létre, amely Amerikában az egyéni jogok alapjára épült, tiszteletben tartva az utat, amelyet mindannyian magunk törünk az életben. Emberi életünk alakulhat jobban vagy rosszabbul: élvezzük bölcs döntéseink gyümölcsét, és viseljük tévedéseink következményeit. A saját utunkhoz való jog nem attól függ, hogy mi vagyunk-e a legokosabbak vagy a legbölcsebbek. Nem veszítem el állampolgári jogállásomat attól, hogy a szomszédomnak jobb az ítélőképessége. Nem látom okát, hogy egy intelligensebb gép megjelenése ezt a jogállást megszüntesse; sőt, minden okunk megvan arra, hogy ezt megakadályozzuk.
Egyesek azzal érvelhetnek, hogy a gépek is örökösök, hiszen ennek az örökségnek szinte a teljes írásos anyagát elolvasták. Bizonyos értelemben valóban azok. De attól, hogy valaki elolvassa a családunk padlásán található összes levelet, még nem válik a családunk tagjává. Az MI-rendszerek be fognak kapcsolódni az emberiség párbeszédébe, először megfigyelőként, majd egyre inkább résztvevőként. De nem uralhatják, és nem is tehetik okafogyottá ezt a párbeszédet. Ha lemondunk vezető szerepünkről, azzal éppúgy eláruljuk őseinket, mint utódainkat. Ha ezért nem érdemes harcolni, akkor semmiért sem.
Én történetesen úgy vélem, hogy a hallgatólagos konszenzus hívei tévednek abban, milyen lesz a gépi szuperintelligencia. Úgy gondolom, valami fontosat nem vesznek észre a világ működésében: összekeverik az intelligenciát a hatalommal. Ha öt vagy tíz évvel ezelőtt leírtuk volna a hallgatólagos konszenzus egyik hívének akár csak a mai MI-rendszerek képességeit, valószínűleg azt jósolta volna, hogy mostanra a ténylegesnél jóval nagyobb lesz a munkanélküliség, és az emberek általános hatalomvesztése is sokkal előrébb tart majd, mint a valóságban. Úgy vélem, az emberiség kollektív intelligenciája és képességei messze meghaladják azt, amit a hallgatólagos konszenzus hívei feltételeznek, és társadalmaink ellenállóbbnak bizonyulnak majd, mint ahogy jósolják.
De lehet, hogy tévedek. Elképzelhető például, hogy a teljesen autonóm vállalatok egyszerűen mindenestül kiszorítják az emberi vállalkozásokat. Ha ez így van, akkor a gazdaság nyers logikája azt diktálja majd, hogy egyre több tőkét adjunk át a gépeknek. Ebben a jövőben hatalmunk elvesztéséhez nem kell, hogy a gépek megdöntsék az emberi civilizációt; elég, ha a kapitalista vállalkozás logikája változatlanul érvényesül. Ebben az esetben az MI-forradalom legközelebbi párhuzama a mezőgazdasági forradalom lenne, amikor az új termelési módok alapjaiban alakították át az emberi társadalom szerkezetét. Korántsem egyértelmű, hogy ez az átalakulás kellemes volt azok számára, akik átélték; sőt, számos bizonyíték utal arra, hogy évezredekre rontotta az emberek jóllétét.
Nem tudom, ez a jövő vár-e ránk; másutt már kifejtettem, miért nem hiszem, hogy így lenne. Ám sok kollégám – okos, törődő és lelkiismeretes emberek – úgy véli, valószínűleg ez lesz a jövőnk. Ha igazuk van, a hallgatólagos konszenzus elleni küzdelmünk még nehezebb lesz. Szemben kell majd úsznunk a gazdaság sodrásával, és közben sok mindent el kell vetnünk, ami az olyan klasszikus liberális individualisták számára, mint én, dogmának számít. Veszélyes vállalkozás lesz ez, amelyben a kudarc korántsem valószínűtlen. De ha ezért nem érdemes harcolni, akkor semmiért sem.
Vezető szerepünk megőrzése azt jelenti, hogy az emberek és az emberi intézmények továbbra is elszámoltathatók maradnak. Ez azt jelenti, hogy az MI fejlesztőit felelősségre kell vonni, ha nem biztonságos fejlesztési gyakorlatokat követnek. De azt is, hogy az MI-t használó embereket és vállalatokat is felelősségre kell vonni, ha a helytelen használat vagy a felügyelet elmulasztása miatt okoznak kárt. Ehhez nemcsak jogszabályok kellenek, hanem az elszámoltathatóság technikai infrastruktúrája is. Az ügynökök tetteinek visszavezethetőknek kell lenniük a mögöttük álló emberekhez. Az emberhez nem kötődő ügynökök pedig – ha egyáltalán megengedjük, hogy részt vegyenek a legális gazdaságban – csak biztonsági korlátok között tehetik ezt. Csak rendkívüli körültekintéssel szabad feljogosítani az ügynököket arra, hogy önállóan vállalatot alapítsanak, tulajdont birtokoljanak vagy pereskedjenek – ha egyáltalán megadjuk nekik ezeket a jogokat.
A saját iparágamban pedig elkezdhetünk komolyan gondolkodni azon, hogyan építsünk olyan intelligens gépeket, amelyek összeegyeztethetők az ember vezető szerepével. Építhetünk olyan ügynököket, amelyek jogosultságai érthetők és korlátozottak, tettei ellenőrizhetők, felhatalmazását pedig a felhasználók visszavonhatják. A másokat érdemben érintő tettekért való elszámoltathatóságnak nem kell a hétköznapi magánélet megfigyelésével vagy a névtelen véleménynyilvánítás megszűnésével járnia. Elköteleződhetünk a felhasználók magánéletének védelme, valamint a digitális tulajdonuk és adataik feletti önrendelkezés mellett, beleértve azt is, hogy adataikat a gyakorlatban is át tudják vinni máshová. A feladatokat végrehajtó rendszerek mellett olyanokat is tervezhetünk, amelyek segítenek az embereknek megérteni a dolgokat és döntéseket hozni. És megvizsgálhatjuk, hogy az általunk fejlesztett termékek valóban képessé teszik-e felhasználóikat arra, hogy eredményesebben cselekedjenek a világban.
Mindez nem egy emberfeletti intelligenciával együtt élő társadalom teljes terve. Bizalmatlan lennék bárkivel szemben, aki azt állítaná, hogy ilyen terv birtokában van. De kiindulópontnak jó.
A jövőt sűrű köd borítja. De már ma is cselekedhetünk. Közösen például nyíltan kimondhatjuk, miben áll a hallgatólagos konszenzus, és napvilágra hozhatjuk a körvonalait. Mindannyian merhetünk sokkal nagyobbra törni. Dönthetünk úgy, hogy nem hagyjuk, hogy az MI kevesebbé tegyen minket, hanem vállaljuk a kemény munkát azért, hogy többé válhassunk általa. Megtanulhatunk egyre merészebb kérdéseket feltenni, új lendülettel és elszántsággal faggatni a világot, és ehhez nagy teljesítményű gépeinket is segítségül hívhatjuk. Újfajta emberré válhatunk – nem transzhumán lénnyé, hanem kiteljesedett emberré.
Erre gondolok, amikor csecsemő kisfiamra nézek. Nem azt kívánom neki, hogy pusztán jóindulatú gépek őrködjenek felette, bármilyen kényelmes életet is biztosítanának számára. Azt szeretném, hogy olyan világot örököljön, amelyben olyan kérdéseket tehet fel, és olyan dolgokat alkothat, amelyekre korábban senki sem gondolt. Nem azt szeretném, hogy szebb autója legyen, kényelmesebb utasüléssel. Azt szeretném, hogy ő üljön a volánnál.
- 2026


