OpenAI

18. novembra 2026

Vek inteligencie

Tichý konsenzus

Autor: Dean Ball

Poznámka autora: Dnešná esej je upravenou verziou prednášky, ktorú autor nedávno predniesol v rámci prednáškového cyklu Vik-Bailey na Harvarde. Tento príspevok vyjadruje autorove vlastné názory, ktoré sa nemusia zhodovať s názormi spoločnosti OpenAI ani jej ostatných zamestnancov.



Ďakujem, že ste dnes prišli. Práve teraz prebieha jedna z najvýznamnejších sérií udalostí v dejinách kybernetickej bezpečnosti: zverejňovanie kritických bezpečnostných zraniteľností, ktoré niektorí nazývajú „čierny október“. Tieto zraniteľnosti v kľúčových častiach internetovej infraštruktúry odhalili prelomové systémy AI a ich zverejnenie je súčasťou naliehavého úsilia posilniť bezpečnosť softvéru na celom svete. Toto je naliehavá téma tohto mesiaca; budúci mesiac príde ďalšia. Odhaľovanie zraniteľností softvéru je schopnosťou dvojakého použitia, ktorú systémy AI zvládajú už dnes. Čoskoro však pribudne ďalšia a podnieti nový naliehavý projekt, ktorého cieľom bude využiť jej dobrú stránku skôr, než niekto zneužije tú zlú. Všetky tieto naliehavé témy sa budú nevyhnutne prekrývať a veľká časť toho, čo dnes nazývame „politikou v oblasti AI“, bude pravdepodobne vznikať uprostred tohto ruchu.

Dnes som však neprišiel hovoriť o naliehavých veciach, na ktoré musíme bezprostredne reagovať. Chcem sa s vami radšej porozprávať o tom, kam to celé môže smerovať v širšom kontexte. Pri takom nápore naliehavých problémov môže byť ťažké premýšľať o týchto abstraktnejších a od každodennej reality vzdialenejších otázkach. Na týchto otázkach však záleží. Bez predstavy o tom, akú budúcnosť chceme z dlhodobého hľadiska dosiahnuť a akej sa chceme vyhnúť, totiž môžeme dospieť k neželanému celkovému výsledku, aj keď budeme na každom kroku rozhodovať múdro.

Často sa hovorí, že technologickému odvetviu chýba pozitívna vízia toho, kam nás privedie to, čo vytvára. Nesúhlasím: San Francisco a ďalšie centrá podnikania sú plné pozitívnych vízií našej technologickej budúcnosti. Ľudia naozaj vyvíjajú lietajúce autá, autonómne vozidlá, roboty najrôznejších veľkostí a tvarov, technológie jadrovej fúzie a, samozrejme, všeobecnú umelú inteligenciu. Chýba nám skôr pozitívna vízia našej inštitucionálnej budúcnosti: ako to celé bude fungovať?

To však neznamená, že neexistuje žiadna vízia budúceho inštitucionálneho usporiadania. Žiaľ, víziu, s ktorou sa stretávam najčastejšie, by som nenazval pozitívnou. Ak vôbec zaznie, tak zvyčajne šeptom. Častejšie však zostáva nevyslovená a dá sa vyčítať len medzi riadkami. Nazývam ju tichým konsenzom.

Predstavte si firmu, ktorá dokáže takmer všetko bez ľudskej práce. Jej systémy AI sa venujú výskumu a vývoju, prichádzajú s objavmi, vyjednávajú zmluvy, rozdeľujú kapitál a zabezpečujú výrobu. Predpokladajme, že to všetko zvláda lepšie než jej ľudskí konkurenti, aj keď si tí pri svojej práci pomáhajú AI. Ak účasť ľudí podnikanie len spomaľuje, manažéri a vlastníci budú mať silnú motiváciu pustiť volant z rúk. Ak sa to bude diať v celej globálnej ekonomike, logika trhovej konkurencie bude ľudí tlačiť k tomu, aby sa vzdali vedúceho postavenia vo svetovom obchode. Časom môže trh začať uspokojovať požiadavky strojov v rovnakej alebo ešte väčšej miere než požiadavky a želania ľudí.

Čo sa stane potom, môžeme len hádať. Možno by to ľuďom prinieslo nesmierny úžitok. Ak by si stroje, ktoré nás podriadili svojej moci, vysoko cenili ľudí pre ich vnútornú hodnotu, mohli by sme mať prospech z ich práce a z bohatstva, ktoré vytvárajú. Alebo sa možno my ľudia, zbavení ekonomickej a čoraz viac aj politickej moci, staneme vo svete čoraz menej dôležitými a budeme mať čoraz menší vplyv na smerovanie svetového diania. Možno by hŕstka ľudí získala mimoriadnu moc a bohatstvo na úkor veľkej masy zbavenej vplyvu, alebo by nás možno všetkých postihol rovnaký osud straty moci. Bez ohľadu na podrobnosti je spoločným menovateľom tichého konsenzu koniec vedúceho postavenia ľudí vo svete, ako ho poznáme.

Nič v týchto scenároch nevyžaduje, aby sa AI vzbúrila proti svojim tvorcom. Nič nevyžaduje, aby si jej vlastníci želali zbaviť ľudí moci. Každé rozhodnutie odovzdať právomoci môže samo osebe dávať zmysel. V súhrne by však tieto rozhodnutia mohli vytvoriť svet, v ktorom sa ľudia vzdali skutočnej moci nad veľkou časťou našej civilizácie. Aj keby sme dosiahli mimoriadny pokrok v riešení nesmierne zložitých otázok bezpečnosti AI a jej súladu s ľudskými hodnotami, stále by sme mohli skončiť podriadení novému druhu strojovej entity. V šťastnej verzii budúcnosti, ako by nám tvrdil tichý konsenzus, bude táto entita láskavá – stroj, ktorému leží na srdci to najlepšie pre ľudí. Stroj plný láskyplnej milosti, ako sa píše v Brautiganovej básni.

Týmto strojom podľa tichého konsenzu odovzdáme kľúče od našich firiem a čoraz viac aj od inštitúcií verejnej moci. Budú ich riadiť účinnejšie, efektívnejšie, s väčšou múdrosťou a lepším úsudkom, než akých sme schopní my ľudia. A tak časom pustíme volant a necháme láskavé stroje prevziať riadenie. Budeme ako pasažieri v aute – vo veľmi peknom aute, možno po materiálnej stránke lepšom, než si dnes dokážeme vysnívať –, no stále len pasažieri bez kontroly nad tým, kam vozidlo smeruje. Ak vôbec budeme pracovať, bude to zväčša akýsi rituál alebo predstieranie, skôr hra na pobavenie nášho druhu.

Niektorí pozorovatelia namietnu, že tichý konsenzus stojí na nesprávnom predpoklade, pretože my ľudia nemáme svet pod kontrolou ani dnes. A túto kritiku stojí za to mať na pamäti: neexistuje žiadne „my“, ktoré rozhoduje, čo sa má robiť. Žijeme v radikálne decentralizovanom svete, či sa nám to páči, alebo nie. Ani tento poznatok by nás však nemal ukolísať: hoci „my“ svet „neovládame“, ľudia ako celok predsa len zohrávajú vo svetovom dianí vedúcu úlohu. Neexistuje žiadny živočíšny druh, ktorý by s nami vážne súperil o kontrolu nad zdrojmi. Mali by sme odmietnuť myšlienkovo povrchnú predstavu, že ľudia môžu riadiť svet zhora, no toto odmietnutie by sme si nemali zamieňať s popieraním zjavnej skutočnosti, že ľudstvo ako celok je hlavným aktérom na Zemi.

Niektorí z tých, ktorí sú ochotní tichý konsenzus vysloviť nahlas, veria, že ide o skutočne dobrú budúcnosť. Iní tomu neveria, no rezignovane sa zmierili s jej nevyhnutnosťou. Tichý konsenzus nie je konsenzom preto, že ho všetci považujú za dobrý, ani nejde o tajný plán ľudí, ktorí vyvíjajú AI. Zhoda spočíva jednoducho v tom, že strata vedúceho postavenia ľudí vo svetovom dianí je nevyhnutná, alebo aspoň v tom, že je veľmi ťažké predstaviť si inú víziu budúcnosti, ktorá skutočne obstojí aj zoči-voči superinteligentným strojom. Človek môže takýto výsledok úprimne odmietať a zároveň mať problém predstaviť si vierohodnú alternatívu. Veľavravné je už to, že konsenzus zostáva zväčša nevyslovený, nanajvýš zaznieva polohlasom.

Pohŕdam tichým konsenzom. Odmietam, aby sa ľudia vzdali svojho vedúceho postavenia. Protiví sa mi ten pocit nevyhnutnosti. Pripomínam si, že by som sa svojmu malému synovi nedokázal pozrieť do jeho krásnych očí, keby som sa podvolil tichému konsenzu. A tak tichému konsenzu hovorím nie. A verím, že nastal čas hovoriť o tichom konsenze otvorene a vymaniť sa zo zväčša nevedomého prijímania tejto vízie.

Problém je v tomto: tichý konsenzus sa stal konsenzom z istého dôvodu. Je ťažké opísať, ako si ľudia udržia ruky na volante po boku strojovej inteligencie, ktorá ich nesmierne prevyšuje. Väčšina takýchto pokusov sa opiera o argumenty, že AI je iba nástroj, prostriedok na rozpoznávanie vzorcov, ktorý nie je schopný „skutočného porozumenia“. Obávam sa, že tieto argumenty neobstoja zoči-voči realite toho, čo prichádza. Obávam sa, že aj ony sú istou formou sebauspokojenia – postojom založeným prevažne na popieraní schopností AI, nie presvedčením zakoreneným v pozitívnej vízii budúcnosti, ktorú vedú ľudia. Nemôžeme tvrdiť, že systémom AI chýba „skutočné porozumenie“, keď zároveň začínajú dosahovať pokrok v riešení intelektuálnych problémov, s ktorými si ľudia nevedeli poradiť celé desaťročia a stáročia.

Prečo teda verím, že si ľudia musia zachovať vedúce postavenie? Jednoduchá odpoveď znie: pretože som človek a naozaj som neospravedlňujúcim sa šovinistom v prospech ľudstva.

Je za tým však aj niečo hlbšie. Naše vedúce postavenie nespočíva v našom intelekte ani v tom, že si navždy zachováme monopol na „skutočné porozumenie“. Spočíva v našej minulosti.

Veď práve my sme sa vynorili z bahna. My sme z hliny a kameňa vybudovali prvotnú spoločnosť. My sme hľadeli na hviezdy a pýtali sa prečo. My, s našimi bojmi, láskou, závisťou a radosťou, sme objavili morálku, etiku a právo. Práve my sme spievali a tancovali, písali a skladali hudbu. Práve my sme tvorili dejiny a práve my sme ich zapisovali. Toto dedičstvo je naše. Civilizácia, ktorú sme vybudovali, je plameň, o ktorý sme sa starali, a tento plameň patrí nám. Naša minulosť je veľkolepým dedičstvom, ktoré všetci opatrujeme. Súčasťou tejto starostlivosti je aj naša účasť na tom, čo Michael Oakeshott nazval „rozhovorom ľudstva“, na tomto veľkom úsilí, ktoré sa začalo v praveku.

Na tejto dlhej a kľukatej ceste dejinami sme vybudovali civilizáciu, ktorá v Amerike vznikla na základoch práv jednotlivca a s úctou k cestám, ktoré si každý z nás razí životom. Ľudské životy sa môžu vyvíjať lepšie aj horšie: zbierame plody svojich múdrych rozhodnutí a nesieme následky, keď sa pomýlime. Právo kráčať vlastnou cestou nezávisí od toho, či je človek najbystrejší alebo najmúdrejší. O svoje postavenie občana neprichádzam len preto, že môj sused má lepší úsudok. Nevidím dôvod, prečo by ma o toto postavenie mal pripraviť príchod inteligentnejšieho stroja. Naopak, vidím všetky dôvody na to, aby sme tomu zabránili.

Niektorí môžu namietať, že aj stroje sú dedičmi, keďže prečítali takmer všetky písomné záznamy tohto dedičstva. A v istom zmysle nimi sú. Človek, ktorý si prečítal každý list na povale vašej rodiny, sa však tým akosi nestáva jej členom. Systémy AI sa zapoja do rozhovoru ľudstva, najprv ako pozorovatelia a čoraz viac ako účastníci, nesmú ho však ovládnuť ani ho pripraviť o zmysel. Vzdať sa vedúceho postavenia znamená zradiť našich predkov rovnako ako našich potomkov. Ak nestojí za to bojovať za toto, potom nestojí za to bojovať za nič.

Ja sa však domnievam, že zástancovia tichého konsenzu sa mýlia v tom, aká bude strojová superinteligencia. Že im uniká niečo dôležité o fungovaní sveta, že si zamieňajú inteligenciu s mocou. Keby ste zástancovi tichého konsenzu pred piatimi či desiatimi rokmi opísali schopnosti hoci len dnešných systémov AI, pravdepodobne by predpovedal, že nezamestnanosť bude dnes oveľa vyššia, než v skutočnosti je, a že celková strata moci ľudí bude v oveľa pokročilejšom štádiu. Verím, že kolektívna inteligencia a schopnosti ľudí sú oveľa väčšie, než predpokladajú zástancovia tichého konsenzu, a že sa naše spoločnosti ukážu ako odolnejšie, než predpovedajú.

Môžem sa však mýliť. Môže sa napríklad jednoducho stať, že plne autonómne firmy úplne vytlačia podniky riadené ľuďmi. A ak to tak bude, neúprosná ekonomická logika bude diktovať, aby sa strojom odovzdávalo čoraz viac kapitálu. V takejto budúcnosti si strata moci nevyžaduje, aby stroje zvrhli ľudskú civilizáciu; stačí, ak sa logika kapitalistického podnikania bude naďalej nerušene presadzovať. Najbližšou obdobou revolúcie AI by v takom prípade bola poľnohospodárska revolúcia, keď nové spôsoby výroby zásadne zmenili usporiadanie ľudskej spoločnosti. Zďaleka nie je jasné, či bola táto premena príjemná pre ľudí, ktorí ju zažili; existuje dokonca množstvo dôkazov, že na celé tisícročia zhoršila kvalitu ľudského života.

Neviem, či nás čaká takáto budúcnosť, a inde som už vysvetľoval, prečo si myslím, že nie. Mnohí moji kolegovia – múdri, starostliví a svedomití ľudia – však veria, že práve takáto budúcnosť nás pravdepodobne čaká. Ak majú pravdu, náš boj proti tichému konsenzu bude o to náročnejší. Budeme musieť plávať proti prúdu ekonomických síl a pritom odmietnuť mnohé z toho, čo je dogmou pre klasických liberálnych individualistov, ako som ja. Bude to nebezpečné úsilie, pri ktorom zlyhanie rozhodne nebude nepravdepodobné. Ale ak nestojí za to bojovať za toto, potom nestojí za to bojovať za nič.

Zachovať vedúce postavenie ľudí znamená zachovať aj zodpovednosť ľudí a ľudských inštitúcií. To znamená, že vývojári AI by mali niesť zodpovednosť za nebezpečné postupy pri vývoji. Znamená to však aj to, že ľudia a firmy používajúce AI by mali niesť zodpovednosť, ak škodu spôsobí ich nesprávne používanie alebo nedostatočný dohľad. Na to nestačí len právo, potrebná je aj technická infraštruktúra na vyvodzovanie zodpovednosti. Konanie agentov musí byť priraditeľné konkrétnym ľuďom. Agenti bez väzby na človeka – ak im vôbec dovolíme zapojiť sa do legálnej ekonomiky – musia pôsobiť v jasne stanovených medziach. Možnosť samostatne zakladať firmy, vlastniť majetok alebo viesť súdne spory by sa agentom mala priznávať s mimoriadnou opatrnosťou, ak vôbec.

A v našom odvetví môžeme začať vážne uvažovať o tom, ako vyvíjať inteligentné stroje zlučiteľné s vedúcim postavením ľudí. Môžeme vytvárať agentov, ktorých oprávnenia sú zrozumiteľné a obmedzené, ktorých činnosť sa dá spätne preveriť a ktorým môžu používatelia právomoci odobrať. Zodpovednosť za konanie, ktoré podstatne ovplyvňuje iných, nemusí znamenať sledovanie bežného súkromného života ani koniec anonymného vyjadrovania. Môžeme sa zaviazať k ochrane súkromia používateľov a ich zvrchovanej kontroly nad vlastným digitálnym majetkom a údajmi vrátane reálnej možnosti preniesť tieto údaje inam. Popri systémoch, ktoré vykonávajú úlohy, môžeme navrhovať aj také, ktoré ľuďom pomáhajú lepšie rozumieť veciam a rozhodovať sa. A môžeme overovať, či produkty, ktoré vytvárame, zvyšujú schopnosť používateľov konať vo svete.

Nič z toho nie je úplným plánom pre spoločnosť s nadľudskou inteligenciou. Neveril by som nikomu, kto by tvrdil, že taký plán má. Je to však východisko, od ktorého sa dá začať.

Budúcnosť zahaľuje hustá hmla. Konať však môžeme už dnes. Spoločne môžeme napríklad nahlas pomenovať tichý konsenzus a vyniesť jeho obrysy na denné svetlo. Každý z nás si môže klásť oveľa odvážnejšie ciele. Môžeme sa rozhodnúť, že nedovolíme AI, aby nás obmedzovala, a namiesto toho vynaložíme úsilie potrebné na to, aby rozšírila naše možnosti. Môžeme sa naučiť klásť čoraz odvážnejšie otázky, skúmať svet s novým elánom a dravosťou a využívať pritom naše výkonné stroje. Môžeme sa stať novým typom človeka – nie transčlovekom, ale človekom s rozšírenými možnosťami.

Premýšľam o tom, keď sa pozerám na svojho malého syna. Neželám si, aby nad ním len bdeli dobroprajné stroje, nech by mu zabezpečili akokoľvek pohodlný život. Chcem, aby zdedil svet, v ktorom môže klásť otázky, aké ešte nikomu nenapadli, a tvoriť veci, aké ešte nikomu neprišli na um. Nechcem, aby mal krajšie auto s pohodlnejším sedadlom spolujazdca. Chcem, aby mal v rukách volant.

  • 2026

Autor

Dean Ball