OpenAI

18. listopadu 2026

Éra inteligence

Tichý konsenzus

Autor: Dean Ball

Poznámka autora: Dnešní esej vychází z přednášky, kterou autor nedávno přednesl na Harvardu v rámci cyklu Vik-Bailey Lecture. Tento příspěvek vyjadřuje autorovy vlastní názory, nikoli nutně názory OpenAI či jejích dalších zaměstnanců.



Děkuji, že jste dnes přišli. Právě teď se odehrává jedna z nejvýznamnějších sérií událostí v dějinách kybernetické bezpečnosti: zveřejňování kritických bezpečnostních zranitelností, kterému někteří říkají „černý říjen“. Tyto zranitelnosti v části klíčové infrastruktury internetu objevily průkopnické systémy AI a jejich zveřejnění je součástí naléhavého úsilí o posílení bezpečnosti softwaru po celém světě. Tento měsíc je naléhavým tématem právě tohle. Příští měsíc přijde jiné. Odhalování softwarových zranitelností je schopnost s dvojím využitím, k níž systémy AI dospěly dnes. Brzy ale přijde další a vyvolá vlastní naléhavou snahu využít její dobrou stránku dřív, než útočníci zneužijí tu špatnou. Všechna tato naléhavá témata se budou nevyhnutelně překrývat a velká část toho, čemu dnes říkáme „politika v oblasti AI“, bude pravděpodobně vznikat uprostřed tohoto shonu.

Dnes jsem s vámi ale nepřišel mluvit o naléhavých záležitostech a bezprostředních reakcích na ně. Chci s vámi místo toho mluvit o tom, kam se věci mohou ubírat v širším měřítku. Uprostřed takového náporu naléhavých problémů může být těžké přemýšlet o abstraktnějších a zdánlivě vzdálených otázkách. Na těchto otázkách však záleží. Bez představy o tom, k jaké budoucnosti chceme dlouhodobě směřovat a jaké se chceme vyhnout, totiž můžeme dospět k celkovému výsledku, který si nepřejeme, i kdyby každé jednotlivé rozhodnutí na cestě k němu bylo moudré.

Často se říká, že technologickému odvětví chybí pozitivní vize toho, kam nás jeho výtvory dovedou. Nesouhlasím: San Francisco i další centra podnikání jsou plná pozitivních vizí naší technologické budoucnosti. Lidé skutečně vyvíjejí létající auta, autonomní vozidla, roboty nejrůznějších velikostí a tvarů, jadernou fúzi a samozřejmě i obecnou umělou inteligenci. Chybí nám spíše pozitivní vize naší institucionální budoucnosti: jak to všechno bude fungovat?

To ovšem neznamená, že by žádná vize budoucího uspořádání institucí neexistovala. Bohužel vizi, s níž se setkávám nejčastěji, bych za pozitivní neoznačil. Pokud ji vůbec někdo vysloví, bývá to šeptem. Častěji však zůstává nevyřčená a lze ji vyčíst jen mezi řádky. Říkám jí tichý konsenzus.

Představte si firmu, která dokáže dělat téměř vše bez lidské práce. Její systémy AI provádějí výzkum a vývoj, přicházejí s objevy, vyjednávají smlouvy, přidělují kapitál a zajišťují výrobu. Předpokládejme, že je v tom všem lepší než její lidští konkurenti, i když si tito lidé při práci pomáhají AI. Pokud zapojení lidí firmu jen zpomaluje, budou mít její lidští manažeři a vlastníci silnou motivaci pustit volant z rukou. Pokud se to stane v celé světové ekonomice, logika tržní konkurence přiměje lidi, aby se vzdali svého vůdčího postavení v globálním obchodě. Časem může trh začít uspokojovat požadavky strojů stejně jako potřeby a přání lidí, nebo dokonce více.

Co se stane potom, může kdokoli jen hádat. Možná by z toho lidé měli obrovský prospěch. Pokud by si stroje, které nás podřídily, lidí hluboce vážily pro ně samotné, mohli bychom těžit z jejich práce a z bohatství, které vytvářejí. Anebo se my lidé, zbaveni ekonomické a stále více i politické moci, budeme ve světě stávat čím dál méně významnými a čím dál méně schopnými ovlivňovat směr světového dění. Možná by mimořádnou moc a bohatství držela hrstka lidí na úkor širokých mas zbavených vlivu, nebo bychom tento osud sdíleli všichni. Bez ohledu na podrobnosti tvoří společné jádro tichého konsenzu konec vůdčího postavení člověka ve světě, jak ho známe.

Žádný z těchto scénářů nevyžaduje, aby se AI vzbouřila proti svým tvůrcům. Ani nevyžaduje, aby její vlastníci chtěli lidi zbavit moci. Každé jednotlivé rozhodnutí předat pravomoci může samo o sobě dávat smysl. Dohromady však tato rozhodnutí mohou vytvořit svět, v němž se lidé vzdali skutečné kontroly nad velkou částí naší civilizace. I kdybychom mimořádně pokročili v řešení zapeklitých otázek bezpečnosti AI a jejího sladění s lidskými hodnotami, mohli bychom se přesto ocitnout v područí nového druhu strojové entity. Ve šťastné verzi budoucnosti, jak by nám tichý konsenzus vyprávěl, bude tato entita laskavá – stroj, kterému leží na srdci nejlepší zájmy lidí. Stroj plný láskyplné milosti, jak se píše v Brautiganově básni.

Právě těmto strojům podle tichého konsenzu předáme klíče od našich firem a stále více i od našich vládních institucí. Budou je řídit účinněji, efektivněji, s větší moudrostí a lepším úsudkem, než jakých jsme my lidé schopni. A tak časem sundáme ruce z volantu a přenecháme řízení milujícím strojům. Budeme jako pasažéři v autě – velmi pěkném, možná podstatně luxusnějším, než o jakém dnes dokážeme snít –, ale přesto jen pasažéři, kteří nemají kontrolu nad tím, kam vůz jede. Pokud vůbec budeme pracovat, půjde většinou o jakýsi rituál či předstírání, spíš o hru, která má náš druh zabavit.

Někteří pozorovatelé namítnou, že tichý konsenzus vychází z mylného předpokladu, protože my lidé nemáme svět pod kontrolou ani dnes. A tuto námitku stojí za to mít na paměti: neexistuje žádné „my“, které rozhoduje o tom, co se má dělat. Žijeme v radikálně decentralizovaném světě, ať se nám to líbí, nebo ne. Ani tento postřeh by nás ale neměl ukolébat: ačkoli „my“ svět „neovládáme“, lidstvo jako celek má ve světovém dění vůdčí postavení. Žádný živočišný druh nám v boji o kontrolu nad zdroji vážně nekonkuruje. Měli bychom odmítnout myšlenkově nedbalou představu, že lidé mohou svět řídit shora. Neměli bychom si však toto odmítnutí plést s popíráním zjevné skutečnosti, že lidstvo je jako celek hlavním aktérem na Zemi.

Někteří lidé ochotní vyslovit tichý konsenzus nahlas věří, že jde o skutečně dobrou budoucnost. Jiní tomu nevěří, ale smířili se s její nevyhnutelností. Tichý konsenzus není konsenzem proto, že by všichni souhlasili s tím, že je dobrý, ani nejde o tajný plán lidí, kteří vyvíjejí AI. Shoda panuje jednoduše v tom, že ztráta vůdčího postavení lidstva ve světovém dění je nevyhnutelná, nebo alespoň že je velmi těžké představit si jinou vizi budoucnosti, která by skutečně obstála tváří v tvář superinteligentním strojům. Člověk může takový výsledek upřímně odmítat, a přesto si jen těžko představovat věrohodnou alternativu. Výmluvné je právě to, že tento konsenzus zůstává většinou nevyslovený, nanejvýš zaznívá polohlasem .

Tichým konsenzem pohrdám. Odmítám, aby se lidstvo vzdalo svého vůdčího postavení. Pocit nevyhnutelnosti se mi příčí. Připomínám si, že kdybych se tichému konsenzu podvolil, nemohl bych se svému malému synovi podívat do jeho krásných očí. A tak tichému konsenzu říkám ne. A věřím, že nastal čas o tichém konsenzu otevřeně mluvit a vytrhnout se z převážně nevědomého přijímání této vize.

Problém je v tom, že tichý konsenzus se konsenzem nestal náhodou. Je těžké popsat, jak si lidé udrží místo za volantem vedle strojové inteligence, která je nesmírně převyšuje. Většina pokusů o takový popis stojí na argumentech, že AI je pouhý nástroj, prostředek k rozpoznávání vzorců, který není schopen „skutečného porozumění“. Obávám se, že tyto argumenty tváří v tvář tomu, co přichází, neobstojí. Obávám se, že i ony jsou formou sebeuspokojení – postojem založeným především na popírání schopností AI, nikoli přesvědčením vycházejícím z pozitivní vize budoucnosti vedené lidmi. Nelze tvrdit, že systémům AI chybí „skutečné porozumění“, pokud zároveň začnou dosahovat pokroku v intelektuálních problémech, jejichž řešení lidem unikalo po desetiletí a staletí.

Proč tedy věřím, že si lidé musí zachovat vůdčí postavení? Jednoduchá odpověď zní: protože jsem člověk a skutečně jsem lidský šovinista, který se za to neomlouvá.

Je v tom ale i něco hlubšího. Naše vůdčí postavení nespočívá v našem intelektu ani v tom, že si navždy udržíme monopol na „skutečné porozumění“. Spočívá naopak v naší minulosti.

Vždyť jsme to my, kdo se vynořil z bláta. My, kdo z hlíny a kamene vybudoval prvotní společnost. My, kdo vzhlížel ke hvězdám a ptal se proč. My, se svými sváry a láskou, závistí a radostí, kdo objevil morálku, etiku a právo. My jsme zpívali a tančili, psali a skládali hudbu. My jsme tvořili dějiny a my jsme je sepsali. Tento odkaz je náš. Civilizace, kterou jsme vybudovali, je plamen, o nějž jsme pečovali, a ten plamen patří nám. Naše minulost je velkolepé dědictví, jehož správci jsme my všichni. Součástí této péče je i naše účast na tom, co Michael Oakeshott nazval „rozhovorem lidstva“ – onom velkém úsilí, které započalo v pravěku.

Během této dlouhé a spletité minulosti jsme vytvořili civilizaci, která byla v Americe založena na právech jednotlivce a na úctě k cestám, jež si každý z nás razí světem. Lidské životy se mohou vyvíjet k lepšímu i k horšímu: sklízíme plody svých moudrých rozhodnutí a neseme následky svých chyb. Právo jít vlastní cestou není podmíněno tím, že je člověk nejchytřejší nebo nejmoudřejší. O své postavení občana nepřicházím jen proto, že má soused lepší úsudek. Nevidím důvod, proč by mě o ně měl připravit příchod inteligentnějšího stroje. Naopak vidím všechny důvody tomu zabránit.

Někdo může namítnout, že stroje jsou také dědici, protože přečetly téměř celý písemný záznam tohoto dědictví. A v jistém smyslu jimi jsou. Ale člověk, který přečetl všechny dopisy na půdě vašeho rodinného domu, se tím ještě nestává členem vaší rodiny. Systémy AI se k rozhovoru lidstva připojí nejprve jako pozorovatelé a stále více i jako účastníci. Nesmějí ho však ovládnout ani zbavit smyslu. Vzdát se vůdčího postavení znamená zradit naše předky stejně jako naše potomky. Jestliže nestojí za to bojovat za tohle, pak nestojí za to bojovat za nic.

Já osobně věřím, že se zastánci tichého konsenzu mýlí v tom, jaká bude strojová superinteligence. Že jim uniká něco podstatného o fungování světa, že zaměňují inteligenci za moc. Kdybyste zastánci tichého konsenzu před pěti či deseti lety popsali schopnosti třeba jen dnešních systémů AI, nejspíš by předpověděl, že nezaměstnanost bude nyní mnohem vyšší, než ve skutečnosti je, a že ztráta lidské moci v širokém slova smyslu bude mnohem dál, než ve skutečnosti je. Věřím, že kolektivní inteligence a schopnosti lidstva jsou mnohem větší, než zastánci tichého konsenzu předpokládají, a že naše společnosti prokážou větší odolnost, než předpovídají.

Ale mohu se mýlit. Může se například prostě stát, že plně autonomní firmy v konkurenčním boji zcela vytlačí lidské podnikání. A pokud tomu tak bude, pak neúprosná ekonomická logika povede k tomu, že strojům bude svěřováno stále více kapitálu. V takové budoucnosti ztráta lidské moci nevyžaduje, aby stroje svrhly lidskou civilizaci. Stačí, aby logika kapitalistického podnikání dál působila neztenčenou silou. Nejbližší obdobou revoluce AI by zde byla zemědělská revoluce, kdy nové způsoby výroby zásadně proměnily uspořádání lidské společnosti. Zdaleka není jasné, zda byla tato proměna pro lidi, kteří ji prožívali, příjemná. Existuje naopak řada důkazů, že na celá tisíciletí zhoršila kvalitu lidského života.

Nevím, zda nás čeká právě taková budoucnost, a jinde jsem ostatně vysvětloval, proč si myslím, že ne. Mnozí z mých kolegů – chytří, ohleduplní a svědomití lidé – však věří, že taková naše budoucnost pravděpodobně bude. Pokud mají pravdu, bude náš boj proti tichému konsenzu o to náročnější. Budeme muset plavat proti ekonomickému proudu a přitom odmítnout mnohé z toho, co je pro klasické liberální individualisty, jako jsem já, dogmatem. Bude to nebezpečné úsilí a neúspěch nebude nijak nepravděpodobný. Ale jestliže nestojí za to bojovat za tohle, pak nestojí za to bojovat za nic.

Zachovat si vůdčí postavení znamená zachovat odpovědnost lidí a lidských institucí. To znamená, že vývojáři AI mají nést odpovědnost za nebezpečné postupy při vývoji. Znamená to však také, že lidé a firmy využívající AI mají nést odpovědnost, pokud škodu způsobí její nesprávné použití nebo nedostatečný dohled z jejich strany. K tomu nestačí jen zákony, je zapotřebí i technická infrastruktura pro vyvozování odpovědnosti. Jednání agentů musí být přiřaditelné konkrétním lidem. Agenti bez vazby na člověka – pokud jim vůbec má být dovoleno zapojit se do legální ekonomiky – musí podléhat ochranným omezením. Jakékoli oprávnění agentů samostatně zakládat firmy, vlastnit majetek či vést soudní spory by mělo být udělováno s mimořádnou obezřetností, pokud vůbec.

A v mém oboru můžeme začít vážně uvažovat o tom, jak vytvářet inteligentní stroje slučitelné s vůdčím postavením člověka. Můžeme vytvářet agenty, jejichž oprávnění jsou srozumitelná a omezená, jejichž jednání lze podrobit auditu a jejichž pravomoci mohou uživatelé odebrat. Odpovědnost za jednání, které zásadně ovlivňuje druhé, nemusí znamenat sledování běžného soukromého života ani konec anonymního vyjadřování. Můžeme se zavázat k ochraně soukromí uživatelů a jejich svrchované kontroly nad vlastním digitálním majetkem a daty, včetně skutečné možnosti přenést tato data jinam. Vedle systémů, které plní úkoly, můžeme navrhovat i takové, které lidem pomáhají věcem porozumět a rozhodovat se. A můžeme ověřovat, zda produkty, které vytváříme, posilují schopnost uživatelů jednat ve světě.

Nic z toho není úplným plánem pro společnost s nadlidskou inteligencí. Nevěřil bych nikomu, kdo by tvrdil, že takový plán má. Ale někde začít musíme.

Budoucnost halí hustá mlha. Přesto můžeme jednat už dnes. Společně můžeme pro začátek tichý konsenzus nahlas pojmenovat a vynést jeho obrysy na denní světlo. Každý z nás si může klást mnohem smělejší cíle. Můžeme se rozhodnout, že nedovolíme AI, aby nás omezovala, a místo toho vynaložit úsilí potřebné k tomu, aby rozvíjela naše možnosti. Můžeme se učit klást stále odvážnější otázky, zkoumat svět s novým zápalem a dravostí a využívat při tom naše výkonné stroje. Můžeme se stát novým typem člověka – nikoli transčlověkem, ale člověkem s rozšířenými možnostmi.

Myslím na to, když se dívám na svého malého syna. Nepřeji si pro něj jen to, aby nad ním bděly laskavé stroje, ať už by mu mohly zajistit jakkoli pohodlný život. Chci, aby zdědil svět, v němž bude moci klást otázky, které nikoho nenapadlo položit, a tvořit věci, které nikoho nenapadlo vytvořit. Nechci, aby měl hezčí auto s pohodlnějším sedadlem spolujezdce. Chci, aby seděl za volantem.

  • 2026

Autor

Dean Ball