Projev Sama Altmana v Radě bezpečnosti OSN

Generální ředitel OpenAI Sam Altman dnes promluvil o umělé inteligenci před Radou bezpečnosti OSN. Hovořil o potenciálu AI rozšiřovat příležitosti, o významu zachování lidské kontroly nad výkonnými systémy a o potřebě mezinárodní spolupráce na bezpečnosti AI.

Děkuji vám, pane předsedo, vážené excelence. Je mi ctí, že zde mohu být a promluvit k vám všem v této důležité době.

O umělé inteligenci hovoříme již léta, ale v posledních týdnech a měsících se situace zdá být jiná. Rychlý pokrok modelů zkrátil očekávaný časový horizont, učinil přínosy hmatatelnějšími, ale také přiblížil význam rozhodnutí a související rizika.

Stojíme před volbou. AI může přinést novou renesanci tvořivosti a objevování nebo novou průmyslovou revoluci plnou otřesů a chaosu.

Renesance byla dobou, kdy nové nástroje, myšlenky a instituce rozšířily představy lidí o tom, čeho mohou dosáhnout. AI může tuto úlohu plnit v naší době. Věřím, že lidé jsou mnohem schopnější, než si myslí. Brzdí je však omezené technologie, které je měly posílit, ale místo toho je rozptylují a často jim kradou pozornost.

Nejlepší podoba AI nemá z lidí dělat kolečka v obrovském stroji ani optimalizovat každou oblast života tak dlouho, až z ní zmizí vše lidské. Má lidem dát větší možnost rozhodovat o vlastním životě ve stále složitějším světě: více možností učit se, tvořit, objevovat, budovat a zapojovat se. Existuje mnoho věcí, které AI nemůže – a ani by neměla – automatizovat.

AI by měla být vytvářena pro lidi, ne jen proto, aby se soukolí strojů samoúčelně otáčelo rychleji. Některé výroky lidí, kteří pracují na vývoji AI, jsou natolik dystopické, že znějí jako zápletka špatného sci-fi filmu.

Cokoli tak mocného zároveň vzbuzuje obavy. Tato chvíle je složitá, protože současně vnímáme obrovský potenciál i zcela pochopitelné obavy.

Tyto modely mohou lidem pomáhat získávat nové poznatky, vyvíjet nové léky, zlepšovat zdravotní péči a vzdělávání a budovat produktivnější ekonomiky. Mohou se stát novými nástroji, s nimiž lidé budou uskutečňovat sny a ambice, které se dnes zdají nedosažitelné. Život běžného člověka se stal nesmírně složitějším. AI může být nejen nástrojem bezprecedentního objevování a inovací, ale také prostředkem obrany proti této složitosti.

Na druhou stranu by schopnější a autonomnější systémy AI mohly postupovat rychleji než naše instituce, soustředit moc v rukou příliš malé skupiny lidí nebo činit rozhodnutí, kterým už lidé nerozumějí a nemají je pod kontrolou.

Tato obava nabývá na významu zejména s tím, jak se blížíme systémům schopným zdokonalovat sebe sama i své budoucí verze, což se často označuje jako rekurzivní sebezdokonalování. S rostoucí automatizací procesu vývoje AI by se tempo jejího pokroku mohlo prudce zrychlit. Tato chvíle vyžaduje mimořádnou opatrnost.

S profesorem Bengiem do značné míry souhlasím. Uvedu však dvě možnosti místo tří – podle mě existují dva způsoby, jak by se pokrok AI mohl velmi nebezpečně zvrtnout, a oběma musíme zabránit.

Zaprvé bychom mohli ztratit kontrolu nad budoucností ve prospěch AI. Hrozí, že bude postupovat tak rychle, že lidé už nebudou schopni sledovat, co se děje, ani v případě potřeby zasáhnout. To by samozřejmě bylo strašné.

Odvětví nesmí jít do příliš velkých technologických rizik jen proto, že přínosy jsou obrovské a zpomalení se zdá být nepřijatelné. Snaha předstihnout ostatní firmy v konkurenčním závodě není důvodem k ukvapeným rozhodnutím. Ani se nedomníváme, že jsme zajatci závodu, v němž bychom nemohli zpomalit. V minulosti jsme už z vlastní iniciativy zpomalili. A uděláme to i v budoucnu. Nechceme vytvářet systémy (a považujeme za důležité, aby je nevytvářel nikdo), u nichž nedokážeme poskytnout nezbytné záruky sladění, monitorovatelnosti a bezpečnosti.

Musíme rozumět tomu, co tyto systémy dělají, a mít přesvědčivé důkazy, že budou jednat podle záměrů lidí, i když budou velmi, velmi inteligentní. Vlastně zejména tehdy, až budou velmi, velmi inteligentní. Nezáleží na tom, zda lidé odhadují riziko katastrofy na 10 %, 1 %, 12 % nebo 0,1 %. Žádná z těchto úrovní není ani zdaleka přijatelná. A neměli bychom trénovat modely, u nichž nemůžeme naprosto přesvědčivě doložit, že je dokážeme udržet pod lidskou kontrolou.

To je tedy jeden způsob, jak se věci mohou pokazit. Druhým rizikem je, že by tyto systémy mohly soustředit příliš mnoho moci v rukou příliš malé skupiny lidí. Žádný jednotlivec, firma ani země by neměli mít možnost využít nejvýkonnější modely AI k vnucování svého pohledu na svět všem ostatním. Firma nebo země přesvědčená, že tuto technologii lze svěřit pouze jí, může tímto přesvědčením ospravedlnit téměř cokoli dalšího. Tuto logiku musíme odmítnout, i když se některému aktérovi zrovna hodí.

Věřím, že mezi těmito dvěma přístupy vede pragmatická cesta. V OpenAI přistupujeme k těmto otázkám s jasným cílem: AI by měla lidem dát větší moc nad vlastním životem. Více svobody žít tak, jak chtějí. Větší schopnost řešit malé i velké problémy a zlepšovat své komunity. Nechceme upadnout do pasti slepého optimismu. Stejně tak nechceme upadnout do pasti katastrofického pesimismu. Pokud se necháme strhnout kterýmkoli z těchto extrémů, nepomůže nám to úspěšně zvládnout výzvy, které před námi stojí. Zvlášť nyní, kdy svět a jeho obyvatelé čelí obrovským problémům, s jejichž řešením může tato technologie pomoci. Snažíme se proto najít střední cestu mezi těmito dvěma póly.

Pro nás to znamená tři zásady.

Zaprvé, s rostoucími schopnostmi AI musí lidé zůstat ústředním prvkem rozhodování o ní. Sladění není abstraktní výzkumná otázka. Jde o úsilí zajistit, aby tyto systémy spolehlivě zůstaly pod lidskou kontrolou, odrážely lidské hodnoty a pomáhaly lidem určovat další fáze vývoje. Nesnažíme se a ani nesmíme automatizovat lidský úsudek či lidské hodnoty.

Zadruhé, vědecký pokrok a hospodářský růst musí vznikat díky lidem a sloužit lidem. AI by měla pomáhat vědcům objevovat, lékařům léčit pacienty, učitelům vzdělávat žáky, podnikatelům zakládat firmy a komunitám řešit problémy, které se zdály neřešitelné – a mnoho dalšího. Dějiny lidského pokroku nejsou příběhem nástrojů, které nahrazují schopnost člověka jednat. Jsou příběhem správných nástrojů, které rozšiřují lidské schopnosti. A věřím, že tentokrát to zajde mnohem dál, než si dnes dokážeme představit.

Zatřetí, tato technologie musí posílit postavení každého člověka. Skvělá budoucnost vznikne díky lidem, kteří naplní svůj potenciál a budou vytvářet hodnoty pro sebe, své komunity, své země i celý svět. Možná patříme mezi tvůrce této technologie, ale nejsme hrdiny tohoto příběhu. Naší úlohou je dát lidem po celém světě nové možnosti a důvěřovat kouzlu lidských dovedností a schopností.

Nyní máme modely schopné objevovat poznatky, které jsme nikdy dříve neměli. Vezměme si pokrok, jehož jsme dosáhli v matematice. Před třemi lety v létě naše modely docela zvládaly matematiku základní školy. Před dvěma lety v létě už byly poměrně dobré ve středoškolských matematických soutěžích. Loni v létě jsme v nejprestižnější mezinárodní matematické soutěži dosáhli úrovně zlaté medaile. A letos v létě, teprve před několika týdny, jeden z našich modelů vyřešil jeden z problémů tisíciletí – Navierovy–Stokesovy rovnice.

Tyto rovnice se používají při navrhování letadel, předpovídání počasí a zkoumání proudění krve. Matematické problémy neřešíme samoúčelně, ale proto, abychom lidem umožnili objevovat nové poznatky a využívat je ke zlepšení zdravotní péče, zvyšování životní úrovně a rozšiřování potenciálu všech lidí na světě. Ještě je toho tolik, co můžeme objevit.

Je však velmi důležité, aby firmy nenahrazovaly demokratický proces.

Má-li být AI demokratická, nejdůležitější rozhodnutí nemohou přijímat pouze laboratoře v San Francisku. Musí je utvářet demokratické procesy a vlády odpovědné lidem, kterým slouží.

Na mezinárodní úrovni to bude vyžadovat spolupráci. V historii už nastaly chvíle, kdy se země, které spolu soupeří a nemají se vždy příliš v lásce, přesto dokázaly spojit tváří v tvář nové účinné technologii, aby hájily společné zájmy a obecné blaho. Jsme přesvědčeni, že taková chvíle musí nastat právě teď.

Potřebujeme mechanismus vzájemně se doplňujících národních a mezinárodních standardů pro průkopnickou AI: standardů pro měření schopností, posuzování rizik, určování dostatečnosti ochranných opatření a zachování smysluplného lidského dohledu s rostoucí autonomií systémů.

Potřebujeme společné standardy, aby země mohly porovnávat důkazy, ověřovat dodržování pravidel a sdílet jazyk i porozumění tomu, co se děje.

Potřebujeme přesné a rychlé hlášení incidentů a protokoly pro jejich klasifikaci a oznamování, aby se svět mohl poučit ze selhání dříve, než přerostou v katastrofy.

A potřebujeme zabezpečené kanály, jejichž prostřednictvím si vlády, provozovatelé kritické infrastruktury a techničtí odborníci budou sdělovat nově vznikající zranitelnosti a hrozby.

Tyto standardy by samozřejmě neměly upevňovat postavení zavedených subjektů ani zvýhodňovat jeden obchodní model před jiným. Musí podporovat vývojáře otevřených i uzavřených modelů, nové subjekty i zavedené laboratoře, pravomoci jednotlivých států i mezinárodní spolupráci. Každá vláda by měla rozhodnout, jak standardy začlenit do svého právního řádu. Všem nám však prospěje, pokud se na celosvětové úrovni shodneme, jak mají vypadat kvalitní důkazy, ochranná opatření a dohled.

Nemáme odpovědi na všechno a jsme velmi otevření jakýmkoli lepším nápadům. Jsme připraveni spolupracovat s vámi všemi a ze všech sil hledat cestu vpřed.

Stojíme na rozcestí. Jedna cesta vede ke světu, v němž se koncentruje moc, rozhodování je neprůhledné a lidé mají pocit, že nejdůležitější technologie jejich života je něco, co se děje bez jejich přičinění. Druhá cesta vede ke světu, v němž AI slouží lidem, protože ti prostřednictvím demokratických institucí pomáhají rozhodovat o jejím vývoji a směřování; v němž vědecký pokrok zlepšuje skutečné životy, více lidí se může podílet na utváření budoucnosti a tato technologie nadále dává jednotlivcům i komunitám větší možnost žít podle vlastních představ. Je to budoucnost naplněného potenciálu, nadšení a úžasu.

A právě takovou budoucnost podle nás stojí za to vybudovat. Mnohokrát vám děkuji.