Prejav Sama Altmana v Bezpečnostnej rade OSN

Generálny riaditeľ OpenAI Sam Altman dnes vystúpil v Bezpečnostnej rade OSN s prejavom o umelej inteligencii. Hovoril o potenciáli AI rozširovať príležitosti, o význame zachovania ľudskej kontroly nad výkonnými systémami a o potrebe medzinárodnej spolupráce v oblasti bezpečnosti AI.

Ďakujem, pán predseda, vážené excelencie. Je pre mňa cťou byť tu a môcť k vám všetkým prehovoriť v tejto dôležitej chvíli.

O umelej inteligencii hovoríme už roky, no v posledných týždňoch a mesiacoch je situácia iná. Rýchly pokrok modelov skrátil očakávaný časový horizont, prínosy sa stali hmatateľnejšími, no zároveň sú naliehavejšie aj dôsledky a riziká.

Stojíme pred rozhodnutím. AI môže priniesť novú renesanciu tvorivosti a objavovania alebo novú priemyselnú revolúciu plnú otrasov a chaosu.

Renesancia bola obdobím, keď nové nástroje, myšlienky a inštitúcie rozšírili predstavy ľudí o tom, čo dokážu. AI môže túto úlohu zohrať v našej dobe. Verím, že ľudia dokážu oveľa viac, než si myslia. Brzdili ich však obmedzené technológie, ktoré ich mali posilniť, no namiesto toho ich rozptyľujú a často oberajú o pozornosť.

Najlepšia podoba AI nemá z ľudí robiť kolieska v obrovskom stroji ani optimalizovať každú oblasť života dovtedy, kým sa z nej nevytratí ľudskosť. Má ľuďom poskytnúť väčšiu možnosť konať v čoraz zložitejšom svete: lepšie sa učiť, tvoriť, objavovať, budovať a zapájať sa. Je veľa vecí, ktoré AI nedokáže – a ani by nemala – automatizovať.

AI by mala byť vytvorená pre ľudí, nie iba preto, aby sa stroje bezúčelne krútili rýchlejšie. Niektoré výroky ľudí pracujúcich na vývoji AI sú také dystopické, že znejú ako zápletka zlého sci-fi filmu.

Čokoľvek s takouto mocou vzbudzuje aj obavy. Táto chvíľa je zložitá, pretože súčasne vnímame obrovský potenciál aj úplne pochopiteľné obavy.

Tieto modely môžu ľuďom pomôcť získavať nové poznatky, vyvíjať nové lieky, skvalitňovať zdravotnú starostlivosť a vzdelávanie či budovať produktívnejšie ekonomiky. Môžu byť novými nástrojmi, ktoré ľuďom umožnia plniť si sny a ambície, ktoré sa im dnes zdajú nedosiahnuteľné. Život bežného človeka sa stal dramaticky zložitejším. AI môže byť nástrojom ochrany pred touto zložitosťou a zároveň nástrojom bezprecedentného objavovania a inovácií.

Na druhej strane by čoraz schopnejšie a autonómnejšie AI systémy mohli napredovať rýchlejšie než naše inštitúcie, sústrediť moc v príliš malom počte rúk alebo prijímať rozhodnutia, ktorým už ľudia nerozumejú a nemajú ich pod kontrolou.

Táto obava je mimoriadne dôležitá s blížiacim sa príchodom systémov, ktoré dokážu zlepšovať seba aj svoje budúce verzie, čo sa často označuje ako rekurzívne sebazdokonaľovanie. S rastúcou automatizáciou tvorby AI by sa tempo jej pokroku mohlo prudko zrýchliť. Táto chvíľa si vyžaduje mimoriadnu opatrnosť.

S profesorom Bengiom do veľkej miery súhlasím. Spomeniem však dva namiesto troch scenárov, v ktorých by sa pokrok v AI mohol uberať veľmi zlým smerom, a ktorým sa musíme vyhnúť.

Po prvé, mohli by sme mohli stratiť kontrolu nad budúcnosťou AI. Hrozí, že bude napredovať tak rýchlo, až ľudia prestanú chápať, čo sa deje, alebo v prípade potreby nebudú schopní zasiahnuť. To by bolo, samozrejme, hrozné.

Toto odvetvie nesmie prijímať neprimerané technologické riziká len preto, že prínosy sú obrovské a technológia sa zdá príliš dôležitá na to, aby sa jej vývoj spomalil. Snaha poraziť konkurenciu nie je dôvodom na unáhlené rozhodnutia. Ani si nemyslíme, že sme uviazli v pretekoch, v ktorých nedokážeme spomaliť. V minulosti sme už z vlastného rozhodnutia spomalili. Urobíme tak aj v budúcnosti. Nechceme vytvárať systémy – a považujeme za dôležité, aby sa ich tvorbe vyhýbali všetci –, pri ktorých nedokážeme poskytnúť nevyhnutné záruky zosúladenia, monitorovateľnosti a bezpečnosti.

Musíme rozumieť tomu, čo tieto systémy robia, a mať presvedčivé dôkazy, že budú konať podľa zámerov ľudí, aj keď sa stanú veľmi, veľmi inteligentnými. Vlastne najmä vtedy, keď sa stanú veľmi, veľmi inteligentnými. Nezáleží na tom, či ľudia odhadujú riziko katastrofy na 10 %, 1 %, 12 % alebo 0,1 %. Ani jedna z týchto úrovní nie je ani zďaleka prijateľná. Nemali by sme trénovať modely, pri ktorých nedokážeme mimoriadne presvedčivo preukázať, že ich budeme schopní udržať pod ľudskou kontrolou.

To je teda jeden zo spôsobov, ako sa veci môžu vyvinúť zle. Na opačnej strane by tieto systémy mohli sústrediť priveľa moci v príliš malom počte rúk. Žiadny jednotlivec, firma ani krajina by nemali mať možnosť využívať najvýkonnejšie AI modely na vnucovanie svojho pohľadu na svet všetkým ostatným. Firma alebo krajina presvedčená, že túto technológiu možno zveriť iba jej, môže týmto presvedčením ospravedlniť takmer čokoľvek. Takéto uvažovanie musíme odmietnuť, aj keď je pre niektorého aktéra výhodné.

Verím, že pri oboch týchto otázkach existuje pragmatická cesta vpred. V OpenAI pristupujeme k týmto otázkam s jasným cieľom: AI by mala ľuďom poskytnúť väčšiu kontrolu nad vlastným životom. Viac slobody žiť podľa vlastných predstáv. Väčšiu schopnosť riešiť malé aj veľké problémy a zlepšovať svoje komunity. Nechceme sa chytiť do pasce slepého optimizmu. Rovnako sa nechceme chytiť do pasce katastrofizmu. Ak sa necháme strhnúť ktorýmkoľvek z týchto extrémov, nepomôže nám to úspešne zvládnuť výzvy, ktoré pred nami stoja. Platí to najmä v čase, keď svet a jeho obyvatelia čelia obrovským problémom, ktoré táto technológia môže pomôcť riešiť. Preto sa medzi týmito dvoma pólmi usilujeme ísť strednou cestou.

Pre nás to znamená tri zásady.

Po prvé, s rastúcimi schopnosťami AI musia ľudia zostať ústrednou súčasťou rozhodovania o nej. Zosúladenie nie je abstraktnou výskumnou otázkou. Ide o úsilie zabezpečiť, aby tieto systémy spoľahlivo zostali pod ľudskou kontrolou, odrážali ľudské hodnoty a pomáhali ľuďom usmerňovať ďalšie fázy vývoja. Nesnažíme sa – a ani nesmieme – automatizovať ľudský úsudok či ľudské hodnoty.

Po druhé, vedecký pokrok a hospodársky rast musia vytvárať ľudia a musia slúžiť ľuďom. AI by mala pomáhať výskumníkom objavovať, lekárom liečiť pacientov, učiteľom vzdelávať žiakov, podnikateľom zakladať firmy a komunitám riešiť problémy, ktoré sa zdali nezvládnuteľné – a dokáže toho oveľa viac. Príbeh nepretržitého ľudského pokroku nie je príbehom nástrojov, ktoré ľudí zbavujú možnosti konať. Je príbehom správnych nástrojov, vďaka ktorým ľudia dokážu viac. A verím, že v tomto smere zájdeme oveľa ďalej, než dnes považujeme za možné.

Po tretie, táto technológia musí posilniť každého jednotlivca. Skvelá budúcnosť vzíde z toho, že ľudia naplnia svoj potenciál a budú vytvárať hodnoty pre seba, svoje komunity, svoje krajiny aj celý svet. Možno patríme medzi tvorcov tejto technológie, nie sme však hrdinami tohto príbehu. Našou úlohou je vytvárať príležitosti pre ľudí na celom svete a dôverovať zázračnej sile ľudských schopností a nadania.

Dnes už máme modely schopné objavovať poznatky, ku ktorým sme predtým nemali prístup. Pozrime sa na pokrok, ktorý sme zaznamenali v matematike. Pred tromi rokmi v lete naše modely celkom zvládali matematiku na úrovni základnej školy. Pred dvoma rokmi v lete už boli pomerne dobré v stredoškolských matematických súťažiach. Minulé leto sme v najprestížnejšej medzinárodnej matematickej súťaži dosiahli úroveň zlatej medaily. A len pred niekoľkými týždňami toto leto jeden z našich modelov vyriešil jeden z problémov tisícročia – Navierove-Stokesove rovnice.

Tieto rovnice sa používajú pri konštrukcii lietadiel, predpovedaní počasia a skúmaní prúdenia krvi. Matematické problémy neriešime pre ne samotné, ale preto, aby sme ľuďom umožnili objavovať nové poznatky a využívať ich na skvalitnenie zdravotnej starostlivosti, zvýšenie životnej úrovne a rozšírenie možností každého človeka na svete. Stále zostáva veľmi veľa neobjaveného.

Je však veľmi dôležité, aby firmy nenahrádzali demokratický proces.

Ak má byť AI demokratická, najdôležitejšie rozhodnutia nemôžu prijímať iba laboratóriá v San Franciscu. Musia sa formovať prostredníctvom demokratických procesov a vlád, ktoré sa zodpovedajú ľuďom, ktorým slúžia.

Na medzinárodnej úrovni si to bude vyžadovať spoluprácu. V dejinách už nastali chvíle, keď sa navzájom si konkurujúce krajiny, ktoré si nie vždy boli blízke, napriek tomu spojili v záujme spoločných cieľov a všeobecného dobra zoči-voči novej, mocnej technológii. Sme presvedčení, že toto musí byť jedna z takých chvíľ.

Potrebujeme mechanizmus vzájomne sa dopĺňajúcich národných a medzinárodných štandardov pre prelomovú AI: štandardov na meranie schopností, posudzovanie rizík, určovanie dostatočnosti ochranných opatrení a zachovanie zmysluplného ľudského dohľadu s rastúcou autonómnosťou systémov.

Potrebujeme spoločné štandardy, aby krajiny mohli porovnávať dôkazy, overovať dodržiavanie pravidiel a spoločne rozumieť tomu, čo sa deje, a hovoriť o tom rovnakým jazykom.

Potrebujeme presné a rýchle hlásenie incidentov, ako aj protokoly ich klasifikácie a oznamovania, aby sa svet mohol poučiť zo zlyhaní skôr, než prerastú do katastrof.

Potrebujeme tiež bezpečné komunikačné kanály medzi vládami, prevádzkovateľmi kritickej infraštruktúry a technickými odborníkmi na zdieľanie informácií o vznikajúcich zraniteľnostiach a nových hrozbách.

Tieto štandardy by, samozrejme, nemali upevňovať postavenie etablovaných subjektov ani zvýhodňovať jeden obchodný model pred iným. Musia podporovať vývojárov otvorených aj uzavretých modelov, nových účastníkov aj etablované laboratóriá, právomoci jednotlivých štátov aj medzinárodnú spoluprácu. Každá vláda by mala rozhodnúť, ako tieto štandardy začlení do vlastného právneho systému. Všetci však získame, ak sa na celosvetovej úrovni dokážeme zhodnúť na tom, ako majú vyzerať kvalitné dôkazy, účinné ochranné opatrenia a náležitý dohľad.

Nemáme všetky odpovede a sme veľmi otvorení akýmkoľvek lepším nápadom. Sme pripravení spolupracovať s vami všetkými a zo všetkých síl hľadať cestu vpred.

Stojíme na križovatke. Jedna cesta vedie do sveta, kde sa moc sústreďuje v rukách niekoľkých aktérov, rozhodnutia sú neprehľadné a ľudia majú pocit, že najdôležitejšia technológia ich života je niečo, čo sa im vnucuje. Druhá cesta vedie do sveta, kde AI slúži ľuďom, pretože tí prostredníctvom demokratických inštitúcií pomáhajú rozhodovať o jej vývoji a usmerňovať ju, kde vedecký pokrok zlepšuje skutočné životy, kde sa na budúcnosti môže podieľať viac ľudí a kde táto technológia naďalej poskytuje jednotlivcom aj komunitám väčšiu možnosť žiť podľa vlastných predstáv. Je to budúcnosť naplneného potenciálu, nadšenia a úžasu.

A veríme, že takúto budúcnosť sa oplatí budovať. Ďakujem vám veľmi pekne.