OpenAI

23. september 2026

HeimsmálÖryggi

Ávarp Sams Altmans í öryggisráði Sameinuðu þjóðanna

Í dag ávarpaði Sam Altman, forstjóri OpenAI, öryggisráð Sameinuðu þjóðanna um gervigreind. Hann ræddi möguleika gervigreindar til að fjölga tækifærum, mikilvægi þess að öflug kerfi lúti stjórn manna og þörfina á alþjóðlegu samstarfi um öryggi gervigreindar.

Ávarpið eins og það var flutt

Þakka yður, herra forseti, og ykkur, háttvirtir fulltrúar. Það er mér heiður að vera hér og fá að ávarpa ykkur öll á þessum mikilvægu tímum.

Við höfum rætt gervigreind árum saman, en á síðustu vikum og mánuðum hefur eitthvað breyst. Örar framfarir líkana hafa þjappað tímarammanum saman, gert ávinninginn áþreifanlegri og um leið aukið vægi og nálægð áhættunnar.

Við stöndum frammi fyrir vali. Gervigreind getur annaðhvort orðið eins konar ný endurreisn sköpunar og uppgötvana eða ný iðnbylting umróts og ringulreiðar.

Endurreisnin var tímabil þar sem ný verkfæri, nýjar hugmyndir og nýjar stofnanir víkkuðu hugmyndir fólks um eigin getu. Gervigreind getur gegnt því hlutverki á okkar tímum. Ég tel að fólk búi yfir mun meiri getu en það sjálft gerir sér grein fyrir, en takmörkuð tækni hefur haldið aftur af því — tækni sem átti að efla fólk en truflar það þess í stað og rænir það oft athyglinni.

Besta útgáfan af gervigreind snýst ekki um að gera fólk að tannhjólum í risavaxinni vél eða fínstilla hvern þátt lífsins þar til hið mannlega hverfur. Hún snýst um að veita fólki aukið sjálfræði í sífellt flóknari heimi: meiri getu til að læra, skapa, uppgötva, byggja og taka þátt. Margt getur gervigreind ekki gert sjálfvirkt — og ætti ekki að gera það.

Gervigreind á að vera byggð fyrir fólk, ekki aðeins til að láta vélarnar snúast hraðar sjálfra sín vegna. Sumt af því sem fólk sem vinnur að þróun gervigreindar hefur sagt er svo dystópískt að það hljómar eins og söguþráður lélegrar vísindaskáldsögumyndar.

Allt sem býr yfir slíkum mætti vekur líka óhug. Þetta eru flóknir tímar þar sem við skynjum í senn gríðarlega möguleika og mjög skiljanlegan kvíða.

Þessi líkön geta hjálpað fólki að afla nýrrar þekkingar, þróa ný lyf, bæta heilbrigðisþjónustu og menntun og byggja upp afkastameiri hagkerfi. Þau geta orðið ný verkfæri sem gera fólki kleift að elta drauma og metnaðarmál sem nú virðast utan seilingar. Daglegt líf hins almenna borgara hefur orðið gríðarlega miklu flóknara. Gervigreind getur verið vörn gegn þessari flækju ekki síður en fordæmalaust verkfæri uppgötvana og nýsköpunar.

Á hinn bóginn gætu gervigreindarkerfi, eftir því sem þau verða öflugri og sjálfstæðari, þróast hraðar en stofnanir okkar ráða við, safnað valdi á of fáar hendur eða tekið ákvarðanir sem fólk hvorki skilur né stjórnar lengur.

Þessar áhyggjur verða sérstaklega brýnar þegar við nálgumst kerfi sem geta bætt sig sjálf og síðari útgáfur sínar, það sem oft er nefnt endurkvæm sjálfsbetrun. Eftir því sem þróun gervigreindar verður sjálfvirkari gæti framþróun hennar hraðað sér verulega. Þessir tímar kalla á ítrustu varúð.

Ég er að mestu sammála Bengio prófessor. Þó nefni ég tvær leiðir í stað þriggja — ég tel að framþróun gervigreindar geti farið mjög illa á tvo vegu sem við verðum að forðast.

Í fyrsta lagi gætum við misst stjórn á framtíðinni til gervigreindar. Hættan er sú að þróunin verði svo hröð að fólk geti ekki lengur fylgst með því sem gerist eða gripið inn í þegar þörf krefur. Það væri augljóslega skelfilegt.

Geirinn má ekki sætta sig við of mikla tæknilega áhættu aðeins vegna þess að ávinningurinn er svo mikill og framfarirnar virðast of mikilvægar til að hægja á þeim. Samkeppnin um að verða á undan öðrum fyrirtækjum réttlætir ekki vanhugsaðar ákvarðanir. Við teljum okkur heldur ekki föst í kapphlaupi sem kemur í veg fyrir að við getum hægt á okkur. Við höfum áður hægt á þróuninni að eigin frumkvæði. Við munum gera það aftur í framtíðinni. Við viljum ekki byggja kerfi — og teljum mikilvægt að allir forðist að byggja kerfi — sem við getum ekki tryggt að séu samstillt, vöktuð og örugg eins og nauðsyn krefur.

Við verðum að skilja hvað þessi kerfi eru að gera og hafa sterk rök fyrir því að þau geri það sem fólk ætlast til, jafnvel þegar þau verða mjög, mjög greind. Raunar sérstaklega þegar þau verða mjög, mjög greind. Það skiptir ekki máli hvort fólk metur hættuna á hamförum 10%, 1%, 12% eða 0,1%. Ekkert þessara áhættustiga er nokkurn veginn ásættanlegt. Við ættum ekki að þjálfa líkön nema við getum fært einstaklega sterk rök fyrir því að unnt verði að halda þeim undir stjórn manna.

Þetta er því ein leið sem þróunin getur farið úrskeiðis. Í hina áttina gætu þessi kerfi safnað of miklu valdi á of fáar hendur. Enginn einstaklingur, ekkert fyrirtæki og ekkert ríki ætti að geta notað öflugustu gervigreindarlíkönin til að þröngva eigin heimsmynd upp á alla aðra. Fyrirtæki eða ríki sem telur að því einu sé treystandi fyrir þessari tækni getur notað þá sannfæringu til að réttlæta nánast hvað sem er. Við verðum að hafna þeirri röksemdafærslu, jafnvel þegar hún hentar tilteknum aðila.

Ég tel að raunhæf leið sé fær milli þessara tveggja sjónarmiða. Hjá OpenAI nálgumst við þessar spurningar með skýrt markmið: Gervigreind á að veita fólki aukin völd yfir eigin lífi. Meira frelsi til að lifa eins og það sjálft kýs. Meiri getu til að leysa stór og smá vandamál og bæta samfélög sín. Við viljum ekki falla í gildru blindrar bjartsýni. Við viljum heldur ekki falla í gildru svart­sýni og hamfaraspádóma. Það hjálpar okkur ekki að takast farsællega á við áskoranirnar fram undan ef við látum dragast að öðrum hvorum öfgunum, sérstaklega nú þegar heimurinn og íbúar hans glíma við svo gríðarlegar áskoranir sem þessi tækni getur hjálpað okkur að leysa. Þess vegna reynum við að feta meðalveginn milli þessara tveggja póla.

Fyrir okkur felur það í sér þrjár meginreglur.

Í fyrsta lagi verður fólk áfram að vera í forgrunni ákvarðanatöku um gervigreind eftir því sem geta hennar eykst. Samstilling er ekki aðeins fræðilegt rannsóknarefni. Hún felst í að tryggja að þessi kerfi lúti áfram áreiðanlega stjórn manna, endurspegli mannleg gildi og hjálpi fólki að stýra næstu skrefum þróunarinnar. Við erum ekki að reyna að gera mannlega dómgreind eða mannleg gildi sjálfvirk — og megum það ekki.

Í öðru lagi verða vísindaframfarir og hagvöxtur að vera sprottin frá fólki og því til hagsbóta. Gervigreind á að hjálpa vísindafólki að uppgötva, læknum að annast sjúklinga, kennurum að kenna, frumkvöðlum að stofna fyrirtæki og samfélögum að leysa vandamál sem áður virtust óleysanleg — og margt fleira. Saga framfara mannkyns snýst ekki um að verkfæri komi í stað sjálfræðis fólks. Hún snýst um að réttu verkfærin auki getu fólks og ég tel að sú þróun muni ná mun lengra en við álítum nú mögulegt.

Í þriðja lagi verður þessi tækni að efla hvern einstakling. Björt framtíð verður til þegar fólk nýtir hæfileika sína og skapar verðmæti fyrir sjálft sig, samfélög sín, lönd sín og heiminn allan. Við kunnum að vera meðal þeirra sem byggja þessa tækni, en við erum ekki hetjur þessarar sögu. Hlutverk okkar er að gera fólki um allan heim kleift að njóta sín og treysta á töfra mannlegrar færni og hæfileika.

Nú höfum við líkön sem geta aflað þekkingar sem við höfum aldrei áður haft. Lítum á framfarirnar sem orðið hafa í stærðfræði. Fyrir þremur sumrum réðu líkönin okkar þokkalega við stærðfræði á grunnskólastigi. Fyrir tveimur sumrum stóðu þau sig nokkuð vel í stærðfræðikeppnum framhaldsskóla. Síðasta sumar náðum við árangri sem jafngildir gullverðlaunum í virtustu alþjóðlegu stærðfræðikeppninni. Og fyrir aðeins nokkrum vikum í sumar leysti eitt líkana okkar eitt af þúsaldarverðlaunavandamálunum, Navier–Stokes-jöfnurnar.

Þessar jöfnur eru notaðar við hönnun flugvéla, veðurspár og rannsóknir á blóðflæði. Við leysum ekki stærðfræðidæmi þeirra sjálfra vegna, heldur til að gera fólki kleift að afla nýrrar þekkingar og nýta hana til að bæta heilbrigðisþjónustu, auka lífsgæði og efla möguleika allra um heim allan. Enn á eftir að uppgötva ótal margt.

En það er afar mikilvægt að fyrirtæki komi ekki í stað lýðræðislegra ferla.

Ef gervigreind á að vera lýðræðisleg mega mikilvægustu ákvarðanirnar ekki eingöngu vera teknar á rannsóknarstofum í San Francisco. Þær verða að mótast í lýðræðislegum ferlum og af stjórnvöldum sem bera ábyrgð gagnvart fólkinu sem þau þjóna.

Á alþjóðavettvangi krefst þetta samvinnu. Í sögunni hafa komið tímar þegar ríki sem keppa sín á milli og eru ekki alltaf sérlega vinveitt hafa samt tekið höndum saman um sameiginlega hagsmuni og almannahag andspænis öflugri nýrri tækni. Við teljum að nú verði að vera einn slíkra tíma.

Við þurfum kerfi fyrir innlenda og alþjóðlega staðla um háþróaða gervigreind sem styðja hver við annan: staðla til að mæla getu, meta áhættu, ákvarða hvort öryggisráðstafanir dugi og tryggja raunverulegt mannlegt eftirlit eftir því sem kerfin verða sjálfstæðari.

Við þurfum sameiginlega staðla svo ríki geti borið saman gögn, sannreynt að kröfur séu uppfylltar og búið yfir sameiginlegu tungutaki og skilningi á því sem er að gerast.

Við þurfum skjóta og nákvæma tilkynningu atvika, ásamt verklagsreglum um flokkun og tilkynningar, svo heimurinn geti lært af mistökum áður en þau verða að hamförum.

Við þurfum einnig öruggar samskiptaleiðir milli stjórnvalda, rekstraraðila mikilvægra innviða og tæknisérfræðinga til að miðla upplýsingum um nýja veikleika og ógnir.

Þessir staðlar mega augljóslega hvorki festa núverandi markaðsráðandi aðila í sessi né hygla einu viðskiptalíkani umfram annað. Þeir verða að styðja þróunaraðila opinna og lokaðra líkana, nýja aðila jafnt sem rótgrónar rannsóknarstofur, innlent ákvörðunarvald og alþjóðlegt samstarf. Hver ríkisstjórn ætti að ákveða hvernig hún innleiðir staðlana í eigið réttarkerfi. En við stöndum öll betur að vígi ef við getum komið okkur saman um hvað teljist traust gögn, öflugar öryggisráðstafanir og gott eftirlit á heimsvísu.

Við höfum ekki öll svörin og tökum fagnandi öllum betri hugmyndum. Við erum reiðubúin að vinna með ykkur öllum og leggja okkur fram um að finna bestu leiðina áfram.

Við stöndum á tímamótum. Önnur leiðin liggur til heims þar sem völd safnast á fárra hendur, ákvarðanir eru ógagnsæjar og fólki finnst mikilvægasta tækni ævi þess vera þröngvað upp á það. Hin leiðin liggur til heims þar sem gervigreind þjónar fólki vegna þess að fólk tekur, í gegnum lýðræðislegar stofnanir, þátt í að ákveða hvernig hún skuli þróast og stýra þróun hennar; þar sem vísindaframfarir bæta líf fólks í raun; þar sem fleiri geta tekið þátt í að móta framtíðina; og þar sem þessi tækni heldur áfram að veita einstaklingum og samfélögum aukinn mátt til að lifa eins og þau kjósa. Þetta er framtíð full af nýttum tækifærum, eftirvæntingu og undrun.

Og þetta er framtíðin sem við teljum að sé þess virði að byggja upp. Kærar þakkir.

Höfundur

OpenAI