Samo Altmano kalba Jungtinių Tautų Saugumo Taryboje

Šiandien OpenAI generalinis direktorius Samas Altmanas Jungtinių Tautų Saugumo Taryboje kalbėjo apie dirbtinį intelektą. Jis aptarė DI potencialą plėsti galimybes, būtinybę užtikrinti, kad galingas sistemas kontroliuotų žmonės, ir tarptautinio bendradarbiavimo DI saugos srityje poreikį.

Dėkoju, pone Pirmininke ir Ekscelencijos. Man didelė garbė būti čia ir galėti kalbėti su jumis visais šiuo svarbiu metu.

Apie dirbtinį intelektą kalbame jau ne vienus metus, tačiau pastarosiomis savaitėmis ir mėnesiais padėtis atrodo kitokia. Sparti modelių pažanga sutrumpino numatomus terminus, suteikė daugiau apčiuopiamų galimybių, tačiau kartu padidino sprendimų svarbą ir priartino riziką.

Turime pasirinkti. DI gali tapti nauju kūrybos ir atradimų Renesansu arba nauja sumaištį ir sukrėtimus keliančia pramonės revoliucija.

Renesansas buvo laikotarpis, kai nauji įrankiai, idėjos ir institucijos išplėtė žmonių suvokimą apie tai, ką jie gali nuveikti. Mūsų laikais tokį vaidmenį gali atlikti DI. Tikiu, kad žmonės geba daug daugiau, nei patys įsivaizduoja, tačiau juos varžė ribotos technologijos, kurios turėjo suteikti galių, bet užuot tai dariusios blaško ir dažnai pasiglemžia dėmesį.

Geriausia DI versija nėra skirta paversti žmones milžiniškos mašinos sraigteliais ar optimizuoti kiekvieną gyvenimo dalį taip, kad išnyktų visa, kas žmogiška. Ji turi suteikti žmonėms daugiau galimybių savarankiškai veikti vis sudėtingesniame pasaulyje: daugiau galimybių mokytis, kurti, atrasti, statyti ir dalyvauti. DI negali ir neturėtų automatizuoti daugelio dalykų.

DI turėtų būti kuriamas žmonėms, o ne vien tam, kad mašinos dėl savęs suktųsi greičiau. Kai kurie DI kūrėjų teiginiai tokie distopiški, kad primena prastų mokslinės fantastikos filmų siužetus.

Visa, kas taip galinga, sykiu kelia ir baimę. Šis metas sudėtingas, nes vienu metu jaučiame ir milžinišką potencialą, ir visiškai suprantamą nerimą.

Šie modeliai gali padėti žmonėms įgyti naujų žinių, kurti naujus vaistus, gerinti sveikatos priežiūrą ir švietimą bei kurti našesnę ekonomiką. Jie gali tapti naujais įrankiais, padedančiais žmonėms siekti svajonių ir įgyvendinti ambicijas, kurios šiandien atrodo nepasiekiamos. Paprasto žmogaus gyvenimas tapo nepalyginamai sudėtingesnis. DI gali tapti ir apsaugos nuo šio sudėtingumo priemone, ir precedento neturinčių atradimų bei inovacijų įrankiu.

Kita vertus, DI sistemoms tampant pajėgesnėms ir savarankiškesnėms, jos gali vystytis greičiau nei mūsų institucijos, sutelkti galią pernelyg mažai žmonių arba priimti žmonėms nebesuprantamus ir nebekontroliuojamus sprendimus.

Šis susirūpinimas tampa ypač svarbus artėjant prie sistemų, galinčių tobulinti save ir būsimas savo versijas – tai dažnai vadinama rekursyviuoju savęs tobulinimu. Vis labiau automatizuojant DI kūrimo procesą, DI pažanga gali sparčiai paspartėti. Šiuo metu būtinas ypatingas atsargumas.

Iš esmės pritariu profesoriui Bengio. Tik paminėsiu ne tris, o du dalykus: manau, kad DI pažanga gali pasukti dviem labai pavojingais keliais, kurių privalome išvengti.

Pirma, galime perleisti DI savo ateities kontrolę. Kyla pavojus, kad jis vystysis taip greitai, jog žmonės nebespės suprasti, kas vyksta, ar prireikus įsikišti. Akivaizdu, kad tai būtų siaubinga.

Pramonės atstovai negali prisiimti pernelyg didelės technologinės rizikos vien todėl, kad nauda atrodo milžiniška, o pažanga – pernelyg svarbi, kad ją būtų galima lėtinti. Noras konkurencinėse lenktynėse aplenkti kitas įmones nėra priežastis priimti neapgalvotus sprendimus. Taip pat nemanome esantys įtraukti į lenktynes, kuriose negalėtume sulėtinti tempo. Anksčiau savo iniciatyva jau buvome sulėtinę tempą. Taip elgsimės ir ateityje. Nenorime kurti sistemų – ir manome, kad svarbu, jog visi vengtų jas kurti, – kurioms negalime suteikti privalomų suderinimo, stebėsenos ir saugos garantijų.

Turime suprasti, ką šios sistemos daro, ir turėti svarių įrodymų, kad jos elgsis taip, kaip numato žmonės, net tapusios labai labai protingos. Tiesą sakant, ypač tada, kai jos taps labai labai protingos. Nesvarbu, ar žmonės katastrofos riziką vertina 10 %, 1 %, 12 % ar 0,1 %. Nė vienas iš šių lygių nė iš tolo nėra priimtinas. Neturėtume mokyti modelių, jei negalime pateikti itin svarių argumentų, kad sugebėsime išlaikyti juos žmonių kontroliuojamus.

Taigi tai vienas iš būdų, kaip viskas gali pakrypti bloga linkme. Kita vertus, šios sistemos gali sutelkti pernelyg daug galios pernelyg mažai žmonių. Nė vienas žmogus, įmonė ar šalis neturėtų galėti pasitelkti galingiausių DI modelių savo pasaulėžiūrai primesti visiems kitiems. Įmonė ar šalis, mananti, kad šią technologiją galima patikėti tik jai, tokiu įsitikinimu gali pateisinti beveik bet ką. Turime atmesti tokią logiką, net kai ji patogi kuriam nors veikėjui.

Tikiu, kad abi šias problemas galima išspręsti pragmatiškai. OpenAI į šiuos klausimus žvelgia turėdama aiškų tikslą: DI turėtų suteikti žmonėms daugiau galios valdyti savo gyvenimą. Daugiau laisvės gyventi taip, kaip jie nori. Daugiau galimybių spręsti dideles ir mažas problemas bei gerinti savo bendruomenių gyvenimą. Nenorime pakliūti į aklo optimizmo spąstus. Taip pat nenorime pasiduoti pražūtingų scenarijų nuotaikoms. Nukrypę į bet kurį kraštutinumą nesugebėsime sėkmingai įveikti laukiančių iššūkių, ypač dabar, kai pasaulis ir jo žmonės susiduria su milžiniškomis problemomis, kurias ši technologija gali padėti išspręsti. Todėl stengiamės eiti vidurio keliu tarp šių dviejų polių.

Mums tai reiškia tris principus.

Pirma, DI tampant vis pajėgesniam, žmonės turi išlikti su DI susijusių sprendimų centre. Suderinimas nėra abstraktus mokslinių tyrimų klausimas. Tai darbas, kuriuo užtikrinama, kad šias sistemas visada patikimai kontroliuotų žmonės, jos atspindėtų žmogiškąsias vertybes ir padėtų žmonėms kreipti tolesnę plėtrą. Nesiekiame ir negalime automatizuoti žmogaus sprendimų ar žmogiškųjų vertybių.

Antra, mokslo pažangą ir ekonomikos augimą turi kurti žmonės žmonių labui. DI turėtų padėti mokslininkams atrasti, gydytojams gydyti pacientus, mokytojams mokyti, verslininkams steigti įmones, bendruomenėms spręsti anksčiau neįveikiamas problemas ir atlikti daugybę kitų darbų. Žmonijos pažangos istorija nėra apie tai, kaip įrankiai atima iš žmonių galimybę veikti savarankiškai. Ji yra apie tai, kaip tinkami įrankiai išplečia žmonių galimybes, ir tikiu, kad šiuo atveju jos išsiplės daug labiau, nei manome esant įmanoma.

Trečia, ši technologija turi suteikti galių kiekvienam žmogui. Puikią ateitį sukurs žmonės, atskleidžiantys savo potencialą ir kuriantys vertę sau, savo bendruomenėms, šalims ir visam pasauliui. Galbūt esame vieni iš šios technologijos kūrėjų, tačiau ne mes esame šios istorijos didvyriai. Mūsų vaidmuo – suteikti galimybių žmonėms visame pasaulyje ir pasitikėti nuostabia žmonijos įgūdžių bei gebėjimų galia.

Dabar turime modelių, galinčių atrasti žinių, kurių anksčiau neturėjome. Pažvelkime į matematikos srityje pasiektą pažangą. Prieš trejus metus mūsų modeliai neblogai sprendė pradinės mokyklos matematikos uždavinius. Prieš dvejus metus jie jau gana gerai sprendė vidurinių mokyklų matematikos konkursų uždavinius. Praėjusią vasarą pasiekėme aukso medalio lygį prestižiškiausiame tarptautiniame matematikos konkurse. O vos prieš kelias šios vasaros savaites vienas iš mūsų modelių išsprendė vieną iš Tūkstantmečio premijos uždavinių – Navjė ir Stokso lygtis.

Šios lygtys naudojamos projektuojant orlaivius, prognozuojant orus ir tiriant kraujotaką. Matematikos uždavinius sprendžiame ne vien dėl jų pačių, o tam, kad suteiktume žmonėms galimybę atrasti naujų žinių ir pasitelkti jas sveikatos priežiūrai gerinti, gyvenimo lygiui kelti ir kiekvieno žmogaus potencialui visame pasaulyje plėsti. Dar tiek daug neatrasta.

Tačiau labai svarbu, kad įmonės nepakeistų demokratinio proceso.

Jei DI turi būti demokratiškas, svarbiausių sprendimų negali vienos priimti San Fransisko laboratorijos. Jie turi būti formuojami demokratiniais procesais ir žmonėms atskaitingų, jiems tarnaujančių vyriausybių.

Tarptautiniu lygmeniu tam reikės bendradarbiavimo. Istorijoje būta laikotarpių, kai tarpusavyje konkuruojančios ir ne visada viena kitai palankios šalys vis dėlto susivienydavo dėl bendrų interesų ir visuotinės gerovės, susidūrusios su galinga nauja technologija. Manome, kad dabar turi būti vienas iš tokių laikotarpių.

Mums reikia mechanizmo, kuris derintų nacionalinius ir tarptautinius priešakinio DI standartus: gebėjimų matavimo, rizikos vertinimo, apsaugos priemonių pakankamumo nustatymo ir reikšmingos žmogaus priežiūros išsaugojimo sistemoms tampant savarankiškesnėms standartus.

Mums reikia bendrų standartų, kad šalys galėtų palyginti įrodymus, patikrinti atitiktį ir vienodai suprasti bei apibūdinti tai, kas vyksta.

Mums reikia tikslaus ir operatyvaus pranešimo apie incidentus, taip pat jų klasifikavimo ir pranešimo protokolų, kad pasaulis galėtų pasimokyti iš nesėkmių, kol jos nevirto katastrofomis.

Taip pat reikia saugių kanalų, kuriais vyriausybės, ypatingos svarbos infrastruktūros operatoriai ir technikos ekspertai galėtų dalytis informacija apie naujas pažeidžiamas vietas ir grėsmes.

Žinoma, šie standartai neturėtų įtvirtinti esamų rinkos dalyvių padėties ar teikti pirmenybės vienam verslo modeliui prieš kitą. Jie turi būti palankūs atvirų ir uždarų modelių kūrėjams, naujiems rinkos dalyviams ir įsitvirtinusioms laboratorijoms, nacionalinei valdžiai ir tarptautiniam bendradarbiavimui. Kiekviena vyriausybė turėtų pati nuspręsti, kaip įtraukti standartus į savo teisinę sistemą. Tačiau mums visiems bus geriau, jei pasauliniu mastu susitarsime, kokie turėtų būti patikimi įrodymai, tinkamos apsaugos priemonės ir veiksminga priežiūra.

Neturime visų atsakymų ir esame visiškai atviri geresnėms idėjoms. Esame pasirengę dirbti su jumis visais ir iš visų jėgų ieškoti kelio pirmyn.

Esame kryžkelėje. Vienas kelias veda į pasaulį, kuriame galia sutelkta nedaugelio rankose, sprendimai priimami neskaidriai, o žmonės jaučiasi taip, tarsi svarbiausia jų gyvenimo technologija būtų kuriama ne jiems, o primetama iš šalies. Kitas kelias veda į pasaulį, kuriame DI tarnauja žmonėms, nes žmonės per demokratines institucijas padeda spręsti, kaip jis turėtų būti plėtojamas ir valdomas; kuriame mokslo pažanga gerina tikrų žmonių gyvenimą; daugiau žmonių gali dalyvauti kuriant ateitį; o ši technologija ir toliau suteikia asmenims bei bendruomenėms daugiau galios gyventi taip, kaip jie pasirenka. Tai ateitis, kurioje atsiskleidžia potencialas, netrūksta jaudulio ir nuostabos.

Ir būtent tokią ateitį, mūsų įsitikinimu, verta kurti. Labai ačiū.