Sam Altmani kõne ÜRO Julgeolekunõukogus
Täna esines OpenAI tegevjuht Sam Altman ÜRO Julgeolekunõukogu ees tehisintellekti teemal. Ta rääkis tehisintellekti võimalusest avardada inimeste väljavaateid, võimsate süsteemide inimeste kontrolli all hoidmise tähtsusest ning rahvusvahelise koostöö vajadusest tehisintellekti ohutuse tagamisel.
Tänan teid, härra eesistuja ja ekstsellentsid. Mul on au olla siin ja kõnelda teie kõigiga sel tähtsal ajal.
Oleme tehisintellektist rääkinud juba aastaid, kuid viimastel nädalatel ja kuudel tundub olukord teistsugune. Mudelite kiire areng on muutnud ajakava kokkusurutumaks ja võimalikud hüved käegakatsutavamaks, kuid toonud ka kaalul oleva ja riskid vahetumalt esile.
Meie ees seisab valik. Tehisintellekt võib tuua kas uue loovuse ja avastuste renessansi või uue tööstusrevolutsiooni koos murrangute ja kaosega.
Renessanss oli aeg, mil uued tööriistad, ideed ja institutsioonid avardasid inimeste ettekujutust sellest, milleks nad võimelised on. Tehisintellekt võib täita sama rolli meie ajastul. Usun, et inimesed on palju võimekamad, kui nad ise arvavad, kuid neid on tagasi hoidnud piiratud tehnoloogia, mis pidi neile rohkem võimalusi andma, ent hoopis hajutab tähelepanu ja sageli röövib selle.
Tehisintellekti parim võimalik versioon ei muuda inimesi hiiglasliku masina hammasratasteks ega optimeeri elu iga tahku seni, kuni inimlikkus kaob. See annab inimestele üha keerulisemas maailmas rohkem tegutsemisvabadust: rohkem võimalusi õppida, luua, avastada, ehitada ja osaleda. On palju asju, mida tehisintellekt ei saa ega tohigi automatiseerida.
Tehisintellekt tuleb luua inimeste heaks, mitte pelgalt selleks, et masinavärki iseenese pärast kiiremini käitada. Mõned tehisintellekti arendajate väljaütlemised on olnud nii düstoopilised, et kõlavad nagu halva ulmefilmi süžee.
Kõik nii võimas mõjub ühtlasi hirmutavalt. Praegune hetk on keeruline, sest tunneme korraga nii tohutut potentsiaali kui ka täiesti mõistetavat ärevust.
Need mudelid võivad aidata inimestel avastada uusi teadmisi, luua uusi ravimeid, parandada tervishoidu ja haridust ning rajada tootlikumat majandust. Need võivad anda inimestele uued tööriistad praegu kättesaamatuna tunduvate unistuste ja püüdluste teostamiseks. Tavainimese jaoks on elu muutunud tohutult keerulisemaks. Tehisintellekt võib kaitsta meid selle keerukuse eest sama hästi, kui see võib olla enneolematute avastuste ja innovatsiooni tööriist.
Teisalt võivad üha võimekamaks ja autonoomsemaks muutuvad tehisintellektisüsteemid areneda meie institutsioonidest kiiremini, koondada võimu liiga väheste kätte või teha otsuseid, mida inimesed enam ei mõista ega kontrolli.
See mure muutub eriti oluliseks, kui läheneme süsteemidele, mis suudavad täiustada nii ennast kui ka oma tulevasi versioone – seda nimetatakse sageli rekursiivseks enesetäiustamiseks. Tehisintellekti loomise automatiseerudes võib selle arengutempo kiiresti kiireneda. Praegune hetk nõuab äärmist ettevaatust.
Olen professor Bengioga üldjoontes nõus. Kuigi nimetan kolme asemel kaks võimalust, kuidas tehisintellekti areng võib väga halvasti minna ja mida peame vältima.
Esiteks võime kaotada kontrolli tuleviku üle tehisintellektile. Oht seisneb selles, et areng toimub nii kiiresti, et inimesed ei suuda enam toimuvat jälgida ega vajaduse korral sekkuda. See oleks ilmselgelt kohutav.
Valdkond ei tohi võtta liiga suuri tehnoloogilisi riske üksnes seetõttu, et võimalikud hüved on tohutud ja areng tundub aeglustamiseks liiga oluline. Soov konkurentsis teisi ettevõtteid edestada ei õigusta tormakaid otsuseid. Samuti ei usu me, et oleme lõksus võidujooksus, kus meil pole võimalik arengut aeglustada. Oleme varem omal algatusel tempot aeglustanud. Teeme seda ka tulevikus. Me ei taha luua süsteeme – ja peame oluliseks, et keegi neid ei looks –, mille puhul ei suudeta anda vajalikke tagatisi joondamise, jälgitavuse ja ohutuse kohta.
Peame mõistma, mida need süsteemid teevad, ning meil peavad olema veenvad tõendid, et need toimivad inimeste kavatsuste kohaselt isegi siis, kui muutuvad väga-väga nutikaks. Tegelikult eriti siis, kui need muutuvad väga-väga nutikaks. Pole tähtis, kas inimesed hindavad katastroofiohuks 10%, 1%, 12% või 0,1%. Ükski neist tasemetest ei ole vähimalgi määral vastuvõetav. Samuti ei tohiks me treenida mudeleid, mille kohta ei saa esitada äärmiselt veenvaid tõendeid, et suudame neid inimeste kontrolli all hoida.
See on üks viis, kuidas asjad võivad valesti minna. Teine oht on see, et need süsteemid võivad koondada liiga palju võimu liiga väheste kätte. Ühelgi inimesel, ettevõttel ega riigil ei tohiks olla võimalik kasutada kõige võimsamaid tehisintellektimudeleid oma maailmavaate pealesurumiseks kõigile teistele. Ettevõte või riik, kes usub, et seda tehnoloogiat võib usaldada ainult tema kätte, saab selle veendumusega õigustada peaaegu kõike. Peame sellise loogika tagasi lükkama isegi siis, kui see on mõnele osalisele kasulik.
Usun, et mõlemast probleemist viib läbi pragmaatiline tee. OpenAI lähtub nende küsimuste käsitlemisel selgest eesmärgist: tehisintellekt peaks andma inimestele rohkem võimu oma elu üle. Rohkem vabadust elada nii, nagu nad soovivad. Rohkem võimalusi lahendada suuri ja väikeseid probleeme ning edendada oma kogukondi. Me ei taha langeda pimeda optimismi lõksu. Samuti ei taha me langeda hukatusmeeleolude lõksu. Kumbagi äärmusesse kaldumine ei aita meil eesseisvaid probleeme edukalt lahendada, eriti ajal, mil maailm ja selle elanikud seisavad silmitsi tohutute katsumustega, mida see tehnoloogia võib aidata lahendada. Seepärast püüame nende kahe äärmuse vahel käia keskteed.
Meie jaoks tähendab see kolme põhimõtet.
Esiteks peavad inimesed jääma tehisintellekti arenedes selle otsustusprotsesside keskmesse. Joondamine ei ole abstraktne uurimisküsimus. See tähendab tööd selle nimel, et need süsteemid püsiksid kindlalt inimeste kontrolli all, kajastaksid inimlikke väärtusi ja aitaksid inimestel järgmisi arenguetappe suunata. Me ei püüa ega tohi automatiseerida inimeste otsustusvõimet ega inimlikke väärtusi.
Teiseks peavad teaduse arengu ja majanduskasvu hüved sündima inimeste looduna ja inimeste heaks. Tehisintellekt peaks aitama teadlastel teha avastusi, arstidel ravida patsiente, õpetajatel õpetada õpilasi, ettevõtjatel asutada ettevõtteid ja kogukondadel lahendada seni kättesaamatuna tundunud probleeme – ning palju muudki. Inimkonna pideva arengu lugu ei seisne selles, et tööriistad võtavad inimestelt tegutsemisvõime. See seisneb selles, et õiged tööriistad muudavad inimesed võimekamaks, ning usun, et see areng jõuab palju kaugemale, kui praegu võimalikuks peame.
Kolmandaks peab see tehnoloogia andma igale inimesele rohkem võimalusi. Suurepärane tulevik sünnib sellest, kui inimesed teostavad oma potentsiaali ja loovad väärtust nii endale, oma kogukonnale ja riigile kui ka kogu maailmale. Me võime olla selle tehnoloogia rajajate seas, kuid meie ei ole selle loo kangelased. Meie ülesanne on anda inimestele kõikjal maailmas tegutsemisvõimalused ning usaldada inimkonna oskuste ja võimete imelist jõudu.
Meil on nüüd mudelid, mis suudavad avastada teadmisi, mida meil pole kunagi varem olnud. Mõelgem matemaatikas nähtud edusammudele. Kolm suve tagasi said meie mudelid põhikooli matemaatikaga enam-vähem hakkama. Kaks suve tagasi olid need juba päris head keskkooli matemaatikavõistluste ülesannetes. Eelmisel suvel jõudsime maailma mainekaimal matemaatikavõistlusel kuldmedali tasemele. Ja kõigest mõne nädala eest sel suvel lahendas üks meie mudelitest ühe millenniumiprobleemi – Navier’–Stokesi võrrandid.
Neid võrrandeid kasutatakse lennukite projekteerimisel, ilma ennustamisel ja verevoolu uurimisel. Me ei lahenda matemaatikaülesandeid pelgalt nende endi pärast, vaid selleks, et aidata inimestel avastada uusi teadmisi ning kasutada neid tervishoiu parandamiseks, elatustaseme tõstmiseks ja kõigi inimeste võimaluste avardamiseks kogu maailmas. Avastada on veel tohutult palju.
Kuid on väga oluline, et ettevõtted ei asendaks demokraatlikku protsessi.
Kui tehisintellekt peab olema demokraatlik, ei saa kõige olulisemaid otsuseid langetada üksnes San Francisco laborites. Neid tuleb kujundada demokraatlike protsesside kaudu ja valitsuste poolt, kes vastutavad inimeste ees, keda nad teenivad.
Rahvusvahelisel tasandil nõuab see koostööd. Ajaloos on olnud aegu, mil omavahel konkureerivad ja teineteisesse mitte alati kuigi hästi suhtuvad riigid on võimsa uue tehnoloogia esilekerkimisel siiski ühiste huvide ja üldise hüve nimel kokku tulnud. Usume, et praegu peab olema üks neist kordadest.
Vajame mehhanismi, mis tagaks üksteist täiendavad riiklikud ja rahvusvahelised tipptasemel tehisintellekti standardid: standardid võimekuse mõõtmiseks, riskide hindamiseks, kaitsemeetmete piisavuse kindlakstegemiseks ning sisulise inimjärelevalve säilitamiseks sedamööda, kuidas süsteemid muutuvad autonoomsemaks.
Vajame ühiseid standardeid, et riigid saaksid tõendeid võrrelda, nõuete täitmist kontrollida ning toimuvast ühtemoodi rääkida ja aru saada.
Vajame juhtumitest täpset ja kiiret teavitamist ning nende liigitamise ja raporteerimise korda, et maailm saaks ebaõnnestumistest õppida enne, kui need muutuvad katastroofideks.
Samuti vajame turvalisi kanaleid, mille kaudu valitsused, elutähtsa taristu käitajad ja tehnilised eksperdid saaksid jagada teavet esilekerkivate haavatavuste ja uute ohtude kohta.
Loomulikult ei tohiks need standardid kinnistada seniste turuosaliste eelisseisundit ega eelistada üht ärimudelit teisele. Need peavad toetama nii avatud kui ka suletud mudelite arendajaid, nii uusi tulijaid kui ka väljakujunenud laboreid, samuti riikide otsustusõigust ja rahvusvahelist koostööd. Iga valitsus peaks ise otsustama, kuidas standardid oma õigussüsteemi lõimida. Kuid meil kõigil läheb paremini, kui suudame ülemaailmselt kokku leppida, millised on head tõendid, kaitsemeetmed ja järelevalve.
Meil ei ole kõiki vastuseid ning oleme väga avatud kõigile parematele ideedele. Oleme valmis teie kõigiga koostööd tegema ja andma endast parima, et leida tee edasi.
Oleme jõudnud teelahkmele. Üks tee viib maailma, kus võim on koondunud väheste kätte, otsustusprotsessid on läbipaistmatud ja inimesed tunnevad, et nende elu olulisimat tehnoloogiat rakendatakse nende peal. Teine tee viib maailma, kus tehisintellekt töötab inimeste heaks, sest inimesed aitavad demokraatlike institutsioonide kaudu otsustada, kuidas seda arendada ja suunata; kus teaduse areng parandab päriselt inimeste elu; kus rohkem inimesi saab tuleviku kujundamises osaleda ning kus see tehnoloogia annab üksikisikutele ja kogukondadele üha rohkem võimalusi elada enda valitud viisil. See on tulevik, kus teostuvad võimalused ning jagub põnevust ja imetlust.
Ja meie usume, et sellist tulevikku tasub rajada. Suur tänu.


