Tehisintellekti järgmise etapi standardite loomine
Meie missioon on tagada, et üldine tehisintellekt tooks kasu kogu inimkonnale. Nagu Sam Altman hiljuti kirjeldas ja Jakub Pachocki selgitas, keskendume selle missiooni täitmisel kolmele põhieesmärgile:
Suunata tehisintellekti arengu järgmist etappi, luues automatiseeritud tehisintellektiuurija, lahendades selle abil järk-järgult joondamise probleemi ning leides viise, kuidas inimesed saaksid enesetäiustamise protsessis jätkuvalt osaleda.
Tuua inimesteni väga nutikate masinate võimaldatava teaduse arengu ja majanduskasvu hüved.
Anda igaühele isikliku AGI abil rohkem võimalusi.
Tehisintellekt kiirendab meie teadus- ja inseneritööd ning tehisintellekti toel tehtud uuringud on toonud kaasa edusamme matemaatikas, sealhulgas Navier’–Stokesi aastatuhandeprobleemi lahendamisel. Need edusammud on paljutõotavad ka meie ülejäänud kahe eesmärgi jaoks ning võivad tuua kaasa olulisi avastusi meditsiinis, laialdaselt kättesaadava tervishoiu ning väikeettevõtete ja üksikettevõtjate majanduslike võimaluste avardumise kõikjal maailmas.
Tehisintellekt areneb paljudes ettevõtetes ja riikides ning kogu valdkonna edusammud muudavad kõigi ees seisvaid võimalusi ja katsumusi. Lisaks muudele hüvedele on võimekas ja joondatud tehisintellekt selle ülemineku juhtimisel tähtis: see tugevdab kaitset, edendab joondamise uuringuid ning aitab inimestel tehisintellekti arengu järgmisi etappe mõista ja suunata.
Selle ülemineku ohutuks juhtimiseks peavad joondamise uuringud nende võimekustega sammu pidama, et meie ja teiste loodud süsteemid järgiksid inimlikke väärtusi ning püsiksid inimeste kontrolli all. See muutub järjest olulisemaks, kui tehisintellektisüsteemid saavad võimekamaks ja iseseisvamaks, sealhulgas võtavad enda kanda üha suurema osa tehisintellekti enda uurimis- ja arendustööst. Tehisintellekti jätkuva arengu ohutuks ja kasulikuks muutmine nõuab nii edusamme joondamise uuringutes kui ka ühiseid standardeid, mis suunaksid arendustööd laborites ja riikides.
Automatiseeritud tehisintellektiuuringutes võib inimjärelevalve ulatus erineda. Kui tehisintellektisüsteemid võtavad üle üha suurema osa tehisintellekti järgmiste põlvkondade arendamisest, võivad need järjest enam vedada rekursiivse enesetäiustamise (RSI) protsessi ka siis, kui inimesed jäävad sellesse kaasatuks. Selle protsessi automatiseerudes võib tehisintellekti arengutempo kiiresti kasvada.
Usume, et automatiseeritud tehisintellektiuuringute tulemusel valmivad mudelid, mis parandavad otseselt inimeste elu. See võib vähendada täiustatud nutikuse hinda, et inimesed kogu maailmas sellest kasu saaksid. Automatiseeritud uurimistöö võib aidata meil joondamist märkimisväärselt parandada ja luua kaitsemeetmeid üha võimekama tehisintellekti vastu – automatiseeritud tehisintellektiuurija võib olla ka automatiseeritud tehisintellekti ohutuse uurija. Võimekamad ja joondatud süsteemid võivad aidata kaitsta elutähtsat taristut ja ohtlike tehisintellektiagentide eest ning töötada välja uusi kaitsemeetmeid.
Täielikult autonoomset RSI-d praegu ei toimu ning me ei tohiks seda taotleda enne, kui seda saab teha ohutult. See, kas ja kuidas edasi liikuda, peab sõltuma meie võimest säilitada inimeste kontroll ning kasu ja riske puudutavatest teadlikest demokraatlikest valikutest(avaneb uues aknas). Ilma asjakohase hoolikuse ja ettevaatuseta võib RSI viia selleni, et inimesed kaotavad tegeliku kontrolli tehisintellekti arendamise üle ega suuda enam valvata uurimisprotsesse, mida nad ei mõista. Seejärel võib tehisintellekt muutuda ohtlikumaks, vähem joondatuks ja üldiselt inimestele ohtu kujutada. Kuigi meie avalikustatud Hugging Face’i intsident ei olnud RSI otsene tagajärg, annab see aimu riskidest, mis võivad tugevate kaitsemeetmete ja joondamiseta palju tõsisemaks muutuda.
Rahvusvahelised standardid tipptasemel tehisintellekti arendamise ohutus- ja turbepraktikatele võivad arengu tempo suunamisel olla sama olulised kui joondamise uuringud. Standarditega saab kehtestada kvaliteetsete tõendite ühised määratlused ja tehniliste kaitsemeetmete ranguse kokkulepitud lähtetasemed. Lühidalt aitavad need vastata küsimusele: „Milline on katastroofiliste tehisintellektiriskide hea maandamine?“
Sellele võivad kaasa aidata olemasolevad demokraatlikud institutsioonid, nagu tehisintellekti standardite ja innovatsiooni keskus (CAISI), osariikide seadused ja tehisintellekti föderaalne raamistik, samuti avaliku ja erasektori partnerluse uued vormid(avaneb uues aknas). Tehisintellekti arendatakse ja võetakse kasutusele aga mitmes riigis, selle kasutamine levib üle maailma ning tõenäoliselt mõjutab see varem või hiljem mingil viisil kõiki.
Seetõttu on mõne põhiprobleemi lahendamiseks vaja rahvusvahelisi jõupingutusi standardite väljatöötamisel:
Killustatus – eri riikide hindamised, aruandlusnõuded ja intsidentide määratlused võivad olla vastuolus, raskendades tõendite võrdlemist, tekkivate võimekuste mõistmist ja piiriülestele riskidele reageerimist.
Ühistegevus – iga riigi iseseisev tegutsemine võib viia tulemusteni, mida ükski riik ei soovi. RSI võib kiirendada tehisintellekti uurimistööd ennast, potentsiaalselt üle meie ühise võime edusamme mõista, riske hinnata ja sisulist inimjärelevalvet säilitada.
Ebaühtlane võimekus – tipptasemel arendustegevus ja sellega seotud asjatundlikkus ei ole maailmas ühtlaselt jaotunud. See süvendab mõlemat eespool kirjeldatud probleemi.
Need probleemid puudutavad nii open model’eid kui ka suletud mudeleid.
Selguse huvides: iga tehisintellektilabor, mis tegeleb automatiseeritud tehisintellektiuuringute või muude täiustatud võimekustega, peab võtma vastutuse selle ohutu tegemise eest, järgides isikliku vastutuse aluspõhimõtteid ja kehtivaid seadusi. Meie põhjendus standardite loomisele lähtub võimu koondumise vältimisest ja paremate praktiliste tulemuste saavutamisest. Standardid annavad rohkematele laborivälistele sidusrühmadele võimaluse selle tehnoloogia arengus kaasa rääkida ning loovad nähtava põhimõtete kogumi, millele saab toetuda olenemata ühegi konkreetse labori tavadest. Tõenäoliselt saavutame paremaid tulemusi ka siis, kui osalised teevad eespool kirjeldatud probleemide lahendamiseks koostööd.
Seetõttu usume, et Ameerika Ühendriigid peaksid juhtima koostööd maailma riikidega, et töötada välja ülemaailmsed tehnilised standardid tipptasemel tehisintellektile, sealhulgas RSI-le.
Kuigi eeldame, et see kontseptsioon aja jooksul märkimisväärselt areneb, on kaks aspekti hädavajalikud.
Üks võimalus selle saavutamiseks oleks kasutada kujunevat tehisintellekti ohutuse instituutide võrgustikku – näiteks Austraalias, Kanadas, Saksamaal, Prantsusmaal, Keenias, Jaapanis, Koreas, Singapuris, Indias ja Ühendkuningriigis juba loodud instituute –, et hõlbustada CAISI ja riiklike tööstusorganisatsioonide kaudu standardite kehtestamist. Erilist tähelepanu tuleks pöörata (1) tipptasemel tehisintellekti mudelitele ja arendajatele, lähtudes võimekuse võrdlustestidest, ning (2) automatiseeritud tehisintellektiuuringute, sealhulgas RSI kasu ja riskide juhtimisele. Ameerika Ühendriigid saavad tugineda CAISI 2024. aastal loodud täiustatud tehisintellekti mõõtmise, hindamise ja teaduse rahvusvahelisele võrgustikule(avaneb uues aknas), mis ühendab avaliku sektori institutsioone koostööks tehisintellekti mõõtmise, hindamise ja teaduse vallas.
Selle algatuse raames loodud standardid annaksid ühise tehnilise aluse võimekuse mõõtmiseks ja hindamiseks, riskihindamiseks ning kaitsemeetmete piisavuse kontrollimiseks. Need tehnilised standardid ei oleks litsentsid, kohustuslikud avaldamiseelsed läbivaatused ega tehisintellekti mudelite heakskiitmise nõuded. Riikide valitsused otsustaksid, kas ja kuidas need standardid oma õigussüsteemi üle võtta.
See töö peaks toetama ka konkurentsivõimelist tehisintellekti ökosüsteemi, kaasates aruteludesse open model’ite ja suletud mudelite arendajad, sõltumatud tehnilised eksperdid ning akadeemilised ringkonnad. Ühised standardid tuleks välja töötada läbipaistvalt ja kujundada nii, et need ei annaks eeliseid kindlatele ettevõtetele, riikidele ega ärimudelitele, sealhulgas ei raskendaks uute turuletulijate või avatud kaaludega mudelite arendajate konkureerimist.
Nagu oleme soovitanud(avaneb uues aknas), saab selle lähenemise kujundamisel õppida näiteks lennundusest ja finantsstabiilsuse valdkonnast, kus riigid on välja töötanud ühised tehnilised standardid ja usaldusväärsed koostöökanalid, loobumata riiklikust otsustusõigusest. Samuti tuleks teha tihedat koostööd väljakujunenud ja uuemate standardiorganisatsioonidega, nagu ISO(avaneb uues aknas), Frontier Model Forum(avaneb uues aknas), Agentic AI Foundation(avaneb uues aknas) ja Open Secure AI Alliance(avaneb uues aknas), ning rakendamisele keskendunud organisatsioonidega, nagu Appia Foundation, mis töötab välja praktilisi spetsifikatsioone rahvusvaheliste standardite sidumiseks tegelike tehisintellekti hindamistega.
Rahvusvahelised tehisintellekti standardid on eriti olulised tehisintellektiuuringute kasvava autonoomsuse ja rekursiivse enesetäiustamise juhtimisel. Täpsemalt võiksid need hõlmata järgmiste valdkondade standardeid:
RSI seisukohalt oluliste tehisintellekti edusammude ning tehisintellektiettevõttes tehtava autonoomse uurimistöö mahu hindamine. Meie hiljutine aruanne teadustöö kiirenemise kohta on esimene panus sellesse algatusse.
Inimjärelevalve automatiseeritud tehisintellektiuuringute üle, sealhulgas millised automatiseeritud uurimisprotsessid peaksid käivitama viivitamatu inimkontrolli.
Joondamise ja automatiseeritud tehisintellektiuuringutega seotud intsidentide liigitamine, jälgimine, neist teatamine ja neile reageerimine, sealhulgas ühised intsidentide raskusastmed ja teatamiskünnised. Meie joondamatuse aruandlusraamistik on varajane panus sellesse töösse.
Lisaks nendele standarditele peame oluliseks, et elutähtsa taristu käitajad ja valitsused kogu maailmas looksid turvalised sidekanalid, mille kaudu jagada riikliku julgeoleku muresid, esilekerkivaid nõrkusi ja ohte ning parimaid tavasid kiiresti arenevas tipptasemel tehisintellekti ohutuse valdkonnas. Ameerika Ühendriikide ja Hiina dialoog neis küsimustes oleks positiivne samm ning eelseisvad kõnelused toimuvad selleks sobival ajal.
Tehisintellekti arengu tempo suunamine ei tähenda ette kindlaks määratud kiiruse hoidmist. Tehnilisest vaatenurgast tähendab see, et joondamise uuringud ja nende tulemuste rakendamine püsivad võimekuse arengust ees. Ühiskondlikust vaatenurgast tähendab see standardite, institutsioonide ja koostöö kasutamist, et võimendada tööstuse võrgustikke, ühiskondlikke suhteid ja turujõude ning saavutada kõigile kasulikke tulemusi. Hiljutine üleskutse ühiseks tegevuseks küberkaitses on näide viimasest.
Ameerika Ühendriikidel on head eeldused juhtrolli võtmiseks, sest riigi tehisintellektitööstus on tehnoloogia tipptasemel ning riigil on endiselt eelisseisund ülemaailmsetes võrgustikes sellistes kriitilistes valdkondades nagu rahandus, kaubandus, kaitse, tehnoloogia ja infosüsteemid. Praegune juhtroll määrab, kas Ameerika Ühendriigid kujundavad ülemaailmset tehisintellekti raamistikku või lasevad enda ümber kinnistuda killustunud, ebaühtlasel ja konfliktidest räsitud süsteemil. See määrab ka, kas täiustatud tehisintellekt tugevdab Ameerika Ühendriikide ja selle liitlaste olemasolevaid võrgustikke; juhtrollist loobumine võib neid nõrgestada.
Geopoliitiline konkurents ei käi üksnes tehnoloogilise edumaa, vaid ka tehisintellekti kasutuselevõtu ja leviku pärast. Viimast võib üha enam suunata see, kes edendab realistlikku koostööd ja mõistlikke mängureegleid, mida ettevõtted ja ühiskonnad kõikjal vajavad, kui nad tahavad oma tuleviku sellele tehnoloogiale rajada.
Tugev riiklik juhtimine koos praktilise rahvusvahelise koostööga loob võimaluse kehtestada tõhusamad kaitsemeetmed, jätkata uuendustega ja tagada laialdane juurdepääs tehisintellekti hüvedele.
