Standardi za naslednjo fazo umetne inteligence
Naše poslanstvo je zagotoviti, da splošna umetna inteligenca koristi vsemu človeštvu. Kot sta nedavno predstavila Sam Altman in Jakub Pachocki, svoje delo v okviru tega poslanstva usmerjamo k trem glavnim ciljem:
Usmerjati naslednje obdobje napredka umetne inteligence z razvojem avtomatiziranega raziskovalca umetne inteligence, njegovo uporabo pri reševanju problema usklajevanja ter iskanjem načinov, da ljudje ostanejo del zanke samoizboljševanja.
Omogočiti koristi znanstvenega napredka in gospodarske rasti, ki jih prinašajo zelo inteligentni stroji.
Vsakemu posamezniku omogočiti dostop do osebne SUI.
Umetna inteligenca pospešuje naše raziskave in inženirsko delo, raziskave z njeno pomočjo pa so privedle do napredka v matematiki, tudi pri Navier-Stokesovem problemu tisočletja. Ta napredek veliko obeta tudi za naša druga cilja, saj bi lahko prinesel pomembna odkritja v medicini, široko dostopno zdravstveno varstvo ter gospodarsko opolnomočenje malih podjetij in samostojnih podjetnikov po vsem svetu.
Umetna inteligenca napreduje v številnih podjetjih in državah, razvoj celotnega področja pa spreminja priložnosti in izzive, s katerimi se srečujemo vsi. Zmogljiva in usklajena umetna inteligenca bo poleg drugih koristi pomembno pomagala pri prehodu: krepila bo obrambo, pospeševala raziskave usklajevanja ter ljudem pomagala razumeti in usmerjati naslednje faze razvoja umetne inteligence.
Za varen prehod morajo raziskave usklajevanja slediti razvoju teh zmogljivosti, da bodo sistemi, ki jih gradimo mi in drugi, ostali usklajeni s človeškimi vrednotami in pod človeškim nadzorom. To postaja vse pomembnejše, ko sistemi umetne inteligence postajajo zmogljivejši in samostojnejši ter prevzemajo vse več raziskav in razvoja umetne inteligence. Za varen in koristen nadaljnji napredek umetne inteligence bodo potrebni tako napredek pri raziskavah usklajevanja kot skupni standardi, ki bodo usmerjali razvoj v laboratorijih in državah.
Avtomatizirano raziskovanje umetne inteligence lahko vključuje različne stopnje človeškega nadzora. Ko sistemi umetne inteligence prevzemajo vse več dela pri razvoju zaporednih generacij umetne inteligence, lahko vse bolj poganjajo proces rekurzivnega samoizboljševanja (RSI), tudi če ljudje ostanejo vključeni. Z nadaljnjo avtomatizacijo tega procesa bi se lahko napredek umetne inteligence hitro pospešil.
Verjamemo, da bo avtomatizirano raziskovanje umetne inteligence prineslo modele, ki bodo neposredno izboljšali življenje ljudi. Zniža lahko stroške napredne inteligence, da bodo njene koristi dostopne ljudem po vsem svetu. Avtomatizirane raziskave bi nam lahko pomagale tudi bistveno izboljšati usklajevanje in vzpostaviti obrambo pred vse zmogljivejšo umetno inteligenco – avtomatizirani raziskovalec umetne inteligence je lahko tudi avtomatizirani raziskovalec njene varnosti. Zmogljivejši in usklajeni sistemi bi lahko pomagali zaščititi kritično infrastrukturo, se braniti pred nevarnimi agenti umetne inteligence ter razvijati nove zaščitne ukrepe.
Popolnoma avtonomnega RSI danes še ni in ne bi si smeli prizadevati zanj, dokler ga ne bo mogoče izvajati varno. Odločitev o tem, ali in kako nadaljevati, mora biti odvisna od naše sposobnosti ohraniti človeški nadzor ter od informiranih demokratičnih odločitev(odpre se v novem oknu) o koristih in tveganjih. Če bi RSI izvajali brez ustrezne skrbnosti in previdnosti, bi lahko ljudje izgubili dejanski nadzor nad razvojem umetne inteligence in ne bi mogli nadzirati raziskovalnih procesov, ki jih ne razumejo več. Umetna inteligenca bi nato lahko postala nevarnejša, manj usklajena in na splošno grožnja ljudem. Čeprav incident pri Hugging Faceu, ki smo ga razkrili, ni bil neposredna posledica RSI, nakazuje vrste tveganj, ki bi brez trdnih varovalk in usklajevanja lahko postala veliko resnejša.
Mednarodni standardi varnostnih in zaščitnih praks pri razvoju prelomne umetne inteligence so lahko za uravnavanje njenega napredka enako pomembni kot same raziskave usklajevanja. Standardi lahko vzpostavijo skupne opredelitve kakovostnih dokazov in dogovorjena izhodišča za strogost tehničnih varovalk. Skratka, pomagajo nam odgovoriti na vprašanje: „Kako je videti dobro blaženje katastrofalnega tveganja umetne inteligence?“
K temu lahko prispevajo obstoječe demokratične institucije, kot je Center za standarde in inovacije na področju umetne inteligence (CAISI), zakonodaja zveznih držav in zvezni okvir za umetno inteligenco, pa tudi nove oblike javno-zasebnih partnerstev(odpre se v novem oknu). Toda razvoj in uvajanje umetne inteligence potekata v več državah, njeno sprejemanje je svetovno, njene učinke pa bomo verjetno prej ali slej na neki način občutili vsi.
Zato so za reševanje nekaterih ključnih izzivov potrebna mednarodna prizadevanja za razvoj standardov:
Razdrobljenost – vrednotenja, zahteve glede poročanja in opredelitve incidentov različnih držav bi si lahko nasprotovali, kar bi otežilo primerjavo dokazov, razumevanje nastajajočih zmogljivosti in odzivanje na čezmejna tveganja.
Kolektivno ukrepanje – če vsaka država deluje samostojno, lahko nastanejo rezultati, ki jih ne želi nobena država. RSI lahko pospeši samo raziskovanje umetne inteligence, morda celo prek meja naše skupne sposobnosti razumevanja napredka, ocenjevanja tveganj in ohranjanja smiselnega človeškega nadzora.
Neenakomerne zmogljivosti – razvoj prelomne umetne inteligence in z njim povezano strokovno znanje po svetu nista enakomerno porazdeljena. To še poglablja obe zgoraj navedeni težavi.
Ti izzivi veljajo tako za odprte kot zaprte modele.
Jasno je, da mora vsak laboratorij umetne inteligence, ki izvaja avtomatizirane raziskave umetne inteligence ali razvija druge napredne zmogljivosti, prevzeti odgovornost za varno delo v skladu z osnovnimi načeli lastne odgovornosti in veljavno zakonodajo. Naša utemeljitev standardov izhaja iz želje preprečiti koncentracijo moči in doseči boljše praktične rezultate. Standardi več deležnikom zunaj laboratorijev omogočajo soodločanje o razvoju te tehnologije in zagotavljajo pregleden sklop načel, na katerega se je mogoče zanesti ne glede na prakse posameznega laboratorija. Verjetno bomo dosegli tudi boljše rezultate, če bodo strani pri reševanju zgornjih izzivov sodelovale.
Zato menimo, da bi morale Združene države prevzeti vodilno vlogo pri sodelovanju z državami po svetu za razvoj svetovnih tehničnih standardov za prelomno umetno inteligenco, tudi za RSI.
Čeprav pričakujemo, da se bo ta zamisel sčasoma močno razvila, bosta ključna dva vidika.
To bi lahko dosegli z uporabo nastajajoče mreže inštitutov za varnost umetne inteligence – kot so tisti, ki že delujejo v Avstraliji, Kanadi, Nemčiji, Franciji, Keniji, na Japonskem, v Koreji, Singapurju, Indiji in Združenem kraljestvu – za lažje oblikovanje standardov prek CAISI in nacionalnih industrijskih organov, s posebnim poudarkom na (1) modelih in razvijalcih prelomne umetne inteligence, merjenih z referenčnimi preizkusi zmogljivosti, ter (2) upravljanju koristi in tveganj avtomatiziranih raziskav umetne inteligence, vključno z RSI. Združene države lahko nadgradijo pobudo CAISI, ki je leta 2024 vzpostavil Mednarodno mrežo za napredno merjenje, vrednotenje in znanost na področju umetne inteligence(odpre se v novem oknu) ter tako povezal javne ustanove pri sodelovanju na področju merjenja, vrednotenja in znanosti umetne inteligence.
Standardi, razviti v okviru teh prizadevanj, bi zagotovili skupno tehnično podlago za merjenje in vrednotenje zmogljivosti, ocenjevanje tveganj ter presojo ustreznosti varovalk. Ti tehnični standardi ne bi bili licence, obvezni pregledi pred izdajo ali zahteve za odobritev modelov umetne inteligence. Nacionalne vlade bi same odločale, ali in kako te standarde vključiti v svoje pravne sisteme.
To delo bi moralo s posvetovanjem z razvijalci odprtih in zaprtih modelov, neodvisnimi tehničnimi strokovnjaki ter akademsko skupnostjo podpirati tudi konkurenčen ekosistem umetne inteligence. Skupne standarde je treba razvijati pregledno in jih zasnovati tako, da ne dajejo prednosti posameznim podjetjem, državam ali poslovnim modelom, med drugim tako, da novim udeležencem ali razvijalcem modelov z odprtimi utežmi ne otežujejo konkuriranja.
Kot smo že predlagali(odpre se v novem oknu), se lahko ta pristop zgleduje po področjih, kot sta letalstvo in finančna stabilnost, kjer so države razvile skupne tehnične standarde in zaupanja vredne poti sodelovanja, ne da bi se odpovedale nacionalnim pristojnostim. Tesno bi moral sodelovati tudi z uveljavljenimi in novejšimi organi za standardizacijo, kot so ISO(odpre se v novem oknu), Forum za prelomne modele(odpre se v novem oknu), Fundacija za agentsko umetno inteligenco(odpre se v novem oknu) in Zavezništvo za odprto in varno umetno inteligenco(odpre se v novem oknu), ter z organizacijami, osredotočenimi na izvajanje, kot je Fundacija Appia, ki razvija praktične specifikacije za povezovanje mednarodnih standardov z vrednotenjem umetne inteligence v praksi.
Mednarodni standardi za umetno inteligenco bodo zlasti ključni pri obvladovanju vse večje avtonomije pri raziskavah umetne inteligence in rekurzivnem samoizboljševanju. Natančneje bi lahko vključevali standarde za:
Vrednotenje napredka umetne inteligence, pomembnega za RSI, in obsega avtonomnih raziskav v podjetju za umetno inteligenco. Naše nedavno poročilo o pospeševanju raziskav je začetni prispevek k tem prizadevanjem.
Človeški nadzor nad avtomatiziranimi raziskavami umetne inteligence, vključno z določitvijo vrst avtomatiziranih raziskovalnih procesov, ki bi morale sprožiti takojšen človeški pregled.
Razvrščanje, spremljanje in prijavljanje incidentov ter odzivanje nanje pri težavah z usklajevanjem in avtomatiziranimi raziskavami umetne inteligence, vključno s skupnimi stopnjami resnosti incidentov in pragovi poročanja. Naš okvir za poročanje o neusklajenosti je zgodnji prispevek.
Poleg teh standardov menimo, da bo pomembno, da upravljavci kritične infrastrukture in vlade po svetu vzpostavijo varne komunikacijske poti za izmenjavo pomislekov glede nacionalne varnosti, nastajajočih ranljivosti in groženj ter najboljših praks na hitro razvijajočem se področju varnosti prelomne umetne inteligence. Dialog med Združenimi državami in Kitajsko na teh področjih bi bil pozitiven korak, prihajajoči pogovori pa potekajo ob pravem času.
Uravnavanje razvoja umetne inteligence ne pomeni ohranjanja vnaprej določene hitrosti. S tehničnega vidika pomeni zagotavljanje, da raziskave usklajevanja in uvajanje njihovih izsledkov ostajajo pred razvojem zmogljivosti. Z družbenega vidika pomeni uporabo standardov, institucij in sodelovanja za krepitev industrijskih mrež, družbenih odnosov in tržnih sil, da bi dosegli rezultate, ki koristijo vsem. Nedavni poziv h kolektivnemu ukrepanju na področju kibernetske obrambe je primer slednjega.
Združene države imajo dobre možnosti za vodilno vlogo, saj je njihova industrija umetne inteligence na tehnološkem robu, država pa ima še vedno privilegiran položaj v svetovnih omrežjih na ključnih področjih, kot so finance, trgovina, obramba, tehnologija in informacijski sistemi. Današnji prevzem vodilne vloge bo odločil, ali bodo Združene države oblikovale svetovni okvir za umetno inteligenco ali pa le opazovale, kako se okoli njih uveljavlja razdrobljen, neenakomeren in s konflikti prežet sistem. Od tega bo odvisno tudi, ali bo napredna umetna inteligenca okrepila obstoječa omrežja Združenih držav in njihovih zaveznic; če ne bodo prevzele vodilne vloge, jih lahko oslabijo.
Geopolitično tekmovanje ne bo povezano le s tem, kdo je tehnološko v prednosti, temveč tudi s sprejemanjem in širjenjem umetne inteligence. O slednjem bo vse bolj odločal tisti, ki spodbuja izvedljivo sodelovanje in razumna pravila, kakršna bodo podjetja in družbe povsod želela, če bodo na to tehnologijo stavila svojo prihodnost.
Trdno nacionalno upravljanje, povezano s praktičnim mednarodnim sodelovanjem, omogoča boljše varovalke, nadaljnje inovacije in širok dostop do koristi umetne inteligence.
