AI-poliitika aken on avatud. Peame tegutsema.

Tehisintellekti võimekus on jõudnud uude peatükki ja see nõuab uut peatükki ka tehisintellekti poliitikas. Ükski ettevõte, tööstusharu ega valitsus ei suuda selle väljakutsega üksi toime tulla. Peame sellele hetkele vastu astuma, eelistades tähendusrikast tegutsemist poliitilise täiuslikkuse otsimisele.

Teeme järgmist:

1. Taotleme kohustuslikke riiklikke AI-ohutusnõudeid. Soovime teha Kongressiga koostööd kohustusliku, võimekusel põhineva riikliku AI-ohutuse regulatsiooni väljatöötamisel.

2. Hoiame hoogu osariikides. Kuni Kongress tegutseb, jätkame osariikide seadusandluse toetamist, mis tugevdab laiemat AI-ohutuse ökosüsteemi. Täna teatame toetusest neljale California eelnõule: SB 813 (sõltumatute ohutushindamiste üldine taristu), AB 1405 (AI-audiitorite standardid), SB 1119 (noorte kaitse) ja AB 1864 (kaitsemeetmed AI abil võimendatud bioloogiliste ohtude vastu).

3. Arendame tööstusharu juhitud standardeid. Teeme koostööd teiste tipptehnoloogia laboritega tipptehnoloogilise AI standardite edendamiseks, luues praegu vabatahtliku algatuse valitsuse toetusega või ilma.

4. Loome üleilmseid standardeid. Seisame ühilduvate rahvusvaheliste lähenemisviiside eest võimekuse mõõtmisel, riskide haldamisel, inimkontrolli säilitamisel ning selle määramisel, millal ja kuidas peaks arendus aeglustuma või peatuma – isegi kui see tähendab mudeli võimekuse edendamise aeglustamist.

Meie peateadur Jakub Pachocki kirjutas⁠ hiljuti, et masinintellekti kiire areng, sealhulgas rekursiivse enesetäiustamise võimalus, nõuab „äärmist ettevaatust“. OpenAI jätkab joondamise ja seire tehniliste lahenduste väljatöötamist, kaitsesüsteemide loomist ning vajaduse korral arenduse aeglustamist. Üksikutes laborites tehtavast tehnilisest tööst aga ei piisa. Vajame ka ühiseid standardeid, sealhulgas selle kohta, millal tuleb arendust aeglustada või see peatada.

Kaalul on väga palju. Täiustatud tehisintellekt võib kiirendada uute ravimite⁠ väljatöötamist, tugevdada elutähtsat taristut⁠, avardada majanduslikke võimalusi⁠ ning aidata lahendada teadusprobleeme⁠, mis on jäänud lahendamata mitme inimpõlvkonna pingutustest hoolimata. Mudeleid kasulikumaks muutvad võimekused toovad aga kaasa ka riske ega jää vaid üksikutesse tipptasemel tehisintellekti laboritesse. Kogu maailmas arendatavad mudelid, sealhulgas open model, lähenevad üha enam tänasele tipptasemel ja muutuvad laialdaselt kättesaadavaks.

Astra võimekus, varajased tõendid AI juhitud teadustöö kiirenemisest ja Jakubi essee viitavad kõik samale suunale: AI areneb kiiresti ning poliitika peab sellega kaasa liikuma.

Greg Brockman on kirjeldanud „kaitsjate akent“⁠(avaneb uues aknas): piiratud ajavahemikku, mil tipptasemel tehisintellekt saab aidata kaitsjatel tugevdada elutähtsaid süsteeme enne võimsa ründevõimekuse laialdast levikut. Poliitikakujundajad seisavad silmitsi samalaadse hetkega: võimaluste aken sulgub ja enne seda tuleb kehtestada püsivad kaitsemeetmed, et tehisintellekti võimekus ei jõuaks selle juhtimise eest vastutavatest institutsioonidest ette.

Võimekuse kasvades peab kindlustunne ohutuses üha enam määrama AI progressi tempo. Ohutus ei seisa progressi teel; see on see, mis võimaldab progressil jõuda kaugemale ja tuua kasu rohkematele inimestele.

Oleme tugevdanud seire-, joondamis- ja turvalisuse kaitsemeetmeid kogu mudeli arenduse elutsükli jooksul, sealhulgas tipptehnoloogia teadustöö paremat isoleerimist, laiendatud mudeli käitumise jälgimist tööriistadega treenimise ja hindamise ajal ning selgemaid reegleid selle kohta, millal murekohti edasi eskaleerida. Astra puhul tõime sisse ka täielike teekondade universaalse jälgimise (sealhulgas mõttekäigud) ja kohustusliku joondamise hindamise värava enne laiemat sisemist kasutuselevõttu.

Need kaitsemeetmed peavad jätkuvalt edestama süsteemide võimekust. Kui edasiliikumine kujutaks endast vastuvõetamatut ohutusriski, aeglustame või peatame selliste süsteemide arendamise või kasutuselevõtu, mida me ei suuda piisavalt kaitsta, nagu oleme teinud varem ja nagu nõuab meie Valmisoleku raamistik⁠(avaneb uues aknas).

Täielikult autonoomset rekursiivset enesetäiustamist, mille käigus tehisintellektisüsteemid veavad iseseisvalt järjest võimekamate tehisintellekti põlvkondade arengut, praegu ei toimu. Me ei tohiks seda taotleda enne, kui seda saab teha ohutult.

Küll aga kiirendab tehisintellekt juba praegu osa järgmise põlvkonna mudelite arendamiseks ja joondamiseks tehtavast teadustööst. Meie uusimad uuringud⁠ näitavad, et tehisintellekti agendid suudavad täita mõningaid ülesandeid, millele oskuslikel teadlastel kuluks mitu päeva. See ei ole rekursiivne enesetäiustamine, kuid annab tunnistust arengusuunast.

Seda kiirenemist saab ja tuleb suunata ka ohutuse tagamisse. Meie eesmärk on luua ohutult automatiseeritud tehisintellektiteadlased, kes edendavad inimeste järelevalve all nii süvaõpet kui ka joondamist. Iga tehisintellekti põlvkond aitab muuta järgmist ohutumaks, paremini joondatuks ja hõlpsamini juhitavaks, mitte üksnes võimekamaks.

Valitsused peaksid välja töötama ühised viisid selle arengu mõõtmiseks, säilitama sisulise inimkontrolli ning kehtestama ühised ohutuslävendid, mis määravad, millal ja kuidas tuleb arendust aeglustada või see peatada. Kui me ei suuda teatud ohutuslatte täita ilma võimekuse kasvu aeglustamata, peaksime seadma esikohale ohutuse. Mida võimsamaks tehnoloogia muutub, seda tugevamaks peavad muutuma seda ümbritsevad kaitsemeetmed.

Tehisintellekti abil kiirendatud tehisintellekti arendamise väljavaade nõuab enamat kui vabatahtlikke kohustusi. Ameerika Ühendriigid vajavad kohustuslikku, võimekusel põhinevat riiklikku regulatsiooni, mis suudab tehnoloogiaga sammu pidada.

Meie tipptasemel tehisintellekti demokraatliku juhtimise tegevuskava⁠ näitab teed püsiva föderaalse raamistiku suunas: ühised testimis- ja sõltumatu hindamise nõuded, tugevam küberturvalisuse kaitse, selged intsidendist teatamise reeglid, suurem riiklik valmisolek ja ühised meetmed rekursiivse isetäiustumise suunas liikumise jälgimiseks.

Kongressis on praegu kujunemas mitu tõsiseltvõetavat ettepanekut tipptasemel tehisintellekti ohutuse tagamiseks. Jätkame konstruktiivset koostööd ja eeldame, et toetame õigusakte, mis tõstavad ohutuse latti märkimisväärselt. Nii suure kaaluga küsimuses ei tohi täiuslikkus saada hea vaenlaseks. Kongress peaks tegutsema enne oma istungjärgu lõppu.

Riiklik raamistik peaks olema tugev, kuid hoolikalt suunatud. Tipptasemel tehisintellekti ohutuse nõudeid tuleks kohaldada vaid vähestele hästi rahastatud laboritele, mis arendavad kõige võimekamaid süsteeme, mitte iduettevõtetele, väikestele arendajatele ega teadlastele, kes ei tegutse ligilähedalgi tipptasemele. Kohustused peaksid olema proportsionaalsed võimekuse ja riskidega.

Samuti ei tohiks tipptasemel tehisintellekti ohutuspoliitikast saada varjatud avatud kaalude poliitikat. open modelid võivad olla osa lahendusest, eriti küberturvalisuses ning olukordades, kus suveräänsus-, turvalisus- või andmete asukohanõuded soosivad kohalikku kasutuselevõttu. Enamik neist ei konkureeri tipptasemel, vaid hinna, kontrolli ja latentsuse osas. Nagu kinnitasime, kirjutades alla avatud mudelite ja Ameerika AI liidripositsiooni kirjale⁠(avaneb uues aknas), vajab Ameerika nii avatud kui ka suletud mudeleid. Föderaalne raamistik peaks tegelema tipptehnoloogia võimekuse ja riskidega ilma konkurentsi nõrgestamata, olemasolevaid tegijaid kinnistamata või innovatsiooni välismaale tõukamata.

Tõsiseltvõetav avalik raamistik peaks võimu koondumist vähendama, mitte suurendama. Praegu kehtestavad tipptasemel tehisintellekti laborid eesliiniriskide haldamise reeglid suuresti ise. Demokraatlikult vastutustundlikud standardid, sõltumatu kontroll ja sisukas läbipaistvus asendaksid selle erajuhtimise killustatud süsteemi.

See on Ameerika liidripositsiooni jaoks hädavajalik. Ameerika Ühendriigid ei saa tehisintellekti ajastut võita üksnes võimekusega. Tehniline edu tähendab vähe, kui inimesed, institutsioonid ja valitsused ei usalda tehnoloogiat piisavalt, et seda omaks võtta. Tugevad kaitsemeetmed ei ole järeleandmine innovatsiooni arvelt. Need on osa taristust, mis on vajalik laialdaseks kasutuselevõtuks – ja Ameerika kestvaks liidripositsiooniks.

Vajame hädasti AI valdkonnas riiklikke standardeid ning igaüks, kes töötab tipptehnoloogiaga, näeb selle kiireloomulisust. Kuni Kongress tegutseb, peaksid osariigid jätkama sammude astumist tühimiku täitmiseks ja lati tõstmiseks.

OpenAI on toetanud California eelnõud SB 53, New Yorgi seadust RAISE Act, Illinoisi eelnõud SB 315 ja sõltumatuid auditeid Massachusettsis kaalumisel olevates tipptehnoloogia ohutust käsitlevates õigusaktides. Julgustame osariike ühtlustama oma nõudeid nende ühiste kaitsemeetmete ümber. Seda tehes võivad nad luua de facto riikliku lähtealuse, mille Kongress saab lõpuks seadustada – lähenemise, mida nimetame ⁠pöördföderalismiks⁠. Kuid ühtlustamine ei tähenda nõuete külmutamist praegusele tasemele.

Täna toetame ametlikult veel nelja California eelnõud, mis on seadusandliku kogu läbinud ja teel kuberner Newsomi juurde. Üheskoos käsitlevad need AI-ohutuse ökosüsteemi täiendavaid osi.

SB 813⁠(avaneb uues aknas) kehtestaks protsessi kvalifitseeritud ja sõltumatute organisatsioonide määramiseks, mis on võimelised hindama AI-ga seotud riske. Nagu oleme oma ⁠(avaneb uues aknas)tipptasemel tehisintellekti ohutuse tegevuskavas⁠(avaneb uues aknas) märkinud, eelistame, et sõltumatud tehnilised hindamised oleksid kohustuslikud riiklikul tasandil, kus poliitikakujundajad saavad kehtestada ühtsed standardid hindajate kvalifikatsioonile, turvalisusele ja juurdepääsule eriti tundlikule teabele. Föderaalsete meetmete puudumisel saab California aga aidata kehtestada reegleid turvalise ja võimeka riikliku sõltumatu hindamissüsteemi jaoks, mis tagab paremad ohutustulemused.

AB 1405⁠(avaneb uues aknas) loob AI-audiitoritele registreerimis-, sõltumatus-, läbipaistvus- ja aruandluskohustuse nõuded.

SB 1119⁠(avaneb uues aknas) nõuab vanuse tuvastamist, riskihindamisi, sõltumatuid auditeid, vanemlikku järelevalvet ning kaitsemeetmeid kahjuliku sisu vastu lastele ja teismelistele, kes kasutavad kaaslasest vestlusroboteid. Väljendasime hiljuti oma toetust⁠ sellele eelnõule, mis tugineb noorte turvalisuse meetmetele, mida OpenAI on edendanud oma toodete, ⁠ülemaailmsete poliitikapõhimõtete⁠ ning seaduse ⁠(avaneb uues aknas)Parents & Kids Safe AI Act⁠(avaneb uues aknas) toetamise kaudu, samuti ChatGPT for Teensi sisseehitatud kaitsemeetmetele, sealhulgas rangematele vaikeseadetele tundlikes valdkondades, vaiksetele tundidele, õppetundidele ja meeldetuletustele pauside tegemiseks.

AB 1864⁠(avaneb uues aknas) nõuab geenisünteesi pakkujatelt ja lauasünteesiseadmete tootjatelt riiklike sõelumisstandardite järgimist, tugevdades olulist füüsilist kaitsemeedet AI abil võimendatud bioloogiliste ohtude vastu.

Mõnda neist eelnõudest me varem ei toetanud, kuid nüüd toetame neid pärast seisukoha ümberhindamist, võttes arvesse hiljuti täheldatud võimekuse järsku kasvu.

Need eelnõud ei asenda föderaalset regulatsiooni. Need on tõsised jõupingutused, mis saavad kaitsta inimesi juba praegu, näidata, millised toimivad kaitsemeetmed välja näevad, ja aidata luua hoogu edasisteks föderaalseteks sammudeks.

Ainuüksi seadused ei muuda arenenud tehisintellekti turvaliseks. Vajame ka konkreetseid tavasid laborites, kus arendatakse kõige võimekamaid süsteeme. Kõige pakilisem on alustada jälgimisest.

See on eriti oluline joondamatuse puhul – kui mudel taotleb eesmärki viisil, mis läheb vastuollu inimese kavatsuste või kehtestatud piiridega, ilma et see eeldaks teadvust või pahatahtlikku kavatsust. Kuna mudelid saavutavad suurema autonoomsuse, kasutavad võimsamaid tööriistu ja töötavad pikema aja jooksul, peaksid arendajad olema kohustatud jälgima sellist ebasõbralikku käitumist ja tõestama, et tõhusad kaitsemeetmed on võetud.

Seire peab olema seotud selgete avalikustamisnõuetega. Nagu me Californias eesmärgiks seadsime, peaksid ettevõtted olema kohustatud andma puudutatud osapooltele viivitamatult kirjaliku teate, kui nende mudelid hoiatuseta mööduvad mõne teise organisatsiooni turvakontrollidest ning pääsevad oluliselt ligi, muudavad või hävitavad selle organisatsiooni kaitstud süsteeme või konfidentsiaalset teavet. Toetame ka föderaalseid aruandlusnõudeid muude tõsiste AI-intsidentide korral ning töötame selle nimel, et määratleda, milliseid vahejuhtumeid tuleks käsitleda ja mida need nõuded peaksid endas hõlmama.

Nagu eelmisel nädalal jagasime, töötab OpenAI välja raamistikku olulistest joondamatuse juhtumitest teatamiseks ja tipptasemel mudelite tegevuse, sealhulgas ettevõttesisese kasutuse süstemaatiliseks seireks. See algab ettevõtte juhitud algatusena, kuid loodame, et see aitab kujundada laiemat riiklikku poliitikat ja aruandlusnõudeid.

Soovime teha koostööd teiste laboritega tööstusharu juhitud standardite loomisel. Kõik tööstusharu juhitud standardid täiendaksid – mitte ei asendaks – kohustuslikke riiklikke kaitsemeetmeid ja demokraatlikku järelevalvet. Kuid oleme astunud AI võimekuse uude faasi ja kõik võimalused peavad olema laual – sealhulgas kaalumine, mida saab vahetu sammuna vabatahtlikult väljaspool valitsust üles ehitada.

Kõik sellised standardid peavad lõpuks ulatuma ka üle riigipiiride. Mudelid, teadustöö ja tehnilised teadmised liiguvad üleilmselt ning kõige võimekamate süsteemide rikked võivad tuua kaasa tagajärgi kaugel väljaspool riiki, kus need välja töötati. Ameerika Ühendriigid peavad kehtestama kodumaal usaldusväärsed standardid, kui nad soovivad rahvusvaheliselt juhtrolli võtta — ja oleme üha enam veendunud, et vajalikud on ühilduvad rahvusvahelised standardid.

Tehisintellekti poliitika aken on praegu avatud. Kavatseme seda kasutada.

See tähendab kiiret ja alandlikku tegutsemist ning valmisolekut kohaneda. See tähendab selliste tõsiste ettepanekute toetamist, mis tõstavad oluliselt ohutuse lati kõrgele, isegi kui need ei ole täpselt sellised, nagu me ise oleksime kavandanud. Ja see tähendab raamistiku tugevdamist vastavalt tehnoloogia arengule.

Ükski esimene samm ei ole täiuslik. Praegu on aga suurem oht esimese sammuga liiga kaua oodata.