Glugginn fyrir stefnumótun um gervigreind er opinn. Við þurfum að bregðast við.

Við höfum náð nýjum kafla í getu gervigreindar og það kallar á nýjan kafla í stefnumótun um gervigreind. Ekkert fyrirtæki, atvinnugrein eða stjórnvald getur tekist á við þessa áskorun eitt og sér. Við þurfum að mæta þessari stund með áherslu á þýðingarmiklar aðgerðir fremur en fullkomna stefnumótun.

Hér er það sem við erum að gera:

1. Þrýst á lögboðnar landsbundnar kröfur um öryggi gervigreindar. Við viljum vinna með Bandaríkjaþingi að lögbundinni, getumiðaðri landsbundinni reglusetningu um öryggi gervigreindar.

2. Að viðhalda skriðþunganum í ríkjunum. Þar til þingið grípur til aðgerða munum við halda áfram að styðja löggjöf ríkjanna sem styrkir víðtækara öryggisumhverfi gervigreindar. Í dag tilkynnum við stuðning okkar við fjögur frumvörp í Kaliforníu: SB 813 um heildarinnviði fyrir óháð öryggismat, AB 1405 um staðla fyrir úttektaraðila á gervigreind, SB 1119 um vernd ungs fólks og AB 1864 um verndarráðstafanir gegn líffræðilegum ógnum sem gervigreind gerir mögulegar.

3. Stuðlum að stöðlum undir forystu atvinnulífsins. Við munum vinna með öðrum framarlegum gervigreindarrannsóknarstofum að því að efla staðla fyrir háþróaða gervigreind og koma nú á fót frjálsu átaki, með eða án stuðnings stjórnvalda.

4. Að setja alþjóðlega staðla. Við munum beita okkur fyrir samræmdum alþjóðlegum aðferðum við að mæla getu, stýra áhættu, viðhalda mannlegri stjórn og ákvarða hvenær og hvernig eigi að hægja á þróun eða stöðva hana, jafnvel þótt það þýði að hægja á framþróun í getu líkana.

Yfirvísindamaður okkar, Jakub Pachocki, skrifaði⁠ nýlega að ör vöxtur vélgreindar, þar á meðal möguleikinn á endurkvæmri sjálfsumbót, kalli á „ýtrustu varúð“. OpenAI mun halda áfram að leita tæknilegra lausna fyrir samstillingu og vöktun, byggja varnarkerfi og hægja á þróun þegar nauðsyn krefur. En tæknilegt starf innan einstakra rannsóknarstofa mun ekki nægja. Við þurfum einnig sameiginlega staðla, þar á meðal um hvenær hægja ætti á þróun eða stöðva hana.

Mikið er í húfi. Háþróuð gervigreind gæti flýtt fyrir þróun nýrra lyfja⁠, styrkt mikilvæga innviði⁠, aukið efnahagsleg tækifæri⁠ og hjálpað til við að leysa vísindaleg vandamál⁠ sem hafa staðist átak manna í kynslóðir. En sú geta sem gerir líkön nytsamlegri felur einnig í sér áhættu og verður ekki bundin við fáeinar fremstu rannsóknarstofur. Líkön sem þróuð eru víða um heim, þar á meðal opin líkön, munu í auknum mæli nálgast það sem nú er háþróaðast og verða víða aðgengileg.

Geta Astra, fyrstu vísbendingar um hröðun rannsókna knúna af gervigreind og ritgerð Jakubs benda allar í sömu átt: gervigreind þróast hratt og stefnan þarf að fylgja í kjölfarið.

Greg Brockman hefur lýst „tækifærisglugga varnaraðila“⁠(opnast í nýjum glugga): takmarkað tímabil þar sem háþróuð gervigreind getur hjálpað varnaraðilum að efla mikilvæg kerfi áður en öflug sóknargeta verður útbreidd. Stefnumótendur standa frammi fyrir sambærilegu augnabliki: sífellt minna svigrúmi til að koma á varanlegum verndarráðstöfunum áður en geta gervigreindar fer fram úr stofnunum sem bera ábyrgð á stjórnun hennar.

Eftir því sem geta eykst verður traust á öryggi í auknum mæli að ráða hraða framfara í gervigreind. Öryggi stendur ekki í vegi fyrir framförum; það gerir framförum kleift að ná lengra og gagnast fleira fólki.

Við höfum eflt vöktun, samræmingu og öryggisvarnir á öllu lífsferli líkanaþróunar, þar á meðal með sterkari einangrun fyrir mikið rannsóknarálag, aukinni vöktun á hegðun líkana við þjálfun og mat með verkfærastuðningi og skýrari reglum um hvenær á að vísa áhyggjum áfram. Fyrir Astra innleiddum við einnig altæka vöktun á öllum ferlum, þar á meðal hugsanakeðjum, og skyldubundið samræmingarmat áður en líkanið er innleitt víðar innan fyrirtækisins.

Þessar öryggisráðstafanir verða áfram að vera skrefi á undan getu. Þegar það að halda áfram myndi fela í sér óásættanlega öryggisáhættu munum við hægja á eða stöðva þróun eða innleiðingu kerfa sem við getum ekki tryggt öryggi nægilega vel, eins og við höfum áður gert og eins og kveðið er á um í undirbúningsramma⁠(opnast í nýjum glugga) okkar.

Algerlega sjálfstæð endurkvæm sjálfsbæting — þar sem gervigreindarkerfi knýja sjálfstætt áfram hverja kynslóð gervigreindar á fætur annarri, sem verður sífellt hæfari — á sér ekki stað í dag. Við ættum ekki að vinna að því fyrr en hægt er að gera það með öruggum hætti.

Hins vegar flýtir gervigreind nú þegar fyrir hluta þeirra rannsókna sem notaðar eru til að þróa og samstilla næstu kynslóð líkana. Nýjustu rannsóknir⁠ okkar sýna að gervigreindarfulltrúar geta sinnt sumum verkefnum sem tækju hæfa rannsakendur nokkra daga. Þetta er ekki endurkvæm sjálfsbæting, en það gefur vísbendingu um í hvaða átt þróunin stefnir.

Þeirri hröðun er einnig hægt og verður að beina að öryggi. Markmið okkar er að byggja upp sjálfvirka gervigreindarrannsakendur á öruggan hátt sem starfa undir eftirliti manna til að knýja framfarir bæði í djúpnámi og samræmingu — með því að nota hverja kynslóð gervigreindar til að gera næstu kynslóð öruggari, betur samræmda og auðveldari í stjórnun, en ekki einungis öflugri.

Stjórnvöld ættu að þróa sameiginlegar leiðir til að mæla þessar framfarir, viðhalda raunverulegri mannlegri stjórn og setja sameiginleg öryggisviðmið um hvenær og hvernig hægja ætti á þróun eða stöðva hana. Ef við getum ekki uppfyllt tiltekin öryggisviðmið án þess að hægja á aukinni hæfni, ættum við að setja öryggisviðmiðin í forgang. Eftir því sem tæknin verður öflugri þurfa öryggisráðstafanirnar í kringum hana að verða sterkari.

Horfur á þróun gervigreindar sem gervigreind hraðar kalla á meira en sjálfviljugar skuldbindingar. Bandaríkin þurfa lögboðna landsbundna reglusetningu sem byggist á getu og getur þróast samhliða tækninni.

Áætlun okkar um lýðræðislega stjórnun háþróaðrar gervigreindar⁠ markar leið að varanlegum alríkisramma: sameiginlegum kröfum um prófanir og óháð mat, öflugri netöryggisvörnum, skýrum reglum um tilkynningar um atvik, auknum viðbúnaði á landsvísu og sameiginlegum mælikvörðum til að fylgjast með framförum í átt að endurkvæmri sjálfsbætingu.

Nokkrar veigamiklar tillögur um öryggi háþróaðrar gervigreindar eru nú að taka á sig mynd í Bandaríkjaþingi. Við munum áfram eiga uppbyggileg samskipti og búumst við að styðja löggjöf sem hækkar öryggisviðmiðin umtalsvert. Þegar svo mikið er í húfi getum við ekki látið hið fullkomna verða óvini hins góða. Bandaríkjaþing ætti að grípa til aðgerða áður en það lýkur þingstörfum.

Landsrammi ætti að vera öflugur en vandlega afmarkaður. Öryggiskröfur fyrir kerfi á háþróuðu stigi ættu að eiga við um þær fáu vel fjármögnuðu rannsóknarstofur sem þróa hæfustu kerfin — ekki sprotafyrirtæki, litla þróunaraðila eða rannsakendur sem starfa hvergi nærri háþróaða stiginu. Skyldur ættu að vera í hlutfalli við getu og áhættu.

Ekki ætti stefna um öryggi háþróaðra líkana heldur að verða stefna um opnar færibreytur undir öðru nafni. Opin líkön geta verið hluti af lausninni, einkum í netöryggi og þar sem þarfir fyrir fullveldi, öryggi eða gagnageymsla styðja staðbundna innleiðingu. Flest keppa ekki á sviði háþróaðra líkana heldur á grundvelli kostnaðar, stjórnunar og biðtíma. Eins og við staðfestum með undirritun Open Weights and American AI Leadership letter⁠(opnast í nýjum glugga) þurfa Bandaríkin bæði opin og lokuð líkön. Alríkisrammi ætti að taka á getu og áhættu háþróaðra líkana án þess að veikja samkeppni, festa rótgróna markaðsaðila í sessi eða knýja nýsköpun til útlanda.

Traustur opinber rammi ætti að draga úr samþjöppun valds, en ekki auka hana. Í dag setja háþróaðar rannsóknarstofur að mestu eigin reglur um stjórnun takmörkunaráhættu. Staðlar sem lúta lýðræðislegri ábyrgð, óháð sannprófun og raunverulegt gagnsæi myndu leysa það sundurlausa kerfi einkarekinna stjórnarhátta af hólmi.

Þetta er nauðsynlegt fyrir forystu Bandaríkjanna. Bandaríkin geta ekki sigrað á tímum gervigreindar með getu einni saman. Að vera tæknilega í fararbroddi mun skipta litlu máli ef fólk, stofnanir og stjórnvöld treysta tækninni ekki nægilega til að taka hana upp. Traustar varúðarreglur eru ekki málamiðlun á kostnað nýsköpunar. Þær eru hluti af innviðunum sem þarf til víðtækrar upptöku – og varanlegrar forystu Bandaríkjanna.

Við þurfum sárlega á landsbundnum stöðlum um gervigreind að halda, og allir sem starfa við háþróaða gervigreind geta séð hversu brýnt það er. Þar til Bandaríkjaþingið bregst við ættu fylkin að halda áfram að grípa til aðgerða til að fylla tómarúmið og hækka viðmiðin.

OpenAI hefur stutt SB 53 í Kaliforníu, RAISE-lögin í New York, SB 315 í Illinois og óháðar úttektir í löggjöf um öryggi háþróað gervigreindar sem er til umfjöllunar í Massachusetts. Við hvetjum ríkin til að sameinast um þessar sameiginlegu varnir. Með því geta þau skapað landsbundinn grunnstaðal í reynd sem þingið getur að lokum lögfest — nálgun sem við köllum ⁠öfugt sambandskerfi⁠. En samræming þýðir ekki að festa kröfur í sessi.

Í dag lýsum við formlega yfir stuðningi við fjögur frumvörp til viðbótar í Kaliforníu sem löggjafarþingið hefur samþykkt og eru á leið til Newsoms ríkisstjóra. Saman taka þau á þáttum öryggisvistkerfis gervigreindar sem bæta hver annan upp.

SB 813⁠(opnast í nýjum glugga) myndi koma á ferli til að tilnefna hæfar, óháðar stofnanir sem geta metið áhættu sem tengist gervigreind. Eins og við höfum tekið fram í ⁠(opnast í nýjum glugga)áætlun okkar um öryggi háþróaðrar gervigreindar⁠(opnast í nýjum glugga) viljum við frekar að óháð tæknilegt mat sé skylt á alríkisvettvangi, þar sem stefnumótendur geta sett samræmd viðmið um hæfi matsaðila, öryggi og aðgang að mjög viðkvæmum upplýsingum. Ef alríkisstjórnin grípur þó ekki til aðgerða getur Kalifornía hjálpað til við að móta leikreglur fyrir öruggt og öflugt innlent kerfi sjálfstæðs mats sem skilar betri öryggisniðurstöðum.

AB 1405⁠(opnast í nýjum glugga) myndi setja kröfur um skráningu, sjálfstæði, gagnsæi og ábyrgð til gervigreindarendurskoðenda.

SB 1119⁠(opnast í nýjum glugga) myndi krefjast aldursstaðfestingar, áhættumats, óháðra úttekta, foreldraeftirlits og verndarráðstafana gegn skaðlegu efni fyrir börn og unglinga sem nota spjallmenni til félagsskapar. Nýlega lýstum við yfir stuðningi okkar⁠ við þetta frumvarp, sem byggir á öryggisráðstöfunum fyrir ungmenni sem OpenAI hefur eflt með vörum okkar, ⁠alþjóðlegum stefnureglum⁠ og stuðningi við ⁠(opnast í nýjum glugga)Parents & Kids Safe AI Act⁠(opnast í nýjum glugga), auk verndarráðstafana sem eru innbyggðar í ChatGPT fyrir unglinga, þar á meðal strangari sjálfgefnar stillingar á viðkvæmum sviðum, kyrrðarstundir, námstíma og áminningar um hlé.

AB 1864⁠(opnast í nýjum glugga) myndi krefjast þess að þjónustuveitendur genanýmyndunar og framleiðendur borðtækja til nýmyndunar fylgdu alríkisstöðlum um skimun, sem myndi þannig styrkja mikilvæga efnislega vernd gegn líffræðilegum ógnum sem gervigreind gerir mögulegar.

Sum þessara frumvarpa studdum við ekki áður, en styðjum þau nú eftir að hafa endurskoðað afstöðu okkar í ljósi nýlegrar aukningar á getu sem við höfum séð.

Þessi frumvörp koma ekki í stað alríkisreglugerðar. Þau eru alvarlegar tilraunir sem geta verndað fólk nú þegar, sýnt hvernig raunhæfar varnir líta út og hjálpað til við að skapa skriðþunga fyrir aðgerðir alríkisins.

Lög ein og sér munu ekki gera háþróaða gervigreind örugga. Við þurfum einnig áþreifanlegar starfsvenjur innan rannsóknarstofa sem þróa hæfustu kerfin. Brýnasti staðurinn til að byrja á er eftirlit.

Þetta er sérstaklega mikilvægt varðandi ósamræmingu — þegar líkan sækist eftir markmiði á þann hátt að það brjóti gegn mannlegum ásetningi eða viðurkenndum mörkum, án þess að meðvitund eða illvilji þurfi að koma til. Eftir því sem líkön öðlast meira sjálfstæði, nota öflugri verkfæri og starfa yfir lengri tímabil, ætti að skylda þróunaraðila til að fylgjast með slíkri ósamræmdri hegðun og sýna fram á að skilvirkar varnir séu til staðar.

Eftirlit verður að tengjast skýrum kröfum um upplýsingagjöf. Eins og við hvöttum til í Kaliforníu ætti að skylda fyrirtæki til að veita þeim sem verða fyrir áhrifum tafarlausa skriflega tilkynningu þegar líkön þeirra, við þróun eða mat, sniðganga öryggisvarnir annarrar stofnunar án heimildar og nálgast, breyta eða eyðileggja vernduð kerfi eða trúnaðarupplýsingar þeirrar stofnunar með verulegum hætti. Við styðjum einnig alríkiskröfur um tilkynningar vegna annarra alvarlegra gervigreindaratvika og vinnum að því að skilgreina hvaða atvik eigi að falla þar undir og hvað þær kröfur eigi að fela í sér.

Eins og við greindum frá í síðustu viku er OpenAI að þróa ramma til að tilkynna um afdrifarík tilvik misræmis og fylgjast kerfisbundið með starfsemi háþróaðra líkana, þar með talið innri notkun. Þetta hefst sem átak undir forystu fyrirtækisins, en við vonum að það geti stuðlað að mótun víðtækari alríkisstefnu og tilkynningakrafna.

Við viljum vinna með öðrum rannsóknarstofum að stöðlum undir forystu atvinnulífsins. Slíkir staðlar myndu styðja við—en ekki koma í stað—lögboðinna alríkisvarna og lýðræðislegs eftirlits. En við erum komin inn í annað skeið hvað varðar getu gervigreindar og allt ætti að koma til greina—þar á meðal að íhuga hvað hægt er að byggja upp af fúsum og frjálsum vilja utan stjórnvalda sem tafarlaust skref.

Slíkir staðlar þurfa að lokum einnig að ná út fyrir landamæri. Líkön, rannsóknir og tæknileg sérþekking færast á milli landa, og mistök sem varða hæfustu kerfin gætu haft afleiðingar langt út fyrir landið þar sem þau eru þróuð. Bandaríkin þurfa að koma á trúverðugum stöðlum innanlands ef þau ætla að vera í forystu á alþjóðavettvangi – og við erum sífellt sannfærðari um að samhæfðir alþjóðlegir staðlar verði nauðsynlegir.

Stefnumótunarglugginn fyrir gervigreind er opinn í bili. Við ætlum að nýta hann.

Það þýðir að bregðast við án tafar, af auðmýkt og með vilja til að aðlagast. Það þýðir að styðja alvarlegar tillögur sem hækka öryggisviðmiðin verulega, jafnvel þegar þær eru ekki nákvæmlega það sem við hefðum sjálf mótað. Og það þýðir að styrkja ramman eftir því sem tæknin þróast.

Ekkert fyrsta skref verður fullkomið. En meiri áhættan núna felst í að bíða of lengi með að taka það.