Bandaríkin efla öryggi gervigreindar með aðgerðum ríkja og alríkis

Eftir Chris Lehane, framkvæmdastjóra alþjóðlegra viðskipta

Frá höfuðborgum ríkja um allt land til Washington og alþjóðlegra funda eru alvarlegar nálganir á stjórnun framarlegrar gervigreindar að taka á sig mynd. Saman ýta þær undir lýðræðislega framtíðarsýn fyrir gervigreind.

Kalifornía, New York og nú síðast Illinois hafa komið á framfæri löggjöf um öryggi framarlegrar gervigreindar sem færir landið nær sameiginlegum grunnviðmiðum um stjórnun öflugustu gervigreindarkerfanna.

Þessi viðleitni endurspeglar vaxandi kraft að baki því sem OpenAI kallar öfugt sambandskerfi: að ríki hjálpi til við að móta sameiginlega stefnu í gegnum sameiginlegan ramma. Eftir því sem starf undir forystu ríkja rennur saman við viðleitni á alríkisstigi er landsbundinn staðall farinn að mótast og leggja grunn að alþjóðlegum gervigreindarramma undir forystu Bandaríkjanna. Við teljum að besta leiðin til að tryggja að gervigreind nýtist fjöldanum, ekki aðeins fáum, sé að mikilvægar ákvarðanir — og fyrst og fremst um öryggi framarlegrar gervigreindar — séu teknar af lýðræðislegum stjórnvöldum en ekki eingöngu af rannsóknarstofum sem þróa framarlega gervigreind.

Að lokum væri Bandaríkjunum best borgið með landsbundnum ramma sem byggir á þeirri meginreglu. En á meðan slíkur rammi er ekki til staðar geta ríkin fært okkur þangað með því að setja lög sem spegla hvert annað. Skref fyrir skref geta þau skapað landsbundinn staðal í reynd.

Og ef öryggi er forgangsmálið er slíkur landsbundinn staðall besta stefnumótandi leiðin til að tryggja (a) að Bandaríkin haldi áfram forystu í nýsköpun og verði ekki grafin undan með sundurlausum reglum sem myndu hægja á uppbyggingu alþjóðlegs, lýðræðislegs gervigreindarstafla sem miðar að því að góðu aðilarnir hafi verkfærin sem þeir þurfa til að verjast slæmum aðilum sem reyna að misnota gervigreind á sviðum á borð við netöryggi; og (b) að Bandaríkin verði í sterkustu stöðu til að taka landsbundna staðalinn og móta alþjóðlega nálgun við örugga innleiðingu gervigreindar sem byggir á lýðræðislegum gildum. Ef við viljum skapa öryggisramma sem setur raunverulega í forgang að koma á landsbundnum og alþjóðlegum staðli — sem er það sem styður best við örugga innleiðingu gervigreindar — þarf til þess erfiða vinnu, alvöru í markmiðum og stefnu sem tengir fylkin, alríkisstjórnina og alþjóðlegu umræðuna. Sýndarmennska eða siðferðisleg yfirborðsyfirlýsing mun ekki duga hér — ringulreið á ríkjastigi þjónar ekki hagsmunum varanlegrar öryggisnálgunar; hún leiðir aðeins til meiri ringulreiðar.

Til að þessi nálgun heppnist ættu ríkin að halda áfram að samræmast um kjarnaþættina, eins og Kalifornía, New York og Illinois hafa gert. Í stórum dráttum eru þessir þættir:

• Skjalfest öryggisumgjörð með áhættumati fyrir framarleg líkön og opinberri birtingu matsins og niðurstaðna þess.
• Tilkynningar um alvarleg öryggisatvik.
• Stjórnarhættir og ábyrgð með óháðum, hlutlægum úttektum.

Saman hafa þessi þrjú ríki byggt lýðræðislegt eftirlit inn í innleiðingu framarlegrar gervigreindar. Kalifornía kom á fót kjarnaumgjörðinni um upplýsingagjöf. New York sýndi að hægt væri að taka nálgunina upp þvert á lögsagnarumdæmi. Illinois bætti hana með því að krefjast óháðrar staðfestingar á lykilupplýsingagjöf.

Við gerum okkur grein fyrir því að löggjöf inniheldur oft viðbótarákvæði til að tryggja þau atkvæði sem þarf til samþykktar. En við teljum að þetta séu nauðsynlegu þættirnir til að skapa landsbundinn staðal í reynd með öfugu sambandskerfi. Án þess aga eigum við á hættu að stefnumálin þenjist út og að til verði sundurlaus löggjöf ríkja sem erfitt er fyrir eftirlitsaðila að framfylgja, ruglingsleg fyrir neytendur að rata um og dregur til sín þróunarauðlindir — einkum hjá sprotafyrirtækjum og smærri fyrirtækjum — sem betur væri varið í öryggi. Sérstaklega, og eins og síðustu vikur hafa sýnt, þurfum við samfelld kerfi eftir því sem gervigreindarlíkön verða sífellt öflugri, svo hægt sé að koma verkfærunum í hendur stjórnvalda, mikilvægra innviða, bandamanna og traustra samstarfsaðila.

Stefnumótendur ættu einnig að varast að verkefnið þenjist út. Ekki ætti að fela ríkjum að stýra verulegri þjóðaröryggisáhættu (eða í raun að taka ákvarðanir um þjóðaröryggi fyrir landið allt) né að framkvæma mjög tæknilegar úttektir sem alríkissérfræðingar eru betur í stakk búnir til að sinna, með það fjármagn, sérþekkingu, aðgang að leynilegum kerfum og getu sem þarf til að vinna náið með teymum okkar.

Á alríkisstigi heldur ríkisstjórn Trumps áfram að vinna með sérfræðingum í tækni- og þjóðaröryggismálum að ramma fyrir prófanir bandarískra stjórnvalda á öflugustu gervigreindarlíkönunum á sviði netöryggis. Sá rammi mun skilgreina prófunarstaðla, tímaáætlanir og ferla. OpenAI á uppbyggilegar viðræður við ríkisstjórnina, sambærileg fyrirtæki, samtök atvinnulífsins og aðra hagsmunaaðila sem hjálpa til við að móta verkefnið.

Sú vinna sem nú stendur yfir við mat á netöryggi sýnir hvers vegna samræmi skiptir máli. Í dag eru líkön, skiljanlega, prófuð áður en alríkisramminn er fullbúinn. Eftir því sem rannsóknarstofur hafa unnið sig í gegnum þetta ferli hefur ein lærdómsrík niðurstaða orðið skýr: við þurfum samræmda og endurtekningarhæfa nálgun bæði á fylkja- og alríkisstigi. Það er nauðsynlegt ef við viljum koma öflugustu líkönunum í hendur stjórnvalda, þeirra sem verja mikilvæga innviði, bandamanna og annarra traustra samstarfsaðila. Við fögnum því markmiði ríkisstjórnarinnar að koma þessum ramma á fyrir byrjun ágúst.

Alríkisrammi fyrir prófanir mun hjálpa til við að koma háþróuðum gervigreindarverkfærum í hendur stjórnvalda, þeirra sem verja mikilvæga innviði, bandamanna og annarra traustra samstarfsaðila. Þannig mun hann styrkja lýðræðislegar stofnanir og stuðla að uppbyggingu lýðræðislegs gervigreindarstafla undir forystu Bandaríkjanna. Nú er tíminn til að nýta forskot Bandaríkjanna í nýsköpun til stuðnings lýðræðislegri gervigreind.

Hvorki óskilgreint alríkisferli né sundurlaus löggjöf ríkja mun skapa samfellda öryggisumgjörð fyrir framarlega gervigreind. Við þurfum nálgun sem tryggir að bestu prófunaraðilarnir meti öflugustu líkönin — og að traustir varnaraðilar fái aðgang að þessum verkfærum nógu hratt til að vera skrefi á undan illgjörnum aðilum.

Þingið er einnig farið af stað. Þingmenn í báðum deildum og úr báðum flokkum — þar á meðal nú síðast fulltrúarnir Jay Obernolte og Lori Trahan — hafa veitt þróun í fylkjunum og framkvæmdarvaldinu athygli og lagt fram tillögur að alríkisramma. Engin umræðudrög sem eiga raunhæfa leið til samþykktar verða fullkomin. En við lítum á þessa vinnu sem gagnlegt skref fram á við og teljum að mörg ákvæði hennar séu vel ígrunduð og verðskuldi stuðning.

Við erum sömuleiðis hvött af því að leiðtogar öldungadeildar og fulltrúadeildar leggja mikla vinnu í tillögur um landsbundna stjórnsýslu og öryggi framarlegrar gervigreindar, og við höfum átt uppbyggilegar viðræður við marga þeirra. Í ljósi stærðar og áhrifa þeirra fylkja sem þegar hafa sett lög í sömu meginátt ætti það að auðvelda stofnun einnar landsbundinnar öryggisumgjarðar fyrir framarlega gervigreind að fella þessar nálganir inn í alríkislöggjöf.

Áætlun OpenAI um öryggi framarlegrar gervigreindar setur fram það sem við teljum vera nauðsynlega þætti þessa ramma.

Í fyrsta lagi ætti alríkisstjórnin að leiða prófanir og mat á fullkomnustu kerfunum. Framarleg gervigreind vekur spurningar um þjóðaröryggi og almannaöryggi sem krefjast tæknilegrar sérþekkingar, fjármagns og aðgangs sem ekkert ríki getur endurskapað að fullu.

Sú vinna ætti að styrkja Center for AI Standards and Innovation (CAISI), sem var stofnað undir stjórn Bidens forseta og eflt undir stjórn Trumps forseta. CAISI getur veitt þá varanlegu getu á alríkisstigi sem þarf til að meta háþróuð líkön og færa öryggi framarlegrar gervigreindar í átt að því að koma í veg fyrir skaða áður en hann verður, í stað þess að treysta fyrst og fremst á ábyrgð eftir á. Öll alríkislöggjöf ætti að íhuga vandlega hvernig CAISI eigi að vinna með öðrum hlutum stjórnsýslunnar og hvaða hlutverk stofnunin eigi að gegna í miðju prófunarstarfsins.

Í öðru lagi ættu fyrirtæki sem þróa öflugustu kerfin að uppfylla skýrar kröfur, þar á meðal um óháðar úttektir, tilkynningu atvika, sterka öryggisstaðla og vernd uppljóstrara.

Í þriðja lagi ætti viðleitni alríkis og ríkis að styðja hvert annað. Lög ríkjanna verða ekki öll eins og við hlökkum til að vinna með stefnumótendum um allt land að því að tryggja að þau efli öryggi um leið og þau hámarka efnahagslegan ávinning gervigreindar.

Ríki ættu einnig áfram að vera tilraunastofur lýðræðisins á sviðum utan öryggis framarlegrar gervigreindar, þar á meðal í vernd barna og ungmenna, raforku- og umhverfisstefnu og fræðslu og læsi um gervigreind.

Alríkisrammi er áfram nauðsynlegur. Framarleg gervigreind vekur spurningar um þjóðaröryggi, efnahagslega samkeppnishæfni og almannaöryggi sem krefjast að lokum landsbundinna staðla, landsbundinnar getu og landsbundinna stofnana til að styðja við lýðræðislega gervigreind.

Landslöggjöf er einnig lykilatriði fyrir alþjóðlegan ramma um gervigreindarstaðla undir forystu Bandaríkjanna. Þessi hugmynd var rædd fyrir nokkrum vikum á G7-fundinum, ásamt Brasilíu, Egyptalandi, Indlandi, Kenýa og Kóreu, þar sem forstjórar leiðandi rannsóknarstofa í framarlegri gervigreind ræddu þörfina fyrir slíkan ramma. Að þeim fundi loknum lagði Sam Altman, forstjóri OpenAI, til í Financial Times⁠(opnast í nýjum glugga) „alþjóðlegan vettvang undir forystu Bandaríkjanna sem setur viðurkennda staðla, veitir sérfræðiúttektir og hlutlausa greiningu á getu og áhættu og gerir tæknina aðgengilega þjóðum og fyrirtækjum sem taka þátt og fylgja reglunum.“ Í þessari viku setti Demis Hassabis, forstjóri Google DeepMind, einnig fram ígrundaðar hugmyndir í nýrri grein. Alríkislöggjöf — sem hlýtur að þurfa stuðning beggja flokka — myndi leggja sterkan grunn að þeirri alþjóðlegu viðleitni.

Þessi kraftur er nú sýnilegur á öllum stigum. Ríkin eru að koma á sameiginlegum nálgunum. Þingið og framkvæmdarvaldið vinna að landsbundnum ramma. Og leiðtogar á heimsvísu eru farnir að ræða alþjóðlega staðla. Ef hvert stig byggir á hinu geta Bandaríkin leitt þróun alþjóðlegs ramma sem byggir á lýðræðislegri framtíðarsýn fyrir gervigreind. Og þessi lýðræðislega samræmingarnálgun á gervigreind er sú nálgun sem setur öryggi raunverulega í forgang.