USA fremmer KI-sikkerhet gjennom tiltak på delstats- og føderalt nivå

Av Chris Lehane, direktør for Global Affairs

Fra delstatshovedsteder over hele landet til Washington og internasjonale samlinger er seriøse tilnærminger til styring av banebrytende KI i ferd med å ta form. Sammen fremmer de en demokratisk visjon for KI.

California, New York og senest Illinois har fremmet lovgivning om sikkerhet for banebrytende KI som bidrar til å bevege landet mot et felles grunnlag for styring av de kraftigste KI-systemene.

Disse tiltakene viser fremdriften bak det OpenAI kaller omvendt føderalisme: at delstater bidrar til å etablere en felles retning gjennom et felles rammeverk. Etter hvert som delstatsdrevet arbeid nærmer seg innsatsen som pågår på føderalt nivå, begynner en nasjonal standard å ta form og legger grunnlaget for et USA-ledet globalt rammeverk for KI. Vi mener den beste måten å sikre at KI kommer de mange til gode, ikke bare de få, er at kritiske beslutninger – med sikkerhet for banebrytende KI som startpunkt – tas av demokratiske regjeringer, ikke bare av laboratorier for banebrytende KI.

Til syvende og sist vil USA være best tjent med et nasjonalt rammeverk forankret i dette prinsippet. Men i fravær av et slikt rammeverk kan delstatene bringe oss dit ved å vedta lover som speiler hverandre. Steg for steg kan de skape en de facto nasjonal standard.

Og hvis sikkerhet er prioriteten, er en slik nasjonal standard den beste politiske tilnærmingen for å sikre (a) at USA fortsetter å lede an i innovasjon og ikke undergraves av et lappeteppe av reguleringer som vil bremse evnen til å bygge ut en global demokratisk KI-stakk, slik at de gode kreftene får verktøyene de trenger for å forsvare seg mot ondsinnede aktører som forsøker å misbruke KI på områder som cybersikkerhet; og (b) at USA settes i den sterkeste posisjonen til å ta den nasjonale standarden videre og skape en global tilnærming for trygg innføring av KI, bygget på demokratiske verdier. Hvis vi vil skape et sikkerhetsrammeverk som virkelig prioriterer å få på plass en nasjonal og internasjonal standard – det som best vil støtte trygg innføring av KI – krever det hardt arbeid, alvor og en strategi som kobler sammen delstatene, den føderale regjeringen og den internasjonale samtalen. En performativ tilnærming eller signalering av gode intensjoner vil ikke få jobben gjort her – kaos på delstatsnivå er ikke i interessen til en varig sikkerhetstilnærming, det vil bare føre til mer kaos.

For at denne tilnærmingen skal lykkes, bør delstatene fortsette å samordne seg om kjerneelementene, slik California, New York og Illinois har gjort. Overordnet sett er disse elementene:

• Et dokumentert sikkerhetsrammeverk med risikovurderinger for banebrytende modeller og offentliggjøring av disse vurderingene og resultatene deres.
• Rapportering av alvorlige sikkerhetshendelser.
• Styring og ansvarliggjøring gjennom uavhengige, objektive revisjoner.

Til sammen har disse tre delstatene bygget demokratisk tilsyn inn i utrullingen av banebrytende KI. California etablerte det grunnleggende rammeverket for åpenhet. New York viste at tilnærmingen kunne tas i bruk på tvers av jurisdiksjoner. Illinois utfylte den ved å kreve uavhengig verifisering av sentrale opplysninger.

Vi erkjenner at lovgivning ofte inneholder tilleggsbestemmelser for å sikre stemmene som trengs for å bli vedtatt. Men vi mener dette er de nødvendige elementene for å skape en de facto nasjonal standard gjennom omvendt føderalisme. Uten slik disiplin risikerer vi at politikken eser ut, og et lappeteppe av delstatslover som er vanskelige for tilsynsmyndigheter å håndheve, forvirrende for forbrukere å navigere i og som leder utviklerressurser – særlig i oppstartsbedrifter og små selskaper – bort fra sikkerhet, der de ville gjort større nytte. Særlig, og slik de siste ukene har vist, trenger vi et sammenhengende system som gjør det mulig å få verktøyene i hendene på myndigheter, kritisk infrastruktur, allierte og betrodde partnere etter hvert som KI-modeller blir stadig mer kapable.

Politiske beslutningstakere bør også vokte seg mot at mandatet utvides. Delstater bør ikke bli bedt om å håndtere betydelige nasjonale sikkerhetsrisikoer (eller i praksis ta nasjonale sikkerhetsbeslutninger på vegne av hele landet) eller gjennomføre svært tekniske gjennomganger som bedre håndteres av føderale eksperter med ressurser, ekspertise, tilgang til graderte systemer og kapasitet til å samarbeide tett med teamene våre.

På føderalt nivå fortsetter Trump-administrasjonen arbeidet med tekniske eksperter og nasjonale sikkerhetseksperter om et rammeverk for den amerikanske regjeringens testing av de mest kapable KI-modellene innen cyber. Dette rammeverket vil fastsette teststandarder, tidslinjer og prosesser. OpenAI deltar i konstruktive samtaler med administrasjonen, andre selskaper, næringslivsorganisasjoner og andre interessenter som bidrar til å forme arbeidet.

Det pågående arbeidet med cyberevalueringer viser hvorfor konsekvens er viktig. I dag testes modellene, forståelig nok, før det føderale rammeverket er ferdig. Etter hvert som laboratoriene har arbeidet seg gjennom denne prosessen, har én lærdom blitt tydelig: Vi trenger en konsekvent og repeterbar tilnærming både på delstatsnivå og føderalt nivå. Det er avgjørende hvis vi vil ha de mest kapable modellene i hendene på myndigheter, forsvarere av kritisk infrastruktur, allierte og andre betrodde partnere. Vi setter pris på administrasjonens mål om å ha dette rammeverket på plass innen begynnelsen av august.

Et føderalt testrammeverk vil bidra til å få avanserte KI-verktøy i hendene på myndigheter, forsvarere av kritisk infrastruktur, allierte og andre betrodde partnere. Slik vil det styrke demokratiske institusjoner og bidra til å bygge en USA-ledet demokratisk KI-stakk. Nå er tiden inne for å bruke USAs innovasjonsledelse til støtte for demokratisk KI.

Verken en udefinert føderal prosess eller et lappeteppe av delstatslover vil gi et sammenhengende sikkerhetsregime for banebrytende KI. Vi trenger en tilnærming som sikrer at de beste testerne evaluerer de mest kapable modellene – og at betrodde forsvarere får tilgang til disse verktøyene raskt nok til å ligge foran ondsinnede aktører.

Kongressen er også i bevegelse. Lovgivere i begge kamre og på begge sider av det politiske skillet – senest representantene Jay Obernolte og Lori Trahan – har merket seg utviklingen i delstatene og den utøvende makten og lagt frem forslag til et føderalt rammeverk. Ingen diskusjonsutkast med en realistisk vei til vedtak vil være perfekt. Men vi ser på dette arbeidet som et produktivt skritt fremover og mener at mange av bestemmelsene er gjennomtenkte og fortjener støtte.

Vi er også oppmuntret av at ledere i Senatet og Representantenes hus legger ned en seriøs innsats i nasjonal styring og forslag om sikkerhet for banebrytende KI, og vi har hatt konstruktive samtaler med mange av dem. Gitt størrelsen og innflytelsen til delstatene som allerede har vedtatt lover i samme retning, bør det bli enklere å etablere ett nasjonalt sikkerhetsregime for banebrytende KI dersom disse tilnærmingene innarbeides i føderal lovgivning.

OpenAIs plan for sikkerhet ved banebrytende KI beskriver det vi mener er de nødvendige elementene i dette rammeverket.

For det første bør den føderale regjeringen lede testingen og evalueringen av de mest avanserte systemene. Banebrytende KI reiser spørsmål om nasjonal sikkerhet og offentlig trygghet som krever teknisk ekspertise, ressurser og tilgang som ingen delstat fullt ut kan kopiere.

Dette arbeidet bør styrke Center for AI Standards and Innovation (CAISI), som ble opprettet under president Biden og styrket under president Trump. CAISI kan gi den varige føderale kapasiteten som trengs for å evaluere avanserte modeller og dreie sikkerhet for banebrytende KI mot å forebygge skade før den oppstår, i stedet for primært å basere seg på ansvarliggjøring i etterkant. All føderal lovgivning bør nøye vurdere hvordan CAISI bør arbeide med resten av myndighetene, og hvilken rolle senteret bør spille i testingen.

For det andre bør selskaper som utvikler de mest kapable systemene, oppfylle klare krav, blant annet uavhengige revisjoner, hendelsesrapportering, sterke sikkerhetsstandarder og varslervern.

For det tredje bør føderale og delstatlige tiltak forsterke hverandre. Delstatslover vil ikke alle være identiske, og vi ser frem til å samarbeide med beslutningstakere over hele landet for å sikre at de styrker sikkerheten samtidig som de maksimerer de økonomiske fordelene ved KI.

Delstatene bør også fortsette å fungere som demokratiets laboratorier på områder utover sikkerhet for banebrytende KI, blant annet vern av unge, strøm- og miljøpolitikk samt KI-utdanning og KI-kompetanse.

Et føderalt rammeverk er fortsatt avgjørende. Banebrytende KI reiser spørsmål om nasjonal sikkerhet, økonomisk konkurranseevne og offentlig trygghet som til syvende og sist krever nasjonale standarder, nasjonal kapasitet og nasjonale institusjoner for å støtte demokratisk KI.

Nasjonal lovgivning er også avgjørende for et USA-ledet internasjonalt rammeverk for KI-standarder. Denne ideen ble diskutert for flere uker siden på G7, sammen med Brasil, Egypt, India, Kenya og Korea, der toppsjefene for ledende laboratorier for banebrytende KI diskuterte behovet for et slikt rammeverk. Etter dette møtet foreslo OpenAI-sjef Sam Altman i Financial Times⁠(åpnes i et nytt vindu) «et USA-ledet internasjonalt forum som etablerer aksepterte standarder, gir faglig og upartisk analyse av kapabiliteter og risikoer, og gjør teknologien tilgjengelig for land og selskaper som deltar og følger reglene». Denne uken fremmet også Google DeepMind-sjef Demis Hassabis gjennomtenkte ideer i en ny artikkel. Føderal lovgivning – nødvendigvis med støtte fra begge partier – vil gi et sterkt grunnlag for denne internasjonale innsatsen.

Fremdriften er nå synlig på alle nivåer. Delstatene etablerer felles tilnærminger. Kongressen og den utøvende makten bygger mot et nasjonalt rammeverk. Og globale ledere begynner å diskutere internasjonale standarder. Hvis hver innsats bygger på den andre, kan USA lede utviklingen av et globalt rammeverk forankret i en demokratisk visjon for KI. Og denne tilnærmingen med demokratisk samordning om KI er den som virkelig prioriterer sikkerhet.