Nálgun okkar að samstarfi við stjórnvöld og á sviði þjóðaröryggis

Ríkisstjórnir eru farnar að nota framarlega stödd gervigreindarkerfi við æ mikilvægari verkefni, meðal annars á sviði þjóðaröryggis. Það skapar nýja nauðsyn fyrir rannsóknarstofur á sviði gervigreindar, stjórnvöld og borgaralegt samfélag að vinna saman að því hvernig nota eigi þessi verkfæri í viðkvæmu samhengi. 

Við teljum að lýðræðissamfélög eigi að geta notað gervigreind til að vernda fólk, verja mikilvæga innviði, veita opinbera þjónustu og bregðast við nýjum ógnum, meðal annars á sviðum á borð við netvarnir og líföryggi þar sem gervigreind getur veitt verjendum raunverulegt forskot. En beita verður sífellt öflugri gervigreindarkerfum með hætti sem styrkir lýðræðislega ábyrgðarskyldu, raunverulegt mannlegt mat og réttarríkið, og eflir lýðræðislegar stofnanir í stað þess að samþjappa valdi.

Í dag birtum við þjóðaröryggisreglur OpenAI til að veita innsýn í hvernig við nálgumst samstarf við stjórnvöld og notkun tækni okkar í þágu þjóðaröryggis.

Þessar meginreglur endurspegla þverlægt átak innan fyrirtækisins til að móta heildstæðari nálgun að starfi okkar á sviði þjóðaröryggis og löggæslu eftir því sem tækninni okkar fleygir fram. Við fengum leiðandi sérfræðing í þjóðaröryggi, David Kris, til að greiða fyrir ferlinu og leggja fram óháð mat sitt, héldum hlustunarfundi víðs vegar um fyrirtækið og fengum aðkomu starfsfólks úr fjölbreyttum teymum, allt frá rannsóknum og öryggi til stefnumótunar og samstarfs við stjórnvöld.

Við birtum þær nú þegar við aukum samstarf okkar við bandarísk stjórnvöld og bandamenn á mikilvægum varnarsviðum, einkum netöryggi og líföryggi. Undanfarinn mánuð höfum við, sem hluta af netvarnaáætluninni Daybreak⁠, þegar komið á fót samstarfi um Trusted Access for Cyber við Ástralíu, Kanada, Japan, Lýðveldið Kóreu, Frakkland, Þýskaland, Pólland, Holland og stofnanir ESB á borð við ENISA. Við eigum einnig í vaxandi og traustu samstarfi við bresk stjórnvöld um netöryggi, prófanir og mat. Við beitum svipaðri nálgun í líföryggi. Í síðasta mánuði tilkynntum við einnig um aukinn traustan aðgang að GPT‑Rosalind‑líkaninu okkar fyrir valda samstarfsaðila innan bandarískra stjórnvalda og meðal bandamanna sem styðja verkefni á sviði heilsu almennings og lífvarna.

Þessar meginreglur gilda um núverandi og framtíðarstarf okkar með samstarfsaðilum á sviði þjóðaröryggis og löggæslu, þar á meðal núverandi samstarf okkar við stríðsmálaráðuneytið. Þegar við tilkynntum samning okkar fyrr á þessu ári lýstum við nokkrum samningsbundnum takmörkunum: ekki má nota tækni OpenAI til víðtæks innanlandseftirlits, ekki má nota tækni OpenAI til að stýra sjálfvirkum vopnakerfum og ekki má nota tækni OpenAI til sjálfvirkra ákvarðana með mikla þýðingu. Þessar takmarkanir eru í samræmi við meginreglurnar sem við deilum í dag.

Við teljum rétt að vera skýr um hvernig megi og megi ekki nota tækni okkar og að sýna gagnsæi um þær takmarkanir. En mörgum af afdrifaríkustu spurningunum um gervigreind hjá stjórnvöldum, einkum á sviði þjóðaröryggis, ætti að svara í lýðræðislegu ferli. Hlutverk fyrirtækja eins og okkar er að leggja grunn að upplýstum ákvörðunum, ekki að taka þær ein og sér. Þess vegna styðjum við lagasetningarátak til að koma á verndarráðstöfunum um einhverja áhættumestu hernaðarlegu notkun gervigreindar, meðal annars í samhengi innanlandseftirlits, sjálfvirkra vopnakerfa og annarrar áhættusamrar notkunar sem hefur bein áhrif á þjóðaröryggi Bandaríkjanna.

Lesa má meginreglurnar hér⁠(opnast í nýjum glugga).