Efling lýðræðislegs eftirlits með þjóðaröryggi

Gervigreind er að breyta því hvernig lýðræðisleg stjórnvöld vernda almenning. Hún getur hjálpað til við að stöðva netárásir, tryggja mikilvæga innviði, greina ógnir fyrr og veita opinberum starfsmönnum skýrari yfirsýn í krísum. Rétt notkun þessara verkfæra getur styrkt þjóðaröryggi.

Lýðræðislegt eftirlit stuðlar að því að beiting opinbers valds sé áfram háð ábyrgð gagnvart almenningi. Eftir því sem gervigreind hraðar starfi á sviði þjóðaröryggis og eykur getu þess þurfa stofnanirnar sem hafa eftirlit með starfinu einnig að halda í við þróunina. Gervigreind getur brugðist hratt og í stórum stíl við á grundvelli ófullnægjandi eða úrelts samhengis, rangt stilltra markmiða eða misvísandi forsendna. Það gerir erfiðara að greina mistök handvirkt áður en þau breiðast út. Eftirlit er sérstaklega mikilvægt þegar gervigreind er notuð í þágu þjóðaröryggis, því ákvarðanir geta af nauðsyn varðað leyndarmál og haft afdrifaríkar afleiðingar.

Með hliðsjón af meginreglum okkar um þjóðaröryggi beitum við verndarráðstöfunum, raunverulegu mannlegu mati og viðeigandi eftirliti við innleiðingu á sviði þjóðaröryggis, einkum þegar mikið er í húfi. Samkvæmt þessum meginreglum er einnig forgangsatriði að hjálpa eftirlitsstofnunum að byggja upp getu til að hafa eftirlit með notkun gervigreindar á miklum hraða og í stórum stíl.

Opinberar stofnanir hafa þegar skilgreindar valdheimildir og skyldur til að hafa eftirlit með starfsemi á sviði þjóðaröryggis. Þegar gervigreind kemur að slíkri starfsemi gæti þurft að þróa eftirlitið áfram. Hefðbundið eftirlit er mannaflsfrekt og verður nær ómögulegt þegar fámenn teymi, sem nota aðferðir frá tímum pappírsskjala, eiga að yfirfara kerfi sem starfa á vélrænum hraða.

OpenAI telur að öflugri kerfi krefjist sterkara eftirlits og við beitum þeirri meginreglu gagnvart okkur sjálfum. Samkvæmt Undirbúningsramma okkar sæta háþróuð líkön ítarlegri yfirferð fyrir innleiðingu til að meta getu þeirra og ákvarða hvort verndarráðstafanir séu fullnægjandi. Þessi nákvæma skoðun heldur áfram eftir innleiðingu með stöðugu eftirliti og yfirferð atvika. Lærdómurinn er nýttur til að efla verndarráðstafanir og þróa framtíðarlíkön.

OpenAI hefur ekki eftirlit með stjórnvöldum og á ekki að gera það. Sú ábyrgð hvílir á kjörnum fulltrúum og opinberum stofnunum sem komið var á fót í þeim tilgangi. Við getum þess í stað stutt eftirlitsstofnanir með tækni okkar þegar þær sinna núverandi lögbundnu hlutverki sínu.

Þrjár meginreglur verða hafðar að leiðarljósi í þessu starfi.

Í fyrsta lagi á gervigreind að styrkja mannlegt og stofnanabundið mat, ekki koma í stað þess. Ákvarðanir um hvort háttsemi stjórnvalda sé lögmæt, viðeigandi og í samræmi við gildandi reglur og stefnu eru á ábyrgð þar til bærra stofnana og lögskipaðra eftirlitsaðila.

Í öðru lagi á notkun stjórnvalda á gervigreind að vera rekjanleg og skiljanleg þar til bærum eftirlitsaðilum. Þeir þurfa að geta skilið hvernig gervigreind hafði áhrif á ákvörðun, um leið og trúnaðarupplýsingar, persónuupplýsingar og öryggisviðkvæmar upplýsingar eru verndaðar.

Í þriðja lagi á að nota gervigreind til að efla lýðræðislegar eftirlitsstofnanir. Handvirkt eftirlit með notkun gervigreindar hjá stjórnvöldum getur ekki vaxið að umfangi með notkuninni. Þegar gervigreind er tekin í notkun á sviði þjóðaröryggis og í öðru mikilvægu opinberu starfi ættu eftirlitsaðilar einnig að nýta hana á ábyrgan og gagnsæjan hátt í samræmi við lögbundið hlutverk sitt.

Á næsta ári ætlum við að efla þetta framtak með eftirfarandi hætti:

• Við munum vinna með þar til bærum embættismönnum að því að finna hagnýt tækifæri þar sem gervigreindarverkfæri eða tæknileg aðstoð geta gert eftirlit skilvirkara.

• Við munum veita lýðræðislegum eftirlitsstofnunum stjórnvalda þjálfun, tæknilega aðstoð og OpenAI-inneignir að andvirði 5 milljóna Bandaríkjadala til að styðja ábyrga innleiðingu og mat á gervigreindarverkfærum.

• Við munum vinna með eftirlitsstofnunum að tilraunaverkefnum með verkfæri sem auðvelda þar til bærum eftirlitsaðilum að skoða gögn um ákvarðanir stjórnvalda sem studdar eru gervigreind, þar á meðal viðeigandi ílag, frálag og notkun verkfæra, til að skilja betur áhrif gervigreindar á niðurstöður. Verkfærin verða samhæf við önnur kerfi eða óháð tilteknu líkani þar sem því verður við komið. Þátttökustofnanirnar, en ekki OpenAI, munu áfram hafa yfirráð yfir sönnunargögnum, frálagi og niðurstöðum, sem verða aðeins aðgengileg þar til bærum embættismönnum.

• Við munum eiga samráð við borgarasamfélagið og tæknisérfræðinga svo sjónarmið þeirra móti þróun OpenAI á þessum verkfærum og hvernig fyrirtækið axlar ábyrgðina sem þeim fylgir.

Gervigreind getur safnað valdi á fárra hendur eða hjálpað lýðræðislegum stofnunum að beita valdi og veita því aðhald á skilvirkari hátt. Tæknin ein ræður ekki hvor framtíðin verður að veruleika, heldur ákvarðanirnar sem stofnanir og fyrirtæki taka núna.

Við munum meta árangur framtaksins út frá því hvort þar til bærir eftirlitsaðilar geti betur sinnt skyldum sínum og almenningur hafi ríkari ástæður til að treysta því að gervigreindarkerfi stjórnvalda séu notuð eins og til er ætlast.

Eftir því sem notkun stjórnvalda á gervigreind þróast mun OpenAI áfram styðja stofnanirnar sem bera ábyrgð á eftirliti með henni.