A demokratikus felügyelet erősítése a nemzetbiztonságban

Az AI átalakítja, hogyan védik meg a demokratikus kormányok az embereket. Segíthet megállítani a kibertámadásokat, megvédeni a kritikus infrastruktúrát, korábban észlelni a fenyegetéseket, és válsághelyzetben tisztább képet adni a köztisztviselőknek. Megfelelő alkalmazásuk esetén ezek az eszközök erősíthetik a nemzetbiztonságot.

A demokratikus felügyelet segít biztosítani, hogy a közhatalom gyakorlói elszámoltathatók maradjanak azok előtt, akiket szolgálnak. Ahogy az AI gyorsabbá és hatékonyabbá teszi a nemzetbiztonsági munkát, az azt felügyelő intézményeknek is lépést kell tartaniuk. Az AI hiányos vagy elavult információk, hibásan beállított célok vagy téves feltételezések alapján is képes nagy sebességgel és léptékben cselekedni, így a hibákat nehezebb kézi módszerekkel észlelni, mielőtt továbbgyűrűznének. A felügyelet különösen fontos az AI nemzetbiztonsági alkalmazásakor, mivel a döntéseket szükségszerűen övezheti titoktartás, következményeik pedig rendkívül súlyosak lehetnek.

A Nemzetbiztonsági alapelveink alapján a nemzetbiztonsági alkalmazások során védelmi intézkedéseket, érdemi emberi mérlegelést és megfelelő felügyeletet biztosítunk, különösen a nagy jelentőségű helyzetekben. Ezek az alapelvek azt is kiemelt céllá teszik, hogy a felügyelettel megbízott intézmények képesek legyenek az AI használatát annak sebességéhez és léptékéhez igazodva ellenőrizni.

A kormányzati intézmények már rendelkeznek a nemzetbiztonsági tevékenységek felügyeletéhez szükséges hatáskörökkel és felelősségi körökkel. Amikor az AI is szerepet kap ezekben a tevékenységekben, a felügyeletnek is fejlődnie kellhet. A hagyományos felügyelet munkaigényes, és szinte lehetetlenné válik, amikor kis létszámú csapatoknak papíralapú korszakból származó módszerekkel kell gépi sebességgel működő rendszereket ellenőrizniük.

Az OpenAI szerint a nagyobb képességű rendszerek szigorúbb felügyeletet igényelnek, és ezt az elvet magunkra is alkalmazzuk. A Felkészültségi keretrendszerünk alapján a fejlett modellek bevezetését szigorú ellenőrzés előzi meg, hogy megértsük képességeiket, és megállapítsuk, elegendők-e a védelmi intézkedések. A vizsgálat a bevezetés után is folytatódik rendszeres monitorozással és az incidensek felülvizsgálatával; a tanulságok pedig segítik a védelmi intézkedések megerősítését és a jövőbeli modellfejlesztést.

Az OpenAI nem lát el felügyeleti szerepet a kormányzat felett, és nem is lenne helyes, ha így tenne. Ez a felelősség a választott tisztségviselőkre és az e célból létrehozott közintézményekre hárul. Ehelyett technológiánkkal támogathatjuk a felügyeleti intézményeket meglévő feladataik ellátásában.

E munkánkat három alapelv vezérli.

Először: az AI-nak erősítenie, nem pedig helyettesítenie kell az emberi és intézményi mérlegelést. Annak eldöntése, hogy a kormányzati eljárás jogszerű, helyénvaló, valamint az alkalmazandó szabályokkal és irányelvekkel összhangban áll-e, az illetékes szervek és a jogszerűen létrehozott felügyeleti testületek feladata.

Másodszor: az AI kormányzati használatának nyomon követhetőnek és érthetőnek kell lennie az arra jogosult felügyeleti szervek számára. Az ellenőröknek meg kell tudniuk állapítani, hogyan járult hozzá az AI egy döntéshez, miközben a minősített, személyes és biztonsági szempontból érzékeny információk védelme is megmarad.

Harmadszor: az AI-t a demokratikus felügyeleti intézmények megerősítésére kell használni. Az AI kormányzati használatának kézi felügyelete nem tehető nagy léptékben hatékonnyá. Ahogy a nemzetbiztonságban és más, nagy jelentőségű kormányzati területeken elterjed az AI, a felügyeleti szerveknek is felelősen, átláthatóan és felhatalmazásukkal összhangban kell alkalmazniuk.

A következő évben az alábbi módokon tervezzük előmozdítani ezt a kezdeményezést:

• Az illetékes tisztségviselőkkel együttműködve feltárjuk azokat a gyakorlati lehetőségeket, amelyeknél az AI-eszközök vagy a technikai támogatás hatékonyabbá teheti a felügyeletet.

• Ötmillió dollár értékű képzést, technikai támogatást és OpenAI-krediteket biztosítunk a demokratikus kormányok felügyeleti szerveinek az AI-eszközök felelős bevezetéséhez és értékeléséhez.

• A felügyeleti intézményekkel együttműködve olyan eszközöket tesztelünk, amelyek segítenek az illetékes ellenőröknek áttekinteni az AI-val támogatott kormányzati döntések dokumentációját – köztük a releváns bemeneteket, kimeneteket és eszközhasználatot –, hogy jobban megértsék, miként befolyásolta az AI az eredményeket. Az eszközök lehetőség szerint együttműködőképesek vagy modellfüggetlenek lesznek. A bizonyítékok, kimenetek és megállapítások felett a részt vevő intézmények – nem pedig az OpenAI – őrzik meg az ellenőrzést, és azokhoz kizárólag az illetékes kormányzati tisztségviselők férhetnek hozzá.

• Bevonjuk a civil társadalom képviselőit és a műszaki szakértőket, hogy szempontjaik alakítsák, miként fejleszti az OpenAI ezeket az eszközöket, és hogyan tesz eleget a velük járó felelősségnek.

Az AI összpontosíthatja a hatalmat, de segíthet is a demokratikus intézményeknek abban, hogy hatékonyabban gyakorolják és ellenőrizzék azt. Nem önmagában a technológia dönti el, melyik jövő valósul meg, hanem az emberi intézmények és vállalatok mostani döntései.

A kezdeményezés előrehaladását az alapján ítéljük meg, hogy az illetékes ellenőrök képesek-e jobban teljesíteni kötelezettségeiket, és a nyilvánosságnak több oka van-e bízni abban, hogy a kormányzati AI-rendszereket rendeltetésüknek megfelelően használják.

Az AI kormányzati felhasználásának fejlődésével az OpenAI továbbra is támogatni fogja az annak felügyeletéért felelős intézményeket.