Demokratinės nacionalinio saugumo priežiūros stiprinimas
OpenAI pradeda naują iniciatyvą, skirtą padėti demokratinės priežiūros institucijoms įgyti žinių ir priemonių, reikalingų suprasti ir prižiūrėti, kaip valdžios institucijos naudoja DI nacionaliniam saugumui.
DI keičia tai, kaip demokratinės vyriausybės saugo savo žmones. Jis gali padėti sustabdyti kibernetines atakas, apsaugoti ypatingos svarbos infrastruktūrą, anksčiau aptikti grėsmes ir suteikti valstybės tarnautojams aiškesnį krizės vaizdą. Tinkamai naudojamos šios priemonės gali sustiprinti nacionalinį saugumą.
Demokratinė priežiūra padeda užtikrinti, kad viešosios valdžios naudojimas būtų atskaitingas žmonėms, kuriems ji tarnauja. DI spartinant nacionalinio saugumo veiklą ir didinant jos pajėgumus, šią veiklą prižiūrinčios institucijos taip pat turi neatsilikti. DI gali sparčiai ir plačiu mastu veikti remdamasis neišsamiu ar pasenusiu kontekstu, netinkamai sukonfigūruotais tikslais arba nesuderintomis prielaidomis, todėl klaidas sunkiau aptikti rankiniu būdu prieš joms išplintant. DI naudojimo nacionaliniam saugumui priežiūra ypač svarbi, nes sprendimams gali būti būtinas slaptumas, o jų pasekmės gali būti itin reikšmingos.
Vadovaudamiesi savo nacionalinio saugumo principais, nacionalinio saugumo sprendimus diegiame taikydami apsaugos priemones, prasmingą žmogaus vertinimą ir tinkamą priežiūrą, ypač kai pasekmės gali būti itin reikšmingos. Pagal šiuos principus taip pat teikiame pirmenybę pagalbai priežiūros institucijoms ugdyti gebėjimus sparčiai ir plačiu mastu prižiūrėti DI naudojimą.
Valdžios institucijos jau turi nustatytus įgaliojimus ir pareigas prižiūrėti nacionalinio saugumo veiklą. Kai prie šios veiklos prisideda DI, priežiūra taip pat gali turėti keistis. Tradicinei priežiūrai reikia daug darbo, o kai nedidelėms komandoms, taikančioms popieriaus laikų metodus, tenka vertinti mašininiu greičiu veikiančias sistemas, ji tampa beveik neįmanoma.
OpenAI mano, kad pajėgesnėms sistemoms reikia griežtesnės priežiūros, ir šį principą taiko sau. Pagal mūsų Pasirengimo sistemą pažangūs modeliai prieš diegimą kruopščiai įvertinami, kad suprastume jų pajėgumus ir nustatytume, ar apsaugos priemonių pakanka. Šis tikrinimas tęsiamas ir po diegimo: vykdoma nuolatinė stebėsena ir incidentų analizė, o įgytos žinios padeda stiprinti apsaugos priemones ir kurti būsimus modelius.
OpenAI neprižiūri valdžios institucijų ir neturėtų to daryti. Ši atsakomybė tenka išrinktiems pareigūnams ir tam įsteigtoms viešosioms institucijoms. Tačiau galime savo technologijomis padėti priežiūros institucijoms vykdyti turimus įgaliojimus.
Šiame darbe vadovausimės trimis principais.
Pirma, DI turėtų stiprinti, o ne pakeisti žmonių ir institucijų vertinimą. Sprendimus, ar valdžios institucijų veiksmai yra teisėti, tinkami ir atitinka taikomas taisykles bei politiką, turi priimti įgaliotos įstaigos ir teisėtai sudarytos priežiūros institucijos.
Antra, valdžios institucijų DI naudojimas turėtų būti atsekamas ir suprantamas įgaliotiems prižiūrėtojams. Vertintojai turėtų galėti suprasti, kaip DI prisidėjo prie sprendimo, kartu apsaugant įslaptintą, privačią ir saugumo požiūriu jautrią informaciją.
Trečia, DI turėtų būti naudojamas demokratinės priežiūros institucijoms įgalinti. Rankinė valdžios institucijų DI naudojimo priežiūra negali būti vykdoma plačiu mastu. DI diegiant nacionalinio saugumo ir kitoje itin atsakingoje valdžios institucijų veikloje, priežiūros įstaigos taip pat turėtų jį naudoti atsakingai, suprantamai ir laikydamosi savo įgaliojimų.
Per ateinančius metus šią iniciatyvą ketiname plėtoti taip:
Bendradarbiausime su įgaliotais pareigūnais, kad nustatytume praktines galimybes, kur DI priemonės ar techninė pagalba galėtų padidinti priežiūros veiksmingumą.
Demokratinių vyriausybių priežiūros institucijoms skirsime 5 mln. JAV dolerių vertės mokymų, techninės pagalbos ir OpenAI kreditų, kad padėtume atsakingai diegti ir vertinti DI priemones.
Kartu su priežiūros institucijomis išbandysime priemones, padedančias įgaliotiems vertintojams nagrinėti su DI padedamais valdžios sprendimais susijusius įrašus, įskaitant atitinkamus įvesties ir išvesties duomenis bei priemonių naudojimą, kad būtų geriau suprantama DI įtaka rezultatams. Kai įmanoma, priemonės bus sąveikios arba nepriklausomos nuo konkretaus modelio. Įrodymus, rezultatus ir išvadas kontroliuos dalyvaujančios institucijos, o ne OpenAI, ir jie bus prieinami tik įgaliotiems valdžios pareigūnams.
Įtrauksime pilietinės visuomenės ir technikos ekspertus, kad OpenAI, kurdama šias priemones ir vykdydama su jomis susijusias pareigas, atsižvelgtų į jų požiūrį.
DI gali sutelkti galią arba padėti demokratinėms institucijoms veiksmingiau ją įgyvendinti ir kontroliuoti. Vien technologija nenulems, kokia ateitis mūsų laukia, tačiau ją nulems žmonių valdomų institucijų ir įmonių šiandien priimami sprendimai.
Šios iniciatyvos pažangą vertinsime pagal tai, ar įgalioti vertintojai gali geriau vykdyti savo pareigas ir ar visuomenė turi daugiau pagrindo pasitikėti, kad valdžios institucijų DI sistemos naudojamos pagal paskirtį.
Kintant DI naudojimui valdžios institucijose, OpenAI ir toliau rems už jo priežiūrą atsakingas institucijas.
