Consolidarea controlului democratic în securitatea națională

IA schimbă modul în care guvernele democratice își protejează cetățenii. Aceasta poate contribui la oprirea atacurilor cibernetice, la protejarea infrastructurii critice, la detectarea mai rapidă a amenințărilor și la o mai bună înțelegere a situației de către funcționarii publici în timpul unei crize. Folosite corespunzător, aceste instrumente pot consolida securitatea națională.

Controlul democratic contribuie la garantarea faptului că exercitarea puterii publice rămâne responsabilă în fața cetățenilor pe care îi deservește. Pe măsură ce IA face activitatea din domeniul securității naționale mai rapidă și mai eficientă, instituțiile responsabile de controlul acesteia trebuie, la rândul lor, să țină pasul. IA poate acționa rapid și la scară largă pe baza unui context incomplet sau învechit, a unor obiective configurate greșit ori a unor premise nealiniate, ceea ce face ca erorile să fie mai greu de detectat manual înainte să se propage. Controlul este deosebit de important atunci când IA este utilizată pentru securitatea națională, deoarece deciziile pot necesita păstrarea secretului și pot avea consecințe majore.

Sub îndrumarea Principiilor noastre privind securitatea națională, abordăm implementările din acest domeniu cu măsuri de protecție, discernământ uman real și un control adecvat, în special în situațiile cu miză mare. Aceste principii acordă prioritate și sprijinirii instituțiilor de control pentru ca ele să-și dezvolte capacitatea de a supraveghea utilizarea IA rapid și la scară largă.

Instituțiile guvernamentale au deja stabilite competențele și responsabilitățile necesare pentru supravegherea activităților de securitate națională. Atunci când IA contribuie la aceste activități, este posibil ca modul de supraveghere să trebuiască să evolueze. Supravegherea tradițională necesită multă muncă și devine aproape imposibilă atunci când echipelor mici, care folosesc metode învechite, pe hârtie, li se cere să analizeze sisteme care funcționează la viteza mașinilor.

OpenAI consideră că sistemele mai capabile necesită un control mai riguros și aplicăm acest principiu inclusiv propriei activități. Conform Cadrului nostru de pregătire, modelele avansate sunt evaluate riguros înainte de implementare pentru a le înțelege capacitățile și a stabili dacă măsurile de protecție sunt suficiente. Această examinare continuă după implementare prin monitorizare permanentă și analizarea incidentelor, iar concluziile desprinse contribuie la măsuri de protecție mai solide și la dezvoltarea viitoarelor modele.

OpenAI nu exercită și nici nu ar trebui să exercite un rol de control asupra guvernului. Această responsabilitate le revine reprezentanților aleși și instituțiilor publice create în acest scop. Putem însă sprijini instituțiile de control prin tehnologia noastră, în timp ce acestea își îndeplinesc atribuțiile existente.

Această activitate va fi ghidată de trei principii.

În primul rând, IA ar trebui să consolideze, nu să înlocuiască discernământul uman și instituțional. Deciziile privind legalitatea și caracterul adecvat al acțiunilor guvernului, precum și conformitatea lor cu normele și politicile aplicabile, le revin autorităților competente și organismelor de control constituite legal.

În al doilea rând, utilizarea IA de către guvern ar trebui să fie trasabilă și inteligibilă pentru organismele de control autorizate. Evaluatorii ar trebui să poată înțelege contribuția IA la o decizie, protejând totodată informațiile clasificate, private și sensibile din perspectiva securității.

În al treilea rând, IA ar trebui folosită pentru a consolida capacitatea instituțiilor de control democratic. Controlul manual al utilizării IA în administrația publică nu poate fi extins la scara necesară. Pe măsură ce IA este adoptată în securitatea națională și în alte activități guvernamentale cu miză mare, organismele de control ar trebui să o folosească, la rândul lor, în mod responsabil, inteligibil și conform propriilor atribuții.

În următorul an, intenționăm să dezvoltăm această inițiativă în următoarele moduri:

• Vom colabora cu oficialii autorizați pentru a identifica oportunități concrete în care instrumentele de IA sau asistența tehnică pot eficientiza controlul.

• Vom oferi organismelor de control ale guvernelor democratice 5 milioane de dolari sub formă de instruire, asistență tehnică și credite OpenAI, pentru a sprijini adoptarea și evaluarea responsabilă a instrumentelor de IA.

• Vom colabora cu instituțiile de control pentru a testa instrumente care îi ajută pe evaluatorii autorizați să examineze documentele aferente deciziilor guvernamentale asistate de IA, inclusiv datele de intrare și rezultatele relevante, precum și utilizarea instrumentelor, pentru a înțelege mai bine influența IA asupra rezultatelor. Acolo unde este posibil, instrumentele vor fi interoperabile sau independente de model. Instituțiile participante, nu OpenAI, vor păstra controlul asupra probelor, rezultatelor și constatărilor, care vor rămâne accesibile exclusiv oficialilor guvernamentali autorizați.

• Vom implica societatea civilă și experții tehnici, astfel încât perspectivele lor să influențeze modul în care OpenAI dezvoltă aceste instrumente și abordează responsabilitățile asociate.

IA poate concentra puterea sau poate ajuta instituțiile democratice să o exercite și să o controleze mai eficient. Tehnologia în sine nu va decide ce viitor vom avea, ci alegerile pe care instituțiile și companiile le fac acum.

Vom evalua progresul acestei inițiative în funcție de capacitatea evaluatorilor autorizați de a-și îndeplini mai bine obligațiile și de existența unor motive mai solide pentru ca publicul să aibă încredere că sistemele guvernamentale de IA sunt utilizate conform scopului lor.

Pe măsură ce utilizarea IA de către guvern evoluează, OpenAI va continua să sprijine instituțiile responsabile de controlul acesteia.