Abordarea noastră privind parteneriatele guvernamentale și de securitate națională

Guvernele încep să folosească sisteme de AI de vârf pentru activități tot mai importante, inclusiv în domeniul securității naționale. Acest lucru creează noi imperative pentru laboratoarele de AI, guverne și societatea civilă: să colaboreze pentru a stabili cum ar trebui folosite aceste instrumente în contexte sensibile. 

Credem că societățile democratice ar trebui să poată folosi AI pentru a proteja oamenii, a apăra infrastructura critică, a furniza servicii publice și a răspunde amenințărilor emergente, inclusiv în domenii precum apărarea cibernetică și securitatea biologică, unde AI le poate oferi apărătorilor un avantaj semnificativ. Dar sistemele de AI tot mai capabile trebuie implementate în moduri care consolidează răspunderea democratică, judecata umană semnificativă și statul de drept și care întăresc instituțiile democratice, în loc să concentreze puterea.

Astăzi publicăm Principiile OpenAI privind securitatea națională, pentru a oferi transparență asupra modului în care abordăm parteneriatele guvernamentale și utilizările tehnologiei noastre în securitatea națională.

Aceste principii reflectă un efort la nivelul întregii companii de a dezvolta o abordare mai cuprinzătoare a activității noastre în domeniul securității naționale și al aplicării legii, pe măsură ce tehnologia noastră continuă să avanseze. Am colaborat cu un expert de prim rang în securitate națională, David Kris, pentru a facilita procesul și a-și oferi judecata independentă, am organizat sesiuni de consultare în cadrul companiei și am implicat angajați care reprezintă o gamă largă de echipe, de la cercetare și siguranță până la politici publice și parteneriate guvernamentale.

Le publicăm acum, pe măsură ce ne extindem activitatea cu guvernul SUA și cu parteneri aliați în domenii defensive critice, în special securitatea cibernetică și biosecuritatea. În ultima lună, în cadrul programului nostru de apărare cibernetică Daybreak⁠, am stabilit deja parteneriate Trusted Access for Cyber cu Australia, Canada, Japonia, Republica Coreea, Franța, Germania, Polonia, Țările de Jos și instituții ale UE precum ENISA. Avem, de asemenea, un parteneriat tot mai amplu și bazat pe încredere cu guvernul Regatului Unit în domeniile securității cibernetice, testării și evaluării. Adoptăm o abordare similară în biosecuritate. Luna trecută, am anunțat, de asemenea, extinderea accesului de încredere la modelul nostru GPT‑Rosalind pentru parteneri selectați din guvernul SUA și din rândul aliaților, care sprijină misiuni de sănătate publică și bioapărare.

Aceste principii se aplică parteneriatelor noastre actuale și viitoare în domeniul securității naționale și al aplicării legii, inclusiv activității noastre existente cu Departamentul de Război. Când ne-am anunțat acordul la începutul acestui an, am formulat mai multe restricții contractuale: nicio utilizare a tehnologiei OpenAI pentru supraveghere internă în masă, nicio utilizare a tehnologiei OpenAI pentru dirijarea sistemelor de arme autonome și nicio utilizare a tehnologiei OpenAI pentru decizii automatizate cu miză ridicată. Aceste restricții sunt în concordanță cu principiile pe care le împărtășim astăzi.

Credem că e corect să fim clari cu privire la modurile în care tehnologia noastră poate și nu poate fi folosită și să fim transparenți în privința lor. Însă multe dintre cele mai importante întrebări despre AI în guvernare, mai ales în securitatea națională, ar trebui să primească răspuns prin procesul democratic. Rolul companiilor ca a noastră este să ajute la informarea acestor decizii, nu să le ia singure. De aceea susținem eforturile legislative de a stabili garanții pentru unele dintre utilizările militare ale AI cu cel mai ridicat risc, inclusiv în contexte de supraveghere internă, sisteme de arme autonome și alte utilizări cu risc ridicat care afectează direct securitatea națională a SUA.

Citește principiile aici⁠(se deschide într-o fereastră nouă).