Sprijinim crearea de standarde comune pentru AI avansată

Modelele din ce în ce mai capabile pot consolida apărarea cibernetică, accelera descoperirile științifice și extinde accesul la expertiză. Dar ele pot crea și riscuri de siguranță și securitate dacă le sunt înțelese greșit capacitățile, dacă măsurile lor de protecție sunt insuficiente sau dacă guvernele nu au informațiile de care au nevoie pentru a răspunde. Pentru a valorifica beneficiile în siguranță și cu încredere, societățile vor avea nevoie de instituții cu capacitatea tehnică și de guvernanță necesară pentru a evalua, securiza și guverna sisteme din ce în ce mai capabile.

Acesta este unul dintre motivele pentru care OpenAI a contribuit la înființarea Fundației Appia⁠(se deschide într-o fereastră nouă), găzduită de Linux Foundation. Appia va dezvolta specificații deschise și modulare, menite să transforme standardele internaționale și cadrele consacrate în criterii practice de evaluare de-a lungul lanțului valoric al AI. Activitatea sa poate ajuta la dezvoltarea unui strat de încredere esențial, care lipsește în prezent, prin care terții verifică conformitatea cu standardele și produc dovezi mai clare și mai reutilizabile atunci când modelele, infrastructura și aplicațiile sunt dezvoltate de organizații diferite. Prin această activitate, Appia va contribui la crearea unui limbaj tehnic comun, care va permite instituțiilor naționale și internaționale să aibă încredere unele în munca celorlalte.

Considerăm acest efort un pas următor important într-un ansamblu mai amplu de activități pentru consolidarea instituțiilor, standardelor și practicilor de evaluare necesare sistemelor AI avansate.

Recentul nostru plan pentru guvernanța democratică a AI de vârf oferă o foaie de parcurs pentru această activitate. Acesta solicită un cadru durabil în SUA, un Centru pentru Standarde și Inovare în AI (CAISI) consolidat și o strategie mai amplă de reziliență la nivelul guvernului. De asemenea, recunoaște că riscurile de frontieră au o amploare internațională. Țările ar trebui să colaboreze pentru a dezvolta cadre de siguranță compatibile, canale de încredere pentru partajarea constatărilor privind riscurile și răspunsuri coordonate la incidente.

Capacitatea națională și cooperarea internațională ar trebui să se consolideze reciproc. Instituții puternice precum CAISI pot dezvolta expertiză tehnică, evalua sisteme de vârf și sprijini un ecosistem independent de evaluare. O rețea de instituții naționale capabile poate apoi să stabilească metode comune, să recunoască dovezi de încredere și să ofere guvernelor înțelegerea tehnică comună necesară pentru a acționa împreună.

Standardele sunt esențiale pentru acest efort și trebuie să se bazeze pe practici de evaluare credibile și pe rigoare tehnică. În ghidul nostru comun pentru evaluări de încredere realizate de terți, prezentăm ce trebuie să dezvăluie tot mai mult evaluările de frontieră: sistemul testat, accesul său la instrumente și infrastructura de evaluare, metodele folosite pentru a scoate la iveală capacitățile, resursele disponibile și verificările efectuate pentru validarea rezultatelor. Am pus, de asemenea, aceste principii în practică prin parteneriate de testare cu US CAISI și UK AISI, a căror activitate privind evaluările capacităților de vârf și măsurile de protecție împotriva utilizării abuzive în domeniul biologic a dus la îmbunătățiri concrete ale sistemelor noastre. Această activitate îndeplinește o funcție importantă: creează baza pentru practici care pot fi standardizate, astfel încât performanța să fie verificată într-un mod comparabil.

Aceste practici completează infrastructura mai amplă de siguranță a OpenAI. Cadrul nostru de pregătire este fundamentul modului în care ne definim și punem în aplicare abordarea pentru gestionarea celor mai grave riscuri generate de sistemele AI avansate, inclusiv practicile noastre interne. Cadrul nostru de guvernanță pentru modele de vârf aplică părțile relevante ale acestei abordări într-un document public de guvernanță axat pe obligații de reglementare specifice, inclusiv evaluarea riscurilor, raportarea modelelor, controalele de securitate, răspunsul la incidente și integrarea contribuțiilor experților externi. Împreună, aceste documente ajută la transformarea angajamentelor generale în practici operaționale care pot fi validate și îmbunătățite.

Activitatea Appia vizează următoarea provocare: ca aceste practici să devină interoperabile între organizații, jurisdicții și lanțul de aprovizionare.

OpenAI contribuie deja la un ecosistem mai larg de standarde și eforturi de prestandardizare. Participăm la Comitetul tehnic mixt 1, Subcomitetul 42 pentru inteligență artificială, al Organizației Internaționale de Standardizare și al Comisiei Electrotehnice Internaționale⁠(se deschide într-o fereastră nouă) și la Consorțiul pentru inteligență artificială coordonat de Institutul Național de Standarde și Tehnologie⁠(se deschide într-o fereastră nouă); am contribuit la înființarea Frontier Model Forum și a Agentic Artificial Intelligence Foundation⁠(se deschide într-o fereastră nouă) a Linux Foundation; participăm la Coaliția pentru inteligență artificială sigură⁠(se deschide într-o fereastră nouă); facem parte din comitetul director al Coaliției pentru Proveniența și Autenticitatea Conținutului⁠(se deschide într-o fereastră nouă) și ne implicăm în procesele Internet Engineering Task Force⁠(se deschide într-o fereastră nouă) și Fast Identity Online Alliance⁠(se deschide într-o fereastră nouă) pentru a promova standarde tehnice interoperabile.

În toate aceste forumuri, inclusiv acum prin Appia, obiectivul nostru este să transformăm lecțiile învățate din dezvoltarea de frontieră în practici deschise, fundamentate tehnic, pe care guvernele, companiile și evaluatorii independenți le pot folosi în diverse jurisdicții.