Ajudem a crear estàndards compartits per a l’AI avançada
Els models cada vegada més capaços poden reforçar la ciberdefensa, accelerar els descobriments científics i ampliar l’accés a coneixement expert. Però també poden generar riscos per a la seguretat i la protecció si se’n malinterpreten les capacitats, les salvaguardes són insuficients o els governs no disposen de la informació que necessiten per respondre. Per materialitzar els beneficis amb seguretat i confiança, les societats necessitaran institucions amb capacitat tècnica i de governança per avaluar, protegir i governar sistemes cada vegada més capaços.
Aquesta és una de les raons per les quals OpenAI va ajudar a fundar l’Appia Foundation(s'obre en una finestra nova), acollida per la Linux Foundation. Appia desenvoluparà especificacions obertes i modulars pensades per convertir els estàndards internacionals i els marcs consolidats en criteris d’avaluació pràctics al llarg de la cadena de valor de l’AI. La seva feina pot ajudar a desenvolupar una capa de confiança crítica que falta, mitjançant la qual tercers comprovin la conformitat amb els estàndards i generin proves més clares i reutilitzables quan els models, la infraestructura i les aplicacions són desenvolupats per organitzacions diferents. En dur a terme aquesta tasca, Appia ajudarà a crear un llenguatge tècnic compartit que permeti a les institucions nacionals i internacionals confiar en la feina de les altres.
Considerem que aquest esforç és un pas següent important dins d’un conjunt més ampli de treballs per enfortir les institucions, els estàndards i les pràctiques d’avaluació necessaris per als sistemes d’AI avançada.
El nostre recent pla per a una governança democràtica de l’AI d’avantguarda ofereix un full de ruta per a aquesta feina. Proposa un marc durador als EUA, un Center for AI Standards and Innovation (CAISI) reforçat i una estratègia de resiliència més àmplia a tot el govern. També reconeix que els riscos fronterers tenen abast internacional. Els països haurien de treballar plegats per desenvolupar marcs de seguretat compatibles, canals de confiança per compartir conclusions sobre riscos i respostes coordinades als incidents.
La capacitat nacional i la cooperació internacional s’haurien de reforçar mútuament. Institucions fortes com el CAISI poden desenvolupar coneixement tècnic expert, avaluar sistemes d’avantguarda i donar suport a un ecosistema d’avaluació independent. Una xarxa d’institucions nacionals capaces pot establir mètodes compartits, reconèixer proves de confiança i donar als governs la comprensió tècnica comuna que necessiten per actuar conjuntament.
Els estàndards són centrals en aquest esforç i s’han de basar en una pràctica d’avaluació creïble i en el rigor tècnic. En el nostre manual compartit per a avaluacions de tercers fiables, establim què han de revelar cada vegada més les avaluacions de sistemes d’avantguarda: el sistema provat, l’accés a eines i l’entorn d’avaluació, els mètodes emprats per fer aflorar capacitats, els recursos disponibles i les comprovacions fetes per validar-ne els resultats. També hem posat aquests principis en pràctica mitjançant col·laboracions de proves amb el CAISI dels EUA i l’AISI del Regne Unit, i la feina d’aquestes institucions en avaluacions de capacitats d’avantguarda i salvaguardes contra l’ús indegut en l’àmbit biològic va comportar millores concretes als nostres sistemes. Aquesta feina compleix una funció important: establir les bases de pràctiques que es puguin estandarditzar per comprovar el rendiment de manera comparable.
Aquestes pràctiques complementen la infraestructura de seguretat més àmplia d’OpenAI. El nostre Entorn de treball de preparació és la base de com definim i posem en pràctica el nostre enfocament per gestionar els riscos més greus dels sistemes d’AI avançada, incloses les nostres pràctiques internes. El nostre Marc de Governança d’Avantguarda aplica parts rellevants d’aquest enfocament en un document públic de governança centrat en obligacions reguladores concretes, com l’avaluació de riscos, la notificació de models, els controls de seguretat, la resposta a incidents i la incorporació d’aportacions d’experts externs. En conjunt, aquests materials ajuden a convertir compromisos amplis en pràctiques operatives que es poden validar i millorar.
La feina d’Appia se centra en el repte següent: fer que aquestes pràctiques siguin interoperables entre organitzacions, jurisdiccions i la cadena de subministrament.
OpenAI ja contribueix a un ecosistema més ampli d’estàndards i esforços de preestandardització. Participem en l’Organització Internacional de Normalització i el Comitè Tècnic Conjunt 1 de la Comissió Electrotècnica Internacional, Subcomitè 42 sobre Intel·ligència Artificial(s'obre en una finestra nova) i en el Consorci d’Intel·ligència Artificial liderat pel National Institute of Standards and Technology(s'obre en una finestra nova); vam ajudar a fundar el Fòrum de Models d’Avantguarda i la Fundació d’Intel·ligència Artificial Agèntica(s'obre en una finestra nova) de la Linux Foundation; participem en la Coalició per a la Intel·ligència Artificial Segura(s'obre en una finestra nova); formem part del comitè de direcció de la Coalició per a la Procedència i l’Autenticitat del Contingut(s'obre en una finestra nova); i intervenim en els processos de l’Internet Engineering Task Force(s'obre en una finestra nova) i de la Fast Identity Online Alliance(s'obre en una finestra nova) per impulsar estàndards tècnics interoperables.
En tots aquests fòrums, ara també a través d’Appia, el nostre objectiu és convertir les lliçons del desenvolupament d’avantguarda en pràctiques obertes i tècnicament sòlides que governs, empreses i avaluadors independents puguin utilitzar en diferents jurisdiccions.
