Contribuire a standard condivisi per l’IA avanzata

Modelli sempre più capaci possono rafforzare la difesa informatica, accelerare la scoperta scientifica e ampliare l’accesso alle competenze. Ma possono anche creare rischi per la sicurezza se le loro capacità vengono comprese in modo errato, se le misure di protezione sono inadeguate o se i governi non dispongono delle informazioni necessarie per reagire. Per realizzarne i benefici in modo sicuro e con fiducia, le società avranno bisogno di istituzioni dotate della capacità tecnica e di governance necessaria per valutare, proteggere e governare sistemi sempre più capaci.

Questo è uno dei motivi per cui OpenAI ha contribuito a fondare la Appia Foundation⁠(si apre in una nuova finestra), ospitata dalla Linux Foundation. Appia svilupperà specifiche aperte e modulari pensate per tradurre standard internazionali e framework consolidati in criteri pratici di valutazione lungo la catena del valore dell’IA. Il suo lavoro può contribuire a sviluppare un livello di fiducia essenziale e oggi mancante, attraverso il quale terze parti verificano la conformità agli standard, producendo prove più chiare e riutilizzabili quando modelli, infrastrutture e applicazioni sono sviluppati da organizzazioni diverse. Con questo lavoro, Appia contribuirà a creare un linguaggio tecnico condiviso che permetterà alle istituzioni nazionali e internazionali di fidarsi reciprocamente del lavoro svolto.

Consideriamo questo impegno un importante passo avanti in un programma più ampio volto a rafforzare le istituzioni, gli standard e le pratiche di valutazione necessari per i sistemi di IA avanzati.

Il nostro recente piano per una governance democratica dell’IA di frontiera offre una tabella di marcia per questo lavoro. Invita a creare un quadro statunitense duraturo, un Center for AI Standards and Innovation (CAISI) rafforzato e una strategia di resilienza più ampia nell’intera amministrazione pubblica. Riconosce inoltre che i rischi di frontiera hanno una portata internazionale. Le nazioni dovrebbero collaborare per sviluppare quadri di sicurezza compatibili, canali affidabili per condividere i risultati sui rischi e risposte coordinate agli incidenti.

La capacità nazionale e la cooperazione internazionale dovrebbero rafforzarsi a vicenda. Istituzioni solide come CAISI possono sviluppare competenze tecniche, valutare sistemi di frontiera e sostenere un ecosistema di valutazione indipendente. Una rete di istituzioni nazionali competenti può quindi stabilire metodi condivisi, riconoscere prove affidabili e fornire ai governi la comprensione tecnica comune necessaria per agire insieme.

Gli standard sono centrali per questo impegno e devono fondarsi su pratiche di valutazione credibili e su rigore tecnico. Nel nostro playbook condiviso per valutazioni affidabili di terze parti, abbiamo indicato che cosa le valutazioni di frontiera devono rendere sempre più trasparente: il sistema testato, il suo accesso agli strumenti e l’ambiente di valutazione, i metodi usati per far emergere le capacità, le risorse disponibili e i controlli effettuati per convalidare i risultati. Abbiamo inoltre messo in pratica questi principi attraverso partnership di testing con il CAISI statunitense e l’AISI britannico, il cui lavoro sulle valutazioni delle capacità di frontiera e sulle misure di protezione contro l’uso improprio in ambito biologico ha portato a miglioramenti concreti nei nostri sistemi. Questo lavoro svolge una funzione importante: creare le basi per pratiche standardizzabili che permettano di verificare le prestazioni in modo comparabile.

Queste pratiche integrano la più ampia infrastruttura di sicurezza di OpenAI. Il nostro Preparedness Framework è la base con cui definiamo e rendiamo operativo il nostro approccio alla gestione dei rischi più gravi derivanti dai sistemi di IA avanzati, incluse le nostre pratiche interne. Il nostro Framework di governance di frontiera applica le parti pertinenti di tale approccio in un documento pubblico di governance incentrato su specifici obblighi normativi, tra cui valutazione del rischio, rendicontazione sui modelli, controlli di sicurezza, risposta agli incidenti e integrazione del contributo di esperti esterni. Nel loro insieme, questi strumenti aiutano a tradurre impegni generali in pratiche operative che possono essere convalidate e migliorate.

Il lavoro di Appia punta alla prossima sfida: rendere queste pratiche interoperabili tra organizzazioni, giurisdizioni e catena di fornitura.

OpenAI contribuisce già a un ecosistema più ampio di standard e iniziative di pre-standardizzazione. Partecipiamo al Comitato tecnico congiunto 1 dell’Organizzazione internazionale per la normazione e della Commissione elettrotecnica internazionale, sottocomitato 42 sull’intelligenza artificiale⁠(si apre in una nuova finestra) e al Consorzio per l’intelligenza artificiale guidato dal National Institute of Standards and Technology⁠(si apre in una nuova finestra); abbiamo contribuito a fondare il Forum dei modelli di frontiera e la Fondazione per l’intelligenza artificiale agentica⁠(si apre in una nuova finestra) della Linux Foundation; partecipiamo alla Coalizione per l’intelligenza artificiale sicura⁠(si apre in una nuova finestra); facciamo parte del comitato direttivo della Coalizione per la provenienza e l’autenticità dei contenuti⁠(si apre in una nuova finestra); e prendiamo parte ai processi dell’Internet Engineering Task Force⁠(si apre in una nuova finestra) e della Fast Identity Online Alliance⁠(si apre in una nuova finestra) per promuovere standard tecnici interoperabili.

In tutti questi forum, e ora anche attraverso Appia, il nostro obiettivo è trasformare gli insegnamenti dello sviluppo di frontiera in pratiche aperte e tecnicamente solide che governi, aziende e valutatori indipendenti possano utilizzare in diverse giurisdizioni.