Il nostro approccio alle partnership con governi e sicurezza nazionale
I governi stanno iniziando a usare sistemi di IA di frontiera per attività sempre più importanti, anche nell’ambito della sicurezza nazionale. Questo crea nuove necessità per i laboratori di IA, i governi e la società civile: collaborare per definire come questi strumenti debbano essere usati in contesti sensibili.
Riteniamo che le società democratiche debbano poter usare l’IA per proteggere le persone, difendere le infrastrutture critiche, erogare servizi pubblici e rispondere alle minacce emergenti, anche in ambiti come la difesa informatica e la sicurezza biologica, in cui l’IA può offrire un vantaggio significativo a chi difende. Tuttavia, sistemi di IA sempre più capaci devono essere implementati in modi che rafforzino la responsabilità democratica, un giudizio umano significativo e lo Stato di diritto, e che consolidino le istituzioni democratiche invece di concentrare il potere.
Oggi pubblichiamo i Principi di OpenAI per la sicurezza nazionale, per offrire trasparenza sul nostro approccio alle partnership con i governi e agli usi della nostra tecnologia nell’ambito della sicurezza nazionale.
Questi principi riflettono un impegno trasversale all’azienda per sviluppare un approccio più completo al nostro lavoro nell’area della sicurezza nazionale e delle forze dell’ordine, mentre la nostra tecnologia continua a progredire. Abbiamo coinvolto un autorevole esperto di sicurezza nazionale, David Kris, per facilitare il processo e fornire il suo giudizio indipendente; abbiamo organizzato sessioni di ascolto in tutta l’azienda e coinvolto dipendenti rappresentativi di diversi team, dalla ricerca e sicurezza alle politiche pubbliche e alle partnership con i governi.
Li pubblichiamo ora mentre ampliamo il nostro lavoro con il governo degli Stati Uniti e con partner alleati in aree difensive critiche, in particolare la sicurezza informatica e la biosicurezza. Nell’ultimo mese, nell’ambito del nostro programma di difesa informatica Daybreak, abbiamo già avviato partnership Trusted Access for Cyber con Australia, Canada, Giappone, Repubblica di Corea, Francia, Germania, Polonia, Paesi Bassi e istituzioni dell’UE come ENISA. Abbiamo inoltre una partnership in crescita e basata sulla fiducia con il governo del Regno Unito in materia di sicurezza informatica, test e valutazione. Stiamo adottando un approccio simile nella biosicurezza. Il mese scorso abbiamo inoltre annunciato un ampliamento dell’accesso fidato al nostro modello GPT‑Rosalind per partner selezionati del governo degli Stati Uniti e degli alleati che sostengono missioni di salute pubblica e biodifesa.
Questi principi si applicano alle nostre partnership attuali e future in materia di sicurezza nazionale e forze dell’ordine, incluso il lavoro già in corso con il Dipartimento della Guerra. Quando abbiamo annunciato il nostro accordo all’inizio di quest’anno, abbiamo definito diverse restrizioni contrattuali: nessun uso della tecnologia OpenAI per la sorveglianza domestica di massa, nessun uso della tecnologia OpenAI per dirigere sistemi d’arma autonomi e nessun uso della tecnologia OpenAI per decisioni automatizzate ad alto impatto. Queste restrizioni sono coerenti con i principi che condividiamo oggi.
Riteniamo che la cosa giusta sia essere chiari su come la nostra tecnologia possa e non possa essere usata, e agire con trasparenza al riguardo. Ma molte delle domande più decisive sull’IA nel governo, soprattutto nella sicurezza nazionale, dovrebbero trovare risposta attraverso il processo democratico. Il ruolo di aziende come la nostra è contribuire a informare queste decisioni, non prenderle da sole. Per questo sosteniamo gli sforzi legislativi volti a stabilire tutele per alcuni degli usi militari dell’IA a più alto rischio, anche nei contesti della sorveglianza domestica, dei sistemi d’arma autonomi e di altri usi ad alto rischio che incidono direttamente sulla sicurezza nazionale degli Stati Uniti.
Leggi i principi qui(si apre in una nuova finestra).
