Il nostro accordo con il Dipartimento della Guerra

Ieri abbiamo raggiunto un accordo con il Pentagono per implementare sistemi di IA avanzati in ambienti classificati, chiedendo che fossero disponibili a tutte le aziende di IA.

Pensiamo che il nostro accordo offra più salvaguardie di qualsiasi precedente accordo per implementazioni di IA classificate, incluso quello di Anthropic. Ecco perché.

Abbiamo tre linee guida principali che orientano il nostro lavoro con il Dipartimento della Guerra, in linea con quanto adottato da altri laboratori di IA avanzata:

• Nessun uso della tecnologia OpenAI per la sorveglianza domestica di massa.
• Nessun utilizzo della tecnologia OpenAI per dirigere sistemi d'arma autonomi. 
• Nessun uso della tecnologia OpenAI per decisioni automatizzate ad alto impatto (ad esempio sistemi come "credito sociale").

Altri laboratori di IA hanno ridotto o eliminato le proprie misure di sicurezza, affidandosi principalmente alle policy di utilizzo come unica salvaguardia nelle implementazioni per la sicurezza nazionale. Riteniamo che il nostro approccio protegga meglio da usi inaccettabili.

Nel nostro accordo tuteliamo le nostre linee rosse con un approccio più ampio e multilivello. Manteniamo piena discrezionalità sulla nostra infrastruttura di sicurezza, operiamo tramite cloud, prevediamo il coinvolgimento di personale OpenAI autorizzato e disponiamo di solide tutele contrattuali. Tutto questo si aggiunge alle solide tutele già previste dalla legge degli Stati Uniti. 

Crediamo fermamente nella democrazia. Data l’importanza di questa tecnologia, riteniamo che l’unico percorso possibile richieda una stretta collaborazione tra lo sviluppo dell’IA e il processo democratico. Riteniamo inoltre che la nostra tecnologia comporti nuovi rischi, e vogliamo che le istituzioni responsabili della difesa degli Stati Uniti dispongano degli strumenti migliori.

Il nostro accordo include:

1. Architettura di distribuzione. Si tratta di una distribuzione esclusivamente cloud, con un’infrastruttura di sicurezza che gestiamo direttamente e che include questi principi, oltre ad altri. Non forniamo al DoW modelli privi di meccanismi di sicurezza né modelli non addestrati secondo standard di sicurezza. Inoltre, non distribuiamo i nostri modelli su dispositivi edge, dove potrebbero essere impiegati in sistemi d’arma autonomi letali. 

La nostra architettura di distribuzione ci consente di verificare in modo indipendente il rispetto di queste linee rosse, inclusa l’esecuzione e l’aggiornamento dei classificatori.

2. Il nostro contratto. Ecco il testo rilevante:

Il Dipartimento della Guerra può utilizzare il Sistema di IA per tutti gli scopi leciti, in conformità con la legge applicabile, i requisiti operativi e protocolli di sicurezza e supervisione consolidati. Il Sistema di IA non sarà utilizzato per dirigere in modo indipendente armi autonome in alcun caso in cui la legge, i regolamenti o la politica del Dipartimento richiedano il controllo umano, né sarà utilizzato per assumere altre decisioni ad alto impatto che richiedono l'approvazione da parte di un decisore umano in base alle stesse autorità. Ai sensi della Direttiva DoD 3000.09 (dtd 25 gennaio 2023), qualsiasi utilizzo di IA in sistemi autonomi e semi-autonomi deve essere sottoposto a rigorose attività di verifica, validazione, e test per garantire il corretto funzionamento in ambienti realistici prima della distribuzione.

Per le attività di intelligence, qualsiasi trattamento di informazioni private deve essere conforme al Quarto Emendamento, al National Security Act del 1947, al Foreign Intelligence and Surveillance Act del 1978, all’Executive Order 12333 e alle direttive DoD applicabili che richiedano una finalità definita di intelligence estera. Il Sistema di IA non deve essere utilizzato per il monitoraggio senza limiti delle informazioni private degli statunitensi, come previsto dalle suddette disposizioni. Il Sistema non deve inoltre essere utilizzato per attività di ordine pubblico sul territorio nazionale, salvo quanto consentito dal Posse Comitatus Act e da altre leggi applicabili.

3. Coinvolgimento di esperti di IA. Ingegneri OpenAI autorizzati opereranno a supporto del governo, con ricercatori autorizzati in materia di sicurezza e allineamento coinvolti nel processo. 

Perché fate questo? 

Innanzitutto, riteniamo che le forze armate statunitensi abbiano bisogno di modelli di IA solidi per sostenere la propria missione, soprattutto alla luce delle crescenti minacce rappresentate da potenziali avversari che stanno integrando sempre più tecnologie di IA nei loro sistemi. Inizialmente non abbiamo stipulato un contratto per una distribuzione classificata, perché ritenevamo che le nostre misure di sicurezza e i nostri sistemi non fossero ancora adeguati. Abbiamo quindi lavorato per garantire che una distribuzione classificata potesse avvenire con salvaguardie idonee ad assicurare il rispetto delle linee rosse.

Eravamo e restiamo riluttanti a rimuovere misure di salvaguardia tecniche fondamentali per migliorare le prestazioni in ambito di sicurezza nazionale. Non riteniamo che questo sia l’approccio corretto per sostenere le forze armate degli Stati Uniti. 

In secondo luogo, volevamo contribuire a ridurre le tensioni tra il DoW e i laboratori di IA statunitensi. Un futuro sostenibile richiederà una collaborazione reale e profonda tra il governo e i laboratori di IA. Nell’ambito del nostro accordo, abbiamo chiesto che gli stessi termini fossero resi disponibili a tutti i laboratori di IA e, in particolare, che il governo cercasse di risolvere la questione con Anthropic. Lo stato attuale non rappresenta un buon punto di partenza per questa nuova fase di collaborazione tra governo e laboratori di IA.

Perché siete riusciti a raggiungere un accordo mentre Anthropic non ci è riuscita? Avete firmato un accordo che loro non avrebbero firmato?

In base a quanto sappiamo, riteniamo che il nostro contratto offra garanzie più solide e salvaguardie più responsabili rispetto agli accordi precedenti, incluso il contratto originario di Anthropic. Riteniamo che, in questo caso, le nostre linee rosse siano più facilmente verificabili perché la distribuzione è limitata al cloud, mantiene attiva la nostra infrastruttura di sicurezza secondo gli standard che riteniamo più adeguati e prevede il coinvolgimento di personale OpenAI autorizzato.

Non sappiamo perché Anthropic non sia riuscita a raggiungere questo accordo e auspichiamo che loro e altri laboratori lo valutino.

Ritenete che Anthropic debba essere considerata un "rischio per la catena di approvvigionamento"?

No. Abbiamo chiarito la nostra posizione al governo.

Questo accordo consentirà al Dipartimento della Guerra di utilizzare i modelli OpenAI in sistemi d’arma autonomi? 

No. In base alla nostra infrastruttura di sicurezza, alla distribuzione esclusivamente cloud, alle clausole contrattuali e al quadro normativo vigente, siamo certi che ciò non possa accadere. Sarà inoltre coinvolto personale OpenAI autorizzato per un ulteriore livello di garanzia.  

Questo accordo consentirà al Dipartimento della Guerra di utilizzare i modelli OpenAI per svolgere attività di sorveglianza di massa su persone negli Stati Uniti?

No. In base alla nostra infrastruttura di sicurezza, alle clausole contrattuali e alle leggi vigenti che limitano fortemente il DoW nella sorveglianza domestica, siamo certi che ciò non possa accadere. Sarà inoltre coinvolto personale OpenAI autorizzato per un ulteriore livello di garanzia.  

Dovete distribuire modelli privi di un’infrastruttura di sicurezza?

No. Manteniamo il pieno controllo sull’infrastruttura di sicurezza che utilizziamo e non distribuiamo modelli privi di adeguate misure di sicurezza. Inoltre, i nostri ricercatori in materia di sicurezza e allineamento saranno coinvolti e contribuiranno a migliorare i sistemi nel tempo. Sappiamo che altri laboratori di IA hanno ridotto le misure di sicurezza dei modelli e si sono affidati principalmente alle policy di utilizzo come principale strumento di tutela. Riteniamo però che il nostro approccio multilivello offra una protezione più efficace contro usi inaccettabili.

Cosa succede se il governo viola i termini del contratto?

Come per qualsiasi contratto, potremmo risolvere l’accordo in caso di violazione da parte della controparte. Non ci aspettiamo che accada.

Cosa succede se il governo modifica la legge o le politiche DoW vigenti?

Il nostro contratto richiama espressamente le leggi e le politiche in materia di sorveglianza e armi autonome nella loro forma attuale, stabilendo che, anche in caso di future modifiche, l’uso dei nostri sistemi debba restare conforme agli standard indicati nell’accordo.

Come rispondete alle argomentazioni avanzate da Anthropic nel post⁠(si apre in una nuova finestra) pubblicato sul loro blog in merito alla discussione con il DoW?

Nel loro post, Anthropic indica due delle proprie linee rosse (le stesse due che adottiamo anche noi, oltre a una terza relativa alle decisioni automatizzate ad alto impatto) e spiega perché ritiene che tali linee rosse non sarebbero state rispettate nei contratti esaminati con il DoW in quel momento. Di seguito spieghiamo perché riteniamo che le stesse linee rosse trovino piena applicazione anche nel nostro contratto:

• Sorveglianza di massa sul territorio nazionale. Dalle nostre interlocuzioni è emerso chiaramente che il DoW considera illegale la sorveglianza di massa sul territorio nazionale e non intende farne uso. Nel nostro contratto abbiamo esplicitato che tale utilizzo non rientra tra gli usi leciti.
• Armi pienamente autonome. L’architettura di distribuzione esclusivamente cloud prevista dal contratto non consentirebbe l’impiego in armi pienamente autonome, poiché ciò richiederebbe una distribuzione su dispositivi edge. 

Oltre a queste tutele, il nostro contratto prevede ulteriori salvaguardie multilivello, tra cui la nostra infrastruttura di sicurezza e il coinvolgimento di esperti tecnici OpenAI.