Rafforzare il controllo democratico sulla sicurezza nazionale

L’IA sta cambiando il modo in cui i governi democratici proteggono i propri cittadini. Può contribuire a fermare gli attacchi informatici, proteggere le infrastrutture critiche, rilevare prima le minacce e offrire ai funzionari pubblici un quadro più chiaro durante una crisi. Se usati correttamente, questi strumenti possono rafforzare la sicurezza nazionale.

Il controllo democratico contribuisce a garantire che l’esercizio dei poteri pubblici continui a rispondere ai cittadini al cui servizio è posto. Man mano che l’IA rende le attività di sicurezza nazionale più rapide ed efficaci, anche le istituzioni incaricate di controllarle devono tenere il passo. L’IA può agire rapidamente e su vasta scala basandosi su informazioni contestuali mancanti o obsolete, obiettivi configurati in modo errato o presupposti non allineati, rendendo più difficile individuare manualmente gli errori prima che si propaghino. Il controllo è particolarmente importante quando l’IA viene usata per la sicurezza nazionale, perché le decisioni possono necessariamente comportare segretezza e avere conseguenze molto rilevanti.

Guidati dai nostri Principi per la sicurezza nazionale, affrontiamo l’impiego dell’IA in questo ambito adottando misure di salvaguardia, un significativo giudizio umano e un controllo adeguato, soprattutto nei contesti più delicati. Questi principi ci impongono inoltre di aiutare le istituzioni preposte al controllo a sviluppare le capacità necessarie per vigilare sull’uso dell’IA con rapidità e su vasta scala.

Le istituzioni pubbliche dispongono già di poteri e responsabilità consolidati per il controllo delle attività di sicurezza nazionale. Quando l’IA contribuisce a queste attività, può essere necessario adeguare le modalità di controllo. Il controllo tradizionale richiede molto lavoro e diventa quasi impossibile quando a piccoli gruppi, che adottano metodi concepiti nell’era della carta, viene chiesto di esaminare sistemi che operano alla velocità delle macchine.

OpenAI ritiene che sistemi più capaci richiedano un controllo più rigoroso e applica questo principio anche a sé stessa. Nell’ambito del nostro Preparedness Framework, i modelli avanzati sono sottoposti a un esame rigoroso prima dell’impiego, per comprenderne le capacità e stabilire se le misure di salvaguardia siano sufficienti. Questo esame prosegue dopo l’impiego attraverso il monitoraggio continuo e l’analisi degli incidenti; gli insegnamenti ricavati contribuiscono a rafforzare le misure di salvaguardia e a orientare lo sviluppo futuro dei modelli.

OpenAI non svolge, né dovrebbe svolgere, alcun ruolo di controllo sul governo. Questa responsabilità spetta ai rappresentanti eletti e alle istituzioni pubbliche istituite a tale scopo. Possiamo invece mettere la nostra tecnologia al servizio delle istituzioni di controllo mentre queste adempiono ai propri mandati.

Tre principi guideranno questo lavoro.

Primo: l’IA deve rafforzare, non sostituire, il giudizio umano e istituzionale. Le decisioni sulla legalità e l’adeguatezza dell’operato del governo, nonché sulla sua conformità alle norme e alle politiche applicabili, spettano agli enti autorizzati e agli organi di controllo legalmente costituiti.

Secondo: l’uso dell’IA da parte del governo deve essere tracciabile e comprensibile agli organi di controllo autorizzati. I responsabili del controllo devono poter comprendere in che modo l’IA abbia contribuito a una decisione, tutelando al contempo le informazioni classificate, private e sensibili sotto il profilo della sicurezza.

Terzo: l’IA deve essere usata per rafforzare le istituzioni di controllo democratico. Il controllo manuale dell’uso dell’IA nelle amministrazioni pubbliche non è applicabile su vasta scala. Con l’adozione dell’IA nella sicurezza nazionale e in altre attività pubbliche ad alto impatto, anche gli organi di controllo dovrebbero usarla in modo responsabile, comprensibile e conforme ai propri mandati.

Nel corso del prossimo anno intendiamo portare avanti questa iniziativa nei seguenti modi:

• Collaboreremo con i funzionari autorizzati per individuare opportunità concrete in cui gli strumenti di IA o il supporto tecnico possano rendere più efficace il controllo.

• Forniremo agli organi di controllo dei governi democratici 5 milioni di dollari in formazione, supporto tecnico e crediti OpenAI, per favorire l’adozione e la valutazione responsabili degli strumenti di IA.

• Collaboreremo con le istituzioni di controllo per sperimentare strumenti che aiutino i responsabili autorizzati a esaminare la documentazione relativa alle decisioni pubbliche assistite dall’IA, compresi gli input, gli output e l’uso degli strumenti pertinenti, così da comprendere meglio in che modo l’IA abbia influito sui risultati. Ove possibile, gli strumenti saranno interoperabili o indipendenti dal modello. Le istituzioni partecipanti, e non OpenAI, manterranno il controllo delle prove, degli output e dei risultati, che resteranno accessibili esclusivamente ai funzionari pubblici autorizzati.

• Coinvolgeremo la società civile e gli esperti tecnici affinché le loro prospettive orientino il modo in cui OpenAI sviluppa questi strumenti e affronta le responsabilità che ne derivano.

L’IA può concentrare il potere oppure aiutare le istituzioni democratiche a esercitarlo e sottoporlo a controllo in modo più efficace. La tecnologia da sola non determinerà quale futuro ci attende: saranno le scelte compiute oggi dalle istituzioni umane e dalle aziende a farlo.

Valuteremo i progressi di questa iniziativa verificando se i responsabili autorizzati del controllo saranno maggiormente in grado di adempiere ai propri obblighi e se i cittadini avranno motivi più solidi per confidare che i sistemi di IA del governo siano usati come previsto.

Con l’evolversi dell’uso dell’IA da parte del governo, OpenAI continuerà a sostenere le istituzioni responsabili del relativo controllo.