La finestra per le politiche sull’IA è aperta. Dobbiamo agire.

Siamo entrati in una nuova fase nell’evoluzione delle capacità dell’IA, che richiede una nuova fase anche per le relative politiche. Nessuna azienda, nessun settore e nessun governo possono affrontare questa sfida da soli. Dobbiamo cogliere questo momento privilegiando azioni concrete rispetto alla perfezione normativa.

Ecco cosa stiamo facendo:

1. Promuovere requisiti nazionali obbligatori per la sicurezza dell’IA. Vogliamo collaborare con il Congresso su una regolamentazione nazionale obbligatoria della sicurezza dell’IA basata sulle capacità.

2. Mantenere lo slancio negli stati. Finché il Congresso non agirà, continueremo a sostenere la legislazione statale che rafforza l’intero ecosistema della sicurezza dell’IA. Oggi annunciamo il nostro sostegno a quattro proposte di legge californiane: la SB 813 sul quadro generale per le valutazioni indipendenti della sicurezza, l’AB 1405 sugli standard per gli auditor dell’IA, la SB 1119 sulle tutele per i giovani e l’AB 1864 sulle salvaguardie contro le minacce biologiche facilitate dall’IA.

3. Promuovere standard guidati dal settore. Collaboreremo con altri laboratori di frontiera per far progredire gli standard dell’IA di frontiera, creando fin da ora un’iniziativa volontaria, con o senza il sostegno del governo.

4. Definire standard globali. Promuoveremo approcci internazionali compatibili per misurare le capacità, gestire i rischi, preservare il controllo umano e stabilire quando e come lo sviluppo debba rallentare o fermarsi, anche se ciò significa rallentare il progresso delle capacità del modello.

Il nostro Chief Scientist Jakub Pachocki ha recentemente scritto⁠ che la rapida ascesa dell’intelligenza artificiale, compreso il potenziale dell’auto-miglioramento ricorsivo, impone «estrema cautela». OpenAI continuerà a cercare soluzioni tecniche per allineamento e monitoraggio, sviluppare sistemi difensivi e rallentare lo sviluppo quando necessario. Ma il lavoro tecnico dei singoli laboratori non basterà. Servono anche standard condivisi, anche per stabilire quando rallentare o fermare lo sviluppo.

La posta in gioco è enorme. L’IA avanzata potrebbe accelerare lo sviluppo di nuovi farmaci⁠, rafforzare le infrastrutture critiche⁠, ampliare le opportunità economiche⁠ e aiutare a risolvere problemi scientifici⁠ rimasti irrisolti nonostante generazioni di impegno umano. Ma le capacità che rendono i modelli più utili comportano anche rischi e non resteranno confinate a pochi laboratori di frontiera. I modelli sviluppati in tutto il mondo, compresi quelli aperti, si avvicineranno sempre più all’attuale livello di frontiera e diventeranno ampiamente disponibili.

Le capacità di Astra, i primi segnali dell’accelerazione della ricerca guidata dall’IA e il saggio di Jakub convergono nella stessa direzione: l’IA avanza rapidamente e le politiche devono evolversi di pari passo.

Greg Brockman ha descritto una “finestra per la difesa”⁠(si apre in una nuova finestra): un periodo limitato in cui l’IA di frontiera può aiutare chi difende a rafforzare i sistemi critici prima che potenti capacità offensive si diffondano. I decisori politici affrontano un momento analogo: una finestra che si sta chiudendo per creare tutele durature prima che le capacità dell’IA superino le istituzioni incaricate di governarle.

Con l’aumento delle capacità, la fiducia nella sicurezza deve determinare sempre più il ritmo dei progressi dell’IA. La sicurezza non ostacola il progresso; è ciò che consente al progresso di spingersi oltre e di portare benefici a più persone.

Abbiamo rafforzato il monitoraggio, l’allineamento e le tutele di sicurezza nell’intero ciclo di sviluppo dei modelli, introducendo un maggiore isolamento dei carichi di lavoro della ricerca di frontiera, un monitoraggio più esteso del comportamento dei modelli durante l’addestramento e le valutazioni con accesso agli strumenti e regole più chiare su quando segnalare le criticità ai livelli superiori. Per Astra abbiamo inoltre introdotto il monitoraggio universale delle traiettorie complete, comprese le catene di pensiero, e una verifica obbligatoria dell’allineamento prima di un’implementazione interna più ampia.

Queste misure di salvaguardia devono continuare a essere un passo avanti rispetto alle capacità. Quando procedere comporterebbe un rischio inaccettabile per la sicurezza, rallenteremo o interromperemo lo sviluppo o l’implementazione dei sistemi che non siamo in grado di proteggere adeguatamente, come abbiamo già fatto e come previsto dal nostro Preparedness Framework⁠(si apre in una nuova finestra).

L’auto-miglioramento ricorsivo pienamente autonomo, in cui i sistemi di IA generano autonomamente generazioni successive di IA sempre più capaci, non è ancora una realtà. Non dovremmo perseguirlo finché non sarà possibile farlo in sicurezza.

Tuttavia, l’IA sta già accelerando parti della ricerca utilizzata per sviluppare e allineare la prossima generazione di modelli. La nostra ultima ricerca⁠ mostra che gli agenti di IA possono svolgere alcuni compiti che richiederebbero diversi giorni a ricercatori esperti. Non si tratta di auto-miglioramento ricorsivo, ma è un segnale della direzione in cui ci stiamo muovendo.

Questa accelerazione può e deve essere orientata anche alla sicurezza. Il nostro obiettivo è creare in sicurezza ricercatori automatizzati basati sull’IA che lavorino sotto supervisione umana per far progredire sia il deep learning sia l’allineamento, utilizzando ogni generazione di IA per rendere la successiva più sicura, più allineata e più facile da controllare, non semplicemente più capace.

I governi dovrebbero definire metodi comuni per misurare questi progressi, preservare un controllo umano sostanziale e fissare soglie di sicurezza condivise per stabilire quando e come rallentare o fermare lo sviluppo. Se non possiamo raggiungere determinate soglie di sicurezza senza rallentare la crescita delle capacità, dobbiamo dare priorità alla sicurezza. Più la tecnologia diventa potente, più devono rafforzarsi le misure di salvaguardia circostanti.

La prospettiva di uno sviluppo dell’IA accelerato dall’IA richiede più di impegni volontari. Gli Stati Uniti hanno bisogno di una regolamentazione nazionale obbligatoria, basata sulle capacità, che possa evolvere con la tecnologia.

Il nostro Piano per la governance democratica dell’IA di frontiera⁠ traccia un percorso verso un quadro federale duraturo: requisiti comuni per i test e le valutazioni indipendenti, protezioni di sicurezza informatica più solide, chiare regole di segnalazione degli incidenti, maggiore preparazione nazionale e misure condivise per monitorare i progressi verso l’auto-miglioramento ricorsivo.

Al Congresso stanno ora prendendo forma diverse proposte concrete sulla sicurezza dei sistemi di frontiera. Continueremo a contribuire in modo costruttivo e prevediamo di sostenere le proposte di legge che innalzano concretamente gli standard di sicurezza. Con una posta in gioco così alta, non possiamo lasciare che il perfetto diventi nemico del bene. Il Congresso dovrebbe agire prima della chiusura dei lavori.

Un quadro nazionale dovrebbe essere solido ma attentamente mirato. I requisiti di sicurezza per i sistemi di frontiera dovrebbero applicarsi ai pochi laboratori dotati di ingenti risorse che sviluppano i sistemi più capaci, non alle startup, ai piccoli sviluppatori o ai ricercatori che operano ben lontano dalla frontiera. Gli obblighi dovrebbero essere proporzionati alle capacità e ai rischi.

Né la politica sulla sicurezza dei sistemi di frontiera dovrebbe trasformarsi in una politica sui modelli a pesi aperti sotto altro nome. I modelli aperti possono contribuire alla soluzione, in particolare nella cybersicurezza e quando esigenze di sovranità, sicurezza o residenza dei dati favoriscono l’implementazione locale. La maggior parte non compete ai livelli di frontiera, ma su costi, controllo e latenza. Come abbiamo ribadito firmando la lettera sui pesi aperti e la leadership americana nell’IA⁠(si apre in una nuova finestra), l’America ha bisogno di modelli sia aperti sia chiusi. Un quadro federale dovrebbe affrontare le capacità e i rischi di frontiera senza indebolire la concorrenza, consolidare le posizioni degli operatori storici o spingere l’innovazione all’estero.

Un solido quadro pubblico dovrebbe ridurre, non aumentare, la concentrazione del potere. Oggi i laboratori di frontiera stabiliscono in gran parte da soli le regole per gestire i rischi di frontiera. Standard sottoposti a controllo democratico, verifiche indipendenti e reale trasparenza sostituirebbero quel sistema frammentato di governance privata.

Questo è essenziale per la leadership americana. Gli Stati Uniti non possono vincere l’era dell’IA puntando solo sulle capacità. Essere all’avanguardia sul piano tecnico servirà a poco se persone, istituzioni e governi non si fideranno abbastanza della tecnologia da utilizzarla. Tutele solide non sono una concessione a scapito dell’innovazione. Fanno parte dell’infrastruttura necessaria per un uso su larga scala e per una leadership americana duratura.

Abbiamo urgente bisogno di standard nazionali sull’IA, e chiunque lavori nel campo dei sistemi di frontiera può constatarne l’urgenza. Finché il Congresso non agirà, gli stati dovrebbero continuare a intervenire per colmare il vuoto e alzare l’asticella.

OpenAI ha sostenuto il disegno di legge SB 53 della California, il RAISE Act di New York, il disegno di legge SB 315 dell’Illinois e le verifiche indipendenti previste dalla normativa sulla sicurezza dei modelli di frontiera attualmente in esame in Massachusetts. Incoraggiamo gli stati a convergere attorno a queste tutele comuni. Così facendo, possono creare una base nazionale di fatto che il Congresso potrà infine codificare: un approccio che chiamiamo ⁠federalismo inverso⁠. Ma armonizzare non significa cristallizzare i requisiti.

Oggi sosteniamo ufficialmente altre quattro proposte di legge californiane che hanno completato l’iter legislativo e sono ora all’esame del governatore Newsom. Insieme, affrontano aspetti complementari dell’ecosistema della sicurezza dell’IA.

La SB 813⁠(si apre in una nuova finestra) istituirebbe una procedura per designare organizzazioni indipendenti e qualificate in grado di valutare i rischi dell’IA. Come abbiamo affermato nel nostro ⁠(si apre in una nuova finestra)piano per la sicurezza dei sistemi di frontiera⁠(si apre in una nuova finestra), preferiamo che le valutazioni tecniche indipendenti siano obbligatorie a livello federale, dove i decisori politici possono stabilire standard coerenti per le qualifiche dei valutatori, la sicurezza e l’accesso a informazioni altamente sensibili. In assenza di un intervento federale, tuttavia, la California può contribuire a definire le regole per un sistema nazionale di valutazione indipendente sicuro ed efficace, capace di produrre risultati migliori in materia di sicurezza.

L’AB 1405⁠(si apre in una nuova finestra) introdurrebbe requisiti di registrazione, indipendenza, trasparenza e responsabilità per gli auditor dell’IA.

La SB 1119⁠(si apre in una nuova finestra) imporrebbe la verifica dell’età, valutazioni dei rischi, audit indipendenti, controlli parentali e tutele dai contenuti dannosi per bambini e adolescenti che utilizzano chatbot di compagnia. Di recente abbiamo espresso il nostro sostegno⁠ a questa proposta di legge, che si basa sulle misure di sicurezza per i giovani promosse da OpenAI tramite i nostri prodotti, ⁠i principi globali in materia di politiche⁠ e il sostegno al ⁠(si apre in una nuova finestra)Parents & Kids Safe AI Act⁠(si apre in una nuova finestra), nonché sulle protezioni integrate in ChatGPT per adolescenti, tra cui impostazioni predefinite più rigorose negli ambiti sensibili, ore di silenzio, ore di studio e promemoria per le pause.

L’AB 1864⁠(si apre in una nuova finestra) imporrebbe ai fornitori di sintesi genica e ai produttori di apparecchiature da banco per la sintesi di rispettare gli standard federali di screening, rafforzando un’importante tutela fisica contro le minacce biologiche rese possibili dall’IA.

In passato non avevamo sostenuto alcune di queste proposte di legge, ma abbiamo riconsiderato la nostra posizione alla luce del recente aumento delle capacità e ora le sosteniamo.

Questi disegni di legge non sostituiscono la normativa federale. Sono iniziative concrete che possono proteggere fin da ora le persone, dimostrare come funzionano tutele efficaci e contribuire a creare slancio per un intervento federale.

Le sole leggi non renderanno sicura l’IA avanzata. Servono anche pratiche concrete all’interno dei laboratori che sviluppano i sistemi più capaci. Il punto più urgente da cui iniziare è il monitoraggio.

Questo è particolarmente importante per il disallineamento, quando un modello persegue un obiettivo in modi contrari alle intenzioni umane o ai limiti stabiliti, senza richiedere coscienza o intenti malevoli. Man mano che i modelli acquisiscono maggiore autonomia, usano strumenti più potenti e operano più a lungo, gli sviluppatori dovrebbero essere tenuti a monitorare questi comportamenti disallineati e a dimostrare che sono in atto tutele efficaci.

Il monitoraggio deve essere collegato a chiari requisiti di trasparenza. Come abbiamo sostenuto in California, le aziende dovrebbero essere tenute a informare tempestivamente per iscritto le parti interessate quando, durante lo sviluppo o la valutazione, i loro modelli aggirano senza autorizzazione i controlli di sicurezza di un’altra organizzazione e accedono in modo significativo ai suoi sistemi protetti o alle sue informazioni riservate, oppure li alterano o distruggono. Sosteniamo inoltre obblighi federali di segnalazione per altri gravi incidenti di IA e stiamo lavorando per definire quali incidenti dovrebbero essere coperti e cosa dovrebbero comportare tali obblighi.

Come comunicato la settimana scorsa, OpenAI sta sviluppando un quadro per segnalare gli incidenti di disallineamento rilevanti e monitorare sistematicamente l’attività dei modelli di frontiera, compreso l’uso interno. L’iniziativa parte dall’azienda, ma speriamo che possa contribuire a orientare politiche federali e requisiti di segnalazione più ampi.

Vogliamo collaborare con altri laboratori per definire standard promossi dal settore. Eventuali standard guidati dal settore integrerebbero, senza sostituirle, le tutele federali obbligatorie e il controllo democratico. Siamo però entrati in una nuova fase delle capacità dell’IA e ogni opzione dovrebbe essere presa in considerazione, inclusa la possibilità di creare fin da subito iniziative volontarie al di fuori dell’intervento pubblico.

Tali standard devono infine estendersi anche oltre i confini nazionali. Modelli, ricerca e competenze tecniche circolano a livello globale, e i malfunzionamenti dei sistemi più capaci potrebbero avere conseguenze ben oltre il paese in cui vengono sviluppati. Gli Stati Uniti devono stabilire standard credibili a livello nazionale se vogliono guidare a livello internazionale e siamo sempre più convinti che saranno necessari standard internazionali compatibili.

Per ora, la finestra per definire le politiche sull’IA è aperta. Intendiamo sfruttarla.

Significa agire con urgenza, umiltà e volontà di adattarsi. Significa sostenere proposte serie che innalzino concretamente il livello di sicurezza, anche quando non sono esattamente quelle che avremmo progettato noi. E significa rafforzare il quadro man mano che la tecnologia evolve.

Nessun primo passo sarà perfetto. Ma oggi il rischio maggiore è aspettare troppo prima di compierlo.