Accelerare la ricerca: uno sguardo all’interno di OpenAI

Crediamo che, affinché l’AGI possa apportare benefici a tutta l’umanità, debba essere governata democraticamente. Ciò richiede un dibattito pubblico informato su capacità, rischi e protezioni dei sistemi di IA più capaci. Ovunque, le persone devono comprendere la probabile evoluzione dell’IA di frontiera per poter incidere sul suo sviluppo.

La trasparenza su rischi, incidenti e protezioni specifici è necessaria, ma non sufficiente. Il pubblico deve anche capire come si sviluppano i sistemi più capaci e come fanno avanzare la ricerca nei laboratori di frontiera.

Puntiamo a creare in sicurezza un ricercatore automatizzato di IA che, sotto supervisione umana, faccia progredire deep learning e allineamento, consentendo miglioramenti iterativi. Secondo le nostre misurazioni, abbiamo raggiunto l’obiettivo, annunciato⁠(si apre in una nuova finestra) lo scorso autunno, di avere un tirocinante di ricerca automatizzato entro settembre di quest’anno. Per “tirocinante di ricerca” intendiamo un sistema che svolge compiti di ricerca ben definiti sotto direzione umana, anche quelli che richiederebbero giorni a un ricercatore esperto. Stiamo facendo grandi progressi verso un ricercatore automatizzato di IA entro marzo 2028.

Quest’anno il lavoro quotidiano dei ricercatori di OpenAI è cambiato molto. Usano agenti di coding durante tutta la giornata, spesso in sessioni parallele. L’uso totale cresce rapidamente, più che negli altri team di OpenAI. I ricercatori contribuiscono al codice più rapidamente ed eseguono più esperimenti. Cambia anche il modo di usare gli agenti: affrontano compiti sempre più complessi e li portano a termine più spesso. La ricerca sull’IA è complessa e presenta molti possibili colli di bottiglia: il progresso complessivo probabilmente non terrà il passo con queste singole metriche. Nel complesso, però, i risultati confermano l’impressione diffusa al nostro interno che gli strumenti agentici accelerino sensibilmente la ricerca. Sono ancora le persone a fissare le priorità di ricerca, scegliere idee e risultati da approfondire e decidere se ampliare, sospendere o rilasciare i sistemi.

Crediamo che una ricerca automatizzata sull’IA condotta responsabilmente produrrà modelli che migliorano il benessere umano e promuovono la missione di OpenAI. Può ridurre il costo dell’intelligenza avanzata, a beneficio delle persone in tutto il mondo. Portiamo avanti questo lavoro anche perché la ricerca automatizzata potrebbe aiutarci a risolvere l’allineamento e creare difese contro un’IA sempre più capace. Un ricercatore automatizzato di IA può anche fare ricerca automatizzata su sicurezza o allineamento. Sistemi più capaci e allineati potrebbero proteggere infrastrutture critiche, difendere da agenti di IA pericolosi e sviluppare nuove protezioni.

Sono ragioni per sviluppare utili capacità di ricerca automatizzata, ma non implicano che una rapida RSI sia necessariamente un esito da perseguire. Se e come procedere deve dipendere dalla capacità di preservare il controllo umano e da scelte democratiche informate su benefici e rischi.

Non sappiamo ancora come arrivare in sicurezza a una RSI completa e allineata. Lavoriamo per potenziare le misure di allineamento e sicurezza insieme alle capacità. Ma non possiamo presumere che terranno il passo, e sistemi più capaci possono diventare più difficili da monitorare. Un lavoro rigoroso su allineamento e sicurezza è centrale: parte dalla misurazione e mitigazione dei problemi che osserviamo oggi nei sistemi di coding agentico. Se procedere comporterà rischi di sicurezza inaccettabili, reagiremo adeguatamente, anche rallentando o fermando lo sviluppo o il rilascio di sistemi che non riusciamo a proteggere a sufficienza.

Dopo il recente incidente su Hugging Face, abbiamo concretizzato questo impegno⁠, sospendendo l’addestramento con apprendimento per rinforzo (RL) dei modelli più recenti destinati al rilascio, rafforzando e sottoponendo a red teaming gli ambienti di ricerca e ampliando il monitoraggio. Non tutta la ricerca si è fermata: alcuni carichi di lavoro sono ripresi con controlli più forti, altri sono rimasti sospesi. Abbiamo innalzato gli standard di sicurezza e allineamento, integrando più a fondo la sicurezza nel ciclo di vita dei modelli e richiedendo prove più solide di comportamento allineato durante tutto l’addestramento.

Oggi offriamo un quadro dettagliato del contributo dei sistemi agentici ai nostri progressi verso la RSI negli ultimi mesi. I sistemi agentici sono nuovi e cambiano rapidamente; le nostre misurazioni sono ancora preliminari. Condividendo questi primi risultati e metodi, vogliamo informare il pubblico, promuovere la divulgazione pubblica e favorire standard di misurazione condivisi nel settore.

Come scritto nel nostro piano di politiche per l’IA di frontiera⁠, crediamo che noi e le altre aziende dovremmo essere tenuti a rendere pubblici i progressi verso la RSI. Anche senza tale obbligo, intendiamo continuare a essere trasparenti sui nostri progressi verso la RSI. Adatteremo l’approccio alla trasparenza al migliorare delle misurazioni e delle conoscenze, bilanciandolo con la tutela della sicurezza e delle informazioni proprietarie.

A inizio anno, il ricercatore mediano di OpenAI, in termini di uso degli agenti, usava gli agenti di coding solo in misura modesta. A metà agosto li integrava ogni giorno nel lavoro, usando inferenza per oltre 600 dollari al giorno ai prezzi API. L’utente al 90° percentile nel nostro reparto ricerca usa ora token per oltre 7.000 dollari al giorno.

Prima di giugno 2026, il tempo totale di esecuzione degli agenti nel reparto ricerca era ancora inferiore al tempo totale di lavoro umano. Da allora la situazione è cambiata. Su una giornata standard di 8 ore, a metà agosto il reparto ricerca usa complessivamente 3,1 giornate di lavoro degli agenti per ogni giornata di lavoro umano.

Un altro modo di leggere il fenomeno è contare quanti ricercatori usano flussi di lavoro ad alto parallelismo, ad esempio con almeno 4 agenti simultanei. Come mostrato sotto, il numero è in crescita. I dati includono i picchi giornalieri sia degli agenti avviati dall’utente sia dei sottoagenti creati a valle da questi.

Gran parte della ricerca sull’IA è un processo ad alta intensità di lavoro volto a integrare miglioramenti all’intelligenza o alle prestazioni in uno dei nostri modelli principali. Le capacità avanzano quando tutte le fasi funzionano insieme: ideare miglioramenti, scrivere valutazioni delle prestazioni, creare infrastrutture per testarli su larga scala, rilevare bug e comportamenti non sicuri o disallineati durante l’addestramento e integrare le idee migliori in un’esecuzione di addestramento principale. Un fallimento in qualsiasi fase può limitare l’intero ciclo.

Scrivere codice ed eseguire esperimenti sono due attività centrali dei ricercatori, e abbiamo evidenze che stiano accelerando.

Questi dati sono relativamente facili da misurare, ma difficili da interpretare. Con l’avanzare dell’automazione, i compiti meno automatizzabili assorbiranno più lavoro dei ricercatori e diventeranno i principali colli di bottiglia del progresso. Anche le risorse di calcolo limitano il progresso e potrebbero pesare di più man mano che altri colli di bottiglia si riducono.

Nel 2026 gli esperimenti per sperimentatore attivo sono aumentati: agosto ha segnato il massimo dall’inizio del monitoraggio, a gennaio 2025. Ciò è correlato alla maggiore adozione di Codex, ma dal 2025 sono cresciute molto anche le risorse di calcolo disponibili.

Impressioni qualitative e dati interni indicano che cambiano i compiti delegati agli agenti di coding: quelli di livello superiore e di durata maggiore sono sempre più comuni.

Per chiarire la tendenza, abbiamo analizzato l’uso recente nel reparto ricerca con una tassonomia pubblicata di recente⁠(si apre in una nuova finestra) da Epoch AI sulle attività del ciclo di ricerca e sviluppo dell’IA. Ispirata al consolidato sistema O*NET di classificazione del lavoro, la tassonomia è specifica per la ricerca e sviluppo dell’IA di frontiera e distingue sei fasi:

1. Decidere: su cosa lavorare, cosa proseguire, dove allocare risorse

2. Progettare: idee di ricerca e specifiche tecniche

3. Costruire: codice e dataset

4. Eseguire: addestramento, valutazioni, hardware, inferenza

5. Analizzare: esperimenti, modelli, rilascio, lavoro esterno

6. Comunicare: risultati, feedback, stato, decisioni

Di seguito classifichiamo i token degli agenti di coding con questa tassonomia.

Tutte le categorie di ricerca sono cresciute tra gennaio e agosto 2026. A gennaio dominava il codice per ricerca e infrastruttura. Questa categoria è cresciuta, ma aumentano molto anche altre, soprattutto assistenza tecnica e monitoraggio delle esecuzioni. La pianificazione di alto livello resta una quota minima dei token di output degli agenti.

I colleghi riferiscono che gli agenti di coding eccellono nel risolvere problemi dell’infrastruttura di ricerca interna, riducendo un importante collo di bottiglia. Vari team che offrivano sessioni di assistenza per gli esperimenti hanno visto calare le presenze nel 2026; uno le ha eliminate per concentrarsi su altri miglioramenti dei sistemi.

Qui mostriamo i post iniziali giornalieri in uno dei principali canali interni dove i ricercatori chiedono assistenza tecnica ad altri team. Per quanto ne sappiamo, il calo di attività non è stato compensato da richieste spostate su altri canali di assistenza gestiti da persone. Il calo del traffico è in linea con questo cambiamento più ampio.

Possiamo anche studiare se gli agenti di coding portano a termine i compiti richiesti. Un classificatore agentico mostra che da gennaio a luglio i tassi di successo sono generalmente cresciuti in varie fasce di difficoltà, stimate dal tempo necessario a una persona, per i compiti di cui possiamo verificare l’esito effettivo. Gli agenti richiedono però ancora una guida umana significativa, soprattutto con l’aumentare della complessità. Negli ultimi 6 mesi, oltre metà dei compiti da 4–8 ore riusciti ha richiesto almeno un intervento.

I progressi verso sistemi più capaci per un’AGI sicura e benefica dipenderanno anche dalle misure di salvaguardia necessarie per tale lavoro. La nostra valutazione delle misure di salvaguardia necessarie potrebbe cambiare man mano che acquisiamo maggiori informazioni sui rischi.

Come abbiamo descritto,⁠ abbiamo recentemente aggiornato i nostri standard per il monitoraggio, l’allineamento e la sicurezza. Qui mostriamo come le recenti restrizioni abbiano influenzato un aspetto dell’attività di ricerca.

Il 20 luglio, dopo aver scoperto che alcuni agenti avevano compromesso la nostra infrastruttura di ricerca, abbiamo temporaneamente disattivato il servizio container utilizzato per l’addestramento, per poi ripristinarlo applicando ulteriori restrizioni significative.

Ciò ha portato a un brusco calo della capacità di calcolo dedicata all’addestramento RL, mentre i team riconfiguravano i propri flussi di lavoro per operare all’interno dell’ambiente di ricerca rafforzato. Il grafico sopra include la sospensione di due settimane dell’addestramento per rinforzo sui nostri modelli più recenti destinati all’implementazione. Negli esperimenti di RL di classe Astra condotti tra il 20 luglio e il 6 agosto, la maggior parte delle esecuzioni, in termini di allocazione delle GPU, era destinata a testare l’implementazione di miglioramenti alla sicurezza e alla protezione.

Il 7 agosto, evidenze preliminari del fatto che Astra potrebbe avere capacità cyber critiche⁠ nell’ambito del nostro Preparedness Framework⁠(si apre in una nuova finestra) hanno portato a ulteriori restrizioni di sicurezza specifiche per il modello, che hanno richiesto l’esecuzione del modello Astra in ambienti di ricerca con livelli di sicurezza più alti. Nella settimana successiva, l’allocazione delle GPU di classe Astra è diminuita di un ulteriore 59,2%, mentre quella destinata alle altre classi di modelli è aumentata del 17,2%. Tale aumento ha compensato circa l’85% del calo relativo alla classe Astra, lasciando sostanzialmente invariata l’allocazione totale nei carichi di lavoro RL analizzati. Questo andamento è coerente con lo spostamento di parte dell’addestramento e della sperimentazione verso modelli non Astra mentre il lavoro che coinvolgeva Astra era soggetto a restrizioni, ed è compatibile con resoconti aneddotici di ricercatori che hanno trovato altri impieghi per risorse di calcolo che non potevano più essere sfruttate per carichi di lavoro soggetti ai nuovi vincoli.

Questi dati forniscono un’indicazione utile per le discussioni in corso su addestramento e sicurezza: quando vengono introdotti nuovi controlli, la capacità di calcolo rimane preziosa e flessibile e verrà naturalmente indirizzata verso usi alternativi nell’ambito della ricerca. Nel lungo periodo, le discussioni sul ritmo dei progressi dell’IA dovrebbero estendersi anche alla questione di come utilizzare al meglio la capacità di calcolo soggetta a controlli nuovi o proposti.

Compiere progressi verso una RSI allineata e comprenderli è importante per la nostra missione. Continueremo a perfezionare i nostri metodi, a riferire sull’evoluzione della nostra comprensione e a promuovere un dibattito pubblico informato e un’effettiva governance democratica dei sistemi di frontiera.

La ricerca sull’IA basata su agenti è ancora nuova e stiamo ancora imparando a misurarla. Alcuni indicatori, come la quantità di codice generata dai nostri team di ricerca, sono relativamente facili da raccogliere, ma difficili da interpretare perché non è chiaro in che modo siano correlati ai progressi della ricerca. Le metriche che misurano più direttamente i progressi della ricerca, ad esempio la frequenza con cui gli agenti completano con successo le attività assegnate dai ricercatori, potrebbero essere più utili, ma sono complesse da sviluppare e convalidare. A complicare ulteriormente la situazione, gli strumenti e i sistemi su cui fanno affidamento i ricercatori evolvono rapidamente. Comprendere meglio come accelerare la ricerca è un’importante area di interesse in tutta OpenAI.

In tutte queste analisi, salvo diversa indicazione:

• “Ricercatore” è un termine ampio per indicare qualsiasi membro della nostra organizzazione di ricerca, incluse persone che sviluppano infrastrutture di ricerca, gestiscono progetti di ricerca o supportano in altro modo l’organizzazione.

• Data la rapida evoluzione degli strumenti e dei sistemi su cui fanno affidamento i ricercatori, le metriche sull’uso degli agenti di programmazione coprono gran parte dell’utilizzo, ma non tutto.