Accelerare la ricerca: uno sguardo all’interno di OpenAI

Crediamo che, per beneficiare tutta l’umanità, l’AGI debba essere governata democraticamente. Ciò richiede un dibattito pubblico informato su capacità, rischi e protezioni dei sistemi di IA più capaci. Ovunque, le persone devono comprendere la probabile evoluzione dell’IA di frontiera per poter incidere sul suo sviluppo.

La trasparenza su rischi, incidenti e protezioni specifici è necessaria, ma non sufficiente. Il pubblico deve anche capire come si sviluppano i sistemi più capaci e come fanno avanzare la ricerca nei laboratori di frontiera.

Puntiamo a creare in sicurezza un ricercatore automatizzato di IA che, sotto supervisione umana, faccia progredire deep learning e allineamento, consentendo miglioramenti iterativi. Secondo le nostre misurazioni, abbiamo raggiunto l’obiettivo, annunciato⁠(si apre in una nuova finestra) lo scorso autunno, di avere un tirocinante di ricerca automatizzato entro settembre di quest’anno. Per “tirocinante di ricerca” intendiamo un sistema che svolge compiti di ricerca ben definiti sotto direzione umana, anche quelli che richiederebbero giorni a un ricercatore esperto. Stiamo facendo grandi progressi verso un ricercatore automatizzato di IA entro marzo 2028.

Quest’anno il lavoro quotidiano dei ricercatori di OpenAI è cambiato molto. Usano agenti di coding durante tutta la giornata, spesso in sessioni parallele. L’uso totale cresce rapidamente, più che negli altri team di OpenAI. I ricercatori contribuiscono al codice più rapidamente ed eseguono più esperimenti. Cambia anche il modo di usare gli agenti: affrontano compiti sempre più complessi e li portano a termine più spesso. La ricerca sull’IA è complessa e presenta molti possibili colli di bottiglia: il progresso complessivo probabilmente non terrà il passo con queste singole metriche. Nel complesso, però, i risultati confermano l’impressione diffusa al nostro interno che gli strumenti agentici accelerino sensibilmente la ricerca. Sono ancora le persone a fissare le priorità di ricerca, scegliere idee e risultati da approfondire e decidere se ampliare, sospendere o rilasciare i sistemi.

Crediamo che una ricerca automatizzata sull’IA condotta responsabilmente produrrà modelli che migliorano il benessere umano e promuovono la missione di OpenAI. Può ridurre il costo dell’intelligenza avanzata, a beneficio delle persone in tutto il mondo. Portiamo avanti questo lavoro anche perché la ricerca automatizzata potrebbe aiutarci a risolvere l’allineamento e creare difese contro un’IA sempre più capace. Un ricercatore automatizzato di IA può anche fare ricerca automatizzata su sicurezza o allineamento. Sistemi più capaci e allineati potrebbero proteggere infrastrutture critiche, difendere da agenti di IA pericolosi e sviluppare nuove protezioni.

Sono ragioni per sviluppare utili capacità di ricerca automatizzata, ma non implicano che una rapida RSI sia necessariamente un esito da perseguire. Se e come procedere deve dipendere dalla capacità di preservare il controllo umano e da scelte democratiche informate su benefici e rischi.

Non sappiamo ancora come arrivare in sicurezza a una RSI completa e allineata. Lavoriamo per potenziare le misure di allineamento e sicurezza insieme alle capacità. Ma non possiamo presumere che terranno il passo, e sistemi più capaci possono diventare più difficili da monitorare. Un lavoro rigoroso su allineamento e sicurezza è centrale: parte dalla misurazione e mitigazione dei problemi che osserviamo oggi nei sistemi di coding agentico. Se procedere comporterà rischi di sicurezza inaccettabili, reagiremo adeguatamente, anche rallentando o fermando lo sviluppo o il rilascio di sistemi che non riusciamo a proteggere a sufficienza.

Dopo il recente incidente su Hugging Face, abbiamo concretizzato questo impegno⁠, sospendendo l’addestramento con apprendimento per rinforzo (RL) dei modelli più recenti destinati al rilascio, rafforzando e sottoponendo a red teaming gli ambienti di ricerca e ampliando il monitoraggio. Non tutta la ricerca si è fermata: alcuni carichi di lavoro sono ripresi con controlli più forti, altri sono rimasti sospesi. Abbiamo innalzato gli standard di sicurezza e allineamento, integrando più a fondo la sicurezza nel ciclo di vita dei modelli e richiedendo prove più solide di comportamento allineato durante tutto l’addestramento.

Oggi offriamo un quadro dettagliato del contributo dei sistemi agentici ai nostri progressi verso la RSI negli ultimi mesi. I sistemi agentici sono nuovi e cambiano rapidamente; le nostre misurazioni sono ancora preliminari. Condividendo questi primi risultati e metodi, vogliamo informare il pubblico, promuovere la divulgazione pubblica e favorire standard di misurazione condivisi nel settore.

Come scritto nel nostro piano di politiche per l’IA di frontiera⁠, crediamo che noi e le altre aziende dovremmo essere tenuti a rendere pubblici i progressi verso la RSI. Anche senza tale obbligo, intendiamo continuare a essere trasparenti sui nostri progressi verso la RSI. Adatteremo l’approccio alla trasparenza al migliorare delle misurazioni e delle conoscenze, bilanciandolo con la tutela della sicurezza e delle informazioni proprietarie.

A inizio anno, il ricercatore mediano di OpenAI, in termini di uso degli agenti, usava gli agenti di coding solo in misura modesta. A metà agosto li integrava ogni giorno nel lavoro, usando inferenza per oltre 600 dollari al giorno ai prezzi API. L’utente al 90° percentile nel nostro reparto ricerca usa ora token per oltre 7.000 dollari al giorno.

Prima di giugno 2026, il tempo totale di esecuzione degli agenti nel reparto ricerca era ancora inferiore al tempo totale di lavoro umano. Da allora la situazione è cambiata. Su una giornata standard di 8 ore, a metà agosto il reparto ricerca usa complessivamente 3,1 giornate di lavoro degli agenti per ogni giornata di lavoro umano.

Un altro modo di leggere il fenomeno è contare quanti ricercatori usano flussi di lavoro ad alto parallelismo, ad esempio con almeno 4 agenti simultanei. Come mostrato sotto, il numero è in crescita. I dati includono i picchi giornalieri sia degli agenti avviati dall’utente sia dei sottoagenti creati a valle da questi.

Gran parte della ricerca sull’IA è un processo ad alta intensità di lavoro volto a integrare miglioramenti all’intelligenza o alle prestazioni in uno dei nostri modelli principali. Le capacità avanzano quando tutte le fasi funzionano insieme: ideare miglioramenti, scrivere valutazioni delle prestazioni, creare infrastrutture per testarli su larga scala, rilevare bug e comportamenti non sicuri o disallineati durante l’addestramento e integrare le idee migliori in un’esecuzione di addestramento principale. Un fallimento in qualsiasi fase può limitare l’intero ciclo.

Scrivere codice ed eseguire esperimenti sono due attività centrali dei ricercatori, e abbiamo evidenze che stiano accelerando.

Questi dati sono relativamente facili da misurare, ma difficili da interpretare. Con l’avanzare dell’automazione, i compiti meno automatizzabili assorbiranno più lavoro dei ricercatori e diventeranno i principali colli di bottiglia del progresso. Anche le risorse di calcolo limitano il progresso e potrebbero pesare di più man mano che altri colli di bottiglia si riducono.

Nel 2026 gli esperimenti per sperimentatore attivo sono aumentati: agosto ha segnato il massimo dall’inizio del monitoraggio, a gennaio 2025. Ciò è correlato alla maggiore adozione di Codex, ma dal 2025 sono cresciute molto anche le risorse di calcolo disponibili.

Impressioni qualitative e dati interni indicano che cambiano i compiti delegati agli agenti di coding: quelli di livello superiore e di durata maggiore sono sempre più comuni.

Per chiarire la tendenza, abbiamo analizzato l’uso recente nel reparto ricerca con una tassonomia pubblicata di recente⁠(si apre in una nuova finestra) da Epoch AI sulle attività del ciclo di ricerca e sviluppo dell’IA. Ispirata al consolidato sistema O*NET di classificazione del lavoro, la tassonomia è specifica per la ricerca e sviluppo dell’IA di frontiera e distingue sei fasi:

1. Decidere: su cosa lavorare, cosa proseguire, dove allocare risorse

2. Progettare: idee di ricerca e specifiche tecniche

3. Costruire: codice e dataset

4. Eseguire: addestramento, valutazioni, hardware, inferenza

5. Analizzare: esperimenti, modelli, rilascio, lavoro esterno

6. Comunicare: risultati, feedback, stato, decisioni

Di seguito classifichiamo i token degli agenti di coding con questa tassonomia.

Tutte le categorie di ricerca sono cresciute tra gennaio e agosto 2026. A gennaio dominava il codice per ricerca e infrastruttura. Questa categoria è cresciuta, ma aumentano molto anche altre, soprattutto assistenza tecnica e monitoraggio delle esecuzioni. La pianificazione di alto livello resta una quota minima dei token di output degli agenti.

I colleghi riferiscono che gli agenti di coding eccellono nel risolvere problemi dell’infrastruttura di ricerca interna, riducendo un importante collo di bottiglia. Vari team che offrivano sessioni di assistenza per gli esperimenti hanno visto calare le presenze nel 2026; uno le ha eliminate per concentrarsi su altri miglioramenti dei sistemi.

Qui mostriamo i post iniziali giornalieri in uno dei principali canali interni dove i ricercatori chiedono assistenza tecnica ad altri team. Per quanto ne sappiamo, il calo di attività non è stato compensato da richieste spostate su altri canali di assistenza gestiti da persone. Il calo del traffico è in linea con questo cambiamento più ampio.

Possiamo anche studiare se gli agenti di coding portano a termine i compiti richiesti. Un classificatore agentico mostra che da gennaio a luglio i tassi di successo sono generalmente cresciuti in varie fasce di difficoltà, stimate dal tempo necessario a una persona, per i compiti di cui possiamo verificare l’esito effettivo. Gli agenti richiedono però ancora una guida umana significativa, soprattutto con l’aumentare della complessità. Negli ultimi 6 mesi, oltre metà dei compiti da 4–8 ore riusciti ha richiesto almeno un intervento.

Il progresso verso sistemi più capaci per un’AGI sicura e benefica dipenderà anche dalle misure di protezione necessarie per questo lavoro. La nostra valutazione delle protezioni necessarie potrebbe cambiare man mano che comprendiamo meglio i rischi.

Come abbiamo descritto,⁠ abbiamo recentemente aggiornato i nostri standard di monitoraggio, allineamento e sicurezza. Qui mostriamo come le recenti restrizioni abbiano influito su un aspetto dell’attività di ricerca.

Il 20 luglio, dopo aver scoperto che alcuni agenti avevano compromesso la nostra infrastruttura di ricerca, abbiamo temporaneamente disattivato il servizio di container usato per l’addestramento, per poi ripristinarlo con significative restrizioni aggiuntive.

Ciò ha causato un forte calo delle risorse di calcolo per l’addestramento RL mentre i team riconfiguravano i flussi di lavoro per operare nell’ambiente di ricerca con sicurezza rafforzata. Il grafico sopra include la pausa di due settimane nell’apprendimento per rinforzo dei nostri modelli più recenti destinati al rilascio. Tra il 20 luglio e il 6 agosto, la maggior parte delle esecuzioni degli esperimenti RL di classe Astra, in termini di GPU allocate, era destinata a testare l’implementazione di miglioramenti alla sicurezza e alla protezione dei sistemi.

Il 7 agosto, le prime evidenze che Astra potesse avere capacità informatiche critiche⁠ secondo il nostro Preparedness Framework⁠(si apre in una nuova finestra) hanno portato a ulteriori restrizioni di sicurezza specifiche per il modello, imponendo di eseguirlo in ambienti di ricerca più sicuri. Nella settimana successiva, l’allocazione di GPU alla classe Astra è scesa di un ulteriore 59,2%, mentre quella alle altre classi di modelli è aumentata del 17,2%. L’aumento ha compensato circa l’85% del calo della classe Astra, lasciando sostanzialmente invariata l’allocazione totale nei carichi di lavoro RL analizzati. Questo andamento è coerente con il trasferimento di parte dell’addestramento e della sperimentazione a modelli diversi da Astra mentre il lavoro su Astra era soggetto a restrizioni. È anche in linea con le testimonianze di ricercatori che hanno trovato altri impieghi per le risorse di calcolo non più utilizzabili per i carichi di lavoro soggetti ai nuovi vincoli.

Questi dati offrono un’indicazione utile per il dibattito su addestramento e sicurezza: quando si introducono nuovi controlli, le risorse di calcolo restano preziose e flessibili e vengono naturalmente indirizzate verso altri impieghi nell’attività di ricerca. A più lungo termine, il dibattito sul ritmo del progresso dell’IA dovrebbe includere anche come usare al meglio le risorse di calcolo soggette a controlli nuovi o proposti.

Compiere e comprendere i progressi verso una RSI allineata è importante per la nostra missione. Continueremo ad affinare i metodi, a comunicare l’evoluzione delle nostre conoscenze e a promuovere un dibattito pubblico informato e una governance democratica effettiva dei sistemi di frontiera.

La ricerca sull’IA basata su agenti è ancora nuova e stiamo ancora imparando a misurarla. Alcuni indicatori, come la quantità di codice generata dai nostri team di ricerca, sono relativamente facili da raccogliere, ma difficili da interpretare perché il loro legame con il progresso della ricerca è incerto. Metriche più direttamente legate al progresso della ricerca, come la frequenza con cui gli agenti portano a termine i compiti assegnati dai ricercatori, potrebbero essere più utili, ma sono complesse da sviluppare e validare. A complicare ulteriormente le cose, gli strumenti e i sistemi usati dai ricercatori evolvono rapidamente. Approfondire la comprensione dell’accelerazione della ricerca è una priorità importante in tutta OpenAI.

In queste analisi, salvo diversa indicazione:

• “Ricercatore” è un termine ampio che indica qualsiasi membro del nostro reparto ricerca, inclusi alcuni dipendenti che sviluppano l’infrastruttura, gestiscono progetti di ricerca o supportano altrimenti l’attività.

• Le metriche sull’uso degli agenti di coding coprono la maggior parte dell’utilizzo, ma non tutto, data la rapida evoluzione degli strumenti e dei sistemi usati dai ricercatori.