L'acceleració de la recerca: una mirada des de dins d'OpenAI

Creiem que, perquè l'AGI beneficiï tota la humanitat, cal governar-la democràticament. Això exigeix un debat públic informat sobre les capacitats, els riscos i les salvaguardes dels sistemes d'IA molt capaços. Cal que tothom entengui la probable evolució de la IA d'avantguarda per poder influir de debò en el seu desenvolupament.

La transparència sobre riscos, incidents i salvaguardes concrets és necessària, però no suficient. Creiem que el públic també ha d'entendre com evolucionen els sistemes més capaços i com impulsen la recerca als laboratoris d'avantguarda.

Volem crear amb seguretat un investigador automatitzat d'IA que, sota supervisió humana, impulsi l'aprenentatge profund i l'alineament amb millores iteratives. Segons les nostres mesures, ja hem assolit l'objectiu, anunciat⁠(s'obre en una finestra nova) la tardor passada, de tenir un becari de recerca automatitzat abans de setembre d'enguany. Per "becari de recerca" entenem un sistema que, sota direcció humana, fa tasques de recerca ben definides, incloses les que ocuparien uns dies a un investigador qualificat. Avancem amb força cap a la creació d'un investigador automatitzat d'IA per al març de 2028.

Enguany, la feina diària dels investigadors d'OpenAI ha canviat substancialment. Fan servir agents de programació durant tot el dia, sovint en sessions simultànies. L'ús total creix ràpidament, més que en altres equips d'OpenAI. Aporten codi més de pressa i fan més experiments. També canvia l'ús dels agents: assumeixen tasques cada cop més complexes i les resolen amb èxit més sovint. La recerca en IA és complexa i té molts possibles colls d'ampolla; probablement, el progrés global no seguirà el ritme d'aquestes mètriques. En conjunt, però, aquestes troballes concorden amb la impressió interna que les eines agentives acceleren notablement la recerca. Les persones continuen fixant les prioritats de recerca, triant quines idees i resultats cal explorar i decidint si s'han d'ampliar, aturar o desplegar sistemes.

Creiem que una recerca automatitzada en IA responsable donarà lloc a models que millorin el benestar humà i impulsin la missió d'OpenAI. Pot abaratir la intel·ligència avançada perquè beneficiï persones d'arreu del món. Hi treballem, en part, perquè la recerca automatitzada podria ajudar a resoldre l'alineament i crear defenses davant d'una IA cada cop més capaç. Un investigador automatitzat d'IA també pot investigar sobre seguretat o alineament. Sistemes més capaços i alineats podrien protegir infraestructures crítiques, defensar-nos d'agents d'IA perillosos i crear noves proteccions.

Això justifica desenvolupar capacitats útils de recerca automatitzada, però no implica que calgui perseguir necessàriament una RSI ràpida. Decidir si avancem i com ho fem ha de dependre de poder preservar el control humà i de decisions democràtiques informades sobre beneficis i riscos.

Encara no sabem com assolir amb seguretat una RSI plena i alineada. Treballem per ampliar les mesures d'alineament i seguretat alhora que les capacitats. Però no podem donar per fet que l'alineament i la seguretat avancin al mateix ritme; els sistemes més capaços poden ser més difícils de supervisar. El rigor en alineament i seguretat és central: comença per mesurar i mitigar els problemes de seguretat actuals dels sistemes de programació agentiva. Si avançar comporta un risc de seguretat inacceptable, actuarem en conseqüència, fins i tot alentint o aturant el desenvolupament o desplegament de sistemes que no puguem protegir prou.

Després de l'incident de Hugging Face, vam complir aquest compromís⁠: vam pausar l'entrenament amb aprenentatge per reforç (RL) dels darrers models destinats al desplegament mentre reforçàvem i sotmetíem a proves adversàries els entorns de recerca i ampliàvem la supervisió. No es va aturar tota la recerca: algunes càrregues de treball es van reprendre amb més controls; d'altres van continuar pausades. Hem elevat els estàndards de seguretat i alineament i els hem integrat més en el cicle de vida del model, exigint proves més sòlides d'alineament durant tot l'entrenament.

Avui oferim una visió detallada de com els sistemes agentius han contribuït al nostre progrés cap a la RSI els darrers mesos. Els sistemes agentius són nous i canvien de pressa; els nostres mesuraments encara són preliminars. Compartim aquests primers resultats i mètodes per informar el públic, promoure la divulgació pública i ajudar el sector a establir estàndards de mesurament comuns.

Com vam escriure al pla de polítiques per a la IA d'avantguarda⁠, creiem que s'hauria d'exigir a les empreses, inclosa la nostra, que publiquin el seu progrés cap a la RSI. Encara que no s'exigeixi, volem continuar sent transparents sobre el nostre progrés cap a la RSI. Adaptarem la transparència a mesura que millorin les tècniques de mesurament i el coneixement, tot preservant la seguretat i la informació de propietat exclusiva.

A principis d'any, l'investigador situat a la mediana d'ús d'agents a OpenAI feia un ús modest dels agents de programació. A mitjan agost, ja els integrava diàriament a la feina i consumia més de 600 $ diaris d'inferència a preus de l'API. L'usuari del percentil 90 de l'àrea de recerca consumeix ara més de 7.000 $ diaris en segments.

Abans de juny de 2026, el temps total d'execució dels agents a recerca encara era inferior al del treball humà. Això ja ha canviat. Amb una jornada estàndard de 8 hores, a mitjan agost l'àrea de recerca utilitza, en total, 3,1 jornades d'agents per cada jornada humana.

També podem mirar quants investigadors fan servir fluxos de treball molt concurrents, com ara executar 4 agents o més alhora. Com es veu a continuació, aquesta xifra augmenta. Les xifres inclouen els màxims diaris tant dels agents iniciats directament per l'usuari com dels subagents creats a partir d'aquests.

Bona part de la recerca en IA és un procés intensiu en feina per incorporar millores d'intel·ligència o rendiment a un dels nostres models principals. El progrés exigeix que totes les etapes funcionin: dissenyar millores, escriure avaluacions de rendiment i infraestructura per provar-les a escala, detectar errors i conductes insegures o desalineades durant l'entrenament, i integrar les idees reeixides en una execució d'entrenament principal. Una fallada en qualsevol etapa pot limitar tot el cicle.

Escriure codi i fer experiments són dues activitats clau dels investigadors, i tenim indicis que s'acceleren.

Aquestes dades són fàcils de mesurar, però poden ser difícils d'interpretar. Amb l'automatització, les tasques menys automatitzables absorbiran més esforç dels investigadors i seran els principals colls d'ampolla del progrés. Els recursos de càlcul també limiten el progrés i poden guanyar importància a mesura que disminueixin altres colls d'ampolla.

El 2026 han augmentat els experiments per experimentador actiu; l'agost marca el màxim des que se'n fa seguiment, el gener de 2025. Això es correlaciona amb l'adopció de Codex, tot i que els recursos de càlcul també han crescut molt des de 2025.

Les impressions qualitatives i les dades internes indiquen que canvien les tasques delegades als agents de programació: cada cop són més habituals les de nivell superior i de més durada.

Per entendre millor la tendència, hem analitzat l'ús recent a recerca amb una taxonomia publicada recentment⁠(s'obre en una finestra nova) per Epoch AI sobre les feines del cicle d'R+D en IA. Inspirada en el sistema de classificació laboral O*NET, aquesta taxonomia s'adapta a l'R+D en IA d'avantguarda i divideix el procés en sis fases:

1. Decidir: en què treballar, què continuar i on assignar recursos

2. Dissenyar: idees de recerca i especificacions d'enginyeria

3. Construir: codi i conjunts de dades

4. Executar: entrenament, avaluació, maquinari i servei

5. Analitzar: experiments, models, desplegament i treball extern

6. Comunicar: troballes, comentaris, estat i decisions

A continuació classifiquem els segments dels agents de programació amb aquesta taxonomia.

Totes les categories de recerca han crescut entre gener i agost de 2026. Al gener dominava el codi de recerca i infraestructura. Aquesta categoria ha crescut, però també d'altres, sobretot l'assistència tècnica i la supervisió d'execucions. La planificació d'alt nivell continua sent una fracció mínima dels segments de sortida dels agents.

Segons alguns companys, els agents destaquen resolent problemes de la infraestructura interna de recerca, un coll d'ampolla important. Diversos equips que oferien sessions de suport als experiments han vist caure l'assistència el 2026. Un les ha suprimit per centrar-se en altres millores del sistema.

Aquí mostrem les publicacions diàries que inicien fils en un dels principals canals interns on els investigadors demanen suport tècnic a altres equips. Que sapiguem, aquesta caiguda no s'ha compensat amb el trasllat de consultes a un altre canal de suport tècnic atès per persones. La caiguda d'activitat encaixa amb aquest canvi més ampli.

També podem estudiar si els agents resolen amb èxit les tasques encarregades pels investigadors. Amb un classificador agentiu, observem que de gener a juliol l'èxit va augmentar en diversos nivells de dificultat, estimats pel temps que trigaria una persona, per a tasques amb un resultat verificable. Tanmateix, els agents encara necessiten força orientació humana per reeixir, sobretot quan creix la complexitat. Els darrers 6 mesos, més de la meitat de les tasques reeixides de 4-8 hores van requerir almenys una intervenció.

El progrés cap a sistemes més capaços que permetin assolir una AGI segura i beneficiosa també dependrà de les salvaguardes necessàries per a aquesta feina. La nostra avaluació de les salvaguardes necessàries pot canviar a mesura que coneguem millor els riscos.

Com ja hem explicat,⁠ hem actualitzat recentment els nostres estàndards de supervisió, alineament i seguretat. Aquí mostrem com les restriccions recents han afectat un aspecte de l'activitat de recerca.

El 20 de juliol, després de descobrir que uns agents havien compromès la nostra infraestructura de recerca, vam aturar temporalment el servei de contenidors utilitzat per a l'entrenament i després el vam restablir amb restriccions addicionals importants.

Això va provocar una forta caiguda dels recursos de càlcul dedicats a l'entrenament amb RL mentre els equips reconfiguraven els seus fluxos de treball per operar dins de l'entorn de recerca reforçat. El gràfic anterior inclou la pausa de dues setmanes en l'aprenentatge per reforç dels nostres models més recents destinats al desplegament. Entre el 20 de juliol i el 6 d'agost, la majoria de les execucions dels experiments de RL de classe Astra, segons l'assignació de GPU, es van destinar a provar la implementació de millores de seguretat i protecció.

El 7 d'agost, els indicis preliminars que Astra podria tenir capacitats cibernètiques crítiques⁠ segons el nostre Entorn de treball de preparació⁠(s'obre en una finestra nova) van motivar restriccions de seguretat addicionals específiques del model, que exigien executar Astra en entorns de recerca amb més seguretat. La setmana següent, l'assignació de GPU a la classe Astra va caure un 59,2 % més, però l'assignació a altres classes de models va augmentar un 17,2 %. Aquest augment va compensar prop del 85 % de la caiguda de la classe Astra, de manera que l'assignació total a les càrregues de treball de RL analitzades es va mantenir pràcticament estable. Aquest patró és coherent amb el trasllat de part de l'entrenament i l'experimentació a models diferents d'Astra mentre el treball amb Astra estava restringit. També concorda amb els testimonis d'investigadors que van trobar altres usos per als recursos de càlcul que ja no es podien dedicar a càrregues de treball subjectes a les noves restriccions.

Aquestes dades aporten un indici útil per al debat sobre entrenament i seguretat: quan s'introdueixen nous controls, els recursos de càlcul continuen sent valuosos i flexibles, i es destinen de manera natural a usos alternatius dins de l'activitat de recerca. A més llarg termini, el debat sobre el ritme de progrés de la IA també hauria d'abordar com aprofitar millor els recursos de càlcul subjectes a controls nous o proposats.

Avançar cap a una RSI alineada i entendre aquest progrés és important per a la nostra missió. Continuarem perfeccionant els mètodes, explicant com evoluciona el nostre coneixement i treballant per un debat públic informat i una governança democràtica efectiva dels sistemes d'avantguarda.

La recerca en IA impulsada per agents encara és nova, i encara aprenem a mesurar-la. Alguns indicadors, com la quantitat de codi que generen els equips de recerca, són relativament fàcils de recollir, però difícils d'interpretar perquè la seva relació amb el progrés de la recerca és incerta. Les mètriques centrades més directament en el progrés de la recerca, com la freqüència amb què els agents resolen les tasques que els encarreguen els investigadors, podrien ser més útils, però són complexes de desenvolupar i validar. A més, les eines i els sistemes que fan servir els investigadors evolucionen ràpidament, cosa que afegeix dificultat. Aprofundir en la comprensió de l'acceleració de la recerca és una prioritat important a tot OpenAI.

En aquestes anàlisis, llevat que s'indiqui el contrari:

• "Investigador" és un terme ampli que designa qualsevol membre de l'àrea de recerca, inclosos els que creen infraestructura de recerca, gestionen projectes o donen suport a l'activitat d'altres maneres.

• Les mètriques d'ús dels agents de programació cobreixen la major part de l'ús, però no tot, atesa la ràpida evolució de les eines i els sistemes que fan servir els investigadors.