Påskyndad forskning: inblick i OpenAI

För att AGI ska gynna hela mänskligheten anser vi att det måste styras demokratiskt. Detta kan endast ske genom en välinformerad offentlig debatt om mycket kapabla AI-systems förmågor, risker och skyddsåtgärder. Människor överallt behöver förstå den sannolika framtida utvecklingen för banbrytande AI, så att de kan ha ett meningsfullt inflytande över hur den utvecklas.

Transparens kring specifika risker, incidenter och skyddsåtgärder är nödvändig, men inte tillräcklig. Vi anser att allmänheten också behöver förstå hur de mest kapabla systemen utvecklas och hur de driver forskningsframsteg inom banbrytande laboratorier.

Vi strävar efter att på ett säkert sätt bygga en automatiserad AI-forskare som kan arbeta under mänsklig övervakning för att ytterligare främja djupinlärning och anpassning och möjliggöra iterativa förbättringar. Enligt våra mätningar har vi nu nått målet, som tillkännagavs⁠(öppnas i ett nytt fönster) i höstas, att ha en automatiserad forskningspraktikant senast i september i år. Med ”forskningspraktikant” avser vi ett system som kan utföra väldefinierade forskningsuppgifter med mänsklig vägledning, inklusive uppgifter som skulle ta en kvalificerad forskare några dagar. Vi gör betydande framsteg mot att skapa en automatiserad AI-forskare senast i mars 2028.

Under året har OpenAI-forskarnas dagliga arbete förändrats avsevärt. Forskarna använder kodningsagenter under hela dagen (ofta i parallella sessioner), och den sammanlagda användningen ökar snabbt och överträffar tillväxten i andra OpenAI-team. Forskare bidrar med kod i snabbare takt och kör fler experiment. Även forskarnas sätt att använda agenter förändras: agenter hanterar alltmer komplexa uppgifter och lyckas med dem allt oftare. AI-forskning är en komplex process med många potentiella flaskhalsar, så den övergripande framstegstakten kommer sannolikt inte att hålla jämna steg med dessa specifika mått. Men på det stora hela är dessa resultat förenliga med den bredare uppfattning som många av oss har internt, nämligen att agentbaserade verktyg påtagligt accelererar forskningsframstegen. Det är fortfarande människor som fastställer våra forskningsprioriteringar, bedömer vilka idéer och resultat vi ska gå vidare med och beslutar om system ska skalas upp, pausas eller driftsättas.

Om det görs på ett ansvarsfullt sätt tror vi att automatiserad AI-forskning kommer att resultera i modeller som direkt förbättrar människors välbefinnande och främjar OpenAI:s uppdrag. Den kan sänka kostnaden för avancerad intelligens så att människor världen över kan dra nytta av den. Vi bedriver detta arbete delvis eftersom automatiserad forskning skulle kunna hjälpa oss att lösa anpassningsproblemet och bygga försvar mot alltmer kapabla AI-system. En automatiserad AI-forskare kan också vara en automatiserad forskare inom AI-säkerhet eller AI-anpassning. Mer kapabla och anpassade system skulle kunna bidra till att säkra kritisk infrastruktur, skydda mot farliga AI-agenter och utveckla nya skyddsåtgärder.

Det här är skäl att utveckla användbara automatiserade forskningsförmågor, men de innebär inte att snabb RSI nödvändigtvis är ett utfall vi bör eftersträva. Om och hur vi ska gå vidare måste bero på vår förmåga att bevara mänsklig kontroll och på välgrundade demokratiska beslut om fördelarna och riskerna.

Vi vet ännu inte hur vi på ett säkert sätt ska ta oss hela vägen till en anpassad, fullständig RSI. Vi arbetar med att skala upp anpassnings- och säkerhetsåtgärder i takt med kapaciteten. Men vi kan inte förutsätta att framstegen inom anpassning och säkerhet kommer att hålla jämna steg, och mer kapabla system kan bli svårare att övervaka. Noggrant arbete med anpassning och säkerhet står i centrum för detta arbete, och det börjar med att mäta och minska de säkerhetsproblem vi ser i dag i system för agentbaserad kodning. När vi bedömer att det skulle innebära en oacceptabel säkerhetsrisk att gå vidare, kommer vi att vidta lämpliga åtgärder, inklusive att bromsa eller stoppa vår utveckling eller driftsättning av system som vi bedömer att vi inte kan skydda tillräckligt.

Efter den senaste Hugging Face-incidenten omsatte vi detta åtagande i praktiken⁠ genom att pausa träning med förstärkningsinlärning (RL) av våra senaste modeller avsedda för driftsättning, samtidigt som vi ytterligare förstärkte våra forskningsmiljöer, genomförde red teaming av dem och utökade våra övervakningssystems täckning. Detta stoppade inte all forskning: vissa arbetsbelastningar återupptogs under striktare kontroller, medan andra förblev pausade. Vi har höjt våra standarder för säkerhet och anpassning och integrerat säkerhetsarbetet djupare i modellens livscykel, vilket kräver starkare belägg för anpassat beteende genom hela träningen.

I dag ger vi en detaljerad ögonblicksbild av hur agentbaserade system har bidragit till våra framsteg mot RSI under de senaste månaderna. Agentbaserade system är nya och förändras snabbt, och vårt arbete med att mäta dem befinner sig fortfarande i ett tidigt skede. Genom att dela dessa tidiga resultat och metoderna bakom dem strävar vi efter att informera allmänheten, uppmuntra en norm för offentlig redovisning och hjälpa området att utvecklas mot gemensamma standarder för mätning.

Slutligen anser vi, som vi skrev i vår policyplan för banbrytande AI⁠, att vi och andra företag bör vara skyldiga att offentligt följa upp våra framsteg mot RSI. Även utan ett sådant krav planerar vi att fortsätta vara transparenta kring våra RSI-framsteg. Vi kommer att vidareutveckla vårt förhållningssätt till transparens i takt med att våra mätmetoder och vår förståelse förbättras, samtidigt som vi balanserar behovet av att skydda säkerheten och proprietär information.

I början av året använde medianforskaren på OpenAI, rankad efter agentanvändning, kodningsagenter endast i begränsad omfattning. I mitten av augusti integrerade medianforskaren agenter dagligen i sitt arbete och använde inferens motsvarande mer än 600 $ per dag, beräknat enligt API-priser. Användaren i den 90:e percentilen i vår forskningsorganisation använder nu token för mer än 7 000 $ per dag.

Före juni 2026 låg den sammanlagda drifttiden för agenter inom forskningsorganisationen fortfarande under den sammanlagda mänskliga arbetsinsatsen. Det har ändrats sedan dess. Räknat i standardarbetsdagar på 8 timmar använder forskningsorganisationen i mitten av augusti totalt 3,1 agentarbetsdagars insats för varje arbetsdag med mänskligt arbete.

Ett annat sätt att se på detta är att förstå hur många forskare som använder arbetsflöden med hög grad av samtidighet (t.ex. kör fyra eller fler agenter samtidigt). Som visas nedan ökar detta antal. Dessa siffror omfattar de dagliga toppvärdena för både agenter som startats direkt av användaren och underagenter som skapats i efterföljande led från dem som användaren startade direkt.

Mycket av AI-forskningen kan ses som en arbetsintensiv process med målet att integrera en ny förbättring av modellernas intelligens eller prestanda i en av våra kärnmodeller. Processen bygger på många steg, och kapaciteten utvecklas när alla steg fungerar tillsammans: Forskare måste utforma nya förbättringar, skriva utvärderingar för att bedöma modellprestanda, skapa infrastruktur för att testa dessa förbättringar i stor skala, upptäcka buggar samt osäkert eller felanpassat beteende under träningen och integrera framgångsrika idéer i en central träningskörning. Ett fel i vilken del som helst av forskningsprocessen kan begränsa hela processen.

Att skriva kod och genomföra experiment är två centrala aktiviteter som forskare utför som en del av sitt arbete, och vi ser tecken på att dessa processer går allt snabbare.

Dessa datapunkter är relativt enkla att mäta, men kan vara svåra att tolka. I takt med att automatiseringen framskrider kommer de uppgifter som är minst automatiserbara att utgöra en större andel av forskarnas arbete och bli de viktiga flaskhalsarna för framtida framsteg. Beräkningskapacitet är en annan begränsande faktor för framsteg och kan bli viktigare med tiden i takt med att andra flaskhalsar minskar.

Under 2026 har antalet experiment per aktiv experimenterare ökat, och augusti 2026 var den högsta nivån någonsin sedan mätningarna började i januari 2025. Detta korrelerar med ökat införande av Codex, även om vi noterar att vår tillgängliga beräkningskapacitet också har ökat betydligt sedan 2025.

Både kvalitativa intryck och interna data visar att mixen av uppgifter som forskare delegerar till kodningsagenter förändras, och att delegering av uppgifter på högre nivå och långsiktiga uppgifter blir vanligare med tiden.

För att få en tydligare bild av den här trenden analyserade vi den senaste användningen i forskningsorganisationen med hjälp av en nyligen publicerad taxonomi⁠(öppnas i ett nytt fönster) över de olika typer av arbete som ingår i livscykeln för FoU inom AI, framtagen av Epoch AI. Denna taxonomi, som inspirerats av det sedan länge etablerade O*NET-systemet för att klassificera alla typer av arbete, är särskilt anpassad för banbrytande FoU inom AI och delar in processen i sex huvudfaser:

1. Besluta: vad du ska arbeta med, vad du ska fortsätta med och var resurser ska fördelas

2. Design: forskningsidéer och tekniska specifikationer

3. Bygg: kod och datamängder

4. Körning: tränings-/utvärderingskörningar, maskinvara, modellservering

5. Analysera: experiment, modeller, driftsättning, externt arbete

6. Kommunicera: resultat, återkoppling, status, beslut

Nedan klassificerar vi token för kodningsagenter enligt denna taxonomi.

Vi ser att alla kategorier av forskningsaktiviteter har ökat mellan januari och augusti 2026. I januari var den dominerande kategorin forsknings- och infrastrukturkod. Den här kategorin har vuxit, men vi ser också betydande ökningar i ytterligare kategorier, särskilt teknisk hjälp och övervakningskörningar. Planering på hög nivå utgör fortfarande en minimal andel av agenternas utdata-token.

Enligt anekdotiska uppgifter uppger kollegor att kodningsagenter är särskilt bra på att felsöka intern forskningsinfrastruktur, vilket avhjälper en betydande flaskhals för forskningsframsteg. Flera team som tidigare haft öppna supporttider för att hjälpa forskare att felsöka sina experiment har noterat minskad närvaro under 2026, och ett av dem har helt slutat hålla sådana sessioner för att i stället fokusera på andra systemförbättringar.

Här visualiserar vi antalet inlägg på toppnivå per dag i en av de huvudsakliga interna kanalerna där forskare söker teknisk support från andra team. Såvitt vi vet har minskningen i aktivitet i kanalen inte kompenserats av att förfrågningar har flyttats över till en annan teknisk supportkanal som bemannas av människor. Minskningen i trafiken ligger i linje med denna bredare förskjutning.

Vi kan också undersöka om kodningsagenter lyckas med de uppgifter som forskare ber dem utföra. Med hjälp av en agentbaserad klassificerare ser vi att andelen lyckade resultat från januari till juli generellt ökade inom flera svårighetsintervall (approximerade utifrån den uppskattade tid det skulle ta för en människa att slutföra uppgiften) för uppgifter där vi kan fastställa ett referensutfall. Agenter kräver dock fortfarande betydande mänsklig styrning för att lyckas, särskilt i takt med att uppgifternas komplexitet ökar. Under de senaste 6 månaderna innefattade över hälften av de lyckade uppgifterna på 4–8 timmar en eller flera interventioner.

Framsteg mot mer kapabla system för säker och gynnsam AGI kommer också att bero på de skyddsåtgärder som behövs för sådant arbete. Vår bedömning av vilka skyddsåtgärder som behövs kan komma att ändras i takt med att vi lär oss mer om riskerna.

Som vi har beskrivit⁠ har vi nyligen uppdaterat våra standarder för övervakning, anpassning och säkerhet. Här visar vi hur de senaste restriktionerna har påverkat en aspekt av forskningsverksamheten.

Den 20 juli, efter upptäckten att agenter hade komprometterat vår forskningsinfrastruktur, stängde vi tillfälligt ned containertjänsten som användes för träning och återställde den sedan med betydande ytterligare begränsningar.

Detta ledde till en kraftig minskning av beräkningsresurserna för RL-träning medan teamen omkonfigurerade sina arbetsflöden för att kunna arbeta inom den säkrade forskningsmiljön. Diagrammet ovan omfattar det två veckor långa uppehållet i förstärkningsinlärning för våra senaste modeller avsedda för driftsättning. RL-experiment i Astra-klassen mellan den 20 juli och den 6 augusti omfattar en majoritet av körningarna (mätt efter GPU-allokering) som är avsedda att testa implementeringen av förbättringar av säkerhet och skydd.

Den 7 augusti ledde preliminära belägg för att Astra kan ha kritisk cyberförmåga⁠ enligt vårt Preparedness Framework⁠(öppnas i ett nytt fönster) till ytterligare modellspecifika säkerhetsbegränsningar, som innebar att Astra-modellen måste köras i forskningsmiljöer med högre säkerhetsnivå. Följande vecka minskade GPU-allokeringen för Astra-klassen ytterligare med 59,2 procent, medan allokeringen till andra modellklasser ökade med 17,2 procent. Den ökningen kompenserade för cirka 85 procent av nedgången i Astra-klassen, vilket gjorde att den totala allokeringen i de analyserade RL-arbetsbelastningarna i stort sett var oförändrad. Detta mönster överensstämmer med att viss träning och experimentering flyttades över till andra modeller än Astra medan arbete som omfattade Astra begränsades, och ligger i linje med anekdotiska rapporter om att forskare hittade andra användningsområden för beräkningskapacitet som inte längre kunde utnyttjas för arbetsbelastningar som omfattades av de nya begränsningarna.

Dessa data ger en användbar signal för pågående diskussioner om träning och säkerhet: När nya kontroller införs förblir beräkningskapacitet värdefull och flexibel och kommer naturligt att kanaliseras till alternativa användningsområden inom forskningsverksamheten. På längre sikt bör diskussioner om takten i AI-utvecklingen också utvidgas till frågan om hur beräkningskapacitet som omfattas av nya eller föreslagna kontroller bäst kan användas.

Att göra framsteg mot och förstå utvecklingen mot anpassad RSI är viktigt för vårt uppdrag. Vi kommer att fortsätta att förfina våra metoder, rapportera om vår utvecklade förståelse och arbeta för en informerad offentlig debatt och meningsfull demokratisk styrning av banbrytande system.

Agentdriven AI-forskning är fortfarande ett nytt område, och vi lär oss fortfarande hur vi ska mäta det. Vissa indikatorer, till exempel mängden kod som våra forskarteam genererar, är relativt enkla att samla in, men svåra att tolka eftersom deras koppling till forskningsframsteg är osäker. Mått som fokuserar mer direkt på forskningsframsteg – till exempel hur ofta agenter lyckas med de uppgifter som forskare ger dem – skulle kunna vara mer användbara, men är komplexa att utveckla och validera. Ytterligare en svårighet är att de verktyg och system som forskare förlitar sig på utvecklas snabbt. Att fördjupa vår förståelse för hur forskning kan påskyndas är ett viktigt fokusområde inom hela OpenAI.

För dessa analyser gäller, om inget annat anges:

• ”Forskare” är ett brett begrepp för alla medlemmar i vår forskningsorganisation, inklusive personer som bygger forskningsinfrastruktur, leder forskningsprojekt eller på annat sätt stödjer verksamheten.

• Mätvärden för användning av kodningsagenter täcker merparten, men inte all användning, med tanke på den snabba utvecklingen av de verktyg och system som forskare förlitar sig på.