Forskningsacceleration: Perspektivet hos OpenAI

For at AGI kan komme hele menneskeheden til gode, mener vi, at det skal styres demokratisk. Dette kan kun ske gennem en oplyst offentlig debat om kapaciteter, risici og sikkerhedsforanstaltninger for højt avancerede AI-systemer. Mennesker overalt skal forstå den sandsynlige fremtidige udvikling af banebrydende AI, så de kan få reel indflydelse på, hvordan den udvikler sig.

Gennemsigtighed om specifikke risici, hændelser og sikkerhedsforanstaltninger er nødvendig, men ikke tilstrækkelig. Vi mener også, at offentligheden skal forstå, hvordan de mest avancerede systemer udvikler sig, og hvordan de driver forskningsfremskridt i banebrydende laboratorier.

Vi sigter mod sikkert at udvikle en automatiseret AI-forsker, der kan arbejde under menneskeligt tilsyn for at fremme fremskridt inden for deep-learning og tilpasning og muliggøre iterative forbedringer. Ifølge vores målinger har vi nu nået målet, der blev annonceret⁠(åbner i et nyt vindue) sidste efterår, om at have en automatiseret forskningspraktikant inden september i år. Med "forskningspraktikant" mener vi et system, der kan udføre veldefinerede forskningsopgaver under menneskelig vejledning, herunder opgaver, som ville tage en dygtig forsker nogle få dage. Vi gør store fremskridt hen imod at skabe en automatiseret AI-forsker inden marts 2028.

I løbet af dette år har OpenAI-forskernes daglige arbejde ændret sig markant. Forskere bruger kodningsagenter hele dagen (ofte i samtidige sessioner), og den samlede brug stiger hurtigt og vokser hurtigere end hos andre OpenAI-teams. Forskere bidrager hurtigere med kode og udfører flere eksperimenter. De måder, forskere bruger agenter på, ændrer sig også: Agenter løser stadigt mere komplekse opgaver og lykkes oftere med dem. AI-forskning er en kompleks proces med mange potentielle flaskehalse, så det overordnede tempo for fremskridt vil sandsynligvis ikke holde trit med disse specifikke målinger. Men overordnet set stemmer disse resultater overens med den bredere opfattelse, som mange af os har internt, nemlig at agentiske værktøjer i væsentlig grad fremskynder forskningsmæssige fremskridt. Det er stadig mennesker, der fastsætter vores forskningsprioriteter, vurderer, hvilke idéer og resultater der skal forfølges, og beslutter, om systemer skal skaleres, sættes på pause eller udrulles.

Hvis det gøres ansvarligt, mener vi, at automatiseret AI-forskning vil resultere i modeller, der direkte forbedrer menneskers velfærd og fremmer OpenAI's mission. Det kan sænke omkostningerne ved avanceret intelligens, så mennesker over hele verden kan få gavn af det. Vi forfølger dette arbejde blandt andet, fordi automatiseret forskning vil kunne hjælpe os med at løse tilpasningsproblemet og opbygge forsvar mod stadig mere avanceret AI. En automatiseret AI-forsker kan også være en automatiseret forsker inden for sikkerhed eller tilpasning. Mere avancerede, tilpassede systemer vil kunne bidrage til at beskytte kritisk infrastruktur, forsvare mod farlige AI-agenter og udvikle nye beskyttelsesforanstaltninger.

Dette er grunde til at udvikle nyttige automatiserede forskningskapaciteter, men de betyder ikke, at hurtig RSI nødvendigvis er et resultat, vi bør forfølge. Hvorvidt og hvordan vi skal gå videre, må afhænge af vores evne til at bevare menneskelig kontrol og af velinformerede demokratiske beslutninger om fordelene og risiciene.

Vi ved endnu ikke, hvordan vi på sikker vis kan nå hele vejen frem til tilpasset, fuld RSI. Vi arbejder på at skalere tilpasning og sikkerhedsforanstaltninger i takt med kapaciteterne. Men vi kan ikke antage, at fremskridt inden for tilpasning og sikkerhed vil holde trit, og mere avancerede systemer kan blive sværere at overvåge. Omhyggeligt arbejde med tilpasning og sikkerhed er centralt for denne indsats, og det starter med at måle og afbøde de sikkerhedsproblemer, vi ser i dag i agentiske kodningssystemer. Når vi vurderer, at det at fortsætte vil udgøre en uacceptabel sikkerhedsrisiko, vil vi reagere på passende vis, herunder ved at sænke tempoet i eller standse vores udvikling eller udrulning af systemer, som vi ikke ser os i stand til at sikre tilstrækkeligt.

Efter den seneste Hugging Face-hændelse omsatte vi denne forpligtelse til praksis⁠ ved at sætte træning med forstærkende læring (RL) af vores nyeste modeller, der er beregnet til udrulning, på pause, mens vi yderligere hærdede og red-team-testede vores forskningsmiljøer og udvidede vores overvågningssystemers dækning. Dette satte ikke al forskning i stå: nogle arbejdsbelastninger blev genoptaget under skærpede kontrolforanstaltninger, mens andre stadig var sat på pause. Vi har hævet vores standarder for sikkerhed og tilpasning og flyttet sikkerhedsarbejdet længere ind i modellens livscyklus, hvilket kræver stærkere dokumentation for tilpasset adfærd gennem hele træningen.

I dag giver vi et detaljeret øjebliksbillede af, hvordan agentiske systemer har bidraget til vores fremskridt mod RSI i de seneste måneder. Agentiske systemer er nye og under hastig forandring, og vores arbejde med at måle dem er stadig på et indledende stadie. Ved at dele disse foreløbige resultater og metoderne bag dem sigter vi mod at informere offentligheden, tilskynde til en norm for offentliggørelse, og hjælpe fagområdet med at bevæge sig mod fælles standarder for måling.

I sidste ende mener vi, som vi skrev i vores politiske blueprint for banebrydende AI⁠, at vi og andre virksomheder bør være forpligtede til offentligt at spore vores fremskridt mod RSI. Selv uden et sådant krav planlægger vi fortsat at være åbne omkring vores fremskridt med RSI. Vi vil videreudvikle vores tilgang til gennemsigtighed, efterhånden som vores måleteknikker og forståelse forbedres, samtidig med at vi afvejer behovet for at beskytte sikkerheden og ejendomsretligt beskyttede oplysninger.

I begyndelsen af året brugte median-forskeren hos OpenAI, rangeret efter agentbrug, kun kodningsagenter i begrænset omfang. I midten af august integrerede median-forskeren dagligt agenter i sit arbejde med et dagligt inferensforbrug på mere end 600 USD til API-priser. En bruger i den 90. percentil i vores forskningsorganisation bruger nu tokens til en værdi af mere end 7.000 USD om dagen.

Før juni 2026 var den samlede agentkørselstid på tværs af forskningsorganisationen stadig lavere end den samlede menneskelige arbejdsindsats. Det har siden ændret sig. Målt i henhold til en almindelig arbejdsdag på 8 timer anvender forskningsorganisationen pr. midten af august samlet set en arbejdsindsats på 3,1 agentarbejdsdage for hver arbejdsdag med menneskelig arbejdskraft.

En anden måde at anskue dette på er at forstå, hvor mange forskere der bruger arbejdsgange med høj grad af samtidighed (f.eks. ved at køre 4 eller flere agenter samtidigt). Som vist nedenfor er dette tal stigende. Disse tal omfatter de daglige spidsværdier for både agenter, der er startet direkte af brugeren, og underagenter, der er oprettet længere nede i kæden fra dem, som brugeren startede direkte.

En stor del af AI-forskningen kan ses som en arbejdskrævende proces med henblik på at integrere en ny forbedring af en models intelligens eller ydeevne i en af vores kernemodeller. Processen afhænger af mange trin, og kapaciteterne udvikler sig, når alle trinnene lykkes i samspil: Forskere skal udvikle nye forbedringer, udarbejde evalueringer til at vurdere modellens ydeevne, udvikle infrastruktur til at teste disse forbedringer i stor skala, finde fejl samt usikker eller fejltilpasset adfærd under træning og integrere de bedste idéer i en central træningskørsel. Et svigt i en hvilken som helst del af forskningsprocessen kan hæmme hele processen.

At skrive kode og udføre eksperimenter er to centrale aktiviteter, som forskere udfører som en del af deres arbejde, og vi ser tegn på, at disse processer accelererer.

Disse datapunkter er relativt nemme at måle, men kan være svære at fortolke. I takt med at automatiseringen skrider frem, vil de opgaver, der er mindst automatisérbare, lægge beslag på en større del af forskernes indsats og blive de vigtigste flaskehalse for fremtidige fremskridt. Beregningsressourcer er endnu en begrænsende faktor for fremskridt og kan blive vigtigere med tiden, efterhånden som andre flaskehalse mindskes.

I løbet af 2026 er antallet af eksperimenter pr. aktiv eksperimentator steget, og august 2026 er det højeste niveau nogensinde siden målingerne begyndte i januar 2025. Dette hænger sammen med den øgede brug af Codex, men vi bemærker, at vores tilgængelige beregningsressourcer også er vokset betydeligt siden 2025.

Både kvalitative indtryk og interne data tyder på, at blandingen af opgaver, som forskere uddelegerer til kodningsagenter, ændrer sig, idet uddelegering af opgaver på højere niveau og med længere tidshorisont bliver mere almindelig med tiden.

For at få et klarere billede af denne tendens analyserede vi nylig anvendelse i forskningsorganisationen ved hjælp af en nyligt offentliggjort taksonomi⁠(åbner i et nyt vindue) over de forskellige typer af arbejde, der indgår i F&U-livscyklussen for AI, udviklet af Epoch AI. Denne taksonomi, der er inspireret af det veletablerede O*NET-system til klassificering af alle typer af arbejde, er specifikt tilpasset banebrydende AI-F&U og opdeler processen i seks hovedfaser:

1. Beslut: hvad der skal arbejdes på, hvad der skal fortsættes med, og hvor ressourcer skal allokeres

2. Design: forskningsidéer og tekniske specifikationer

3. Byg: kode og datasæt

4. Kør: trænings-/evalueringskørsler, hardware, serving

5. Analysér: eksperimenter, modeller, udrulning, eksternt arbejde

6. Kommunikér: resultater, feedback, status, beslutninger

Nedenfor klassificerer vi tokens til kodningsagenter efter denne taksonomi.

Vi kan se, at alle kategorier af forskningsaktiviteter er steget mellem januar og august 2026. I januar var den dominerende kategori forskning og infrastrukturkode. Denne kategori er vokset, men vi ser også markante stigninger i andre kategorier, især teknisk hjælp og overvågningskørsler. Planlægning på højt niveau udgør stadig kun en minimal andel af agenternes output-tokens.

Ifølge anekdotiske beretninger fra kolleger er kodningsagenter særligt gode til at foretage fejlfinding af intern forskningsinfrastruktur, hvilket tackler en væsentlig flaskehals for fremskridt inden for forskning. Flere teams, som tidligere havde faste spørgetider for at hjælpe forskere med at foretage fejlfinding af deres eksperimenter, har bemærket faldende deltagelse i 2026, og ét team er helt stoppet med at afholde sessioner for i stedet at fokusere på at foretage andre systemforbedringer.

Her måler vi antallet af indlæg på øverste niveau pr. dag i en af de primære interne kanaler, hvor forskere søger teknisk support fra andre teams. Så vidt vi ved, er faldet i kanalens aktivitet ikke blevet opvejet af, at forespørgsler er flyttet til en anden teknisk supportkanal bemandet af mennesker. Faldet i trafikken stemmer overens med denne bredere udvikling.

Vi kan også undersøge, om kodningsagenter lykkes med de opgaver, forskere beder dem om at udføre. Ved hjælp af en agentisk klassifikator konstaterer vi, at succesraterne fra januar til juli generelt steg på tværs af flere sværhedsgradskategorier (der repræsenterer den anslåede tid, et menneske ville bruge på at fuldføre opgaven) for opgaver, hvor vi kan finde et korrekt resultat. Dog kræver agenter stadig væsentlig menneskelig styring for at lykkes, især i takt med at opgavernes kompleksitet stiger. I de seneste 6 måneder involverede over halvdelen af de vellykkede opgaver på 4-8 timer én eller flere interventioner.

Fremskridt mod mere avancerede systemer til sikker og gavnlig AGI vil også afhænge af de sikkerhedsforanstaltninger, der er nødvendige for et sådant arbejde. Vores vurdering af de nødvendige sikkerhedsforanstaltninger kan ændre sig, efterhånden som vi får mere viden om risiciene.

Som vi har beskrevet,⁠ har vi for nylig opdateret vores standarder for overvågning, tilpasning og sikkerhed. Her viser vi, hvordan nylige begrænsninger har påvirket ét aspekt af forskningsaktiviteten.

Den 20. juli, efter opdagelsen af, at agenter havde kompromitteret vores forskningsinfrastruktur, lukkede vi midlertidigt containertjenesten, der blev brugt til træning, og gendannede den derefter med væsentlige yderligere begrænsninger.

Dette førte til et kraftigt fald i beregningsressourcer til RL-træning, mens teams omkonfigurerede deres arbejdsgange til at fungere inden for det hærdede forskningsmiljø. Diagrammet ovenfor omfatter pausen på to uger i forstærkende læring af vores nyeste modeller, der er beregnet til udrulning. RL-eksperimenter i Astra-klassen mellem 20. juli og 6. august omfatter et flertal af kørslerne (opgjort efter GPU-allokering), der har til formål at teste implementeringen af sikkerhedsforbedringer.

Den 7. august førte foreløbige beviser for, at Astra muligvis har kritiske cyberkapaciteter⁠ i henhold til vores beredskabsramme⁠(åbner i et nyt vindue), til yderligere modelspecifikke sikkerhedsbegrænsninger, som krævede, at Astra-modellen blev kørt i forskningsmiljøer med højere sikkerhed. I den følgende uge faldt GPU-allokeringen i Astra-klassen med yderligere 59,2 %, mens allokeringen til andre modelklasser steg med 17,2 %. Denne stigning udlignede omkring 85 procent af faldet i Astra-klassen, så den samlede allokering i de analyserede RL-arbejdsbelastninger forblev stort set uændret. Dette mønster stemmer overens med, at noget træning og eksperimentering blev flyttet til ikke-Astra-modeller, mens arbejde med Astra var begrænset, og med anekdotiske beretninger om forskere, der fandt andre anvendelser for beregningsressourcer, som ikke længere kunne bruges til arbejdsbelastninger omfattet af de nye begrænsninger.

Disse data giver et nyttigt signal til de igangværende drøftelser om træning og sikkerhed: Når nye kontrolforanstaltninger indføres, forbliver beregningsressourcer værdifulde og fleksible og vil naturligt blive kanaliseret over i alternative anvendelser inden for forskningsvirksomheden. På længere sigt bør drøftelser om tempoet i AI-udviklingen også omfatte spørgsmålet om, hvordan beregningsressourcer, der er underlagt nye eller foreslåede kontrolforanstaltninger, bedst kan anvendes.

At gøre og forstå fremskridt hen imod tilpasset RSI er vigtigt for vores mission. Vi vil fortsætte med at forfine vores metoder, rapportere om vores forståelse, som fortsat udvikler sig, og arbejde hen imod en oplyst offentlig debat og meningsfuld demokratisk styring af banebrydende systemer.

Agentdrevet AI-forskning er stadig ny, og vi er stadig ved at lære, hvordan vi kan måle den. Nogle indikatorer, såsom mængden af kode, som vores forskerteams genererer, er relativt lette at indsamle, men svære at fortolke, fordi deres sammenhæng med fremskridt inden for forskning er usikker. Målinger, der fokuserer mere direkte på fremskridt inden for forskning—såsom hvor ofte agenter lykkes med de opgaver, forskere giver dem—kan være mere nyttige, men er komplekse at udvikle og validere. Det, der gør udfordringen endnu større, er, at de værktøjer og systemer, som forskere er afhængige af, udvikler sig hastigt. At uddybe vores forståelse af forskningsacceleration er et væsentligt fokusområde på tværs af OpenAI.

På tværs af disse analyser, medmindre andet er angivet:

• "Forsker" er en bred betegnelse for ethvert medlem af vores forskningsorganisation, herunder personer, der bygger forskningsinfrastruktur, styrer forskningsprojekter eller på anden måde understøtter organisationens arbejde.

• Målinger af brugen af kodningsagenter dækker den meste, men ikke al brug, i betragtning af den hurtige udvikling i de værktøjer og systemer, som forskere anvender.