Forskningsfremdrift: Et innblikk i OpenAI

For at AGI skal komme hele menneskeheten til gode, mener vi at det må styres på en demokratisk måte. Dette kan bare skje gjennom en informert offentlig debatt om mulighetene, risikoene og sikkerhetstiltakene knyttet til svært avanserte KI-systemer. Folk overalt må forstå den sannsynlige fremtidige utviklingen innen banebrytende KI, slik at de kan ha en meningsfull innflytelse på hvordan den utvikler seg.

Åpenhet om konkrete risikoer, hendelser og sikkerhetstiltak er nødvendig, men ikke tilstrekkelig. Vi mener at allmennheten også må forstå hvordan de mest avanserte systemene utvikles, og hvordan de bidrar til fremskritt innen forskningen i banebrytende laboratorier.

Vårt mål er å utvikle en automatisert KI-forsker på en sikker måte, som kan arbeide under menneskelig tilsyn for å fremme utviklingen innen dypllæring og tilpasning, og dermed muliggjøre iterative forbedringer. Ifølge våre målinger har vi nå nådd målet, som ble kunngjort⁠(åpnes i et nytt vindu) i fjor høst, om å ha en automatisert forskningspraktikant innen september i år. Med «forskningspraktikant» mener vi et system som kan utføre veldefinerte forskningsoppgaver under menneskelig veiledning, inkludert oppgaver som ville ta en erfaren forsker noen dager å fullføre. Vi gjør store fremskritt mot å utvikle en automatisert KI-forsker innen mars 2028.

I løpet av dette året har det daglige arbeidet til forskerne ved OpenAI endret seg betydelig. Forskerne bruker kodingsverktøy gjennom hele dagen (ofte i parallelle økter), og den samlede bruken øker raskt og vokser raskere enn hos andre OpenAI-team. Forskerne leverer kode raskere og gjennomfører flere eksperimenter. Måten forskere bruker agenter på, er også i endring: Agentene utfører stadig mer komplekse oppgaver, og lykkes oftere med dem. KI-forskning er en kompleks prosess med mange potensielle flaskehalser, så det generelle tempoet i utviklingen vil sannsynligvis ikke holde tritt med disse konkrete måleindikatorene. Men alt i alt stemmer disse funnene overens med det generelle inntrykket mange av oss har innerst inne, nemlig at agentbaserte verktøy bidrar til å fremskynde forskningsfremdriften på en meningsfull måte. Det er fortsatt mennesker som fastsetter våre forskningsprioriteringer, vurderer hvilke ideer og resultater vi skal satse på, og avgjør om systemene skal utvides, settes på vent eller tas i bruk.

Hvis det gjøres på en ansvarlig måte, tror vi at automatisert KI-forskning vil føre til modeller som direkte forbedrer menneskers velferd og fremmer OpenAIs formål. Det kan redusere kostnadene ved avansert etterretning, slik at mennesker over hele verden kan dra nytte av det. Vi driver dette arbeidet blant annet fordi automatisert forskning kan hjelpe oss med å løse samkjøringsproblemer og utvikle forsvarsmekanismer mot stadig mer avansert KI. En forsker innen automatisert KI kan også være forsker innen automatisert sikkerhet eller tilpasning. Mer effektive og samordnede systemer kan bidra til å sikre kritisk infrastruktur, beskytte mot farlige KI-agenter og utvikle nye beskyttelsestiltak.

Dette er grunner til å utvikle nyttige automatiserte forskningsfunksjoner, men det betyr ikke at rask RSI nødvendigvis er et mål vi bør strebe etter. Hvorvidt og hvordan vi skal gå videre, må avhenge av vår evne til å opprettholde menneskelig kontroll og av velinformerte demokratiske valg om fordeler og risikoer.

Vi vet foreløpig ikke hvordan vi på en sikker måte kan nå helt opp til et jevnt, fullt RSI-nivå. Vi arbeider med å utvide samordningen og sikkerhetstiltakene i takt med kapasiteten. Men vi kan ikke ta for gitt at utviklingen innen standardisering og sikkerhet vil holde tritt, og mer avanserte systemer kan bli vanskeligere å overvåke. Nøye samordning og sikkerhetsarbeid står i sentrum for denne innsatsen, og det begynner med å kartlegge og avhjelpe sikkerhetsproblemene vi ser i dag i agentbaserte kodingssystemer. Når vi konstaterer at en slik fremgangsmåte vil utgjøre en uakseptabel sikkerhetsrisiko, vil vi reagere på en hensiktsmessig måte, blant annet ved å bremse opp eller stanse utviklingen eller implementeringen av systemer som vi ikke er i stand til å sikre i tilstrekkelig grad.

Etter den nylige Hugging Face-hendelsen omsatte vi denne forpliktelsen i praksis⁠ ved å sette treningen av forsterkningslæring (RL) på våre nyeste modeller, som var ment for distribusjon, på pause, mens vi ytterligere sikret og gjennomførte red-team-tester av forskningsmiljøene våre og utvidet dekningen til overvåkingssystemene våre.overvåkingssystemene våre. Dette førte ikke til at all forskning ble stanset: Noen forskningsprosjekter ble gjenopptatt under strengere kontrolltiltak, mens andre forble på pause. Vi har skjerpet våre standarder for sikkerhet og etterlevelse og integrert sikkerhetsarbeidet tydeligere i modellens livssyklus, noe som krever tydeligere bevis på at oppførselen er i tråd med retningslinjene gjennom hele opplæringen.

I dag gir vi en detaljert oversikt over hvordan agentbaserte systemer har bidratt til fremdriften vår mot RSI de siste månedene. Agentbaserte systemer er nye og i rask utvikling, og våre målinger er fortsatt på et innledende stadium. Ved å dele disse foreløpige resultatene og metodene som ligger til grunn for dem, ønsker vi å informere allmennheten, fremme en praksis med offentliggjøring og bidra til at fagfeltet beveger seg i retning av felles måle standarder.

Til syvende og sist mener vi, slik vi skrev i vår plan for politikk knyttet til banebrytende KI⁠, at både vi og andre selskaper bør være forpliktet til å offentliggjøre fremdriften vår mot RSI. Selv uten et slikt krav har vi tenkt å fortsette å være åpne om fremdriften vår når det gjelder RSI. Vi vil videreutvikle vår tilnærming til åpenhet i takt med at målemetodene våre og forståelsen vår forbedres, samtidig som vi ivaretar behovet for å beskytte sikkerheten og konfidensiell informasjon.

I begynnelsen av dette året brukte medianforskeren – rangert etter bruk av agenter hos OpenAI – kun kodingsagenter i beskjedne mengder. I midten av august hadde den gjennomsnittlige forskeren begynt å integrere agenter i sitt daglige arbeid, og brukte mer enn 600 dollar per dag på inferens beregnet etter API-priser. Brukeren som ligger i den 90. persentilen i vår forskningsorganisasjon bruker nå tokens for mer enn 7 000 dollar per dag.

Før juni 2026 var den samlede kjøretiden for agenter i hele forskningsorganisasjonen fortsatt lavere enn den samlede arbeidstiden for menneskelig arbeidskraft. Dette har endret seg siden den gang. Basert på en standard arbeidsdag på 8 timer bruker forskningsorganisasjonen, per midten av august, totalt 3,1 agent-arbeidsdager for hver arbeidsdag med menneskelig arbeidskraft.

En annen måte å se på dette på er å finne ut hvor mange forskere som bruker arbeidsflyter med høy grad av samtidighet (f.eks. ved å kjøre fire eller flere agenter samtidig). Som det fremgår nedenfor, er dette tallet økende. Disse tallene omfatter de daglige toppverdiene både for agenter som brukeren har startet direkte, og for underagenter som er opprettet i kjeden etter de som brukeren har startet direkte.

Mye av KI-forskningen kan betraktes som en arbeidsintensiv prosess med mål om å integrere en ny forbedring av modellens intelligens eller ytelse i en av våre kjernemodeller. Prosessen består av mange trinn, og utviklingen går fremover når alle trinnene fungerer sammen som de skal: Forskerne må utvikle nye forbedringer, utarbeide evalueringer for å vurdere modellens ytelse, utvikle infrastruktur for å teste disse forbedringene i stor skala, oppdage feil samt usikker eller feilaktig atferd under opplæringen, og integrere de beste ideene i en sentral opplæringsrunde. En feil i en hvilken som helst del av forskningsprosessen kan hemme hele syklusen.

Å skrive kode og gjennomføre eksperimenter er to sentrale aktiviteter som forskere utfører som en del av sitt arbeid, og vi ser tegn på at disse prosessene går stadig raskere.

Disse datapunktene er relativt enkle å måle, men kan være vanskelige å tolke. Etter hvert som automatiseringen utvikler seg, vil oppgavene som er minst egnet for automatisering kreve en større andel av forskernes innsats og bli de viktigste flaskehalsene for fremtidig fremgang. Databehandlingskapasitet er en annen faktor som bremser fremgangen, og kan bli stadig viktigere etter hvert som andre flaskehalser avtar.

Gjennom 2026 har antallet eksperimenter per aktiv forsker økt, og august 2026 markerte en rekordhøy verdi siden registreringen startet i januar 2025. Dette henger sammen med økt bruk av Codex, selv om vi gjør oppmerksom på at vår tilgjengelige datakraft også har økt betydelig siden 2025.

Både kvalitative inntrykk og interne data tyder på at sammensetningen av oppgaver som forskere delegerer til kodere er i endring, og at det med tiden blir stadig vanligere å delegere oppgaver på høyere nivå og med lengre tidshorisont.

For å få et klarere bilde av denne trenden har vi analysert den nylige bruken i forskningsorganisasjonen ved hjelp av en nylig publisert taksonomi⁠(åpnes i et nytt vindu) over de ulike typer arbeid som inngår i livssyklusen for KI-FoU, utviklet av Epoch AI. Denne taksonomien, som er inspirert av det veletablerte O*NET-systemet for klassifisering av alle typer arbeid, er spesielt tilpasset banebrytende forskning og utvikling innen KI, og deler prosessen inn i seks hovedfaser:

1. Bestem: hva man skal jobbe med, hva man skal fortsette med, hvor ressursene skal fordeles

2. Utform: forskningsideer og tekniske spesifikasjoner

3. Bygg: kode og datasett

4. Kjør: opplærings-/evalueringskjøringer, maskinvare, drift

5. Analyser: eksperimenter, modeller, implementering, eksternt arbeid

6. Kommuniser: funn, tilbakemeldinger, status, beslutninger

Nedenfor klassifiserer vi token for kodeagenter i henhold til denne taksonomien.

Vi ser at alle kategorier av forskningsaktiviteter har økt mellom januar og august 2026. I januar var den dominerende kategorien forsknings- og infrastrukturkode. Denne kategorien har vokst, men vi ser også en betydelig økning i andre kategorier, særlig innen teknisk support og overvåkingskjøringer. Planlegging på høyt nivå utgjør fortsatt en svært liten andel av agentens utdata-tokens.

Basert på enkelterfaringer forteller kollegaer at kodeagenter er særlig gode til feilsøking av intern forskningsinfrastruktur, noe som avhjelper én betydelig flaskehals for forskningsfremdrift. Flere team som tidligere holdt åpne veiledningstimer for å hjelpe forskere med å feilsøke eksperimentene sine har merket synkende oppmøte i 2026, og ett av dem har sluttet helt å holde slike økter for i stedet å fokusere på å gjøre andre systemforbedringer.

Her viser vi antall innlegg på øverste nivå per dag i en av de viktigste interne kanalene der forskere søker teknisk støtte fra andre team. Så vidt vi vet, har nedgangen i aktiviteten på denne kanalen ikke blitt oppveid av at henvendelsene i stedet har blitt rettet mot en annen teknisk supportkanal som betjenes av mennesker. Nedgangen i trafikken er i tråd med denne generelle utviklingen.

Vi kan også undersøke om kodeagenter klarer å utføre oppgavene som forskerne gir dem. Ved hjelp av en agentisk klassifikator finner vi at suksessratene fra januar til juli generelt økte på tvers av flere vanskelighetsnivåer (målt ved den estimerte tiden det ville ta et menneske å fullføre oppgaven) for oppgaver der vi kan finne et referanseresultat. Agentene trenger imidlertid fortsatt betydelig menneskelig styring for å lykkes, særlig når oppgavene blir mer komplekse. I løpet av de siste 6 månedene har over halvparten av de vellykkede oppgavene som tok 4–8 timer, krevd én eller flere inngrep.

Fremgangen mot mer avanserte systemer for sikker og nyttig AGI vil også avhenge av de sikkerhetstiltakene som er nødvendige for et slikt arbeid. Vår vurdering av hvilke sikkerhetstiltak som er nødvendige, kan endre seg etter hvert som vi får mer kunnskap om risikoene.

Som vi har beskrevet,⁠ har vi nylig oppdatert våre standarder for overvåking, samordning og sikkerhet. Her viser vi hvordan de nylige restriksjonene har påvirket ett aspekt av forskningsvirksomheten.

Den 20. juli, etter at vi oppdaget at agenter hadde kompromittert vår forskningsinfrastruktur, stengte vi midlertidig ned containertjenesten som ble brukt til opplæring, og gjenopprettet den deretter med betydelige tilleggsrestriksjoner.

Dette førte til en kraftig nedgang i databehandlingskapasiteten knyttet til RL-trening, mens teamene omorganiserte arbeidsflytene sine for å kunne operere innenfor det strengt regulerte forskningsmiljøet. Diagrammet ovenfor viser den to uker lange pausen i forsterkningslæring på våre nyeste modeller som er planlagt tatt i bruk. RL-eksperimentene i Astra-klassen mellom 20. juli og 6. august omfatter en majoritet av kjøringene (målt etter GPU-tildeling) som er ment å teste implementeringen av forbedringer innen sikkerhet og beskyttelse.

Den 7. august førte foreløpige bevis på at Astra kan ha kritiske cyberkapabiliteter⁠ i henhold til vårt Preparedness Framework⁠(åpnes i et nytt vindu) til ytterligere modellspesifikke sikkerhetsbegrensninger som krevde at Astra-modellen ble kjørt i forskningsmiljøer med høyere sikkerhet. I uken etter falt GPU-allokeringen til Astra-klassen med ytterligere 59,2 %, mens allokeringen til andre modellklasser økte med 17,2 %. Denne økningen oppveide om lag 85 prosent av nedgangen i Astra-klassen, slik at den samlede tildelingen i de analyserte RL-arbeidsbelastningene i stor grad forble uendret. Dette mønsteret stemmer overens med at en del opplæring og eksperimentering ble flyttet over til modeller utenfor Astra-systemet mens arbeidet knyttet til Astra ble begrenset, og samsvarer med anekdotiske rapporter om at forskere fant andre bruksområder for datakraft som ikke lenger kunne utnyttes til arbeidsbelastninger som omfattes av de nye begrensningene.

Disse dataene gir et nyttig innspill til den pågående debatten om opplæring og sikkerhet: Når nye kontrolltiltak innføres, forblir databehandling verdifullt og fleksibelt, og vil naturlig nok bli kanalisert inn i alternative bruksområder innen forskningssektoren. På lengre sikt bør diskusjonene om tempoet i utviklingen av KI også omfatte spørsmålet om hvordan datakraft som er underlagt nye eller foreslåtte reguleringer, best kan utnyttes.

Det er viktig for vårt oppdrag å oppnå og forstå fremgangen mot et samordnet RSI. Vi vil fortsette å videreutvikle metodene våre, rapportere om vår stadig økende forståelse og arbeide for en kunnskapsbasert offentlig debatt og en meningsfull demokratisk styring av banebrytende systemer.

Agentdrevet KI-forskning er fortsatt i sin spede begynnelse, og vi er fortsatt i ferd med å lære hvordan vi skal måle den. Noen indikatorer, som for eksempel mengden kode som våre forskningsteam produserer, er relativt enkle å innhente, men vanskelige å tolke fordi det er usikkert hvordan de henger sammen med fremdriften i forskningen. Måleparametere som retter seg mer direkte mot fremdriften i forskningen, for eksempel hvor ofte agentene lykkes med oppgavene forskerne gir dem, kan være mer nyttige, men det er komplisert å utvikle og validere dem. For å komplisere saken ytterligere, utvikler verktøyene og systemene, som forskerne er avhengige av, seg raskt. Å utdype vår forståelse av hvordan man kan fremskynde forskning er et viktig satsningsområde i hele OpenAI.

I disse analysene gjelder følgende, med mindre annet er angitt:

• «Forsker» er et bredt begrep som omfatter alle medlemmer av vår forskningsorganisasjon, inkludert de som bygger ut forskningsinfrastruktur, leder forskningsprosjekter eller på annen måte støtter virksomheten.

• Statistikkene over bruken av kodingsagenter dekker det meste, men ikke alt, av bruken, på grunn av den raske utviklingen i verktøyene og systemene som forskerne benytter seg av.