Ubrzanje istraživanja: pogled u OpenAI

Vjerujemo da općom umjetnom inteligencijom (AGI), kako bi bila na korist cijelom čovječanstvu, mora upravljati demokratski. To je moguće samo putem informirane javne rasprave o mogućnostima, rizicima i zaštitnim mjerama vrlo naprednih sustava umjetne inteligencije. Ljudi posvuda trebaju razumjeti vjerojatan budući smjer razvoja granične umjetne inteligencije kako bi mogli imati važnu riječ u tome kako će se razvijati.

Transparentnost u pogledu konkretnih rizika, incidenata i zaštitnih mjera nužna je, ali nije dovoljna. Smatramo da javnost također treba razumjeti kako se razvijaju najsposobniji sustavi i kako unutar graničnih laboratorija potiču napredak u istraživanju.

Cilj nam je sigurno izgraditi automatiziranog istraživača AI-ja koji može raditi pod ljudskim nadzorom kako bismo dodatno napredovali u dubinskom učenju i usklađivanju te omogućili postupna poboljšanja. Prema našim mjerenjima, sada smo ostvarili cilj, najavljen⁠(otvara se u novom prozoru) prošle jeseni, da do rujna ove godine imamo automatiziranog istraživačkog pripravnika. Pod „istraživačkim pripravnikom” mislimo na sustav koji može obavljati jasno definirane istraživačke zadatke pod ljudskim vodstvom, uključujući zadatke za koje bi vještom istraživaču trebalo nekoliko dana. Ostvarujemo snažan napredak prema stvaranju automatiziranog istraživača AI-ja do ožujka 2028.

Tijekom ove godine svakodnevni rad istraživača u OpenAI-ju znatno se promijenio. Istraživači tijekom dana upotrebljavaju agente za programiranje, često u istodobnim sesijama, a ukupna upotreba brzo raste i nadmašuje rast u drugim timovima OpenAI-ja. Istraživači brže doprinose kodu i provode više eksperimenata. Načini na koje istraživači upotrebljavaju agente također se mijenjaju: agenti obavljaju sve složenije zadatke i u tome sve češće uspijevaju. Istraživanje umjetne inteligencije složen je proces s mnogim potencijalnim uskim grlima, stoga ukupni tempo napretka vjerojatno neće držati korak s tim specifičnim metrikama. No, u cjelini, ovi su nalazi u skladu sa širim dojmom koji mnogi od nas imaju interno, a to je da agentski alati značajno ubrzavaju napredak istraživanja. Ljudi i dalje određuju naše istraživačke prioritete, procjenjuju kojim se idejama i rezultatima treba dalje baviti te odlučuju hoće li sustave skalirati, pauzirati ili uvesti.

Ako se provodi odgovorno, vjerujemo da će automatizirano istraživanje uz pomoć AI-ja rezultirati modelima koji izravno unapređuju dobrobit ljudi i misiju OpenAI-ja. Može smanjiti trošak napredne inteligencije kako bi ljudi diljem svijeta mogli imati koristi. Ovim se radom djelomično bavimo zato što bi nam automatizirano istraživanje moglo pomoći riješiti problem usklađivanja i razviti obrambene mehanizme protiv sve sposobnije umjetne inteligencije. Automatizirani istraživač umjetne inteligencije može ujedno biti i automatizirani istraživač sigurnosti ili usklađivanja. Sposobniji, usklađeni sustavi mogli bi pomoći u zaštiti kritične infrastrukture, obrani od opasnih agenata umjetne inteligencije i razvoju novih zaštitnih mjera.

To su razlozi za razvoj korisnih automatiziranih istraživačkih sposobnosti, ali ne znače da je brzi RSI nužno ishod kojem bismo trebali težiti. Hoćemo li i kako nastaviti mora ovisiti o našoj sposobnosti da očuvamo ljudsku kontrolu te o informiranim demokratskim odlukama o koristima i rizicima.

Još ne znamo kako sigurno u potpunosti postići usklađeni RSI. Radimo na tome da proširimo mjere usklađenosti i sigurnosti usporedno sa sposobnostima. No ne možemo pretpostaviti da će napredak u usklađenosti i sigurnosti držati korak, a sposobnije sustave može biti teže nadzirati. Pažljiv rad na usklađivanju i sigurnosti u središtu je ovih napora, a počinje mjerenjem i ublažavanjem sigurnosnih problema koje danas vidimo u sustavima za kodiranje uz pomoć AI agenta. Kad god utvrdimo da bi nastavak predstavljao neprihvatljiv sigurnosni rizik, reagirat ćemo na odgovarajući način, među ostalim usporavanjem ili zaustavljanjem našeg razvoja ili uvođenja sustava za koje utvrdimo da ih ne možemo dovoljno zaštititi.

Nakon nedavnog incidenta s Hugging Faceom, tu smo obvezu proveli u djelo⁠ tako što smo privremeno obustavili obuku učenja s potkrepljivanjem (RL) naših najnovijih modela namijenjenih primjeni, dok smo dodatno jačali sigurnost svojih istraživačkih okruženja, testirali ih simuliranim napadima i proširivali obuhvat svojih sustava za nadzor. To nije zaustavilo sva istraživanja: neka su radna opterećenja ponovno pokrenuta uz strože kontrole, dok su druga ostala obustavljena. Podigli smo standarde sigurnosti i usklađenosti te dublje integrirali rad na sigurnosti u životni ciklus modela, zahtijevajući snažnije dokaze o usklađenom ponašanju tijekom cijelog procesa obuke.

Danas pružamo detaljan pregled doprinosa sustava koji koriste agente našem napretku prema rekurzivnom samopoboljšanju (RSI) u posljednjih nekoliko mjeseci. Agentski sustavi novi su i brzo se mijenjaju, a naši napori u njihovu mjerenju još su uvijek preliminarni. Dijeljenjem ovih preliminarnih rezultata i metoda na kojima se temelje nastojimo informirati javnost, potaknuti normu javnog objavljivanja i pomoći području da se približi zajedničkim standardima mjerenja.

U konačnici, kako smo napisali u našem nacrtu frontier politike⁠, vjerujemo da bismo mi i druge tvrtke trebali biti obvezni javno pratiti svoj napredak prema RSI-ju. Čak i bez takvog zahtjeva, planiramo nastaviti biti transparentni u pogledu našeg napretka u vezi s RSI-jem. Unaprjeđivat ćemo naš pristup transparentnosti kako se budu poboljšavale naše tehnike mjerenja i produbljivalo naše razumijevanje, pritom vodeći računa o potrebi zaštite sigurnosti i vlasničkih informacija.

Početkom ove godine, medijan istraživača rangiranog prema korištenju agenata u OpenAI-ju koristio je agente za kodiranje samo u umjerenim količinama. Do sredine kolovoza medijalni istraživač svakodnevno je integrirao agente u svoj rad, trošeći više od 600 USD dnevno na inferenciju po cijenama API-ja. Korisnik u 90. percentilu u našoj istraživačkoj organizaciji sada dnevno koristi tokene u vrijednosti većoj od 7 000 USD.

Prije lipnja 2026. ukupno vrijeme rada agenata u istraživačkoj organizaciji i dalje je bilo kraće od ukupnog vremena ljudskog rada. To se od tada promijenilo. Izraženo standardnim osmosatnim radnim danom, istraživačka organizacija od sredine kolovoza ukupno koristi 3,1 radnog dana rada agenata za svaki radni dan ljudskog rada.

Drugi način sagledavanja ovoga jest utvrditi koliko istraživača upotrebljava tijekove rada s visokom razinom istodobnosti (npr. istodobno pokrećući 4 ili više agenata). Kao što je prikazano u nastavku, taj se broj povećava. Ove brojke uključuju dnevne vršne vrijednosti agenata koje je korisnik izravno pokrenuo i podagenata stvorenih dalje u lancu od onih koje je korisnik izravno pokrenuo.

Velik dio istraživanja umjetne inteligencije može se smatrati procesom koji zahtijeva mnogo rada, s ciljem integriranja novog poboljšanja inteligencije ili performansi modela u jedan od naših osnovnih modela. Proces ovisi o mnogim koracima, a sposobnosti napreduju kada svi koraci uspješno djeluju zajedno: istraživači moraju osmisliti nova poboljšanja, izraditi evaluacije za procjenu performansi modela, razviti infrastrukturu za testiranje tih poboljšanja u velikom opsegu, tijekom treniranja otkriti pogreške te nesigurno ili neusklađeno ponašanje i integrirati uspješne ideje u temeljno treniranje. Neuspjeh u bilo kojem dijelu istraživačkog procesa može ograničiti cijelu petlju.

Pisanje koda i provođenje eksperimenata dvije su glavne aktivnosti koje istraživači obavljaju u sklopu svojeg rada, a vidimo dokaze da se ti procesi ubrzavaju.

Ove je podatkovne točke relativno lako izmjeriti, ali ih može biti teško protumačiti. Kako automatizacija napreduje, zadaci koje je najteže automatizirati preuzimat će sve veći udio istraživačkog rada i postat će važna uska grla za budući napredak. Računalna snaga još je jedan ograničavajući čimbenik za napredak i s vremenom bi mogla postati važnija kako se druga uska grla smanjuju.

Tijekom 2026. broj eksperimenata po aktivnom eksperimentatoru povećao se, pri čemu je kolovoz 2026. dosegnuo najvišu zabilježenu vrijednost otkako je praćenje započelo u siječnju 2025. To je povezano s većim prihvaćanjem Codexa, iako napominjemo da su naši dostupni računalni kapaciteti također znatno porasli od 2025.

I kvalitativni dojmovi i interni podaci upućuju na to da se mijenja kombinacija zadataka koje istraživači delegiraju agentima za programiranje, pri čemu delegiranje zadataka visoke razine i zadataka s duljim vremenskim horizontom s vremenom postaje sve češće.

Kako bismo dobili jasniju sliku ovog trenda, analizirali smo nedavnu upotrebu u istraživačkoj organizaciji koristeći nedavno objavljenu taksonomiju⁠(otvara se u novom prozoru) različitih vrsta poslova koji su dio životnog ciklusa istraživanja i razvoja umjetne inteligencije, a koju je razvio Epoch AI. Ta je taksonomija, nadahnuta dugogodišnjim sustavom O*NET za klasifikaciju svih vrsta rada, posebno prilagođena istraživanju i razvoju granične umjetne inteligencije te dijeli proces na šest glavnih faza:

1. Odlučite: na čemu raditi, što nastaviti, gdje rasporediti

2. Dizajn: istraživačke ideje i tehničke specifikacije

3. Izgradnja: kȏd i skupovi podataka

4. Pokretanje: pokretanja treninga/evaluacija, hardver, posluživanje

5. Analizirajte: eksperimente, modele, uvođenje, vanjski rad

6. Komunicirajte: nalaze, povratne informacije, status, odluke

U nastavku klasificiramo tokene agenta za kodiranje prema ovoj taksonomiji.

Vidimo da su se sve kategorije istraživačkih aktivnosti povećale od siječnja do kolovoza 2026. U siječnju je dominantna kategorija bila istraživački i infrastrukturni kod. Ova se kategorija proširila, ali bilježimo i značajna povećanja u dodatnim kategorijama, osobito u tehničkoj pomoći i izvođenjima nadzora. Planiranje na visokoj razini i dalje čini tek neznatan udio izlaznih tokena agenta.

Prema anegdotalnim izvješćima, kolege navode da se agenti za kodiranje ističu u otklanjanju problema s internom istraživačkom infrastrukturom, čime se rješava jedno značajno usko grlo za napredak u istraživanju. Više timova koji su prethodno održavali termine za konzultacije kako bi pomogli istraživačima otklanjati poteškoće u eksperimentima zabilježilo je pad posjećenosti u 2026., a jedan je tim u potpunosti prestao održavati termine kako bi se umjesto toga usredotočio na druga poboljšanja sustava.

Ovdje prikazujemo broj objava na najvišoj razini po danu na jednom od glavnih internih kanala na kojima istraživači traže tehničku podršku od drugih timova. Prema našim saznanjima, smanjenje aktivnosti kanala nije nadoknađeno preusmjeravanjem upita na drugi kanal tehničke podrške kojim upravljaju ljudi. Pad prometa u skladu je s ovom širom promjenom.

Također možemo proučiti uspijevaju li agenti za kodiranje u zadacima koje istraživači zatraže. Koristeći agentski klasifikator, utvrdili smo da su se od siječnja do srpnja stope uspješnosti općenito povećale u nekoliko skupina težine zadataka (aproksimiranih procijenjenim vremenom koje bi čovjeku trebalo za dovršetak zadatka) za zadatke za koje možemo pronaći referentni ishod. Međutim, agenti i dalje zahtijevaju značajno ljudsko usmjeravanje kako bi bili uspješni, osobito kako složenost zadataka raste. U posljednjih 6 mjeseci, više od polovice uspješnih zadataka u trajanju od 4 do 8 sati uključivalo je jednu ili više intervencija.

Napredak prema sposobnijim sustavima za sigurnu i korisnu AGI ovisit će i o zaštitnim mjerama potrebnima za takav rad. Naša procjena potrebnih zaštitnih mjera može se promijeniti kako budemo saznavali više o rizicima.

Kako smo opisali,⁠ nedavno smo ažurirali naše standarde za nadzor, usklađenost i sigurnost. Ovdje pokazujemo kako su nedavna ograničenja utjecala na jedan aspekt istraživačke aktivnosti.

Dana 20. srpnja, nakon što smo otkrili da su agenti kompromitirali našu istraživačku infrastrukturu, privremeno smo ugasili uslugu kontejnera koja se koristila za obuku, a zatim je ponovno uspostavili uz znatna dodatna ograničenja.

To je dovelo do naglog smanjenja računalnih resursa za RL obuku dok su timovi prilagođavali svoje radne procese kako bi radili u დამატno osiguranom istraživačkom okruženju. Gornji grafikon uključuje dvotjednu stanku u učenju s potkrepljivanjem (RL) na našim najnovijim modelima namijenjenima primjeni. RL eksperimenti klase Astra od 20. srpnja do 6. kolovoza obuhvaćaju većinu izvođenja (prema dodijeljenim GPU resursima) namijenjenih testiranju implementacije poboljšanja u području sigurnosti i zaštite.

Dana 7. kolovoza preliminarni dokazi da Astra možda ima kritične kibernetičke sposobnosti⁠ u okviru našeg Okvira pripravnosti⁠(otvara se u novom prozoru) doveli su do dodatnih sigurnosnih ograničenja specifičnih za model, koja su zahtijevala da se model Astra pokreće u istraživačkim okruženjima s višom razinom sigurnosti. U sljedećem tjednu dodjela GPU resursa modelima klase Astra dodatno je pala za 59,2 posto, ali dodjela drugim klasama modela porasla je za 17,2 posto. To je povećanje kompenziralo oko 85 posto pada dodjele modelima klase Astra, pa je ukupna alokacija u analiziranim RL radnim opterećenjima ostala uglavnom nepromijenjena. Taj je obrazac u skladu s preusmjeravanjem dijela obuke i eksperimentiranja na modele koji nisu Astra dok je rad koji uključuje Astru bio ograničen te se podudara s anegdotalnim izvješćima istraživača koji su pronašli druge načine upotrebe računalnih resursa koji se više nisu mogli upotrebljavati za radna opterećenja obuhvaćena novim ograničenjima.

Ovi podaci pružaju koristan signal za tekuće rasprave o obuci i sigurnosti: kada se uvedu nove kontrole, računalni kapaciteti ostaju vrijedni i fleksibilni te će se prirodno usmjeriti na alternativne primjene u okviru istraživačke djelatnosti. Dugoročno, rasprave o tempu napretka umjetne inteligencije trebale bi se proširiti i na pitanje kako se računalna snaga koja podliježe novim ili predloženim kontrolama može najbolje iskoristiti.

Ostvarivanje i razumijevanje napretka prema usklađenom RSI-ju važno je za našu misiju. Nastavit ćemo usavršavati naše metode, izvještavati o tome kako se naše razumijevanje razvija te raditi na informiranoj javnoj raspravi i smislenom demokratskom upravljanju graničnim sustavima.

Istraživanje AI-ja uz pomoć agenata još je novo i još učimo kako ga mjeriti. Neke je pokazatelje, poput količine koda koju generiraju naši istraživački timovi, relativno lako prikupiti, ali teško protumačiti jer je njihova povezanost s napretkom istraživanja neizvjesna. Metrike koje se izravnije usredotočuju na napredak istraživanja – primjerice, koliko često agenti uspijevaju u zadacima koje im zadaju istraživači – mogle bi biti korisnije, ali ih je složeno razviti i validirati. Situaciju dodatno otežava činjenica da se alati i sustavi na koje se istraživači oslanjaju brzo razvijaju. Produbljivanje našeg razumijevanja ubrzavanja istraživanja značajno je područje fokusa u cijelom OpenAI-ju.

U svim ovim analizama, osim ako nije drugačije navedeno:

• „Istraživač” je širok pojam koji obuhvaća svakog člana naše istraživačke organizacije, uključujući i neke koji izrađuju istraživačku infrastrukturu, upravljaju istraživačkim projektima ili na drugi način podržavaju organizaciju.

• Metrike upotrebe agenata za kodiranje obuhvaćaju većinu upotrebe, ali ne i svu, s obzirom na brz razvoj alata i sustava na koje se istraživači oslanjaju.