Ubrzanje istraživanja: pogled u OpenAI

Vjerujemo da AGI, kako bi koristio cijelom čovječanstvu, mora biti demokratski upravljan. To se može dogoditi samo putem informisane javne rasprave o mogućnostima, rizicima i zaštitnim mjerama za sisteme vještačke inteligencije visokih sposobnosti. Ljudi svuda trebaju razumjeti vjerovatnu buduću putanju graničnog AI-ja kako bi imali stvaran glas u njegovom razvoju.

Transparentnost u pogledu konkretnih rizika, incidenata i zaštitnih mjera je neophodna, ali nije dovoljna. Vjerujemo da javnost također treba razumjeti kako se razvijaju najsposobniji sistemi i kako, unutar graničnih laboratorija, pokreću napredak istraživanja.

Cilj nam je sigurno izgraditi automatizovanog AI istraživača koji može raditi pod ljudskim nadzorom kako bi dodatno unaprijedio duboko učenje i usklađivanje, omogućavajući iterativna poboljšanja. Prema našim mjerenjima, sada smo dostigli cilj, najavljen⁠(otvara se u novom prozoru) prošle jeseni, da do septembra ove godine imamo automatizovanog istraživačkog pripravnika. Pod „istraživačkim pripravnikom” podrazumijevamo sistem koji može izvršavati jasno definirane istraživačke zadatke uz ljudsko usmjeravanje, uključujući zadatke za čije bi obavljanje vještom istraživaču bilo potrebno nekoliko dana. Ostvarujemo značajan napredak ka stvaranju automatizovanog AI istraživača do marta 2028.

Tokom ove godine svakodnevni rad istraživača u OpenAI-ju značajno se promijenio. Istraživači koriste agente za kodiranje tokom cijelog dana (često u istovremenim sesijama), a ukupna upotreba brzo raste, nadmašujući rast u drugim timovima OpenAI-ja. Istraživači brže doprinose kodu i provode više eksperimenata. Načini na koje istraživači koriste agente također se mijenjaju: agenti obavljaju sve složenije zadatke i sve češće u tome uspijevaju. Istraživanje vještačke inteligencije složen je proces sa mnogim potencijalnim uskim grlima, pa ukupni tempo napretka vjerovatno neće držati korak s ovim konkretnim metrikama. Ali u cjelini, ovi nalazi su u skladu sa širim utiskom koji mnogi od nas interno imaju, a to je da agentski alati osjetno ubrzavaju napredak istraživanja. Ljudi i dalje postavljaju naše istraživačke prioritete, procjenjuju koje ideje i rezultate treba dalje razvijati te odlučuju da li sisteme treba skalirati, pauzirati ili pustiti u rad.

Ako se provodi odgovorno, vjerujemo da će automatizirano istraživanje UI-ja rezultirati modelima koji direktno unapređuju dobrobit ljudi i unaprijede misiju OpenAI-a. Može smanjiti troškove napredne inteligencije kako bi ljudi širom svijeta imali koristi. Ovim radom se bavimo dijelom zato što bi automatizirano istraživanje moglo pomoći da riješimo problem usklađivanja i izgradimo odbrambene mehanizme protiv sve sposobnije vještačke inteligencije. Automatizirani istraživač vještačke inteligencije može također biti automatizirani istraživač sigurnosti ili usklađivanja. Sposobniji, usklađeni sistemi mogli bi pomoći u osiguravanju kritične infrastrukture, odbrani od opasnih agenata vještačke inteligencije i razvoju novih zaštitnih mjera.

Ovo su razlozi za razvoj korisnih automatiziranih istraživačkih sposobnosti, ali oni ne znače da je brzi RSI nužno ishod čijem bismo ostvarenju trebali težiti. Odluka o tome da li i kako nastaviti mora zavisiti od naše sposobnosti da očuvamo ljudsku kontrolu i od informiranih demokratskih odluka o koristima i rizicima.

Još ne znamo kako sigurno stići sve do usklađenog, potpunog RSI-ja. Radimo na tome da mjere usklađenosti i sigurnosti skaliramo uporedo sa sposobnostima. Međutim, ne možemo pretpostaviti da će napredak u usklađivanju i sigurnosti držati korak, a sposobnije sisteme može biti teže nadzirati. Pažljiv rad na usklađivanju i sigurnosti ključan je za ovaj napor, a počinje mjerenjem i ublažavanjem sigurnosnih problema koje danas vidimo u sistemima za kodiranje s agentima. Kad god utvrdimo da bi nastavak predstavljao neprihvatljiv sigurnosni rizik, odgovorit ćemo na odgovarajući način, uključujući usporavanje ili zaustavljanje razvoja ili uvođenja sistema za koje utvrdimo da ih ne možemo dovoljno zaštititi.

Nakon nedavnog incidenta sa platformom Hugging Face, ovu obavezu smo sproveli u djelo⁠ tako što smo obustavili obuku uz učenje sa potkrepljivanjem (RL) naših najnovijih modela namijenjenih primjeni, dok smo dodatno ojačavali i provodili simulirane napade na naša istraživačka okruženja te proširivali obuhvat sistema za praćenje. To nije zaustavilo sva istraživanja: neka radna opterećenja nastavljena su pod strožijim kontrolama, dok su druga ostala obustavljena. Podigli smo naše standarde sigurnosti i usklađivanja te rad na sigurnosti pomjerili dublje u životni ciklus modela, zahtijevajući snažnije dokaze o usklađenom ponašanju tokom cijele obuke.

Danas pružamo detaljan pregled toga kako su agentski sistemi u proteklim mjesecima doprinijeli našem napretku ka RSI–ju. Agentni sistemi su novi i brzo se mijenjaju, a naši napori u mjerenju još uvijek su preliminarni. Dijeljenjem ovih preliminarnih rezultata i metoda na kojima se zasnivaju, nastojimo informisati javnost, potaknuti normu javnog objavljivanja i pomoći da se ova oblast približi zajedničkim standardima mjerenja.

U konačnici, kako smo napisali u našem planu politike za graničnu vještačku inteligenciju⁠, vjerujemo da bismo mi i druge kompanije trebali biti obavezni da javno pratimo naš napredak prema RSI-ju. Čak i bez takvog zahtjeva, planiramo nastaviti biti transparentni u vezi sa našim napretkom u pogledu RSI-ja. Razvijat ćemo naš pristup transparentnosti kako se naše tehnike mjerenja i razumijevanje budu poboljšavali, istovremeno uravnotežujući potrebu za zaštitom sigurnosti i vlasničkih informacija.

Početkom ove godine, istraživač sa medijalnom upotrebom agenata u OpenAI-ju koristio je agente za kodiranje samo u skromnoj mjeri. Do sredine augusta, istraživač sa medijalnom upotrebom svakodnevno je integrirao agente u svoj rad, koristeći inferenciju u vrijednosti većoj od 600 USD dnevno po cijenama API-ja. Korisnik u 90. percentilu u našoj istraživačkoj organizaciji sada koristi tokene u vrijednosti većoj od 7.000 USD dnevno.

Prije juna 2026., ukupno vrijeme rada agenata u cijeloj istraživačkoj organizaciji i dalje je bilo manje od ukupnog ljudskog rada. To se od tada promijenilo. U odnosu na standardni osmosatni radni dan, od sredine augusta istraživačka organizacija ukupno koristi 3,1 radnog dana rada agenata za svaki radni dan ljudskog rada.

Drugi način da se ovo sagleda jeste razumjeti koliko istraživača koristi tokove rada sa visokim stepenom istovremenosti (npr. pokretanje 4 ili više agenata istovremeno). Kao što je prikazano u nastavku, ovaj broj se povećava. Ove brojke uključuju dnevne vršne vrijednosti kako agenata koje je korisnik direktno pokrenuo, tako i podagenata kreiranih dalje u lancu od onih koje je korisnik direktno pokrenuo.

Velik dio istraživanja AI-ja može se posmatrati kao radno intenzivan proces čiji je cilj integrirati novo poboljšanje inteligencije ili performansi modela u jedan od naših osnovnih modela. Proces zavisi od mnogo koraka, a sposobnosti napreduju kada svi koraci zajedno uspiju: istraživači moraju osmisliti nova poboljšanja, napisati evaluacije za procjenu performansi modela, razviti infrastrukturu za testiranje tih poboljšanja u velikom obimu, otkriti greške te nesigurno ili neusklađeno ponašanje tokom treniranja i integrirati uspješne ideje u osnovno treniranje. Neuspjeh u bilo kojem dijelu istraživačkog procesa može ograničiti cijelu petlju.

Pisanje koda i provođenje eksperimenata dvije su glavne aktivnosti koje istraživači obavljaju u okviru svog rada, a vidimo dokaze da se ti procesi ubrzavaju.

Ove podatkovne tačke relativno je lako izmjeriti, ali ih može biti teško protumačiti. Kako automatizacija bude napredovala, zadaci koje je najmanje moguće automatizirati činit će veći udio napora istraživača i postat će važna uska grla za budući napredak. Računarska snaga je još jedan ograničavajući faktor napretka i sa vremenom može postati važnija kako se druga uska grla smanjuju.

Tokom 2026. broj eksperimenata po aktivnom eksperimentatoru povećao se, a august 2026. bio je rekordni mjesec otkako je praćenje počelo u januaru 2025. To je povezano sa većim usvajanjem Codex, iako napominjemo da su naši dostupni računarski kapaciteti također značajno porasli od 2025.

I kvalitativni utisci i interni podaci ukazuju na to da se kombinacija zadataka koje istraživači delegiraju agentima za kodiranje mijenja, pri čemu delegiranje zadataka višeg nivoa i sa dužim vremenskim okvirom sa vremenom postaje sve češće.

Da bismo dobili jasniju sliku o ovom trendu, analizirali smo nedavnu upotrebu u istraživačkoj organizaciji koristeći nedavno objavljenu taksonomiju⁠(otvara se u novom prozoru) različitih vrsta rada koje su dio životnog ciklusa istraživanja i razvoja vještačke inteligencije, koju je razvio Epoch AI. Ova taksonomija, inspirisana dugogodišnjim sistemom O*NET za klasifikaciju svih vrsta rada, posebno je prilagođena istraživanju i razvoju granične vještačke inteligencije i raščlanjuje proces na šest glavnih faza:

1. Odluči: na čemu raditi, šta nastaviti, gdje rasporediti

2. Dizajn: istraživačke ideje i inženjerske specifikacije

3. Izgradite: kod i skupove podataka

4. Pokretanje: pokretanja obuke/evaluacije, hardver, posluživanje

5. Analiziraj: eksperimente, modele, implementaciju, vanjski rad

6. Komuniciraj: nalaze, povratne informacije, status, odluke

U nastavku klasificiramo tokene agenata za programiranje prema ovoj taksonomiji.

Vidimo da su sve kategorije istraživačkih aktivnosti zabilježile porast u periodu od januara do augusta 2026. godine. U januaru je dominantna kategorija bila istraživački i infrastrukturni kod. Ova kategorija se proširila, ali također uočavamo značajna povećanja u dodatnim kategorijama, posebno u tehničkoj pomoći i izvršavanjima monitoringa. Planiranje na Visoka nivou i dalje čini minimalan udio izlaznih tokena agenata.

Prema anegdotalnim izvještajima, kolege navode da agenti za kodiranje izvrsno otklanjaju probleme u internoj istraživačkoj infrastrukturi, čime se rješava jedno značajno usko grlo u napretku istraživanja. Više timova koji su ranije održavali konsultativne termine kako bi pomogli istraživačima da otklanjaju probleme u svojim eksperimentima zabilježilo je pad posjećenosti u 2026. godini, a jedan od njih je u potpunosti prestao održavati sesije kako bi se umjesto toga fokusirao na druga poboljšanja sistema.

Ovdje prikazujemo broj objava najvišeg nivoa po danu na jednom od glavnih internih kanala na kojem istraživači traže tehničku podršku od drugih timova. Koliko nam je poznato, smanjenje aktivnosti na tom kanalu nije nadoknađeno preusmjeravanjem upita na drugi kanal tehničke podrške kojim upravljaju ljudi. Pad saobraćaja u skladu je s ovim širim pomakom.

Također možemo proučavati da li agenti za programiranje uspješno izvršavaju zadatke koje istraživači zatraže. Koristeći agentski klasifikator, utvrdili smo da su se od januara do jula stope uspješnosti generalno povećale u nekoliko kategorija težine (aproksimiranih kao procijenjeno vrijeme koje bi čovjeku bilo potrebno da dovrši zadatak) za zadatke za koje možemo pronaći referentni ishod. Međutim, agenti i dalje zahtijevaju značajno ljudsko usmjeravanje kako bi bili uspješni, posebno kako raste složenost zadataka. U posljednjih 6 mjeseci, više od polovine uspješnih zadataka u trajanju od 4 do 8 sati uključivalo je jednu ili više intervencija.

Napredak prema sposobnijim sistemima za siguran i koristan AGI ovisit će i o zaštitnim mjerama potrebnim za takav rad. Naša procjena potrebnih zaštitnih mjera može se promijeniti kako budemo saznavali više o rizicima.

Kao što smo opisali,⁠ nedavno smo ažurirali naše standarde za praćenje, usklađivanje i sigurnost. Ovdje pokazujemo kako su nedavna ograničenja utjecala na jedan aspekt istraživačke aktivnosti.

Dana 20. jula, nakon otkrića da su agenti kompromitirali našu istraživačku infrastrukturu, privremeno smo isključili kontejnersku uslugu korištenu za treniranje, a zatim je obnovili uz značajna dodatna ograničenja.

To je dovelo do naglog pada računarskih resursa za RL obuku dok su timovi rekonfigurisali svoje tokove rada kako bi radili unutar sigurnosno ojačanog istraživačkog okruženja. Grafikon iznad uključuje dvosedmičnu pauzu u učenju sa potkrepljivanjem na našim najnovijim modelima namijenjenim za primjenu. RL eksperimenti klase Astra između 20. jula i 6. augusta uključuju većinu pokretanja (prema dodjeli GPU resursa) namijenjenih testiranju implementacije poboljšanja sigurnosti i zaštite.

Dana 7. augusta preliminarni dokazi da Astra možda ima kritične kibernetičke sposobnosti⁠ prema našem Okviru pripravnosti⁠(otvara se u novom prozoru) doveli su do dodatnih sigurnosnih ograničenja specifičnih za model, koja su zahtijevala da se model Astra pokreće u istraživačkim okruženjima sa višim nivoom sigurnosti. U narednoj sedmici dodjela GPU-a modelima klase Astra dodatno je pala za 59,2 posto, ali je dodjela drugim klasama modela porasla za 17,2 posto. To povećanje je kompenziralo oko 85 posto pada dodjele za klasu Astra, pa je ukupna alokacija u analiziranim RL radnim opterećenjima ostala uglavnom nepromijenjena. Ovaj obrazac u skladu je sa preusmjeravanjem dijela obuke i eksperimentiranja na modele koji nisu Astra dok je rad koji uključuje Astru bio ograničen, a podudara se i s anegdotalnim izvještajima istraživača koji su pronašli druge načine korištenja računalnih resursa koji se više nisu mogli koristiti za radna opterećenja obuhvaćena novim ograničenjima.

Ovi podaci pružaju koristan pokazatelj za tekuće razgovore o obuci i sigurnosti: kada se uvedu nove kontrolne mjere, računarski resursi ostaju vrijedni i fleksibilni te će prirodno biti usmjereni u alternativne namjene u okviru istraživačkog rada. Dugoročno, rasprave o tempu napretka AI-ja trebale bi se proširiti i na pitanje kako se računarski kapaciteti koji podliježu novim ili predloženim kontrolama mogu se najbolje iskoristiti.

Ostvarivanje i razumijevanje napretka prema usklađenom RSI–ju važno je za našu misiju. Nastavit ćemo usavršavati naše metode, izvještavati o našem razumijevanju koje se razvija i raditi na dobro informisanoj javnoj raspravi i smislenom demokratskom upravljanju graničnim sistemima.

UI istraživanje pokretano agentima još je novo, a još uvijek učimo kako ga mjeriti. Neke pokazatelje, kao što je količina koda koju naši istraživački timovi generišu, relativno je lako prikupiti, ali ih je teško tumačiti jer je njihova povezanost sa napretkom istraživanja neizvjesna. Metrike koje su direktnije usmjerene na napredak istraživanja—kao što je učestalost uspjeha agenata u obavljanju zadataka koje im istraživači zadaju—mogle bi biti korisnije, ali ih je složeno razviti i validirati. Situaciju dodatno usložnjava činjenica da se alati i sistemi na koje se istraživači oslanjaju brzo razvijaju. Produbljivanje našeg razumijevanja ubrzanja istraživanja važan je fokus u cijelom OpenAI-u.

U svim ovim analizama, osim ako nije drugačije navedeno:

• „Istraživač” je širok pojam za svakog člana naše istraživačke organizacije, uključujući i one koji izgrađuju istraživačku infrastrukturu, upravljaju istraživačkim projektima ili na drugi način podržavaju istraživački poduhvat.

• Metrike upotrebe agenta za kodiranje obuhvataju većinu, ali ne i svu upotrebu, s obzirom na brzu evoluciju alata i sistema na koje se istraživači oslanjaju.