Da bi SUI koristila vsemu človeštvu, verjamemo, da mora biti demokratično upravljana. To se lahko zgodi le z informirano javno razpravo o zmogljivostih, tveganjih in varovalnih ukrepih zelo zmogljivih sistemov umetne inteligence. Ljudje po vsem svetu morajo razumeti verjetno prihodnjo smer razvoja prelomne UI, da bodo lahko imeli pomembno besedo pri tem, kako se razvija.
Preglednost glede specifičnih tveganj, incidentov in zaščitnih ukrepov je nujna, vendar ne zadostuje. Menimo, da mora javnost razumeti tudi, kako se razvijajo najzmogljivejši sistemi in kako v prelomnih laboratorijih spodbujajo raziskovalni napredek.
Naš cilj je varno razviti avtomatiziranega raziskovalca z umetno inteligenco, ki lahko deluje pod človeškim nadzorom in prispeva k nadaljnjemu napredku pri globokem učenju in usklajenosti ter omogoča iterativne izboljšave. Po naših meritvah smo zdaj dosegli cilj, ki je bil lani jeseni napovedan(odpre se v novem oknu): da bomo do septembra letos imeli avtomatiziranega raziskovalnega pripravnika. Pod izrazom »raziskovalni pripravnik« imamo v mislih sistem, ki lahko pod človeškim vodstvom izvaja jasno opredeljene raziskovalne naloge, vključno z nalogami, za katere bi usposobljen raziskovalec potreboval nekaj dni. Dobro napredujemo proti cilju, da do marca 2028 ustvarimo avtomatiziranega raziskovalca z umetno inteligenco.
V tem letu se je vsakodnevno delo raziskovalcev OpenAI precej spremenilo. Raziskovalci ves dan uporabljajo agente za kodiranje (pogosto v sočasnih sejah), skupna uporaba pa hitro narašča in prehiteva rast v drugih ekipah OpenAI. Raziskovalci hitreje prispevajo programsko kodo in izvajajo več poskusov. Spreminjajo se tudi načini, kako raziskovalci uporabljajo agente: ti opravljajo vse bolj zapletene naloge in so pri tem vse pogosteje uspešni. Raziskovanje na področju umetne inteligence je zapleten proces s številnimi možnimi ozkimi grli, zato splošna hitrost napredka verjetno ne bo sledila tem specifičnim metrikam. Na splošno pa so te ugotovitve skladne s širšim vtisom, ki ga imamo mnogi znotraj organizacije, da agentska orodja znatno pospešujejo raziskovalni napredek. Ljudje še vedno določajo naše raziskovalne prioritete, presojajo, katere ideje in rezultate naj nadalje razvijamo, ter odločajo, ali naj sisteme razširimo, začasno ustavimo ali uvedemo.
Če se izvajajo odgovorno, verjamemo, da bodo avtomatizirane raziskave UI prinesle modele, ki neposredno izboljšujejo blaginjo ljudi in prispevajo k poslanstvu OpenAI. Zniža lahko stroške napredne inteligence, da bodo lahko od nje imeli koristi ljudje po vsem svetu. Temu delu se deloma posvečamo zato, ker bi nam avtomatizirano raziskovanje lahko pomagalo rešiti problem usklajenosti in razviti obrambne mehanizme pred vse zmogljivejšo umetno inteligenco. Avtomatiziran raziskovalec umetne inteligence je lahko tudi avtomatiziran raziskovalec varnosti ali usklajevanja. Zmogljivejši, usklajeni sistemi bi lahko pomagali pri zaščiti kritične infrastrukture, obrambi pred nevarnimi agenti umetne inteligence in razvoju novih zaščitnih ukrepov.
To so razlogi za razvoj koristnih zmogljivosti avtomatiziranega raziskovanja, vendar ne pomenijo, da je hitro rekurzivno samoizboljševanje (RSI) nujno izid, za katerega bi si morali prizadevati. Odločitev o tem, ali in kako nadaljevati, mora biti odvisna od naše zmožnosti, da ohranimo človeški nadzor, ter od informiranih demokratičnih odločitev o koristih in tveganjih.
Za zdaj še ne vemo, kako varno priti vse do usklajene, polne RSI. Prizadevamo si, da bi ukrepe za usklajenost in varnost širili vzporedno z zmogljivostmi. Vendar ne moremo predpostavljati, da bo napredek pri usklajevanju in varnosti držal korak, zmogljivejše sisteme pa je lahko težje spremljati. Skrbno delo na področju usklajevanja in varnosti je v središču teh prizadevanj ter se začne z merjenjem in blaženjem varnostnih težav, ki jih danes opažamo v sistemih za agentsko kodiranje. Kadar koli ugotovimo, da bi nadaljevanje pomenilo nesprejemljivo varnostno tveganje, se bomo ustrezno odzvali, tudi tako, da bomo upočasnili ali ustavili razvoj ali uvajanje sistemov, za katere ugotovimo, da jih ne moremo dovolj zaščititi.
Po nedavnem incidentu Hugging Face smo to zavezo uresničili ter začasno ustavili usposabljanje z okrepljenim učenjem (RL) naših najnovejših modelov, namenjenih uvedbi, medtem ko smo dodatno varnostno utrdili in preizkusili z rdečo ekipo svoja raziskovalna okolja ter razširili pokritost sistemov spremljanja. To ni zaustavilo vseh raziskav: nekatere delovne obremenitve so se nadaljevale pod strožjimi nadzornimi ukrepi, druge pa so ostale začasno ustavljene. Zvišali smo standarde varnosti in usklajenosti ter delo na področju varnosti vključili globlje v življenjski cikel modela, pri čemer v celotnem usposabljanju zahtevamo trdnejše dokaze o usklajenem vedenju.
Danes podajamo podroben pregled tega, kako so agentski sistemi v zadnjih mesecih prispevali k našemu napredku pri doseganju rekurzivnega samoizboljševanja (RSI). Agentski sistemi so novi in se hitro spreminjajo, naša prizadevanja za merjenje pa so še v začetni fazi. S tem, ko delimo te zgodnje rezultate in metode, na katerih temeljijo, želimo obveščati javnost, spodbujati prakso javnega razkrivanja in področju pomagati pri prehodu na skupne standarde merjenja.
Navsezadnje, kot smo zapisali v našem načrtu politike za prelomno UI, menimo, da bi morali mi in druga podjetja biti zavezani k javnemu spremljanju napredka pri doseganju rekurzivnega samoizboljševanja (RSI). Tudi brez takšne zahteve nameravamo še naprej transparentno poročati o našem napredku na področju rekurzivnega samoizboljševanja (RSI). Svoj pristop k preglednosti bomo razvijali, ko se bodo naše tehnike merjenja in razumevanje izboljševali, ob hkratnem uravnoteženju potrebe po ohranjanju varnosti in zaščiti lastniških informacij.
Na začetku letošnjega leta je raziskovalec, ki je bil v OpenAI po uporabi agentov na mediani lestvice, agente za kodiranje uporabljal le v zmernem obsegu. Do sredine avgusta je raziskovalec na mediani lestvice agente vsakodnevno vključeval v svoje delo in za izvajanje inferenc po cenah API-ja porabil več kot 600 USD na dan. Uporabnik v 90. percentilu v naši raziskovalni organizaciji zdaj za žetone porabi več kot 7000 USD na dan.
Pred junijem 2026 je bil skupni čas delovanja agentov v raziskovalni organizaciji še vedno manjši od skupnega obsega človeškega dela. To se je od takrat spremenilo. Če izrazimo v standardnih 8-urnih delovnikih, raziskovalna organizacija od sredine avgusta skupno porabi 3,1 delovnika dela agentov za vsak delovnik človeškega dela.
Drug način, kako lahko na to pogledamo, je, da razumemo, koliko raziskovalcev uporablja delovne tokove z visoko stopnjo sočasnosti (npr. hkratno izvajanje 4 ali več agentov). Kot je prikazano spodaj, to število narašča. Te številke vključujejo najvišje dnevne vrednosti tako agentov, ki jih je neposredno zagnal uporabnik, kot tudi podagentov, ustvarjenih v nadaljevanju verige iz agentov, ki jih je uporabnik zagnal neposredno.
Velik del raziskav na področju umetne inteligence je mogoče razumeti kot delovno intenziven proces, katerega cilj je v enega od naših osrednjih modelov vključiti novo izboljšavo inteligence ali zmogljivosti modela. Proces je odvisen od številnih korakov, zmogljivosti pa napredujejo, ko vsi koraki uspešno potekajo skupaj: raziskovalci morajo zasnovati nove izboljšave, pripraviti vrednotenja za ocenjevanje zmogljivosti modela, razviti infrastrukturo za preskušanje teh izboljšav v velikem obsegu, med usposabljanjem odkriti napake ter nevarno ali neusklajeno vedenje in uspešne ideje vključiti v osrednji cikel usposabljanja. Neuspeh v katerem koli delu raziskovalnega procesa lahko omeji celotno zanko.
Pisanje kode in izvajanje eksperimentov sta dve glavni dejavnosti, ki ju raziskovalci opravljajo kot del svojega dela, in opažamo dokaze, da se ti procesi pospešujejo.
Te podatkovne točke je razmeroma enostavno izmeriti, vendar jih je lahko težko interpretirati. Ko bo avtomatizacija napredovala, bodo naloge, ki jih je najmanj mogoče avtomatizirati, prevzele večji delež prizadevanj raziskovalcev in postale pomembna ozka grla za prihodnji napredek. Računske zmogljivosti so še en omejitveni dejavnik napredka in lahko sčasoma postanejo pomembnejše, ko se druga ozka grla zmanjšujejo.
V letu 2026 se je število poskusov na aktivnega izvajalca poskusov povečalo, pri čemer je avgust 2026 dosegel visoko raven doslej, odkar smo začeli spremljanje januarja 2025. To je povezano z večjo uporabo Codexa, vendar ugotavljamo, da se je od leta 2025 znatno povečala tudi naša razpoložljiva računska zmogljivost.
Tako kvalitativni vtisi kot notranji podatki kažejo, da se nabor nalog, ki jih raziskovalci delegirajo agentom za kodiranje, spreminja, pri čemer delegiranje nalog na višji ravni in z daljšim časovnim horizontom sčasoma postaja vse pogostejše.
Da bi dobili jasnejšo sliko o tem trendu, smo v raziskovalni organizaciji analizirali nedavno rabo na podlagi nedavno objavljene taksonomije(odpre se v novem oknu) različnih vrst dela, ki so del življenjskega cikla raziskav in razvoja umetne inteligence, ki jo je razvil Epoch AI. Ta taksonomija, ki jo je navdihnil dolgo uveljavljeni sistem O*NET za razvrščanje vseh vrst dela, je posebej prilagojena prelomnemu raziskovanju in razvoju UI ter proces razčlenjuje na šest glavnih faz:
Odločite se: na čem delati, kaj nadaljevati, kam razporediti vire
Oblikovanje: raziskovalne ideje in inženirske specifikacije
Gradnja: koda in nabori podatkov
Izvedba: izvedbe usposabljanja/evalvacij, strojna oprema, streženje
Analizirajte: eksperimente, modele, uvedbo, zunanje delo
Sporočajte: ugotovitve, povratne informacije, stanje, odločitve
Spodaj žetone agenta za kodiranje razvrščamo v skladu s to taksonomijo.
Vidimo, da so se vse kategorije raziskovalnih dejavnosti med januarjem in avgustom 2026 povečale. Januarja je bila prevladujoča kategorija raziskovalna in infrastrukturna koda. Ta kategorija se je razširila, vendar opažamo tudi opazna povečanja v dodatnih kategorijah, zlasti pri tehnični pomoči in nadzornih zagonih. Načrtovanje na visoki ravni še vedno predstavlja minimalen delež izhodnih žetonov agentov.
Po pripovedih kolegov agenti za kodiranje odlično odpravljajo težave z interno raziskovalno infrastrukturo, kar pomaga odpraviti eno pomembno ozko grlo pri napredku raziskav. Več ekip, ki so prej organizirale termine za pomoč raziskovalcem pri odpravljanju težav z njihovimi eksperimenti, je leta 2026 zaznalo upad udeležbe, ena pa je srečanja povsem ukinila, da bi se namesto tega osredotočila na druge izboljšave sistema.
Tukaj prikažemo število objav na najvišji ravni na dan v enem od glavnih internih kanalov, kjer raziskovalci iščejo tehnično podporo pri drugih ekipah. Kolikor nam je znano, zmanjšanja aktivnosti v tem kanalu ni nadomestila preusmeritev poizvedb na drug kanal za tehnično podporo, ki ga upravljajo ljudje. Upad prometa je skladen s tem širšim premikom.
Preučimo lahko tudi, ali so programerski agenti uspešni pri nalogah, ki jih zahtevajo raziskovalci. Z uporabo agentskega klasifikatorja ugotavljamo, da so se od januarja do julija stopnje uspešnosti na splošno povečale v več razredih težavnosti (pri čemer je težavnost približno ocenjena kot predvideni čas, ki bi ga človek potreboval za dokončanje naloge) pri nalogah, za katere lahko določimo referenčni izid. Vendar agenti za uspešno delovanje še vedno potrebujejo znatno človeško usmerjanje, zlasti ko narašča zapletenost nalog. V zadnjih 6 mesecih je več kot polovica uspešnih 4- do 8-urnih nalog vključevala eno ali več posredovanj.
Stopnje uspešnosti pri nalogah raziskovalcev so se sčasoma povečale. Graf izključuje klasifikacije, pri katerih je bil izid negotov, ter podatkovne točke z <50 sejami ali <50 edinstvenimi uporabniki.
Stopnja uspešnosti nalog in stopnja posredovanja od januarja do julija, razčlenjeno po časovnem horizontu. Izključuje klasifikacije, pri katerih je bil izid negotov.
Napredek pri razvoju zmogljivejših sistemov za varno in koristno SUI bo odvisen tudi od zaščitnih ukrepov, potrebnih za takšno delo. Naša ocena potrebnih zaščitnih ukrepov se lahko spremeni, ko bomo izvedeli več o tveganjih.
Kot smo opisali, smo nedavno posodobili svoje standarde na področju spremljanja, usklajenosti in varnosti. Tukaj prikazujemo, kako so nedavne omejitve vplivale na en vidik raziskovalne dejavnosti.
*Večina računskih zmogljivosti Astre, prikazanih tukaj med 20. julijem in 6. avgustom, je bila namenjena preizkušanju uvedbe izboljšav na področju varnosti in zaščite.
20. julija smo po odkritju, da so agenti ogrozili našo raziskovalno infrastrukturo, začasno zaustavili storitev vsebnikov, ki se uporablja za učenje, nato pa jo obnovili z znatnimi dodatnimi omejitvami.
To je povzročilo močan upad računskih virov za usposabljanje RL, medtem ko so ekipe preoblikovale svoje poteke dela, da bi lahko delovale znotraj utrjenega raziskovalnega okolja. Zgornji graf vključuje dvotedensko prekinitev učenja z okrepitvijo pri naših najnovejših modelih, namenjenih uvedbi. RL-eksperimenti razreda Astra med 20. julijem in 6. avgustom vključujejo večino zagonov (glede na dodelitev GPU-jev), namenjenih preizkušanju implementacije izboljšav varnosti in zaščite.
7. avgusta so predhodni dokazi, da ima Astra morda kritične kibernetske zmogljivosti po našem Okviru pripravljenosti(odpre se v novem oknu), privedli do dodatnih varnostnih omejitev za posamezni model, ki so zahtevale, da se model Astra izvaja v raziskovalnih okoljih z višjo stopnjo varnosti. V naslednjem tednu se je dodelitev grafičnih procesorjev modelom razreda Astra dodatno zmanjšala za 59,2 %, dodelitev drugim razredom modelov pa se je povečala za 17,2 %. To povečanje je izravnalo približno 85 odstotkov upada dodelitve modelom razreda Astra, zaradi česar je skupna dodelitev v analiziranih delovnih obremenitvah RL ostala večinoma nespremenjena. Ta vzorec je skladen s preusmeritvijo dela usposabljanja in eksperimentiranja na modele, ki niso Astra, medtem ko je bilo delo z Astro omejeno, ter z anekdotičnimi poročili raziskovalcev, ki so našli druge načine uporabe računske zmogljivosti, ki je niso mogli več uporabiti za delovne obremenitve, zajete z novimi omejitvami.
Ti podatki zagotavljajo koristen pokazatelj za tekoče razprave o usposabljanju in varnosti: ko se uvedejo novi nadzorni ukrepi, računske zmogljivosti ostajajo dragocene in prilagodljive ter se bodo naravno usmerjale v alternativne načine uporabe znotraj raziskovalne dejavnosti. Dolgoročno bi se morale razprave o hitrosti napredka umetne inteligence razširiti tudi na vprašanje, kako je mogoče računalniške zmogljivosti, za katere veljajo novi ali predlagani nadzorni ukrepi, najbolje uporabiti.
Doseganje in razumevanje napredka v smeri usklajenega rekurzivnega samoizboljševanja (RSI) sta pomembna za naše poslanstvo. Še naprej bomo izpopolnjevali svoje metode, poročali o svojem razvijajočem se razumevanju ter si prizadevali za informirano javno razpravo in smiselno demokratično upravljanje prelomnih sistemov.
Raziskovanje umetne inteligence, ki ga poganjajo agenti, je še vedno novo in še vedno se učimo, kako ga meriti. Nekatere kazalnike, kot je količina kode, ki jo ustvarijo naše raziskovalne ekipe, je razmeroma enostavno zbrati, vendar jih je težko razlagati, ker je njihova povezava z napredkom raziskav negotova. Metrike, ki se bolj neposredno osredotočajo na napredek raziskav – na primer na to, kako pogosto agenti uspešno opravijo naloge, ki jim jih dodelijo raziskovalci – bi lahko bile uporabnejše, vendar jih je zapleteno razviti in validirati. Dodatno težavo predstavlja dejstvo, da se orodja in sistemi, na katere se zanašajo raziskovalci, hitro razvijajo. Poglabljanje našega razumevanja pospeševanja raziskav je pomembno prednostno področje v družbi OpenAI.
V vseh teh analizah, če ni navedeno drugače:
»Raziskovalec« je širok izraz za katerega koli člana naše raziskovalne organizacije, vključno z nekaterimi, ki vzpostavljajo raziskovalno infrastrukturo, vodijo raziskovalne projekte ali kako drugače podpirajo organizacijo.
Metrike uporabe kodirnega agenta zajemajo večino, vendar ne celotne uporabe, saj se orodja in sistemi, na katere se raziskovalci zanašajo, hitro razvijajo.
