Accelerarea cercetării: perspectiva din interiorul OpenAI

Credem că, pentru a aduce beneficii întregii umanități, AGI trebuie guvernată democratic. Aceasta cere o dezbatere publică informată despre capabilitățile, riscurile și protecțiile sistemelor AI foarte capabile. Oamenii de pretutindeni trebuie să înțeleagă evoluția probabilă a AI de vârf pentru a putea influența real dezvoltarea sa.

Transparența privind riscurile, incidentele și măsurile de protecție concrete este necesară, dar insuficientă. Publicul trebuie să înțeleagă și cum evoluează cele mai capabile sisteme și cum impulsionează cercetarea în laboratoarele de vârf.

Vrem să creăm în siguranță un cercetător AI automatizat, care să avanseze învățarea aprofundată și alinierea sub supraveghere umană, permițând îmbunătățiri iterative. Potrivit măsurătorilor noastre, am atins obiectivul anunțat⁠(se deschide într-o fereastră nouă) toamna trecută: un stagiar de cercetare automatizat până în septembrie anul acesta. Prin „stagiar de cercetare” înțelegem un sistem care execută sarcini bine definite, sub îndrumare umană, inclusiv sarcini ce i-ar lua câteva zile unui cercetător calificat. Avansăm considerabil spre crearea unui cercetător AI automatizat până în martie 2028.

Anul acesta, munca zilnică a cercetătorilor OpenAI s-a schimbat substanțial. Ei folosesc agenți de programare pe tot parcursul zilei, adesea în sesiuni simultane. Utilizarea totală crește rapid, mai repede decât în alte echipe OpenAI. Cercetătorii contribuie mai rapid cu cod și rulează mai multe experimente. Se schimbă și utilizările agenților: aceștia preiau sarcini tot mai complexe și le rezolvă cu succes mai des. Cercetarea AI are multe blocaje potențiale, deci ritmul general al progresului probabil nu va ține pasul cu acești indicatori specifici. Totuși, constatările susțin impresia multora dintre noi că instrumentele agentive accelerează semnificativ cercetarea. Oamenii încă stabilesc prioritățile, aleg ideile și rezultatele de urmărit și decid extinderea, suspendarea sau lansarea sistemelor.

Credem că cercetarea AI automatizată responsabil va produce modele care sporesc direct bunăstarea umană și susțin misiunea OpenAI. Ea poate reduce costul inteligenței avansate, în beneficiul oamenilor din întreaga lume. Urmărim acest demers și fiindcă cercetarea automatizată ar putea rezolva alinierea și crea protecții împotriva AI tot mai capabile. Un cercetător AI automatizat poate cerceta automat și siguranța sau alinierea. Sisteme mai capabile și aliniate ar putea securiza infrastructura critică, contracara agenți AI periculoși și crea noi protecții.

Aceste motive susțin dezvoltarea cercetării automatizate utile, dar nu implică neapărat că ar trebui să urmărim o RSI rapidă. Dacă și cum continuăm trebuie să depindă de păstrarea controlului uman și de decizii democratice informate privind beneficiile și riscurile.

Nu știm încă cum să ajungem în siguranță la o RSI completă și aliniată. Lucrăm la extinderea măsurilor de aliniere și siguranță odată cu capabilitățile. Nu putem presupune însă că alinierea și siguranța vor ține pasul; sistemele mai capabile pot fi mai greu de monitorizat. Efortul se axează pe aliniere și siguranță riguroase, începând cu măsurarea și reducerea problemelor actuale ale sistemelor de codare agentivă. Când continuarea ar crea un risc inacceptabil, vom reacționa adecvat, inclusiv încetinind sau oprind dezvoltarea ori lansarea sistemelor pe care nu le putem proteja suficient.

După incidentul Hugging Face, am pus angajamentul în practică⁠: am suspendat antrenarea prin învățare prin consolidare (RL) a celor mai noi modele destinate lansării, consolidând și testând adversarial mediile de cercetare și extinzând monitorizarea. Cercetarea nu s-a oprit complet: unele sarcini au fost reluate sub controale mai stricte, altele au rămas suspendate. Am ridicat standardele de siguranță și aliniere și le-am integrat mai profund în ciclul de viață al modelelor, cerând dovezi mai solide de comportament aliniat pe toată durata antrenării.

Astăzi prezentăm detaliat contribuția sistemelor agentive la progresul nostru către RSI din ultimele luni. Sistemele agentive sunt noi și evoluează rapid; măsurătorile noastre sunt încă preliminare. Publicând rezultatele inițiale și metodele, vrem să informăm publicul, să încurajăm transparența și să susținem standarde comune de măsurare.

În fond, cum am scris în planul de politici pentru AI de vârf⁠, credem că noi și alte companii ar trebui să fim obligați să raportăm public progresul către RSI. Chiar fără această obligație, intenționăm să rămânem transparenți privind progresul către RSI. Vom adapta transparența odată cu metodele și înțelegerea noastră, protejând totodată securitatea și informațiile proprietare.

La începutul anului, cercetătorul median după utilizarea agenților la OpenAI folosea modest agenții de programare. La mijlocul lui august, cercetătorul median integra zilnic agenții în muncă, folosind inferență de peste 600 USD pe zi, la prețuri API. Utilizatorul din percentila 90 a departamentului de cercetare consumă acum tokenuri de peste 7.000 USD pe zi.

Înainte de iunie 2026, durata totală de rulare a agenților în cercetare era încă sub timpul total de muncă umană. Între timp, situația s-a schimbat. La mijlocul lui august, raportat la ziua standard de 8 ore, cercetarea folosea în total 3,1 zile de muncă a agenților pentru fiecare zi de muncă umană.

O altă perspectivă este numărul cercetătorilor cu fluxuri de lucru intens paralele, de exemplu cu cel puțin 4 agenți simultan. După cum se vede mai jos, numărul crește. Cifrele includ vârfurile zilnice atât ale agenților porniți direct de utilizator, cât și ale subagenților creați ulterior de aceștia.

O mare parte din cercetarea AI presupune muncă intensă pentru integrarea unor îmbunătățiri ale inteligenței sau performanței în modelele noastre principale. Capabilitățile avansează când toate etapele reușesc: proiectarea îmbunătățirilor, crearea evaluărilor și a infrastructurii pentru testare la scară, detectarea erorilor și a comportamentelor nesigure sau nealiniate în antrenare și integrarea ideilor reușite într-o rulare principală de antrenare. Un eșec în orice etapă poate limita întregul ciclu.

Scrierea codului și rularea experimentelor sunt două activități majore ale cercetătorilor și avem dovezi că se accelerează.

Aceste date sunt relativ ușor de măsurat, dar pot fi greu de interpretat. Odată cu automatizarea, sarcinile cel mai greu de automatizat vor absorbi mai mult din efortul cercetătorilor și vor deveni blocaje importante. Resursele de calcul limitează și ele progresul și pot conta mai mult pe măsură ce alte blocaje se reduc.

În 2026, experimentele per experimentator activ au crescut, atingând în august un record de la începutul măsurării, în ianuarie 2025. Creșterea se corelează cu adoptarea Codex, deși și resursele de calcul au crescut mult din 2025.

Impresiile calitative și datele interne arată schimbări în sarcinile delegate agenților: devin mai frecvente cele de nivel înalt și cu orizont mai lung.

Pentru a clarifica tendința, am analizat utilizarea recentă din cercetare cu o taxonomie publicată recent⁠(se deschide într-o fereastră nouă) de Epoch AI a activităților din ciclul de cercetare-dezvoltare AI. Inspirată de sistemul consacrat O*NET de clasificare a muncii, taxonomia vizează cercetarea-dezvoltarea AI de vârf și o împarte în șase faze:

1. Decizie: ce lucrăm, ce continuăm, unde alocăm resurse

2. Proiectare: idei de cercetare și specificații tehnice

3. Construire: cod și seturi de date

4. Rulare: antrenări/evaluări, hardware, servire

5. Analiză: experimente, modele, lansare, lucrări externe

6. Comunicare: constatări, feedback, stare, decizii

Mai jos clasificăm tokenurile agenților de programare după această taxonomie.

Toate categoriile de activități au crescut între ianuarie și august 2026. În ianuarie domina codul pentru cercetare și infrastructură. Această categorie a crescut, dar și altele au avansat notabil, mai ales asistența tehnică și monitorizarea rulărilor. Planificarea de nivel înalt rămâne o fracțiune minimă din tokenurile de ieșire ale agenților.

Colegi relatează informal că agenții excelează la depanarea infrastructurii interne de cercetare, reducând un blocaj important. Mai multe echipe care ofereau consultații pentru depanarea experimentelor au observat o participare redusă în 2026; una a renunțat la sesiuni, concentrându-se pe alte îmbunătățiri ale sistemelor.

Aici reprezentăm postările zilnice care inițiază conversații pe un canal intern principal unde cercetătorii cer sprijin tehnic altor echipe. Din câte știm, scăderea activității nu a fost compensată de mutarea cererilor pe alt canal de asistență umană. Scăderea traficului corespunde acestei schimbări mai ample.

Putem studia și dacă agenții rezolvă cu succes sarcinile cerute de cercetători. Un clasificator agentiv arată că, din ianuarie până în iulie, ratele de succes au crescut în general în mai multe categorii de dificultate, estimate prin timpul uman necesar, pentru sarcinile cu rezultat verificabil. Totuși, succesul agenților cere încă îndrumare umană substanțială, mai ales pe măsură ce sarcinile devin complexe. În ultimele 6 luni, peste jumătate din sarcinile de 4–8 ore rezolvate cu succes au necesitat cel puțin o intervenție.

Progresul către sisteme mai capabile, pentru o AGI sigură și benefică, va depinde și de măsurile de protecție necesare acestei activități. Evaluarea noastră privind măsurile necesare se poate schimba pe măsură ce aflăm mai multe despre riscuri.

Așa cum am explicat,⁠ ne-am actualizat recent standardele de monitorizare, aliniere și securitate. Aici arătăm cum au afectat restricțiile recente un aspect al activității de cercetare.

Pe 20 iulie, după ce am descoperit că agenții ne compromiseseră infrastructura de cercetare, am oprit temporar serviciul de containere folosit pentru antrenare, apoi l-am repornit cu restricții suplimentare semnificative.

Aceasta a dus la o scădere bruscă a resurselor de calcul pentru antrenarea RL, în timp ce echipele își reconfigurau fluxurile de lucru pentru mediul de cercetare cu securitate consolidată. Graficul de mai sus include pauza de două săptămâni în învățarea prin consolidare pentru cele mai recente modele destinate lansării. În experimentele RL din clasa Astra dintre 20 iulie și 6 august, majoritatea rulărilor, după alocarea GPU, au vizat testarea implementării îmbunătățirilor de siguranță și securitate.

Pe 7 august, dovezile preliminare că Astra ar putea avea capabilități cibernetice critice⁠ conform Cadrului de pregătire⁠(se deschide într-o fereastră nouă) au dus la restricții suplimentare de securitate, specifice modelului, care impuneau rularea Astra în medii de cercetare cu securitate sporită. În săptămâna următoare, alocarea GPU pentru clasa Astra a mai scăzut cu 59,2%, dar alocarea pentru alte clase de modele a crescut cu 17,2%. Această creștere a compensat circa 85% din scăderea clasei Astra, astfel că alocarea totală pentru sarcinile de calcul RL analizate a rămas în mare parte neschimbată. Acest tipar este compatibil cu mutarea unei părți din antrenare și experimentare pe modele non-Astra cât timp activitatea cu Astra era restricționată. El corespunde și relatărilor informale despre cercetători care au găsit alte utilizări pentru resursele de calcul ce nu mai puteau fi folosite la sarcinile vizate de noile restricții.

Aceste date oferă un indiciu util pentru discuțiile despre antrenare și siguranță: când sunt introduse noi controale, resursele de calcul rămân valoroase și flexibile și vor fi orientate firesc către alte utilizări în cercetare. Pe termen lung, discuțiile despre ritmul progresului AI ar trebui să abordeze și modul optim de folosire a resurselor de calcul supuse unor controale noi sau propuse.

Realizarea și înțelegerea progresului către o RSI aliniată sunt importante pentru misiunea noastră. Vom continua să ne rafinăm metodele, să raportăm cum evoluează înțelegerea noastră și să susținem o dezbatere publică informată și o guvernanță democratică reală a sistemelor de vârf.

Cercetarea AI realizată cu ajutorul agenților este încă nouă și încă învățăm cum să o măsurăm. Unii indicatori, precum cantitatea de cod generată de echipele noastre de cercetare, sunt relativ ușor de colectat, dar greu de interpretat, deoarece legătura lor cu progresul cercetării este incertă. Indicatorii care vizează mai direct progresul cercetării, precum frecvența cu care agenții rezolvă cu succes sarcinile primite de la cercetători, ar putea fi mai utili, dar sunt dificil de elaborat și validat. Dificultatea este amplificată de evoluția rapidă a instrumentelor și sistemelor pe care se bazează cercetătorii. Aprofundarea înțelegerii accelerării cercetării este o prioritate importantă în întreaga OpenAI.

În toate aceste analize, dacă nu se precizează altfel:

• „Cercetător” este un termen larg pentru orice membru al departamentului nostru de cercetare, inclusiv cei care construiesc infrastructura de cercetare, gestionează proiecte sau susțin activitatea în alte moduri.

• Indicatorii utilizării agenților de programare acoperă cea mai mare parte a utilizării, dar nu integral, dată fiind evoluția rapidă a instrumentelor și sistemelor folosite de cercetători.