Pētniecības paātrināšana: ieskats OpenAI iekšienē

Mēs uzskatām, ka mākslīgais vispārējais intelekts (AGI) ir demokrātiski jāpārvalda, lai tas sniegtu labumu visai cilvēcei. Tas var notikt tikai informētā publiskā diskusijā par augsti attīstītu mākslīgā intelekta (MI) sistēmu iespējām, riskiem un aizsargmehānismiem. Cilvēkiem visur ir jāsaprot robežšķirtnes MI iespējamā nākotnes attīstības trajektorija, lai viņiem būtu jēgpilna ietekme uz tā attīstību.

Pārredzamība attiecībā uz konkrētiem riskiem, incidentiem un aizsargpasākumiem ir nepieciešama, taču ar to nepietiek. Mēs uzskatām, ka sabiedrībai ir arī jāsaprot, kā attīstās visspējīgākās sistēmas un kā tās veicina pētniecības progresu robežšķirtnes laboratorijās.

Mūsu mērķis ir droši izveidot automatizētu MI pētnieku, kas cilvēka uzraudzībā var strādāt, lai veicinātu progresu dziļās mācīšanās un salāgošanas jomā, nodrošinot iteratīvus uzlabojumus. Saskaņā ar mūsu mērījumiem tagad esam sasnieguši pagājušajā rudenī paziņoto⁠(atveras jaunā logā) mērķi – līdz šā gada septembrim mums ir automatizēts pētniecības praktikants. Ar “pētniecības praktikantu” mēs saprotam sistēmu, kas cilvēka vadībā spēj veikt skaidri definētus pētniecības uzdevumus, tostarp uzdevumus, kuru izpilde prasmīgam pētniekam prasītu dažas dienas. Mēs gūstam ievērojamu progresu, lai līdz 2028. gada martam izveidotu automatizētu MI pētnieku.

Šī gada laikā OpenAI pētnieku ikdienas darbs ir būtiski mainījies. Pētnieki visas dienas garumā izmanto programmēšanas aģentus (bieži vien vienlaicīgās sesijās), un kopējais lietojums strauji pieaug, apsteidzot pieaugumu citās OpenAI komandās. Pētnieki ātrāk raksta kodu un veic vairāk eksperimentu. Mainās arī veidi, kā pētnieki izmanto aģentus: aģenti tiek galā ar arvien sarežģītākiem uzdevumiem un arvien biežāk tos sekmīgi izpilda. MI pētniecība ir sarežģīts process ar daudzām iespējamām šaurajām vietām, tāpēc kopējais progresa temps, visticamāk, nespēs turēt līdzi šiem konkrētajiem rādītājiem. Taču kopumā šie secinājumi saskan ar plašāku iespaidu, kāds daudziem no mums ir izveidojies organizācijas iekšienē, proti, ka autonomie rīki būtiski paātrina pētniecības progresu. Cilvēki joprojām nosaka mūsu pētniecības prioritātes, izvērtē, kuras idejas un rezultātus turpināt attīstīt, un lemj, vai sistēmas mērogot, apturēt vai ieviest.

Mēs uzskatām, ka automatizēta MI pētniecība, ja to īsteno atbildīgi, radīs modeļus, kas tieši uzlabos cilvēku labklājību un veicinās OpenAI misijas īstenošanu. Tā var samazināt augsti attīstīta intelekta izmantošanas izmaksas, lai cilvēki visā pasaulē varētu gūt no tā labumu. Mēs veicam šo darbu daļēji tāpēc, ka automatizēta pētniecība varētu palīdzēt mums atrisināt salāgošanas problēmu un izstrādāt aizsardzības mehānismus pret arvien spējīgāku MI. Automatizēts MI pētnieks var būt arī automatizēts drošības vai salāgošanas pētnieks. Spējīgākas un salāgotas sistēmas varētu palīdzēt nodrošināt kritiskās infrastruktūras drošību, aizsargāties pret bīstamiem MI aģentiem un izstrādāt jaunus aizsardzības pasākumus.

Šie ir iemesli, lai attīstītu noderīgas automatizētas pētniecības spējas, taču tie nenozīmē, ka strauja rekursīva pašpilnveide (RSI) noteikti ir rezultāts, uz kuru mums būtu jātiecas. Tam, vai un kā turpināt, jābūt atkarīgam no mūsu spējas saglabāt cilvēku kontroli un no informētām demokrātiskām izvēlēm par ieguvumiem un riskiem.

Mēs vēl nezinām, kā droši nonākt līdz pilnīgai, salāgotai RSI. Mēs strādājam pie tā, lai salāgošanas un drošības pasākumus mērogotu līdztekus spēju pieaugumam. Taču mēs nevaram pieņemt, ka progress salāgošanas un drošības jomā turēsies līdzi, un spējīgākas sistēmas var kļūt grūtāk uzraugāmas. Rūpīgs darbs pie salāgošanas un drošības ir šo centienu centrā, un tas sākas ar drošības problēmu, kuras šodien novērojam autonomās programmēšanas sistēmās, novērtēšanu un mazināšanu. Ikreiz, kad konstatēsim, ka turpmāka rīcība radītu nepieņemamu drošības risku, mēs reaģēsim atbilstoši, tostarp palēninot vai apturot tādu sistēmu izstrādi vai izvietošanu, kuru drošību nespējam pietiekami nodrošināt.

Pēc nesenā Hugging Face incidenta mēs īstenojām šo apņemšanos praksē⁠, uz laiku pārtraucot jaunāko ieviešanai paredzēto modeļu apmācību ar stimulēto mācīšanos (RL), kamēr vēl vairāk nostiprinājām un ar uzbrukumu simulācijām pārbaudījām savas pētniecības vides, kā arī paplašinājām uzraudzības sistēmu tvērumu. Tas neapturēja visu pētniecību: dažas darba slodzes tika atsāktas, ievērojot stingrākus kontroles pasākumus, savukārt citas palika apturētas. Esam paaugstinājuši savus drošuma un salāgošanas standartus un iekļāvuši drošuma darbu dziļāk modeļa dzīves ciklā, visā apmācības procesā pieprasot pārliecinošākus pierādījumus par salāgotu uzvedību.

Šodien mēs sniedzam detalizētu pārskatu par to, kā aģentu sistēmas pēdējos mēnešos ir veicinājušas mūsu progresu ceļā uz RSI. Aģentu sistēmas ir jaunas un strauji mainās, un mūsu mērījumu darbs vēl ir sākotnējā stadijā. Daloties ar šiem sākotnējiem rezultātiem un metodēm, kas ir to pamatā, mēs cenšamies informēt sabiedrību, veicināt publiskas informācijas atklāšanas praksi un palīdzēt šai jomai virzīties uz kopīgiem mērījumu standartiem.

Galu galā, kā rakstījām savā robežšķirtnes politikas plānā⁠, mēs uzskatām, ka mums un citiem uzņēmumiem būtu jāuzliek par pienākumu publiski sekot līdzi savam progresam ceļā uz RSI. Pat bez šādas prasības mēs plānojam turpināt atklāti informēt par mūsu RSI progresu. Mēs pilnveidosim savu pieeju pārredzamībai, uzlabojoties mūsu mērīšanas metodēm un izpratnei, vienlaikus līdzsvarojot nepieciešamību aizsargāt drošību un ar īpašumtiesībām aizsargātu informāciju.

Šā gada sākumā OpenAI pētnieks, kura aģentu lietojums atbilst mediānai, programmēšanas aģentus izmantoja tikai nelielā apjomā. Līdz augusta vidum mediānais pētnieks ik dienu integrēja aģentus savā darbā, izmantojot inferenci par vairāk nekā 600 USD dienā pēc API cenām. Mūsu pētniecības organizācijā 90. procentiles lietotājs tagad dienā izmanto vairāk nekā 7000 USD vērtas tekstvienības.

Pirms 2026. gada jūnija aģentu kopējais darbības laiks visā pētniecības organizācijā joprojām bija mazāks nekā cilvēku kopējais darba laiks. Kopš tā laika tas ir mainījies. Standarta 8 stundu darba dienas izteiksmē augusta vidū pētniecības organizācija kopumā izmanto aģentu darba ieguldījumu 3,1 darba dienas apmērā uz katru cilvēku darba dienu.

Vēl viens veids, kā uz to raudzīties, ir saprast, cik daudz pētnieku izmanto darbplūsmas ar augstu vienlaicīguma pakāpi (piemēram, vienlaikus palaižot 4 vai vairāk aģentus). Kā redzams tālāk, šis skaitlis pieaug. Šie skaitļi ietver dienas maksimumus gan aģentiem, kurus lietotājs palaidis tieši, gan apakšaģentiem, kas izveidoti pakārtoti no tiem aģentiem, kurus lietotājs palaidis tieši.

Lielu daļu mākslīgā intelekta (MI) pētniecības var uzskatīt par darbietilpīgu procesu, kura mērķis ir integrēt kādu jaunu modeļa intelekta vai veiktspējas uzlabojumu vienā no mūsu pamatmodeļiem. Process ir atkarīgs no daudziem soļiem, un spējas uzlabojas, kad visi soļi kopā norit veiksmīgi: pētniekiem jāizstrādā jauni uzlabojumi, jāsagatavo novērtējumi modeļa veiktspējas izvērtēšanai, jāizveido infrastruktūra šo uzlabojumu testēšanai lielā mērogā, apmācības laikā jāatklāj kļūdas, kā arī nedroša vai nesalāgota uzvedība, un sekmīgās idejas jāintegrē pamatapmācības ciklā. Kļūme jebkurā pētniecības procesa posmā var ierobežot visu ciklu.

Koda rakstīšana un eksperimentu veikšana ir divas galvenās darbības, ko pētnieki veic savā darbā, un mēs redzam pierādījumus tam, ka šie procesi paātrinās.

Šos datu punktus ir salīdzinoši viegli izmērīt, taču tos var būt grūti interpretēt. Automatizācijai attīstoties, uzdevumi, kurus ir vismazāk iespējams automatizēt, veidos arvien lielāku daļu no pētnieku ieguldītā darba un kļūs par būtiskākajiem turpmākā progresa šķēršļiem. Skaitļošanas jauda ir vēl viens progresu ierobežojošs faktors, un laika gaitā tā var kļūt arvien svarīgāka, jo citas šaurās vietas mazinās.

2026. gada laikā ir pieaudzis eksperimentu skaits uz vienu aktīvo eksperimentētāju, un 2026. gada augustā tas sasniedza augstāko līmeni kopš uzskaites sākšanas 2025. gada janvārī. Tas korelē ar Codex ieviešanas pieaugumu, lai gan jāņem vērā, ka kopš 2025. gada ir būtiski pieaugusi arī mūsu pieejamā skaitļošanas jauda.

Gan kvalitatīvie iespaidi, gan iekšējie dati liecina, ka mainās uzdevumu klāsts, ko pētnieki deleģē programmēšanas aģentiem, un laika gaitā arvien biežāk tiek deleģēti augstāka līmeņa uzdevumi un uzdevumi ar ilgāku laika horizontu.

Lai iegūtu skaidrāku priekšstatu par šo tendenci, mēs analizējām neseno lietojumu pētniecības organizācijā, izmantojot Epoch AI izstrādāto nesen publicēto taksonomiju⁠(atveras jaunā logā) par dažādiem darba veidiem, kas ietilpst mākslīgā intelekta (MI) pētniecības un izstrādes dzīves ciklā. Šī taksonomija, kuru iedvesmojusi ilgstoši izmantotā O*NET sistēma visu veidu darba klasificēšanai, ir īpaši pielāgota robežšķirtnes MI pētniecībai un izstrādei un iedala procesu sešos galvenajos posmos:

1. Lēmumu pieņemšana: pie kā strādāt, ko turpināt, kur piešķirt resursus

2. Projektēšana: pētniecības idejas un inženiertehniskās specifikācijas

3. Veidošana: kods un datu kopas

4. Izpilde: apmācības/novērtēšanas izpildes, aparatūra, modeļu darbināšana

5. Analīze: eksperimenti, modeļi, izvietošana, ārējie pētījumi

6. Saziņa: konstatējumi, atsauksmes, statuss, lēmumi

Tālāk mēs klasificējam programmēšanas aģentu tekstvienības saskaņā ar šo taksonomiju.

Redzams, ka no 2026. gada janvāra līdz augustam ir pieaugusi aktivitāte visās pētniecības kategorijās. Janvārī dominējošā kategorija bija pētniecības un infrastruktūras kods. Šī kategorija ir paplašinājusies, taču ievērojamu pieaugumu redzam arī papildu kategorijās, īpaši tehniskajā palīdzībā un izpilžu pārraudzībā. Augsta līmeņa plānošana joprojām veido tikai minimālu daļu no aģentu izvades tekstvienībām.

Balstoties uz atsevišķiem novērojumiem, kolēģi ziņo, ka programmēšanas aģenti īpaši labi tiek galā ar iekšējās pētniecības infrastruktūras problēmu novēršanu, tādējādi risinot vienu būtisku šķērsli pētniecības progresam. Vairākas komandas, kas iepriekš rīkoja konsultāciju stundas, lai palīdzētu pētniekiem risināt ar eksperimentiem saistītas problēmas, ir konstatējušas apmeklētības samazināšanos 2026. gadā, un viena no tām ir pilnībā pārtraukusi šādu sesiju rīkošanu, lai tā vietā pievērstos citu sistēmas uzlabojumu veikšanai.

Šeit mēs grafikā attēlojam pavedienu sākuma ierakstu skaitu dienā vienā no galvenajiem iekšējiem kanāliem, kur pētnieki meklē tehnisko atbalstu no citām komandām. Cik mums zināms, aktivitātes samazinājumu šajā kanālā nav kompensējusi pieprasījumu pāreja uz citu tehniskā atbalsta kanālu, ko pārvalda cilvēki. Aktivitātes samazinājums kanālā atbilst šai plašākajai pārmaiņai.

Mēs varam arī pētīt, vai programmēšanas aģenti veiksmīgi izpilda pētnieku pieprasītos uzdevumus. Izmantojot autonomu klasifikatoru, mēs konstatējam, ka no janvāra līdz jūlijam sekmīguma rādītāji kopumā pieauga vairākās grūtības līmeņu grupās (kā aizstājējrādītāju izmantojot aplēsto laiku, kas cilvēkam būtu nepieciešams uzdevuma pabeigšanai) uzdevumos, kuriem varam atrast patieso iznākumu. Tomēr, lai aģenti darbotos sekmīgi, tiem joprojām ir nepieciešama būtiska cilvēka vadība, jo īpaši pieaugot uzdevumu sarežģītībai. Pēdējo 6 mēnešu laikā vairāk nekā puse veiksmīgo 4–8 stundu uzdevumu ietvēra vienu vai vairākas iejaukšanās reizes.

Progress virzībā uz spējīgākām sistēmām drošam un noderīgam mākslīgajam vispārējam intelektam (AGI) būs atkarīgs arī no šādam darbam nepieciešamajiem aizsardzības pasākumiem. Mūsu vērtējums par nepieciešamajiem aizsardzības pasākumiem var mainīties, uzzinot vairāk par riskiem.

Kā esam aprakstījuši,⁠ nesen esam atjauninājuši savus uzraudzības, salāgošanas un drošības standartus. Šeit mēs parādām, kā nesenie ierobežojumi ir ietekmējuši vienu pētnieciskās darbības aspektu.

20. jūlijā pēc tam, kad tika atklāts, ka aģenti bija kompromitējuši mūsu pētniecības infrastruktūru, mēs īslaicīgi apturējām apmācībai izmantoto konteineru pakalpojumu un pēc tam atjaunojām tā darbību ar būtiskiem papildu ierobežojumiem.

Tas izraisīja strauju stimulētās mācīšanās (RL) apmācībai izmantoto skaitļošanas resursu samazināšanos, kamēr komandas pārkonfigurēja savas darbplūsmas, lai darbotos stingrāk aizsargātajā pētniecības vidē. Iepriekš redzamajā diagrammā ir iekļauts divu nedēļu pārtraukums jaunāko ieviešanai paredzēto modeļu apmācībā ar stimulēto mācīšanos. Astra klases RL eksperimentos no 20. jūlija līdz 6. augustam lielākā daļa palaišanas gadījumu (rēķinot pēc GPU resursu piešķīruma) ir paredzēta drošuma un drošības uzlabojumu ieviešanas testēšanai.

7. augustā sākotnējie pierādījumi par to, ka Astra varētu būt kritiskas kiberspējas⁠ saskaņā ar mūsu Sagatavotības satvaru⁠(atveras jaunā logā), izraisīja papildu konkrētajam modelim paredzētus drošības ierobežojumus, saskaņā ar kuriem Astra modelis bija jāizmanto augstāka drošības līmeņa pētniecības vidēs. Nākamajā nedēļā Astra klases GPU piešķīrums samazinājās vēl par 59,2%, bet citu modeļu klašu piešķīrums palielinājās par 17,2%. Šis pieaugums kompensēja aptuveni 85 procentus no Astra klases krituma, atstājot kopējo piešķīrumu analizētajās RL darba slodzēs lielā mērā nemainīgu. Šāda tendence atbilst tam, ka laikā, kad darbs ar Astra bija ierobežots, daļa apmācības un eksperimentu tika pārorientēta uz modeļiem, kas nav Astra, un saskan ar ziņojumiem par atsevišķiem novērojumiem, ka pētnieki atrada citus skaitļošanas resursu izmantošanas veidus, jo tos vairs nevarēja izmantot darba slodzēm, uz kurām attiecās jaunie ierobežojumi.

Šie dati sniedz noderīgu norādi pašreizējām diskusijām par apmācību un drošību: ieviešot jaunus kontroles pasākumus, skaitļošanas resursi joprojām ir vērtīgi un elastīgi un dabiski tiks novirzīti alternatīviem izmantošanas veidiem pētniecības organizācijā. Ilgtermiņā diskusijām par mākslīgā intelekta progresa tempu būtu jāaptver arī jautājums par to, kā vislabāk izmantot skaitļošanas jaudu, uz kuru attiecas jauni vai ierosināti kontroles pasākumi.

Panākt un izprast progresu ceļā uz salāgotu RSI ir svarīgi mūsu misijas īstenošanai. Mēs turpināsim pilnveidot savas metodes, ziņot par savas izpratnes attīstību un strādāt, lai veicinātu informētas sabiedriskās debates un jēgpilnu robežšķirtnes sistēmu demokrātisku pārvaldību.

Uz aģentiem balstīta mākslīgā intelekta (MI) pētniecība joprojām ir jauna, un mēs vēl tikai mācāmies, kā to novērtēt. Dažus rādītājus, piemēram, koda apjomu, ko izstrādā mūsu pētniecības komandas, ir salīdzinoši viegli apkopot, taču grūti interpretēt, jo to saistība ar pētniecības progresu ir neskaidra. Metrikas, kas tiešāk koncentrējas uz pētniecības progresu – piemēram, cik bieži aģentiem izdodas izpildīt uzdevumus, kurus tiem uzdod pētnieki, – varētu būt noderīgākas, taču tās ir sarežģīti izstrādāt un validēt. Situāciju vēl vairāk sarežģī tas, ka rīki un sistēmas, uz kurām pētnieki paļaujas, strauji attīstās. Izpratnes padziļināšana par pētniecības paātrināšanu ir nozīmīga prioritāte visā OpenAI.

Visās šajās analīzēs, ja vien nav norādīts citādi:

• “Pētnieks” ir plašs termins, kas apzīmē jebkuru mūsu pētniecības organizācijas dalībnieku, tostarp tos, kuri veido pētniecības infrastruktūru, vada pētniecības projektus vai citādi atbalsta organizācijas darbību.

• Programmēšanas aģentu lietojuma rādītāji aptver lielāko daļu, bet ne visu lietojumu, ņemot vērā rīku un sistēmu straujo attīstību.