Зерттеудің жеделдеуі: OpenAI ішінен көзқарас

AGI бүкіл адамзатқа пайдалы болуы үшін оны демократиялық жолмен басқару қажет деп санаймыз. Ол үшін қуатты ЖИ жүйелерінің мүмкіндіктері, тәуекелдері мен қорғаныс шаралары туралы хабардар қоғамдық пікірталас керек. Әлем жұртшылығы озық ЖИ-дің ықтимал даму бағытын түсінуі керек. Сонда оның дамуына шынайы ықпал ете алады.

Нақты тәуекелдер, оқиғалар мен қорғаныс шаралары туралы ашықтық қажет, бірақ жеткіліксіз. Қоғам озық зертханаларда ең қуатты жүйелердің қалай дамып, зерттеулерді қалай ілгерілететінін де түсінуі керек.

Мақсатымыз — адам бақылауымен терең оқыту мен адам мақсаттарына үйлестіруді ілгерілетіп, кезең-кезеңімен жетілдіруге жол ашатын автоматтандырылған ЖИ зерттеушісін қауіпсіз жасау. Өлшемдеріміз бойынша, өткен күзде жариялаған⁠(жаңа терезеде ашылады) биылғы қыркүйекке дейін автоматтандырылған зерттеуші-тағылымгер жасау мақсатына жеттік. «Зерттеуші-тағылымгер» — адам басшылығымен нақты зерттеу тапсырмаларын, соның ішінде білікті зерттеушіге бірнеше күн қажет болатын жұмыстарды орындайтын жүйе. 2028 жылғы наурызға дейін автоматтандырылған ЖИ зерттеушісін жасау жолында елеулі ілгерілеу бар.

Биыл OpenAI зерттеушілерінің күнделікті жұмысы айтарлықтай өзгерді. Зерттеушілер бағдарламалау агенттерін күні бойы, көбіне бірнеше сеансты қатар жүргізіп қолданады, ал жалпы пайдалану көлемі басқа OpenAI командаларына қарағанда тезірек өсуде. Зерттеушілер кодқа өзгерістерді жылдамырақ енгізіп, көбірек эксперимент жүргізуде. Агенттерді пайдалану тәсілдері де өзгеріп жатыр: агенттер барған сайын күрделі тапсырмаларды орындап, оларды жиірек сәтті аяқтайды. ЖИ зерттеуі — ықтимал кедергілері көп күрделі процесс, сондықтан жалпы ілгерілеу қарқыны осы жекелеген көрсеткіштердің өсу қарқынына дәл ілесе бермеуі мүмкін. Дегенмен жалпы алғанда, бұл нәтижелер агенттік құралдар зерттеу ілгерілеуін едәуір жеделдетіп жатыр деген ішкі ортақ байқауымызға сәйкес келеді. Зерттеу басымдықтарын белгілеуді, қай идеялар мен нәтижелерді әрі қарай дамыту керегін және жүйелерді кеңейту, тоқтата тұру немесе қолданысқа енгізу туралы шешімдерді әлі де адамдар қабылдайды.

Жауапкершілікпен жүргізілсе, автоматтандырылған ЖИ зерттеуі адам әл-ауқатын тікелей жақсартып, OpenAI миссиясын ілгерілететін модельдер береді деп сенеміз. Ол озық интеллект құнын төмендетіп, әлемдегі барша адамға пайдасын тигізе алады. Бұл жұмысты жүргізу себептерінің бірі — автоматтандырылған зерттеу үйлестіру мәселесін шешіп, қуаты артып келе жатқан ЖИ-ден қорғануға көмектесуі мүмкін. Автоматтандырылған ЖИ зерттеушісі қауіпсіздік не үйлестіру зерттеушісі де бола алады. Қуатты әрі адам мақсаттарына сай жүйелер маңызды инфрақұрылымды қорғауға, қауіпті ЖИ агенттеріне қарсы тұруға, жаңа қорғаныс шараларын әзірлеуге көмектесуі мүмкін.

Бұлар пайдалы автоматтандырылған зерттеу мүмкіндіктерін дамытуға негіз болады, бірақ жедел RSI міндетті түрде ұмтылуымыз керек нәтиже дегенді білдірмейді. Әрі қарай жалғастыру керек пе және жалғастырсақ, қалай жалғастыруымыз керек деген шешім адам бақылауын сақтау қабілетімізге және пайдасы мен тәуекелдері туралы хабардар демократиялық таңдауға байланысты болуы тиіс.

Адам мақсаттарына сай толық RSI-ға қауіпсіз жету жолын әлі білмейміз. Мүмкіндіктермен бірге үйлестіру мен қауіпсіздік шараларын да кеңейтуге тырысамыз. Бірақ олардың ілгерілеуі қатар жүреді деп болжай алмаймыз; қуатты жүйелерді бақылау қиындауы мүмкін. Мұның өзегі — мұқият үйлестіру мен қауіпсіздік жұмысы. Ол қазіргі агенттік бағдарламалау жүйелеріндегі қауіпсіздік мәселелерін өлшеп, азайтудан басталады. Жалғастыру жол берілмейтін қауіп төндірсе, тиісті шара қолданамыз, соның ішінде жеткілікті қорғай алмаған жүйелерді әзірлеуді не енгізуді баяулатамыз немесе тоқтатамыз.

Жуырдағы Hugging Face оқиғасынан кейін бұл міндеттемені іс жүзінде орындадық⁠: қолданысқа енгізуге арналған соңғы модельдерімізді күшейтпелі оқытуды (RL) уақытша тоқтатып, зерттеу орталарымыздың қорғанысын одан әрі күшейттік, оларды «red team» әдісімен сынадық және мониторинг жүйелерінің қамту аясын кеңейттік. Бұл барлық зерттеуді тоқтатқан жоқ: кейбір жұмыс жүктемелері күшейтілген бақылау жағдайында қайта жалғасты, ал басқалары тоқтатылған күйінде қалды. Қауіпсіздік пен үйлестіру стандарттарын күшейтіп, қауіпсіздік жұмысын модельдің өмірлік цикліне тереңірек енгіздік, яғни оқытудың барлық кезеңінде адам мақсаттарына сай мінез-құлықтың сенімдірек дәлелдерін талап етеміз.

Бүгін агенттік жүйелердің соңғы айларда RSI жолындағы ілгерілеуімізге қосқан үлесін егжей-тегжейлі көрсетеміз. Агенттік жүйелер жаңа әрі тез өзгеруде, ал өлшеу жұмысымыз әлі бастапқы кезеңде. Алғашқы нәтижелер мен әдістерді жариялау арқылы қоғамды хабардар етіп, ашық есеп беру дәстүрін және ортақ өлшеу стандарттарын қалыптастыруға үлес қоспақпыз.

Озық ЖИ саясатының жоспарында⁠ жазғанымыздай, біз де, өзге компаниялар да RSI жолындағы ілгерілеуімізді ашық түрде қадағалап отыруға міндетті болуымыз керек деп санаймыз. Мұндай талап болмаса да, RSI жолындағы ілгерілеуіміз туралы ашық болуды жалғастырамыз. Өлшеу әдістеріміз бен түсінігіміз жетілген сайын ашықтыққа деген тәсілімізді дамытып, сонымен бірге қауіпсіздікті сақтау және компанияның меншіктік ақпаратын қорғау қажеттігін ескереміз.

Жыл басында OpenAI-да агенттерді пайдалану деңгейі бойынша медианадағы зерттеуші бағдарламалау агенттерін аз ғана қолданатын. Тамыз ортасына қарай медианадағы зерттеуші агенттерді күнделікті жұмысына енгізіп, API бағасымен есептегенде инференске күніне 600 доллардан астам қаражат жұмсайтын болды. Зерттеу ұйымымыздағы 90-процентильдегі пайдаланушының токендерді пайдалану құны қазір API бағасымен есептегенде күніне 7000 доллардан асады.

2026 жылғы маусымға дейін зерттеу ұйымындағы агенттердің жалпы жұмыс уақыты адам еңбегінің жалпы уақытынан аз еді. Содан бері жағдай өзгерді. 8 сағаттық жұмыс күнімен есептегенде, тамыз ортасында зерттеу ұйымындағы адамның әр жұмыс күніне 3,1 агент жұмыс күні сәйкес келді.

Мұны бағалаудың тағы бір жолы — көп процесті қатар жүргізетін (мысалы, бір мезетте кемінде 4 агент қосатын) зерттеушілер санын қарау. Төменде көрсетілгендей, бұл сан өсіп келеді. Бұл сандарға пайдаланушы тікелей іске қосқан агенттердің де, солар құрған қосалқы агенттердің де күндік ең жоғары саны кіреді.

ЖИ зерттеуінің көп бөлігін негізгі модельдеріміздің біріне модель интеллектісін немесе өнімділігін жақсартатын жаңалықты енгізуге бағытталған, көп еңбекті қажет ететін процесс ретінде қарастыруға болады. Бұл процесс көптеген кезеңге тәуелді, ал мүмкіндіктер барлық кезең дұрыс орындалғанда ғана ілгерілейді: зерттеушілер жаңа жақсартуларды жобалауы, модель өнімділігін бағалау үшін бағалаулар әзірлеуі, бұл жақсартуларды ауқымды түрде сынауға арналған инфрақұрылым кодын жазуы, оқыту кезінде қателерді, сондай-ақ қауіпті немесе адам мақсаттарына сай емес мінез-құлықты анықтауы және сәтті идеяларды негізгі оқыту іске қосылымына енгізуі керек. Зерттеу процесінің кез келген бөлігіндегі сәтсіздік бүкіл циклді шектеуі мүмкін.

Код жазу мен эксперимент жүргізу — зерттеушілердің екі негізгі жұмысы. Олардың жеделдеп жатқанын көрсететін деректер бар.

Бұл көрсеткіштерді өлшеу салыстырмалы түрде оңай, бірақ оларды түсіндіру қиын болуы мүмкін. Автоматтандыру ілгерілеген сайын автоматтандыру ең қиын тапсырмалар зерттеушілер еңбегінің үлкен үлесін алып, болашақ ілгерілеудің негізгі кедергілеріне айналады. Есептеу ресурстары да ілгерілеуді шектейтін факторлардың бірі және басқа кедергілер азайған сайын оның маңызы уақыт өте артуы мүмкін.

2026 жылы бір белсенді эксперимент жүргізушіге шаққандағы эксперимент саны өсіп, тамызда 2025 жылғы қаңтардан бергі рекордқа жетті. Бұл Codex қолданысының өсуімен байланысты, бірақ 2025 жылдан бері есептеу ресурстарымыз да едәуір артты.

Сапалық байқаулар да, ішкі деректер де зерттеушілер бағдарламалау агенттеріне тапсыратын тапсырмалар құрамының өзгеріп жатқанын көрсетеді: уақыт өте жоғары деңгейдегі және орындалу уақыты ұзағырақ тапсырмаларды агенттерге беру жиілеп келеді.

Бұл үрдісті анығырақ түсіну үшін зерттеу ұйымындағы соңғы пайдалану деректерін Epoch AI әзірлеген, ЖИ зерттеу-әзірлеу цикліндегі әртүрлі жұмыс түрлеріне арналған жуырда жарияланған жіктеме⁠(жаңа терезеде ашылады) негізінде талдадық. Барлық жұмыс түрлерін жіктеуге арналған бұрыннан келе жатқан O*NET жүйесінен шабыт алған бұл жіктеме озық ЖИ зерттеу-әзірлеу жұмыстарына арнайы бейімделген және процесті алты негізгі кезеңге бөледі:

1. Шешім қабылдау: немен айналысу, нені жалғастыру, ресурсты қайда бөлу

2. Жобалау: зерттеу идеялары мен инженерлік сипаттамалар

3. Құру: код пен деректер жиындары

4. Іске қосу: оқыту/бағалау, жабдық, қызмет көрсету

5. Талдау: эксперименттер, модельдер, қолданысқа енгізу, сыртқы жұмыстар

6. Ақпарат алмасу: нәтижелер, пікірлер, жұмыс барысы, шешімдер

Төменде бағдарламалау агенттерінің токендерін осы жіктеме бойынша санаттарға бөлеміз.

2026 жылғы қаңтар мен тамыз аралығында зерттеу қызметінің барлық санаты өскенін көреміз. Қаңтарда зерттеу және инфрақұрылым коды басым санат болды. Бұл санат кеңейді, сонымен қатар басқа санаттарда да, әсіресе техникалық көмек пен іске қосылымдарды бақылауда айтарлықтай өсім байқалады. Жоғары деңгейлі жоспарлау әлі де агенттің шығыс токендерінің өте аз үлесін құрайды.

Әріптестердің айтуынша, бағдарламалау агенттері ішкі зерттеу инфрақұрылымындағы ақауларды анықтап, түзетуде өте тиімді, бұл зерттеу ілгерілеуіндегі маңызды кедергілердің бірін азайтады. Бұрын зерттеушілерге эксперименттеріндегі ақауларды шешуге көмектесу үшін арнайы кеңес беру сағаттарын өткізген бірнеше команда 2026 жылы қатысушылар саны азайғанын байқады, ал олардың бірі басқа жүйелік жақсартуларға көңіл бөлу үшін мұндай сессияларды мүлде тоқтатты.

Мұнда зерттеушілер басқа командалардан техникалық көмек сұрайтын негізгі ішкі арналардың біріндегі күндік бастапқы жазбалар санын көрсетеміз. Білуімізше, бұл арна белсенділігінің азаюы сұраулардың адамдар қызмет көрсететін басқа техникалық қолдау арнасына ауысуынан емес. Ағынның азаюы осы жалпы өзгеріске сай келеді.

Бағдарламалау агенттерінің зерттеуші тапсырмаларын сәтті орындауын да зерттей аламыз. Агенттік жіктеуіш бойынша қаңтар–шілдеде нәтижесі нақты белгілі тапсырмалардың бірнеше күрделілік тобында сәттілік артқан. Күрделілік адамның орындауына қажет болжамды уақытпен өлшенді. Дегенмен агенттерге, әсіресе тапсырма күрделенгенде, сәтті орындау үшін адамның елеулі бағыттауы әлі қажет. Соңғы 6 айда сәтті орындалған 4–8 сағаттық тапсырмалардың жартысынан көбіне кемінде бір рет араласу қажет болды.

Қауіпсіз әрі пайдалы AGI үшін мүмкіндігі жоғары жүйелерді дамыту осындай жұмысқа қажетті қорғаныс шараларына да байланысты. Тәуекелдер туралы біліміміз артқан сайын қажетті қорғаныс шараларына берген бағамыз өзгеруі мүмкін.

Бұған дейін айтқанымыздай,⁠ жуырда мониторинг, адам мақсаттарымен үйлестіру және қорғаныс стандарттарын жаңарттық. Мұнда соңғы шектеулердің зерттеу жұмысының бір қырына қалай әсер еткенін көрсетеміз.

20 шілдеде агенттердің зерттеу инфрақұрылымымыздың қорғанысын бұзғаны анықталған соң, оқытуға қолданылатын контейнер қызметін уақытша тоқтаттық, кейін елеулі қосымша шектеулермен қайта іске қостық.

Командалар жұмыс процестерін қорғанысы күшейтілген зерттеу ортасына бейімдеген кезде, RL оқытуына жұмсалатын есептеу ресурстары күрт азайды. Жоғарыдағы график қолданысқа енгізуге арналған соңғы модельдерімізді күшейтпелі оқытуға енгізілген екі апталық үзілісті қамтиды. 20 шілде мен 6 тамыз аралығындағы Astra класындағы RL эксперименттерінің басым бөлігі (GPU ресурстарын бөлу бойынша) қауіпсіздік пен қорғаныс саласындағы жақсартулардың іске асырылуын тексеруге арналды.

7 тамызда Astra моделінің Дайындық шеңбері⁠ бойынша аса қауіпті кибермүмкіндіктері болуы ықтимал⁠(жаңа терезеде ашылады) деген бастапқы деректер осы модельге қосымша қорғаныс шектеулерін енгізуге негіз болды. Бұл шектеулер Astra моделін қорғаныс деңгейі жоғары зерттеу орталарында іске қосуды талап етті. Келесі аптада Astra класына бөлінген GPU көлемі тағы 59,2 пайызға қысқарды, ал басқа модель кластарына бөлінген көлем 17,2 пайызға өсті. Бұл өсім Astra класындағы азаюдың шамамен 85 пайызын өтеп, талданған RL есептеу тапсырмаларына бөлінген жалпы ресурс көлемін негізінен өзгеріссіз қалдырды. Бұл үрдіс Astra-мен байланысты жұмыстар шектелген кезде оқыту мен эксперименттердің бір бөлігі Astra-дан өзге модельдерге ауысқанымен үйлеседі. Сондай-ақ бұл жаңа шектеулер қамтитын тапсырмаларға енді пайдалануға болмайтын есептеу ресурстарын зерттеушілердің басқа мақсаттарға жұмсағаны туралы жекелеген мәліметтерге сәйкес келеді.

Бұл деректер оқыту мен қауіпсіздік туралы талқылауларға маңызды бағдар береді: жаңа бақылау шаралары енгізілгенде де есептеу ресурстары құнды әрі икемді болып қалады және зерттеу аясындағы өзге жұмыстарға табиғи түрде бағытталады. Ұзақ мерзімде ЖИ дамуының қарқыны туралы талқылауларда жаңа немесе ұсынылған бақылау шараларына жататын есептеу ресурстарын қалай тиімді пайдалануға болатынын да қарастыру керек.

Адам мақсаттарына сай RSI жолында ілгерілеу және сол ілгерілеуді түсіну миссиямыз үшін маңызды. Әдістерімізді жетілдіруді, өзгеріп жатқан түсінігіміз туралы есеп беруді, озық жүйелер жөніндегі хабардар қоғамдық пікірталас пен пәрменді демократиялық басқаруға ұмтылуды жалғастырамыз.

Агенттер көмегімен жүргізілетін ЖИ зерттеуі әлі жаңа құбылыс, әрі оны қалай өлшеу керегін де әлі үйреніп келеміз. Зерттеу командалары жасайтын код көлемі сияқты кейбір көрсеткіштерді жинау салыстырмалы түрде оңай, бірақ олардың зерттеу ілгерілеуімен байланысы анық болмағандықтан, оларды түсіндіру қиын. Зерттеу ілгерілеуіне тікелей бағытталған көрсеткіштер, мысалы, агенттердің зерттеушілер берген тапсырмаларды қаншалықты жиі сәтті орындайтыны, пайдалырақ болуы мүмкін, бірақ оларды әзірлеу және тексеру күрделі. Бұған қоса, зерттеушілер сүйенетін құралдар мен жүйелер жылдам дамып келеді, бұл өлшеуді одан әрі қиындатады. Зерттеудің жеделдеуін тереңірек түсіну — бүкіл OpenAI аясындағы маңызды бағыт.

Осы талдаулардың барлығында, өзгеше көрсетілмесе:

• «Зерттеуші» — зерттеу ұйымымыздың кез келген мүшесін қамтитын кең ұғым. Оған зерттеу инфрақұрылымын құратын, жобаларды басқаратын не ұйым жұмысын өзге жолмен қолдайтын кей қызметкерлер де кіреді.

• Зерттеушілер қолданатын құралдар мен жүйелер тез өзгеретіндіктен, бағдарламалау агенттерін пайдалану көрсеткіштері қолданыстың басым бөлігін қамтиды, бірақ бәрін емес.