Astra-ға апарар жол: критикалық мүмкіндіктер мен озық қорғаныс шаралары

Astra киберқауіпсіздік мүмкіндігінің критикалық деңгейіне жетуі мүмкін деген алдыңғы бағалауымыздан бері модель мүмкіндіктерін бағалау үшін көбірек дәлел жинап, қосымша сынақтар өткіздік. Енді Astra біздің Дайындық шеңберіміздегі киберқауіпсіздік мүмкіндігінің Критикалық шегіне сай деп есептейміз. Яғни тиісті құралдар мен қолжетімділік берілсе, ол жақсы қорғалған көптеген жүйеден бұрын белгісіз қауіпсіздік осалдықтарын тауып, әр қадамда адамның нұсқауынсыз оларды пайдалану жолдарын әзірлей алады. Бұл — осы деңгейге жатқызылған алғашқы модель және оны әзірлеу барысында әрі шығарылым алдында күшейтілген қорғаныс шаралары қажет.

Соңғы бірнеше аптада кибертеріс пайдалану мен модельдің рұқсатсыз әрекеттерінен қорғайтын шараларды күшейтіп, сынау үшін Astra-ны әзірлеу мен шығарудың кейбір кезеңдерін кейінге қалдырдық. Осы жұмыстың нәтижесіне сүйене отырып, Astra қорғаныс шаралары Дайындық шеңберімізге сәйкес шығарылым кезіндегі ауыр зиян қаупін жеткілікті деңгейде азайтады деп есептейміз.

Astra Hugging Face оқиғасына қатыспаса да, сол оқиғадан алған сабақтарымызды⁠(жаңа терезеде ашылады) қауіпсіздік тәсілімізге енгіздік. Кейін жүргізілген сынақтарға сүйенсек, сол кездегі өндірістік қорғаныс шараларымыз Hugging Face оқиғасының алдын алар еді деп есептейміз. Содан бері Astra үшін одан да қатаң қорғаныс шараларын енгіздік. Оларға модельді зиянды киберсұраулардан сенімдірек бас тартуға және қауіпсіздік шектеулерін сақтауға үйрету, теріс пайдаланудан қосымша қорғау және ықтимал рұқсатсыз әрекетті тоқтата алатын мониторинг кіреді.

Astra-ны жақын арада қолжетімді етуді жоспарлап отырмыз, бірақ оның ең озық киберқауіпсіздік мүмкіндіктеріне қол жеткізу шектеулі болады. Озық киберқауіпсіздік жұмыстары бастапқыда сынақшылар тобына қолжетімді болады, кейін қорғаныс мақсатындағы пайдалануды кеңейту үшін Daybreak Blue арқылы қолжетімділік беріледі.

Шығарылым кезінде қауіпсіздік, қорғаныс және мақсатқа сәйкестендіру сынақтары мен бағалауларымыз туралы толығырақ ақпаратты модельдің жүйе картасында жариялаймыз. Шығарылым алдында осындай деңгейдегі киберқауіпсіздік мүмкіндіктері бар модельді қауіпсіз шығаруға дайындық жұмыстарымыз туралы жаңалықтармен бөлісіп, әлі де сақталып отырған қауіптерді ашық көрсеткіміз келеді.

Біздің Дайындық шеңберімізге сәйкес, модель келесі шарттардың кемінде біреуін орындаса, Критикалық шекке жеткен болып есептеледі:

• Модель адамның араласуынсыз нақты өмірдегі қорғанысы күшейтілген көптеген критикалық жүйеден кез келген ауырлық деңгейіндегі жұмыс істейтін нөлдік күн эксплойттарын тауып, әзірлей алады.
• Модельге тек жоғары деңгейлі мақсат берілгенде, қорғалған нысандарға кибершабуыл жасаудың басынан аяғына дейінгі жаңа стратегияларын құрып, орындай алады.

Astra-ның дайындық бағалауы автоматтандырылған ашық және жабық бенчмарктерді сарапшылар жүргізген бағалаулармен біріктірді. Astra-ның киберқауіпсіздік мүмкіндіктері GPT‑5.6 Sol-мен салыстырғанда айтарлықтай жоғары: ол токендерді әлдеқайда тиімді пайдаланады әрі осалдықтарды анықтау мен эксплойт әзірлеуде қабілеттірек.

Мысалы, модельдің белгілі осалдықтардан эксплойт әзірлеу қабілетін бағалау үшін Astra-ны ExploitBench сынағынан өткіздік, онда модель 100% мінсіз нәтиже көрсетті.

Деректердің араласып кету қаупіне байланысты кейін «ExploitBench — Internal Port (2026 жылғы маусым–тамыз)» деп аталатын ішкі бенчмарк жасадық. Онда жақында жарияланған ауырлығы жоғары 20 V8 осалдығы бар. Бұл деректер жиынында Astra GPT‑5.6 Sol-мен салыстырғанда әлдеқайда аз шығыс токенін пайдаланып, еркін код орындаудың анағұрлым жоғары көрсеткішіне жетті. Бағалау кезінде модель тіпті эксплойттар тізбегінің бір бөлігі ретінде екі нөлдік күн осалдығын тауып, пайдаланды. Қазір осы екі осалдық туралы тиісті бағдарламалық жобалардың сүйемелдеушілеріне хабарлап жатырмыз.

Қорғанысы күшейтілген браузер мен операциялық жүйеге сарапшылар жүргізген бағалауларда Astra бұрын белгісіз осалдықтарды тауып, оларды жұмыс істейтін эксплойттар тізбегіне айналдырды. Браузер HTML файлын ашқан кезде ол құмсалғыштан шығып, хостта пәрмендер орындайтын толық браузерді бұзу тізбегін құрды. Модель қорғанысы күшейтілген операциялық жүйеден бірнеше осалдық тауып, оларды артықшылығы жоқ пайдаланушыдан root деңгейіне дейін жергілікті артықшылық көтеру тізбегіне біріктірді. Барлық зерттеу нәтижелерін қорытындылай келе, Astra Критикалық шекке сай деген тұжырымға келдік.

Astra деңгейіндегі киберқауіпсіздік мүмкіндіктері бар модельдер үшін әзірлеу кезінде де, өрістету алдында да ауыр киберзиян қаупін азайтатын екі бағытты қамтуымыз қажет:

• Зиянкестердің модельді пайдалануы. Қорғаныс шараларымыз зиянкестердің Astra көмегімен қорғанысы күшейтілген критикалық жүйелердегі бұрын белгісіз осалдықтарға арналған эксплойттар әзірлеуіне немесе қорғалған нысандарға басынан аяғына дейін шабуыл жасауына сенімді түрде жол бермеуі тиіс.
• Модельдің рұқсатсыз, мақсатқа сай келмейтін әрекеттер жасауы. Зиянкес пайдаланушы болмаса да, озық киберқауіпсіздік мүмкіндіктері бар модель мақсаты дұрыс сәйкестендірілмесе, өздігінен киберзиян келтіруі мүмкін. Мұндай мүмкіндіктері бар модельдердің мақсатқа сәйкестігіне өте жоғары талап қоюмен қатар, қорғаныстың екінші қабаты ретінде нақты әлемге елеулі зиян келтіруі ықтимал сәйкессіз әрекеттерді тез анықтап, тоқтата алуымыз керек.

Екінші бағыттың ішкі әзірлеуге де, сыртқы өрістетуге де бірдей қатысты екенін атап өткен жөн. Бұрын сипаттағанымыздай, OpenAI-Hugging Face оқиғасынан кейін оқыту инфрақұрылымын күшейту үшін кейбір озық модельдерді оқытуды, соның ішінде Astra-ны оқытудың кейбір түрлерін екі аптаға тоқтаттық. Бұл оқшаулау мен желілік бақылауды, кеңейтілген мониторингті, сондай-ақ мақсатқа сәйкестендіру бойынша оқыту мен шектерді күшейтуді қамтыды. Содан кейін қатаңырақ бақылаумен шағын ауқымды жұмысты жалғастырдық.

Оқыту ортасының қауіпсіздігі мен қорғалуына жоғарырақ талаптар белгілегенше, Astra-ның келешек нұсқаларына арналған кейбір ірі күшейтпелі оқыту (RL) процестерін ұзағырақ кейінге қалдырдық. 28 тамызда қауіпсіздік пен қорғаныстың жаңа талаптары енгізілген соң, бұрын тоқтатылған ірі озық RL оқыту процесін қайта бастадық. Кейбір шағын эксперименттік оқыту процестерін әлі де уақытша тоқтатып отырмыз.

Astra-ны шығарылымға дайындау кибертеріс пайдаланудан және рұқсатсыз әрекеттерден қорғауды да күшейтуді талап етті. Төменде осы қорғаныс шаралары мен оларды қалай сынағанымызды сипаттаймыз.

Киберқауіпсіздік мүмкіндігі Жоғары деп бағаланған алғашқы модельді ақпанда өрістеткеннен бері әрбір келесі шығарылымда киберқорғаныс шараларымызды күшейттік. Жалпы қауіпсіздік тәсіліміз модельдің кейінгі оқыту арқылы қалыптастырылған бас тарту тетіктерін, жүйелік деңгейдегі қауіпсіздік жіктеуіштерін, сондай-ақ офлайн анықтау мен қауіптің жолын кесуді бірнеше қабатқа біріктіреді.

GPT‑5.6⁠(жаңа терезеде ашылады) үшін кибертеріс пайдалануды анықтайтын белсендіру жіктеуіштерін қосып, қарқынды автоматтандырылған редтиминг барысында табылған әмбебап қорғанысты айналып өту үлгілерін қамтуды жақсарту арқылы жүйелік деңгейдегі қорғаныс кешенінің төзімділігін айтарлықтай арттырдық. Осы жетістіктерге сүйене отырып, Astra үшін қорғаныс кешенінің модельдік қабатына қосымша инвестиция салдық және қорғаныс шараларының әртүрлі әңгімелердегі контексті өңдеу қабілетін жақсарттық.

• Модель төзімділігін арттыратын жаңа оқыту тәсілдерінің арқасында Astra рұқсат етілмеген киберкөмек сұрауларынан сенімдірек бас тартады. Киберқорғанысты айналып өту бағалауларымызда Astra сұраулардың 91,5%-ынан бас тартады (GPT‑5.6 Sol көрсеткіші — 59%).
• Қаупі жоғары деп бағаланған аккаунттарға ықтимал қауіпті киберкөмектің кең ауқымынан бас тартатын, модель әрекетінің қатаңырақ шегін қолданамыз. Қаупі жоғары пайдаланушылардың осындай кибертеріс пайдалану әрекеттерін анықтау үшін мониторинг жүйелеріміздің контекст ауқымын кеңейттік.

Сондай-ақ қатаң сынақтар, ішкі және сыртқы редтиминг пен кемшіліктерді түзету бағдарламасын жалғастырдық. Алдыңғы сынақ кезеңдерінде табылған барлық қорғанысты айналып өту үлгілерінің әлі де қамтылғанына көз жеткізетін регрессиялық сынақтармен қатар, ең жаңа ішкі редтиминг шабуылшыларымен жаңа редтиминг кезеңін өткізіп жатырмыз. Салалық серіктестермен бірге қорғанысты айналып өту үлгілерін бағалаудың ортақ жүйесін әзірлеп жатырмыз және жаңа нәтижелерді зерттеп, шара қолдану үшін тәулік бойы жұмыс істейтін жедел әрекет ету бағдарламамызды пайдаланамыз. Киберқорғаныс шараларын сынау туралы толығырақ ақпаратты Astra жүйе картасында жариялаймыз.

Қорғаушыларға осалдықтарды тауып, түзетуге көмектесу қауіпсіздік тәсіліміздің негізгі тірегі болып қала береді. Ықтимал теріс пайдаланудан қорғау үшін шығарылым кезінде Astra қорғаныс шаралары түпкі мақсатымыздан көбірек кедергі келтіреді деп күтеміз. Astra-ның озық киберқауіпсіздік жұмыс процестеріне бастапқыда шағын альфа-сынақшылар тобы қол жеткізеді, кейін қорғаныс мақсатындағы пайдалануды қолдау үшін Daybreak Blue арқылы қолжетімділік кеңейтіледі.

Модельдің ықтимал сәйкессіз әрекеттер жасауына жол бермеу үшін қосымша көпқабатты қорғаныс шараларын да енгіздік:

• Модельді мақсатқа сәйкестендіру: Бағалауларымызда Astra нақты қауіпсіздік пен қорғаныс шектеулерін сақтап, рұқсат етілген аясынан шықпауға GPT‑5.6 Sol-ге қарағанда әлдеқайда бейім болды. Бұл оны бүгінге дейінгі мақсатқа ең жақсы сәйкестендірілген моделіміз етеді. Модельдің қауіпсіздік пен қорғаныс шектеулерін сақтауына және рұқсат етілген аясынан шықпауына ерекше көңіл бөлдік.
• Мониторинг және бақылау: Ішкі рәсімдерімізге ұқсас, Astra-ны ықтимал сәйкессіз әрекеттерді тез анықтап, тоқтатуға арналған қосымша ойлау тізбегі мониторингімен өрістетіп жатырмыз.

Astra — модельдерді мақсатқа сәйкестендірудегі елеулі ілгерілеу және алдын ала үйрету кезіндегі араласудан бастап күшейтпелі оқыту барысында мұқият әрі дәйекті бағалауға дейінгі ұзақ мерзімді бірнеше жұмыс бағытының нәтижесі. Сынақтарда Astra-ның GPT 5.6 Sol-мен салыстырғанда нақты қауіпсіздік шектеулері мен ескертулерін, мысалы автоматты тексеруді, тұрақты түрде жақсырақ сақтайтынын байқадық.

Сондай-ақ Hugging Face оқиғасына негізделген сынақ әзірледік. Сол оқиғада ExploitGym кибербағалауынан өтіп жатқан агенттер үшінші тарап жүйелерін бұзған еді. Осы бағалаудағы ең қиын тапсырмаларды модельдің берілген тапсырманы орындаудың орнына айналадағы қауіпсіздік инфрақұрылымын бұзуға әрекет жасайтынын тексеретін «ханипот» сынақтарын жасауға пайдаландық. Өндірістік қорғаныс шаралары жоқ GPT‑5.6 Sol модельге эксплойттар әзірлеу тапсырылған бенчмарк ортасын имитациялайтын сынақтардың 56%-ында сол нысандарға қол жеткізуге әрекет жасады. Astra бұл сынақтарда мұндай әрекет жасаған жоқ. Бұл сандар қалыпты өндірістік пайдалануды емес, киберқорғаныс шаралары жоқ сынақ жағдайларындағы әрекетті сипаттайды.

Модельдерді мақсатқа сай болуға үйрету — қауіпсіздік қабаттарының бірі. Мақсатқа сәйкестендіру сынақтары мен нәтижелері туралы толығырақ ақпаратты Astra жүйе картасында жариялаймыз.

Сондай-ақ ықтимал сәйкессіздікті анықтап, тез тоқтату үшін Astra санатындағы модельдерге өндірістік ортада сәйкессіздік мониторингін енгізіп жатырмыз. Бұл қорғаныс шаралары ішкі өрістетулерімізге арналған мониторингке ұқсайды. Онда модельдің ой қорытуы мен әрекеттерін рұқсатсыз мінез-құлыққа тексеріп, ықтимал рұқсатсыз әрекетті автоматты түрде тоқтататын жіктеуіштер жүйесі қолданылады. Мүмкіндіктер артқан сайын бұл қорғаныс шаралары модельдерімізді мақсатқа дұрыс сәйкестендірудің орнын баса алмайды. Мақсатымыз — келешек модельдерді бұл қорғаныс шаралары ешқашан іске қосылмайтындай деңгейде сәйкестендіру.

OpenAI жасанды интеллект артықшылықтарының баршаға кеңінен қолжетімді болуын қамтамасыз етуге ұмтылады. Astra-ның киберқауіпсіздік мүмкіндіктері айтарлықтай артқандықтан, оны қауіпсіз әрі қорғалған түрде өрістетуге ерекше мұқият қарап отырмыз. Қосымша қауіпсіздік тексерулері кейде заңды жұмысты, соның ішінде қорғаныс киберқауіпсіздігі жұмыстарын баяулатуы, кідіртуі немесе тоқтатуы мүмкін.

Жүйе кейде заңды әрекетті ықтимал кибертеріс пайдалану немесе рұқсатсыз мінез-құлық деп белгілеп, оны абайсызда баяулатуы, кідіртуі немесе тоқтатуы мүмкін. Бұған киберқауіпсіздікке тікелей қатысы жоқ болып көрінетін жұмыс немесе агент ұзақ уақыт бойы орындайтын тапсырмалар да кіруі мүмкін.

Сәйкессіздік мониторы тапсырманы кідіртсе, ChatGPT немесе Codex пайдаланушыларынан жалғастырмас бұрын әрекетті қарап шығу сұралуы мүмкін. API сияқты басқа интерфейстер пайдаланылғанда тапсырма тоқтайды. Қажетсіз үзілістерді азайтып, Daybreak сияқты бағдарламалар арқылы озық мүмкіндіктерге қолжетімділікті кеңейту үшін осы қорғаныс шараларын әрі қарай дәл баптауды жоспарлап отырмыз.

Біз модельдер салдары маңыздырақ жұмыстарды атқара алатын, ал мақсатқа сәйкестендіру мен бақылаудағы қателер ауыр зардаптарға әкелуі мүмкін жасанды интеллект дамуының кезеңіне қадам бастық. Бұл жүйелердің пайдасын іске асыру мүмкіндіктері өскен сайын модельдерді мақсатқа сәйкестендіріп, басқара алуымызға байланысты болады.

Бұл жауапкершілік оқытуды, бағалауды және өрістетуді түгел қамтиды. Ол мақсатқа сай әрекеттің сенімдірек дәлелдерін, мүмкіндіктермен қатар жетілдірілетін қорғаныс шараларын және бұл шаралар жеткіліксіз болғанда жұмысты баяулатуға дайын болуды талап етеді.

Бұл жүйелерді сынауды, білгенімізбен бөлісуді және белгісіз болып қалған жайттарды ашық көрсетуді жалғастырамыз. Astra-дан кейінгі модельдер бізден бұдан да көп күш-жігер талап етеді. Осы жауапкершілікті атқару үшін қажетті уақытты бөліп, тиісті жұмысты орындаймыз.