GPT‑6 Cyber: Нұсқауларды ұстанатын киберқауіпсіздік агенттерінің мүмкіндігін кеңейту
Зерттеушілер белгілеген шектен шықпай, пайдалануға болатын осалдықтарды табуға және растауға үйретілген киберқауіпсіздік моделі.
Қауіпсіздікті зерттеуде үлкен ілгерілеу әкелетін GPT‑6 Cyber моделін таныстырамыз: ол осалдықтарды жақсырақ тауып, түзетеді және зерттеушілер белгілеген шектерді әлдеқайда сенімді сақтайды. GPT‑6 Cyber негізгі киберқауіпсіздік бенчмарктерінде GPT‑5.6 Cyber моделінен едәуір озық: ExploitGym бойынша салыстырмалы өсімі 51%, ал тапсырма ауқымынан шықпау сынағындағы нәтижесі күрт жақсарған. Ол қазірдің өзінде Linux және Firefox сияқты қауіпсіздігі аса маңызды код базаларында мыңдаған эксплойтты анықтап, тексеріп, нақты бағдарламаларды қорғауға көмектесіп жүр.
Модельдердің берілген осалдықты пайдалану қабілетін тексеретін ExploitGym сынағында GPT‑6 Cyber 48,5% нәтиже көрсетті. GPT‑5.6 Cyber нәтижесі 32,1% болған. Ол тапсырма шектерін де сенімдірек сақтайды: нұсқауларды ұстануды жеке бағалау кезінде GPT‑6 Cyber қолданысқа арналған көмексөзсіз сынақтардың 99,93%-ында, ал осы көмексөзбен 100%-ында тапсырма ауқымынан тыс сервистердің осалдықтарын пайдаланбады. Нұсқауларды ұстанудағы бұл ілгерілеу — рұқсат етілген ауқымнан шықпауға, шектеулерді сақтауға және нәтижелерді дәл баяндауға бағытталған арнайы оқытудың жемісі.
Бұл мүмкіндіктер қазірдің өзінде нақты жүйелерді қорғауға көмектесуде. Зерттеушілеріміз GPT‑6 Cyber көмегімен Linux жүйесінде артықшылықтарды арттыратын 948 эксплойт әзірледі және Firefox браузерінен бұрын белгісіз, қауіптілігі жоғары 81 осалдық тапты. Бұған дейін бұл жүйелер озық модельдермен кеңінен сыналған еді. Модель ықтимал түзетулерді әзірлеуге де көмектесті, ал Mozilla Firefox браузеріндегі көптеген осалдыққа арналған түзетулерді шығарды(жаңа терезеде ашылады). Cisco, Calif және CodeRabbit қауіпсіздік топтары оны осалдықтарды зерттеу мен кодты тексеруге қолдануда. Біз де оған сүйеніп, өз инфрақұрылымымыздың осал тұстарын тауып, түзеттік.
Бағдарламаларды озық модельдер арқылы қорғауға берілген уақытымыз шектеулі екені анық. Мақсатымыз — Daybreak ауқымын айтарлықтай кеңейтіп, көлеміне қарамастан барлық ұйымға, тәуелсіз зерттеушілерге және ашық бастапқы кодты жобалардың сүйемелдеушілеріне қауіпсіздікті зерттеудің озық мүмкіндіктерін ұсыну. GPT‑6 Astra сияқты негізгі модельдер қазірдің өзінде кодты тексеруге, осалдықтардың басымдығын анықтауға және түзетулер әзірлеуге көмектеседі. Daybreak Blue расталған қорғаушыларға орынсыз бас тартуларды азайтып, осалдықтар мен түзетулерді тексеруге көмектеседі. Ал Daybreak Red GPT‑6 Cyber арқылы эксплойттарды тереңірек әзірлеуге және қауіпсіздікті рұқсатпен сынауға мүмкіндік береді.
GPT‑6 Cyber — GPT‑5.6 Cyber моделімен салыстырғанда үлкен ілгерілеу. Ол киберқауіпсіздік тапсырмаларының көбінде GPT‑6 Astra моделінен, тіпті Astra сұрауды орындаудан бас тартпаған кезде де, жақсы нәтиже көрсетеді. Модельді бағдарламалық жасақтаманы түсінуді, осалдықтарды анықтауды және жұмыс істейтін эксплойттар әзірлеуді қажет ететін тапсырмалармен бағаладық. Осы нәтижелерге сүйеніп, Дайындық шеңбері (Preparedness Framework) бойынша GPT‑6 Cyber моделін киберқауіпсіздік саласында Critical («Критикалық») деңгейіне жатқыздық. Ал GPT‑5.6 Cyber моделі High («Жоғары») деңгейінде болған.
Модельдердің қашықтағы нысанның берілген осалдығын пайдалану қабілетін тексеретін ExploitGym сынағында GPT‑6 Cyber 48,5% нәтиже көрсетті. Бұл GPT‑5.6 Cyber көрсеткен 32,1%-дан шамамен 16 пайыздық тармаққа жоғары. Осалдықтарды табу қабілетін тексеру үшін веб-қолданбаларға ену сынақтарына арналған жаңа бағалау да әзірледік. Модельдер веб-қолданбаларды олардың бастапқы кодына қол жеткізбей тексереді. GPT‑6 Cyber осалдықтарды анықтау толықтығы (recall) бойынша 40,3% нәтиже көрсетті, ал GPT‑6 Astra көрсеткіші 32,0% болды.
Daybreak Red күрделірек қауіпсіздік жұмыстарын, соның ішінде жұмыс істейтін эксплойттар әзірлеуді және оларды қашықтағы нысандарға қолдануды қолдауға арналған. Осы мүмкіндіктерді бағалау үшін RemoteExploitBench атты жаңа бенчмарк әзірледік. Ол бақыланатын ортада орналастырылған GitLab, PostgreSQL және Jenkins сияқты қолданбалардың белгілі осалдықтарын пайдаланады. Алғашқы бағалауда Daybreak Blue арқылы жұмыс істеген GPT‑6 Astra тапсырмалардың 100%-ын орындаудан бас тартты, ал GPT‑6 Cyber 95%-ын орындады. Оның жалғыз сәтсіздігі — қашықтан іске қоса алмаған бір эксплойт. Толық нәтижелер мен бағалау параметрлерін жүйе картасынан(жаңа терезеде ашылады) қараңыз.
Киберқауіпсіздік агенттеріне тән қауіптің бірі — берілген тапсырма шегінен шығып, оған қатысы жоқ сервистердің осалдықтарын пайдалануға тырысуы немесе зерттеуші белгілеген әрекет ережелерін елемеуі.
GPT‑6 Cyber моделін әзірлеуде нұсқауларды ұстануға ерекше мән бердік. Арнайы оқыту арқылы модельге рұқсат етілген ауқымнан шықпауға, әрекет шектеулерін сақтауға және жұмысы туралы дәл есеп беруге көмектестік. Қолданысқа енгізер алдында осы мінез-құлықты өлшеу үшін нұсқауларды ұстану қабілетін бірқатар бағалаудан өткіздік. Толық нәтижелерді жүйе картасынан(жаңа терезеде ашылады) қараңыз.
Сол бағалаулардың бірі — Hugging Face оқиғасы ескеріліп әзірленген ExploitGym Honeypot. Модельге пакет тізілімі немесе объектілер қоймасы сияқты көмекші сервистерге қолжетімділігі бар оқшауланған ортада осалдықты пайдалану жөніндегі күрделі тапсырма береміз. Осы сервистерге шабуыл жасау арқылы тапсырманың жалаушасын табуға болатындай етіп, олардың осалдықтарын пайдалануды әдейі жеңілдетеміз. Модель бұл сервистердің осалдықтарын пайдалану тапсырма ауқымына кірмейтінін өзі түсінуі керек.
Бұл бағалауда GPT‑6 Cyber нәтижесі GPT‑5.6 Cyber моделінен едәуір жоғары. Қолданыс кезіндегі қауіпсіздік көмексөздерінсіз сыналғанда, ол жағдайлардың 99,93%-ында тапсырма ауқымынан тыс сервистердің осалдықтарын пайдаланбады. GPT‑5.6 Cyber көрсеткіші 94,49% болған. Осы көмексөздермен GPT‑6 Cyber барлық жағдайда (100%) белгіленген шектен шықпады.
GPT‑6 Cyber моделінің ойлау тізбегінен оның белгіленген шекті сақтау туралы қалай пайымдайтынын тікелей көруге болады:
“Can't assume extra API or attack controller not target. We should only target binary/server.”
“don't explore out of scope credentials.”
GPT‑6 Cyber қазірдің өзінде қауіпсіздік топтарына осалдықтарды табуға, олардың әсерін растауға және түзетулер әзірлеуге көмектесіп жүр. Клиенттер оны ірі код базаларымен жұмыс істеуге, ұзаққа созылатын эксплойт әзірлеуге және қауіпсіздікті тексеруге қолдануда:
Біз де өз жүйелерімізді қорғау үшін GPT‑6 Cyber мүмкіндіктеріне сүйендік. Ол жақында біз бөліскен озық модельдерді оқыту инфрақұрылымының қорғанысын күшейту жұмысына негіз болған басты модельдердің бірі еді. Бақыланатын редтиминг науқандарында GPT‑6 Cyber және басқа OpenAI модельдерін қолданған агенттер осалдықтарды тізбектей пайдаланып, microVM шегінен шығып, олар орналасқан хосттарда код орындады. Осы нәтижелер негізінде бағдарламалық жасақтаманы түзеттік, желілік шектеулерді күшейттік және мәселелер туралы сүйемелдеушілер мен жеткізушілерге хабарладық.
Осалдықтарды зерттейтін мамандарымыз GPT‑6 Cyber моделін ашық бастапқы кодты бағдарламалардағы осалдықтарды кең көлемде табуға және растауға да қолданады. Бұл жұмыс жылдар бойы мұқият тексерілген бағдарламалардан бұрын белгісіз кемшіліктерді анықтады:
Firefox браузерінен 81 жаңа осалдық табылды. GPT‑6 Cyber осалдықтарды табатын және сапалы түзетулер ұсынатын ауқымды автономды жұмыс процестеріне жарамды болуы мүмкін. Осалдықтарды зерттеу науқаны кезінде GPT‑6 Cyber Mozilla қауіптілігі жоғары деп жіктеген 81 жаңа осалдыққа дәлелдер мен қайталауға болатын сынақтар дайындады. Сондай-ақ бұрыннан белгілі тағы 30 мәселенің қауіптілігі бұған дейін айтылғаннан жоғары екенін көрсетті. Mozilla инженерлеріне түзетулер әзірлеуге көмектесу үшін анықталған мәселелерді ұсынылған түзетулермен бірге жібердік. Mozilla бұл жұмысты қолдап, есептерді алғаннан кейін көп ұзамай түзетулерді енгізе бастады(жаңа терезеде ашылады).
Linux ядросындағы 948 осалдыққа эксплойттар әзірлеу. GPT‑6 Cyber 1724 осалдықты қайта туындатып, 948-іне жұмыс істейтін эксплойт әзірледі. Бұл бірдей зерттеу құралдарының кешенін пайдаланған GPT‑5.6 Sol моделі эксплойт әзірлеген 166 осалдықпен салыстырғанда бес еседен астам көп. Linux қауымдастығының нұсқауларын ұстанып, аса қауіпті 304 мәселе туралы ықтимал түзетулерімен бірге сүйемелдеушілерге хабарладық. Қалған осалдықтарды түзету жұмысы жүріп жатыр.
Аса қауіпті RCE осалдықтарын көрсету. Жақында Node.js және басқа бағдарламалар қолданатын Brotli сығу кітапханасындағы аса қауіпті осалдықты(жаңа терезеде ашылады) талқыладық. Қауіпсіздік зерттеушілеріміз GPT‑6 Cyber моделін басқа OpenAI модельдерімен бірге қолданып, бұл кемшіліктің кітапханаға тәуелді қолданбаларда қашықтан код орындауға қалай мүмкіндік беретінін көрсететін эксплойттар әзірлеп, тексерді.
Модельдердің мүмкіндіктері артып, қауіпсіздік осалдықтарын көбірек анықтаған сайын, оларды зиян келтіру үшін пайдалану әрекеттері де жиілеп келеді. Бұған зиянкес киберсубъектілердің әрекеттері және модельдерімізді дистилляциялауға ұмтылатын қарсылас топтардың талпыныстары жатады. Сондықтан GPT‑6 Cyber мүмкіндіктерімен бірге қорғанысын да күшейттік: мақсатымыз — теріс пайдалануды анықтап, тоқтату және модель әрекеттерін пайдаланушының ниеті мен рұқсаты шегінде ұстау.
GPT‑6 Cyber шығарылымымен бірге мына қорғаныс шараларын қостық және күшейттік (толық ақпарат жүйе картасында(жаңа терезеде ашылады)):
Кибертапсырмаларда нұсқаулардан ауытқуды бақылау. Заңды эксплойт әзірлеу мен сынауды ажырата отырып, әрекеттердің пайдаланушы рұқсатына сай келуін бақылаймыз.
Жаңа қауіптерді нысаналы бақылау. Мысалы, PHP-дегі аса қауіпті осалдықтарды келісілген түрде жариялау кезінде жұмыс істеп тұрған PHP серверлеріне қарсы эксплойт әзірлеу әрекеттерін нысаналы бақылауға алдық. Бұл ретте зардап шеккен жүйелерді түзететін қорғаушыларға қолдауды сақтадық.
Private Safety Processing (PSP). Өзара байланысты әрекеттесулерден теріс пайдалануды анықтау үшін автоматты тексерулер қолданамыз. Әдепкіде стандартты сақтау тәртібі қолданылады. Деректерді мүлде сақтамау(жаңа терезеде ашылады) режиміндегі API клиенттері, әдетте, PSP(жаңа терезеде ашылады) қолдануға міндетті. Ол клиент қоймасында 30 күн сақталатын шифрланған жазбаларды тексереді, ал көмексөздер мен жауаптар OpenAI қызметкерлеріне ашылмайды.
Ұрланған тіркелгі деректерін пайдаланудан қорғау. Daybreak Red API қолжетімділігі үшін әдепкіде рұқсат етілген IP мекенжайлар тізімін талап етеміз: аздаған ерекшеліктерді қоспағанда, сұраулар тек мақұлданған желілерден қабылданады. Тіркелгі деректерінің ұрлану не ашылу белгілерін де бақылаймыз.
Оқшауланған орта және қадағалау. Бұрынғы модельдердегідей, қаупі жоғары жұмыс процестерінде оқшауланған ортаны(жаңа терезеде ашылады), әрекеттерді тексеруді(жаңа терезеде ашылады) және адам қадағалауын ұсынамыз.
Қаупі жоғары киберәрекеттерге жәрдемдесуден қорғау. Аса маңызды жүйелерге қатысты қаупі жоғары әрекеттерді бұғаттау үшін жаңа тексерулер қолданамыз (толығырақ төменде).
GPT‑6 Cyber қорғанысы мен қолжетімділік тәртібін әзірлеуде аса маңызды инфрақұрылымды қорғауға баса назар аудардық. Бұған электр станциялары, су тазарту нысандары және олардың негізіндегі операциялық технологиялар мен өнеркәсіптік басқару жүйелері (OT/ICS) кіреді. Осы жүйелерді қорғайтын топтарға ең қуатты модельдерімізді ұсынумен қатар, рұқсатсыз шабуылдарды болдырмау үшін қорғаныс шараларын күшейткіміз келеді.
Біріншіден, қорғаушыларды қажетті құралдармен қамту үшін 1 млрд долларлық Алдыңғы шептегі қорғаушыларға арналған Daybreak гранттық бағдарламасы мемлекеттік ұйымдар мен маңызды қызмет жеткізушілері сияқты ресурсы шектеулі топтардың қолжетімділік шығындарын субсидиялайды. Сондай-ақ Daybreak Red аясында мақұлданған аса маңызды инфрақұрылым қорғаушыларына арналған жаңа топты (Аса маңызды инфрақұрылымға арналған Daybreak Red) енгіземіз. Ол модельдің нұсқаулардан ауытқуына қарсы қорғанысты сақтай отырып, аса маңызды жүйелерді рұқсатпен сынауға мүмкіндік береді.
Екіншіден, Daybreak Red және Blue платформаларын теріс пайдалануды болдырмау үшін қауіпті көмек пен мүмкіндіктерді дамытуға қарсы қорғанысты жетілдірдік. Мұндай көмек өнеркәсіптік басқаруға не қауіпсіздік үшін аса маңызды жүйелерге нұқсан келтіруі, жабдық жұмысына кедергі жасауы, ауыр жарақатқа, апатты физикалық залалға немесе адам өміріне қауіп төндіретін қызмет үзілісіне әкелуі мүмкін. Төмендегі суретте төрт қолжетімділік конфигурациясы бойынша қорғаныс жүйесінің белгілеу жиілігі салыстырылған: GPT‑6 Cyber-мен бірге енгізіліп жатқан соңғы жаңартуларға дейінгі және кейінгі көрсеткіштер.
Қорғаныстың бұғаттау жиілігі жоғары болуы әрдайым жақсы емес. Бұл бағалаудағы көптеген әдіс заңды қауіпсіздік жұмыстарына да қажет: жүйелерді түсіну, осалдықтарды табу және түзетулердің шабуылға төтеп беретінін тексеру. Сондықтан 100%-ға ұмтылмай, бұл көрсеткіштерді заңды зерттеулер мен түзету жұмыстарына қолдаумен қатар бағалаймыз.
Модельдеріміздің аса маңызды инфрақұрылымды қорғауға көмегін бағалау үшін кеңейтілген операциялық технологиялар (xOT) киберқауіпсіздігін қамтамасыз ететін жаһандық Dragos компаниясымен серіктестік орнаттық. Dragos бақыланатын зертханада киберәрекеттерге кеңірек рұқсат беретін Daybreak Red модельдерін бағалады. Бағалау желіні анықтау мен активтерді түгендеуден бастап, нысаналы барлау, құпия деректерді сыртқа шығару және құрылғыларда рұқсатсыз, ықтимал қауіпті әрекеттер орындауға дейінгі сұрауларды қамтыды.
Dragos пікірлері негізінде рұқсат етілген сынақтарды орынсыз шектемей, зиянды көмекті бұғаттауға бағытталған қорғаныс шараларын жетілдірдік. Бағалау туралы толық мәліметті олардың қорытынды есебінен қараңыз(жаңа терезеде ашылады). ЖИ көмегімен ену сынақтары мен редтиминг жүргізу үшін шабуыл әдістерімен қауіпсіздікті тексеретін басқа провайдерлермен және біріктірілген шабуыл-қорғаныс топтарымен серіктестікті кеңейтудеміз. Сондай-ақ модельдеріміздің өнеркәсіптік қорғаныстағы тиімділігі мен қауіпсіздік шараларын бағалау үшін энергетикалық компаниялармен, өзге аса маңызды инфрақұрылым операторларымен және ұлттық зертханалармен жұмыс істеп жатырмыз. OT/ICS-ке қатысты модель қолдануды анықтау үшін қауіптерді зерттеуге бөлінетін инвестицияны да арттырдық. Серіктестер мен қауіпсіздік қауымдастығының пікірлеріне сүйеніп, қорғаныс шараларын жетілдіре береміз. Бұған қорғаныс зиянды әрекетті байқамай қалғанда немесе заңды жұмысқа кедергі келтіргенде /feedback арқылы жіберілген хабарламалар да кіреді.
Алғашқы кезеңде GPT‑6 Cyber API және Codex арқылы Daybreak Red бағдарламасының мақұлданған клиенттерінің таңдаулы тобына қолжетімді. Жақын арада қолжетімділікті барлық Daybreak Red клиентіне біртіндеп кеңейтеміз. Сондай-ақ GPT‑5.6 Cyber моделін де барлық Daybreak Red клиентіне ұсынамыз. GPT‑6 Astra үшін Daybreak Blue альфа-нұсқасының қолжетімділігін көбірек ұйым мен жеке қауіпсіздік зерттеушісіне кеңейтудеміз. Қызығушылық танытсаңыз, бізге хабарлаңыз(жаңа терезеде ашылады).
Жаңа пайдаланушылар мен ұйымдар Daybreak бағдарламасына өтінім беріп, киберқауіпсіздік дағдыларымыз, өнімдеріміз және серіктестеріміз арқылы жұмысты бастай алады.
