Block OpenAI арқылы ЖИ негізіндегі қорғанысты қалай құруда

Square, Cash App және Afterpay өнімдерін шығарған Block компаниясының қауіпсіздік тобы OpenAI Defense Factory жүйесін пайдаланады. Онда ЖИ осалдықтарды іздеу, анықтау және оларға ден қою жұмыстарын ешбір адам тобы ілесе алмайтын ауқымда атқарады. OpenAI Daybreak сияқты ЖИ жүйелерінің көмегімен Block бұрын апталарға созылған жұмысты небәрі бірнеше сағатта атқарып жүр.

Block қауіпсіздік тобы код жасаудан бастап қауіпсіздік операцияларына дейінгі жұмыс процестеріне ЖИ-ді жауапкершілікпен енгізуге басымдық береді. «Мұндағы басты мақсат — жұмыс ауқымын бірге кеңейтуге көмектесетін жаңа әріптес табу», — дейді ақпараттық қауіпсіздік жөніндегі директор Джеймс Неттесхайм. «Бұл әр қадамды жеке белгілеуді қажет ететін дәстүрлі автоматтандыруға ұқсамайды. Оған көмексөз арқылы өзіңізге тән, нақты айқындалмаған мәселені беріп, шешімін бірге табуға болады».

Бағдарламалық қатені тексеру немесе журналды талдау сияқты жұмыстар бұрын бірнеше күнге не аптаға созылатын. Енді топ мұндай жұмыстарды әлдеқайда қысқа мерзімде аяқтай алады, ал әр нәтижені әлі де адам тексереді.

Мысалы, анықтау ережелерін баптау үшін әр тексеруде сұраулардан алынған бастапқы айғақтар сақталады. Соның арқасында топ енді анықтау ережесіне ұсынылған өзгерісті қолданыстағы жүйелердің жеті айлық телеметрия деректерінде бір сағатқа жеткізбей сынай алады. Бұрын бұл үшін жүздеген ескі оқиға бойынша сұрауларды қолмен қайта орындау қажет еді. Тым көп уақыт алатындықтан, іс жүзінде мұндай жұмыс сирек атқарылатын.

Топ әр жұмысқа модель таңдауға да мұқият қарайтын болды. «Бұрын ең жаңа модельді қолданатынбыз, бірақ қазір бұған қажеттілік жоқ», — дейді ол. «Әртүрлі тапсырмаға әртүрлі модель таңдауды тәжірибе арқылы үйрендік». Block компаниясының қауіпсіздік тапсырма ортасы Daybreak негізінде құрылған және тапсырмаларды тиісті модельге бағыттауға көмектеседі. Онда адамдардың тапсырманы өз қолына алуына немесе агенттердің бір-бірінің жұмысын тексеруіне арналған тетіктер де бар. Топ бұл жүйелерді ішкі эталондық сынақтар мен нақты жұмыс нәтижелері бойынша үнемі бағалап, қажет кезде тәсілін түзетеді. Соның ішінде жауапты шешім адам тексеруін қажет етсе, жұмысты маманға жібереді.

Оқиғаларды автоматты түрде бастапқы бағалау жүйесі жұмысты жылдамдатып қана қоймай, атқарылатын жұмыс көлемін де арттырды. Block қауіпсіздік тобында бастапқы бағалаудың өткізу қабілеті 50%-ға, қауіптер туралы дерек жинау мен тексерулер көлемі 50%-ға артты. Сондай-ақ қауіптерді өздігінен іздеудің мүлде жаңа мүмкіндігі пайда болды. Неттесхайм былай дейді: «Бұл жүйе тоқсан сайын талдаушының шамамен 1 100 сағаттық тексеру жұмысын атқарады. Өйткені қазір әр ескерту оған қатысты барлық жайтты қамтитын толық әрі терең тексеруден өтеді. Жүйеміз әр ескертуді сол күні түскен жалғыз ескертудей мұқият қарайды».

Дәстүрлі сканерлеу құралдары осалдықтарды бір-бірінен бөлек анықтайды, ал Daybreak көмегімен Block қауіпсіздік тобы бұдан әлдеқайда көп нәрсе істей алады. Модель шабуыл үлгілері туралы болжам жасауға және бірнеше шабуылды жүйені бұзудың толық тізбегіне біріктіруге көмектеседі. Осылайша жылдар бойы байқалмай келген осалдықтар ашылады.

Бір жағдайда бір ноутбуктен түскен ескерту жеке қарағанда қауіпсіздік саясатының болмашы бұзылуы болып көрінген. Алайда өзара тексеру кезінде модель айғақтарда жанама ғана көрінген индикаторды зерттеп, оны Block компаниясының сәйкестендіру журналдарымен салыстырған да, әлдеқайда ауқымды мәселелер жиынтығын анықтаған. «Соңғы құрылғыдан түскен бір әдеттегі ескерту тұтас шабуыл науқанын тоқтатуға әкелді. Ешбір құрал жеке өзі бұл байланысты таба алмайды. Белгі екі өнімнің журналдарын бірге қарағанда ғана байқалады», — дейді Джеймс.

Daybreak көмектескен тағы бір жағдай жуырдағы редтиминг жаттығуы кезінде болды. Модельге ішкі жүйе туралы бірнеше нұсқау берілген. Соның негізінде ол шамамен екі сағатта SQL инъекциясын, артықшылықтарды арттыруды, жүйеге орнығып алуды, кіру деректерін тізіп шығуды және басқа жүйелерге өтуді қамтитын толық шабуыл тізбегін құрған. Редтиминг маманына әдетте мұндай жұмысқа бірнеше күн қажет болар еді. Жуырдағы редтиминг жаттығуларында жоғары деңгейдегі осалдықты хабарлаудан автоматты түзету ұсынылғанға дейін 18 минут өтті.

Осалдықтарды табудың пайдасы оларды түзете алу мүмкіндігіне байланысты. Неттесхайм тобының әр анықталған мәселе бойынша жұмыс тәртібін түсіндіреді: алдымен кодтағы мәселенің орнын және оған кім жауапты екенін анықтайды, содан кейін оны жоюға кіріседі. «Түзету ұсынасыз, осалдықты шабуылда пайдалануға болатынын растайсыз, содан кейін оның жойылғанын тексересіз. Бұл процеске адам қатысып, бағыт беріп отырады және кодтағы өзгерістерді енгізеді».

Агенттердің техникалық мүмкіндіктері жеткілікті болғанымен, олар ұйымның жағдайын немесе бұрынғы шешімдердің неге қабылданғанын білмейді. Бұл мәлімет пен стратегияны адам береді. Оның тобы дәл осы тұста қосылып, нәтижені адам тарапынан тексереді. ЖИ шешімдерінің сенімділігі іс жүзінде дәлелденген сайын, Неттесхаймның айтуынша, «оны аса маңызды жүйелерде қолдану үшін тәуекел деңгейін біртіндеп көтереміз».

• Анықтау ережесіне ұсынылған өзгерісті жеті айлық телеметрия деректерінде сынауға бір сағаттан аз уақыт кетеді.

• Жуырдағы редтиминг жаттығуларында жоғары деңгейдегі осалдықты хабарлаудан автоматты түзету ұсынылғанға дейін 18 минут өтті.

• Жалған ескертулерді бастапқы бағалауға жұмсалатын уақыт тоқсанына шамамен 600 талдаушы-сағатқа қысқарды.

• Тоқсан сайын шамамен 1 100 талдаушы-сағатқа тең тексеру жұмысы атқарылады.

• Бастапқы бағалаудың өткізу қабілеті 50%-ға артты.

• Қауіптер туралы дерек жинау мен тексерулер көлемі 50%-ға артты.

Анықтау және ден қою жұмысының өзі бұрын жалған ескертулерді бастапқы бағалауға кететін уақытты тоқсанына шамамен 600 талдаушы-сағатқа үнемдеді. Босаған уақыттың арқасында топ енді тереңірек тексерулерге және автоматтандыруды жауапкершілікпен кеңейтуге көбірек көңіл бөледі.

Шабуылдар жиілеп, ЖИ модельдері жетілген сайын, Неттесхайм осалдықтардың бастапқыда-ақ пайда болуын азайтуға мүмкіндік бар деп санайды. Бұл қауіпсіздік топтарына түзетулер енгізуге азырақ, ал алдын алу мен стратегиялық жұмысқа көбірек уақыт бөлуге мүмкіндік берер еді.

«OpenAI осы озық мүмкіндіктерді баршаға қолжетімді етіп, басымдықты қорғанушылар жағына бұрып жатыр», — дейді ол. «Әдетте мұндай мүмкіндіктер тек аса ірі технологиялық компаниялар мен мемлекеттік органдарда ғана болатын. Ал қазір аса маңызды инфрақұрылым нысандары, мектептер, шағын бизнес өкілдері — барлығы өз желілерін қорғау үшін бұл технологияны қолдана алады».