Ինչպես է Block-ը OpenAI-ի ԱԲ-ով անվտանգություն ստեղծում

Square-ի, Cash App-ի և Afterpay-ի հետևում կանգնած Block ընկերության անվտանգության թիմն օգտագործում է OpenAI Defense Factory համակարգը, որտեղ ԱԲ-ն իրականացնում է խոցելիությունների հայտնաբերում, սպառնալիքների բացահայտում և դրանց արձագանքում այնպիսի մասշտաբներով, որոնց որևէ թիմ չէր կարող համընթաց աշխատել։ ԱԲ-ի համակարգերի, այդ թվում՝ OpenAI Daybreak-ի շնորհիվ Block-ն այժմ ընդամենը մի քանի ժամում կատարում է աշխատանքներ, որոնց համար նախկինում շաբաթներ էին պահանջվում։

Block-ի անվտանգության թիմն աշխատանքային տարբեր գործընթացներում (ծրագրային կոդի ստեղծումից մինչև անվտանգության ապահովման գործառույթներ) կենտրոնացել է ԱԲ-ի պատասխանատու ներդրման վրա։ «Իրականում այս ամենի հիմքում նոր թիմակից ունենալու գաղափարն է, որի օգնությամբ կարող եք ընդլայնել ձեր աշխատանքի ծավալները»,— ասում է տեղեկատվական անվտանգության գլխավոր տնօրեն Ջեյմս Նեթեսհայմը։ «Սա նման չէ ավանդական ավտոմատացմանը, որի դեպքում անհրաժեշտ էր ամեն քայլը հերթով սահմանել։ Դուք կարող եք ԱԲ-ին ներկայացնել բավականին յուրահատուկ, ոչ հստակ ձևակերպված խնդիր և միասին աշխատել դրա լուծման վրա»։

Նախկինում այնպիսի աշխատանքների համար, ինչպիսիք են ծրագրային սխալի ուսումնասիրությունը կամ գրանցամատյանի տվյալների վերլուծությունը, օրեր կամ շաբաթներ էին պահանջվում։ Այժմ թիմը կարող է այդ աշխատանքներն ավարտել շատ ավելի կարճ ժամանակում՝ միաժամանակ ապահովելով, որ յուրաքանչյուր արդյունք ստուգվի մարդու կողմից։

Օրինակ՝ սպառնալիքների հայտնաբերման համակարգի ճշգրտման համար յուրաքանչյուր ուսումնասիրության ընթացքում պահպանվում են հարցումների միջոցով ստացված սկզբնական ապացուցողական տվյալները, ինչի շնորհիվ թիմն այժմ կարող է մեկ ժամից պակաս ժամանակում ստուգել հայտնաբերման համակարգում առաջարկվող փոփոխությունը՝ այն կիրառելով վերջին յոթ ամսվա ընթացքում իրական աշխատանքային միջավայրից հավաքագրված հեռաչափական տվյալների նկատմամբ։ Նախկինում այդ աշխատանքը պահանջում էր ձեռքով կրկին հարցումներ կատարել հարյուրավոր հին դեպքերի վերաբերյալ, և քանի որ դա չափազանց ժամանակատար էր, գործնականում նման ստուգումներ հազվադեպ էին իրականացվում։

Թիմը նաև սկսել է ավելի մանրակրկիտ ընտրել, թե որ առաջադրանքի համար ԱԲ-ի որ մոդելն օգտագործել։ «Նախկինում մենք միշտ օգտագործում էինք ամենավերջին մոդելը, բայց այժմ դրա անհրաժեշտությունն այլևս չկա»,— ասում է նա։ «Մենք սովորել ենք տարբեր առաջադրանքների համար ընտրել տարբեր մոդելներ»։ Block-ի անվտանգության ապահովման համակարգը կառուցված է Daybreak-ի հիման վրա և օգնում է առաջադրանքներն ուղղորդել համապատասխան մոդելներին։ Այն նաև նախատեսում է մեխանիզմներ, որոնց միջոցով մարդիկ կարող են ստանձնել առաջադրանքների կատարումը, իսկ ԱԲ ագենտները՝ փոխադարձաբար ստուգել միմյանց աշխատանքի արդյունքները։ Թիմը շարունակաբար գնահատում է այս համակարգերի աշխատանքը՝ համեմատելով դրանց արդյունքները ներքին հենանիշների և իրական պայմաններում արձանագրված արդյունավետության հետ։ Անհրաժեշտության դեպքում թիմը վերանայում է իր մոտեցումը, այդ թվում՝ առաջադրանքները փոխանցելով մարդկանց՝ ստուգման, երբ դա առավել պատասխանատու լուծումն է։

Ավտոմատացված նախնական գնահատման համակարգի շնորհիվ թիմն այժմ կարողանում է ավելի կարճ ժամանակում ավելի մեծ ծավալի աշխատանք կատարել։ Block-ի անվտանգության թիմում նախնական գնահատման գործընթացի արտադրողականությունն աճել է 50%-ով, սպառնալիքների վերաբերյալ տեղեկությունների հավաքագրման և ուսումնասիրությունների ծավալը՝ նույնպես 50%-ով։ Բացի այդ, ներդրվել է սպառնալիքների ինքնավար որոնման բոլորովին նոր հնարավորություն։ «Այս համակարգը յուրաքանչյուր եռամսյակում կատարում է վերլուծաբանի մոտ 1100 աշխատանքային ժամին համարժեք ուսումնասիրություններ, քանի որ այժմ յուրաքանչյուր ահազանգի դեպքում իրականացվում է համապարփակ և խորքային ուսումնասիրություն՝ ընդգրկելով դրա հետ կապված բոլոր տարրերը»,— ասում է Նեթեսհայմը։ «Մեր համակարգը յուրաքանչյուր ահազանգ ուսումնասիրում է այնպես, կարծես դա օրվա ընթացքում ստացված միակ ահազանգն է»։

Խոցելիությունների հայտնաբերման ավանդական գործիքները յուրաքանչյուր խոցելիություն բացահայտում են առանձին, մինչդեռ Daybreak-ի օգնությամբ Block-ի անվտանգության թիմը կարողանում է շատ ավելի խորքային ուսումնասիրություններ կատարել։ Մոդելն օգնում է վարկածներ առաջադրել հարձակումների հնարավոր օրինաչափությունների վերաբերյալ և փոխկապակցել մի շարք հարձակումներ՝ բացահայտելով համակարգի ամբողջական խոցարկմանը հանգեցնող հարձակման շղթան։ Այս կերպ հնարավոր է հայտնաբերել խոցելիություններ, որոնք կարող էին գոյություն ունենալ տարիներ շարունակ։

Մի դեպքում մեկ նոութբուքից ստացված ահազանգն առանձին դիտարկելիս թվում էր կանոնների աննշան խախտում։ Սակայն փոխադարձ ստուգման ընթացքում մոդելը հետագծեց մի ցուցիչ, որը հավաքված ապացույցներում հայտնվել էր ընդամենը պատահաբար, համադրեց այն Block-ի նույնականացման գրանցամատյանների տվյալների հետ և բացահայտեց շատ ավելի լայնածավալ խնդիրներ։ «Սովորական սարքից ստացված մեկ ահազանգը հանգեցրեց հարձակումների ամբողջ արշավի բացահայտմանն ու կասեցմանը։ Ոչ մի առանձին գործիք չի կարող այդ տվյալներն ինքնուրույն փոխկապակցել։ Սպառնալիքի մասին վկայող ազդանշանը հնարավոր է հայտնաբերել միայն երկու տարբեր արտադրանքների գրանցամատյանների տվյալները համադրելով»,— ասում է Ջեյմսը։

Daybreak-ի արդյունավետության մեկ այլ օրինակ է վերջերս անցկացված՝ պայմանական հարձակվողների թիմի մասնակցությամբ անվտանգության փորձարկումը։ Մոդելին տրամադրվել էին ներքին համակարգերից մեկի վերաբերյալ ընդամենը մի քանի հուշումներ, որոնց հիման վրա այն մոտ երկու ժամում կարողացել էր բացահայտել հարձակման ամբողջական շղթան՝ SQL ներարկումից և արտոնությունների ընդլայնումից մինչև համակարգում սկզբնական հենակետի հաստատում, նույնականացման տվյալների որոնում և անցում այլ համակարգերի։ Սովորաբար նման աշխատանքը պայմանական հարձակվողների թիմի մասնագետից մի քանի օր կպահանջեր։ Վերջին փորձարկումների ընթացքում բարձր մակարդակով նկարագրված խոցելիության ներկայացումից մինչև դրա ուղղման ավտոմատ առաջարկի ստացումը պահանջվել է ընդամենը 18 րոպե։

Խոցելիությունները գտնելը նույնքան լավ է, որքան դրանք շտկելու կարողությունը։ Նեթեսհայմը մանրամասն ներկայացնում է այն գործընթացը, որով իր թիմն ուսումնասիրում է հայտնաբերված յուրաքանչյուր խնդիր. նախ որոշում են, թե ծրագրային կոդի որ հատվածում է խնդիրը և ով է դրա համար պատասխանատու, ապա անցնում դրա վերացմանը։ «Դուք առաջարկում եք ծրագրային կոդի ուղղում, հաստատում, որ խոցելիությունը հնարավոր է շահագործել, ապա ստուգում, որ այն վերացվել է։ Այդ ամբողջ ընթացքում գործընթացին մասնակցում է մասնագետ, որն ուղղորդում է աշխատանքը և ներդնում ծրագրային կոդում կատարված փոփոխությունները»։

Թեև ագենտներն ունեն անհրաժեշտ տեխնիկական կարողությունները, դրանք չեն տիրապետում կազմակերպության գործունեության համատեքստին կամ նախկինում կայացված որոշումների հիմքում ընկած դատողություններին։ Հենց մարդն է ապահովում այդ համատեքստն ու ռազմավարական ուղղորդումը, և այստեղ է, որ նրա թիմը ներգրավվում է գործընթացում՝ ապահովելով մարդու կողմից իրականացվող վերահսկողության և ստուգման անհրաժեշտ փուլը։ Նեթեսհայմի խոսքով՝ ԱԲ-ի որոշումների կայացման հուսալիությունը գործնականում հաստատվելու հետ մեկտեղ «մենք աստիճանաբար կբարձրացնենք թույլատրելի ռիսկի մակարդակը՝ այն օգտագործելով նաև ավելի զգայուն համակարգերում»։

• Յոթ ամսվա հեռաչափական տվյալների հիման վրա սպառնալիքների հայտնաբերման համակարգում առաջարկվող փոփոխությունը կրկին փորձարկելու համար պահանջվում է մեկ ժամից պակաս ժամանակ։

• Վերջերս անցկացված պայմանական հարձակվողների թիմի փորձարկումների ընթացքում բարձր մակարդակով նկարագրված խոցելիության ներկայացումից մինչև դրա ուղղման ավտոմատ առաջարկի ստացումը պահանջվել է 18 րոպե։

• Յուրաքանչյուր եռամսյակում կեղծ դրական ահազանգերի նախնական գնահատման ավտոմատացման շնորհիվ ազատվում է վերլուծաբանի մոտ 600 աշխատանքային ժամ։

• Յուրաքանչյուր եռամսյակում իրականացվում են վերլուծաբանի մոտ 1100 աշխատանքային ժամին համարժեք ուսումնասիրություններ։

• Նախնական գնահատման գործընթացի թողունակության 50% աճ։

• Հետախուզական տվյալների հավաքագրման և հետաքննությունների 50% աճ։

Միայն սպառնալիքների հայտնաբերման և դրանց արձագանքման աշխատանքների շնորհիվ յուրաքանչյուր եռամսյակում ազատվում է վերլուծաբանի մոտ 600 աշխատանքային ժամ, որը նախկինում ծախսվում էր կեղծ դրական ահազանգերի նախնական գնահատման վրա։ Այսպիսով ազատված ժամանակի շնորհիվ թիմն այժմ կարողանում է ավելի շատ ժամանակ հատկացնել խորքային ուսումնասիրություններին և պատասխանատու կերպով ընդլայնել ավտոմատացման կիրառումը։

Հարձակումների տեմպերի արագացմանը և ԱԲ մոդելների շարունակական զարգացմանը զուգընթաց Նեթեսհայմը հնարավորություն է տեսնում նվազեցնելու հենց սկզբից համակարգերում առաջացող խոցելիությունների թիվը։ Դա անվտանգության թիմերին հնարավորություն կտա ավելի քիչ ժամանակ հատկացնել խոցելիությունների վերացմանը և ավելի շատ՝ կանխարգելիչ ու ռազմավարական աշխատանքներին։

«OpenAI-ը փոխում է ուժերի հարաբերակցությունը հօգուտ պաշտպանների՝ այս առաջադեմ հնարավորությունները հասանելի դարձնելով բոլորին»,— ասում է նա։ «Նախկինում նման տեխնոլոգիաները սովորաբար հասանելի էին միայն տեխնոլոգիական ոլորտի խոշոր ու հայտնի ընկերություններին և պետական կառույցներին։ Սակայն այժմ բոլորը, այդ թվում՝ կենսական նշանակության ենթակառուցվածքների օպերատորները, դպրոցներն ու փոքր ձեռնարկությունները, կարող են սկսել օգտագործել այս տեխնոլոգիաներն իրենց ցանցերը պաշտպանելու համար»։