Block-ի ԱԲ անվտանգությունը՝ OpenAI-ի տեխնոլոգիայով

Square-ը, Cash App-ը և Afterpay-ը ստեղծած Block ընկերության անվտանգության թիմն օգտագործում է OpenAI Defense Factory-ն։ Այստեղ ԱԲ-ն փնտրում ու հայտնաբերում է խոցելիությունները և արձագանքում դրանց այնպիսի ծավալով, որին ոչ մի մարդկային թիմ չէր կարող հասնել։ ԱԲ համակարգերի, այդ թվում՝ OpenAI Daybreak-ի օգնությամբ Block-ն ընդամենը ժամերի ընթացքում կատարում է այն աշխատանքը, որը նախկինում շաբաթներ էր պահանջում։

Block-ի անվտանգության թիմը կենտրոնացած է աշխատանքային գործընթացներում ԱԲ-ի պատասխանատու ներդրման վրա՝ լինի դա կոդի գեներացում, թե անվտանգության ապահովում։ «Իրականում առանցքայինը նոր թիմակից ունենալն է, որի հետ կարող ես ընդլայնել աշխատանքի ծավալը»,— ասում է տեղեկատվական անվտանգության տնօրեն Ջեյմս Նեթեսհայմը։ «Սա ավանդական ավտոմատացման նման չէ, որտեղ պետք էր ամեն քայլն առանձին սահմանել։ Կարող ես նրան ներկայացնել բավական յուրահատուկ, ոչ հստակ ձևակերպված խնդիր և միասին լուծել այն»։

Ծրագրային սխալի ուսումնասիրությունը կամ գրանցամատյանի վերլուծությունը նախկինում օրեր կամ շաբաթներ էին պահանջում։ Այժմ թիմը կարող է այդ աշխատանքներն ավարտել շատ ավելի կարճ ժամանակում, ընդ որում՝ յուրաքանչյուր արդյունք շարունակում է ստուգել մարդը։

Օրինակ՝ հայտնաբերման կանոնները ճշգրտելու համար յուրաքանչյուր հետաքննության ընթացքում պահպանվում են հարցումներով ստացված չմշակված տվյալները։ Դրա շնորհիվ թիմն այժմ կարող է հայտնաբերման կանոնի առաջարկվող փոփոխությունը մեկ ժամից պակաս ժամանակում փորձարկել գործող համակարգերից յոթ ամսվա ընթացքում հավաքված հեռաչափական տվյալների վրա։ Նախկինում այդ աշխատանքի համար անհրաժեշտ էր ձեռքով կրկնել հարյուրավոր հին դեպքերի հարցումները։ Գործնականում դա հազվադեպ էր արվում, քանի որ չափազանց ժամանակատար էր։

Թիմն այժմ նաև ավելի մանրակրկիտ է ընտրում, թե որ աշխատանքի համար որ մոդելն օգտագործի։ «Նախկինում օգտագործում էինք ամենավերջին մոդելը, բայց այժմ դրա կարիքն այլևս չկա»,— ասում է նա։ «Տարբեր առաջադրանքների համար տարբեր մոդելներ ընտրելը մեզ համար ուսուցողական փորձ էր»։ Block-ի անվտանգության հարնեսը կառուցված է Daybreak-ի հիման վրա և օգնում է առաջադրանքներն ուղղորդել համապատասխան մոդելին։ Այն նաև ներառում է մեխանիզմներ, որոնց միջոցով մարդիկ կարող են ստանձնել առաջադրանքները, իսկ գործակալները՝ ստուգել միմյանց աշխատանքը։ Թիմը շարունակաբար գնահատում է այս համակարգերը՝ ըստ ներքին հենանիշերի և գործնական արդյունքների, անհրաժեշտության դեպքում ճշգրտելով իր մոտեցումը։ Այդ թվում՝ աշխատանքն ուղարկում է մարդու ստուգմանը, երբ դա է պատասխանատու գործելակերպը։

Առաջնային գնահատման ավտոմատացված համակարգի շնորհիվ աշխատանքն ավելի արագ է կատարվում, իսկ ծավալն աճել է։ Block-ի անվտանգության թիմում առաջնային գնահատման թողունակությունն աճել է 50%-ով, սպառնալիքների մասին տեղեկությունների հավաքումն ու հետաքննությունները՝ 50%-ով, և ի հայտ է եկել սպառնալիքներն ինքնավար փնտրելու բոլորովին նոր հնարավորություն։ Նեթեսհայմն ասում է. «Սա յուրաքանչյուր եռամսյակում կատարում է վերլուծաբանի մոտ 1 100 ժամվա հետաքննական աշխատանք, քանի որ այժմ յուրաքանչյուր ահազանգ լիարժեք ու խորությամբ հետաքննվում է՝ ընդգրկելով դրան առնչվող բոլոր տարրերը։ Մեր համակարգը յուրաքանչյուր ահազանգին վերաբերվում է այնպես, կարծես դա այդ օրվա մեր միակ ահազանգն է»։

Սկանավորման ավանդական գործիքներն առանձին խոցելիություն են նշում՝ առանց այլ խնդիրների հետ կապելու, իսկ Daybreak-ի օգնությամբ Block-ի անվտանգության թիմը կարող է շատ ավելին անել։ Մոդելն օգնում է հարձակման ձևերի մասին վարկածներ առաջադրել և մի շարք հարձակումներ շղթայել՝ ստանալով համակարգը կոտրելու ամբողջական ուղի։ Այդպես ի հայտ են գալիս խոցելիություններ, որոնք գուցե տարիներ շարունակ գոյություն են ունեցել։

Դեպքերից մեկում մի նոութբուքի վերաբերյալ ահազանգն առանձին դիտարկելիս անվտանգության կանոնների աննշան խախտում էր թվում։ Սակայն փոխադարձ ստուգման ընթացքում մոդելը հետևեց մի ցուցիչի, որը միայն պատահաբար էր հայտնվել ապացույցներում, այն համադրեց Block-ի ինքնության կառավարման գրանցամատյանների հետ և բացահայտեց շատ ավելի մեծ թվով խնդիրներ։ «Վերջնական սարքի սովորական ահազանգը հանգեցրեց մի ամբողջ հարձակման արշավի կասեցման։ Ոչ մի առանձին գործիք այդ կապը չի հաստատում։ Այդ ազդակը երևում է միայն երկու պրոդուկտների գրանցամատյանները համադրելիս»,— ասում է Ջեյմսը։

Daybreak-ն օգտակար եղավ նաև վերջերս անցկացված նախափորձարկման ընթացքում։ Մոդելին ներքին համակարգի մասին մի քանի հուշում տրվեց, և այն մոտ երկու ժամում շղթայեց հարձակման ամբողջական ուղին՝ SQL ներարկում, արտոնությունների բարձրացում, համակարգում հենակետի հաստատում, մուտքային տվյալների թվարկում և անցում դեպի այլ համակարգեր։ Սովորաբար նախափորձարկման մասնագետից դա մի քանի օր կպահանջեր։ Վերջին նախափորձարկումների ընթացքում խոցելիության ընդհանուր նկարագրությունը ներկայացնելուց մինչև ուղղման ավտոմատ առաջարկն անցել է 18 րոպե։

Խոցելիություններ հայտնաբերելն արժեք ունի այնքանով, որքանով հնարավոր է դրանք վերացնել։ Նեթեսհայմը նկարագրում է այն գործընթացը, որը նրա թիմը կիրառում է յուրաքանչյուր հայտնաբերված խնդրի դեպքում. գտնել խնդրի տեղը կոդում, պարզել՝ ով է դրա պատասխանատուն, ապա անցնել վերացմանը։ «Առաջարկում ես ուղղում, հաստատում ես, որ խոցելիությունը հնարավոր է շահագործել, ապա ստուգում ես, որ այն վերացված է։ Այս ամենին մասնակցում է մարդը՝ ուղղորդելով գործընթացը և ներդնելով կոդի փոփոխությունները»։

Թեև գործակալներն ունեն տեխնիկական կարողություններ, նրանք չգիտեն կազմակերպության ներքին համատեքստը կամ նախկին որոշումների հիմնավորումները։ Այդ համատեքստն ու ռազմավարությունը տալիս է մարդը, և հենց այստեղ է նրա թիմը ներգրավվում՝ ապահովելով մարդկային ստուգման փուլը։ Նեթեսհայմն ասում է, որ ԱԲ-ի որոշումների հուսալիությունը գործնականում հաստատվելու հետ մեկտեղ «մենք աստիճանաբար կբարձրացնենք ընդունելի ռիսկի մակարդակը՝ այն ավելի զգայուն համակարգերում օգտագործելու համար»։

• Մեկ ժամից պակաս՝ հայտնաբերման կանոնի առաջարկվող փոփոխությունը յոթ ամսվա հեռաչափական տվյալների վրա փորձարկելու համար։

• 18 րոպե՝ վերջին նախափորձարկումների ընթացքում խոցելիության ընդհանուր նկարագրությունը ներկայացնելուց մինչև ուղղման ավտոմատ առաջարկը։

• Յուրաքանչյուր եռամսյակում խնայված մոտ 600 վերլուծաբանական աշխատաժամ, որը նախկինում ծախսվում էր կեղծ դրական ահազանգերի առաջնային գնահատման վրա։

• Յուրաքանչյուր եռամսյակում կատարված հետաքննական աշխատանք՝ համարժեք վերլուծաբանի մոտ 1 100 աշխատաժամի։

• Առաջնային գնահատման թողունակության 50% աճ։

• Սպառնալիքների մասին տեղեկությունների հավաքման և հետաքննությունների 50% աճ։

Միայն հայտնաբերման և արձագանքման աշխատանքը յուրաքանչյուր եռամսյակում խնայել է մոտ 600 վերլուծաբանական աշխատաժամ, որը նախկինում ծախսվում էր կեղծ դրական ահազանգերի առաջնային գնահատման վրա։ Ազատված ժամանակի շնորհիվ թիմն այժմ ավելի շատ ժամանակ է հատկացնում խորքային հետաքննություններին և ավտոմատացման պատասխանատու ընդլայնմանը։

Հարձակումների տեմպի աճին և ԱԲ մոդելների շարունակական զարգացմանը զուգընթաց Նեթեսհայմը հնարավորություն է տեսնում խոցելիությունների թիվը նվազեցնելու դեռևս դրանց առաջացման փուլում։ Դա անվտանգության թիմերին թույլ կտա ավելի քիչ ժամանակ ծախսել ուղղումների և ավելի շատ՝ կանխարգելիչ ու ռազմավարական աշխատանքի վրա։

«OpenAI-ն առավելությունը փոխանցում է պաշտպանվողներին՝ այս առաջադեմ հնարավորությունները հասանելի դարձնելով բոլորին»,— ասում է նա։ «Սովորաբար դրանցից օգտվում էին միայն ամենահայտնի տեխնոլոգիական ընկերություններն ու պետական կառույցները։ Բայց այժմ բոլորը՝ ներառյալ կենսական նշանակության ենթակառուցվածքները, դպրոցներն ու փոքր բիզնեսները, կարող են սկսել օգտագործել այս տեխնոլոգիան՝ իրենց ցանցերը պաշտպանելու համար»։