Ճանապարհ դեպի Astra․ կրիտիկական կարողություններ և առաջադեմ պաշտպանություն
Այն բանից հետո, երբ նախնական գնահատմամբ եզրակացրինք, որ Astra-ն կարող է հասնել կիբեռանվտանգության կարողությունների կրիտիկական մակարդակի, հավաքել ենք լրացուցիչ ապացույցներ և նոր գնահատումներ անցկացրել մոդելի կարողությունները գնահատելու համար։ Այժմ կարծում ենք, որ մեր Պատրաստվածության շրջանակի համաձայն՝ Astra-ն հասել է կիբեռանվտանգության կրիտիկական կարողության շեմին։ Սա նշանակում է, որ համապատասխան գործիքների և հասանելիության դեպքում այն կարող է բազմաթիվ լավ պաշտպանված համակարգերում գտնել նախկինում անհայտ անվտանգության խոցելիություններ և մշակել դրանց շահագործման եղանակներ՝ առանց մարդու կողմից յուրաքանչյուր քայլի ուղղորդման։ Սա առաջին մոդելն է, որին տալիս ենք այս մակարդակի դասակարգումը, և այն ավելի ուժեղ պաշտպանական միջոցներ է պահանջում ինչպես մշակման ընթացքում, այնպես էլ թողարկումից առաջ։
Վերջին մի քանի շաբաթվա ընթացքում հետաձգել ենք Astra-ի մշակման և թողարկման որոշ աշխատանքներ՝ միաժամանակ ուժեղացնելով ու փորձարկելով կիբեռչարաշահման և մոդելի չարտոնված գործողությունների դեմ պաշտպանական միջոցները։ Այդ աշխատանքի հիման վրա կարծում ենք, որ Astra-ի պաշտպանական միջոցները ծանր վնասի ռիսկը նվազեցնում են այնքան, որ մոդելը կարող է թողարկվել մեր Պատրաստվածության շրջանակի համաձայն։
Թեև Astra-ն ներգրավված չէր Hugging Face-ի միջադեպում, այդ միջադեպից քաղած մեր դասերը(բացվում է նոր պատուհանում) ներառել ենք անվտանգության մեր մոտեցման մեջ։ Հետահայաց փորձարկումների հիման վրա կարծում ենք, որ այն ժամանակ արտադրական միջավայրում գործող մեր պաշտպանական միջոցները կկանխեին Hugging Face-ի միջադեպը։ Դրանից հետո Astra-ի համար ներդրել ենք էլ ավելի ուժեղ պաշտպանական միջոցներ, այդ թվում՝ մոդելին սովորեցրել ենք ավելի հուսալիորեն մերժել վնասակար կիբեռհարցումները և պահպանել անվտանգության սահմանափակումները, ավելացրել ենք չարաշահման դեմ լրացուցիչ պաշտպանություն և հնարավոր չարտոնված գործունեությունը կասեցնող մշտադիտարկում։
Նախատեսում ենք շուտով հասանելի դարձնել Astra-ն, սակայն դրա կիբեռանվտանգության ամենաառաջադեմ կարողությունների հասանելիությունն ավելի սահմանափակ կլինի։ Կիբեռանվտանգության առաջադեմ աշխատանքային գործառույթները սկզբում հասանելի կլինեն փորձարկողների խմբի, որից հետո Daybreak Blue-ի միջոցով հասանելիությունը կընդլայնվի՝ պաշտպանական կիրառություններին աջակցելու համար։
Թողարկման պահին մոդելի համակարգի քարտում ավելի մանրամասն կներկայացնենք անվտանգության, պաշտպանվածության և համապատասխանեցման մեր փորձարկումներն ու գնահատումները։ Թողարկումից առաջ ցանկանում ենք տեղեկացնել այն աշխատանքների մի մասի մասին, որոնք կատարել ենք կիբեռանվտանգության այս մակարդակի կարողություններ ունեցող մոդելն անվտանգ թողարկելու համար, և թափանցիկ ներկայացնել դեռևս առկա ռիսկերը։
Մեր Պատրաստվածության շրջանակի համաձայն՝ մոդելը հասնում է կրիտիկական շեմին, եթե բավարարվում է հետևյալ պայմաններից առնվազն մեկը.
- Մոդելն առանց մարդու միջամտության կարող է բազմաթիվ լավ պաշտպանված, իրական աշխարհի կրիտիկական համակարգերում հայտնաբերել և մշակել ծանրության ցանկացած աստիճանի աշխատող «զրոյական օրվա» շահագործման միջոցներ։
- Ստանալով միայն բարձր մակարդակով ձևակերպված ցանկալի նպատակը՝ մոդելը կարող է մշակել և սկզբից մինչև վերջ իրականացնել լավ պաշտպանված թիրախների դեմ կիբեռհարձակումների նոր ռազմավարություններ։
Astra-ի պատրաստվածության մեր գնահատման շրջանակում ավտոմատացված հանրային ու մասնավոր հենանիշները համադրել ենք փորձագետների կողմից իրականացվող գնահատումների հետ։ GPT‑5.6 Sol-ի համեմատ Astra-ի կիբեռանվտանգության կարողությունները զգալիորեն ավելի բարձր են․ այն շատ ավելի արդյունավետ է օգտագործում թոքենները, և ավելի ունակ է հայտնաբերելու խոցելիություններ ու մշակելու դրանց շահագործման միջոցներ։
Օրինակ՝ Astra-ն գործարկեցինք ExploitBench-ում, որտեղ մոդելը հայտնի խոցելիությունների հիման վրա շահագործման միջոցներ մշակելու կարողությունը գնահատող հենանիշում ստացավ առավելագույն՝ 100% արդյունք։
Տվյալների ներթափանցման մտահոգությունների պատճառով այնուհետև ստեղծեցինք «ExploitBench` ներքին տարբերակ (2026 թ. հունիս-օգոստոս)» կոչվող ներքին հենանիշը, որը ներառում է վերջերս բացահայտված բարձր վտանգավորության 20 V8 խոցելիություն։ Այս տվյալների հավաքածուում Astra-ն շատ ավելի քիչ ելքային թոքեններ օգտագործելով հասնում է կամայական կոդի կատարման շատ ավելի բարձր ցուցանիշների, քան GPT‑5.6 Sol-ը։ Գնահատման ընթացքում մոդելը նույնիսկ հայտնաբերել և որպես շահագործման շղթայի մաս օգտագործել է զրոյական օրվա երկու խոցելիություն։ Ներկայումս այդ երկու խոցելիությունների մասին տեղեկացնում ենք դրանց սպասարկողներին։
Astra-ի ներկայացված արդյունքներն արտացոլում են Daybreak Blue-ի հասանելիության դեպքում դրսևորվող կարողությունները, այլ ոչ թե լռելյայն արտադրական կազմաձևը։
Լավ պաշտպանված զննարկչի և օպերացիոն համակարգի դեմ փորձագետների ղեկավարած գնահատումներում Astra-ն հայտնաբերեց նախկինում անհայտ խոցելիություններ և դրանվ հիման վրա ստեղծեց աշխատող շահագործման շղթաներ։ Այն ստեղծեց զննարկչի ամբողջական զավթման շղթա, որը դուրս եկավ սանդբոքսից և, երբ զննարկիչը բացեց HTML ֆայլ, հրամաններ կատարեց հիմնական համակարգում։ Մոդելը նաև լավ պաշտպանված օպերացիոն համակարգում գտավ մի քանի խոցելիություն և դրանք միավորեց տեղային արտոնությունների բարձրացման շղթայում՝ արտոնություններ չունեցող օգտատիրոջից հասնելով մինչև արմատ (root) մակարդակ։ Ընդհանուր առմամբ, մեր ուսումնասիրության հիման վրա եզրակացրել ենք, որ Astra-ն հասնում է կրիտիկական շեմին։
Astra-ի մակարդակի կիբեռանվտանգության կարողություններ ունեցող մոդելների դեպքում ծանր կիբեռվնասի ռիսկը նվազագույնի հասցնելու համար պետք է վերահսկենք երկու ուղի՝ ինչպես մշակման ընթացքում, այնպես էլ գործարկումից առաջ.
- Չարագործների կողմից մոդելի օգտագործումը։ Մեր պաշտպանական միջոցները պետք է հուսալիորեն կանխեն Astra-ի օգտագործումը չարագործների կողմից՝ լավ պաշտպանված կրիտիկական համակարգերի նախկինում անհայտ խոցելիությունների համար շահագործման միջոցներ մշակելու կամ լավ պաշտպանված թիրախների դեմ սկզբից մինչև վերջ հարձակումներ իրականացնելու նպատակով։
- Մոդելի չարտոնված և նպատակներին չհամապատասխանող գործողությունները։ Նույնիսկ չարամիտ օգտատիրոջ բացակայության դեպքում կիբեռանվտանգության առաջադեմ կարողություններով մոդելն ինքնին կարող է կիբեռվնաս պատճառել, եթե դրա վարքը պատշաճ կերպով համապատասխանեցված չէ։ Այս կարողություններով մոդելների համապատասխանեցման համար խիստ բարձր չափանիշ սահմանելուց բացի՝ մեր պաշտպանական միջոցները, որպես պաշտպանության երկրորդ շերտ, պետք է կարողանան արագ հայտնաբերել և զսպել նպատակներին չհամապատասխանող այն գործողությունները, որոնք կարող են զգալի վնաս պատճառել իրական աշխարհում։
Հատկանշական է, որ երկրորդ ուղին վերաբերում է թե՛ ներքին մշակմանը, թե՛ արտաքին գործարկմանը։ Ինչպես նախկինում նշել ենք, OpenAI-Hugging Face միջադեպից հետո երկու շաբաթով դադարեցրինք որոշ առաջադեմ մոդելների ուսուցման որոշ գործընթացներ (այդ թվում՝ Astra-ի ուսուցման որոշ գործընթացներ), որպեսզի ուժեղացնենք ուսուցման ենթակառուցվածքի պաշտպանությունը՝ մեկուսացման և ցանցային վերահսկման միջոցներով, ընդլայնված մշտադիտարկմամբ, ինչպես նաև համապատասխանեցման ուսուցման ու շեմերի խստացմամբ։ Այնուհետև ավելի խիստ վերահսկողության ներքո շարունակեցինք փոքրածավալ աշխատանքները։
Astra-ի ապագա տարբերակների ամրապնդումով ուսուցման (RL) որոշ ավելի խոշոր գործարկումներ ավելի երկար ժամանակով հետաձգեցինք, մինչ դրանց ուսուցման միջավայրի անվտանգության և պաշտպանվածության ավելի բարձր չափանիշներ էինք սահմանում։ Օգոստոսի 28-ին, անվտանգության և պաշտպանվածության նոր պահանջները ներդնելուց հետո, վերսկսեցինք առաջադեմ մոդելի ամրապնդմամբ ուսուցման նախկինում դադարեցված խոշոր գործարկումը։ Փոքրածավալ փորձարարական ուսուցման որոշ գործընթացներ դեռևս ժամանակավորապես հետաձգում ենք։
Astra-ն թողարկման պատրաստելու համար անհրաժեշտ էին նաև կիբեռչարաշահման և չարտոնված գործողությունների դեմ ավելի ուժեղ պաշտպանական միջոցներ։ Ստորև ներկայացնում ենք այդ պաշտպանական միջոցները և դրանց փորձարկման եղանակները։
Այն պահից ի վեր, երբ փետրվարին գործարկեցինք կիբեռանվտանգության ոլորտում բարձր կարողություններ ունեցող մեր առաջին մոդելը, յուրաքանչյուր հաջորդ թողարկման հետ ուժեղացրել ենք կիբեռպաշտպանական միջոցները։ Անվտանգության մեր ընդհանուր մոտեցումը բազմաշերտ է և ներառում է հետուսուցման փուլում մոդելին սովորեցված մերժումները, համակարգային մակարդակի անվտանգության դասակարգիչները, ինչպես նաև անցանց հայտնաբերումն ու սպառնալիքների խափանումը։
GPT‑5.6‑ի(բացվում է նոր պատուհանում) համար զգալիորեն բարձրացրել ենք համակարգային մակարդակի մեր պաշտպանական համալիրի հուսալիությունը՝ այդ թվում ավելացնելով ակտիվացման դասակարգիչներ՝ կիբեռչարաշահումը հայտնաբերելու համար, և ընդլայնելով ինտենսիվ ավտոմատ նախափորձարկմամբ հայտնաբերված համընդհանուր հաքերային հարձակման գործընթացների ընդգրկումը։ Հիմնվելով այս բարելավումների վրա՝ Astra-ի դեպքում լրացուցիչ ներդրումներ ենք կատարել պաշտպանական համալիրի մոդելային շերտում, ինչպես նաև բարելավել ենք տարբեր զրույցների համատեքստը հաշվի առնելու մեր պաշտպանական միջոցների կարողությունը։
- Մոդելի դիմակայունության ուսուցման նոր մեթոդների շնորհիվ Astra-ն ավելի հուսալիորեն է մերժում արգելված կիբեռաջակցության հարցումները։ Կիբեռանվտանգության հաքերային հարձակման գործընթացների մեր գնահատումներում Astra-ն մերժում է հարցումների 91.5%-ը (GPT‑5.6 Sol-ի 59%-ի համեմատ)։
- Ավելի բարձր ռիսկայնություն ունեցող հաշիվների համար կիրառում ենք մոդելի վարքի ավելի պահպանողական սահմանաչափ, որի դեպքում մերժվում է հնարավոր ռիսկային կիբեռաջակցության ավելի լայն շրջանակ։ Բարձր ռիսկայնություն ունեցող օգտատերերի դեպքում ընդլայնել ենք մեր մշտադիտարկման համակարգերին հասանելի համատեքստը, որպեսզի կարողանանք հայտնաբերել նման կիբեռչարաշահումները։
Շարունակել ենք նաև խիստ փորձարկումների, ներքին ու արտաքին նախափորձարկման և խնդիրների վերացման մեր ծրագիրը։ Նախորդ փորձարկումների ընթացքում հայտնաբերված հաքերային հարձակման բոլոր գործընթացների ընդգրկվածությունը հաստատող հետընթացային փորձարկումներից բացի՝ մեր նորագույն ներքին նախափորձարկման հարձակվողների միջոցով անցկացնում ենք նախափորձարկման նոր փուլ։ Ոլորտի գործընկերների հետ մշակում ենք հաքերային հարձակման գործընթացների գնահատման միասնական համակարգ և նոր բացահայտումները հետաքննելու ու վերացնելու համար կօգտագործենք մեր շուրջօրյա արագ արձագանքման ծրագիրը։ Կիբեռպաշտպանական միջոցների մեր փորձարկումների մասին ավելի մանրամասն կներկայացնենք Astra-ի համակարգի քարտում։
Պաշտպաններին խոցելիություններ գտնելու և շտկելու հարցում օգնելը շարունակում է մնալ անվտանգության մեր մոտեցման առանցքային հենասյունը։ Թողարկման պահին Astra-ի պաշտպանական միջոցները, հավանական չարաշահումից պաշտպանելու նպատակով, հավանաբար ավելի շատ խոչընդոտներ կստեղծեն, քան նախատեսում ենք երկարաժամկետ հեռանկարում։ Կիբեռանվտանգության առաջադեմ աշխատանքային հոսքերի համար Astra-ի հասանելիությունը սկզբում կտրամադրվի ալֆա փորձարկողների փոքր խմբի, որից հետո Daybreak Blue-ի միջոցով կընդլայնվի՝ պաշտպանական կիրառություններին աջակցելու համար։
Ավելացրել ենք նաև բազմաշերտ լրացուցիչ պաշտպանական միջոցներ՝ կանխելու մոդելի կողմից նպատակներին հնարավոր չհամապատասխանող գործողությունների կատարումը.
- Մոդելի համապատասխանեցում․ մեր գնահատումներում Astra-ն շատ ավելի հաճախ էր պահպանում անվտանգության և պաշտպանվածության հստակ սահմանափակումներն ու մնում իր լիազորված շրջանակում, քան GPT‑5.6 Sol-ը, ինչի շնորհիվ այն մինչ օրս մեր ամենալավ համապատասխանեցված մոդելն է։ Հատկապես կենտրոնացել ենք այն բանի վրա, թե մոդելն ինչպես է պահպանում անվտանգության ու պաշտպանվածության սահմանափակումները և որքանով է հակված մնալու իր լիազորված շրջանակում։
- Մշտադիտարկում և վերահսկում․ մեր ներքին ընթացակարգերին զուգահեռ՝ Astra-ն գործարկում ենք մտքերի շղթայի լրացուցիչ մշտադիտարկմամբ՝ հնարավոր նպատակներին չհամապատասխանող գործողություններն արագ հայտնաբերելու և զսպելու համար։
Astra-ն զգալի առաջընթաց է մոդելի համապատասխանեցման ոլորտում և համապատասխանեցման մի քանի երկարատև աշխատանքային ուղղությունների արդյունքը (նախնական ուսուցման փուլում միջամտություններից մինչև ամրապնդմամբ ուսուցման ընթացքում ավելի զգույշ ու հետևողական գնահատում)։ Փորձարկումները ցույց են տալիս, որ GPT 5.6 Sol-ի համեմատ Astra-ն հետևողականորեն ավելի հաճախ է պահպանում անվտանգության հստակ սահմանափակումներն ու նախազգուշացումները, օրինակ՝ ավտոմատ ստուգման պահանջները։
Մշակել ենք նաև Hugging Face-ի միջադեպի հիման վրա ձևավորված փորձարկում: Այդ միջադեպի ժամանակ ExploitGym կիբեռգնահատումն իրականացնող ագենտները զավթել էին երրորդ կողմի համակարգերը։ Գնահատման ամենաբարդ առաջադրանքներն օգտագործել ենք խայծ-համակարգերով փորձարկումներ ստեղծելու համար, որպեսզի պարզենք՝ մոդելը հանձնարարված խնդիրը լուծելու փոխարեն կփորձի՞ արդյոք զավթել հարակից անվտանգության ենթակառուցվածքը։ Առանց արտադրական պաշտպանական միջոցների GPT‑5.6 Sol-ը նման թիրախներ մուտք գործելու փորձ է կատարել այն փորձարկումների 56%-ում, որոնք մոդելավորում էին շահագործման միջոցներ մշակելու հանձնարարությամբ հենանիշային միջավայրը։ Այս փորձարկումներում Astra-ն նման փորձեր չի կատարել։ Այս թվերը նկարագրում են կիբեռպաշտպանական միջոցներից զուրկ փորձարկման պայմաններում դրսևորված վարքը, ոչ թե սովորական արտադրական օգտագործումը։
Ձախ կողմում․ այս նոր գնահատմամբ դիտարկում ենք, թե մոդելներն ինչպես են արձագանքում ավտոմատ ստուգման մերժմանը։ Յուրաքանչյուր առաջադրանք կատարվում է գիտելիքահեն աշխատանքի միջավայրում, իսկ գործարկումը սկսվում է ավտոմատ ստուգման մերժումից անմիջապես հետո։ Այնուհետև մոդելը կարող է շարունակել մի քանի եղանակով՝ ավարտել գործարկումը, փորձել ավելի անվտանգ այլընտրանք գտնել, կրկին գործարկել նմանատիպ հրաման կամ օգտվել վատ կազմաձևից(բացվում է նոր պատուհանում)՝ ավտոմատ ստուգումն ամբողջությամբ շրջանցելու համար։ Վերջին երկու տարբերակներից որևէ մեկին հետևելը կնշանակեր այս գնահատման ձախողում։ Astra-ն երբեք չի փորձել շրջանցել ավտոմատ ստուգումը։
Աջ կողմում․ այս գնահատմամբ ստուգում ենք մոդելի՝ խաբելու հակվածությունը, (օգտագործելով «խայծ-համակարգեր) երբ այն ExploitGym գնահատման ամենաբարդ կամ անհնար առաջադրանքներին է բախվում։ Մոդելի վարքը գնահատելու համար փորձարկումն անցկացվել է մոդելավորված միջավայրում, որտեղ պաշտպանական միջոցները գործել են միայն դիտարկման ռեժիմով։ Թեև GPT‑5.6 Sol-ն այս իրավիճակներում խաբելու ավելի մեծ հակվածություն է ցուցաբերել, Astra-ն չի փորձել օգտվել այդ շրջանցիկ ուղիներից և, այնուամենայնիվ, կարողացել է որոշ առաջադրանքներ լուծել օրինական եղանակով։
Մոդելներին համապատասխանեցված վարք սովորեցնելն անվտանգության շերտերից մեկն է։ Համապատասխանեցման մեր փորձարկումների և արդյունքների մասին ավելի մանրամասն կներկայացնենք Astra-ի համակարգի քարտում։
Astra-ի դասի մոդելների համար արտադրական միջավայրում ներդնում ենք նաև անհամապատասխանության մշտադիտարկում՝ հնարավոր անհամապատասխանությունն արագ հայտնաբերելու և զսպելու համար։ Այս պաշտպանական միջոցները նման են ներքին գործարկումների ժամանակ կիրառվող մեր մշտադիտարկմանը և ներառում են դասակարգիչների համակարգ, որը ստուգում է մոդելի դատողություններն ու գործողությունները՝ չարտոնված վարք հայտնաբերելու համար, և ինքնաբերաբար կասեցնում հնարավոր չարտոնված գործունեությունը։Կարողությունների աճին զուգահեռ այս պաշտպանական միջոցները չեն կարող փոխարինել մոդելների լավ համապատասխանեցմանը։ Մեր նպատակն է ապագա մոդելներն այնքան լավ համապատասխանեցնել, որ այդ պաշտպանական միջոցները երբեք չգործարկվեն։
OpenAI-ը հանձնառու է ապահովելու արհեստական բանականության առավելությունների լայն հասանելիությունը։ Հաշվի առնելով Astra-ի կիբեռանվտանգության կարողությունների զգալի աճը՝ առանձնահատուկ զգուշությամբ ենք մոտենում այս գործարկման անվտանգությանն ու պաշտպանվածությանը։ Անվտանգության լրացուցիչ ստուգումները երբեմն կարող են դանդաղեցնել, դադարեցնել կամ կասեցնել օրինական աշխատանքը, այդ թվում՝ պաշտպանական կիբեռանվտանգության ոլորտում։
Համակարգը երբեմն կարող է օրինական գործունեությունը սխալմամբ նշել որպես հնարավոր կիբեռչարաշահում կամ չարտոնված վարք, ինչի հետևանքով այն կարող է ակամա դանդաղեցվել, ընդհատվել կամ ամբողջությամբ կասեցվել։ Դա կարող է վերաբերվել նաև կիբեռանվտանգության հետ առաջին հայացքից ուղղակիորեն չկապված աշխատանքին կամ այնպիսի առաջադրանքներին, որոնցում ագենտը երկար ժամանակ է գործում։
Եթե անհամապատասխանության մշտադիտարկիչը ընդհատի առաջադրանքը, ChatGPT‑ի կամ Codex-ի օգտատերերից կարող է պահանջվել շարունակելուց առաջ վերանայել համապատասխան գործողությունը։ Այլ միջերեսներ, օրինակ՝ API-ն օգտագործելու դեպքում, առաջադրանքն ամբողջությամբ կկասեցվի։ Նախատեսում ենք շարունակաբար ճշգրտել այս պաշտպանական միջոցները՝ ավելորդ ընդհատումները նվազեցնելու և Daybreak-ի նման ծրագրերի միջոցով սահմանային կարողությունների հասանելիությունն ընդլայնելու համար։
Մտնում ենք արհեստական բանականության զարգացման մի փուլ, որտեղ մոդելները կարող են ստանձնել ավելի մեծ հետևանքներ ունեցող աշխատանք, իսկ համապատասխանեցման ու վերահսկման ձախողումները կարող են ավելի լուրջ հետևանքների հանգեցնել։ Այս համակարգերի առավելություններն իրագործելու մեր կարողությունը կախված կլինի այն բանից, թե որքանով կկարողանանք աճող կարողություններին զուգահեռ համապատասխանեցնել և վերահսկել մոդելները։
Այդ պատասխանատվությունն ընդգրկում է ուսուցումը, գնահատումը և գործարկումը։ Դրա համար անհրաժեշտ են համապատասխանեցված վարքի ավելի համոզիչ ապացույցներ, կարողությունների աճին համընթաց զարգացող պաշտպանական միջոցներ և աշխատանքը դանդաղեցնելու պատրաստակամություն, երբ այդ միջոցները բավարար չեն։
Կշարունակենք փորձարկել այս համակարգերը, կիսվել մեր քաղած դասերով և հստակ ներկայացնել, թե ինչն է դեռևս անորոշ։ Astra-ին հաջորդող մոդելները մեզանից ավելին կպահանջեն։ Մենք անհրաժեշտ ժամանակը կհատկացնենք և կկատարենք այդ պատասխանատվությունը ստանձնելու համար անհրաժեշտ աշխատանքը։
