Doppel-ի պաշտպանությունը կանխում է հարձակումը մինչ դրա տարածվելը

Կեղծ անձնավորման մեկ կայք կարող է մեկ ժամից էլ քիչ ժամանակում գործարկվել, թիրախավորել հազարավոր օգտատերերի և անհետանալ։ Իրական վնաս հասցնելու համար սա լիովին բավարար ժամանակ է։ Գեներատիվ գործիքների միջոցով նրանք կարող են արագորեն ստեղծել դրա նման հարյուրավոր տարբերակներ։

Doppel-ը ստեղծվել է, որպեսզի պաշտպանի կազմակերպությունները խորը կեղծիքներից և առցանց կեղծ անձնավորումներից, սակայն շատ շուտ հասկացավ, որ ԱԲ-ի օգնությամբ այդ սպառնալիքները կարող են անսահման մասշտաբների հասնել։ Հարձակվողներին այլևս պետք չէր ձեռքով պատրաստել խարդախությունները. նրանք կարող էին վայրկյանների ընթացքում գեներացնել ֆիշինգի փաթեթների, կեղծված դոմենների և ուրիշի անվամբ ներկայացող հաշիվների անվերջ տարբերակներ։

Միշտ մեկ քայլ առաջ լինելու համար Doppel-ը մշակել է սոցիալական մանիպուլյացիայից պաշտպանվելու նոր համակարգ, որը հիմնված է OpenAI GPT‑5 և OpenAI o4-mini մոդելների վրա։ Doppel-ի հարթակն ինքնավար կերպով հայտնաբերում, դասակարգում և վերացնում է սպառնալիքները՝ նվազեցնելով վերլուծաբանների ծանրաբեռնվածությունը 80%-ով, եռապատկելով սպառնալիքների մշակման կարողությունը և արձագանքման ժամանակը հասցնելով րոպեների։

Ռիսկերի ավանդական թվային պաշտպանությունը հիմնվում էր մարդկանց վրա, որոնք ձեռքով ստուգում էին անձնավորման կայքերը, ֆիշինգային դոմենները, ինչպես նաև սոցիալական ցանցերի պրոֆիլներն ու հրապարակումները։ Doppel-ը տեսավ, որ այս մոտեցումն այլևս չի աշխատում, քանի որ հարձակվողներն սկսեցին ավտոմատացնել իրենց գործողությունները՝ սպառնալիքները գործարկելով ավելի արագ և ավելի շատ հարթակներում, քան մարդիկ ի վիճակի էին ստուգելու։

Այդ արագությունը վճռորոշ նշանակություն ունի Doppel-ի հաճախորդների համար՝ այն կազմակերպությունների, որոնք չեն կարող իրենց թույլ տալ ժամերով սպասել, որ սպառնալիքի իսկությունը հաստատվի կամ մերժվի։ Doppel-ի համակարգը սպառնալիքների մեծ մասը դասակարգում է ավտոմատ կերպով՝ կիրառելով OpenAI-ի հիմնավորման մոդելները, ինչպես նաև կառուցվածքային հետադարձ կապի մեխանիզմ, որը հայտնի է որպես ամրապնդումով կարգավորում (RFT), ինչը ժամանակի ընթացքում բարելավում է մոդելի աշխատանքը։ RFT-ում մարդու գնահատականը կիրառվում է որպես օրինակ, որն օգնում է մոդելներին ինքնուրույն ընդունել հետևողական և բացատրելի որոշումներ։

Doppel-ի LLM-ով աշխատող փուլային համակարգը դրա հայտնաբերման մեխանիզմի կենտրոնական մասն է։ Ազդանշանները հավաքելուց և զտելուց հետո համակարգը կատարում է մի շարք նպատակային վերլուծական առաջադրանքներ․ գնահատում է հնարավոր սպառնալիքները, հաստատում է մտադրությունը և կայացնում դասակարգման որոշումներ։ Յուրաքանչյուր փուլ նախագծված է այնպես, որ հավասարակշռի արագությունը, ճշգրտությունն ու հետևողականությունը՝ միաժամանակ վերլուծաբանների ուշադրությունը կենտրոնացնելով այն սահմանային դեպքերի վրա, որոնք մարդկային դատողություն են պահանջում։

Ահա թե ինչպես է այն գործում․

• Ազդանշանների զտում և հատկանիշների արտահանում. Doppel-ի համակարգերն ամեն օր մշակում են միլիոնավոր դոմեններ, URL-ներ և հաշիվներ։ Գործնական կանոնների և OpenAI o4-mini-ի համադրությունը զտում է անպետք տեղեկությունը և արտահանում կառուցվածքային հատկանիշներ՝ մոդելների հետագա գնահատումներն ուղղորդելու համար։
• Սպառնալիքների զուգահեռ հաստատում․ Յուրաքանչյուր ազդանշան անցնում է GPT‑5‑ի բազմաթիվ հարցումների միջով, որոնք հատուկ մշակված են սպառնալիքների վերլուծության տարբեր տեսակների համար։ Այդ հարցումները գնահատում են այնպիսի գործոններ, ինչպիսիք են ուրիշի անունից ներկայանալու ռիսկը, ապրանքանիշի չարաշահումը կամ սոցիալական մանիպուլյացիային բնորոշ օրինաչափությունները։
• Սպառնալիքի դասակարգում. OpenAI o4-mini-ի RFT տարբերակը համադրում է նախորդ հաստատումների արդյունքները և տալիս կառուցվածքային պիտակավորում՝ վնասաբեր, անվնաս կամ կասկածելի՝ գործնական կիրառման համար պահանջվող կայուն ու միատեսակ ճշգրտությամբ։
• Վերջնական ստուգում. GPT‑5-ը երկրորդ փուլով ստուգում է մոդելի որոշումը և կազմում բնական լեզվով հիմնավորում։ Եթե համակարգը վստահ է, որ սպառնալիքն իրական է, ինքնուրույն սկսում է դրա դեմ գործողությունները։
• Ստուգում մարդու կողմից. Վստահության ցածր մակարդակ ունեցող կամ իրար հակասող արդյունքները փոխանցվում են վերլուծաբաններին Նրանց որոշումները գրանցվում են և փոխանցվում RFT-ի ուսուցման շրջափուլ՝ մոդելի հետևողականությունը շարունակաբար բարելավելու համար։

Doppel-ն արդեն զգալի արդյունքներ էր գրանցել իր սկզբնական՝ LLM-ով ուժեղացված հայտնաբերման խողովակաշարի շնորհիվ, սակայն այն դեպքերում, երբ նույն սպառնալիքը տարբեր վերլուծաբաններ կարող էին տարբեր կերպ գնահատել, գլխավոր խնդիրը դարձավ գնահատման միատեսակ մոտեցում ապահովելը։

Այդ հետևողականությունն ու միատեսակությունն ապահովելու համար Doppel-ը կիրառեց RFT՝ որպես հետադարձ կապի աղբյուր օգտագործելով սեփական վերլուծաբանների տվյալները։ Յուրաքանչյուր որոշում, որով դոմենը դասակարգվում էր որպես վնասաբեր, անվնաս կամ կասկածելի, դառնում էր ուսուցման օրինակ։ Այդ դասակարգված օրինակների շնորհիվ մոդելը սովորում էր վերարտադրել փորձագետների դատողությունը նույնիսկ բարդ ու սահմանային դեպքերում։

Սերտորեն համագործակցելով OpenAI-ի կիրառական ինժեներական թիմի հետ՝ Doppel-ը մշակեց գնահատման գործառույթներ, որոնք հաշվի էին առնում ոչ միայն ճշգրտությունը, այլև բացատրության որակը՝ խրախուսելով այն մոդելներին, որոնք ոչ միայն ճիշտ եզրակացության էին գալիս, այլև իրենց դատողությունը ներկայացնում էին հստակ ու հիմնավորված ձևով։ Վերլուծաբանների կարծիքները վերածելով կառուցվածքային ուսուցման տվյալների՝ Doppel-ը ցույց տվեց, թե ինչպես կարող է RFT-ն ավտոմատացված հայտնաբերումը դարձնել ավելի հետևողական և ավելի հուսալի։

Մոդելի կարգավորումների (հիպերպարամետրերի) ճշգրտումն ու կրկնվող գնահատումները մոդելն ավելի մոտեցրին մարդուն բնորոշ հետևողականությանը։ Սակայն Doppel-ի համար ավտոմատացման վերջնական փուլը միայն ինքնաշխատ որոշումներ կայացնելը չէր․ կարևոր էր նաև, որ այդ որոշումները մարդկանց համար միանգամից հասկանալի լինեին։

Այժմ յուրաքանչյուր ավտոմատ հեռացման գործողությանը կցվում է ԱԲ-ի կողմից կազմված հիմնավորում, որը բացատրում է, թե ինչու է տվյալ սպառնալիքը հեռացվել՝ հաճախորդներին անմիջապես պարզ դարձնելով, թե ինչու է այդ քայլը կատարվել․ սրա համար նախկինում վերլուծաբանի միջամտություն էր պահանջվում։

Այդ տեսանելիությունն ամրապնդում է վստահությունը, ինչը կարևոր գործոն է Doppel-ի օգտատերերի համար։ Տեսնելով ոչ միայն կատարված գործողությունը, այլև դրա կատարման հիմնավորումը՝ թիմերը կարող են առանց տատանվելու արագ արձագանքել և անհրաժեշտության դեպքում բացատրել իրենց որոշումները թե՛ կազմակերպության ներսում, թե՛ շահագրգիռ կողմերին։

• Վերլուծաբանների ծանրաբեռնվածության կրճատում 80%-ով
• Սպառնալիքներին արձագանքման ժամանակի կրճատում՝ ժամերից մինչև րոպեներ
• Սպառնալիքների կառավարման եռապատկված կարողություն
• Սպառնալիքների մեծ մասը դասակարգվում է ավտոմատ կերպով

Ֆիշինգային և ուրիշի անունից ներկայանալու դոմենների հայտնաբերումը գրեթե ամբողջապես ավտոմատացնելով՝ Doppel-ն այժմ փորձում է նույն՝ մոդելների վրա հիմնված համակարգը կիրառել նաև այլ, փոփոխական միջավայրերում։

«Դոմենները, հավանաբար, ամենաբարդ ալիքն են, որի հետ մենք աշխատում ենք»,- ասում է Մադդուլուրին։ «Ազդանշանները խառն են, բովանդակությունը մշտապես փոխվում է, և սպառնալիքները արագ զարգանում են միաժամանակ տարբեր հարթակներում։ Եթե սա կարողանանք լիովին ավտոմատացնել, ապա նույնը կկարողանանք անել ցանկացած ոլորտում՝ սոցիալական ցանցեր, վճարովի գովազդ, թե ցանկացած այլ հարթակ»։

Առաջիկա փուլերում Doppel-ը նախատեսում է բազմապատկել իր RFT տվյալների հավաքածուն, փորձարկել գնահատման նոր մոտեցումներ և GPT‑5-ը կիրառել գործընթացի սկզբնական փուլերում՝ հատկանիշների առանձնացման համար։ Այս փոփոխությունների շնորհիվ Doppel-ը կկարողանա համակարգի որոշ փուլեր միավորել և սպառնալիքի ավելի բարդ նշանները նկատել ու գնահատել արդեն ավելի վաղ փուլում։

Յուրաքանչյուր նոր բարելավմամբ Doppel-ը քայլ առ քայլ մոտենում է մի համակարգի ստեղծմանը, որը բոլոր այն հարթակներում, որտեղ վստահությունը հարձակման թիրախ է դառնում, պաշտպանում է իսկությունը։