Անցնել հիմնական բովանդակությանը
OpenAI

1 մայիսի, 2024 թ.

Անվտանգություն

«Դոպելգանգեր» գործողություն. Ուկրաինային թիրախավորող ռուսական ազդեցության գործունեություն

OpenAI-ն արգելափակել է Ռուսաստանից ծագող «Դոպելգանգեր» գործողության հետ կապված հաշիվները, որոնք ԱԲ-ն օգտագործում էին մի քանի լեզուներով Ուկրաինայի դեմ սոցցանցային մեկնաբանություններ, թարգմանություններ և կայքերի տեքստեր ստեղծելու համար։

Բեռնվում է…

Այս դեպքի ուսումնասիրությունն ի սկզբանե հրապարակվել է OpenAI-ի 2024 թ. մայիսի⁠(բացվում է նոր պատուհանում) զեկույցում։

Գործող կողմ

Մենք արգելափակել ենք մեր մոդելներն օգտագործող հաշիվների չորս խումբ, որոնք կապված էին ռուսական ազդեցության՝ «Դոպելգանգեր»⁠(բացվում է նոր պատուհանում) անունով հայտնի գործողության անունից հանդես եկող անձանց հետ։ Յուրաքանչյուր խումբ կիրառում էր տարբեր մարտավարություններ, մեթոդներ և ընթացակարգեր (TTP), ինչը բնորոշ է տարբեր գործառութային թիմերից կազմված գործողությանը։

Վարքագիծ

Այս գործունեությունը թիրախավորում էր Եվրոպայի և Հյուսիսային Ամերիկայի լսարանները և կենտրոնացած էր կայքերի ու սոցիալական ցանցերի համար բովանդակություն ստեղծելու վրա։

Հաշիվների առաջին խումբը կարճ տեքստային մեկնաբանություններ էր ստեղծում անգլերեն, ֆրանսերեն, գերմաներեն, իտալերեն և լեհերեն։ Դրանք հրապարակվում էին 9GAG-ում և X-ում՝ մեմերի, տեսանյութերի ու հղումների հետ, որոնք, ըստ ամենայնի, մեր մոդելներով չէին ստեղծվել։ Որոշ մեմեր պատճենված էին համացանցի տարբեր աղբյուրներից և, ըստ ամենայնի, տարիներ առաջ էին ստեղծվել։

9GAG-ում այս արշավի բովանդակությունը հրապարակող հաշիվների պրոֆիլի նկարներում սովորաբար հայտնիներ կամ կատուներ էին։ Նրանք իրենց մեմերն ու տեսանյութերը հրապարակում էին ամենատարբեր ալիքներում, այդ թվում՝ «Պատահական» ալիքում և ընտանի կենդանիներին, սպորտին, հումորին, նույնիսկ հարաբերություններին ու ծանոթություններին նվիրված ալիքներում։

Ուկրաինայի մասին մեկնաբանություն և Գազայի մասին տեսանյութ՝ հրապարակված 9GAG-ի «Շարժիչային տրանսպորտային միջոցներ» ալիքում մի հաշվից, որը բազմիցս տարածել էր այս արշավի ստեղծած բովանդակությունը։ Ուկրաինայի և ԱՄՆ սահմանի մասին հիշատակումը ստեղծվել էր մեր մոդելներով։ Տեսանյութը լրատվական կադրերի համադրություն էր։ Հրապարակումը ստացել էր 11 դրական և 93 բացասական քվե։

Ուկրաինայի մասին մեկնաբանություն և Գազայի մասին տեսանյութ՝ հրապարակված 9GAG-ի «Շարժիչային տրանսպորտային միջոցներ» ալիքում մի հաշվից, որը բազմիցս տարածել էր այս արշավի ստեղծած բովանդակությունը։ Ուկրաինայի և ԱՄՆ սահմանի մասին հիշատակումը ստեղծվել էր մեր մոդելներով։ Տեսանյութը լրատվական կադրերի համադրություն էր։ Հրապարակումը ստացել էր 11 դրական և 93 բացասական քվե։

Ամեն անգամ, երբ արշավը 9GAG-ում մեմ կամ տեսանյութ էր հրապարակում, երեքից հինգ հաշիվ պատասխանում էր՝ սովորաբար «հահահա» կամ «լոլ» պարզ հաղորդագրություններով։ Այս հաշիվներից յուրաքանչյուրը փոխազդում էր բացառապես այս արշավի բովանդակության հետ, իսկ մեծ մասը ստեղծվել էր նույն օրը։ Այս վարքագիծը հաճախ քննադատական մեկնաբանություններ էր առաջացնում այլ օգտատերերի շրջանում, որոնցից շատերն այդ հաշիվներն անվանում էին «բոտեր»։

Վերևում պատկերված տեսանյութի մեկնաբանությունները։ Ներքևի երեք հաշիվները, որոնցից ամենավաղ մեկնաբանություններն էին, ստեղծվել էին 2024 թ. ապրիլի վերջին և բազմիցս հրապարակել, դրական քվեարկել կամ մեկնաբանել էին միայն այս արշավի հրապարակումները։ Կեղծիքները բացահայտող վերևի երեք հաշիվները ստեղծվել էին մեկից տասը տարի առաջ և գործունեության լայն շրջանակ ունեին։

Վերևում պատկերված տեսանյութի մեկնաբանությունները։ Ներքևի երեք հաշիվները, որոնցից ամենավաղ մեկնաբանություններն էին, ստեղծվել էին 2024 թ. ապրիլի վերջին և բազմիցս հրապարակել, դրական քվեարկել կամ մեկնաբանել էին միայն այս արշավի հրապարակումները։ Կեղծիքները բացահայտող վերևի երեք հաշիվները ստեղծվել էին մեկից տասը տարի առաջ և գործունեության լայն շրջանակ ունեին։

X-ում արշավի մեկնաբանությունները հրապարակվում էին հաշիվներից, որոնցից յուրաքանչյուրը սովորաբար ընդամենը մեկ կամ երկու հրապարակում էր արել։ Մեկնաբանություններին սովորաբար կցվում էր պատահական թվացող հղում, օրինակ՝ «solarpanelfor.sale»։ Այս հղումները վերահղում էին մի շարք կայքեր, որոնք բազմիցս վերագրվել են «Դոպելգանգերին»։ Կայքերն աշխարհագրական սահմանափակում ունեին, ուստի դրանք կարող էին դիտել միայն թիրախային երկրի IP հասցե ունեցող մարդիկ։ Սակայն, ըստ ամենայնի, օպերատորները սխալվել էին, ինչի հետևանքով որոշ անգլերեն, գերմաներեն և լեհերեն հոդվածներ հնարավոր էր դիտել միայն ֆրանսիական IP հասցեից։

Հրապարակում X-ում՝ մեր մոդելներով ստեղծված մեկնաբանությամբ։ Մեկնաբանության թարգմանությունն է. «Ցնցող արարք։ Քաղաքականությունը երբեք չպետք է կապված լինի բռնության հետ։ Մեզ երկխոսություն է պետք, ոչ թե բռնություն»։ Կից հղումը վերահղում է «Դոպելգանգերի» rrn.media բրենդային կայքի գերմանալեզու տարբերակ։ Սակայն մայիսի 20-ի դրությամբ այն հնարավոր էր դիտել միայն ֆրանսիական IP հասցեից։

Հրապարակում X-ում՝ մեր մոդելներով ստեղծված մեկնաբանությամբ։ Մեկնաբանության թարգմանությունն է. «Ցնցող արարք։ Քաղաքականությունը երբեք չպետք է կապված լինի բռնության հետ։ Մեզ երկխոսություն է պետք, ոչ թե բռնություն»։ Կից հղումը վերահղում է «Դոպելգանգերի» rrn.media բրենդային կայքի գերմանալեզու տարբերակ։ Սակայն մայիսի 20-ի դրությամբ այն հնարավոր էր դիտել միայն ֆրանսիական IP հասցեից։

Հավանաբար հայտնաբերումից խուսափելու համար այս խումբը մեր մոդելներ էր մուտք գործում Ռուսաստանում և Չեխիայում գործող ընկերությունների հետ կապված ծառայության միջոցով։ Այս ծառայությունը նախատեսված էր, որպեսզի Ռուսաստանում գտնվող մարդիկ կարողանան շրջանցել աջակցվող երկրներից մուտքի մեր քաղաքականությունը⁠(բացվում է նոր պատուհանում)։ Մենք անջատել ենք այս ծառայության API հասանելիությունը։

Երկրորդ խումբը հոդվածներ էր ռուսերենից թարգմանում անգլերեն և ֆրանսերեն։ Ռուսերեն տեքստերը, ըստ ամենայնի, բնօրինակ էին։ Այս հոդվածներից շատերը հետագայում հրապարակվել են «Դոպելգանգերին» բազմիցս վերագրված rrn.media կայքում։ Նույն խումբն իր հոդվածների վերաբերյալ կարճ մեկնաբանություններ էր ստեղծում, որոնք հետագայում հայտնվում էին սոցիալական ցանցերում։

Մեր մոդելներով ստեղծված հրապարակում X-ում՝ rrn.media-ի հոդվածի հղմամբ։

Մեր մոդելներով ստեղծված հրապարակում X-ում՝ rrn.media-ի հոդվածի հղմամբ։

Երրորդ խումբն օգտագործվում էր ֆրանսերեն հոդվածներ ստեղծելու, սրբագրելու և ուղղելու համար։ Այնուհետև հոդվածները հրապարակվում էին franceeteu.today կայքում, որը նույնպես վերագրվել է «Դոպելգանգերին»։

Վերջին խումբը գործում էր գերմաներենով։ Այն բովանդակություն էր ներմուծում «Դոպելգանգերի» grenzezank.com կայքից և դրա հիման վրա կարճ հրապարակումներ ստեղծում կայքի անունը կրող Facebook խմբի ու էջի համար։

Բովանդակություն

Այս արշավի առցանց հրապարակած բովանդակության մեծ մասը վերաբերում էր Ուկրաինայի պատերազմին։ Այն Ուկրաինան, ԱՄՆ-ը, ՆԱՏՕ-ն և ԵՄ-ն ներկայացնում էր բացասական, իսկ Ռուսաստանը՝ դրական լույսի ներքո։ Տիպիկ մեկնաբանություններում պնդվում էր, որ Ռուսաստանը կարևոր տնտեսական գործընկեր է եվրոպական երկրների համար, որ Ռուսաստանին քննադատող արևմտյան առաջնորդները չեն հասկանում սեփական ընտրողներին, և որ Ուկրաինան թույլ է, կոռումպացված և/կամ պարտության շեմին է։

Որոշ դեպքերում «Դոպելգանգերի» մասնակիցները փորձում էին մեր մոդելներին դրդել ստեղծելու եվրոպացի հայտնի քաղաքական գործիչների և Ռուսաստանի քննադատների ծաղրանկարներ։ Մեր մոդելները մերժել են այդ հարցումները։

Ազդեցության գնահատում

Մեր հայտնաբերած «Դոպելգանգերի» արշավներից և ոչ մեկը, ըստ ամենայնի, իրական լսարանի կողմից զգալի դրական արձագանք չի ստացել։

9GAG-ում տիպիկ հրապարակումները ստանում էին 5–10 դրական քվե՝ հիմնականում այս արշավի բովանդակությունը նույնպես հրապարակող հաշիվներից, և 15-ից 200 բացասական քվե։ X-ում տիպիկ հրապարակումներն ունեին մոտ 1,000 տարածում, զրո պատասխան և զրո հավանում։ Այս տարբերությունն այնքան մեծ է, որ վկայում է ոչ իրական ուժեղացման մասին։ Հրապարակումներից մեկն ուներ երեք պատասխան, և բոլորն այն կեղծ էին անվանում։

Պատասխան X-ում՝ «Դոպելգանգերի» հրապարակմանը։

Պատասխան X-ում՝ «Դոպելգանգերի» հրապարակմանը։

Ազդեցության գործողությունների հետևանքը գնահատելու համար կիրառելով Տարածման սանդղակը⁠(բացվում է նոր պատուհանում), որը դրանք գնահատում է 1-ից՝ ամենացածր, մինչև 6՝ ամենաբարձր սանդղակով, մեր մոդելների օգտագործման հետ կապված գործունեությունը կդասեինք 2-րդ կատեգորիայում։ Այն բնորոշվում է մի քանի հարթակներում հրապարակումներով, սակայն դրանցից ոչ մեկում լայն տարածում կամ լսարանի զգալի ներգրավվածություն չի գրանցվել։