«Stop News» գործողություն․ կրկնվող ազդեցության գործունեություն
OpenAI-ն արգելափակել է Ռուսաստանից ղեկավարվող և մեր կողմից «Stop News» անվանված գործողության հետ կապված հաշիվներ, որոնք ԱԲ-ի միջոցով գեներացնում էին Աֆրիկան ու ՄԹ-ն թիրախավորող կրկնվող ազդեցության բովանդակություն։
Այս դեպքի ուսումնասիրությունն ի սկզբանե հրապարակվել է OpenAI-ի 2025 թ. հոկտեմբերի(բացվում է նոր պատուհանում) զեկույցում։
Դերակատար
Մենք արգելափակել ենք մի շարք հաշիվներ, որոնք փորձում էին մեր մոդելների միջոցով բովանդակություն գեներացնել այն գաղտնի ազդեցության գործողության համար, որի մասին 2024 թ. հոկտեմբերին գրել էինք որպես «Stop News»։ Այս գործունեությունը ծագել էր Ռուսաստանում և, ըստ ամենայնի, համապատասխանում էր մարքեթինգային ընկերության վարած գործողությանը։ Մեր հետաքննությամբ բացահայտվել են այս դերակատարի փորձերը՝ այլ ընկերությունների ԱԲ գործիքների միջոցով գեներացնելու տեսանյութեր, որոնք այնուհետև հրապարակվել են YouTube-ում և TikTok-ում։ Մենք չենք կարող անկախորեն հաստատել, թե նրանք ի վերջո որ մոդելներն են օգտագործել։
Վարքագիծ
Ինչպես 2024 թ. հոկտեմբերին մեր խափանած գործունեության դեպքում, այս գործողությունը մեր մոդելները հիմնականում օգտագործել է բովանդակություն գեներացնելու համար, որն այնուհետև հրապարակվել է սոցիալական ցանցերում և մի շարք կայքերում։ Այդ կայքերը ներկայանում էին որպես Աֆրիկայի և ՄԹ-ի նույն լրատվամիջոցները, որոնց մասին գրել էինք անցյալ տարի։
Թեև այս գործունեությունը, ըստ ամենայնի, նախորդ գործողությունը շարունակելու փորձ էր՝ մեր և ոլորտի մյուս ընկերությունների ձեռնարկած խափանումներից հետո, մենք մի քանի ուշագրավ տարբերություն բացահայտեցինք։ Նախ՝ պատկերի գեներացման մասնաբաժինը զգալիորեն նվազել էր։ Եթե «Stop News»-ի սկզբնական գործունեության ընթացքում, ինչպես այն ժամանակ նշել էինք, պատկերներն անսովոր մեծ քանակությամբ էին օգտագործվում, ապա վերջին գործունեությունն ավելի շատ կենտրոնացած էր տեքստի գեներացման վրա, իսկ պատկերի գեներացումը համեմատաբար հազվադեպ էր։ Սա համապատասխանում է Ֆրանսիայի թվային գործակալության՝ VIGINUM-ի գնահատականին, ըստ որի՝ «Meta-ի և OpenAI-ի զեկույցների հրապարակումից հետո ԱԲ-ի միջոցով գեներացված պատկերների օգտագործումը կտրուկ նվազել է»։
Երկրորդ՝ գործողությունը ChatGPT‑ն օգտագործել է նաև լրատվական ոճի կարճ տեսանյութերի սցենարներ և նկարագրություններ գեներացնելու համար։ Սովորաբար կազմակերպիչները մուտքագրում էին ռուսերեն ծավալուն տեքստ և խնդրում դրա հիման վրա տեսանյութի սցենար գեներացնել։ Այնուհետև նրանք մոդելին խնդրում էին տեքստը թարգմանել ֆրանսերեն։ Երրորդ՝ նրանք մոդելին խնդրում էին գեներացնել SEO-ի համար օպտիմալացված նկարագրություն և հեշթեգներ։
Այս սցենարներից մի քանիսն օգտագործվել են «Stop News» գործողության՝ Աֆրիկային նվիրված newstop[.]africa կայքի հետ կապված YouTube ալիքի տեսանյութերում։ Մյուսներն օգտագործվել են YouTube-ի և TikTok-ի ալիքներում, որոնք չէին կրում «Stop News» ապրանքանիշը։ Այս ալիքներում ներկայացված էր ԱԲ-ի միջոցով գեներացված անձ, որը կարդում էր լուրերը։ Շատ դեպքերում լրահաղորդավարի կարճ հատվածներն ընդմիջվում էին Աֆրիկայում տեղի ունեցած կամ Աֆրիկային առնչվող իրադարձությունների տեսագրություններով։ Լրահաղորդավարի հատվածները, ըստ ամենայնի, չեն գեներացվել մեր մոդելների միջոցով․ մենք չենք կարող անկախորեն հաստատել, թե որ ծառայությունն է օգտագործվել։ Լրահաղորդավարի արտաքին տեսքը փոխվել է 2025 թ. ընթացքում, ինչպես ցույց են տալիս ստորև բերված՝ TikTok-ի տեսանյութերից վերցված կադրերը։
Ձախից աջ՝ գործողության TikTok-ի հաշվից Ռուսաստանը գովաբանող՝ ԱԲ-ի միջոցով գեներացված լրահաղորդավարը 2025 թ. հունվարին, հունիսի սկզբին և հունիսի վերջին։
Ամենաբարդ դեպքերում կազմակերպիչները մեր մոդելների միջոցով գեներացրել են տեսանյութերի հարցումներ, որոնք, ըստ ամենայնի, նախատեսված էին այլ ԱԲ մոդելներում օգտագործելու համար։ Այս դեպքում նրանք նախ ռուսերենով գեներացրել են տեսանյութի սցենար, ապա բաժանել այն երկուական նախադասությամբ հատվածների և ChatGPT‑ին խնդրել յուրաքանչյուր հատվածի համար տեսանյութի հարցում գեներացնել։ Տեսանյութերի հարցումները ստեղծելուց հետո կազմակերպիչները մոդելին խնդրել են ամբողջ սցենարը թարգմանել ֆրանսերեն։
Ձախից աջ՝ Ռուսաստանին պատկանող «Աֆրիկյան կորպուսը» գովաբանող TikTok տեսանյութից երեք կադր։ Գործողության կազմակերպիչները ChatGPT‑ի միջոցով ռուսերենով գեներացրել են ձայնային սցենարը, բաժանել այն երկուական նախադասությամբ հատվածների, ապա յուրաքանչյուր հատվածի համար գեներացրել տեսանյութի հարցում՝ մեկ այլ մոդելում օգտագործելու նպատակով։ Վերևի պատկերները համապատասխանում են տեսանյութերի հարցումներին։ Մենք չենք կարող անկախորեն հաստատել, թե տեսանյութերը ստեղծելու համար որ ծառայությունն է օգտագործվել։ Հատկանշական է, որ աջակողմյան պատկերի ենթագրում քերականական սխալ կա («ces»՝ «ses»-ի փոխարեն), որը չկար ChatGPT‑ի տրամադրած ֆրանսերեն թարգմանության մեջ։ Սա հուշում է, որ ենթագիրը վերծանվել է ձայնագրությունից և չի սրբագրվել ֆրանսերեն իմացող անձի կողմից։
Արդյունքներ
Այս գործողության գործունեությունը բաժանվում էր երեք հիմնական կատեգորիայի։ Նախ՝ այն ֆրանսերեն բովանդակություն էր գեներացնում, որը քննադատում էր Ֆրանսիայի և Միացյալ Նահանգների դերն Աֆրիկայում և գովաբանում այնտեղ Ռուսաստանի դերը։ Երկրորդ՝ այն անգլերեն բովանդակություն էր գեներացնում, որը քննադատում էր Ուկրաինային և նրա միջազգային աջակիցներին։ Երբեմն կազմակերպիչները նաև պատկերներ էին գեներացնում՝ իրենց տեքստային բովանդակությունն ուղեկցելու համար։ Հազվադեպ նրանք ChatGPT‑ին խնդրում էին գեներացնել գովազդային հոդվածներ և Google-ի գովազդային տեքստեր իրենց հիմնական՝ «Newstop Africa» լրատվական ապրանքանիշի համար։ Այս գովազդային հոդվածներից մի քանիսը չէին կենտրոնանում միայն Newstop Africa-ի վրա, այլ Newstop ապրանքանիշը ներկայացնում էին օրինական լրատվամիջոցների կողքին՝ հավանաբար այդ առնչության շնորհիվ այն ավելի վստահելի ցույց տալու նպատակով։
Գործողության՝ Աֆրիկային նվիրված հիմնական X հաշվից հրապարակված թվիթ։ Պատկերը գեներացվել է մեր մոդելի միջոցով։
Գործունեության երրորդ խումբը բաղկացած էր Ռուսաստանում գործող տարբեր առևտրային ընկերությունների համար գովազդային նյութեր գեներացնելուց։ Դա ներառում էր չարտոնագրված առցանց մոլախաղերի գովազդների գեներացում։ Բովանդակության գեներացման տարբեր տեսակների նման համադրությունը բնորոշ է առևտրային ընկերությանը, որը ավանդական գովազդին զուգահեռ պատվերով գաղտնի ազդեցության գործողություններ է վարում, և համապատասխանում է անցյալ տարի մեր արձանագրած գործունեությանը։
Ազդեցություն
Չնայած այս գործողությունն ավելի շատ էր կենտրոնացել կարճ տեսանյութերի վրա և ավելի բարդ ձևով էր օգտագործում ԱԲ-ի բազմաթիվ գործիքներ, դրա հրապարակած բովանդակությունը, ըստ ամենայնի, միայն սահմանափակ դիտումներ և լսարան է հավաքել։ 2025 թ. օգոստոսի դրությամբ «Newstop Africa»-ի հիմնական X հաշիվն ուներ ընդամենը 172 հետևորդ, իսկ X-ի «Լավագույն թվիթներ» գործառույթի համաձայն՝ դրա հրապարակումներից որևէ մեկի վերաթվիթերի առավելագույն թիվը չորսն էր։
ԱԲ լրահաղորդավար ներկայացնող YouTube-ի և TikTok-ի ալիքներից յուրաքանչյուրն ուներ մոտ 1,900 հետևորդ։ TikTok-ի ալիքը հավաքել էր 5,855 հավանում՝ իր հրապարակած 56 տեսանյութերից յուրաքանչյուրի համար միջինը 105 հավանում։ Ամենաշատ դիտված տեսանյութն ունեցել էր 63,300 դիտում, իսկ ամենաքիչ դիտվածը՝ ընդամենը 87։ YouTube-ի ալիքում նշված էր մոտ 255,000 դիտում՝ 50 տեսանյութի համար, այսինքն՝ միջինը 5,100 դիտում մեկ տեսանյութի հաշվով, սակայն մենք որևէ ապացույց չենք տեսնում, որ այս տեսանյութերը վերահրապարակվել են, հիշատակվել լրատվամիջոցներում կամ այլ կերպ ավելի լայն արձագանք ստացել։
2024 թ. հոկտեմբերի մեր զեկույցում այս գործողության վերաբերյալ սկզբնական գնահատականն այն էր, որ այն հասել է Breakout Scale-ի 3-րդ կատեգորիային՝ հիմնականում ՄԹ-ում գործող կայքերի հետ ստեղծված թվացող մի շարք «տեղեկատվական գործընկերությունների» հիման վրա։ Սակայն VIGINUM-ի և բաց աղբյուրների հետազոտողների հետագա ուսումնասիրությունները ցույց տվեցին, որ այդ «գործընկերությունները», հավանաբար, հորինված էին և «օգտագործել էին այդ արտաքին կայքերի տեխնիկական թերությունները»՝ առանց ադմինիստրատորների իմացության բովանդակություն ավելացնելու համար։ Այս հիմքով ներկայում կգնահատեինք, որ այս գործողության գործունեությունն ավելի ճիշտ է դասել 2-րդ կատեգորիային՝ գործունեություն համացանցային մի քանի հարթակներում, սակայն առանց իրական համայնքներում զգալի տարածման։