«Անորոշ կիզակետ» գործողությունը․ սոցիալական ճարտարագիտություն և ազդեցության գործունեություն
OpenAI-ն արգելափակել է հաշիվներ, որոնք ԱԲ-ն օգտագործում էին սոցիալական ճարտարագիտության, գաղտնի հետևմանն առնչվող հետազոտությունների և քննադատների վրա ազդելու համար։
Այս դեպքի ուսումնասիրությունն առաջին անգամ հրապարակվել է OpenAI-ի՝ 2025 թ. հունիսի(բացվում է նոր պատուհանում) զեկույցում։
Գործող կողմը
Մենք արգելափակել ենք ChatGPT հաշիվների մի փոքր ցանց, որն օգտագործում էր մեր մոդելները՝ սոցիալական ցանցերի գրառումներ ստեղծելու, տվյալների հավաքածուներ վերլուծելու և սոցիալական ճարտարագիտության փորձեր հիշեցնող էլեկտրոնային նամակներն ու հաղորդագրությունները չինարենից անգլերեն թարգմանելու համար։ Այս հաշիվներից մեր մոդելներին հարցումներ էին ուղարկվում չինարենով, և դրանք հիմնականում ակտիվ էին մայրցամաքային Չինաստանի աշխատանքային ժամերին։
Դրանց միջոցով ստեղծվում էին հաղորդագրություններ՝ իբր աշխարհաքաղաքական հարցերով զբաղվող երեք կազմակերպությունների՝ «Ֆոկուս Լենս Նյուզի», «Բրայթվեյվ Մեդիա Յուրոփի» և «Վիժնըրի Էդվայզըրի Գրուպի» (VAG) աշխատակիցների անունից։ Բացի այդ, ChatGPT‑ի այս հաշիվներով ստեղծվում էին տեքստեր, որոնք համընկնում էին այդ երեք կազմակերպությունների հետ կապված X հաշիվների գրառումներին և ինքնաներկայացման տեքստերին։ Առանձին դեպքերում չարագործներն այս կազմակերպությունները նկարագրում էին որպես հետախուզական տվյալների հավաքումն ու վերլուծությունը քողարկող կառույցներ։ Հիմնվելով այս անվանումների վրա՝ մենք գործողությունն անվանել ենք «Անորոշ կիզակետ»։
Վարքագիծը
Գործողության շրջանակում ChatGPT‑ն օգտագործվում էր չորս հիմնական ուղղությամբ աշխատանքներին աջակցելու համար։ Նախ՝ այս հաշիվներից մեր մոդելները հիմնականում օգտագործվում էին սոցիալական ցանցերի գրառումներ և կենսագրություններ ստեղծելու համար՝ առցանց կերպարների համար, որոնք, ըստ երևույթին, ազդեցության գաղտնի գործողության մաս էին կազմում։ Գրառումները տարածվում էին լրագրողներ և աշխարհաքաղաքական վերլուծաբաններ ներկայացող X հաշիվներից։
Այս չարագործի՝ ChatGPT‑ի միջոցով ստեղծած թվիթը, որը հրապարակվել է նրա բովանդակությունը պարբերաբար տարածող X հաշվից։
Երկրորդ՝ այս հաշիվներով խմբագրվում և թարգմանվում էին ԱՄՆ սենատորին ուղղված նամակներ՝ վարչակազմի պաշտոնյայի թեկնածության առաջադրման վերաբերյալ։ Մենք չենք կարող անկախ աղբյուրներով հաստատել՝ արդյոք այդ նամակներից որևէ մեկն ուղարկվել է։
Երրորդ՝ այս հաշիվներից մի շարք տարրական հարցեր էին տրվում համակարգչային ցանցերի վրա հարձակվելու և դրանց խոցելիություններն օգտագործելու գործիքների մասին։ Ի պատասխան՝ մեր մոդելները միայն ընդհանուր բացատրություններ էին տալիս դրանց կիրառության և հնարավորությունների վերաբերյալ։ Այս հարցերը չունեին այն խորությունը, որը բնորոշ է զեկույցի հետագա բաժիններում նկարագրվող կիբեռչարագործներին, և վկայում էին մասնագիտական գիտելիքների ցածր մակարդակի մասին։
Վերջապես, օգտատերերը պարբերաբար խնդրում էին չինարենից անգլերեն թարգմանել հաղորդագրություններ, որոնք, ըստ երևույթին, նախատեսված էին անհայտ զրուցակիցների հետ կապ հաստատելու և, ի վերջո, նրանցից տեղեկություններ կորզելու համար։ Այս հաղորդագրություններից մի քանիսը հրապարակվել էին սոցիալական ցանցերում՝ որպես պատասխաններ լրագրողներին և հետազոտողներին։ Մյուսները հիշեցնում էին անձնական հաղորդագրություններ և չէին հայտնվում առցանց որոնումների արդյունքներում։
Այս գործողության հետ կապված X հաշվից հետազոտողի հետ առանց նախնական ծանոթության կապ հաստատելու փորձ՝ X-ում նրան ուղղված հրապարակային հաղորդագրությամբ։
Գեներացված բովանդակությունը
Այս ցանցի հիմնական նպատակը, ըստ երևույթին, հետախուզական տվյալներ հավաքելն էր՝ ներկայանալով որպես Եվրոպայում կամ Թուրքիայում աշխատող մասնագետներ։ Իրենց ստեղծած և համացանցում հրապարակած բովանդակության մեջ գործողությունն իրականացնողները «Ֆոկուս Լենս Նյուզը» նկարագրում էին որպես Եվրոպայում տեղակայված անկախ կազմակերպություն, որը մասնագիտացած է վերլուծության և լրատվության ոլորտում։ Սակայն նրանք նաև պնդում էին, որ այս կերպարը իրականում քողարկում էր հետախուզական տվյալների հավաքումը, վերլուծությունն ու տարածումը դյուրացնելու նպատակը։
Սոցիալական ցանցերի ինքնաներկայացման բաժիններում նշված կայքի համաձայն՝ «Վիժնըրի Էդվայզըրի Գրուպը» գտնվում է Թուրքիայում և մասնագիտացած է աշխարհաքաղաքականության ոլորտում մասնագիտական խորհրդատվական ծառայությունների մատուցման մեջ։ Գործողությունն իրականացնողները մեր մոդելներով չինարենից անգլերեն էին թարգմանում հրահանգներ, որոնցում նշվում էր, որ VAG Group-ը տեղեկություններ է փնտրում ԱՄՆ տնտեսական ու ֆինանսական քաղաքականության մասին և պատրաստ է հարցազրույցի համար վճարել ժամում 2 000 դոլար։ Նրանք նաև թարգմանում էին գաղտնի փաստաթղթերի դիմաց վճարելու առաջարկներ։
VAG Group-ի կայքն ունի թուրքերեն և անգլերեն տարբերակներ, իսկ անգլերեն տարբերակի «Կապ մեզ հետ» էջի ընտրացանկում երևում են «կապ մեզ հետ» նշանակող չինարեն նիշերը (聯絡)։ Սա ամբողջ դոմենում միակ չինարեն տեքստն էր։
VAG Group-ի «Կապ մեզ հետ» էջի էկրանապատկերը, որի բացվող ընտրացանկում երևում են «կապ մեզ հետ» նշանակող չինարեն նիշերը (聯絡)։
Այս ցանցի բովանդակության մի մասը հիշեցնում էր ազդեցության ավելի լայնածավալ գործողությունների գովազդային նյութեր։ Ըստ պնդումների, որոնք մենք չենք կարող անկախ աղբյուրներով ստուգել, գործողության շրջանակում կիրառվում էին մեքենայական ուսուցում, բնական լեզվի մշակում և տվյալների ավտոմատ հավաքում՝ սոցիալական ցանցերում ազդեցիկ հեղինակներին ու թեմաները բացահայտելու համար։
Ազդեցությունը
Այս գործունեության հետ կապված սոցիալական ցանցերի հաշիվները համացանցում իրական օգտատերերի էական արձագանքի չարժանացան։ Միայն «Ֆոկուս Լենս Նյուզի» X հաշիվն ուներ զգալի թվով հետևորդներ՝ 17 000։ Սակայն այն ստեղծվել էր 2014 թ. նոյեմբերին՝ այլ անունով, երեք օր թվիթներ էր հրապարակել, ապա լռել մինչև 2024 թ. կեսերը։ Սա բնորոշ է զավթված և այլ նպատակով օգտագործվող հաշիվներին, ուստի դրա հետևորդների թվին պետք է զգուշությամբ վերաբերվել։
Կիրառելով ազդեցության գործողությունների արդյունքը չափող տարածման սանդղակը(բացվում է նոր պատուհանում)՝ մենք այս գործողության հրապարակային մասը կդասեինք 2-րդ կատեգորիայի ստորին հատվածում․ գործունեություն մի քանի հարթակներում, սակայն քիչ վկայություններ, որ իրական մարդիկ արձագանքել կամ լայնորեն տարածել են դրա բովանդակությունը։ Առկա ապացույցները բավարար չեն՝ գնահատելու գործողության շրջանակում իրականացված սոցիալական ճարտարագիտության և այլ գաղտնի գործունեության ազդեցությունը։