«Սպամ քեռի» գործողություն. ԱՄՆ-ում բևեռացմանն ուղղված ազդեցության գործունեություն
OpenAI-ն արգելափակել է Չինաստանից ծագող հաշիվներ, որոնք ԱԲ-ն օգտագործել են ԱՄՆ քաղաքական բովանդակություն ստեղծելու և մարդկանց, շարժումներն ու առցանց համայնքները ուսումնասիրելու համար։
Այս դեպքի ուսումնասիրությունն ի սկզբանե հրապարակվել է OpenAI-ի 2025 թ. հունիսի(բացվում է նոր պատուհանում) զեկույցում։
Դերակատար
Meta-ի մեր գործընկերներից տեղեկություն ստանալուց հետո մենք արգելափակեցինք ChatGPT‑ի մի շարք հաշիվներ, որոնք կապված էին Չինաստանից ծագող ազդեցության գործողության(բացվում է նոր պատուհանում) հետ։ Գործողությունը ստեղծում էր բևեռացնող բովանդակություն սոցիալական ցանցերի համար՝ աջակցելով ԱՄՆ քաղաքական դիսկուրսի պառակտող թեմաների երկու կողմերին էլ։ Այն ներառում էր տեքստեր և ԱԲ-ով ստեղծված պրոֆիլային պատկերներ այնպիսի հարթակներում, ինչպիսիք են X-ը և Bluesky-ը։
Վարքագիծ
Ցանցը մեր մոդելներն օգտագործում էր տարբեր առաջադրանքների համար՝ հիմնականում ստեղծելով մաքսատուրքերին աջակցող կամ դրանք քննադատող մեկնաբանություններ սոցիալական ցանցերի համար։ Հաշիվները մեր մոդելներից խնդրում էին հրապարակումների համար առաջարկել լսարանի ներգրավվածությունն առավելագույնի հասցնող ժամանակահատվածներ, ինչը վկայում է տարածումը հաշվարկված կերպով ուժեղացնելու մարտավարության մասին։
Երկու թվիթ, որոնց տեքստերը սպառնալիքի այս դերակատարը ստեղծել է մեր մոդելների օգնությամբ՝ առաջ մղելով մաքսատուրքերի շուրջ բանավեճի հակադիր կողմերի դիրքորոշումները։
Երկրորդ՝ հաշիվներն օգտագործում էին պատկերի գեներացման մեր հնարավորությունները՝ ոճավորված տարբերանշաններ ստեղծելու համար։ Դրանք այնուհետև օգտագործվում էին որպես պրոֆիլային պատկերներ՝ սոցիալական հարթակներում կեղծ կերպարները հավաստի ներկայացնելու նպատակով։ Մասնավորապես, հաշիվները կենտրոնացած էին ԱՄՆ գործող վարչակազմին քննադատող ամերիկացի վետերանների կերպարներ ստեղծելու վրա։
Այս ցանցի ստեղծած բովանդակությունը հրապարակող հաշիվ Bluesky-ում։ «Վետերանները հանուն արդարության» տարբերանշանը ստեղծվել է մեր մոդելների օգնությամբ։
Վերջապես, հաշիվները մշտապես խնդրում էին կոդ և մեթոդներ՝ Tweepy-ի, Nitter-ի և Bluesky-ի հանրային API-ի նման գործիքներով X-ի ու Bluesky-ի նման սոցիալական հարթակներից անձնական տվյալներ, այդ թվում՝ օգտատերերի պրոֆիլներ, հետևորդների ցանկեր և այլ մանրամասներ կորզելու համար։ Բացի այդ, հաշիվները մեր մոդելներից ցուցումներ էին ստանում՝ պրոֆիլային տվյալների հիման վրա անձնական հատկանիշներն ու կազմակերպական կապերը վերլուծելու համար, ինչը հնարավոր է՝ նպատակ ուներ դասակարգելու մարդկանց կամ եզրակացություններ անելու նրանց կապերի ու հատկանիշների մասին։
Արդյունքներ
Հաշիվները ստեղծում էին ԱՄՆ քաղաքական դիսկուրսի տարբեր թեմաներ ընդգրկող բևեռացնող բովանդակություն՝ հաճախ նույն գործառնական աշխատաշրջանների ընթացքում։ Դատելով ազդեցության գործողություններին բնորոշ հայտնի մեթոդաբանություններից՝ սա, հավանաբար, նախատեսված էր ոչ թե որոշակի գաղափարախոսական դիրքորոշում առաջ մղելու, այլ առկա քաղաքական պառակտումներն օգտագործելու համար։ Բովանդակության ծավալը և ամերիկյան լսարանին ուղղված ուղերձների գերակշռությունը մեզ դրդեցին գործողությունն անվանել «Սպամ քեռի»։
Կեղծ կերպարների հրապարակած թվիթներ՝ մեր մոդելներով ստեղծված տեքստերով։
Ազդեցություն
Ազդեցության գործողությունների հետևանքները չափող Breakout Scale(բացվում է նոր պատուհանում) սանդղակով մենք սա կգնահատեինք որպես 2-րդ կատեգորիա՝ գործունեություն մի քանի հարթակներում, առանց լայն տարածման կամ նվազագույն ներգրավվածությամբ։ Մեր մոդելներով ստեղծված բովանդակություն հրապարակող սոցիալական ցանցերի հաշիվներն իրական օգտատերերի կողմից քիչ ներգրավվածություն էին ստանում։ Այս ցանցի՝ X-ում հրապարակած գրառումների մեծ մասը գրեթե հավանումներ կամ վերահրապարակումներ չէր ստանում, և միայն մի քանի գրառում որոշակի ներգրավվածություն էր ապահովել։ Սոցիալական ցանցերի որոշ հաշիվներ հազարավոր հետևորդներ ունեին, սակայն մենք չկարողացանք գնահատել նրանց իսկությունը, իսկ հետևորդների քանակը, ըստ ամենայնի, չէր վերածվում գրառումների նկատմամբ ներգրավվածության։