«Спам ағай» операциясы: АҚШ-тағы жіктелуге ықпал ету әрекеті
OpenAI АҚШ-тың саяси контентін жасап, адамдарды, қозғалыстарды және онлайн қауымдастықтарды зерттеу үшін ЖИ қолданған Қытайдан шыққан аккаунттарды бұғаттады.
Бұл зерттеу алғаш рет OpenAI компаниясының 2025 жылғы маусымдағы(жаңа терезеде ашылады) есебінде жарияланған.
Субъект
Meta-дағы әріптестеріміз берген дерек негізінде Қытайдан шыққан ықпал ету операциясына(жаңа терезеде ашылады) қатысы бар бірқатар ChatGPT аккаунтын бұғаттадық. Бұл операция АҚШ-тағы саяси пікірталастарда алауыздық туғызатын тақырыптардың екі жағын да қолдайтын, қоғамды жіктеуші әлеуметтік желі контентін жасады. Оған X және Bluesky сияқты платформаларға арналған мәтіндер мен ЖИ жасаған профиль суреттері кірді.
Іс-әрекет
Желі модельдерімізді бірнеше міндетке, негізінен кедендік баждарды қолдайтын немесе сынайтын әлеуметтік желі пікірлерін жасауға пайдаланды. Аккаунттар аудитория белсенділігін барынша арттыру үшін модельдерімізден жарияланым салудың оңтайлы уақытын сұраған. Бұл — қамтуды әдейі ұлғайту тактикасының белгісі.
Осы қауіп субъектісі модельдеріміз арқылы жасаған, кедендік баждар туралы пікірталастың екі жағын қолдайтын екі твит.
Екіншіден, аккаунттар суретті генерациялау мүмкіндіктерімізді стильдендірілген логотиптер жасауға пайдаланды. Кейін бұл логотиптер әлеуметтік платформалардағы ойдан шығарылған тұлғалардың профиль суреттері ретінде қолданылды. Атап айтқанда, аккаунттар АҚШ-тың қазіргі әкімшілігін сынайтын америкалық ардагерлердің жалған бейнелерін жасауға көңіл бөлген.
Осы желі жасаған контентті жариялаған Bluesky аккаунты. «Әділеттілік жолындағы ардагерлер» логотипі модельдеріміз арқылы жасалған.
Соңында, аккаунттар Tweepy, Nitter және Bluesky-дың ашық API интерфейсі сияқты құралдар арқылы X пен Bluesky тәрізді әлеуметтік платформалардан пайдаланушы профильдерін, жазылушылар тізімдерін және басқа да жеке деректерді жинауға арналған код пен әдістерді үнемі сұраған. Сонымен қатар, аккаунттар адамдарды санаттарға бөлу немесе олардың байланыстары мен қасиеттерін анықтау мақсатында профиль деректерінен жеке сипаттар мен ұйымдарға қатыстылықты талдауға көмектесетін нұсқаулар алу үшін модельдерімізді пайдаланған.
Нәтижелер
Аккаунттар АҚШ-тағы саяси пікірталастың түрлі тақырыптарын қамтитын, қоғамды жіктеуші контентті көбіне бір операциялық сеанс аясында жасаған. Ықпал ету операцияларының белгілі әдістеріне сай, бұл әрекет нақты бір идеологиялық ұстанымды насихаттаудан гөрі қоғамдағы саяси жіктелуді пайдалануға бағытталған болуы ықтимал. Контент көлемі мен америкалық аудиторияға бағытталуына байланысты біз бұл операцияны «Спам ағай» деп атадық.
Ойдан шығарылған тұлғалар жариялаған, мәтінін модельдеріміз жасаған твиттер.
Әсері
Ықпал ету операцияларының әсерін бағалайтын «Таралу ауқымы» шкаласы(жаңа терезеде ашылады) бойынша мұны 2-санатқа жатқызамыз: бірнеше платформадағы әрекет, кең таралмаған немесе аудитория белсенділігі өте төмен. Модельдеріміз жасаған контентті жариялаған әлеуметтік желі аккаунттарына шынайы аудиторияның қызығушылығы төмен болды. Бұл желі жариялаған X жазбаларының көбі мүлде лайк не репост жинамады немесе өте аз жинады; тек бірнеше жазбаға ғана біршама қызығушылық болды. Кейбір әлеуметтік желі аккаунттарының мыңдаған жазылушысы болғанымен, олардың шынайылығын бағалай алмадық. Жазылушылар саны да жарияланымдардағы белсенділікке айналмаған сияқты.