«A2Z» операциясы: көптілді ықпал ету әрекеті

Бұл жағдайлық зерттеу алғаш рет OpenAI компаниясының 2024 жылғы қазандағы⁠(жаңа терезеде ашылады) есебінде жарияланған.

Біздің API арқылы пікірлер жасап, кейін оларды X және Facebook желілерінде жариялаған, бұған дейін хабарланбаған аккаунттар тобын бұғаттадық. Бұл пікірлердің көбі Әзербайжанды мақтады немесе оның адам құқықтары саласындағы беделін қорғады, бірақ топ басқа да көптеген тақырыпты қозғады. Бұл операцияның коммерциялық негізде жүргізілгенін меңзеуі мүмкін. Әзербайжанды жиі мақтағанын және операцияның бірнеше кезеңінде ЖИ қолдануға тырысқанын ескеріп, біз бұл желіні «A2Z» деп атадық.

Мамырда әшкерелеп, «Bad Grammar» деп атаған орыс тіліндегі Telegram операциясы сияқты, бұл операция да әлеуметтік желілерде пікір жазу үшін біздің модельдерімізді пайдаланды. Ол жалған әлеуметтік желі кейіпкерлерін басқару, өмірбаяндар жазу, жазбалар мен пікірлерді талдау, көптеген тілде жауап әзірлеу және оларды түзету үшін ЖИ қолданды. Содан кейін жауаптар X немесе Facebook желісінде жарияланды. Контенттің көбі қысқа пікірлер түрінде болды, бірақ олардың арасында стильденген кескіндер де кездесті. Оларда 1930 жылдардағы плакаттардың стилі жиі қолданылды. Сондықтан олар алдау үшін емес, назар аудартып, аудиторияны тарту үшін жасалғанға ұқсайды. Алайда мұндай стильденген кескіндері бар әдеттегі жазбалардың әрқайсысы небәрі 0–5 әрекет жинады.

ЖИ қолдану операцияға көптеген әлеуметтік желі аккаунтын бір мезгілде басқаруға мүмкіндік берді: біз X пен Facebook желілерінен осы әрекетке сәйкес келетін шамамен 150 аккаунтты анықтадық, бұдан бөлек күмәнді аккаунттар да болды. Бұл операцияға кейде интернеттегі шынайы адамдармен пікірлер тармағында сөйлесуге де мүмкіндік берді. Кейде шынайы адамдар мен жалған аккаунттар арасында қысқа әңгімелер болғанын байқадық. Онда жалған аккаунттардың жауаптары біздің модельдеріміз арқылы жасалған.

ЖИ пайда болғанға дейін мұндай ауқымды операция жүргізу үшін қомақты шығындар мен ақпараттың таралу қаупін көтеретін үлкен тролльдер тобы қажет болар еді. Алайда операцияның ЖИ-ге тәуелділігі оны біздің қарсы әрекетімізге әдеттен тыс осал етті. Операция шабуыл тізбегінің көптеген буынында ЖИ қолданғандықтан, біздің оны тоқтатуымыз тізбектің бірден бірнеше буынын үзді. Маусым айының басында бұл әрекетті тоқтатқаннан кейін, біз операцияның бір бөлігі деп анықтаған әлеуметтік желі аккаунттары ЕО, Ұлыбритания және Франциядағы сайлау кезеңдері бойы жарияланым жасауды доғарды. Олардың кейбірі тамыз айының соңында қайтадан жариялай бастады. Олардың санаулы жазбаларында ЖИ арқылы жасалған болуы ықтимал екенін көрсететін белгілер болды. Мұндай белгілері бар контент біздің модельдерімізден алынбаған.

Бұл науқан саяси тақырыптардың кең ауқымын қамтитын қысқа пікірлер жасады. Олардың ең көрнектісі Әзербайжан үкіметі мен оның ішкі, аймақтық және халықаралық саясаттағы рөлін мақтады. Мысалы, Орталық Азия елдерінің бірлігін насихаттады немесе БҰҰ-ның Климаттың өзгеруі жөніндегі конференциясын өткізуін дәріптеді. Ағылшын және итальян тілдеріндегі аккаунттар Әзербайжанның Еуропаға энергия жеткізуші рөлін мақтады. Кейде бұл Әзербайжан үкіметінің адам құқықтары саласындағы беделін сынаған пікірлерге жауап ретінде жасалды.

Әрекеттің басқа бағыттары ЖИ артықшылықтары мен дамуына, қаржы нарықтарына, экологиялық мәселелерге, криптовалюталарға және жалпы технологияға арналды. Бір топ Біріккен Араб Әмірліктеріне назар аударып, оны инвестиция салуға қолайлы тұрақты ел ретінде көрсетті және мұны АҚШ-тағы саяси тұрақсыздық туралы мәлімдемелермен жиі салыстырды.

Кейбір жалған кейіпкерлер Еуропа немесе АҚШ саясатына назар аударды. Бұл әрекеттің идеологиясы аймаққа қарай өзгеріп отырды. Мысалы, АҚШ-қа бағытталған бір X аккаунты өзін либерал етіп көрсетіп, АҚШ-тың бұрынғы президенті Трампты сынады. Ал француз тілінде жариялаған кейбір Facebook аккаунттары президент Макронды сынап, «Ұлттық бірлестік» (RN) партиясын қолдады. Кейде бұл сын елдің ішкі мәселелеріне сүйеніп, оның халықаралық істерге, соның ішінде Ресейдің Украинаға басып кіруіне араласпауын жақтады.

Бұл операция Facebook пен X желілерінде өте белсенді болды және жүздеген аккаунтты пайдаланған болуы мүмкін. X желісінде оның кейбір аккаунттарында ақылы растаудың көк белгісі болды. Екі платформадан іріктеп тексерген шамамен 150 аккаунттың ешқайсысында жазылушылар саны көп болған жоқ: зерттеу барысында X желісінде анықталған ең үлкен аудитория 222 жазылушыдан тұрды, әдетте бұл көрсеткіш 15 пен 20-дан сәл асатын аралықта болды, ал қалыпты жазбалар бір таңбалы әрекет санын жинады. Сол сияқты, зерттеу барысында Facebook жазбасына тіркелген ең көп реакция саны 36 болды, ал әдеттегі көрсеткіш 0–5 аралығында еді. Дегенмен операция жазбаларына шынайы адамдар жауап берген кейбір жағдайларды анықтадық. Жауаптар әрдайым оң болған жоқ, кейде шынайы адамдар жалған аккаунттарға қарсы пікір айтты. Соған қарамастан, бұл операцияның түрлі платформаларда, бірнеше тілде және көптеген тақырып бойынша аудиторияны белгілі бір деңгейде тарта алғанын көрсетеді.

Ақпараттық операциялардың ықпалын ең төменгі 1-ден ең жоғарғы 6-ға дейін бағалайтын Breakout Scale шкаласын қолданып, біз бұл операцияны үшінші санатқа өту қаупі бар екінші санаттың жоғарғы шегіне жатқызар едік: ол бірнеше платформада белсенді жариялады және шынайы адамдардың оның контентімен әрекеттескенін көрсететін кейбір дәлелдер болды. Алайда бұл операцияға біздің модельдерімізді пайдалануға тыйым салып, саладағы әріптестермен ақпарат бөліскеннен кейін, біз анықтаған әлеуметтік желі аккаунттары бірнеше апта бойы үнсіз қалды. Осылайша, бұл операция ЖИ қолдану орындаушылардың мүмкіндігін арттыратынын, бірақ ЖИ моделіне тәуелділік оларды қарсы әрекетке осалырақ ететінін көрсетті.