“Доогтой тойм” ажиллагаа: Хятадаас гаралтай нөлөөллийн үйл ажиллагаа
OpenAI Тайванийн сошиал медиа инфлюэнсер болон АНУ-тай холбоотой сэдвүүдийг шүүмжилсэн нийтлэлүүдийг хиймэл оюунаар үүсгэсэн бүртгэлүүдийг хориглов.
Энэ кейс судалгааг анх OpenAI-ийн 2025 оны зургаадугаар сарын(шинэ цонхонд нээгдэнэ) тайланд нийтэлсэн.
Үйл ажиллагаа явуулагч
Манай загваруудыг ашиглан нууц нөлөөллийн ажиллагаатай нийцэх сошиал медиа нийтлэлийг олноор нь үүсгэж байсныг нь илрүүлсэн ChatGPT бүртгэлүүдийг бид хориглосон. Мөрдөн шалгах явцад эдгээр бүртгэл дотоодын гүйцэтгэлийн үнэлгээний баримт бичиг боловсруулж байсныг мөн ажигласан.
Эдгээр бүртгэл өгөгдлөө голчлон хятад хэлээр оруулж, Хятадтай холбоотой улс төр, геополитикийн сэдвүүдэд төвлөрч байв. Нэг хэрэглэгч өгөгдөлдөө өөрийгөө Хятадын Суртал ухуулгын газарт ажилладаг гэж мэдэгдсэн боловч үүнийг батлах хараат бус нотолгоо бидэнд байхгүй.
Үйлдлийн хэв маяг
Бидний хориглосон бүртгэлүүд үндсэн хоёр чиглэлээр ажиллаж байв. Хамгийн идэвхтэй чиглэл нь англи, хятад хэлээр, цөөн тохиолдолд урду хэлээр сошиал медиад зориулсан богино сэтгэгдэл үүсгэх явдал байв. Эдгээр сэтгэгдлийн олныг TikTok болон X-д нийтэлснийг бид тогтоосон бөгөөд нэмэлт контент Reddit, Facebook болон төрөл бүрийн веб сайтад гарсан байв.
Түгээмэл хэв маяг нь ихэвчлэн зөвхөн тухайн нийтлэлд зориулан нээсэн мэт харагдах “үндсэн” бүртгэлээс эхний сэтгэгдлийг нийтэлж, дараа нь бусад бүртгэлээс цуврал хариу сэтгэгдэл бичих явдал байв. Энэ нь хэрэглэгчдийн жинхэнэ оролцоо мэт хуурамч сэтгэгдэл төрүүлэх зорилготой байжээ.
Энэ үйл ажиллагаатай холбоотой, “#USAID-ийг хаасан нь ердөө #ЭХЛЭЛ!” нэртэй TikTok нийтлэл. Сувгийн нэр, видеоны хадмалын текст болон энэ дэлгэцийн зурагт харагдах бүх сэтгэгдлийг тус сүлжээ ChatGPT ашиглан үүсгэсэн.
TikTok-д сэтгэгдэл бичсэн бүртгэлүүд олон янзын хэл, цагаан толгойн дэлгэцийн нэр ашиглаж байсан бөгөөд тэдгээр нь нийтэлсэн контентынх нь хэлтэй ихэвчлэн холбоогүй байв. Жишээлбэл, солонгос нэртэй бүртгэл урду хэлээр сэтгэгдэл бичсэн бол тай, еврей нэртэй бүртгэлүүд энэ сүлжээний үүсгэсэн англи хэл дээрх сэтгэгдлийг нийтэлжээ. X-д сэтгэгдэл бичсэн бүртгэлүүд ихэвчлэн хүүхэлдэйн дүрстэй профайл зураг ашиглаж, зарим тохиолдолд криптовалюттай холбоотой нэртэй байв.
Энэ сүлжээний ChatGPT ашиглан үүсгэсэн жиргээ болон түүнд бичсэн хариу сэтгэгдлүүд.
Тус сүлжээ Facebook-д идэвх багатай байв. Үйл ажиллагаа нь голчлон мэдээний байгууллага мэт дүр эсгэсэн хоёр Хуудасны нэр болон профайл зургийг үүсгэхэд чиглэж байв. Аль ч Хуудас дагагч, лайкгүй бөгөөд тус бүрдээ цөөн хэдэн нийтлэлтэй байв.
Энэ ажиллагаатай холбоотой байх магадлалтай гэж бидний тогтоосон видеог хуваалцсан Facebook нийтлэл.
Сүлжээ хааяа хятад эсвэл англи хэлээр урт нийтлэл үүсгэж байв. Ийм нэг нийтлэлийг Reddit-ээс, өөр хоёрыг нь төрөл бүрийн веб форумаас бид илрүүлсэн. Хоёр дахь чиглэл нь дотоод бодлого эсвэл гүйцэтгэлийн үнэлгээний баримт бичиг мэт харагдах материал үүсгэхэд ChatGPT ашиглах явдал байв.
Үүсгэсэн контент
Энэ заналхийлэгчийн үүсгэсэн сошиал медиа контент олон сэдвийг хамарсан бөгөөд бүгд Хятадын геостратегийн ашиг сонирхолтой нягт уялдаж байв.
Зарим контент Тайваньд төвлөрч, ялангуяа Хятадын Коммунист Намын эсрэг тэмцлийг дүрсэлсэн, Тайваньд төвлөрсөн видео болон ширээний тоглоом болох “Урвуу фронт”(шинэ цонхонд нээгдэнэ) (“逆統戰”)-ыг онилжээ. Тус сүлжээ тоглоомыг шүүмжилсэн олон арван хятад сэтгэгдэл үүсгэж, дараа нь уг тоглоом өргөн хүрээний эсэргүүцэлтэй тулгарсан хэмээн мэдэгдсэн урт нийтлэл гаргажээ. Энэ нь ажиллагааны хамгийн онцлог үйлдэл байсан тул бид уг ажиллагааг “Доогтой тойм” гэж нэрлэсэн.
Англи болон урду хэл дээрх бусад контент нь Хятадын Балочистан дахь хөрөнгө оруулалтыг олон нийтэд шүүмжилсэн(шинэ цонхонд нээгдэнэ) Пакистаны идэвхтэн Махранг Балочийг онилжээ. Сүлжээтэй холбоотой TikTok бүртгэл болон Facebook Хуудас Балочийг садар самуун кинонд тоглосон гэж худал буруутгасан видео нийтэлжээ. Дараа нь уг ажиллагаа олон нийт өргөнөөр оролцсон мэт харагдуулахын тулд хоёр хэлээр хэдэн зуун богино сэтгэгдэл үүсгэсэн.
Махранг Балочийн TikTok видеонд бичсэн цочирдсон сэтгэгдлүүд.
Сүүлчийн багц контент АНУ-ын Олон улсын хөгжлийн агентлагийг (USAID) хаасанд төвлөрч, уг шийдвэрийг магтсан эсвэл шүүмжилсэн богино сэтгэгдлүүдийг үүсгэжээ. Эдгээр сэтгэгдлийг TikTok болон X-д нийтэлсэн.
Тусламжийн асуудлыг тарифын асуудалтай холбосон, энэ сүлжээний ChatGPT ашиглан үүсгэсэн жиргээнүүд.
Эцэст нь заналхийлэгчид манай загваруудыг ашиглан дотоод баримт бичиг мэт харагдах материалууд үүсгэсэн. Үүнд олон нийтийн аюулгүй байдлын албан баримт бичгийн хэв маягаар бичсэн дэлгэрэнгүй эсээ болон ажиллагааг байгуулах, явуулахын тулд авсан арга хэмжээг тайлбарласан гүйцэтгэлийн үнэлгээ багтжээ.
Үр нөлөө
Бид манай загваруудыг ашиглахыг нь таслан зогсоох үед энэ ажиллагаа эхэн үедээ байсан бололтой. Facebook-ийн аль ч Хуудас дагагчгүй байв. Reddit-д нэг нийтлэл 44 эерэг санал авсан бол нөгөө хоёр нийтлэлийг байршуулсан дэд форумууд нь хаасан эсвэл устгасан.
Энэ сүлжээний нэг хэсэг гэж бидний тогтоосон Reddit бүртгэлийн нийтлэлийг платформын шүүлтүүр устгасныг харуулсан дэлгэцийн зураг.
X болон TikTok дахь оролцоо харилцан адилгүй байв. TikTok-ийн хоёр видео нийлээд 25,000 лайк авсан бол ажиллагааны үндсэн бүртгэлийн жиргээ тус бүр ихэвчлэн 10,000 орчим үзэлт авчээ. Гэхдээ эдгээр нийтлэл дэх олон сэтгэгдлийг тус сүлжээ ChatGPT ашиглан үүсгэсэн нь оролцооны ядаж зарим хэсэг хуурамч байсныг харуулж байна. Тиймээс оролцооны бүх үзүүлэлтийг болгоомжтой авч үзэх хэрэгтэй.
Нөлөөллийн ажиллагааны үр нөлөөг хэмжих Breakout Scale(шинэ цонхонд нээгдэнэ) шатлалаар X болон TikTok дахь оролцооны үзүүлэлтүүд бодит байсан бол үүнийг 3-р ангиллын доод түвшинд үнэлнэ. Сэтгэгдлүүдийн дийлэнхтэй адил лайк, үзэлтийн дийлэнх нь хуурамч байсан гэх таамгийг дэмжих нэмэлт нотолгоо гарвал бид энэ үнэлгээг бууруулна.