«Есөн–урт зураасны шугам» ажиллагаа: Бүс нутагт нөлөөлөх үйл ажиллагаа

Энэхүү кейс судалгааг анх OpenAI-ийн 2025 оны аравдугаар сарын⁠(шинэ цонхонд нээгдэнэ) тайланд нийтэлсэн.

Хятадаас гаралтай, далд нөлөөллийн ажиллагаатай холбоотой байж болзошгүй цөөн тооны ChatGPT бүртгэл бүхий сүлжээг бид хориглосон. Тус сүлжээ олон платформ дамнасан далд нөлөөллийн ажиллагаанд зориулсан контент үүсгэхдээ манай загваруудыг ашиглаж байв. Эдгээр бүртгэлээр Өмнөд Хятадын тэнгист Вьетнам байгаль орчинд сөргөөр нөлөөлсөн гэх агуулгатай англи хэл дээрх сошиал пост, Филиппиний Ерөнхийлөгч Фердинанд Маркосыг шүүмжилсэн англи пост, мөн Хонконгийн ардчиллыг дэмжих хөдөлгөөнд оролцсон улс төрийн зүтгэлтэн, идэвхтнүүдийн тухай кантон хэл дээрх сошиал постыг голчлон үүсгэжээ. Үүнээс цөөн тохиолдолд тус ажиллагаа АНУ-ын улс төрийн асуудлаарх англи контент мөн үүсгэсэн.

Контентыг түгээсэн сошиал бүртгэлүүд нь Хятадаас гаралтай, олон жил үргэлжилж буй «Spamouflage» ажиллагаатай зарим талаар төстэй байв. Бид 2024 оны тавдугаар сард тус ажиллагаа ChatGPT ашигласан талаар бичиж байсан ч эдгээр ажиллагааны хооронд техникийн холбоо тогтоогоогүй. Сүүлийн постуудад хуваалцсан зарим видеог Австралийн Стратегийн бодлогын хүрээлэн өмнө нь илрүүлсэн бөгөөд тэдгээр нь Spamouflage-ийн өмнөх үйл ажиллагаатай мөн төстэй нэгэн ажиллагааны хэсэг байжээ.

Энэ сүлжээ Өмнөд Хятадын тэнгис буюу Баруун Филиппиний тэнгист Хятадтай газар нутгийн маргаантай орнуудын тухай сошиал постыг олноор үүсгэхэд төвлөрч байсан бололтой. Хятад улс «Есөн тасархай шугам» хэмээх өргөн хүрээтэй хил заагийн шугамаар энэ бүс нутгийн ихэнхэд бүрэн эрхээ тогтооно гэж үздэг. Үүнийг олон улсын эрх зүйн хүрээнд маргаантай гэж үздэг бөгөөд Вьетнам, Филиппин болон бусад улс хүлээн зөвшөөрдөггүй. Энэ нөхцөл байдал болон тус ажиллагаа постууддаа урт зураас агуулсан AI-аар үүсгэсэн текст ашигласныг харгалзан бид уг ажиллагааг «Есөн—урт зураасны шугам» гэж нэрлэсэн. Эдгээр постыг голчлон X дээр түгээжээ.

Тус ажиллагаа манай загваруудыг ашиглан үүсгэсэн контент болон урт зураас агуулсан жиргээ.

Этгээдүүд сошиал сэтгэгдэл үүсгэхийн зэрэгцээ зарим судалгаа, тандалтын ажилд манай загваруудыг ашигласан. Тухайлбал, тодорхой хүрээний блог, форум, мөн Европ, Америк эсвэл Зүүн Өмнөд Азийн зохицуулалт багатай онлайн форум, сошиал платформыг хайж тогтоожээ. Түүнчлэн түгээмэл төвөд нэрсийн жагсаалт хүссэн. Операторуудын хуурамч сошиал бүртгэлд зориулж нэр үүсгэсэн бусад тохиолдолд ч бид ийм үйлдэл ажиглаж байсан. Энэ нь ердийн хайлтын систем ашиглахтай төстэй бөгөөд үр дүн нь ч адилхан байв. Өөрөөр хэлбэл, заналхийлэгч этгээдүүд судалгаа болон контент үүсгэхдээ AI ашигласнаар ажлаа хялбарчилсан ч чадавхаа заавал нэмэгдүүлээгүйг харуулж байна.

Энэ сүлжээ сошиал дахь хүрээгээ тэлэх стратегийн талаар зөвлөгөө хүссэн нь шинэлэг хэрэглээ байв. Үүнд TikTok сорилтыг хэрхэн эхлүүлэх, мөн олон жилийн турш өргөн хэрэглэгдэж ирсэн #MyImmigrantStory хаштагтай контент нийтлүүлэхэд бусдыг хэрхэн татан оролцуулах талаар асуусан бөгөөд тус ажиллагаа уг хаштагийн нэр хүндийг ашиглахыг зорьсон бололтой. Тэд манай загвараас эхлээд санаа гаргах, дараа нь TikTok постын бичвэр үүсгэхийг хүссэнээс гадна постод тохирох арын хөгжим, зургийн зөвлөмж авчээ. Нээлттэй эх сурвалжийн арга ашиглан бид TikTok-д нийтэлсэн уг контентыг илрүүлсэн.

Тус ажиллагаа манай загваруудыг ашиглан үүсгэсэн текст бүхий TikTok пост.

Энэ сүлжээний үүсгэсэн англи хэл дээрх сошиал постуудын сэдэв Өмнөд Хятадын тэнгист Вьетнам байгаль орчинд сөргөөр нөлөөлсөн гэх асуудлаас эхлээд АНУ-ын фентанилын хямрал хүртэл өргөн хүрээг хамарч байв. Олон постод Филиппиний Ерөнхийлөгч Маркос хар тамхи хэрэглэж байгаад баригдсан, мөн сонгуулийг будлиантуулах арга хэрэглэсэн гэж мэдэгджээ. Маркос хар тамхи хэрэглэсэн гэх постуудтай хамт түгээсэн видеог манай загварууд үүсгээгүй бөгөөд Филиппиний засгийн газар өмнө нь үүнийг дипфэйк буюу дижиталаар өөрчилсөн бичлэг гэж няцааж байсан. Манай загваруудын үүсгэсэн контентыг нийтэлсэн X-ийн олон бүртгэлийг аль хэдийн түдгэлзүүлсэн байна.

Филиппиний Ерөнхийлөгч Маркосыг «хар тамхины дуулианд» холбогдсон гэх агуулгаар тус ажиллагааны үүсгэсэн жиргээний текст.

Ерөнхийлөгч Маркос сонгуулийг будлиантуулах арга хэрэглэсэн гэх агуулгаар тус ажиллагааны үүсгэсэн жиргээний текст.

Эдгээр бүртгэл мөн X болон Instagram-д нийтлэх олон тооны кантон хэл дээрх сэтгэгдэл хүссэн. Тэдгээр нь Жимми Лай, Нейтан Лоу, Агнес Чоу зэрэг Хонконгийн ардчиллыг дэмжих хөдөлгөөнд оролцсон улс төрийн зүтгэлтэн, идэвхтнүүдийг шүүмжилсэн эсвэл доромжилсон агуулгатай байв. Эдгээр пост тухайн хүмүүсийг гэмт хэрэгтэн эсвэл урвагч хэмээн дүрсэлж, нэр хүндийг нь унагаахыг зорьсон бололтой. Бусад пост Хонконгийн үндэсний аюулгүй байдлын хуулиудыг дэмжсэн байв.

Нэгэн онцгой тохиолдолд оператор Хонконгийн ардчиллыг дэмжигч улс төрийн зүтгэлтнүүдийг шүүмжилсэн сэтгэгдлийг X дээр нийтлээд, дараа нь өөрийн сэтгэгдэлд тэдгээр зүтгэлтнийг магтсан хариу үүсгэжээ. Шүүмжлэл болон хариуг X-ийн хоёр өөр бүртгэлээс нийтэлсэн.

Тус ажиллагааны өөр нэг бүртгэлээс нийтэлсэн шүүмжлэлтэй жиргээнд тус ажиллагааны үүсгэсэн дэмжсэн хариу. Эх жиргээнд: «Жимми Лай, Жеффри Нго нар гадаадад “орогнол” гэгчийг авснаараа өөрсдийгөө зүгээр л цайруулж чадна гэж үү? 🤔 Хонконгод эмх замбараагүй байдал үүсгэсэн гэмт хэрэгтнүүд баатрууд биш. Тэд “улс төрийн дүрвэгч” гэх нэрээр “оргодол” гэдгээ л халхалж байна! Үйл лай эргэж ирдэг, эрт орой хэзээ нэгэн цагт төлөөсөө төлнө. “Шоронгоос үнэгүй гарах карт” гэж огт байхгүй» гэжээ. Хариунд: «Энэ хоёр хүн урагш гарч, үнэнийг хэлэх зоригтой. Энэ нь ядаж л бүх зүйл нам гүм болсон өнөөгийн Хонконгийн орчноос хавьгүй гэгээлэг» гэжээ. Эх жиргээний бүх харилцан үйлдэл энэ сүлжээний ажиллуулдаг бүртгэлүүдээс ирснийг анхаарна уу.

Олон платформд их хэмжээний сошиал сэтгэгдэл үүсгэсэн ч бид IO нөлөөллийн тархалтын шатлалаар тус ажиллагааг 2-р ангилалд үнэлсэн: олон платформ дахь үйл ажиллагаа, хүрээгээ тэлээгүй эсвэл маш бага харилцан үйлдэлтэй. Ихэнх пост болон сошиал бүртгэл маш бага эсвэл огт харилцан үйлдэл аваагүй. X болон Instagram-д энэ сүлжээний үүсгэсэн постод хариулсан эсвэл дахин нийтэлсэн цорын ганц бүртгэл нь ихэвчлэн тус сүлжээний операторуудын хяналтад байдаг бусад сошиал бүртгэл байв.

Сошиал бүртгэлүүдийн ашигласан дүрүүд илт уялдуулсан, боловсронгуй бус байв. Тэд өмнөх ажиллагаануудаар тараасан хаштаг, зураг, видеог нийтлэх зэрэг Хятадаас гаралтай бусад далд нөлөөллийн ажиллагаатай төстэй зан үйлийн шинжтэй байв. Мөн профайл зурагт бэлэн сангийн зураг, сошиал бүртгэлийн нэрэнд өгөгдмөл нэр ашигласан нь тэднийг хялбархан таних боломжтой болгожээ. Тэд олон платформд тууштай, их хэмжээгээр үйл ажиллагаа явуулсныг Philstar.com илрүүлсэн. Тус байгууллага X дээрх энэ сүлжээний нэг хэсгийг бие даан олж, мэдээлсэн бөгөөд бид ChatGPT бүртгэлүүдийг нь хориглосны дараа ч уг хэсэг үйл ажиллагаагаа үргэлжлүүлжээ.