Залилангийн ажиллагаа: Онлайн залилангийн сүлжээ

Энэхүү кейс судалгааг анх OpenAI-ийн 2025 оны 10 дугаар сарын⁠(шинэ цонхонд нээгдэнэ) тайланд нийтэлсэн.

Камбож, Мьянмар, Нигериэс гаралтай бололтой сүлжээнүүд хүмүүсийг онлайнаар залилан мэхлэх оролдлогодоо ChatGPT‑ийг урвуулан ашигласан байна.

Бид загваруудаа хортой зорилгоор урвуулан ашиглах оролдлогыг илрүүлэх, урьдчилан сэргийлэх, таслан зогсоохын төлөө ажилладаг. Ийм урвуулан ашиглалтад залилан багтдаг бөгөөд бид хүмүүсийг хуурч, хохироохын тулд загваруудыг маань ашиглахыг завдсан хорлонт этгээдүүдийг илрүүлэн хориглодог. Сүүлийн гурван сарын хугацаанд бид Камбож, Мьянмар, Нигериэс гаралтай бололтой залилангийн сүлжээнүүдийн үйл ажиллагааг таслан зогсоолоо. Хиймэл оюун ухаан залилантай тэмцэхэд ямар үүрэгтэйг харуулах нэг зүйл нь эдгээр урвуулан ашиглалтын хэв маягийг шалгах явцад олон хүн залиланг танихын тулд манай загваруудыг ашиглаж байгааг бид мөн олж харсан явдал юм. Энэ тайланд ашиглалтын энэ хоёр тохиолдлыг хоёуланг нь авч үзнэ.

Залиланг дэмжих зорилгоор манай загваруудыг урвуулан ашиглах явдал нь ганцаарчилсан этгээдийн оролдлогоос эхлээд зохион байгуулалттай гэмт бүлэглэлтэй холбоотой бололтой өргөн цар хүрээтэй, тогтвортой ажиллагаа хүртэл олон янз байна. Гарал үүсэл, нарийн арга барилаас нь үл хамааран бидний таслан зогсоосон залилангийн үйл ажиллагаа ихэвчлэн ижил хэв маягтай: өгөөш тавих (танихгүй хүнд эхэлж хандах), сэтгэл хөдлөл өдөөх (урам зориг эсвэл айдас төрүүлэх), эцэст нь олзлох (мөнгө эсвэл үнэ цэнтэй мэдээлэл авах).

Эдгээр луйварчин хиймэл оюун ухаанаар үүсгэсэн эсэхээс үл хамааран контентоо сошиал сурталчилгаа зэрэг аргаар мессежийн үйлчилгээ болон интернэт даяар тарааж эхэлдэг. Дараа нь тэд хариу өгсөн хүнд ашигтай боломжийн талаар хөөрөл эсвэл удахгүй учрах санхүүгийн алдагдлын айдас төрүүлж, тэр сэтгэл хөдлөлийг нь ашиглан мөнгө, нууц мэдээллээ өгөхөд ятгадаг.

Манай загварууд хүмүүсийг залилангаас хамгаалахад тусалсан бололтой олон тохиолдлыг бид мөн ажигласан. Хүмүүс ChatGPT‑ийн тусламжтай онлайн залиланг таньж, түүнээс зайлсхийж буй нотолгоог бид сар бүр сая сая удаа хардаг. Энэ тайланд дурдсан залилангийн ажиллагаа бүрд загвар хүмүүст залиланг зөв таньж, аюулгүй байдлын зохих арга хэмжээний талаар зөвлөгөө өгсөн байна. Одоогийн тооцоогоор ChatGPT‑ийг залиланг танихад, залилан үйлдэхээс гурав дахин олон удаа ашиглаж байна.

OpenAI-ийн мөрдөн шалгагч өөрт нь ирсэн залилангийн SMS мессежийн дэлгэцийн агшныг ChatGPT‑д оруулж, загварын тусламжтай үүнийг залилан болохыг амжилттай тогтоосон жишээ. Энэ тохиолдолд аюул занал учруулагчид TikTok-ийн ажилд зуучлагчдын дүр эсгэжээ.

Өмнөх тайлангаас хойш бид залиланг илрүүлэх, таслан зогсоох чадвараа улам бэхжүүлсэн. Бид Камбож, Мьянмар, Нигериэс гаралтай бололтой залилангийн өөр хэд хэдэн сүлжээг таслан зогсоолоо. Эдгээр арга хэмжээ нь өмнөх таслан зогсоолтуудтай нийлээд өөр өөр улсын олон залилангийн ажиллагаанд шинээр илэрч буй зарим чиг хандлагыг тодорхойлох боломж олгож байна.

Бидний таслан зогсоосон залилангийн ихэнх үйл ажиллагаа хиймэл оюунд тулгуурласан цоо шинэ арга зохиохоос илүүтэй түүнийг одоо байгаа залилангийн арга барилд ашиглахад чиглэж байв. Энэ жил бидний илрүүлж, хориглосон залилангийн бүх ажиллагаа хиймэл оюуныг голчлон цар хүрээгээ тэлж, үр ашгаа нэмэгдүүлэх хэрэгсэл болгон ашиглажээ. Үүнд ихэвчлэн манай загваруудыг орчуулга хийх, мессеж бичих, сошиал медиад зориулсан контент бүтээхэд ашигласан байна.

Жишээлбэл, бид саяхан олон улсын хохирогчдыг залилан мэхлэхээр «хөрөнгө оруулалтын компани»-ийн дүр эсгэсэн, Камбож болон Нигериэс гаралтай бололтой залилангийн ажиллагаануудыг хориглосон. Луйварчид хуурамч компаниудаа сурталчлах вэбсайт, онлайн зар үүсгэж, арилжааны шинжээчийн дүр эсгэсэн хуурамч бололтой сошиал хаягуудаар хүмүүсийг хувийн мессежийн бүлэгт урьжээ. Их ашигтай, огт эрсдэлгүй орлого амлан, аюул занал учруулагчид боломжит хохирогчдыг зохиомол арилжааны платформ руу мөнгө шилжүүлэхэд татан оруулахыг оролджээ. Эдгээр залилангийн ажиллагаанд луйварчид манай загваруудыг голчлон харилцааны мессеж үүсгэж орчуулах, вэбсайт болон сошиал хаягтаа контент бүтээх, суурь судалгаа хийхэд ашигласан.

Өөр нэг тохиолдолд бид Мьянмарт байрладаг нь бараг тодорхой залилангийн төвийг хориглосон. Тус төв манай загваруудыг залилангийн схемдээ контент үүсгэхээс гадна өдөр тутмын ажлаа гүйцэтгэхэд ашиглаж байв. Үүнд хуваарь зохион байгуулах, дотоод мэдэгдэл боловсруулах, ажлын ширээ болон дотуур байр хуваарилах, санхүүгийн данс удирдах зэрэг багтжээ. Зарим оператор онлайн залилан үйлдэж байгаад баригдсан хүнд ямар эрүүгийн ял ногдуулдгийг асуусан байна.

Бидний таслан зогсоосон луйварчид бүгд манай загваруудыг ижил аргаар, ижил түвшний нарийн төвөгтэй байдалтай ашиглаагүй. Луйварчдын ChatGPT‑тэй хийсэн харилцааны ихэнх нь орчуулга зэрэг харьцангуй энгийн даалгавар байсан ч зарим залилангийн ажиллагаа илүү том зорилготой, нарийн зохион байгуулалттай байв.

Жишээлбэл, бидний таслан зогсоосон, Камбожоос гаралтай бололтой нэг ажиллагаа манай загваруудаар хуурамч хөрөнгө оруулалтын шинжээчид болон хуурамч арилжааны компанийн зохиомол ажилтнуудын дэлгэрэнгүй намтрыг бичүүлжээ. Дараа нь луйварчид ChatGPT‑ээс тэдгээр дүрийн өнгө аясаар сошиал мессеж бичихийг хүссэн. Аюул занал учруулагчид бай болсон хүмүүсээсээ авсан бололтой мессежүүдийг манай загварт байнга оруулж, хуурамч дүрийн өмнөөс яриаг үргэлжлүүлэхийг хүсдэг байв.

Камбожоос гаралтай бололтой өөр нэг залилангийн ажиллагаа манай загваруудаар урьдчилсан холбоогүй сурталчилгааны SMS мессеж үүсгэж, АНУ-ын утасны дугааруудад олноор нь илгээснээр эхэлжээ. Эдгээр мессежийн нэгийг OpenAI-ийн мөрдөн шалгагчид илгээсэн нь бидний 6 дугаар сард мэдээлсэн тохиолдолтой төстэй байв. Эдгээр SMS мессежид хууль ёсны хөрөнгө оруулалтын компанийнхтай төстэй нэртэй WhatsApp бүлгүүдэд нэгдэх урилга байсан бөгөөд тэдгээр бүлгийг дараа нь хориглосон.

OpenAI-ийн мөрдөн шалгагчид илгээсэн цуврал WhatsApp мессежээс үзэхэд боломжит бай эдгээр бүлгийн нэгэнд нэгдмэгцээ хөрөнгө оруулалтын талаар ярилцаж буй зургаан өөр хаягийн хоорондох «яриа»-г хардаг байжээ. Нэг хаяг нь «хөрөнгө оруулалтын шинжээч», бусад нь өөр өөр түвшний итгэлтэй, туршлагатай хөрөнгө оруулагчдын дүр эсгэж байв. Луйварчид энэ яриаг бүхэлд нь зохиож, хятад хэлнээс нэг дор орчуулсан байв. Ингэснээр идэвхтэй, урам зоригтой, амжилттай арилжаачдын эрч хүчтэй бүлэг мэт сэтгэгдэл төрүүлэхийг зорьсон бололтой. Эцэст нь «хөрөнгө оруулалтын шинжээч» бай болсон хүнд мөн хөрөнгө оруулж үзэхийг санал болгоно.

Үүнээс тусдаа, Нигериэс гаралтай нь бараг тодорхой нэг хөрөнгө оруулалтын залилангийн ажиллагаа Латин Америкийн чинээлэг хүмүүст сошиал зараар хэрхэн хүрэх, байршлаа хэрхэн нуух, сошиал платформын хязгаарлалтаас хэрхэн зайлсхийх талаар загвараас алхамчилсан зөвлөгөө хүсжээ. Үүний тулд тэд загварт тухайн платформын нийтэд нээлттэй үйлчилгээний нөхцөлийг зааж өгөөд, санал болгож буй зарын контент шаардлагад нийцэж байгаа эсэхийг хянуулахыг хүссэн.

Луйварчид, ялангуяа томоохон залилангийн төвүүд үйл ажиллагаагаа зогсолтгүй үргэлжлүүлэхийг хичээдэг. Үйл ажиллагааг нь тасалдуулахад тэд зан үйлийнхээ зарим хэсгийг өөрчлөн, дүрэм зөрчсөн ажиллагаагаа дахин эхлүүлэхийг оролдох нь түгээмэл. Энэ нь дахин илрэхээс зайлсхийх зорилготой бололтой. Тиймээс тэдний хувьсан өөрчлөгдөж буй үйл ажиллагааны талаарх мэдээллийг салбарын хэмжээнд хуваалцах нь чухал. Тухайлбал, OpenAI болон Meta аюул занал учруулагчдын талаар тус тус мэдээлэл хуваалцсан нь цаашдын мөрдөн шалгалт, арга хэмжээнд хувь нэмэр оруулсан.

Үйл ажиллагааг нь тасалдуулсанд эсвэл хиймэл оюун ашигласныг илтгэж болох шинж тэмдгийн талаарх өргөн хүрээний онлайн хэлэлцүүлэгт хариу болгон луйварчид онлайн контент болон бай болсон хүмүүстэй харилцахдаа хиймэл оюун ашиглаж буйгаа нуухыг оролдож байгааг бид ажигласан. Тухайлбал, Камбожоос гаралтай бололтой залилангийн ажиллагаанууд загварт гаралтаас урт зураасыг хасах заавар өгч байв.

Нэг тохиолдолд луйварчид сошиал дахь олон тооны хаяг, хөрөнгийг нь хаасныг тайлбарлахын тулд хориглуулсан шалтгаанаа зохиохыг оролджээ. Энэ нь дээр дурдсан, SMS болон WhatsApp-аар ажилладаг, Камбожоос гаралтай бололтой залилангийн төвтэй холбоотой байв. WhatsApp уг ажиллагаатай холбоотой «хөрөнгө оруулалтын бүлгүүд»-ийг хориглосны дараа операторууд тэдгээр бүлгийг өрсөлдөгч нь худал мэдээлэн хаалгасан хэмээн мэдэгдсэн мессежүүд үүсгэж эхэлжээ. Ингэж хориглосныг тайлбарлахыг зорьсон бололтой.

WhatsApp хаасны дараа Камбожтой холбоотой залилангийн ажиллагаанаас OpenAI-ийн мөрдөн шалгагчид илгээсэн WhatsApp мессежийн дэлгэцийн агшин.