“A2Z” ажиллагаа: Олон хэлээр явуулсан нөлөөллийн үйл ажиллагаа

Энэхүү кейс судалгааг анх OpenAI-ийн 2024 оны аравдугаар сарын⁠(шинэ цонхонд нээгдэнэ) тайланд нийтэлсэн.

Манай API-г ашиглан сэтгэгдэл үүсгэж, түүнийгээ X болон Facebook дээр нийтэлдэг байсан, өмнө нь мэдээлэгдээгүй бүлэг бүртгэлийг бид хориглосон. Эдгээр сэтгэгдлийн олонх нь Азербайжаныг магтсан эсвэл хүний эрхийн нөхцөл байдлыг нь өмгөөлсөн ч өөр олон сэдвийг мөн хөндсөн нь арилжааны зорилгоор явуулсан ажиллагаа байж болзошгүйг харуулна. Азербайжаныг байнга магтаж, ажиллагааныхаа олон үе шатанд хиймэл оюун ашиглахыг оролдсоныг нь харгалзан бид энэ сүлжээг “A2Z” гэж нэрлэсэн.

Тавдугаар сард бидний илрүүлж, “Муу дүрэм” гэж нэрлэсэн орос хэл дээрх Telegram ажиллагааны нэгэн адил энэ ажиллагаа нийгмийн сүлжээнд сэтгэгдэл бичихдээ манай загваруудыг ашигласан. Тэд хиймэл оюуныг хуурамч сошиал дүрүүдийг удирдах, танилцуулга үүсгэх, пост ба сэтгэгдэл шинжлэх, олон хэлээр хариулт боловсруулах, хянаж засварлахад ашиглажээ. Дараа нь хариултуудыг X эсвэл Facebook дээр нийтэлдэг байв. Контентын ихэнх нь богино сэтгэгдэл байсан ч өвөрмөц хэв маягтай зургууд мөн багтжээ. Эдгээр зураг нь 1930-аад оны зурагт хуудасны хэв маягийг олонтоо ашигласан тул хуурч мэхлэхээс илүү анхаарал татаж, оролцоог нэмэгдүүлэх зорилготой бололтой. Гэвч ийм хэв маягтай зураг бүхий ердийн пост тус бүр ердөө 0–5 оролцоо авчээ.

Хиймэл оюун ашигласнаар олон сошиал бүртгэлийг зэрэг удирдах боломжтой болсон: бид X болон Facebook дээр энэ үйл ажиллагаатай тохирох 150 орчим бүртгэлийг илрүүлсэн бөгөөд үүнээс ч олон сэжигтэй бүртгэл бий. Мөн энэ нь тус ажиллагаанд интернет дэх бодит хүмүүстэй сэтгэгдлийн хэлхээгээр заримдаа харилцах боломж олгожээ. Бид бодит хүмүүс болон хуурамч бүртгэлүүдийн хооронд өрнөсөн богино яриаг хааяа ажигласан бөгөөд хуурамч бүртгэлийн хариултуудыг манай загваруудаар үүсгэсэн байв.

Хиймэл оюунаас өмнө ийм цар хүрээний ажиллагаа явуулахад олон тролл бүхий том баг, үүнийг дагасан бүх зардал болон мэдээлэл задрах эрсдэл шаардагдах байсан. Гэвч хиймэл оюунд түшиглэсэн нь энэ ажиллагааг бидний таслан зогсоох арга хэмжээнд ер бусын эмзэг болгосон. Уг ажиллагаа халдлагын гинжин хэлхээний маш олон холбоосод хиймэл оюун ашигласан тул бид арга хэмжээ авахдаа олон холбоосыг нэгэн зэрэг тасалсан. Бид зургаадугаар сарын эхээр энэ үйл ажиллагааг тасалдуулсны дараа уг ажиллагааны хэсэг гэж тогтоосон сошиал бүртгэлүүд ЕХ, Их Британи, Францын сонгуулийн үеэр нийтлэхээ бүрэн зогсоосон. Зарим нь наймдугаар сарын сүүлээр дахин нийтэлж эхэлсэн. Тэдний цөөн хэдэн постод хиймэл оюунаар үүсгэсэн байж болзошгүй шинж тэмдэг байв. Ийм шинж тэмдэгтэй контентыг манай загваруудаар үүсгээгүй.

Энэ кампанит ажил улс төрийн өргөн хүрээний сэдэвт чиглэсэн богино сэтгэгдлүүд үүсгэжээ. Хамгийн түгээмэл сэдэв нь Азербайжаны засгийн газар болон дотоод, бүс нутгийн, олон улсын улс төрд гүйцэтгэх үүргийг нь магтах явдал байв. Тухайлбал, Төв Азийн орнуудын эв нэгдлийг дэмжих, НҮБ-ын Уур амьсгалын өөрчлөлтийн бага хурлыг зохион байгуулахыг онцолжээ. Англи, итали хэл дээрх бүртгэлүүд Азербайжаныг Европын эрчим хүчний нийлүүлэгч болохынх нь хувьд магтсан бөгөөд заримдаа Азербайжаны засгийн газрын хүний эрхийн нөхцөл байдлыг шүүмжилсэнд хариу болгон нийтэлжээ.

Үйл ажиллагааны бусад чиглэл нь хиймэл оюуны ашиг тус ба хөгжил, санхүүгийн зах зээл, экологийн асуудал, криптовалют болон технологийн өргөн хүрээний сэдэвт төвлөрчээ. Нэг бүлэг нь Арабын Нэгдсэн Эмиратыг тогтвортой хөрөнгө оруулалтын орон хэмээн дүрсэлж, үүнийг АНУ-ын улс төрийн тогтворгүй байдлын талаарх мэдэгдлүүдтэй олонтоо харьцуулжээ.

Зарим хуурамч дүр Европ эсвэл АНУ-ын улс төрд төвлөрсөн байв. Энэ үйл ажиллагааны үзэл баримтлал бүс нутаг бүрд харилцан адилгүй байв. Жишээлбэл, АНУ-д төвлөрсөн нэг X бүртгэл өөрийгөө либерал хэмээн дүрсэлж, АНУ-ын ерөнхийлөгч асан Трампыг шүүмжилсэн бол франц хэлээр нийтэлдэг зарим Facebook бүртгэл ерөнхийлөгч Макроныг шүүмжилж, Үндэсний нэгдэл (RN) намыг дэмжжээ. Заримдаа энэ шүүмжлэл нь тухайн улс Оросын Украинд хийсэн довтолгоо зэрэг олон улсын асуудалд оролцох ёсгүй гэж нотлохын тулд дотоодын асуудалд төвлөрч байв.

Энэ ажиллагаа Facebook болон X дээр маш идэвхтэй байсан бөгөөд хэдэн зуун бүртгэлтэй байсан бололтой. X дээрх зарим бүртгэл нь төлбөртэй баталгаажуулалтын цэнхэр тэмдэгтэй байв. Хоёр платформоос түүвэрлэсэн ойролцоогоор 150 бүртгэлийн аль нь ч олон дагагчтай байгаагүй: шалгалтын үеэр X дээр бидний илрүүлсэн хамгийн олон дагагчтай бүртгэл 222 дагагчтай, ердийн тоо нь 15–20 гаруй байсан бөгөөд X дээрх ердийн постууд нэг оронтой тооны оролцоо авчээ. Үүний нэгэн адил шалгалтын үеэр бидний ажигласан Facebook постын хамгийн олон хариу үйлдэл 36 байсан бол ердийн тоо нь 0–5 байв. Гэхдээ ажиллагааны постуудад бодит хүмүүс хариулсан зарим тохиолдлыг бид илрүүлсэн. Эдгээр хариу үргэлж эерэг байгаагүй бөгөөд бодит хүмүүс хуурамч бүртгэлийн үгийг няцаах тохиолдол ч байсан. Гэсэн ч энэ нь олон платформ, олон хэл, олон сэдвээр үзэгчдийг тодорхой хэмжээнд татан оролцуулах чадвартайг харуулна.

Нөлөөллийн ажиллагааны үр нөлөөг 1-ээс (хамгийн бага) 6 (хамгийн өндөр) хүртэл үнэлдэг Breakout Scale-аар дүгнэхэд бид энэ ажиллагааг Хоёрдугаар ангиллын дээд хязгаарт, Гуравдугаар ангилалд шилжих эрсдэлтэй гэж үнэлнэ. Учир нь олон платформд нийтэлж, бодит хүмүүс контенттой нь харилцсан зарим нотолгоо байсан. Гэвч бид энэ ажиллагаанд манай загваруудыг ашиглахыг хориглож, салбарын түншүүдтэй мэдээлэл хуваалцсаны дараа бидний илрүүлсэн сошиал бүртгэлүүд олон долоо хоногийн турш чимээгүй болсон. Ийнхүү энэ ажиллагаа хиймэл оюун ашиглах нь үйлдэгчдийн чадавхыг нэмэгдүүлдэг ч хиймэл оюуны загварт түшиглэх нь таслан зогсоох арга хэмжээнд өртөх эмзэг байдлыг нь мөн нэмэгдүүлдгийг харууллаа.