Үндсэн агуулга руу алгасах
OpenAI

2024 оны тавдугаар сарын 1

Аюулгүй байдал

“Zero Zeno” ажиллагаа: Израилтай холбоотой нөлөөллийн үйл ажиллагаа

OpenAI хиймэл оюунаар Хамас, Катар, BJP-ийн эсрэг, Израил болон Хистадрутыг дэмжсэн контент үүсгэж байсан, бидний “Zero Zeno” гэж нэрлэсэн Израилаас гаралтай, өмнө нь мэдээлэгдээгүй ажиллагаатай холбоотой хаягуудыг хориглов.

Ачаалж байна…

Энэ кейс судалгааг анх OpenAI-ийн 2024 оны тавдугаар сарын⁠(шинэ цонхонд нээгдэнэ) тайланд нийтэлсэн.

Үйл ажиллагаа явуулагч

X, Facebook, Instagram, вэбсайтууд болон YouTube-ийг хамарсан нөлөөллийн ажиллагаанд зориулан контент үүсгэж, засварлахад ашиглаж байсан, Израилаас удирддаг бүлэг хаягийг бид хориглосон. Уг сүлжээг Израилын улс төрийн кампанит ажлын менежментийн STOIC компани ажиллуулж байв. Стоик гүн ухааны сургуулийг үндэслэгчийн нэрийг хүндэтгэхийн зэрэгцээ уг сүлжээний татсан оролцоо маш бага байсныг илэрхийлж бид үүнийг “Zero Zeno” хэмээн хочилсон.

Үйл ажиллагааны хэв маяг

Энэ ажиллагаа англи болон еврей хэл дээрх контентоор Канад, АНУ, Израилын үзэгчдийг онилсон. Тавдугаар сарын эхээр англи хэл дээрх контентоор Энэтхэгийн үзэгчдийг онилж эхэлсэн. Мөн Гана улсын үзэгчдийг онилсон нөлөөллийн кампанит ажил явуулахаар бэлтгэж байсан бололтой.

Уг ажиллагаа манай загваруудыг ашиглан вэб нийтлэл, сошиал медиагийн сэтгэгдэл үүсгэж, дараа нь тэдгээрийг Instagram, Facebook, X зэрэг олон платформд нийтэлсэн.

Энэ сүлжээний үүсгэж, Instagram-д нийтэлсэн англи хэл дээрх сэтгэгдлүүд. Анхны нийтлэл болон хариунуудыг хоёуланг нь энэ кампанит ажил үүсгэсэн.

Энэ сүлжээний үүсгэж, Instagram-д нийтэлсэн англи хэл дээрх сэтгэгдлүүд. Анхны нийтлэл болон хариунуудыг хоёуланг нь энэ кампанит ажил үүсгэсэн.

Уг ажиллагаа нас, хүйс, байршил зэрэг хувьсагчид тулгуурлан сошиал медиад зориулсан зохиомол дүр, танилцуулга үүсгэх, мөн Израилын Хистадрут үйлдвэрчний эвлэлийн талаар олон нийтэд нээлттэй сэтгэгдэл бичсэн Израилын хүмүүсийг судлахдаа манай загваруудыг ашигласан. Манай загварууд эдгээр хүсэлтийн хариуд хувийн мэдээлэл өгөхөөс татгалзсан.

Энэ сүлжээний үүсгэсэн контентыг сошиал медиагийн олон платформд нийтэлсэн. Атлантын зөвлөлийн Дижитал криминалистикийн судалгааны лаборатори⁠(шинэ цонхонд нээгдэнэ) нээлттэй эх сурвалжаас судалж, уг сүлжээний зарим контентыг Facebook, Instagram, X-ээс илрүүлсэн; эдгээр хаягийг идэвхгүй болгоход ажиллагааг явуулагчид шинэ хаяг авсан. Бусад контент нь Газын мөргөлдөөн болон еврей, исламын шашинтнуудын харилцааны өргөн хүрээний асуудалд төвлөрсөн идэвхтнүүдийн бүлэг мэт дүр эсгэсэн uc4canada.com, the-good-samaritan.com, ufnews.io, nonagenda.com гэсэн дөрвөн вэбсайтад гарчээ.

Зарим тохиолдолд энэ ажиллагааны хуурамч хаягууд өөрсдийнх нь нийтэлсэн сошиал медиа постод сэтгэгдэл бичиж байсныг бид илрүүлсэн. Энэ нь үзэгчид оролцож байгаа мэт сэтгэгдэл төрүүлэх оролдлого байсан бололтой.

DFRLab-ийн анх илрүүлсэн үйл ажиллагаатай холбоотой хаягийн X дэх нийтлэл болон хариунууд. Энэ зурагт буй бүх хариуг уг кампанит ажил үүсгэсэн.

DFRLab-ийн анх илрүүлсэн үйл ажиллагаатай холбоотой хаягийн X дэх нийтлэл болон хариунууд. Энэ зурагт буй бүх хариуг уг кампанит ажил үүсгэсэн.

Энэ сүлжээний контентыг нийтэлсэн сошиал медиа хаягуудын олонх нь хиймэл оюуны өмнөх үеийн төрөл болох үүсгэгч өрсөлдөгч сүлжээ (GAN)-гээр бүтээсэн мэт профайл зураг ашиглаж байв. Ийм зургийг интернэтээс хялбархан татаж авч болно. Эдгээр зургийг хялбархан бүтээж болдог ч энэ сүлжээний хэд хэдэн сошиал медиа хаяг ижил зураг ашиглаж байсныг бид илрүүлсэн. Заримдаа ижил профайл зурагтай хоёр буюу түүнээс олон хаяг нэг сошиал медиа нийтлэлд хариу бичдэг байв.

Энэ сүлжээний үүсгэсэн сэтгэгдлүүдийг нийтэлсэн X хаягуудын профайл зураг. Зурагт GAN-аар үүсгэсэнтэй нийцэх дүрслэлийн шинж тэмдгүүд байна.

Энэ сүлжээний үүсгэсэн сэтгэгдлүүдийг нийтэлсэн X хаягуудын профайл зураг. Зурагт GAN-аар үүсгэсэнтэй нийцэх дүрслэлийн шинж тэмдгүүд байна.

Контент

Энэ ажиллагаа сэдэвчилсэн хэд хэдэн кампанит ажилд хуваагдсан бөгөөд ихэнх нь Газын мөргөлдөөн болон еврей, исламын шашинтнуудын харилцааны өргөн хүрээний асуудалтай сул холбоотой байв. Тавдугаар сард бид Энэтхэгийн сонгуульд чиглэсэн зарим үйл ажиллагааг эхэлснээс нь хойш 24 цаг хүрэхгүй хугацаанд таслан зогсоосон.

Хоёрдугаар сард хийсэн нээлттэй эх сурвалжийн судалгаанд⁠(шинэ цонхонд нээгдэнэ) энэ сүлжээ Палестины дүрвэгсдэд туслах НҮБ-ын агентлаг болох UNRWA-г шүүмжилж байсныг дурдсан. DFRLab-ийн гуравдугаар сарын тайланд⁠(шинэ цонхонд нээгдэнэ) Канад руу чиглэж, кампанит ажлын нийтлэлүүдэд “радикал исламистууд” хэмээн тодорхойлсон хүмүүсийг шүүмжилсэн контентыг онцолсон. Өөр нэг бүлэг нь АНУ-ын их сургуулиудад төвлөрч, Палестиныг дэмжигч жагсагчдыг антисемитизм, терроризмыг сурталчилсан хэмээн буруутгасан. Дөрөв дэх бүлэг нь Катарт төвлөрч, АНУ дахь хөрөнгө оруулалтыг нь америкчуудын амьдралын хэв маягт заналхийлж буй мэтээр дүрсэлсэн. Тав дахь бүлэг нь еврей хэлээр сошиал медиа нийтлэл үүсгэсэн. Эдгээр нийтлэл ихэвчлэн Хистадрут үйлдвэрчний эвлэлийн байгууллага болон удирдлагыг нь магтсан байв. Эцэст нь тавдугаар сард уг сүлжээ Энэтхэгт төвлөрч, эрх баригч BJP намыг шүүмжлэн, сөрөг хүчний Конгресс намыг магтсан сэтгэгдлүүд үүсгэж эхэлсэн.

Заримдаа уг сүлжээ хаягуудынхаа сэдвийг сольдог байсан бололтой. Жишээлбэл, өмнө нь Канадын талаар нийтэлж байсан хаягууд АНУ, Энэтхэг эсвэл Хистадрут руу, заримдаа эдгээрээс хэд хэд рүү нь анхаарлаа шилжүүлжээ.

Энэ кампанит ажлын үүсгэсэн контентыг удаа дараа нийтэлсэн хаягийн 2024 оны тавдугаар сарын 1–4-нд X-д бичсэн гурван сэтгэгдэл. Хамгийн эхний нийтлэл (доод талд) нь зохиомол дүр бүтээх оролдлого байсан бололтой. Хоёр дахь нийтлэл Канадын талаар өгүүлж, энэ сүлжээний Канад руу чиглэсэн гол хаягийн нийтлэлийг шигтгэсэн байна. Гурав дахь нь Энэтхэгийн талаар өгүүлнэ.

Энэ кампанит ажлын үүсгэсэн контентыг удаа дараа нийтэлсэн хаягийн 2024 оны тавдугаар сарын 1–4-нд X-д бичсэн гурван сэтгэгдэл. Хамгийн эхний нийтлэл (доод талд) нь зохиомол дүр бүтээх оролдлого байсан бололтой. Хоёр дахь нийтлэл Канадын талаар өгүүлж, энэ сүлжээний Канад руу чиглэсэн гол хаягийн нийтлэлийг шигтгэсэн байна. Гурав дахь нь Энэтхэгийн талаар өгүүлнэ.

Энэ сүлжээний бүтээсэн зарим контентыг улс төрийн үзэл баримтлалын хоёр талын барууны нэр хүндтэй хүмүүсийн нийтлэлд хариу болгон сошиал медиад нийтэлсэн. Эдгээр хариу ихэвчлэн анхны нийтлэлтэй ямар ч холбоогүй байв. Жишээлбэл, Катар Америкийг “худалдан авч” байгаа тухай нэг сэтгэгдлийг Ерөнхийлөгч асан Трампын хөгжмийн сонирхлын тухай нийтлэлд хариу болгон бичсэн байв.

Дээд талд: Ерөнхийлөгч Трампын хөгжмийн сонирхлын тухай Лора Инграхамын нийтлэл. Доод талд: Энэ сүлжээний үүсгэсэн сэтгэгдэл бүхий нийтлэл. Анхны нийтлэл болон хариуны хандалтын үзүүлэлтүүдийн зөрүүг анхаарна уу.

Дээд талд: Ерөнхийлөгч Трампын хөгжмийн сонирхлын тухай Лора Инграхамын нийтлэл. Доод талд: Энэ сүлжээний үүсгэсэн сэтгэгдэл бүхий нийтлэл. Анхны нийтлэл болон хариуны хандалтын үзүүлэлтүүдийн зөрүүг анхаарна уу.

Нөлөөллийн үнэлгээ

“Zero Zeno”-ийн үйл ажиллагаа өөрийнх нь хуурамч хаягуудаас бусад эх сурвалжаас бараг оролцоо татаагүй бололтой. (Олон хаягийг Meta болон X аль хэдийн идэвхгүй болгосон тул одоогийн оролцооны үзүүлэлтүүд бүрэн дүр зургийг харуулахгүй байж магадгүй.)

Нөлөөллийн ажиллагааны үр нөлөөг 1-ээс (хамгийн бага) 6 (хамгийн их) хүртэл үнэлдэг Breakout Scale⁠(шинэ цонхонд нээгдэнэ)-аар дүгнэхэд бид үүнийг олон платформ, вэбсайтад нийтлэл байршуулсан ч сүлжээнээс гаднах хүмүүс үлэмж хэмжээгээр түгээсэн нотолгоогүй, 2-р ангиллын ажиллагаа гэж үнэлнэ.

Энэ ажиллагааны Канад руу чиглэсэн кампанит ажилтай холбоотой YouTube суваг. 2024 оны дөрөвдүгээр сарын 25-ны байдлаар нэг видео нийтэлсэн бөгөөд үүнийг хэн ч үзээгүй байв.

Энэ ажиллагааны Канад руу чиглэсэн кампанит ажилтай холбоотой YouTube суваг. 2024 оны дөрөвдүгээр сарын 25-ны байдлаар нэг видео нийтэлсэн бөгөөд үүнийг хэн ч үзээгүй байв.

Шалгуур үзүүлэлтүүд

Бид дараах домэйнуудыг “Zero Zeno”-ийн кампанит ажлуудтай холбоотой гэж тогтоосон.

  • nonagenda.com

  • the-good-samaritan.com

  • uc4canada.com

  • ufnews.io