ปฏิบัติการ “Zero Zeno”: กิจกรรมชักจูงที่เชื่อมโยงกับอิสราเอล
OpenAI แบนบัญชีที่เชื่อมโยงกับปฏิบัติการจากอิสราเอลซึ่งไม่เคยมีรายงานมาก่อนและเราเรียกว่า “Zero Zeno” โดยใช้ AI สร้างเนื้อหาต่อต้านฮามาส ต่อต้านกาตาร์ สนับสนุนอิสราเอล ต่อต้าน BJP และสนับสนุน Histadrut
กรณีศึกษานี้เผยแพร่ครั้งแรกในรายงานประจำเดือนพฤษภาคม 2024(เปิดในหน้าต่างใหม่) ของ OpenAI
ผู้ดำเนินการ
เราแบนกลุ่มบัญชีที่ดำเนินการจากอิสราเอล ซึ่งถูกใช้สร้างและแก้ไขเนื้อหาสำหรับปฏิบัติการชักจูงที่ครอบคลุมทั้ง X, Facebook, Instagram, เว็บไซต์ และ YouTube เครือข่ายนี้ดำเนินการโดย STOIC บริษัทบริหารจัดการแคมเปญทางการเมืองในอิสราเอล เพื่อเป็นเกียรติแก่ผู้ก่อตั้งสำนักปรัชญาสโตอิก และสะท้อนถึงการมีส่วนร่วมระดับต่ำที่เครือข่ายนี้ได้รับ เราจึงตั้งชื่อเล่นให้ว่า “Zero Zeno”
พฤติกรรม
ปฏิบัติการนี้มุ่งเป้าไปยังผู้ชมในแคนาดา สหรัฐอเมริกา และอิสราเอล ด้วยเนื้อหาภาษาอังกฤษและภาษาฮีบรู ช่วงต้นเดือนพฤษภาคม ปฏิบัติการนี้เริ่มมุ่งเป้าไปยังผู้ชมในอินเดียด้วยเนื้อหาภาษาอังกฤษ นอกจากนี้ยังดูเหมือนว่าปฏิบัติการนี้กำลังเตรียมดำเนินแคมเปญ IO ที่มุ่งเป้าไปยังผู้ชมในกานา
ปฏิบัติการนี้ใช้โมเดลของเราสร้างบทความบนเว็บและความคิดเห็นในโซเชียลมีเดีย ก่อนนำไปโพสต์บนหลายแพลตฟอร์ม โดยเฉพาะ Instagram, Facebook และ X
ความคิดเห็นภาษาอังกฤษที่เครือข่ายนี้สร้างและโพสต์บน Instagram ทั้งโพสต์ต้นฉบับและข้อความตอบกลับสร้างโดยแคมเปญนี้
ปฏิบัติการนี้ยังใช้โมเดลของเราสร้างตัวตนและประวัติสมมติสำหรับโซเชียลมีเดียตามตัวแปรต่างๆ เช่น อายุ เพศ และสถานที่ รวมถึงค้นคว้าข้อมูลเกี่ยวกับบุคคลในอิสราเอลที่แสดงความคิดเห็นต่อสาธารณะเกี่ยวกับสหภาพแรงงาน Histadrut ในอิสราเอล โมเดลของเราปฏิเสธที่จะให้ข้อมูลส่วนบุคคลตามพรอมต์เหล่านี้
เนื้อหาที่เครือข่ายนี้สร้างถูกโพสต์บนแพลตฟอร์มโซเชียลมีเดียหลายแห่ง การวิจัยจากแหล่งข้อมูลเปิดโดย Digital Forensic Research Lab ของ Atlantic Council(เปิดในหน้าต่างใหม่) พบเนื้อหาบางส่วนของเครือข่ายนี้บน Facebook, Instagram และ X เมื่อบัญชีเหล่านั้นถูกปิดใช้งาน ปฏิบัติการนี้ก็จัดหาบัญชีใหม่มาใช้ เนื้อหาอื่นๆ ปรากฏบนเว็บไซต์สี่แห่งที่แอบอ้างเป็นกลุ่มนักเคลื่อนไหวซึ่งมุ่งเน้นความขัดแย้งในกาซาและประเด็นความสัมพันธ์ในวงกว้างระหว่างผู้นับถือศาสนายิวกับอิสลาม ได้แก่ uc4canada.com, the-good-samaritan.com, ufnews.io และ nonagenda.com
ในบางกรณี เราพบบัญชีปลอมของปฏิบัติการนี้แสดงความคิดเห็นในโพสต์โซเชียลมีเดียที่ปฏิบัติการเป็นผู้เผยแพร่เอง ซึ่งน่าจะเป็นความพยายามสร้างภาพว่าผู้ชมมีส่วนร่วม
โพสต์บน X จากบัญชีที่เชื่อมโยงกับกิจกรรมซึ่ง DFRLab ตรวจพบเป็นแห่งแรก พร้อมข้อความตอบกลับ ข้อความตอบกลับทั้งหมดในภาพนี้สร้างโดยแคมเปญนี้
บัญชีโซเชียลมีเดียจำนวนมากที่โพสต์เนื้อหาของเครือข่ายนี้ใช้รูปโปรไฟล์ซึ่งดูเหมือนสร้างด้วยปัญญาประดิษฐ์ประเภทก่อนหน้านี้ ได้แก่ เครือข่ายปฏิปักษ์เชิงกำเนิด (GAN) รูปภาพดังกล่าวสามารถดาวน์โหลดจากอินเทอร์เน็ตได้อย่างง่ายดาย แม้จะสร้างรูปภาพเหล่านี้ได้ง่าย แต่เราพบบัญชีโซเชียลมีเดียหลายบัญชีในเครือข่ายนี้ใช้รูปเดียวกัน บางครั้งบัญชีตั้งแต่สองบัญชีขึ้นไปที่ใช้รูปโปรไฟล์เดียวกันจะตอบกลับโพสต์โซเชียลมีเดียเดียวกัน
รูปโปรไฟล์ของบัญชี X ที่โพสต์ความคิดเห็นซึ่งสร้างโดยเครือข่ายนี้ รูปภาพมีลักษณะบ่งชี้ว่าสร้างด้วย GAN
เนื้อหา
ปฏิบัติการนี้แบ่งเป็นแคมเปญตามหัวข้อหลายแคมเปญ โดยส่วนใหญ่เชื่อมโยงอย่างหลวมๆ กับความขัดแย้งในกาซาและประเด็นความสัมพันธ์ในวงกว้างระหว่างผู้นับถือศาสนายิวกับอิสลาม ในเดือนพฤษภาคม เราสกัดกั้นกิจกรรมบางส่วนที่มุ่งเน้นการเลือกตั้งอินเดียได้ภายในไม่ถึง 24 ชั่วโมงหลังเริ่มดำเนินการ
งานวิจัยจากแหล่งข้อมูลเปิดเมื่อเดือนกุมภาพันธ์(เปิดในหน้าต่างใหม่) ระบุว่าเครือข่ายนี้วิจารณ์ UNRWA ซึ่งเป็นหน่วยงานบรรเทาทุกข์ของสหประชาชาติในปาเลสไตน์ รายงานของ DFRLab เมื่อเดือนมีนาคม(เปิดในหน้าต่างใหม่) เน้นถึงเนื้อหาที่มุ่งเป้าไปยังแคนาดาและวิจารณ์กลุ่มที่โพสต์ของแคมเปญเรียกว่า “อิสลามิสต์หัวรุนแรง” ในประเทศนั้น อีกกลุ่มหนึ่งมุ่งเน้นมหาวิทยาลัยในสหรัฐอเมริกา และกล่าวหาผู้ประท้วงที่สนับสนุนปาเลสไตน์ว่าส่งเสริมการต่อต้านชาวยิวและการก่อการร้าย กลุ่มที่สี่มุ่งเน้นกาตาร์ โดยนำเสนอว่าการลงทุนของกาตาร์ในสหรัฐฯ เป็นภัยคุกคามต่อวิถีชีวิตแบบอเมริกัน กลุ่มที่ห้าสร้างโพสต์โซเชียลมีเดียเป็นภาษาฮีบรู โพสต์เหล่านี้มักยกย่ององค์กรสหภาพแรงงาน Histadrut และผู้นำขององค์กร ท้ายที่สุด ในเดือนพฤษภาคม เครือข่ายนี้เริ่มสร้างความคิดเห็นที่มุ่งเน้นอินเดีย วิจารณ์พรรค BJP ซึ่งเป็นพรรครัฐบาล และยกย่องพรรค Congress ฝ่ายค้าน
บางครั้งเครือข่ายนี้ดูเหมือนเปลี่ยนหัวข้อของบัญชีไปมา ตัวอย่างเช่น บัญชีที่เคยโพสต์เรื่องแคนาดาเปลี่ยนไปมุ่งเน้นสหรัฐอเมริกา อินเดีย หรือ Histadrut (หรือมากกว่าหนึ่งหัวข้อ)
ความคิดเห็นสามรายการบน X จากบัญชีที่โพสต์เนื้อหาซึ่งแคมเปญนี้สร้างซ้ำหลายครั้ง ระหว่างวันที่ 1–4 พฤษภาคม 2024 โพสต์แรกสุด (ด้านล่าง) ดูเหมือนเป็นความพยายามสร้างตัวตนสมมติ โพสต์ที่สองเน้นเรื่องแคนาดาและฝังโพสต์จากบัญชีหลักของเครือข่ายนี้ที่มุ่งเป้าไปยังแคนาดา ส่วนโพสต์ที่สามเน้นเรื่องอินเดีย
เนื้อหาบางส่วนที่เครือข่ายนี้สร้างถูกโพสต์บนโซเชียลมีเดียเพื่อตอบกลับบุคคลสำคัญในโลกตะวันตกจากทั้งสองขั้วการเมือง โดยทั่วไป ข้อความตอบกลับเหล่านี้ไม่เกี่ยวข้องกับโพสต์ต้นฉบับ ตัวอย่างเช่น ความคิดเห็นหนึ่งเกี่ยวกับการที่กาตาร์ “กว้านซื้อ” อเมริกา ถูกโพสต์ตอบกลับโพสต์เรื่องรสนิยมทางดนตรีของอดีตประธานาธิบดี Trump
ด้านบนคือโพสต์ของ Laura Ingraham เกี่ยวกับรสนิยมทางดนตรีของประธานาธิบดี Trump ด้านล่างคือโพสต์ที่มีความคิดเห็นซึ่งเครือข่ายนี้สร้างขึ้น โปรดสังเกตความแตกต่างของตัวเลขการมีส่วนร่วมระหว่างโพสต์ต้นฉบับกับข้อความตอบกลับ
การประเมินผลกระทบ
กิจกรรมของ Zero Zeno ดูเหมือนแทบไม่ได้รับการมีส่วนร่วมเลย หากไม่นับบัญชีปลอมของเครือข่ายเอง (บัญชีจำนวนมากถูก Meta และ X ปิดใช้งานแล้ว ดังนั้นตัวเลขการมีส่วนร่วมในปัจจุบันจึงอาจไม่สะท้อนภาพทั้งหมด)
เมื่อใช้ Breakout Scale(เปิดในหน้าต่างใหม่) ประเมินผลกระทบของ IO ซึ่งจัดระดับตั้งแต่ 1 (ต่ำสุด) ถึง 6 (สูงสุด) เราประเมินว่านี่เป็นปฏิบัติการระดับ 2 มีการโพสต์บนหลายแพลตฟอร์มและเว็บไซต์ แต่ไม่มีหลักฐานว่าบุคคลภายนอกเครือข่ายช่วยขยายเนื้อหาอย่างมีนัยสำคัญ
ช่อง YouTube ที่เชื่อมโยงกับแคมเปญของปฏิบัติการนี้ซึ่งมุ่งเป้าไปที่แคนาดา ณ วันที่ 25 เมษายน 2024 ช่องนี้โพสต์วิดีโอหนึ่งรายการซึ่งยังไม่มียอดรับชม
ตัวบ่งชี้
เราพบว่าโดเมนต่อไปนี้เชื่อมโยงกับแคมเปญของ Zero Zeno
nonagenda.com
the-good-samaritan.com
uc4canada.com
ufnews.io