ปฏิบัติการ “Stop News”: การดำเนินกิจกรรมชักจูงซ้ำซาก

กรณีศึกษานี้เผยแพร่ครั้งแรกในรายงานของ OpenAI ประจำเดือนตุลาคม 2025⁠(เปิดในหน้าต่างใหม่)

เราระงับบัญชีกลุ่มหนึ่งที่พยายามใช้โมเดลของเราสร้างเนื้อหาให้กับปฏิบัติการชักจูงแบบลับที่เราเคยรายงานเมื่อเดือนตุลาคม 2024 ในชื่อ “Stop News” กิจกรรมนี้มีต้นกำเนิดในรัสเซียและมีลักษณะสอดคล้องกับปฏิบัติการที่ดำเนินการโดยบริษัทการตลาดแห่งหนึ่ง การสืบสวนของเราพบว่าผู้ดำเนินการรายนี้พยายามใช้เครื่องมือ AI ของบริษัทอื่นสร้างวิดีโอ ก่อนนำไปโพสต์บน YouTube และ TikTok เราไม่สามารถยืนยันได้อย่างเป็นอิสระว่าท้ายที่สุดแล้วพวกเขาใช้โมเดลใด

เช่นเดียวกับกิจกรรมที่เราสกัดกั้นเมื่อเดือนตุลาคม 2024 ปฏิบัติการนี้ใช้โมเดลของเราเป็นหลักเพื่อสร้างเนื้อหา แล้วนำไปโพสต์บนโซเชียลมีเดียและเว็บไซต์หลายแห่งที่แอบอ้างเป็นสำนักข่าวในแอฟริกาและสหราชอาณาจักรกลุ่มเดียวกับที่เราเคยรายงานเมื่อปีที่แล้ว

แม้กิจกรรมนี้ดูเหมือนเป็นความพยายามสานต่อปฏิบัติการเดิม หลังจากถูกเราและบริษัทอื่นในอุตสาหกรรมสกัดกั้น แต่เราพบความแตกต่างสำคัญบางประการ ประการแรก สัดส่วนของการสร้างรูปภาพลดลงอย่างมาก กิจกรรม Stop News เดิมใช้รูปภาพเป็นจำนวนมากผิดปกติตามที่เราเคยตั้งข้อสังเกตไว้ในขณะนั้น แต่กิจกรรมล่าสุดมุ่งเน้นการสร้างข้อความมากขึ้น และแทบไม่มีการสร้างรูปภาพ เรื่องนี้สอดคล้องกับการประเมินของ VIGINUM หน่วยงานดิจิทัลของฝรั่งเศสที่ว่า “นับตั้งแต่มีการเผยแพร่รายงานของ Meta และ OpenAI การใช้รูปภาพที่สร้างด้วย AI ก็ลดลงอย่างมาก”

ประการที่สอง ปฏิบัติการนี้ยังใช้ ChatGPT สร้างบทและคำอธิบายสำหรับวิดีโอสั้นในรูปแบบข่าวด้วย โดยทั่วไป ผู้ดำเนินการจะป้อนข้อความภาษารัสเซียขนาดยาวและขอให้สร้างบทวิดีโอจากข้อความนั้น จากนั้นพวกเขาจะขอให้โมเดลแปลข้อความเป็นภาษาฝรั่งเศส ประการที่สาม พวกเขาจะขอให้โมเดลสร้างคำอธิบายที่ปรับให้เหมาะกับ SEO และแฮชแท็ก

บทบางส่วนเหล่านี้ปรากฏในวิดีโอบนช่อง YouTube ที่เชื่อมโยงกับเว็บไซต์ newstop[.]africa ซึ่งมุ่งเน้นเนื้อหาเกี่ยวกับแอฟริกาของปฏิบัติการ Stop News บทอื่น ๆ ปรากฏบนช่อง YouTube และ TikTok ที่ไม่ได้ใช้แบรนด์ “Stop News” ช่องเหล่านี้นำเสนอบุคคลที่สร้างด้วย AI กำลังอ่านข่าว โดยส่วนใหญ่ คลิปสั้น ๆ ของผู้ประกาศข่าวจะสลับกับภาพวิดีโอเหตุการณ์ที่เกิดขึ้นในแอฟริกาหรือเกี่ยวข้องกับแอฟริกา คลิปผู้ประกาศข่าวเหล่านี้ดูเหมือนไม่ได้สร้างโดยใช้โมเดลของเรา และเราไม่สามารถยืนยันได้อย่างเป็นอิสระว่ามีการใช้บริการใด รูปลักษณ์ของผู้ประกาศข่าวเปลี่ยนแปลงไปตลอดปี 2025 ดังที่เห็นในภาพหน้าจอจากวิดีโอ TikTok ด้านล่าง

ในกรณีที่ซับซ้อนที่สุด ผู้ดำเนินการใช้โมเดลของเราสร้างพรอมต์วิดีโอ ซึ่งดูเหมือนตั้งใจนำไปใช้กับโมเดล AI อื่น ในกรณีนี้ พวกเขาจะสร้างบทวิดีโอภาษารัสเซียก่อน จากนั้นแบ่งบทเป็นช่วงละสองประโยค แล้วขอให้ ChatGPT สร้างพรอมต์วิดีโอสำหรับแต่ละช่วง เมื่อสร้างพรอมต์วิดีโอเสร็จแล้ว ผู้ดำเนินการจะขอให้โมเดลแปลบททั้งหมดเป็นภาษาฝรั่งเศส

กิจกรรมของปฏิบัติการนี้แบ่งออกเป็นสามหมวดหมู่หลัก ประการแรก ปฏิบัติการนี้สร้างเนื้อหาภาษาฝรั่งเศสที่วิพากษ์วิจารณ์บทบาทของฝรั่งเศสและสหรัฐอเมริกาในแอฟริกา พร้อมทั้งยกย่องบทบาทของรัสเซียในภูมิภาคดังกล่าว ประการที่สอง ปฏิบัติการนี้สร้างเนื้อหาภาษาอังกฤษที่วิพากษ์วิจารณ์ยูเครนและผู้สนับสนุนยูเครนในนานาชาติ ในบางครั้ง ผู้ดำเนินการยังสร้างรูปภาพประกอบเนื้อหาข้อความด้วย ในบางโอกาสซึ่งพบไม่บ่อย พวกเขาขอให้ ChatGPT สร้างบทความประชาสัมพันธ์และข้อความโฆษณาบน Google ให้กับแบรนด์ข่าวหลักของตนอย่าง “Newstop Africa” แทนที่จะมุ่งประชาสัมพันธ์ Newstop Africa เพียงอย่างเดียว บทความประชาสัมพันธ์บางชิ้นนำแบรนด์ Newstop ไปวางเคียงคู่กับสำนักข่าวที่น่าเชื่อถือ ซึ่งน่าจะมีจุดประสงค์เพื่อทำให้แบรนด์ดูน่าเชื่อถือขึ้นจากการเชื่อมโยงดังกล่าว

กิจกรรมกลุ่มที่สามคือการสร้างสื่อส่งเสริมการขายให้กับบริษัทเชิงพาณิชย์หลายแห่งในรัสเซีย กิจกรรมนี้รวมถึงการสร้างโฆษณาให้กับการพนันออนไลน์ที่ไม่ได้รับอนุญาต การสร้างเนื้อหาหลากหลายประเภทร่วมกันเช่นนี้สอดคล้องกับลักษณะของบริษัทเชิงพาณิชย์ที่รับจ้างดำเนินปฏิบัติการชักจูงแบบลับควบคู่ไปกับการโฆษณาแบบดั้งเดิม และสอดคล้องกับกิจกรรมที่เรารายงานเมื่อปีที่แล้ว

แม้ปฏิบัติการนี้จะมุ่งเน้นเนื้อหาวิดีโอสั้นมากขึ้นและใช้เครื่องมือ AI หลายชนิดในรูปแบบที่ซับซ้อนกว่าเดิม แต่เนื้อหาที่เผยแพร่ดูเหมือนจะมียอดรับชมหรือเข้าถึงผู้ชมเพียงจำกัด ณ เดือนสิงหาคม 2025 บัญชี X หลักของ “Newstop Africa” มีผู้ติดตามเพียง 172 ราย และจากฟังก์ชัน “โพสต์ยอดนิยม” ของ X จำนวนการรีโพสต์สูงสุดของโพสต์ใด ๆ ในบัญชีนี้อยู่ที่เพียงสี่ครั้ง

ช่อง YouTube และ TikTok ที่นำเสนอผู้ประกาศข่าว AI มีผู้ติดตามช่องละประมาณ 1,900 ราย โดยช่อง TikTok มียอดถูกใจ 5,855 ครั้ง หรือเฉลี่ย 105 ครั้งต่อวิดีโอจากทั้งหมด 56 วิดีโอที่โพสต์ วิดีโอที่มีผู้ชมสูงสุดมียอดรับชม 63,300 ครั้ง ส่วนวิดีโอที่มีผู้ชมน้อยที่สุดมียอดรับชมเพียง 87 ครั้ง ช่อง YouTube ระบุว่ามียอดรับชมรวมประมาณ 255,000 ครั้งจากวิดีโอ 50 รายการ หรือเฉลี่ย 5,100 ครั้งต่อวิดีโอ แต่เราไม่พบหลักฐานว่าวิดีโอเหล่านี้ถูกแชร์ต่อ ได้รับการอ้างถึงในสื่อ หรือสร้างกระแสในวงกว้างแต่อย่างใด

การประเมินปฏิบัติการนี้ครั้งแรกของเราในรายงานเดือนตุลาคม 2024 ระบุว่าปฏิบัติการดังกล่าวอยู่ในหมวดหมู่ 3 ตามมาตรวัด Breakout Scale โดยอิงเป็นหลักจาก “ความร่วมมือด้านข้อมูลข่าวสาร” หลายรายการที่ดูเหมือนจัดตั้งขึ้นกับเว็บไซต์ในสหราชอาณาจักร อย่างไรก็ตาม งานวิจัยในเวลาต่อมาของ VIGINUM และนักวิจัยข้อมูลโอเพนซอร์สแสดงให้เห็นว่า “ความร่วมมือ” เหล่านี้น่าจะเป็นเรื่องแต่ง และมีการ “ใช้ประโยชน์จากข้อบกพร่องทางเทคนิคของเว็บไซต์ภายนอกเหล่านี้” เพื่อเพิ่มเนื้อหาโดยที่ผู้ดูแลระบบไม่ทราบ ด้วยเหตุนี้ ปัจจุบันเราจึงประเมินว่ากิจกรรมของปฏิบัติการนี้ควรจัดอยู่ในหมวดหมู่ 2 ซึ่งหมายถึงกิจกรรมบนแพลตฟอร์มอินเทอร์เน็ตหลายแห่ง แต่ไม่ได้แพร่กระจายเข้าสู่ชุมชนจริงอย่างมีนัยสำคัญ