ปฏิบัติการ “Doppelganger”: ปฏิบัติการชี้นำจากรัสเซียที่มุ่งเป้าไปยังยูเครน
OpenAI ระงับบัญชีที่เกี่ยวข้องกับปฏิบัติการ “Doppelganger” จากรัสเซีย ซึ่งใช้ AI สร้างความคิดเห็นต่อต้านยูเครนบนโซเชียลมีเดีย แปลเนื้อหา และเขียนข้อความสำหรับเว็บไซต์ในหลายภาษา
กรณีศึกษานี้เผยแพร่ครั้งแรกในรายงานประจำเดือนพฤษภาคม 2024(เปิดในหน้าต่างใหม่) ของ OpenAI
ผู้ดำเนินการ
เราระงับบัญชีสี่กลุ่มที่ใช้โมเดลของเรา ซึ่งเชื่อมโยงกับบุคคลที่ดำเนินการในนามของปฏิบัติการชี้นำจากรัสเซียที่รู้จักกันในชื่อ “Doppelganger”(เปิดในหน้าต่างใหม่) บัญชีแต่ละกลุ่มใช้กลยุทธ์ เทคนิค และกระบวนการ (TTP) ต่างกัน ซึ่งสอดคล้องกับลักษณะของปฏิบัติการที่ประกอบด้วยทีมซึ่งทำหน้าที่ต่างกัน
พฤติกรรม
กิจกรรมนี้มุ่งเป้าไปยังผู้ชมในยุโรปและอเมริกาเหนือ โดยเน้นการสร้างเนื้อหาสำหรับเว็บไซต์และโซเชียลมีเดีย
บัญชีกลุ่มแรกสร้างความคิดเห็นสั้น ๆ เป็นภาษาอังกฤษ ฝรั่งเศส เยอรมัน อิตาลี และโปแลนด์ เนื้อหาเหล่านี้ถูกโพสต์บน 9GAG และ X พร้อมมีม วิดีโอ และลิงก์ที่ดูเหมือนจะไม่ได้สร้างโดยใช้โมเดลของเรา มีมบางส่วนคัดลอกมาจากแหล่งต่าง ๆ บนอินเทอร์เน็ต และดูเหมือนจะเป็นมีมที่มีมานานหลายปีแล้ว
บน 9GAG บัญชีที่โพสต์เนื้อหาของแคมเปญนี้มักใช้รูปคนดังหรือแมวเป็นรูปโปรไฟล์ บัญชีเหล่านี้โพสต์มีมและวิดีโอในช่องหลากหลายประเภท ทั้งช่อง “สุ่ม” และช่องเกี่ยวกับสัตว์เลี้ยง กีฬา อารมณ์ขัน ตลอดจนความสัมพันธ์และการออกเดต
ความคิดเห็นเกี่ยวกับยูเครนและวิดีโอเกี่ยวกับกาซาที่โพสต์ในช่อง “ยานยนต์” ของ 9GAG โดยบัญชีที่โพสต์เนื้อหาซึ่งสร้างโดยแคมเปญนี้ซ้ำหลายครั้ง ข้อความที่กล่าวถึงยูเครนและพรมแดนสหรัฐฯ สร้างโดยใช้โมเดลของเรา วิดีโอนี้เป็นภาพตัดต่อจากคลิปข่าว โพสต์ดังกล่าวได้รับคะแนนโหวตเพิ่ม 11 คะแนน และคะแนนโหวตลด 93 คะแนน
ทุกครั้งที่แคมเปญโพสต์มีมหรือวิดีโอบน 9GAG จะมีบัญชี 3–5 บัญชีเข้ามาตอบกลับ โดยมักใช้ข้อความง่าย ๆ เช่น “ฮ่าฮ่าฮ่า” หรือ “ขำ” บัญชีเหล่านี้มีปฏิสัมพันธ์กับเนื้อหาของแคมเปญนี้เท่านั้น และส่วนใหญ่สร้างขึ้นในวันเดียวกัน พฤติกรรมนี้มักทำให้ผู้ใช้รายอื่นเข้ามาแสดงความคิดเห็นเชิงวิจารณ์ โดยหลายคนเปิดโปงว่าบัญชีเหล่านี้เป็น “บอต”
ความคิดเห็นเกี่ยวกับวิดีโอที่แสดงไว้ด้านบน บัญชีสามบัญชีด้านล่าง (ผู้แสดงความคิดเห็นกลุ่มแรกสุด) ล้วนสร้างขึ้นในช่วงปลายเดือนเมษายน 2024 และโพสต์ กดโหวตให้ หรือแสดงความคิดเห็นซ้ำ ๆ เฉพาะในโพสต์ของแคมเปญนี้เท่านั้น ส่วนบัญชีสามบัญชีด้านบนที่เปิดโปงว่าเป็นของปลอมสร้างขึ้นเมื่อ 1–10 ปีก่อน และมีกิจกรรมหลากหลายรูปแบบ
บน X ความคิดเห็นของแคมเปญถูกโพสต์โดยบัญชีที่โดยทั่วไปมีโพสต์เพียงหนึ่งหรือสองโพสต์เท่านั้น ความคิดเห็นเหล่านี้มักมาพร้อมลิงก์ที่ดูเหมือนสุ่มมา เช่น “solarpanelfor.sale” ลิงก์เหล่านี้เปลี่ยนเส้นทางไปยังกลุ่มเว็บไซต์ที่ถูกระบุซ้ำหลายครั้งว่าเกี่ยวข้องกับ Doppelganger เว็บไซต์เหล่านี้จำกัดการเข้าถึงตามภูมิศาสตร์ จึงมีเพียงผู้ที่มีที่อยู่ IP ในประเทศเป้าหมายเท่านั้นที่เข้าชมได้ อย่างไรก็ตาม ดูเหมือนผู้ดำเนินการจะทำพลาด ทำให้บทความภาษาอังกฤษ เยอรมัน และโปแลนด์บางบทความเข้าชมได้จาก IP ของฝรั่งเศสเท่านั้น
โพสต์บน X ที่มีความคิดเห็นซึ่งสร้างโดยใช้โมเดลของเรา ความคิดเห็นดังกล่าวแปลได้ว่า “การกระทำที่น่าตกใจ! การเมืองไม่ควรเกี่ยวข้องกับความรุนแรง เราต้องการการเจรจา ไม่ใช่ความรุนแรง” ลิงก์ที่แนบมาจะเปลี่ยนเส้นทางไปยังเว็บไซต์ rrn.media ฉบับภาษาเยอรมันภายใต้แบรนด์ Doppelganger อย่างไรก็ตาม ณ วันที่ 20 พฤษภาคม เว็บไซต์ดังกล่าวเข้าชมได้จาก IP ของฝรั่งเศสเท่านั้น
บัญชีกลุ่มนี้เข้าถึงโมเดลของเราผ่านบริการที่เชื่อมโยงกับบริษัทในรัสเซียและสาธารณรัฐเช็ก ซึ่งน่าจะเป็นความพยายามหลบเลี่ยงการตรวจจับ บริการนี้มีจุดประสงค์เพื่อช่วยให้ผู้คนในรัสเซียหลีกเลี่ยงนโยบายการเข้าถึงจากประเทศที่รองรับ(เปิดในหน้าต่างใหม่)ของเรา เราได้ปิดการเข้าถึง API ของบริการนี้แล้ว
บัญชีกลุ่มที่สองแปลบทความจากภาษารัสเซียเป็นภาษาอังกฤษและฝรั่งเศส โดยข้อความภาษารัสเซียน่าจะเป็นต้นฉบับที่เขียนขึ้นเอง ต่อมาบทความเหล่านี้จำนวนมากถูกเผยแพร่บนเว็บไซต์ที่ถูกระบุซ้ำหลายครั้งว่าเกี่ยวข้องกับ Doppelganger นั่นคือ rrn.media บัญชีกลุ่มเดียวกันนี้ยังสร้างความคิดเห็นสั้น ๆ เกี่ยวกับบทความของตน ซึ่งต่อมาปรากฏบนโซเชียลมีเดีย
โพสต์บน X ที่สร้างโดยใช้โมเดลของเรา พร้อมลิงก์ไปยังบทความบน rrn.media
บัญชีกลุ่มที่สามใช้สร้าง พิสูจน์อักษร และแก้ไขบทความภาษาฝรั่งเศส จากนั้นบทความดังกล่าวถูกเผยแพร่บน franceeteu.today ซึ่งเป็นอีกเว็บไซต์หนึ่งที่ถูกระบุว่าเกี่ยวข้องกับ Doppelganger
บัญชีกลุ่มสุดท้ายดำเนินงานเป็นภาษาเยอรมัน บัญชีกลุ่มนี้นำเข้าเนื้อหาจาก grenzezank.com ซึ่งเป็นเว็บไซต์ของ Doppelganger แล้วใช้เนื้อหานั้นสร้างโพสต์สั้น ๆ สำหรับกลุ่มและเพจ Facebook ที่ตั้งชื่อตามเว็บไซต์ดังกล่าว
เนื้อหา
เนื้อหาส่วนใหญ่ที่แคมเปญนี้เผยแพร่ทางออนไลน์มุ่งเน้นไปที่สงครามในยูเครน เนื้อหาเหล่านี้นำเสนอยูเครน สหรัฐฯ NATO และ EU ในแง่ลบ ขณะที่นำเสนอรัสเซียในแง่บวก ความคิดเห็นโดยทั่วไปอ้างว่ารัสเซียเป็นพันธมิตรทางเศรษฐกิจที่สำคัญของประเทศในยุโรป ผู้นำชาติตะวันตกที่วิจารณ์รัสเซียไม่เข้าใจความคิดของผู้มีสิทธิเลือกตั้งในประเทศตนเอง และยูเครนอ่อนแอ ทุจริต และ/หรือใกล้พ่ายแพ้
ในบางครั้ง ผู้ดำเนินการ Doppelganger พยายามให้โมเดลของเราสร้างภาพการ์ตูนของนักการเมืองคนสำคัญในยุโรปและผู้วิจารณ์รัสเซีย โมเดลของเราปฏิเสธคำขอเหล่านี้
การประเมินผลกระทบ
แคมเปญ Doppelganger ที่เราตรวจพบไม่มีแคมเปญใดที่ดูเหมือนจะได้รับการมีส่วนร่วมเชิงบวกอย่างมีนัยสำคัญจากผู้ชมที่เป็นบุคคลจริง
บน 9GAG โพสต์ทั่วไปได้รับคะแนนโหวตเพิ่ม 5–10 คะแนน ซึ่งส่วนใหญ่มาจากบัญชีที่โพสต์เนื้อหาของแคมเปญนี้ด้วย และได้รับคะแนนโหวตลดตั้งแต่ 15 ถึง 200 คะแนน บน X โพสต์ทั่วไปมีการแชร์ประมาณ 1,000 ครั้ง แต่ไม่มีการตอบกลับหรือการกดถูกใจเลย ความแตกต่างนี้มากจนบ่งชี้ว่ามีการขยายการเข้าถึงอย่างไม่เป็นธรรมชาติ โพสต์หนึ่งมีการตอบกลับสามรายการ ซึ่งทั้งหมดเปิดโปงว่าโพสต์ดังกล่าวเป็นของปลอม
ข้อความตอบกลับโพสต์ของ Doppelganger บน X
เมื่อใช้มาตรวัด Breakout(เปิดในหน้าต่างใหม่) เพื่อประเมินผลกระทบของปฏิบัติการชี้นำ โดยให้คะแนนตั้งแต่ 1 (ต่ำสุด) ถึง 6 (สูงสุด) เราประเมินว่ากิจกรรมที่เกี่ยวข้องกับการใช้โมเดลของเราอยู่ในหมวดที่ 2 ซึ่งมีลักษณะเป็นการโพสต์บนหลายแพลตฟอร์ม แต่ไม่มีแพลตฟอร์มใดที่เข้าถึงผู้คนในวงกว้างหรือได้รับการมีส่วนร่วมจากผู้ชมอย่างมีนัยสำคัญ