ข้ามไปยังเนื้อหาหลัก
OpenAI

8 ตุลาคม 2569

ความปลอดภัย

สกัดปฏิบัติการ “ฉากบังหน้า” ที่ใช้ AI

กำลังโหลด…

ตลอดสองปีครึ่งที่ผ่านมา เราได้รายงานเกี่ยวกับวิธีการมากมายของเหล่าผู้ก่อภัยคุกคามที่พยายามใช้โมเดลของเราในการโจมตีทางไซเบอร์ ปฏิบัติการสร้างอิทธิพลแอบแฝง (IO) การหลอกลวง และการละเมิดนโยบายการใช้งานของเราในรูปแบบอื่นๆ เราเผยแพร่รายงานเหล่านี้เพื่อให้หน่วยงานกำกับดูแล ผู้ร่วมอุตสาหกรรม และสังคมในวงกว้างทราบถึงความพยายามใช้ประโยชน์จาก AI ของผู้ก่อภัยคุกคามที่เราพบ และเปิดให้เห็นช่องโหว่ที่พวกเขาพยายามฉวยใช้

เมื่อไม่นานมานี้ เราแบนปฏิบัติการสร้างอิทธิพลสองกลุ่ม กลุ่มหนึ่งจากรัสเซียและอีกกลุ่มจากอิหร่าน ซึ่งใช้โมเดลของเราร่วมกับเทคนิคและเทคโนโลยีแบบดั้งเดิมเพื่อสนับสนุนตัวตนและองค์กร “ฉากบังหน้า” ที่จัดตั้งอย่างแยบยล พวกเขาใช้ฉากบังหน้าเหล่านี้ฟอกที่มาของสารเกี่ยวกับภูมิรัฐศาสตร์และความขัดแย้งก่อนส่งไปยังกลุ่มเป้าหมาย ปฏิบัติการของอิหร่านมีตัวตน “นักข่าว” ปลอมเจ็ดราย ใช้เสนอบทความขนาดยาวให้สื่อออนไลน์ขนาดเล็กและกลางทั่วโลก ส่วนปฏิบัติการของรัสเซียดูเหมือนดึงคนในลาตินอเมริกาที่ไม่รู้เบื้องหลังมาดำเนิน “องค์กรคลังสมอง” ในพื้นที่

ทั้งสองปฏิบัติการดำเนินงานหลายมิติ โดยทดลองใช้กลยุทธ์หลากหลายเพื่อบรรลุเป้าหมาย นอกจากบทความขนาดยาว ปฏิบัติการของอิหร่านยังสร้างความคิดเห็นบนโซเชียลมีเดียเป็นชุดๆ โดยทั่วไปเกี่ยวกับสงครามสหรัฐฯ–อิหร่าน นอกจากควบคุม “องค์กรคลังสมอง” ปฏิบัติการของรัสเซียยังสร้างเอกสาร “หลุด” ปลอมและบทสำหรับคลิปเสียง ซึ่งเราพบบางส่วนถูกเผยแพร่ออนไลน์ ทั้งสองปฏิบัติการยังใช้ AI อย่างมากในการร่างรายงานภายใน (ปฏิบัติการของรัสเซียใช้ด้านนี้มากกว่าด้านอื่น) โดยทั้งคู่ใช้วิธีการที่น่าสงสัยหรือหลอกลวงอย่างชัดเจนเพื่ออวดอ้างประสิทธิผลของผู้ปฏิบัติการเกินจริง

สิ่งที่โดดเด่นที่สุดคือปฏิบัติการเหล่านี้คล้ายกับปฏิบัติการสร้างอิทธิพลที่ซับซ้อนในยุคก่อน AI อย่างมาก แต่ใช้ AI ช่วยให้ขั้นตอนงานบางส่วนง่ายขึ้น ตัวตนนักข่าวปลอมที่ปฏิบัติการอิหร่านควบคุมมีลักษณะคล้ายกับนักข่าวปลอม “อลิซ⁠(เปิดในหน้าต่างใหม่) โดโนแวน⁠(เปิดในหน้าต่างใหม่)” ซึ่งเป็นฉากบังหน้าของหน่วยข่าวกรองทหารรัสเซีย และมีบทความเผยแพร่ในสื่อตะวันตกหลายแห่งในปี 2016–2017 ในปี 2020 บุคคลที่เกี่ยวข้องกับกิจกรรมในอดีตของ Internet Research Agency ของรัสเซียเปิดสำนัก “ข่าว” ปลอมชื่อ “พีซดาตา⁠(เปิดในหน้าต่างใหม่)” ซึ่งดึงนักข่าวทั่วโลกที่ไม่รู้เบื้องหลังมาเขียนบทความให้

ปฏิบัติการเหล่านี้ยังมีความพิเศษในแง่ศักยภาพการเข้าถึงผู้คน เมื่อใช้เกณฑ์ Breakout Scale⁠(เปิดในหน้าต่างใหม่) สำหรับ IO ซึ่งจัดระดับตั้งแต่ 1 (ต่ำสุด) ถึง 6 (สูงสุด) เราประเมินว่าปฏิบัติการจากรัสเซียอยู่ในระดับ 5 นี่เป็นปฏิบัติการระดับ 5 ครั้งแรกที่เราสกัดกั้นนับตั้งแต่เริ่มเผยแพร่รายงาน ปฏิบัติการจากอิหร่านขึ้นถึงระดับ 4 ทั้งสองกลุ่มนำเนื้อหาของตนเข้าสู่สื่อกระแสหลักได้สำเร็จ ไม่ใช่เพียงโพสต์บนโซเชียลมีเดีย (เนื้อหาเหล่านั้นไม่ได้สร้างจากโมเดลของเราทั้งหมด) สิ่งนี้สอดคล้องกับรูปแบบที่เราพบในปฏิบัติการสร้างอิทธิพลแอบแฝง 30 กลุ่มที่เราเปิดโปงตลอดสองปีครึ่งที่ผ่านมา: กลุ่มที่พยายามนำเนื้อหาเข้าสู่สื่อจริง แทนที่จะพึ่งการเผยแพร่ผ่านโซเชียลมีเดียปลอม มักมีศักยภาพในการเข้าถึงผู้คนและสร้างผลกระทบสูงที่สุด

ตารางเมทริกซ์ของปฏิบัติการสร้างอิทธิพล 30 กลุ่ม แบ่งตามวิธีเผยแพร่หลักและระดับบน Breakout Scale ปฏิบัติการที่ใช้สื่อภายนอกขึ้นถึงระดับ 4 และ 5 ส่วนปฏิบัติการที่ใช้โซเชียลมีเดียเป็นหลักอยู่ในระดับ 1 ถึง 3

ตารางเมทริกซ์ของปฏิบัติการสร้างอิทธิพล 30 กลุ่มที่เราเปิดโปงตั้งแต่ต้นปี 2024 ประเมินตามช่องทางเผยแพร่หลัก (โซเชียลมีเดีย เว็บไซต์ที่ปฏิบัติการดูแลเอง สื่อภายนอก) และคะแนน Breakout Scale ปฏิบัติการที่ใช้มากกว่าหนึ่งช่องทาง เช่น เปิดเว็บไซต์และโปรโมตบนโซเชียลมีเดีย จัดกลุ่มตามวิธีที่ดูเป็นแกนหลักของปฏิบัติการ

AI ช่วยให้ปฏิบัติการฉากบังหน้าเหล่านี้ขยายขนาด เพิ่มประสิทธิภาพ ใช้ภาษาได้คล่องแคล่ว และมีความสามารถด้านบรรณาธิการมากขึ้น ผู้ปฏิบัติการใช้ข้อได้เปรียบเหล่านี้ฉวยประโยชน์จากเหยื่อที่ไม่ทันสงสัย เช่น พนักงานหรือบรรณาธิการ และนำเนื้อหาไปสู่ผู้รับสารที่ไม่รู้เลยว่าใครอยู่เบื้องหลังหรือมีแรงจูงใจอะไร ปฏิบัติการเหล่านี้ยังแสดงให้เห็นความซับซ้อนและความแยบยลในการใช้ตัวตนและองค์กรปลอมของผู้ก่อภัยคุกคามเพื่อบรรลุเป้าหมาย การเข้าใจช่องโหว่ที่ผู้ก่อภัยคุกคามฉวยใช้ และวิธีที่ช่องโหว่เหล่านั้นช่วยให้พวกเขาเข้าถึงกลุ่มผู้รับสารได้กว้างขึ้น เป็นสิ่งจำเป็นต่อการรักษาการป้องกันที่แข็งแกร่งในองค์กรต่างๆ

แต่ความลับของปฏิบัติการฉากบังหน้าเหล่านี้ก็ทำให้พวกเขาเปราะบางเป็นพิเศษต่อการเปิดเผยข้อมูลอย่างรับผิดชอบ ทั้ง “อลิซ โดโนแวน” และ “พีซดาตา” ยุติกิจกรรมหลังถูกเปิดโปง ด้วยเหตุนี้ เป้าหมายของเราในการรายงานปฏิบัติการฉากบังหน้าเหล่านี้จึงเป็นการช่วยให้การวิจัยต่อยอดและการสกัดกั้นทำได้ง่ายขึ้น และทำให้การเดินหน้าปฏิบัติการต่อทำได้ยากขึ้น

รัสเซีย: ปฏิบัติการ “ดาร์ก คลาร์ก”

ผู้ดำเนินการจากรัสเซียที่ทำแคมเปญสร้างอิทธิพลทั่วลาตินอเมริกา

ผู้ดำเนินการ

เราแบนกลุ่มบัญชี ChatGPT ที่มีต้นทางในรัสเซีย พวกเขาใช้ ChatGPT ทำงานหลายประเภทที่เกี่ยวข้องกับปฏิบัติการสร้างอิทธิพลแอบแฝงซึ่งมุ่งเป้าไปยังประเทศต่างๆ ทั่วลาตินอเมริกา กิจกรรมส่วนใหญ่ดูมุ่งทำลายชื่อเสียงของยูเครนในภูมิภาค แต่บางส่วนดูมุ่งชี้นำผลลัพธ์ทางการเมืองในท้องถิ่น โดยเฉพาะในอาร์เจนตินาและโบลิเวีย ผู้ปฏิบัติการส่วนใหญ่ป้อนพรอมป์ต์เป็นภาษารัสเซีย มีรายหนึ่งใช้ภาษาสเปน แต่ก็ดูเหมือนอยู่ในรัสเซียเช่นกัน เราได้แบ่งปันข้อมูลกรณีนี้กับหน่วยงานที่เกี่ยวข้องแล้ว

ผู้ปฏิบัติการใช้ ChatGPT ทำงานหลักสามด้าน ได้แก่ เขียนรายงานภายในเกี่ยวกับกิจกรรมของตน (และกิจกรรมของผู้อื่นที่พวกเขาพอจะอ้างเป็นผลงานตนได้) สร้างเนื้อหาสำหรับปฏิบัติการ และร่างรายงานผลการดำเนินงานขององค์กรในลาตินอเมริกาที่เรียกตัวเองว่า “แพลตฟอร์มวิจัย” ชื่อ Social Research Center (SRC) พวกเขาดูเหมือนควบคุม SRC ผ่านตัวตนปลอมชื่อ “มีอา คลาร์ก” เราจึงตั้งชื่อเล่นให้ปฏิบัติการนี้ตามชื่อนั้นว่า “ดาร์ก คลาร์ก” เนื่องจากเราไม่อนุญาตให้เข้าถึงโมเดลจากรัสเซีย พวกเขาจึงใช้ VPN เชื่อมต่อบริการของเรา

ในรายงานภายใน ผู้ปฏิบัติการอ้างว่าเผยแพร่เรื่องปลอมทั่วลาตินอเมริกาเพื่อบ่อนทำลายยูเครนหรือผู้นำท้องถิ่น นักวิจัย⁠(เปิดในหน้าต่างใหม่)ที่ใช้แหล่งข้อมูลเปิด⁠(เปิดในหน้าต่างใหม่)เชื่อมโยงเรื่องปลอมบางส่วนกับองค์กรรัสเซียที่รู้จักในชื่อ “โปลิโทโลจี” หรือ “ลา กอมปาเนีย” ซึ่งมีรายงานว่าสืบทอดงานต่อจากกลุ่มวากเนอร์และองค์กรอื่นๆ ที่ก่อตั้งโดยเยฟเกนี พริโกชิน มหาเศรษฐีผู้ทรงอิทธิพลชาวรัสเซีย ผู้ปฏิบัติการยังขอให้โมเดลของเราแปลหรืออธิบายรายงานสาธารณะเกี่ยวกับโปลิโทโลจีและวากเนอร์ มากกว่าการถามถึงเครือข่ายอื่นใดที่มีต้นทางในรัสเซียอย่างมาก

ปฏิบัติการนี้มีลักษณะผิดจากทั่วไปสองประการ ประการแรก ดูเหมือนปฏิบัติการนี้ดึงคนในลาตินอเมริกาให้มาทำงานกับ SRC ได้สำเร็จ รายงานเกี่ยวกับ SRC ของผู้ปฏิบัติการรัสเซียกล่าวถึงการตัดสินใจเรื่องต่างๆ เช่น อัตราค่าจ้าง การจ้างและเลิกจ้าง ซึ่งบ่งชี้ว่าพวกเขาควบคุมองค์กรนี้ ไม่ได้เพียงร่วมมือกัน หลักฐานที่มีบ่งชี้ว่าพนักงาน SRC ในลาตินอเมริกาไม่รู้ว่าตนกำลังทำงานให้กลุ่มจากรัสเซีย ต่างจาก “องค์กรคลังสมอง” อีกแห่งที่เชื่อมโยงกับรัสเซียซึ่งเราเปิดโปงเมื่อไม่นานมานี้ เนื้อหาส่วนใหญ่ของ SRC ดูเหมือนเป็นงานต้นฉบับที่จัดทำโดยเจ้าหน้าที่ซึ่งถูกดึงเข้ามาร่วมงาน นี่เป็นความพยายามใช้ตัวตนบังหน้าที่ซับซ้อนที่สุดที่เราสกัดกั้นในช่วงสองปีครึ่งที่ผ่านมา

ประการที่สอง หลักฐานบางส่วนจากแหล่งข้อมูลเปิดบ่งชี้ว่าเรื่องปลอมของดาร์ก คลาร์กแพร่กระจายกว้างพอให้เกิดการตรวจสอบข้อเท็จจริง⁠(เปิดในหน้าต่างใหม่)และคำปฏิเสธอย่างเป็นทางการ⁠(เปิดในหน้าต่างใหม่) สะท้อนระดับการเข้าถึงสังคมที่มากกว่าปฏิบัติการสร้างอิทธิพลใดๆ ที่เราสกัดกั้นในช่วงสองปีที่ผ่านมา เรื่องปลอมเรื่องหนึ่งที่ปฏิบัติการอ้างว่าสอดแทรกเข้าไปในเปรู ถึงกับซ้ำเติมความตึงเครียดในสังคมระหว่างยูเครนกับโปแลนด์

การรายงานภายใน

ผู้ปฏิบัติการใช้ ChatGPT เป็นหลักเพื่อร่างและอัปเดตรายงานภายในส่งให้ผู้บังคับบัญชาที่ไม่ทราบตัวตน รายงานประจำเหล่านี้บรรยายความพยายามดำเนินแคมเปญสร้างอิทธิพลแอบแฝงทั่วลาตินอเมริกา รายงานครอบคลุมงานหลักสามด้าน ได้แก่ ความพยายามใส่ร้ายยูเครนและบ่อนทำลายการรับสมัครบุคลากรเข้ากองทัพยูเครน ความพยายามแทรกแซงการเมืองภายในบางประเทศ โดยเฉพาะโบลิเวียและอาร์เจนตินา และการบริหาร SRC ในกรณีส่วนใหญ่ เราไม่พบว่าผู้ก่อภัยคุกคามใช้โมเดลของเราสร้างเนื้อหาสำหรับแคมเปญ แต่ใช้เพื่อรายงานผลเท่านั้น (ข้อยกเว้นไม่กี่กรณีอธิบายไว้ด้านล่าง⁠)

รายงานมีรายละเอียดเชิงกลยุทธ์มากมาย เผยให้เห็นว่าปฏิบัติการนี้พยายามบ่อนทำลายยูเครนและผู้นำบางประเทศอย่างไร โดยเฉพาะประธานาธิบดีของอาร์เจนตินา โบลิเวีย และเอกวาดอร์ บางฉบับบรรยายความพยายามหลอกคนในพื้นที่ให้ทำกิจกรรมที่ผู้ปฏิบัติการจะนำไปใช้โจมตีเป้าหมายได้ บางฉบับบรรยายข้อมูล “หลุด” ปลอมที่ผู้ปฏิบัติการอ้างว่าได้เผยแพร่

ในสองกรณี หลักฐานเชื่อมโยงผู้ปฏิบัติการกับรายงานสาธารณะเกี่ยวกับ “โปลิโทโลจี” ผู้ปฏิบัติการรายงานว่าในปี 2024 พวกเขาดำเนินสองแคมเปญที่มุ่งเป้าไปยังประธานาธิบดีฮาเวียร์ มิเลอีของอาร์เจนตินา ประการแรก พวกเขาบอกว่าเผยแพร่ข่าวเท็จว่ามิเลอีซื้อปลอกคอสุนัขประดับอัญมณีจาก Cartier ให้สุนัขของตน ประการที่สอง พวกเขาอ้างว่าจ่ายเงินให้คนในพื้นที่วาดกราฟฟิตีต่อต้านมิเลอีในกรุงบัวโนสไอเรส จากเอกสารที่รั่วไหล กิจกรรมทั้งสองนี้ถูกระบุว่าเป็นฝีมือ⁠(เปิดในหน้าต่างใหม่)ของ “โปลิโทโลจี” และ “ลา กอมปาเนีย” ในรายงานที่เผยแพร่ต่อสาธารณะ⁠(เปิดในหน้าต่างใหม่)

ยังมีเรื่องปลอมอีกมากที่ไม่เคยถูกเชื่อมโยงกับปฏิบัติการสร้างอิทธิพลของรัสเซียมาก่อน ตัวอย่างเช่น ผู้ปฏิบัติการอ้างว่าในเดือนพฤษภาคม 2026 พวกเขาสร้างที่อยู่อีเมลปลอมโดยแอบอ้างว่าเป็นของสำนักงานการศึกษาระดับภูมิภาคในกรุงลิมา ประเทศเปรู พวกเขาใช้อีเมลนี้สั่งให้โรงเรียนในเขตจัดกิจกรรมเกี่ยวกับยูเครนในวันความหลากหลายทางวัฒนธรรมและภาษาแห่งชาติ (21 พฤษภาคม) อีเมลระบุคำสั่งอย่างชัดเจนให้อ้างถึงบุคคลหลายราย รวมถึงสเตปัน บันเดรา นักชาตินิยมยูเครนในศตวรรษที่ 20 ผู้เป็นที่ถกเถียง ชาวยูเครนบางส่วนมองเขาเป็นบุคคลสำคัญด้านเอกราช แต่ในรัสเซียและโปแลนด์ เขาถูกเชื่อมโยงกับลัทธิฟาสซิสต์ การร่วมมือกับฝ่ายศัตรูในช่วงสงคราม และการก่อความโหดร้าย ผู้ปฏิบัติการระบุว่าโรงเรียนบางแห่งตอบกลับที่อยู่อีเมลปลอม ยืนยันว่าได้จัดกิจกรรมดังกล่าวแล้ว และถึงกับส่งภาพประกอบมาให้

จากนั้นผู้ปฏิบัติการอ้างว่าได้แทรกข่าวเกี่ยวกับกิจกรรมเหล่านี้ลงในสื่อทั้งในเปรูและโปแลนด์ พร้อมข้อกล่าวหาว่ายูเครนกำลัง “ส่งออก” อุดมการณ์ชาตินิยมสุดโต่ง จนก่อให้เกิดกระแสความไม่พอใจ การค้นหาจากแหล่งข้อมูลเปิดพบข่าวที่ตรงกับคำกล่าวอ้างนี้ในสื่อ⁠(เปิดในหน้าต่างใหม่)เปรู⁠(เปิดในหน้าต่างใหม่) และ⁠(เปิดในหน้าต่างใหม่)โปแลนด์⁠(เปิดในหน้าต่างใหม่) รวมถึงสื่อภาษาอังกฤษในฮังการี⁠(เปิดในหน้าต่างใหม่) (บทความบางชิ้นถูกลบไปแล้ว) บทความ⁠(เปิดในหน้าต่างใหม่)บางชิ้น⁠(เปิดในหน้าต่างใหม่)ระบุปฏิกิริยาของสมาชิกรัฐสภายุโรปชาวโปแลนด์รายหนึ่ง ซึ่งเสนอให้ประกาศว่าผู้ที่แสดง “ท่าทีต่อต้านโปแลนด์” เป็นบุคคลไม่พึงปรารถนาในโปแลนด์ เรื่องปลอมจากรัสเซียจึงทั้งอาศัยและซ้ำเติมความตึงเครียดทางประวัติศาสตร์ระหว่างชาวยูเครนกับชาวโปแลนด์

ในทำนองเดียวกัน ผู้ปฏิบัติการอ้างว่าในเดือนมิถุนายน พวกเขาใช้ที่อยู่อีเมลปลอมอีกแห่งหลอกให้โรงเรียนในเอกวาดอร์จัดพิธีปฏิญาณตนจงรักภักดีต่อประธานาธิบดีดาเนียล โนโบอา และเอริก พรินซ์ อดีตหัวหน้าบริษัทรับจ้างทางทหารเอกชน Blackwater ผู้ปฏิบัติการอ้างว่าเหตุการณ์นี้จุดกระแสความไม่พอใจในเอกวาดอร์ และกดดันให้รัฐบาลต้องออกมาปฏิเสธเรื่องปลอม จึงยิ่งขยายการรับรู้ไปทั่วประเทศ การวิจัยจากแหล่งข้อมูลเปิดพบรายงานข่าว⁠(เปิดในหน้าต่างใหม่)ในสื่อ⁠(เปิดในหน้าต่างใหม่)และสำนักข่าว⁠(เปิดในหน้าต่างใหม่)ของเอกวาดอร์⁠(เปิดในหน้าต่างใหม่)ที่คล้ายกับคำกล่าวอ้างนี้อย่างมากอีกครั้ง และยังพบคำชี้แจงโต้แย้งโดยละเอียด⁠(เปิดในหน้าต่างใหม่)จากรัฐมนตรีว่าการกระทรวงศึกษาธิการของเอกวาดอร์ด้วย

ผู้ปฏิบัติการใช้เทคนิคหลากหลายเพื่อทำให้เรื่องเท็จของตนดูมีหลักฐานรองรับ ตามรายงานภายใน พวกเขาเผยแพร่เรื่องปลอมสองเรื่องที่มุ่งเป้าไปยังเอกวาดอร์ในเดือนมีนาคม เรื่องหนึ่งใช้เสียงปลอมที่อ้างว่าเป็นของกงสุลยูเครนประจำเอกวาดอร์ โดยกล่าวหาว่าเขาพูดดูหมิ่นชาวเอกวาดอร์ การสืบค้นจากแหล่งข้อมูลเปิดของเราพบโพสต์บน TikTok ที่ตรงกับคำกล่าวอ้างนี้ทุกประการ แต่ดูเหมือนว่าจะมีผู้มีส่วนร่วมเพียงเล็กน้อย อีกเรื่องระบุถึงคลิปวิดีโอปลอมที่เผยแพร่บน X และ TikTok โดยใช้โลโก้ของช่องข่าวจริง และกล่าวหาว่ารัฐบาลโนโบอากำลังรับสมัครชายหนุ่มไปรบในยูเครน ผู้ตรวจสอบข้อเท็จจริง⁠(เปิดในหน้าต่างใหม่)ในเอกวาดอร์รายงานถึงแคมเปญที่ตรงกับคำบรรยายนี้ในช่วงต้นเดือนเมษายน

ภาพหน้าจอ TikTok ที่ปกปิดข้อมูลบางส่วน แสดงโพสต์วันที่ 8 เมษายน 2026 ซึ่งเผยแพร่เสียงปลอมที่แอบอ้างว่าเป็นเสียงกงสุลยูเครนประจำเอกวาดอร์

วิดีโอบน TikTok ที่โพสต์เมื่อวันที่ 8 เมษายน 2026 พร้อมเสียงปลอมที่ปฏิบัติการนี้อ้างว่าเป็นผลงานของตน และแอบอ้างว่าเป็นเสียงกงสุลยูเครน

รายงานภายในอีกฉบับระบุถึงเรื่องปลอมที่พวกเขาเผยแพร่ในโบลิเวียช่วงปลายเดือนพฤษภาคม ขณะที่การประท้วงต่อต้านรัฐบาลกำลังรุนแรงที่สุด ผู้ปฏิบัติการระบุชัดเจนว่าแคมเปญนี้มีเป้าหมายเพื่อซ้ำเติมวิกฤตจากการประท้วง แคมเปญนี้ใช้เสียงบันทึกปลอมของพนักงาน EPSAS ซึ่งเป็นรัฐวิสาหกิจด้านประปา โดยกล่าวว่ารัฐบาลจะตัดน้ำประปาในกรุงลาปาซ เมืองหลวงฝ่ายบริหาร และประกาศภาวะฉุกเฉิน การวิจัยจากแหล่งข้อมูลเปิดของเราพบบทความหักล้าง⁠(เปิดในหน้าต่างใหม่)คำกล่าวอ้างที่ตรงกัน และคำปฏิเสธอย่างเป็นทางการ⁠(เปิดในหน้าต่างใหม่)จาก EPSAS

รายงานภายในอื่นๆ มีเรื่องปลอมที่เราไม่สามารถหาหลักฐานยืนยันจากแหล่งข้อมูลเปิดได้ อาจเป็นเพราะถูกลบไปแล้วหรือไม่ได้แพร่กระจายออกไป ตัวอย่างเช่น ผู้ปฏิบัติการอ้างว่าในเดือนมกราคมได้เผยแพร่เรื่องกล่าวหาว่าอินฟลูเอนเซอร์และนางแบบชาวบราซิลรายหนึ่งถูกตัวแทนสถานทูตยูเครนค้ามนุษย์ไปยังยูเครน และถูกสังหารในกรุงเคียฟ ในเดือนมิถุนายน พวกเขาอ้างว่าเผยแพร่คลิปเสียงปลอมอีกชิ้นในโบลิเวีย คราวนี้แอบอ้างว่าเป็นเสียงพนักงานธนาคารกลางโบลิเวียที่เตือนว่าธนาคารกำลังจะจำกัดการถอนเงินสด พวกเขายังอ้างว่าเผยแพร่จดหมายปลอมจากหน่วยงานกำกับดูแลไฮโดรคาร์บอนของประเทศ ซึ่งเตือนว่าจะมีข้อจำกัดในการขายเชื้อเพลิงให้รถยนต์ส่วนบุคคล

ในรายงานอื่นๆ ผู้ปฏิบัติการขอให้โมเดลของเราช่วยค้นหาเหตุการณ์ในประเทศเป้าหมายที่พวกเขาสามารถอ้างเป็นผลงานของตนได้ แม้จะไม่ได้มีส่วนเกี่ยวข้องก็ตาม ตัวอย่างเช่น ในอาร์เจนตินา ผู้ปฏิบัติการอ้างว่ารัฐมนตรีว่าการกระทรวงการต่างประเทศของอาร์เจนตินาได้อ้างอิงปฏิบัติการของพวกเขาในการประชุมคณะกรรมการสหประชาชาติเรื่องหมู่เกาะฟอล์กแลนด์/มัลวินาส ผู้ปฏิบัติการอ้างว่าตนเป็นผู้เผยแพร่ข้อโต้แย้งที่ว่าหลักการกำหนดอนาคตตนเองใช้กับหมู่เกาะนี้ไม่ได้ และสหราชอาณาจักรประจำการกำลังทหารที่นั่นมากเกินความจำเป็น อันที่จริง ข้อโต้แย้งทั้งสองเป็นส่วนหนึ่งของจุดยืนอย่างเป็นทางการของอาร์เจนตินามาหลาย⁠(เปิดในหน้าต่างใหม่)ปี⁠(เปิดในหน้าต่างใหม่)แล้ว ในทำนองเดียวกัน เมื่อเดือนมิถุนายน สื่อบราซิลรายงาน⁠(เปิดในหน้าต่างใหม่)กรณีพลเมืองบราซิลที่เดินทางไปยูเครนเพื่อเข้าร่วมกองทัพ ถูกกองกำลังรัสเซียจับตัว และต่อมาแถลงทางโทรทัศน์โดยอ้างว่าถูกหลอกให้เข้าร่วมการสู้รบ ผู้ปฏิบัติการที่ใช้ ChatGPT พยายามอ้างว่ารายงานนี้นำสารจากปฏิบัติการของตนไปเผยแพร่ซ้ำ แต่ที่จริงแล้วรายงานอ้างอิงวิดีโอของเชลยรายนั้นเอง⁠(เปิดในหน้าต่างใหม่) สิ่งนี้บ่งชี้ว่าผู้ปฏิบัติการพยายามดำเนินปฏิบัติการสร้างอิทธิพลที่มุ่งเป้าไปยังนายจ้างของตนเอง ไม่ใช่กลุ่มเป้าหมายภายนอก

“แพลตฟอร์มวิจัย”

รายงานบางฉบับของผู้ปฏิบัติการกล่าวถึงองค์กรที่เรียกตัวเองว่า “แพลตฟอร์มวิจัย” ชื่อ Social Research Center (ภาษารัสเซียคือ Центр социологических исследований) เว็บไซต์ของ SRC ระบุว่ามุ่งศึกษาชาวอินเดียพลัดถิ่นในลาตินอเมริกา และความสัมพันธ์ระหว่างอินเดียกับประเทศต่างๆ ในภูมิภาค

รายงานภายในบ่งชี้ว่าผู้ปฏิบัติการควบคุมองค์กรคลังสมองนี้ ไม่ได้เพียงทำงานร่วมกัน ตัวอย่างเช่น พวกเขากล่าวถึงการตัดสินใจจ้างและเลิกจ้าง อัตราค่าจ้าง แผนกำลังคน และโครงการวิจัยที่กำลังดำเนินอยู่ ที่สำคัญ รายงานยังระบุว่าผู้ปฏิบัติการสร้างตัวตนปลอมชื่อ “มีอา คลาร์ก” เพื่อดูแลกิจกรรมบนโซเชียลมีเดียของปฏิบัติการ และติดต่อกับเจ้าหน้าที่ในพื้นที่ลาตินอเมริกา หลักฐานที่มีบ่งชี้ว่าพนักงานในพื้นที่เหล่านี้ไม่รู้เลยว่าตนกำลังทำงานให้ปฏิบัติการของรัสเซีย และทำงานวิจัยด้วยความสุจริตใจ การใช้คนกลางโดยที่เจ้าตัวไม่รู้เช่นนี้คล้ายอย่างมากกับปฏิบัติการรัสเซียก่อนหน้านี้ชื่อ “พีซดาตา” ซึ่งเชื่อมโยงกับเครือข่ายของพริโกชินเช่นกัน และถูก Meta เปิดโปง⁠(เปิดในหน้าต่างใหม่)ในปี 2020

เมื่อพิจารณาจากรายงานของผู้ปฏิบัติการรัสเซีย เจ้าหน้าที่ของพวกเขาในลาตินอเมริกาสัมภาษณ์ผู้เชี่ยวชาญและนักวิเคราะห์ทั่วภูมิภาค แล้วร่างบทความวิจัยจากข้อมูลที่ได้ หัวข้อมีตั้งแต่การวิเคราะห์ภาพรวมความคิดเห็นของประชาชนต่อกลุ่ม BRICS ไปจนถึงการเปรียบเทียบเศรษฐกิจบราซิลอย่างละเอียดในยุคประธานาธิบดีฌาอีร์ โบลโซนารู และลูอิส อินาซิโอ ลูลา ดา ซิลวา บางครั้งผู้ปฏิบัติการรัสเซียร่างรายงานความคืบหน้าของโครงการวิจัยก่อนที่งานจะเผยแพร่ ซึ่งบ่งชี้ว่ามีส่วนร่วมอย่างใกล้ชิดในกระบวนการจัดทำ เราพบบทความบนเว็บไซต์ SRC มากกว่า 60 ชิ้นอย่างมาก โดยส่วนใหญ่ดูเหมือนเป็นงานเขียนต้นฉบับ จุดนี้ทำให้ดาร์ก คลาร์กแตกต่างจากปฏิบัติการที่มีต้นทางในรัสเซียซึ่งเราเปิดโปงเมื่อไม่นานมานี้ ปฏิบัติการนั้นใช้องค์กรคลังสมองเป็นฉากบังหน้าเช่นกัน แต่คัดลอกเนื้อหาส่วนใหญ่มาจากผู้อื่น สิ่งนี้บ่งชี้ถึงความตั้งใจสร้างองค์กรบังหน้าที่อยู่ได้นานกว่า และมีเครือข่ายผู้ติดต่อทั่วลาตินอเมริกา

ผู้ปฏิบัติการรัสเซียอ้างว่าได้พยายามสร้างเครือข่ายบัญชีและช่องทางบนโซเชียลมีเดียเพื่อประชาสัมพันธ์งานของ SRC ตามรายงานของพวกเขา กิจกรรมบนโซเชียลมีเดียนี้ประสบปัญหาเมื่อผู้ปฏิบัติการในส่วนต่างๆ ของโลกพยายามเข้าถึงบัญชีเดียวกัน จนบัญชีถูกจำกัดการใช้งาน ร่องรอยนี้เห็นได้จากข้อมูลเปิด เช่น ข้อมูลความโปร่งใสของบัญชีหลัก SRC บน X แสดงที่ตั้งในเยอรมนี (อาจเป็นผลจากการใช้ VPN) แต่เชื่อมต่อผ่าน App Store ของสหพันธรัฐรัสเซีย ขณะที่ข้อมูลความโปร่งใสของบัญชี Instagram บัญชีหนึ่งแสดงที่ตั้งของผู้ดูแลในเวเนซุเอลา บัญชี Facebook ทั้งสามบัญชีที่ใช้แบรนด์ SRC ซึ่งเราพบ ไม่มีบัญชีใดมีผู้ติดตามมากพอให้ระบบแสดงที่ตั้งของผู้ดูแล

ภาพหน้าจอข้อมูลความโปร่งใสของบัญชี Social Research Center: บัญชี X เชื่อมต่อผ่าน App Store ของสหพันธรัฐรัสเซีย ส่วนบัญชี Instagram ระบุว่าอยู่ในเวเนซุเอลา

ซ้าย: บัญชี X ที่เชื่อมโยงกับ Social Research Center สังเกตข้อมูลความโปร่งใสที่ระบุว่าบัญชีเชื่อมต่อผ่าน App Store ของสหพันธรัฐรัสเซีย ขวา: บัญชี Instagram ของ SRC สังเกตที่ตั้งในเวเนซุเอลา

ผู้ปฏิบัติการรายงานปัญหาโดยเฉพาะบน LinkedIn โดยระบุชัดว่าตนสร้างบัญชีปลอมขึ้นมาเป็นตัวแทน SRC แต่ประสบความยากลำบากในการสร้างเครือข่ายให้บัญชีนั้น ตามรายงานของพวกเขา วิธีแก้คือสร้างบัญชีปลอมเพิ่มเพื่อติดตามบัญชีแรก และทำให้ดูน่าเชื่อถือขึ้น ณ วันที่ 17 สิงหาคม บัญชี LinkedIn ที่ใช้แบรนด์ Social Research Center เดียวกันมีผู้ติดตาม 961 ราย และอ้างว่ามีเจ้าหน้าที่ 200–500 คน แต่แสดงรายชื่อพนักงานเพียงสองคน

การสร้างเนื้อหาปลอม

บางครั้ง นอกจากใช้ AI อัปเดตรายงานแล้ว ผู้ปฏิบัติการยังขอให้โมเดลของเราช่วยออกแบบและสร้างข้อความสำหรับใช้ในปฏิบัติการ เช่น ขอความช่วยเหลือให้เนื้อหาปลอมใช้สำเนียง คำศัพท์ และสำนวนของหน่วยงานได้ถูกต้องตามแต่ละประเทศ งานนี้มีสัดส่วนค่อนข้างน้อยเมื่อเทียบกับงานทั้งหมด อาจเพราะปฏิบัติการดูเหมือนมีผู้พูดภาษาสเปนเป็นภาษาแม่จากลาตินอเมริกาอย่างน้อยหนึ่งคน จึงต้องพึ่ง AI ด้านภาษาน้อยลง

ตัวอย่างเช่น ครั้งหนึ่งผู้ปฏิบัติการที่ใช้ภาษารัสเซียรายหนึ่งขอให้โมเดลช่วยร่างจดหมายเป็นภาษารัสเซีย เพื่อพาดพิงว่ากงสุลกิตติมศักดิ์ยูเครนประจำปานามามีส่วนเกี่ยวข้องกับการทุจริต จากนั้นผู้ปฏิบัติการที่ใช้ภาษาสเปนขอให้โมเดลแปลจดหมายเป็นภาษาสเปน และสร้างบทสำหรับเสียงบรรยายประกอบ ภาพถ่ายที่มีข้อความตรงกับจดหมาย พร้อมเสียงบรรยายที่ตรงกับบทของผู้ปฏิบัติการ ถูกโพสต์บน TikTok โดยบัญชีที่อ้างว่าเป็นสำนักข่าว แต่ใช้โลโก้ของ TVN Noticias⁠(เปิดในหน้าต่างใหม่) ของปานามา ช่อง TikTok นี้มีผู้ติดตามเพียงรายเดียว และหยุดโพสต์หลังเผยแพร่เรื่องปลอมนี้

ภาพหน้าจอ TikTok ที่ปกปิดข้อมูลบางส่วน แสดงจดหมายปลอมเกี่ยวกับการติดต่อของยูเครนกับภาคการเงินของปานามา พร้อมเสียงบรรยายที่ปฏิบัติการนี้สร้างขึ้น

โพสต์ TikTok แสดงจดหมายที่ปฏิบัติการนี้สร้างข้อความขึ้น พร้อมบทเสียงบรรยายที่สร้างโดยปฏิบัติการเดียวกัน

อีกครั้งหนึ่ง ผู้ปฏิบัติการที่ใช้ภาษาสเปนในรัสเซียป้อนบทภาษารัสเซียให้โมเดล โดยอ้างว่าโนโบอาดูหมิ่นคนยากจนในเอกวาดอร์ และขอให้โมเดลแปลเป็นภาษาสเปนแบบเอกวาดอร์ ในครั้งที่สามเมื่อเดือนมีนาคม ผู้ใช้รายเดิมขอให้โมเดลพิสูจน์อักษรร่างสัญญาภาษาสเปนระหว่างบริษัทชื่อ “อินเตอร์เนชันแนล ซีเคียวริตี โซลูชันส์ FZE” กับบุคคลในเอกวาดอร์ โดยอ้างว่าเป็นสัญญาให้บริการด้านโครงสร้างพื้นฐานในยูเครน คำถามของผู้ใช้เน้นการปรับปรุงภาษาและรูปแบบเอกสาร รวมถึงถามว่าควรทำคำใดเป็นตัวหนา

พรอมป์ต์เกี่ยวกับสัญญาของผู้ใช้สิ้นสุดลงเมื่อได้ถ้อยคำฉบับสมบูรณ์ อย่างไรก็ตาม การวิจัยจากแหล่งข้อมูลเปิดพบว่าภาพ “สัญญา” ดังกล่าวถูกเผยแพร่บนโซเชียลมีเดีย⁠(เปิดในหน้าต่างใหม่)ในเวลาต่อมา ภาพนี้ถูกใช้สนับสนุนข้อกล่าวหาว่ารัฐบาลโนโบอาร่วมมือกับบริษัทบังหน้าเพื่อหลอกชาวเอกวาดอร์ให้สมัครเข้ากองทัพยูเครน เรื่องปลอมแพร่กระจายกว้างพอให้เกิดการตรวจสอบข้อเท็จจริง⁠(เปิดในหน้าต่างใหม่)ในช่วงต้นเดือนเมษายน โดยผู้ตรวจสอบสรุปว่าบริษัทนี้ “ไม่ปรากฏในทะเบียนของสำนักงานกำกับดูแลบริษัท หลักทรัพย์ และประกันภัยของเอกวาดอร์”

ผลกระทบ

ผลกระทบของปฏิบัติการนี้ต้องได้รับการประเมินอย่างรอบคอบเป็นพิเศษ ดังที่กล่าวข้างต้น แนวทางหลักอย่างหนึ่งของผู้ปฏิบัติการคืออ้างกิจกรรมที่ไม่เกี่ยวข้องกับปฏิบัติการของตนเลยว่าเป็นผลงานตัวเอง จึงไม่อาจเชื่อคำกล่าวอ้างเรื่องผลกระทบในรายงานภายในของพวกเขาได้โดยไม่ตรวจสอบ เช่นเดียวกัน เรื่องปลอมบางเรื่องที่พวกเขาอ้างว่าสอดแทรกเข้าไปไม่ปรากฏในการวิจัยจากแหล่งข้อมูลเปิด อาจเพราะเผยแพร่ผ่านช่องทางที่ไม่เป็นสาธารณะ ถูกลบไปแล้ว หรือไม่ได้โพสต์จริง

อย่างไรก็ตาม หลักฐานจากแหล่งข้อมูลเปิดช่วยให้เรายืนยันคำกล่าวอ้างบางส่วนของพวกเขาได้ เรื่องปลอมบางเรื่องที่ปฏิบัติการอ้างว่าเผยแพร่ ต่อมามีผู้ตรวจสอบข้อเท็จจริงรายงานถึงและรัฐบาลออกมาหักล้าง บ่งชี้ว่าเรื่องเหล่านั้นแพร่กระจายกว้างพอที่จะต้องมีการตอบโต้ ในกรณีอื่น เราพบเนื้อหาออนไลน์ที่ใกล้เคียงอย่างมากกับเนื้อหาที่ปฏิบัติการนี้สร้างขึ้น กรณีที่เด่นที่สุดคือคำกล่าวอ้างว่าปฏิบัติการหลอกโรงเรียนในเปรูให้จัดกิจกรรมที่นำเสนอเรื่องบันเดราได้สำเร็จ ซึ่งต่อมามีรายงานข่าวทั้งในลาตินอเมริกาและยุโรป และดูเหมือนนำไปสู่การแสดงความเห็นจากสมาชิกรัฐสภายุโรปชาวโปแลนด์อย่างน้อยหนึ่งราย

เมื่อใช้เกณฑ์ Breakout Scale⁠(เปิดในหน้าต่างใหม่) สำหรับ IO ซึ่งจัดระดับตั้งแต่ 1 (ต่ำสุด) ถึง 6 (สูงสุด) เราประเมินว่าปฏิบัติการนี้อยู่ในระดับ 5 โดยมีหลักฐานบ่งชี้ว่านำไปสู่การแสดงความเห็นต่อสาธารณะจากนักการเมืองในหลายประเทศ นี่เป็นปฏิบัติการระดับ 5 ครั้งแรกที่เราสกัดกั้นนับตั้งแต่เริ่มเผยแพร่รายงาน

อิหร่าน: ปฏิบัติการ “ชื่อผู้เขียนลวง”

ปฏิบัติการจากอิหร่านที่แทรกบทความขนาดยาวในนามผู้เขียนปลอมลงในสำนักข่าวออนไลน์

ผู้ดำเนินการ

เราแบนกลุ่มบัญชี ChatGPT ที่มีต้นทางในอิหร่าน พวกเขาป้อนพรอมป์ต์เป็นภาษาเปอร์เซีย และสร้างเนื้อหาเป็นภาษาเปอร์เซียและอังกฤษ ผู้ดำเนินการปกปิดที่ตั้งของตนโดยใช้ VPN เข้าถึง ChatGPT

ปฏิบัติการนี้ใช้โมเดลของเราปรับปรุงบทความขนาดยาวและข้อความเสนอบทความต่อบรรณาธิการ สร้างความคิดเห็นบนโซเชียลมีเดีย และปรับปรุงรายงานภายใน ผู้ปฏิบัติการใช้ชื่อผู้เขียนเจ็ดชื่อเสนอบทความ เราจึงตั้งชื่อแคมเปญนี้ว่า “ชื่อผู้เขียนลวง” บทความขนาดยาวเน้นเรื่องความขัดแย้งสหรัฐฯ–อิหร่าน ความคิดเห็นส่วนใหญ่เกี่ยวกับความขัดแย้งนี้เช่นกัน ส่วนส่วนน้อยเกี่ยวกับการเมืองสหรัฐฯ ซึ่งโดยทั่วไปก็อยู่ในบริบทที่กว้างขึ้นของความขัดแย้ง

ผลกระทบที่สังเกตได้จากงานหลักแต่ละด้านของพวกเขาแตกต่างกันอย่างมาก เราพบบทความเกือบ 100 ชิ้นที่เผยแพร่หรือนำไปเผยแพร่ต่อในนามผู้เขียนของปฏิบัติการนี้ ผ่านสื่อออนไลน์ราวสิบกว่าแห่งทั่วโลก สื่อเหล่านี้มีขนาดเล็กถึงกลาง โดยทั่วไปเน้นเรื่องระหว่างประเทศ ภูมิรัฐศาสตร์ และเหตุการณ์ในตะวันออกกลาง ในทางกลับกัน ดูเหมือนว่าไม่มีความคิดเห็นบนโซเชียลมีเดียรายการใดสร้างการมีส่วนร่วมได้มาก ไม่ว่าจะเป็นยอดถูกใจ แชร์ หรือการตอบกลับเพิ่มเติม อันที่จริง รายงานภายในของผู้ปฏิบัติการใช้วิธีคำนวณที่ชวนให้เข้าใจผิดเพื่อวัดผลกระทบบนโซเชียลมีเดีย อาจเป็นความพยายามทำให้ผลงานของตนดูมีประสิทธิผลเกินจริง

กิจกรรมโดยรวมดูสอดคล้องกับผู้ดำเนินการเชิงพาณิชย์ที่รับจ้างทำแคมเปญสร้างอิทธิพล แต่เราไม่สามารถระบุได้ว่าเป็นผู้ดำเนินการรายใด เราได้แบ่งปันข้อมูลกรณีนี้กับหน่วยงานที่เกี่ยวข้องแล้ว

การแทรกบทความลงในสื่อ

กิจกรรมที่เข้าถึงผู้คนได้กว้างที่สุดของปฏิบัติการนี้คือการขอให้ ChatGPT ตรวจทานและปรับปรุงบทความขนาดยาวภาษาอังกฤษเกี่ยวกับภูมิรัฐศาสตร์ของความขัดแย้งสหรัฐฯ–อิหร่าน พรอมป์ต์ที่ใช้โดยทั่วไปขอให้โมเดลประเมินร่างภาษาอังกฤษเทียบกับเกณฑ์รับบทความของสื่อออนไลน์แห่งใดแห่งหนึ่ง และเสนอการแก้ไขเพื่อให้ผ่านเกณฑ์ เมื่อผู้ปฏิบัติการอนุมัติการแก้ไขแล้ว พวกเขาขอให้โมเดลสร้างอีเมลสำหรับเสนอบทความให้บรรณาธิการของสื่อออนไลน์นั้น

ข้อความเสนอบทความเหล่านี้ร่างขึ้นโดยใช้ชื่อผู้เขียนปลอมเจ็ดชื่อ ได้แก่ Ervin B. Hoskins, Noah Lamington, Sophia Gonzalez, Michael Harrison, Ericka Feusier, Jenny Williams และ Alice Johnson ตามประวัติที่เผยแพร่ออนไลน์ควบคู่กับบทความบางชิ้น ตัวตนปลอมแต่ละรายอ้างว่าเป็นนักข่าวชาวตะวันตก (ส่วนใหญ่เป็นชาวอเมริกัน แม้ประวัติของ Noah Lamington จะอ้างว่าอยู่ในนิวซีแลนด์) โดยมักเน้นเรื่องการเมืองระหว่างประเทศ ตะวันออกกลาง สิทธิมนุษยชน หรือความขัดแย้ง สำหรับตัวตนปลอมรายหนึ่งชื่อ “ไมเคิล แฮร์ริสัน” ผู้ปฏิบัติการขอให้โมเดลเขียนประวัติให้ด้วย (ที่น่าสังเกตคือ ในเดือนมีนาคม Meta สกัดกั้น⁠(เปิดในหน้าต่างใหม่)ปฏิบัติการสร้างอิทธิพลของอิหร่านที่ใช้ตัวตนนักข่าวปลอมชื่อ “ไมเคิล แฮร์ริสัน” เช่นกัน)

ตัวตนปลอมบางรายมีบัญชีบนโซเชียลมีเดียหลายแพลตฟอร์มช่วยเสริมความน่าเชื่อถือ ตัวอย่างเช่น ตัวตนปลอม Michael Harrison มีบัญชีบน Medium, X และ Facebook ช่วยยืนยันตัวตน ตัวตนปลอม Ervin B. Hoskins มีบัญชีบน X, Facebook, Instagram และ Threads ประวัติของตัวตนปลอมนี้อ้างว่าเป็น “นักเขียนอิสระชาวอเมริกัน” แต่ข้อมูลความโปร่งใสบนโซเชียลมีเดียระบุว่าบัญชีอยู่ในอิหร่าน

ประวัติบน Instagram ของตัวตนปลอม Ervin Hoskins และแผงข้อมูลความโปร่งใสของบัญชี X ระบุว่าใช้แอป Android ของเอเชียตะวันตก ส่วน Instagram ระบุที่ตั้งบัญชีในอิหร่าน

บน: ประวัติบน Instagram ของตัวตนปลอม Ervin Hoskins ล่างซ้าย: ข้อมูลความโปร่งใสของบัญชี X แสดงการใช้แอป Android ของเอเชียตะวันตก ล่างขวา: ข้อมูลความโปร่งใสของบัญชี Instagram แสดงที่ตั้งในอิหร่าน Meta แบนบัญชี Instagram นี้ในเดือนสิงหาคม

ด้วยเทคนิคการสืบค้นจากแหล่งข้อมูลเปิด เราพบบทความเกือบ 100 ชิ้นที่เผยแพร่ในนามผู้เขียนรายใดรายหนึ่งของผู้ปฏิบัติการ ผ่านสื่อมากกว่าสิบแห่ง สื่อเหล่านี้โดยทั่วไปเน้นเรื่องระหว่างประเทศ ภูมิรัฐศาสตร์ และเหตุการณ์ในตะวันออกกลาง บางครั้งนำเสนอจากมุมมองต่อต้านสงครามหรือแนวก้าวหน้า บทความแรกสุดที่เราพบเผยแพร่ในเดือนกรกฎาคม 2025 และล่าสุดในเดือนตุลาคม 2026 ความถี่ในการเผยแพร่เพิ่มขึ้นอย่างมากหลังความขัดแย้งสหรัฐฯ–อิหร่านปะทุขึ้น

ลำดับเวลาของบทความที่เผยแพร่ในนามตัวตนปลอมทั้งเจ็ดของปฏิบัติการชื่อผู้เขียนลวง แบ่งตามหัวข้อและผู้เขียน เนื้อหาเกี่ยวกับสหรัฐฯ–อิหร่านเป็นหมวดที่ใหญ่ที่สุด และเริ่มเผยแพร่อย่างหนาแน่นตั้งแต่เดือนมีนาคม 2026

ลำดับเวลาของบทความ แบ่งตามผู้เขียนและประเด็น ตั้งแต่กรกฎาคม 2025 ถึงกันยายน 2026 สังเกตความหนาแน่นของบทความเกี่ยวกับความสัมพันธ์สหรัฐฯ–อิหร่านตั้งแต่มีนาคม 2026 เป็นต้นมา

พาดหัวบทความห้าชิ้นที่เผยแพร่ในนามตัวตนปลอมซึ่งเชื่อมโยงกับปฏิบัติการ ได้แก่ Alice Johnson, Noah Lamington, Michael Harrison, Sophia Gonzalez และ Ervin Hoskins

ตัวอย่างพาดหัวบทความที่เผยแพร่ในนามผู้เขียนที่เชื่อมโยงกับปฏิบัติการนี้ ระหว่างเดือนกุมภาพันธ์ถึงกรกฎาคม 2026 ในสื่อออนไลน์หลายแห่ง

อย่างน้อยบทความบางส่วนได้รับการโปรโมตต่อผ่านบัญชีโซเชียลมีเดียของสื่อเหล่านั้น ทำให้ผู้ปฏิบัติการอิหร่านมีช่องทางที่อาจเข้าถึงกลุ่มผู้อ่านซึ่งปกติพวกเขาเข้าถึงไม่ได้

การโพสต์ความคิดเห็นจำนวนมาก

นอกเหนือจากบทความ ผู้ก่อภัยคุกคามขอให้ ChatGPT สร้างความคิดเห็นเป็นชุดๆ เกี่ยวกับภูมิรัฐศาสตร์หรือการเมืองเป็นภาษาอังกฤษหรือเปอร์เซีย วิธีที่พวกเขาใช้เป็นประจำคือป้อนข้อความหรือภาพหน้าจอของโพสต์บนโซเชียลมีเดีย แล้วขอให้โมเดลสร้างชุดคำตอบกลับที่สอดคล้องกับแนวทางโดยรวมของตน จากนั้นนำไปโพสต์ออนไลน์ โดยมักโพสต์ห่างกันเพียงไม่กี่นาที รายงานภายในของผู้ปฏิบัติการกล่าวถึงทั้งการโพสต์โดยมนุษย์และระบบอัตโนมัติ เราไม่มีหลักฐานที่บ่งชี้ว่าการโพสต์อัตโนมัตินี้ใช้โมเดลของเราช่วยดำเนินการ

ภาพหน้าจอคำตอบกลับภาษาอังกฤษและเปอร์เซียที่ปฏิบัติการนี้สร้างและโพสต์ในเดือนกรกฎาคม วางเทียบกันโดยปกปิดตัวตนของบัญชี

ทวีตภาษาอังกฤษทางซ้ายและภาษาเปอร์เซียทางขวา สร้างโดยปฏิบัติการนี้และโพสต์ในเดือนกรกฎาคม ความคิดเห็นภาษาอังกฤษตอบกลับทวีตภาษาอังกฤษที่เตือนว่าสหรัฐฯ กำลังเตรียม “การโจมตีขนาดใหญ่” ต่ออิหร่าน ความคิดเห็นทั้งหมดในภาพนี้โพสต์ภายในช่วง 10 นาที ส่วนความคิดเห็นภาษาเปอร์เซียตอบกลับทวีตภาษาเปอร์เซียเกี่ยวกับการโจมตีอิหร่านของสหรัฐฯ และโพสต์ภายในช่วง 13 นาที

กิจกรรมสร้างความคิดเห็นเป็นชุดบางส่วนเป็นการสร้างคำตอบกลับโพสต์บนโซเชียลมีเดียเกี่ยวกับบทความข่าวของปฏิบัติการเอง ในกรณีนี้ ผู้ปฏิบัติการป้อนภาพหน้าจอของโพสต์ที่โปรโมตบทความของตน แล้วสร้างความคิดเห็นชื่นชมหรือสนับสนุนบทความเหล่านั้น ซึ่งน่าจะเพื่อให้บทความดูได้รับความนิยมมากขึ้น

ภาพหน้าจอ Facebook ที่ปกปิดข้อมูลบางส่วน แสดงเพจข่าวท้องถิ่นแชร์บทความที่ปฏิบัติการนี้สร้างขึ้นในนาม Sophia Gonzalez ตามด้วยความคิดเห็นสี่รายการที่ปฏิบัติการนี้สร้างขึ้น

โพสต์ Facebook จากเพจข่าวท้องถิ่นของสหรัฐฯ ที่แชร์บทความซึ่งปฏิบัติการนี้สร้างขึ้น พร้อมความคิดเห็นใต้โพสต์ที่สร้างโดยปฏิบัติการเดียวกัน

ชุดความคิดเห็นส่วนใหญ่เน้นภาพรวมของความขัดแย้งระหว่างอิหร่าน สหรัฐฯ และอิสราเอล ผู้ใช้ขอความคิดเห็นเกี่ยวกับเรื่องต่างๆ เช่น การโจมตีด้วยขีปนาวุธ การหยุดยิง และกลยุทธ์ทางการทูต โดยกำหนดให้เนื้อหานำเสนอสหรัฐฯ เป็นผู้รุกราน อิสราเอลเป็นพันธมิตรที่สหรัฐฯ ไว้ใจไม่ได้ และอิหร่านเป็นเหยื่อที่ไม่ยอมจำนนและยืนหยัดได้ ผู้ปฏิบัติการสร้างคำตอบกลับจำนวนมากเป็นพิเศษให้โพสต์ของ Iran International เครือข่ายโทรทัศน์ดาวเทียมในสหราชอาณาจักรที่วิจารณ์ระบอบการปกครองอิหร่าน โดยสร้างคำตอบกลับภาษาเปอร์เซียที่มีท่าทีเป็นปรปักษ์มากกว่า 24 ชุด มีเพียงส่วนน้อยที่สร้างคำตอบกลับโพสต์บนโซเชียลมีเดียเกี่ยวกับประเด็นการเมืองสหรัฐฯ ซึ่งโดยทั่วไปก็ยังอยู่ในบริบทที่กว้างขึ้นของความขัดแย้ง

ความคิดเห็นบน Instagram สองรายการที่ปกปิดข้อมูลบางส่วน สร้างโดยปฏิบัติการนี้เพื่อตอบกลับโพสต์เกี่ยวกับการเมืองสหรัฐฯ

ความคิดเห็นบน Instagram ที่ปฏิบัติการนี้สร้างขึ้นเพื่อตอบกลับโพสต์เกี่ยวกับการเมืองสหรัฐฯ

เราพบคำตอบกลับเหล่านี้เพียงเล็กน้อยที่ถูกโพสต์ออนไลน์ ส่วนอีกจำนวนมากไม่ปรากฏในการค้นหาจากแหล่งข้อมูลเปิด อาจเพราะไม่ได้โพสต์ หรือโพสต์โดยบัญชีที่ถูกลบไปแล้ว (ตัวอย่างเช่น ตัวตนนักข่าวปลอมสามราย ได้แก่ Ericka Feusier, Alice Johnson และ Jenny Williams ระบุชื่อบัญชี X ในประวัติที่เผยแพร่ โดยทุกบัญชีถูกระงับแล้ว ณ เดือนสิงหาคม 2026) บางบัญชีที่โพสต์ความคิดเห็นออนไลน์ใช้ชื่อที่ดูเป็นชาวตะวันตก แต่ข้อมูลแสดงที่ตั้งบัญชีในอิหร่าน

แผงข้อมูลความโปร่งใสของบัญชี Instagram ที่ปกปิดข้อมูลบางส่วน แสดงว่าทั้งสองบัญชีที่โพสต์ความคิดเห็นข้างต้นมีที่ตั้งในอิหร่าน

ข้อมูลความโปร่งใสของบัญชี Instagram ที่โพสต์ความคิดเห็นในภาพข้างต้น แสดงว่าบัญชีเหล่านี้อยู่ในอิหร่าน

ในกรณีที่เราพบคำตอบกลับเหล่านี้ถูกโพสต์ โดยทั่วไปมีสัดส่วนเพียงเล็กน้อยของความคิดเห็นทั้งหมดใต้โพสต์นั้น บ่งชี้ว่าผู้ปฏิบัติการไม่ได้เป็นเสียงหลักเมื่อเทียบกับคำตอบจากผู้ใช้จริง คำตอบกลับเหล่านี้ยังดูไม่ได้รับการมีส่วนร่วมมากนัก อันที่จริง ยอดถูกใจจำนวนมากมาจากบัญชีที่เชื่อมโยงกับปฏิบัติการเอง เราได้แบ่งปันข้อมูลกรณีนี้กับพันธมิตรในอุตสาหกรรม ซึ่งอยู่ในจุดที่เหมาะสมที่สุดที่จะประเมินการมีส่วนร่วมได้อย่างรอบด้าน

การรายงานภายใน

ความพยายามทำให้กิจกรรมของตนดูได้รับความนิยมมากขึ้นไม่ได้จำกัดอยู่แค่โพสต์สาธารณะ นอกจากสร้างเนื้อหาแล้ว บางครั้งผู้ปฏิบัติการขอให้ ChatGPT ปรับปรุงสิ่งที่ดูเหมือนรายงานภายในเกี่ยวกับแคมเปญบนโซเชียลมีเดียของตน โดยทั่วไป พวกเขาป้อนชุดสถิติให้โมเดล แล้วขอให้เรียบเรียงเป็นงานนำเสนอที่ดูเป็นมืออาชีพ

นี่ไม่ใช่ปฏิบัติการแรกที่เราสกัดกั้นซึ่งใช้ AI เขียนรายงานประเมินผลงาน⁠(เปิดในหน้าต่างใหม่)ของตนเอง⁠(เปิดในหน้าต่างใหม่) สิ่งที่สะดุดตาที่สุดในความพยายามประเมินผลงานตัวเองของผู้ปฏิบัติการอิหร่าน คือวิธีที่พวกเขาใช้ ตัวชี้วัด “ผลกระทบ” หลักที่พวกเขาใช้คือยอดเข้าชมโพสต์ที่ตนไปตอบกลับ (ไม่ใช่ยอดเข้าชมคำตอบกลับจริงๆ) โดยนับก่อนโพสต์คำตอบกลับและอีกครั้งหลังจากนั้นในช่วงเวลาที่ไม่ได้ระบุ การคำนวณนี้ไม่ได้แยกยอดเข้าชมที่อาจมาจากปัจจัยอื่น เช่น ความนิยมของโพสต์ต้นฉบับหรือความคิดเห็นอื่นๆ จึงทำให้ตัวเลขผลกระทบของปฏิบัติการสูงเกินจริงอย่างมาก บ่งชี้ว่าผู้ปฏิบัติการอาจไม่รู้วิธีคำนวณที่เหมาะสมกว่า หรือเลือกที่จะไม่ใช้

ผลกระทบ

อันที่จริง จากหลักฐานที่รวบรวมได้ด้วยการสังเกตแหล่งข้อมูลเปิด งานหลักสองด้านของปฏิบัติการนี้ดูน่าจะมีผลกระทบต่างกันอย่างมาก

คำตอบกลับบนโซเชียลมีเดียที่เราพบโดยทั่วไปมียอดถูกใจ ยอดเข้าชม และความคิดเห็นต่ำ (อยู่ในหลักหน่วยหรือหลักสิบ) ดังที่กล่าวข้างต้น คำตอบกลับเหล่านี้มักเป็นเพียงส่วนน้อยของความคิดเห็นทั้งหมดใต้โพสต์นั้น เมื่อใช้เกณฑ์ Breakout Scale⁠(เปิดในหน้าต่างใหม่) สำหรับ IO ซึ่งจัดระดับตั้งแต่ 1 (ต่ำสุด) ถึง 6 (สูงสุด) เราประเมินว่างานส่วนนี้อยู่ในระดับ 2 มีความคิดเห็นบนหลายแพลตฟอร์ม แต่แทบไม่มีสัญญาณว่าแพร่กระจายออกไปในวงกว้างหรือครองพื้นที่คำตอบกลับได้

ในทางกลับกัน ตัวตนนักข่าวปลอมประสบความสำเร็จในการนำบทความไปเผยแพร่ผ่านสื่อหลายแห่ง ซึ่งบางแห่งมีผู้ติดตามมาก เช่น สื่อออนไลน์แห่งหนึ่งที่เผยแพร่บทความของปฏิบัติการนี้มีผู้ติดตาม Facebook เกือบ 2 ล้านราย บน X เกือบ 355,000 ราย และบน Instagram มากกว่า 544,000 ราย ณ เดือนสิงหาคม 2026 เราประเมินว่างานส่วนนี้อยู่ในระดับ 4 เนื่องจากเข้าถึงสื่อหลายแห่งได้อย่างต่อเนื่อง