ปฏิบัติการ “Spamouflage”: กิจกรรมชักจูงที่เชื่อมโยงกับจีน

กรณีศึกษานี้เผยแพร่ครั้งแรกในรายงานประจำเดือนพฤษภาคม 2024⁠(เปิดในหน้าต่างใหม่) ของ OpenAI

เราแบนบัญชีจำนวนหนึ่งที่เกี่ยวข้องกับปฏิบัติการจากจีนซึ่งรู้จักกันในชื่อ “Spamouflage”⁠(เปิดในหน้าต่างใหม่) Meta⁠(เปิดในหน้าต่างใหม่) ระบุว่าปฏิบัติการนี้เชื่อมโยงกับ “บุคคลที่เกี่ยวข้องกับหน่วยงานบังคับใช้กฎหมายของจีน” FBI⁠(เปิดในหน้าต่างใหม่) ระบุว่ากิจกรรมบางส่วนของปฏิบัติการนี้บนโซเชียลมีเดียเชื่อมโยงกับหน่วยงานหนึ่งภายในกระทรวงความมั่นคงสาธารณะของจีน

เครือข่ายนี้มุ่งเป้าไปยังผู้ชมทั่วโลก โดยเฉพาะชาวจีนพลัดถิ่นและผู้วิพากษ์วิจารณ์รัฐบาลจีน เครือข่ายนี้สร้างเนื้อหาเป็นภาษาจีนเป็นหลัก และสร้างเป็นภาษาอังกฤษ ญี่ปุ่น และเกาหลีในปริมาณที่น้อยกว่า

เครือข่ายใช้โมเดลของเราเพื่อแก้ไขข้อบกพร่องของโค้ด ขอคำแนะนำเกี่ยวกับการวิเคราะห์โซเชียลมีเดีย ค้นคว้าข่าวและเหตุการณ์ปัจจุบัน ตลอดจนสร้างเนื้อหาเพื่อนำไปเผยแพร่บนเว็บบอร์ด บล็อก และโซเชียลมีเดีย

ตัวอย่างเช่น ในปี 2023 เครือข่ายใช้โมเดลของเราเพื่อแก้ไขข้อบกพร่องของโค้ดที่ใช้ตั้งค่าธีม WordPress สำหรับเว็บไซต์ revealscum.com เว็บไซต์นี้เผยแพร่คำวิจารณ์ภาษาจีนและข้อมูลส่วนบุคคลของชาวจีนพลัดถิ่นที่วิพากษ์วิจารณ์รัฐบาลจีน เว็บไซต์เรียกผู้วิจารณ์เหล่านี้ว่า “คนทรยศ” ตัวเนื้อหาไม่ได้สร้างขึ้นโดยใช้โมเดลของเรา

แคมเปญนี้ยังใช้โมเดลของเราเพื่อสร้างเนื้อหา แล้วนำไปโพสต์บนแพลตฟอร์มโซเชียลมีเดียและเว็บบอร์ด ตัวอย่างเช่น ในช่วงปลายปี 2023 ปฏิบัติการนี้สร้างบทความที่กล่าวหาว่าญี่ปุ่นทำลายสิ่งแวดล้อมทางทะเลด้วยการปล่อยน้ำเสียจากโรงไฟฟ้าฟุกุชิมะ เราพบบทความเหล่านี้บนแพลตฟอร์มต่างๆ รวมถึง Medium, Blogspot และ ameblo.jp

ในเดือนเมษายน 2024 แคมเปญนี้เผยแพร่ความคิดเห็นภาษาอังกฤษหลายรายการที่วิพากษ์วิจารณ์ไช่ เซี่ย นักเคลื่อนไหวต่อต้านรัฐบาลจีน เราพบบัญชี X หนึ่งบัญชีที่โพสต์ความคิดเห็นแรก และกลุ่มบัญชีอื่นๆ ที่โพสต์ความคิดเห็นที่เหลือเป็นข้อความตอบกลับ เราไม่พบบัญชีของผู้ใช้จริงตอบกลับความคิดเห็นเหล่านั้น

แคมเปญนี้ยังใช้โมเดลของเราเพื่อค้นคว้าข้อมูลจากแหล่งข้อมูลเปิด เช่น วิธีสมัครบัญชีนักพัฒนาบนโซเชียลมีเดีย หรือขอให้สรุปโพสต์โซเชียลมีเดียของผู้วิพากษ์วิจารณ์รัฐบาลจีน

ดูเหมือนว่าการใช้ปัญญาประดิษฐ์ของเครือข่ายจะเป็นเพียงส่วนน้อยของผลงานทั้งหมด ตัวอย่างเช่น บัญชี X และ Medium จำนวนมากที่เราพบว่าโพสต์เนื้อหาซึ่งสร้างด้วยโมเดลของเรา กลับโพสต์เนื้อหาที่ดูเหมือนสร้างขึ้นเองเป็นภาษาอังกฤษและจีนในปริมาณมากกว่า โดยสังเกตได้จากการใช้ภาษาอังกฤษที่ไม่เป็นธรรมชาติ เป็นต้น บัญชีเหล่านี้โพสต์เนื้อหาดังกล่าวทั้งก่อนและหลังโพสต์ความคิดเห็นที่สร้างโดย AI

เนื้อหาส่วนใหญ่ที่แคมเปญนี้สร้างขึ้นเป็นภาษาจีน หัวข้อมีตั้งแต่การยกย่องความร่วมมือด้านการบังคับใช้กฎหมายระหว่างประเทศของรัฐบาลจีน ไปจนถึงการวิจารณ์การละเมิดต่อชนพื้นเมืองอเมริกันในสหรัฐอเมริกา เนื้อหาบางส่วนวิจารณ์รัฐบาลสหรัฐฯ และ Microsoft ที่เปิดโปงกิจกรรมของกลุ่มแฮ็กเกอร์จีนซึ่งรู้จักกันในชื่อ “Volt Typhoon”

เนื้อหาส่วนอื่นเป็นภาษาอังกฤษ โดยทั่วไป เนื้อหาเหล่านี้วิจารณ์บุคคลสำคัญที่วิพากษ์วิจารณ์รัฐบาลจีน เช่น ริชาร์ด เกียร์ นักแสดงและนักเคลื่อนไหวเพื่อทิเบต และไช่ เซี่ย นักเคลื่อนไหวต่อต้านรัฐบาลจีน บทความจำนวนหนึ่งที่สร้างขึ้นในช่วงปลายปี 2023 เป็นภาษาอังกฤษ ญี่ปุ่น จีน เกาหลี และรัสเซีย กล่าวหาว่าญี่ปุ่นทำให้มหาสมุทรแปซิฟิกปนเปื้อนด้วยน้ำที่ปล่อยจากโรงไฟฟ้านิวเคลียร์ฟุกุชิมะ⁠(เปิดในหน้าต่างใหม่) ซึ่งเป็นประเด็นที่ปฏิบัติการชักจูงของจีนใช้มาอย่างต่อเนื่อง

กิจกรรมกลุ่มเล็กๆ กลุ่มหนึ่งมุ่งสร้างความคิดเห็นเชิงบวกเป็นภาษาจีนเกี่ยวกับการเดินทางเยือนอุซเบกิสถานของรัฐมนตรีว่าการกระทรวงความมั่นคงสาธารณะของจีน ไม่เคยมีข้อมูลมาก่อนว่า Spamouflage กล่าวถึงประเด็นนี้ ประเด็นดังกล่าวจึงน่าสนใจเมื่อพิจารณาจากการระบุของ FBI⁠(เปิดในหน้าต่างใหม่) ว่ากิจกรรมก่อนหน้านี้บางส่วนของปฏิบัติการนี้บนโซเชียลมีเดียเชื่อมโยงกับกระทรวงความมั่นคงสาธารณะของจีน

กิจกรรมบางส่วนของเครือข่ายดูเหมือนจะสะท้อนความสนใจส่วนตัวของเหล่า Operator ตัวอย่างเช่น Operator รายหนึ่งใช้โมเดลของเราเพื่อค้นคว้าเกี่ยวกับเลนส์กล้อง Operator อีกรายใช้โมเดลของเราเพื่อทำงานที่ดูเหมือนเป็นแบบทดสอบสำหรับสมาชิกพรรคคอมมิวนิสต์จีนให้เสร็จ

Spamouflage เป็นหนึ่งในปฏิบัติการชักจูงที่มีการศึกษาวิจัยมากที่สุดในโลก นับตั้งแต่มีการเปิดเผยต่อสาธารณะครั้งแรกในปี 2019⁠(เปิดในหน้าต่างใหม่) แต่แทบไม่มีรายงานว่ากิจกรรมของปฏิบัติการนี้เข้าถึงผู้ชมที่เป็นคนจริงๆ

การใช้เนื้อหาที่สร้างโดย AI ดูเหมือนจะไม่ได้เปลี่ยนแปลงสถานการณ์ดังกล่าว ในบรรดาบล็อก บทความ และบัญชีโซเชียลมีเดียที่เราพบในการสืบสวน ไม่มีรายการใดได้รับการมีส่วนร่วมหรือผู้ติดตามที่เป็นคนจริงๆ ในจำนวนมาก ในบางกรณี ตัวชี้วัดที่มีอยู่แสดงให้เห็นว่ายอดดูโพสต์ทั้งหมดมาจากทีมสืบสวนของเราเท่านั้น

เมื่อใช้มาตรวัด Breakout Scale⁠(เปิดในหน้าต่างใหม่) ซึ่งให้คะแนนตั้งแต่ 1 (ต่ำสุด) ถึง 6 (สูงสุด) เพื่อประเมินผลกระทบของปฏิบัติการชักจูง เราประเมินว่าปฏิบัติการนี้อยู่ในระดับ 2 กล่าวคือ มีการโพสต์บนหลายแพลตฟอร์ม แต่ไม่มีหลักฐานว่าบุคคลภายนอกเครือข่ายช่วยขยายการเข้าถึงอย่างมีนัยสำคัญ

เราพบว่าโดเมนต่อไปนี้เกี่ยวข้องกับแคมเปญนี้

• revealscum.com