ปฏิบัติการ “Uncle Spam”: กิจกรรมชักจูงเพื่อสร้างความแตกแยกในสหรัฐฯ
OpenAI แบนบัญชีที่มีต้นทางจากจีนซึ่งใช้ AI สร้างเนื้อหาการเมืองสหรัฐฯ และค้นคว้าข้อมูลเกี่ยวกับบุคคล ขบวนการ และชุมชนออนไลน์
กรณีศึกษานี้เผยแพร่ครั้งแรกในรายงานประจำเดือนมิถุนายน 2025(เปิดในหน้าต่างใหม่) ของ OpenAI
ผู้ดำเนินการ
เราแบนบัญชี ChatGPT หลายบัญชีที่เชื่อมโยงกับปฏิบัติการชักจูงที่มีต้นทางจากจีน(เปิดในหน้าต่างใหม่) หลังได้รับเบาะแสจากพันธมิตรของเราที่ Meta ปฏิบัติการดังกล่าวสร้างเนื้อหาบนโซเชียลมีเดียที่สนับสนุนทั้งสองฝ่ายของประเด็นแตกแยกในการเมืองสหรัฐฯ โดยมีทั้งข้อความและภาพโปรไฟล์ที่สร้างด้วย AI บนแพลตฟอร์มต่างๆ เช่น X และ Bluesky
พฤติกรรม
เครือข่ายนี้ใช้โมเดลของเราทำงานหลายอย่าง โดยหลักคือสร้างความคิดเห็นบนโซเชียลมีเดียที่สนับสนุนหรือวิจารณ์มาตรการภาษีศุลกากร บัญชีเหล่านี้ถามโมเดลของเราถึงช่วงเวลาที่เหมาะที่สุดในการโพสต์เพื่อเพิ่มการมีส่วนร่วมของผู้ชมให้สูงสุด ซึ่งบ่งชี้ถึงกลยุทธ์ขยายการเข้าถึงที่วางแผนมาอย่างดี
ทวีตสองรายการที่ผู้ดำเนินการภัยคุกคามรายนี้ใช้โมเดลของเราสร้างข้อความ โดยนำเสนอจุดยืนของทั้งสองฝ่ายในการถกเถียงเรื่องภาษีศุลกากร
นอกจากนี้ บัญชีเหล่านี้ยังใช้ความสามารถด้านการสร้างรูปภาพของเราเพื่อสร้างโลโก้ที่มีรูปแบบโดดเด่น แล้วนำไปใช้เป็นภาพโปรไฟล์ของตัวตนสมมติบนแพลตฟอร์มโซเชียลต่างๆ บัญชีเหล่านี้มุ่งสร้างตัวตนสมมติที่อ้างว่าเป็นทหารผ่านศึกสหรัฐฯ ซึ่งวิพากษ์วิจารณ์รัฐบาลสหรัฐฯ ชุดปัจจุบันเป็นพิเศษ
บัญชีบน BlueSky ที่โพสต์เนื้อหาซึ่งสร้างโดยเครือข่ายนี้ โลโก้ “Veterans for Justice” สร้างขึ้นโดยใช้โมเดลของเรา
สุดท้าย บัญชีเหล่านี้ขอโค้ดและวิธีดึงข้อมูลส่วนบุคคลจากแพลตฟอร์มโซเชียลอย่าง X และ Bluesky อย่างต่อเนื่อง เช่น โปรไฟล์ผู้ใช้ รายชื่อผู้ติดตาม และรายละเอียดอื่นๆ โดยใช้เครื่องมือต่างๆ เช่น Tweepy, Nitter และ API สาธารณะของ Bluesky นอกจากนี้ บัญชีเหล่านี้ยังใช้โมเดลของเราเพื่อขอคำแนะนำในการวิเคราะห์ข้อมูลโปรไฟล์เพื่อหาลักษณะส่วนบุคคลและความเชื่อมโยงกับองค์กร ซึ่งอาจนำไปใช้จัดหมวดหมู่บุคคลหรืออนุมานความสัมพันธ์และคุณลักษณะต่างๆ
ผลลัพธ์
บัญชีเหล่านี้สร้างเนื้อหาที่กระตุ้นความแตกแยกในประเด็นการเมืองสหรัฐฯ และมักสร้างเนื้อหาของทั้งสองฝ่ายภายในเซสชันปฏิบัติการเดียวกัน รูปแบบนี้สอดคล้องกับวิธีการที่พบในปฏิบัติการชักจูงโดยทั่วไป และดูเหมือนมีเป้าหมายเพื่อใช้ประโยชน์จากความแตกแยกทางการเมืองที่มีอยู่ มากกว่าจะส่งเสริมจุดยืนทางอุดมการณ์ใดโดยเฉพาะ ด้วยปริมาณเนื้อหาจำนวนมากและการเน้นสารที่มุ่งถึงชาวอเมริกัน เราจึงเรียกปฏิบัติการนี้ว่า “Uncle Spam”
ทวีตที่มีข้อความซึ่งสร้างโดยโมเดลของเราและโพสต์โดยตัวตนสมมติ
ผลกระทบ
เมื่อประเมินด้วยมาตรวัด Breakout Scale(เปิดในหน้าต่างใหม่) สำหรับผลกระทบของปฏิบัติการชักจูง (IO) เราจัดกิจกรรมนี้อยู่ในหมวด 2 คือดำเนินการบนหลายแพลตฟอร์ม แต่ไม่ขยายวงหรือมีการมีส่วนร่วมเพียงเล็กน้อย บัญชีโซเชียลมีเดียที่โพสต์เนื้อหาซึ่งสร้างโดยโมเดลของเราได้รับการมีส่วนร่วมจากผู้ใช้จริงเพียงเล็กน้อย โพสต์ส่วนใหญ่บน X ที่เผยแพร่โดยเครือข่ายนี้แทบไม่ได้รับหรือไม่ได้รับการกดถูกใจและรีโพสต์เลย มีเพียงไม่กี่โพสต์ที่ได้รับการมีส่วนร่วมบ้าง บัญชีโซเชียลมีเดียบางบัญชีมีผู้ติดตามหลายพันคน แต่เราไม่สามารถประเมินได้ว่าผู้ติดตามเหล่านั้นเป็นผู้ใช้จริงหรือไม่ และจำนวนผู้ติดตามก็ดูเหมือนไม่ได้นำไปสู่การมีส่วนร่วมกับโพสต์