ปฏิบัติการ “A2Z”: กิจกรรมชักจูงหลายภาษา

กรณีศึกษานี้เผยแพร่ครั้งแรกในรายงานประจำเดือนตุลาคม 2024⁠(เปิดในหน้าต่างใหม่) ของ OpenAI

เราแบนกลุ่มบัญชีที่ไม่เคยมีรายงานมาก่อน ซึ่งใช้ API ของเราสร้างความคิดเห็นแล้วนำไปโพสต์บน X และ Facebook ความคิดเห็นเหล่านี้จำนวนมากยกย่องอาเซอร์ไบจานหรือปกป้องประวัติด้านสิทธิมนุษยชนของประเทศ แต่ปฏิบัติการนี้ยังกล่าวถึงหัวข้ออื่นๆ อีกหลากหลาย ซึ่งอาจบ่งชี้ว่าเป็นปฏิบัติการที่รับจ้างดำเนินการเชิงพาณิชย์ เนื่องจากเครือข่ายนี้ยกย่องอาเซอร์ไบจานอยู่บ่อยครั้งและพยายามใช้ AI ในหลายขั้นตอนของปฏิบัติการ เราจึงตั้งชื่อเครือข่ายนี้ว่า “A2Z”

เช่นเดียวกับปฏิบัติการภาษารัสเซียบน Telegram ที่เราเปิดโปงเมื่อเดือนพฤษภาคมและตั้งชื่อว่า “Bad Grammar” ปฏิบัติการนี้ใช้โมเดลของเราเพื่อช่วยแสดงความคิดเห็นบนโซเชียลมีเดีย ปฏิบัติการนี้ใช้ AI จัดการตัวตนปลอมบนโซเชียลมีเดีย สร้างประวัติส่วนตัว วิเคราะห์โพสต์และความคิดเห็น ร่างข้อความตอบกลับในหลายภาษา และตรวจแก้ภาษา จากนั้นจึงนำข้อความตอบกลับไปโพสต์บน X หรือ Facebook เนื้อหาส่วนใหญ่เป็นความคิดเห็นสั้นๆ แต่ก็มีภาพที่ออกแบบด้วยรูปแบบเฉพาะด้วย ภาพเหล่านี้มักใช้รูปแบบโปสเตอร์ยุคทศวรรษ 1930 จึงดูเหมือนออกแบบมาเพื่อดึงดูดความสนใจและการมีส่วนร่วมมากกว่าหลอกลวง อย่างไรก็ตาม โพสต์ทั่วไปที่มีภาพลักษณะนี้ได้รับการมีส่วนร่วมเพียงโพสต์ละ 0–5 ครั้ง

การใช้ AI ทำให้ปฏิบัติการนี้จัดการบัญชีโซเชียลมีเดียจำนวนมากพร้อมกันได้ เราพบบัญชีประมาณ 150 บัญชีบน X และ Facebook ที่ตรงกับกิจกรรมนี้ และคาดว่ายังมีบัญชีอื่นอีก นอกจากนี้ ยังทำให้ปฏิบัติการสามารถเข้าไปร่วมสนทนาในเธรดความคิดเห็นกับบุคคลจริงบนอินเทอร์เน็ตได้ในบางครั้ง บางครั้งเราพบการสนทนาสั้นๆ ระหว่างบุคคลจริงกับบัญชีปลอม โดยข้อความตอบกลับของบัญชีปลอมสร้างขึ้นด้วยโมเดลของเรา

ก่อนยุค AI ปฏิบัติการขนาดนี้น่าจะต้องใช้ทีมปั่นกระแสขนาดใหญ่ พร้อมทั้งต้นทุนและความเสี่ยงที่ข้อมูลจะรั่วไหลจากการดำเนินงานดังกล่าว อย่างไรก็ตาม การพึ่งพา AI ก็ทำให้ปฏิบัติการนี้เสี่ยงต่อการถูกเราขัดขวางมากเป็นพิเศษเช่นกัน เนื่องจากปฏิบัติการนี้ใช้ AI ในหลายจุดของห่วงโซ่การโจมตี การระงับของเราจึงตัดห่วงโซ่หลายจุดพร้อมกัน หลังจากเราขัดขวางกิจกรรมนี้เมื่อต้นเดือนมิถุนายน บัญชีโซเชียลมีเดียที่เราระบุว่าเป็นส่วนหนึ่งของปฏิบัติการก็หยุดโพสต์ตลอดช่วงการเลือกตั้งในสหภาพยุโรป สหราชอาณาจักร และฝรั่งเศส บางบัญชีกลับมาโพสต์อีกครั้งในช่วงปลายเดือนสิงหาคม โพสต์จำนวนเล็กน้อยมีร่องรอยที่บ่งชี้ว่าน่าจะสร้างขึ้นด้วย AI เนื้อหาที่มีร่องรอยดังกล่าวไม่ได้มาจากโมเดลของเรา

แคมเปญนี้สร้างความคิดเห็นสั้นๆ ที่ครอบคลุมประเด็นทางการเมืองหลากหลายเรื่อง ประเด็นที่เด่นที่สุดคือการยกย่องรัฐบาลอาเซอร์ไบจานและบทบาทในการเมืองภายในประเทศ ระดับภูมิภาค และระหว่างประเทศ เช่น การส่งเสริมความเป็นหนึ่งเดียวระหว่างประเทศในเอเชียกลาง หรือการเป็นเจ้าภาพการประชุมสหประชาชาติว่าด้วยการเปลี่ยนแปลงสภาพภูมิอากาศ บัญชีภาษาอังกฤษและอิตาลียกย่องบทบาทของอาเซอร์ไบจานในฐานะผู้จัดหาพลังงานให้ยุโรป โดยบางครั้งเป็นการตอบโต้คำวิจารณ์เรื่องประวัติด้านสิทธิมนุษยชนของรัฐบาลอาเซอร์ไบจาน

กิจกรรมส่วนอื่นๆ มุ่งเน้นประโยชน์และวิวัฒนาการของ AI ตลาดการเงิน ประเด็นด้านสิ่งแวดล้อม คริปโทเคอร์เรนซี และเทคโนโลยีในภาพรวม กลุ่มหนึ่งมุ่งเน้นสหรัฐอาหรับเอมิเรตส์ โดยนำเสนอว่าเป็นจุดหมายการลงทุนที่มั่นคง และมักเปรียบเทียบกับคำกล่าวอ้างเรื่องความไร้เสถียรภาพทางการเมืองในสหรัฐอเมริกา

ตัวตนปลอมบางส่วนมุ่งเน้นการเมืองในยุโรปหรือสหรัฐอเมริกา แนวคิดทางการเมืองของกิจกรรมนี้แตกต่างกันไปในแต่ละภูมิภาค ตัวอย่างเช่น บัญชีหนึ่งบน X ที่มุ่งเน้นสหรัฐอเมริกาสวมบทเป็นฝ่ายเสรีนิยมและวิจารณ์ทรัมป์ อดีตประธานาธิบดีสหรัฐฯ ขณะที่บัญชี Facebook บางบัญชีที่โพสต์เป็นภาษาฝรั่งเศสวิจารณ์ประธานาธิบดีมาครงและสนับสนุนพรรคแนวร่วมแห่งชาติ (RN) บางครั้งคำวิจารณ์นี้มุ่งเน้นปัญหาภายในประเทศ เพื่อโต้แย้งว่าประเทศนั้นไม่ควรแทรกแซงประเด็นระหว่างประเทศ รวมถึงการรุกรานยูเครนของรัสเซีย

ปฏิบัติการนี้เคลื่อนไหวอย่างมากบน Facebook และ X โดยน่าจะมีบัญชีหลายร้อยบัญชี บน X บัญชีบางส่วนมีเครื่องหมายถูกสีน้ำเงินจากบริการยืนยันตัวตนแบบชำระเงิน จากบัญชีตัวอย่างประมาณ 150 บัญชีบนทั้งสองแพลตฟอร์ม เราไม่พบบัญชีใดที่มีผู้ติดตามจำนวนมาก บัญชีบน X ที่มีผู้ติดตามสูงสุดซึ่งเราพบระหว่างการตรวจสอบมี 222 คน ตัวเลขทั่วไปอยู่ที่ราวสิบกลางๆ ถึงยี่สิบต้นๆ และโพสต์ทั่วไปบน X มีการมีส่วนร่วมเพียงหลักหน่วย ในทำนองเดียวกัน โพสต์ Facebook ที่ได้รับปฏิกิริยามากที่สุดระหว่างการตรวจสอบของเรามี 36 ครั้ง ส่วนตัวเลขทั่วไปอยู่ที่ 0–5 ครั้ง อย่างไรก็ตาม เราพบบางกรณีที่โพสต์ของปฏิบัติการได้รับข้อความตอบกลับจากบุคคลจริง ข้อความตอบกลับเหล่านี้ไม่ได้เป็นเชิงบวกเสมอไป และบางครั้งบุคคลจริงก็โต้แย้งบัญชีปลอม แต่ก็แสดงให้เห็นว่าปฏิบัติการนี้ดึงดูดการมีส่วนร่วมจากผู้ชมได้บ้างในหลายแพลตฟอร์ม หลายภาษา และหลายหัวข้อ

เมื่อใช้ Breakout Scale ประเมินผลกระทบของปฏิบัติการชักจูง ซึ่งจัดระดับตั้งแต่ 1 (ต่ำสุด) ถึง 6 (สูงสุด) เราประเมินว่าปฏิบัติการนี้อยู่ในช่วงบนสุดของระดับสอง และมีความเสี่ยงจะขยับขึ้นสู่ระดับสาม เพราะมีการโพสต์บนหลายแพลตฟอร์ม พร้อมหลักฐานบางส่วนว่าบุคคลจริงมีส่วนร่วมกับเนื้อหา อย่างไรก็ตาม หลังจากเราแบนไม่ให้ปฏิบัติการนี้ใช้โมเดลของเราและแบ่งปันข้อมูลกับองค์กรอื่นในอุตสาหกรรม บัญชีโซเชียลมีเดียที่เราระบุก็หยุดเคลื่อนไหวนานหลายสัปดาห์ ปฏิบัติการนี้จึงชี้ให้เห็นทั้งศักยภาพที่เพิ่มขึ้นซึ่ง AI มอบให้ผู้ดำเนินการ และความเสี่ยงที่จะถูกขัดขวางมากขึ้นจากการพึ่งพาโมเดล AI