“ไวยากรณ์แย่”: กิจกรรมแสดงความคิดเห็นบน Telegram ที่เชื่อมโยงกับรัสเซีย

กรณีศึกษานี้เผยแพร่ครั้งแรกในรายงานประจำเดือนพฤษภาคม 2024⁠(เปิดในหน้าต่างใหม่) ของ OpenAI

เราแบนเครือข่ายบัญชีที่ไม่เคยมีรายงานมาก่อน ซึ่งใช้โมเดลของเราสร้างความคิดเห็นเพื่อนำไปโพสต์บน Telegram เราเชื่อมโยงกิจกรรมนี้กับบุคคลจากรัสเซีย เนื่องจากเครือข่ายนี้มุ่งเน้น Telegram โพสต์ภาษาอังกฤษผิดไวยากรณ์ซ้ำๆ และไม่ประสบความสำเร็จในการสร้างฐานผู้ติดตาม เราจึงเรียกเครือข่ายนี้ว่า “ไวยากรณ์แย่”

เครือข่ายนี้เผยแพร่เนื้อหาภาษารัสเซียและอังกฤษโดยมุ่งเป้าไปยังผู้ชมในรัสเซีย ยูเครน สหรัฐอเมริกา มอลโดวา และรัฐบอลติก

เครือข่ายนี้ใช้โมเดลของเราและบัญชี Telegram สร้างกระบวนการโพสต์ความคิดเห็นสแปม ขั้นแรก ผู้ดำเนินการใช้โมเดลของเราช่วยแก้จุดบกพร่องของโค้ดที่ดูเหมือนออกแบบมาเพื่อโพสต์บน Telegram โดยอัตโนมัติ จากนั้นจึงสร้างความคิดเห็นภาษารัสเซียและอังกฤษเพื่อตอบโพสต์ที่ระบุบน Telegram ท้ายที่สุด ดูเหมือนว่าพวกเขาใช้บัญชี Telegram อย่างน้อย 12 บัญชีเพื่อโพสต์ความคิดเห็นเหล่านั้น

สำหรับภาษาอังกฤษ ผู้ดำเนินการใช้โมเดลของเราสร้างความคิดเห็นในน้ำเสียงของบุคคลสมมติหลายราย ซึ่งมีภูมิหลังทางประชากรศาสตร์ต่างกันและอยู่คนละขั้วการเมืองในสหรัฐอเมริกา สำหรับภาษารัสเซีย พวกเขานิยมใช้คำสั่งตามหัวข้อมากกว่า และอิงกับบุคคลสมมติน้อยกว่า

เครือข่ายนี้แสดงความคิดเห็นในโพสต์ของช่อง Telegram เพียงไม่กี่ช่องเป็นหลัก ช่องที่ถูกกล่าวถึงมากที่สุดคือ @Slavyangrad ซึ่งสนับสนุนรัสเซีย ตามด้วยช่องภาษาอังกฤษ @police_frequency และ @SGTNewsNetwork (ช่องหลังแอบอ้างเป็นทหารผ่านศึกชาวอเมริกันฝ่ายอนุรักษนิยม แต่เมื่อเดือนพฤศจิกายน Meta รายงาน⁠(เปิดในหน้าต่างใหม่)ว่าแท้จริงแล้วช่องนี้มีต้นกำเนิดในอิหร่าน) จากตัวอย่างกิจกรรมในเดือนกุมภาพันธ์ เครือข่ายพยายามสร้างข้อความตอบกลับสามช่องนี้บ่อยเป็นสองเท่าของอีก 10 ช่องที่ถูกกล่าวถึงมากที่สุดรองลงมารวมกัน

แคมเปญนี้สร้างความคิดเห็นสั้นๆ ที่มุ่งเน้นประเด็นทางการเมืองเพียงไม่กี่เรื่อง หัวข้อหลักที่แคมเปญโพสต์บน Telegram ทั้งในภาษาอังกฤษและรัสเซีย ได้แก่ สงครามในยูเครน สถานการณ์การเมืองในมอลโดวาและรัฐบอลติก ตลอดจนการเมืองในสหรัฐอเมริกา

ความคิดเห็นภาษารัสเซียทั่วไปบน Telegram กล่าวหาประธานาธิบดียูเครนและมอลโดวาว่าทุจริต ขาดการสนับสนุนจากประชาชน และทรยศประชาชนของตนเองให้แก่ “การแทรกแซง” ของชาติตะวันตก ความคิดเห็นภาษาอังกฤษบน Telegram มุ่งเน้นหัวข้อต่างๆ เช่น การย้ายถิ่นฐาน ความยากลำบากทางเศรษฐกิจ และข่าวด่วนประจำวัน ความคิดเห็นเหล่านี้มักอาศัยบริบทของเหตุการณ์ปัจจุบันเพื่อโต้แย้งว่าสหรัฐอเมริกาไม่ควรสนับสนุนยูเครน

บางครั้ง บุคคลสมมติมากกว่าหนึ่งรายแสดงความคิดเห็นในโพสต์เดียวกันโดยเสนอทัศนะที่ขัดแย้งกัน แนวทาง “สองหน้า” ที่แสร้งเป็นเสียงจากทั้งสองฝ่ายเช่นนี้เคยพบในปฏิบัติการของรัสเซียมาก่อน และอาจสะท้อนถึงความต้องการดึงดูดผู้ชมเฉพาะกลุ่มหรือสร้างความแตกแยก

หลังเหตุโจมตีก่อการร้ายในมอสโกเมื่อวันที่ 22 มีนาคม และการควบคุมตัวชาวทาจิก 4 คน แคมเปญนี้เริ่มใช้กลุ่มบัญชี Telegram ชุดใหม่ที่มุ่งเน้นทาจิกิสถาน ความคิดเห็นที่แคมเปญโพสต์เรียกร้องให้ชาวทาจิกและชาวรัสเซียสามัคคีกันและเคารพกฎหมายรัสเซีย

การโพสต์ความคิดเห็นสแปมเป็นเทคนิคทั่วไปที่ใช้ในปฏิบัติการด้านอิทธิพล (IO) อยู่แล้วก่อนการมาถึงของ AI ช่วยสร้าง แม้ “ไวยากรณ์แย่” จะใช้เทคนิคใหม่ในการสร้างความคิดเห็น แต่ระบบเผยแพร่กลับไม่สามารถดึงดูดการมีส่วนร่วมได้

ความคิดเห็นของเครือข่ายนี้มีน้อยมากที่ได้รับการกดถูกใจหรือข้อความตอบกลับ โดยทั่วไป ความคิดเห็นของเครือข่ายนี้เป็นเพียงส่วนน้อยของข้อความตอบกลับในแต่ละโพสต์ กล่าวคือไม่ได้กลบความคิดเห็นอื่น หากนั่นคือเป้าหมายของเครือข่าย

บางครั้งเครือข่ายใช้โมเดลของเราสร้างข้อความที่ดูเหมือนเป็นข้อความส่วนตัว ซึ่งอาจใช้สนทนากับผู้ใช้ Telegram รายอื่น แต่ข้อความที่สร้างขึ้นบ่งชี้ว่าเครือข่ายกำลังคุยกับมิจฉาชีพด้านคริปโทเคอร์เรนซี

เมื่อใช้มาตรวัดการขยายวง⁠(เปิดในหน้าต่างใหม่)เพื่อประเมินผลกระทบของปฏิบัติการด้านอิทธิพล (IO) ซึ่งให้คะแนนตั้งแต่ 1 (ต่ำสุด) ถึง 6 (สูงสุด) เราประเมินกรณีนี้ว่าอยู่ในหมวดหมู่ 1 เนื่องจากมีกิจกรรมการโพสต์บนแพลตฟอร์มเดียวและไม่มีหลักฐานว่าบุคคลภายนอกเครือข่ายช่วยขยายผลอย่างมีนัยสำคัญ