สกัดกั้นปฏิบัติการลับเพื่อชักจูงความคิดเห็นจากรัสเซียรูปแบบใหม่
พันธกิจของเราคือการทำให้ปัญญาประดิษฐ์ทั่วไปเป็นประโยชน์ต่อมนุษยชาติทุกคน เราขับเคลื่อนพันธกิจนี้ด้วยการนำนวัตกรรมของเราไปใช้สร้างเครื่องมือ AI ที่ช่วยให้ผู้คนแก้ไขปัญหาที่ยากและซับซ้อน ซึ่งรวมถึงการพัฒนาเครื่องมือที่ช่วยให้เราตรวจจับ ตรวจสอบ สกัดกั้น และเปิดโปงปฏิบัติการลับเพื่อชักจูงความคิดเห็น (IO) ซึ่งเป็นความพยายามที่ใช้วิธีหลอกลวงเพื่อบิดเบือนความคิดเห็นของสาธารณชนหรือชี้นำผลลัพธ์ทางการเมือง โดยปกปิดตัวตนหรือเจตนาที่แท้จริงของผู้ที่อยู่เบื้องหลัง
เมื่อไม่นานมานี้ เราได้แบนกลุ่มบัญชี ChatGPT ที่มีต้นทางจากรัสเซียและถูกใช้เพื่อประชาสัมพันธ์ International Burke Institute (IBI) ซึ่งอ้างตัวว่าเป็น “ชุมชนผู้เชี่ยวชาญ” ที่ตั้งอยู่ในอิสราเอล จากจุดเริ่มต้นที่เป็นการตรวจสอบโพสต์บนโซเชียลมีเดียที่สร้างด้วย AI เราพบว่ากิจกรรมดังกล่าวเป็นส่วนหนึ่งของปฏิบัติการชักจูงความคิดเห็นที่มีขอบเขตกว้างกว่ามาก โดยมีเว็บไซต์ที่นำผลงานวิชาการจากแหล่งอื่นมาเผยแพร่และระบุชื่อผู้เขียนผิด มีดัชนี “อธิปไตย” ที่นำเสนอรัสเซียในแง่บวก และมีความพยายามปกปิดว่าผู้ปฏิบัติการมีต้นทางจากรัสเซีย แม้แคมเปญนี้ดูเหมือนจะเข้าถึงผู้คนในวงค่อนข้างจำกัด แต่การวางโครงสร้างที่ซับซ้อนทำให้แตกต่างจากปฏิบัติการ(เปิดในหน้าต่างใหม่)ชักจูง(เปิดในหน้าต่างใหม่)ความคิดเห็นอื่นๆ ที่เชื่อมโยงกับรัสเซีย(เปิดในหน้าต่างใหม่)และเราได้สกัดกั้น(เปิดในหน้าต่างใหม่)นับตั้งแต่สงครามในยูเครนเริ่มต้นขึ้น รายงานฉบับนี้อธิบายว่าปฏิบัติการดังกล่าวทำงานอย่างไร มีการนำ ChatGPT ไปใช้ในส่วนใด และเราดำเนินการอย่างไรเพื่อสกัดกั้นปฏิบัติการนี้
เราแบนกลุ่มบัญชี ChatGPT ที่มีความเป็นไปได้สูงว่ามีต้นทางจากรัสเซีย ผู้ปฏิบัติการใช้ภาษารัสเซียในการสั่งให้ ChatGPT สร้างความคิดเห็นสำหรับนำไปโพสต์บน Substack, Telegram, X, Facebook และ LinkedIn ความคิดเห็นส่วนใหญ่ที่สร้างขึ้นเป็นภาษาอังกฤษ และผู้ปฏิบัติการยังสั่งให้ ChatGPT ปกปิดร่องรอยทางภาษาที่อาจบ่งบอกว่าพวกเขาเป็นชาวรัสเซีย เนื่องจากเราไม่อนุญาตให้เข้าถึงโมเดลของเราจากรัสเซีย พวกเขาจึงใช้ VPN เพื่อเข้าถึงแพลตฟอร์มของเรา
เนื้อหาที่สร้างขึ้นส่วนใหญ่มีจุดประสงค์เพื่อโปรโมต International Burke Institute (IBI) ซึ่งอ้างตัวว่าเป็น “ชุมชนผู้เชี่ยวชาญ” ชื่อและภาพลักษณ์ของ IBI เชื่อมโยงกับเว็บไซต์ที่จดทะเบียนเมื่อเดือนกุมภาพันธ์ 2568 โดยเว็บไซต์ดังกล่าวอ้างว่าสถาบันตั้งอยู่ในอิสราเอล บทความที่เผยแพร่บนเว็บไซต์ไม่ได้สร้างขึ้นด้วยโมเดลของเรา หลายบทความคัดลอกมาจากงานเขียนทางวิชาการจริง และบางครั้งมีการระบุชื่อผู้เขียนผิด ส่วนบางบทความดูเหมือนเขียนขึ้นโดยผู้ใช้ภาษาสลาฟก่อนนำไปแปลด้วยเครื่องมือแปลภาษา ตัวอย่างเช่น ภาพหน้าจอจากเว็บไซต์ IBI ด้านล่างมีวลีที่ฟังไม่เป็นธรรมชาติ ซึ่งเห็นได้ชัดเจนว่าเป็นผลจากการแปลตรงตัวจากภาษากลุ่มสลาฟ
ภาพหน้าจอจากบทความเกี่ยวกับเยอรมนีบนเว็บไซต์ IBI คำว่า “the Svetofor coalition” หมายถึงรัฐบาลผสมของเยอรมนีที่ประกอบด้วยพรรคสังคมนิยม พรรคเสรีนิยม และพรรคกรีน ซึ่งเรียกตามสีประจำพรรค ได้แก่ สีแดง สีเหลือง และสีเขียว ว่า “รัฐบาลผสมสัญญาณไฟจราจร” หรือในภาษาเยอรมันว่า “Ampelkoalition” คำว่า “svetofor” (светофор) แปลว่า “สัญญาณไฟจราจร” ในกลุ่มภาษาสลาฟหลายภาษา รวมถึงภาษารัสเซีย แต่ผู้พูดภาษาอังกฤษหรือภาษาเยอรมันแทบจะไม่ใช้คำนี้เรียกรัฐบาลผสมดังกล่าว จึงมีความเป็นไปได้สูงว่าน่าจะแปลมาจากต้นฉบับภาษาในกลุ่มสลาฟโดยใช้เครื่องมือแปลภาษา
เท่าที่เราทราบ นี่คือแคมเปญชักจูงแบบแอบแฝงรูปแบบใหม่ที่ไม่เคยมีรายงานมาก่อน จุดเด่นที่สุดของแคมเปญนี้คือการสร้างดัชนี “อธิปไตย” ผ่านองค์กรบังหน้าที่ใช้เป็นเครื่องมือในการยกย่องรัสเซียและลดทอนภาพลักษณ์ของประเทศตะวันตก เราไม่เคยสกัดกั้นปฏิบัติการชักจูงความคิดเห็นที่เชื่อมโยงกับรัสเซียซึ่งลงทุนสร้างองค์ประกอบต่างๆ อย่างซับซ้อนถึงระดับนี้มาก่อน
ปฏิบัติการนี้ใช้ ChatGPT เป็นหลักเพื่อสร้างโพสต์บนโซเชียลมีเดียสำหรับประชาสัมพันธ์บทความบนเว็บไซต์ IBI เราพบโพสต์เหล่านี้บน X, LinkedIn, Facebook, Substack และ Telegram บางโพสต์มาจากบัญชีที่ใช้ชื่อและโลโก้ของ IBI ส่วนโพสต์อื่นๆ ดูเหมือนมาจากบัญชีผู้ใช้ทั่วไป (ซึ่งไม่น่าใช่บัญชีผู้ใช้จริง) โดยกิจกรรมส่วนใหญ่ของบัญชีเหล่านี้คือการโพสต์บทความของ IBI
โพสต์ LinkedIn ที่สร้างโดยปฏิบัติการนี้และเผยแพร่บนแพลตฟอร์ม
นอกจากโพสต์ที่เผยแพร่เหล่านี้แล้ว กลุ่มผู้ปฏิบัติการยังสร้างข้อความตอบกลับโพสต์ของผู้ใช้จริงบน Substack ในหัวข้อต่างๆ โดยข้อความเหล่านี้มักเชิญชวนให้ติดตามช่อง IBI และใช้บัญชี IBI เป็นผู้โพสต์
ความคิดเห็นบน Substack ที่ปฏิบัติการนี้สร้างขึ้นเพื่อตอบกลับโพสต์บนแพลตฟอร์ม
นอกจากสร้างเนื้อหาเกี่ยวกับ IBI แล้ว ผู้ปฏิบัติการรายหนึ่งยังสร้างโพสต์ภาษาเยอรมันเพื่อนำไปเผยแพร่ในช่อง Telegram ชื่อ “Lahme Ente” ซึ่งแปลว่า “เป็ดง่อย” โพสต์เหล่านี้มักวิพากษ์วิจารณ์ยูเครน สหภาพยุโรป และรัฐบาลเยอรมนี พร้อมทั้งสนับสนุนให้เยอรมนีสร้างความสัมพันธ์ที่ดีขึ้นกับรัสเซีย
ผู้ปฏิบัติการอีกรายหนึ่งสร้างโลโก้ให้ช่อง Telegram 12 ช่อง (รวมถึง Lahme Ente) ควบคู่ไปกับการสร้างเนื้อหาเกี่ยวกับ IBI โดยช่องเหล่านี้เน้นเรื่องเยอรมนี สหรัฐอเมริกา ฝรั่งเศส โปแลนด์ และตุรกี บางช่องโพสต์เรื่อง IBI เป็นครั้งคราวหรือแชร์โพสต์จาก IBI ผู้ปฏิบัติการรายนี้ยังขอให้สรุปความเคลื่อนไหวของช่องเหล่านี้เป็นภาษารัสเซียซ้ำ ๆ นอกจากนี้ หนึ่งในช่องที่เน้นเนื้อหาเกี่ยวกับสหรัฐอเมริกายังแอบอ้างว่าเป็นสำนักข่าวอเมริกัน โดยข้อความแนะนำช่องมีจุดสังเกตหลายอย่างที่บ่งชี้ว่าผู้เขียนไม่ใช่เจ้าของภาษา
โปรไฟล์บัญชี Telegram “American Observer” ผู้ใช้ ChatGPT รายหนึ่งที่เกี่ยวข้องกับกรณีนี้สร้างรูปโปรไฟล์สำหรับช่องดังกล่าว และขอให้สรุปเนื้อหาเป็นภาษารัสเซียหลายครั้ง โปรดสังเกตภาษาอังกฤษที่ฟังไม่เป็นธรรมชาติ รวมถึงวลีชวนสงสัยอย่าง “a totally unhackneyed perspective on hazzy”
ปฏิบัติการนี้ดูเหมือนจะมี International Burke Institute (IBI) เป็นศูนย์กลาง แต่กิจกรรมที่เราสกัดกั้นนั้นเน้นการเผยแพร่เนื้อหาบนโซเชียลมีเดียเพื่อโปรโมตหรือลิงก์ไปยังเว็บไซต์ดังกล่าว ไม่ใช่เนื้อหาที่เผยแพร่โดยตรงบนเว็บไซต์
เว็บไซต์ดังกล่าวนำเสนอตัวเองว่าเป็น “ชุมชนผู้เชี่ยวชาญ” และระบุที่อยู่ในอิสราเอล ณ วันที่ 17 กรกฎาคม เว็บไซต์อ้างว่ามีผู้เชี่ยวชาญระดับโลกจากหลากหลายสาขา รวมถึงบุคคลชั้นนำอย่าง Francis Fukuyama และ Noam Chomsky และเผยแพร่งานวิจัยในหลากหลายหัวข้อ อย่างไรก็ตาม จากการตรวจสอบตัวอย่างบทความ 36 บทความที่เชื่อมโยงกับผู้เชี่ยวชาญบนเว็บไซต์ IBI และเผยแพร่ระหว่างเดือนกันยายน 2568 ถึงเดือนพฤษภาคม 2569 โดยพบว่า 34 บทความคัดลอกมาจากแหล่งอื่นบนอินเทอร์เน็ต
บทความเหล่านี้บางส่วนเป็นบทความเก่าที่เผยแพร่มาหลายปีแล้ว ส่วนบางบทความก็ระบุชื่อผู้เขียนผิด ตัวอย่างเช่น บทความหนึ่งเกี่ยวกับระเบียงเศรษฐกิจจีน-ปากีสถานดูเหมือนจะคัดลอกมาจากต้นฉบับของ Cambridge University Press แต่กลับระบุชื่อศาสตราจารย์จาก University of Nottingham ซึ่งเชี่ยวชาญด้านการเมืองเอเชียใต้เป็นผู้เขียน
บทความบนเว็บไซต์ IBI(เปิดในหน้าต่างใหม่) ซึ่งระบุว่าเขียนโดยศาสตราจารย์ Katharine Adeney จาก Nottingham University(เปิดในหน้าต่างใหม่) และลงวันที่ 28 ธันวาคม 2568
บทความต้นฉบับ เขียนโดยศาสตราจารย์กิตติคุณ Yunas Samad แห่ง Bradford University และเผยแพร่โดย Cambridge University Press(เปิดในหน้าต่างใหม่) เมื่อวันที่ 7 กรกฎาคม 2568
บทความอีกบทความหนึ่งเกี่ยวกับการกำกับดูแลด้านการย้ายถิ่นเหมือนจะคัดลอกมาจาก Migration Policy Institute แต่กลับอ้างอย่างไม่ถูกต้องว่าเป็นผลงานของศาสตราจารย์ชาวออสเตรเลียด้านวิทยาศาสตร์การอาหาร พฤติกรรมนี้ชี้ให้เห็นถึงความพยายามทำให้เว็บไซต์ IBI ดูน่าเชื่อถือมากขึ้น โดยนำเนื้อหาจริงมาเติมเต็มเว็บไซต์พร้อมกับปกปิดแหล่งที่มาที่แท้จริง
ภาพหน้าจอหน้าเพจเกี่ยวกับผู้เขียน(เปิดในหน้าต่างใหม่)บนเว็บไซต์ IBI ซึ่งมีบทความลงวันที่ 21 มกราคม 2569 และระบุชื่อ Kate Howell เป็นผู้เขียน โดยอ้างว่าเป็นผู้เชี่ยวชาญจาก Migration Policy Institute
บทความต้นฉบับซึ่งเผยแพร่โดย Migration Policy Institute(เปิดในหน้าต่างใหม่) ในเดือนเมษายน 2568 และเขียนโดย Meghan Benton, Natalia Banulescu-Bogdan และ Kate Hooper
หน้าเพจวิทยากร(เปิดในหน้าต่างใหม่)ของ Kate Howell ซึ่งแท้จริงแล้วเป็นศาสตราจารย์ด้านเคมีอาหาร(เปิดในหน้าต่างใหม่)ชาวออสเตรเลีย จากปี 2560 โดยใช้ภาพเดียวกับหน้า IBI
นอกจากบทความเหล่านี้แล้ว เว็บไซต์ IBI ยังเผยแพร่รายงานเกี่ยวกับประเทศต่างๆ และอธิปไตยของแต่ละประเทศตามการประเมินด้วยดัชนีของสถาบัน รายงานเหล่านี้ไม่ได้สร้างขึ้นโดยใช้โมเดลของเรา บางรายงานนำเสนอในรูปแบบการเปรียบเทียบระหว่าง 2 ประเทศ ขณะที่บางรายงานมุ่งเน้นประเทศใดประเทศหนึ่ง โดยเฉพาะประเทศที่วิพากษ์วิจารณ์สงครามของรัสเซียในยูเครน เช่น ฝรั่งเศสและเยอรมนี รวมถึงสหภาพยุโรป ปฏิบัติการนี้ยังเผยแพร่แนวเรื่องในลักษณะคล้ายกันเกี่ยวกับสหรัฐอเมริกา โดยทั่วไปรายงานเหล่านี้มีเนื้อหาเชิงวิพากษ์วิจารณ์ และบางครั้งมีลักษณะเป็นข้อเขียนเชิงโจมตี ตัวอย่างเช่น:
- ฝรั่งเศส(เปิดในหน้าต่างใหม่): “สิบปีภายใต้อิทธิพลของมาครงสร้างผลงานตามคาดจากฝีมือผู้บริหารธนาคาร Rothschild Bank ที่ย้ายเข้าทำเนียบ ผลที่ได้ไม่ต่างจากการที่ประเทศถูกเอาทรัพย์สินเก่าแก่มาละลายทิ้ง และตอนนี้ก็กำลังทยอยขายประเทศกินทีละส่วน”
- สหรัฐอเมริกา(เปิดในหน้าต่างใหม่): “ทรัมป์เดินทางถึง [ปักกิ่ง] พร้อมคะแนนความยิ่งใหญ่ด้านอธิปไตยเป็นอันดับหนึ่ง แต่ดันกลับออกมาพร้อมกับการเดินเกมหลายอย่างที่เรียกได้ว่า ยอมลดทอนอิสรภาพของประเทศตัวเองลงเสียเอง”
- เยอรมนี(เปิดในหน้าต่างใหม่): “เยอรมนีต้องการนโยบายอุตสาหกรรมที่ปกป้องตำแหน่งงาน ไม่ใช่แค่ราคาหุ้น ประเทศนี้ต้องพูดคุยเรื่องอัตลักษณ์กันอย่างตรงไปตรงมา โดยปราศจากข้อห้ามและความตื่นตระหนกเกินเหตุ ประเทศนี้ต้องมีอธิปไตยทางทหารอย่างแท้จริง ไม่ใช่พึ่งพาฐานทัพอเมริกัน และต้องการนักการเมืองที่ยึดผลประโยชน์ของประชาชนชาวเยอรมันเป็นอันดับแรก ไม่ใช่ผลประโยชน์ของคณะกรรมการบริษัทในนิวยอร์ก”
- สหภาพยุโรป(เปิดในหน้าต่างใหม่): “สโลวาเกียปะทะอิตาลี: ความย้อนแย้งด้านอธิปไตยของประเทศที่ตกเป็นตัวประกันของ ‘สหภาพใหญ่’”
แม้ผู้ใช้ ChatGPT ในรัสเซียซึ่งสร้างเนื้อหาบนโซเชียลมีเดียเพื่อประชาสัมพันธ์ IBI จะพยายามอย่างมากในการปกปิดว่าตนมาจากที่ใด และเนื้อหาส่วนใหญ่บนเว็บไซต์ IBI ดูเหมือนนำมาจากแหล่งอื่น แต่หลักฐานบางอย่างบนโลกออนไลน์บ่งชี้ว่าอาจมีบุคคลจริงบางส่วนในอิสราเอลที่เป็นตัวแทนของ IBI ในการส่งบทความไปเผยแพร่และการเข้าร่วมการประชุมต่างๆ อย่างไรก็ตาม เราไม่มีข้อมูลเพียงพอที่จะระบุความสัมพันธ์ระหว่างบุคคลเหล่านี้ รวมถึง IBI และผู้ปฏิบัติการในรัสเซีย
ผลกระทบโดยตรงของปฏิบัติการนี้ดูเหมือนจะอยู่ในวงจำกัด โดยทั่วไปโพสต์บนโซเชียลมีเดียมียอดเข้าชมเพียงเล็กน้อย และบัญชีทางการของ IBI ก็มีผู้ติดตามไม่มากนัก อย่างไรก็ตาม ช่อง Telegram ของปฏิบัติการนี้ดูเหมือนจะดึงดูดผู้ติดตามได้มากกว่า โดยแต่ละช่องมีผู้ติดตามประมาณ 10,000-20,000 คน หากใช้มาตรวัด Breakout Scale(เปิดในหน้าต่างใหม่) ของ Brookings ในการประเมินผลกระทบ เราจัดปฏิบัติการนี้ไว้ในระดับล่างของหมวดหมู่ที่ 3 (ดำเนินกิจกรรมบนหลายแพลตฟอร์ม และมีหลักฐานบางส่วนว่าเข้าถึงกลุ่มผู้ใช้จริงได้)
อย่างไรก็ตาม สิ่งที่ทำให้ปฏิบัติการนี้มีความสำคัญไม่ใช่จำนวนผู้ชมที่เข้าถึง แต่เป็นโครงสร้างที่สร้างขึ้น แม้ผู้ก่อเหตุจะใช้ ChatGPT เพียงสร้างโพสต์ประชาสัมพันธ์แยกเป็นรายโพสต์ แต่โพสต์เหล่านั้นเชื่อมโยงไปยังองค์กรที่ดูน่าเชื่อถือ ซึ่งมีทั้งบุคคลที่อ้างว่าเป็นผู้เชี่ยวชาญ งานวิชาการที่นำมาเผยแพร่ซ้ำ และดัชนีความเสี่ยงที่อ้างว่าเป็นผลงานของตนเอง กรณีนี้แสดงให้เห็นว่ากลุ่มที่พยายามชักจูงความคิดเห็นสามารถใช้ AI เป็นเครื่องมือเสริมในปฏิบัติการที่ใหญ่กว่า เพื่อสร้างภาพความน่าเชื่อถือ อำพรางแหล่งที่มาของแนวเรื่องที่ต้องการเผยแพร่ และสร้างช่องทางที่สามารถนำไปขยายผลได้ในอนาคต นอกจากนี้ การใช้ AI เพื่อสนับสนุนกิจกรรมเหล่านี้ยังอาจช่วยให้ตรวจพบและเปิดโปงปฏิบัติการในภาพรวมได้ด้วย
