ปฏิบัติการ “เวกโฟกัส”: วิศวกรรมสังคมและกิจกรรมชักจูง
OpenAI ระงับบัญชีที่ใช้ AI เพื่อทำวิศวกรรมสังคม วิจัยในประเด็นการเฝ้าระวัง และดำเนินกิจกรรมชักจูงที่มุ่งเป้าไปยังผู้วิจารณ์
กรณีศึกษานี้เผยแพร่ครั้งแรกในรายงานเดือนมิถุนายน 2025(เปิดในหน้าต่างใหม่) ของ OpenAI
ผู้ปฏิบัติการ
เราระงับเครือข่ายขนาดเล็กของบัญชี ChatGPT ที่ใช้โมเดลของเราสร้างโพสต์โซเชียลมีเดีย วิเคราะห์ชุดข้อมูล และแปลอีเมลกับข้อความจากภาษาจีนเป็นภาษาอังกฤษ ซึ่งมีลักษณะคล้ายความพยายามทำวิศวกรรมสังคม บัญชีเหล่านี้ป้อนพรอมต์ภาษาจีนให้โมเดลของเรา และส่วนใหญ่ใช้งานในช่วงเวลาทำการของจีนแผ่นดินใหญ่
บัญชีเหล่านี้สร้างข้อความที่อ้างว่ามาจากพนักงานของหน่วยงานสามแห่งซึ่งมุ่งเน้นประเด็นภูมิรัฐศาสตร์ ได้แก่ “ข่าวโฟกัสเลนส์” “ไบรต์เวฟมีเดียยุโรป” และ “วิชันนารีแอดไวเซอรีกรุ๊ป” (VAG) นอกจากนี้ บัญชี ChatGPT ยังสร้างข้อความที่ตรงกับโพสต์และประวัติส่วนตัวของบัญชี X ซึ่งเชื่อมโยงกับหน่วยงานทั้งสามแห่งนี้ ผู้ก่อภัยคุกคามระบุไว้ต่างหากว่าหน่วยงานเหล่านี้เป็นองค์กรบังหน้าสำหรับรวบรวมและวิเคราะห์ข่าวกรอง เราจึงตั้งชื่อปฏิบัติการนี้ตามชื่อเหล่านั้นว่า “เวกโฟกัส”
พฤติกรรม
ปฏิบัติการนี้ใช้ ChatGPT สนับสนุนงานหลักสี่ด้าน ด้านแรก บัญชีเหล่านี้ใช้โมเดลของเราเป็นหลักเพื่อสร้างโพสต์โซเชียลมีเดียและประวัติสำหรับตัวตนออนไลน์ที่ดูเหมือนเป็นส่วนหนึ่งของปฏิบัติการชักจูงแบบลับๆ โพสต์เหล่านี้เผยแพร่ผ่านบัญชี X ที่ปลอมตัวเป็นนักข่าวและนักวิเคราะห์ภูมิรัฐศาสตร์
ทวีตที่ผู้ก่อภัยคุกคามรายนี้สร้างด้วย ChatGPT และโพสต์จากบัญชี X ที่เผยแพร่เนื้อหาของผู้ก่อภัยรายนี้อย่างต่อเนื่อง
ด้านที่สอง บัญชีเหล่านี้ปรับปรุงและแปลหนังสือโต้ตอบที่ส่งถึงวุฒิสมาชิกสหรัฐฯ เกี่ยวกับการเสนอชื่อเจ้าหน้าที่ฝ่ายบริหารคนหนึ่ง เราไม่สามารถยืนยันได้โดยอิสระว่ามีการส่งหนังสือโต้ตอบเหล่านั้นจริงหรือไม่
ด้านที่สาม บัญชีเหล่านี้ถามคำถามพื้นฐานหลายข้อเกี่ยวกับการโจมตีเครือข่ายคอมพิวเตอร์และเครื่องมือเจาะระบบ ซึ่งโมเดลของเราให้เพียงคำอธิบายทั่วไปเกี่ยวกับการใช้งานและขีดความสามารถของเครื่องมือเหล่านั้น คำถามเหล่านี้ขาดความซับซ้อนเมื่อเทียบกับผู้ก่อภัยทางไซเบอร์ที่เราจะกล่าวถึงในช่วงหลังของรายงาน และบ่งชี้ว่าผู้ถามมีความเชี่ยวชาญในระดับต่ำ
ด้านสุดท้าย ผู้ใช้ขอให้แปลข้อความจากภาษาจีนเป็นภาษาอังกฤษเป็นประจำ โดยข้อความเหล่านั้นดูเหมือนออกแบบมาเพื่อสร้างปฏิสัมพันธ์กับคู่สนทนาที่ไม่ทราบตัวตน และท้ายที่สุดเพื่อล้วงข้อมูลจากบุคคลเหล่านั้น ข้อความบางส่วนถูกโพสต์บนโซเชียลมีเดียเพื่อตอบกลับนักข่าวและนักวิจัย ส่วนข้อความอื่นมีลักษณะคล้ายข้อความส่วนตัวที่ไม่ปรากฏในผลการค้นหาออนไลน์
การติดต่อโดยไม่ได้นัดหมายจากบัญชี X ที่เชื่อมโยงกับปฏิบัติการนี้ โดยส่งข้อความถึงนักวิจัยคนหนึ่งอย่างเปิดเผยบน X
ผลลัพธ์
วัตถุประสงค์หลักของเครือข่ายนี้ดูเหมือนจะเป็นการรวบรวมข่าวกรองโดยปลอมตัวเป็นผู้เชี่ยวชาญที่อยู่ในยุโรปหรือตุรกี ในเนื้อหาที่สร้างและโพสต์ออนไลน์ ผู้ปฏิบัติการอธิบายว่า “ข่าวโฟกัสเลนส์” เป็นหน่วยงานอิสระที่ตั้งอยู่ในยุโรปและเชี่ยวชาญด้านการวิเคราะห์และการรายงาน อย่างไรก็ตาม ผู้ปฏิบัติการยังอ้างว่าแท้จริงแล้วแบรนด์นี้ใช้เป็นฉากบังหน้าเพื่อเอื้อต่อการรวบรวม วิเคราะห์ และเผยแพร่ข่าวกรอง
ตามข้อมูลบนเว็บไซต์ที่เชื่อมโยงไว้ในประวัติโซเชียลมีเดีย วิชันนารีแอดไวเซอรีกรุ๊ปตั้งอยู่ในตุรกีและเชี่ยวชาญด้านบริการให้คำปรึกษาภูมิรัฐศาสตร์ระดับมืออาชีพ ผู้ปฏิบัติการใช้โมเดลของเราแปลคำสั่งจากภาษาจีนเป็นภาษาอังกฤษ โดยอ้างว่า VAG Group ต้องการข้อมูลเกี่ยวกับนโยบายเศรษฐกิจและการเงินของสหรัฐฯ และยินดีจ่ายค่าตอบแทน 2,000 ดอลลาร์ต่อชั่วโมงสำหรับการสัมภาษณ์ นอกจากนี้ พวกเขายังแปลข้อเสนอจ่ายเงินเพื่อแลกกับเอกสารลับ
เว็บไซต์ของ VAG Group มีทั้งเวอร์ชันภาษาตุรกีและภาษาอังกฤษ และในหน้าติดต่อเราของเว็บไซต์เวอร์ชันภาษาอังกฤษ จะมองเห็นอักษรจีนคำว่า “ติดต่อเรา” (聯絡) ในเมนู นี่เป็นข้อความภาษาจีนเพียงแห่งเดียวในโดเมนทั้งหมด
ภาพหน้าจอหน้าติดต่อเราของ VAG Group ซึ่งมองเห็นอักษรจีนคำว่า “ติดต่อเรา” (聯絡) ในเมนูแบบเลื่อนลง
เนื้อหาบางส่วนของเครือข่ายนี้มีลักษณะคล้ายสื่อการตลาดสำหรับปฏิบัติการชักจูงในวงกว้าง ตามคำกล่าวอ้างที่เราไม่สามารถตรวจสอบได้อย่างอิสระ ปฏิบัติการนี้ใช้แมชชีนเลิร์นนิง การประมวลผลภาษาธรรมชาติ และการเก็บข้อมูลอัตโนมัติ เพื่อระบุบุคคลและหัวข้อที่มีอิทธิพลบนโซเชียลมีเดีย
ผลกระทบ
บัญชีโซเชียลมีเดียที่เกี่ยวข้องกับกิจกรรมนี้ไม่ได้รับการมีส่วนร่วมจากผู้ใช้จริงอย่างมีนัยสำคัญบนโลกออนไลน์ มีเพียงบัญชี X ของข่าวโฟกัสเลนส์ที่มีผู้ติดตามจำนวนมากถึง 17,000 คน อย่างไรก็ตาม บัญชีนี้สร้างขึ้นในเดือนพฤศจิกายน 2014 โดยใช้ชื่ออื่น ทวีตเป็นเวลาสามวัน แล้วเงียบหายไปจนถึงกลางปี 2024 ลักษณะนี้พบได้ทั่วไปในบัญชีที่ถูกยึดและนำกลับมาใช้เพื่อจุดประสงค์อื่น จึงควรพิจารณาจำนวนผู้ติดตามด้วยความระมัดระวัง
เมื่อประเมินด้วยมาตรวัด Breakout Scale(เปิดในหน้าต่างใหม่) สำหรับผลกระทบของปฏิบัติการชักจูง เราจัดให้ส่วนที่เปิดเผยต่อสาธารณะของปฏิบัติการนี้อยู่ในระดับล่างของหมวด 2 กล่าวคือ มีกิจกรรมบนหลายแพลตฟอร์ม แต่แทบไม่มีหลักฐานว่าผู้ใช้จริงนำเนื้อหาไปเผยแพร่ต่อหรือแชร์ในวงกว้าง หลักฐานที่มีอยู่ยังไม่เพียงพอที่จะประเมินผลกระทบจากการทำวิศวกรรมสังคมและกิจกรรมลับอื่นๆ ของปฏิบัติการนี้