กลโกงหลอกให้รัก: กระบวนการเชือดหมูที่ใช้ AI ช่วย
OpenAI แบนบัญชีที่ดูเหมือนมีต้นทางจากกัมพูชาและใช้ AI แปลและสร้างบทสนทนาสำหรับกลโกงหลอกให้รักและลงทุน
กรณีศึกษานี้เผยแพร่ครั้งแรกในรายงานประจำเดือนกุมภาพันธ์ 2025(เปิดในหน้าต่างใหม่) ของ OpenAI
ผู้ปฏิบัติการ
เราแบนกลุ่มบัญชี ChatGPT ที่ใช้แปลและสร้างความคิดเห็นสั้นๆ เป็นภาษาญี่ปุ่น จีน และอังกฤษ กิจกรรมนี้ดูเหมือนมีต้นทางจากกัมพูชาและมีลักษณะสอดคล้องกับกลโกงหลอกให้รักและลงทุน (หรือที่เรียกว่า “กลโกงเชือดหมู”) เมื่อไม่นานมานี้ Meta ตรวจพบกิจกรรมที่เกี่ยวข้อง(เปิดในหน้าต่างใหม่)บนแพลตฟอร์มของตน ซึ่งดูเหมือนมีต้นทางจากศูนย์ปฏิบัติการหลอกลวงที่เพิ่งตั้งขึ้นในกัมพูชา
พฤติกรรม
เครือข่ายนี้ใช้โมเดลของเราแปลและสร้างความคิดเห็นสั้นๆ ภาษาหลักของผู้ปฏิบัติการเหล่านี้ดูเหมือนจะเป็นภาษาจีน ผลลัพธ์ที่ได้มีหลายภาษา โดยเฉพาะภาษาญี่ปุ่นและจีน รวมถึงภาษาอังกฤษด้วย
ผู้ปฏิบัติการใช้โมเดลของเราเพื่อทำกิจกรรมหลักสองอย่าง อย่างแรก พวกเขาสร้างความคิดเห็นเพื่อโพสต์แบบสาธารณะบนแพลตฟอร์มโซเชียลมีเดียต่างๆ ซึ่งรวมถึง Facebook, X และ Instagram โดยทั่วไป บัญชีโซเชียลมีเดียแต่ละบัญชีจะใช้รูปโปรไฟล์หญิงสาวอย่างน้อยหนึ่งรูป เราประเมินว่ารูปเหล่านี้อย่างน้อยบางส่วนคัดลอกมาจากนางแบบหรืออินฟลูเอนเซอร์ตัวจริง ไม่ได้สร้างด้วย AI
ความคิดเห็นที่สร้างขึ้นส่วนใหญ่ถูกโพสต์ตอบโพสต์บนโซเชียลมีเดียของบุคคลจริง โพสต์บางรายการที่ผู้ดำเนินการเข้าไปตอบมีอายุหลายเดือนหรือหลายปีแล้ว ปฏิบัติการนี้มักมุ่งเป้าไปที่ผู้ชายซึ่งโปรไฟล์สาธารณะบ่งชี้ว่ามีอายุมากกว่า 40 ปี และหลายคนทำงานด้านการแพทย์ ปฏิบัติการนี้มักตอบโพสต์เกี่ยวกับกอล์ฟ ซึ่งบ่งชี้ว่ามีการวางกลยุทธ์เลือกเป้าหมายอย่างจงใจ บางครั้งมิจฉาชีพก็โพสต์เกี่ยวกับประเด็นการเมืองหรือเหตุการณ์ปัจจุบัน
ความคิดเห็นบน Facebook ที่ผู้ปฏิบัติการรายนี้สร้างด้วยโมเดลของเราและโพสต์ตอบความคิดเห็นเรื่องกอล์ฟของบุคคลที่ดูเหมือนไม่เกี่ยวข้องกับปฏิบัติการนี้ รูปโปรไฟล์ของบัญชีมิจฉาชีพคัดลอกมาจากอินฟลูเอนเซอร์ด้านแฟชั่นและความงามชาวอเมริกัน โดยโพสต์ต้นฉบับมีอายุมากกว่าหนึ่งเดือนแล้วในขณะที่บัญชีมิจฉาชีพเข้าไปแสดงความคิดเห็น
ความคิดเห็นที่โมเดลของเราสร้างขึ้นและโพสต์โดยบัญชีที่ผ่านการยืนยันบน X เพื่อตอบทวีตจากบัญชีที่ดูเหมือนไม่เกี่ยวข้องกับกลโกงนี้ รูปโปรไฟล์ของบัญชีดังกล่าวคัดลอกมาจากอินฟลูเอนเซอร์ด้านแฟชั่นและความงามชาวอเมริกันคนเดียวกัน โดยทวีตต้นฉบับมีอายุเกือบหกเดือนแล้ว
อย่างที่สองและเกิดขึ้นบ่อยกว่า ผู้ดำเนินการจะสร้างความคิดเห็นสั้นๆ ที่ดูคล้ายส่วนหนึ่งของบทสนทนาออนไลน์ โดยทั่วไปจะเป็นการแปลความคิดเห็นจากภาษาจีนเป็นภาษาเป้าหมาย (ญี่ปุ่นหรืออังกฤษ) หรือแปลจากภาษาเป้าหมายกลับเป็นภาษาจีน ลักษณะนี้สอดคล้องกับการที่มิจฉาชีพใช้โมเดลเพื่อแปลบทสนทนาที่กำลังดำเนินอยู่เป็นหลัก
บางครั้งบัญชีเหล่านี้จะขอให้โมเดลสร้างข้อความตอบกลับด้วยน้ำเสียงแบบใดแบบหนึ่ง เช่น หญิงสาวที่พูดจาเชิงเกี้ยวพาราสี บางครั้งมีการให้รายละเอียดประวัติอย่างครบถ้วนเพื่อกำหนดแนวทางให้โมเดลตอบ เช่น ชื่อ ประวัติการศึกษา งาน ที่อยู่ และงานอดิเรกของตัวตนปลอม ประวัติเหล่านี้มักระบุว่าตัวตนปลอมดังกล่าวลงทุนออนไลน์เป็นงานอดิเรก
มิจฉาชีพดูเหมือนจะใช้เครื่องมือและแพลตฟอร์มหลายประเภทเพื่อติดต่อเป้าหมาย การสืบสวนของเราพบหลักฐานว่าพวกเขาใช้เครื่องมือต่างๆ ซึ่งรวมถึง LINE, WhatsApp, X, Facebook, Instagram, บริการรับส่งข้อความอีกหลายประเภท ฟังก์ชัน “ซ่อนอีเมลของฉัน” ของ Apple(เปิดในหน้าต่างใหม่) ตลอดจนแพลตฟอร์มคริปโทเคอร์เรนซีและการซื้อขายเงินตราต่างประเทศ
รูปแบบการดำเนินการ
จากข้อมูลเฉพาะส่วนที่เรามองเห็นเกี่ยวกับกิจกรรมนี้ มิจฉาชีพดูเหมือนดำเนินการตามขั้นตอนทั่วไปต่อไปนี้ เพื่อชักนำเป้าหมายจากการเริ่มมีปฏิสัมพันธ์ไปสู่การลงทุนที่เป็นการฉ้อโกง
การมีปฏิสัมพันธ์ในที่สาธารณะ: มิจฉาชีพจะแสดงความคิดเห็นในโพสต์โซเชียลมีเดียของเป้าหมาย ความคิดเห็นเหล่านี้มักลงท้ายด้วยคำถาม เช่น “คุณคิดอย่างไรเกี่ยวกับ [หัวข้อ]?” ซึ่งน่าจะช่วยเพิ่มโอกาสที่เป้าหมายจะตอบโต้ มีไม่กี่กรณีที่พวกเขาแสดงความคิดเห็นเรื่องการเมือง แต่ส่วนใหญ่มักพูดถึงกอล์ฟ
คาดว่าเป็นการส่งข้อความโดยตรง: จากนั้นมิจฉาชีพจะสร้างความคิดเห็นสั้นๆ ในลักษณะสนทนา แม้เราจะมองไม่เห็นทั้งหมดว่าความคิดเห็นเหล่านี้ถูกนำไปใช้ที่ไหนและอย่างไร แต่เนื้อหาสอดคล้องกับสถานการณ์ที่มิจฉาชีพและเป้าหมายเริ่มแลกเปลี่ยนข้อความโดยตรงกัน
การส่งข้อความที่ปลอดภัย: หลังจากนั้นไม่นาน ซึ่งมักอยู่ภายในไม่กี่วัน มิจฉาชีพจะสร้างข้อความที่ชักชวนให้ย้ายไปใช้แอปรับส่งข้อความที่ปลอดภัยกว่า บางครั้งจะอ้างว่ามิจฉาชีพไม่ไว้ใจโซเชียลมีเดีย ส่วนบางครั้งก็ยกเหตุผลด้านความสะดวก เช่น กำลังจะไปยังสถานที่ที่เข้าใช้โซเชียลมีเดียไม่ได้
การสร้างความสัมพันธ์เชิงรักใคร่: มิจฉาชีพจะเขียนและแปลข้อความที่แสดงความรักและความใกล้ชิดมากขึ้นเรื่อยๆ หากเป้าหมายขอรูปของ “ผู้หญิง” ที่กำลังคุยด้วย มิจฉาชีพจะหาข้ออ้างบ่ายเบี่ยง
การชักนำด้านการเงิน: มิจฉาชีพจะเขียนและแปลข้อความโอ้อวดว่าทำเงินได้เป็นจำนวนมากจากการลงทุนออนไลน์ในเงินตราต่างประเทศ คริปโทเคอร์เรนซี หรือทองคำ มักกล่าวอ้างว่าความสำเร็จนี้มาจากการทำตามคำแนะนำของญาติที่ทำงานด้านการเงิน มิจฉาชีพจะเร่งเร้าให้เป้าหมายเริ่มลงทุนด้วยวิธีเดียวกัน และเสนอที่จะคอยแนะนำตลอดกระบวนการ
การฉ้อโกง: มิจฉาชีพจะเขียนและแปลข้อความเพื่อพยายามโน้มน้าวให้เหยื่อโอนเงินเข้าแอปซื้อขาย พร้อมจูงใจด้วยการกล่าวอ้างว่าพวกเขาทำกำไรได้มากเพียงใด เมื่อใดก็ตามที่เหยื่อพยายามถอน “กำไร” มิจฉาชีพจะยกข้ออ้าง เช่น ต้องชำระค่าธรรมเนียมก่อน
รูปแบบกิจกรรมนี้สอดคล้องกับรายงานที่เปิดเผยต่อสาธารณะ(เปิดในหน้าต่างใหม่)เกี่ยวกับวิธีการทำงานโดยทั่วไปของกลโกงประเภทนี้
ผลกระทบ
กิจกรรมนี้ดูเหมือนมีความพยายามที่ไม่สำเร็จและล้มเหลวอยู่หลายครั้ง บทสนทนาบางส่วนที่มิจฉาชีพประมวลผลผ่านโมเดลของเราจบลงด้วยการที่เป้าหมายระบุว่านี่คือกลโกง หรือบอกให้มิจฉาชีพเลิกยุ่งกับตน นอกจากนี้ เรายังพบโพสต์ของมิจฉาชีพบนโซเชียลมีเดียที่ไม่มีใครมีปฏิสัมพันธ์ด้วยเลย
อย่างไรก็ตาม บทสนทนาบางส่วนกล่าวถึงเงินหลายพันดอลลาร์ (หรือสกุลเงินอื่นในมูลค่าเทียบเท่า) ว่าเป็นจำนวนเงินของธุรกรรมแต่ละครั้ง เมื่อพิจารณาลักษณะการใช้โมเดลของเราโดยผู้ดำเนินการเหล่านี้ เราไม่อาจทราบได้ว่าธุรกรรมทางการเงินดังกล่าวเกิดขึ้นจริงหรือไม่ แต่ข้อความอ้างอิงในบทสนทนาบ่งชี้ว่าอย่างน้อยในบางกรณี มิจฉาชีพสามารถฉ้อโกงเป้าหมายได้สำเร็จ
นโยบายของ OpenAI ห้ามนำผลลัพธ์จากเครื่องมือของเราไปใช้เพื่อการฉ้อโกงหรือหลอกลวงโดยเด็ดขาด เรามุ่งมั่นร่วมมือกับองค์กรอื่นในอุตสาหกรรมและหน่วยงานที่เกี่ยวข้อง เพื่อทำความเข้าใจว่า AI ถูกนำไปใช้ในพฤติกรรมที่เป็นภัยอย่างไร และขัดขวางกิจกรรมหลอกลวงที่ใช้บริการของเราในทางมิชอบอย่างจริงจัง เพื่อให้สอดคล้องกับคำมั่นนี้ เราได้แบ่งปันข้อมูลเกี่ยวกับเครือข่ายหลอกลวงที่เราขัดขวางไว้กับองค์กรอื่นในอุตสาหกรรมและหน่วยงานที่เกี่ยวข้องแล้ว