ปฏิบัติการหลอกลวง: เครือข่ายฉ้อโกงออนไลน์

กรณีศึกษานี้เผยแพร่ครั้งแรกในรายงานประจำเดือนตุลาคม 2025⁠(เปิดในหน้าต่างใหม่) ของ OpenAI

เครือข่ายที่คาดว่ามีต้นทางจากกัมพูชา เมียนมา และไนจีเรีย ใช้ ChatGPT ในทางมิชอบเพื่อพยายามฉ้อโกงผู้คนทางออนไลน์

เรามุ่งมั่นที่จะตรวจหา ป้องกัน และยับยั้งความพยายามใช้โมเดลของเราในทางมิชอบเพื่อก่ออันตราย การหลอกลวงเป็นหนึ่งในการใช้ในทางมิชอบเหล่านั้น โดยเราตรวจพบและระงับผู้ไม่หวังดีที่พยายามใช้โมเดลของเราเพื่อหลอกลวงและฉ้อโกงผู้คน ในช่วงสามเดือนที่ผ่านมา เราได้ยับยั้งเครือข่ายหลอกลวงที่คาดว่ามีต้นทางจากกัมพูชา เมียนมา และไนจีเรีย ระหว่างตรวจสอบรูปแบบการใช้ในทางมิชอบเหล่านี้ เรายังพบว่ามีผู้คนจำนวนมากใช้โมเดลของเราเพื่อช่วยระบุกลโกง ซึ่งสะท้อนให้เห็นบทบาทของ AI ในการต่อต้านการฉ้อโกง รายงานฉบับนี้กล่าวถึงกรณีการใช้งานทั้งสองรูปแบบ

การใช้โมเดลของเราในทางมิชอบเพื่อสนับสนุนการหลอกลวงมีตั้งแต่ผู้กระทำการเพียงลำพัง ไปจนถึงปฏิบัติการขนาดใหญ่ที่ดำเนินอย่างต่อเนื่องและคาดว่าเชื่อมโยงกับกลุ่มอาชญากรรมที่จัดตั้งเป็นขบวนการ ไม่ว่าจะมีต้นทางหรือกลวิธีเฉพาะอย่างไร กิจกรรมหลอกลวงที่เรายับยั้งมักดำเนินตามรูปแบบเดียวกัน ซึ่งเราเรียกว่า ping (ติดต่อคนแปลกหน้า) zing (ปลุกความตื่นเต้นหรือตื่นตระหนก) และ sting (รีดเอาเงินหรือข้อมูลมีค่า)

มิจฉาชีพเหล่านี้เริ่มจากเผยแพร่เนื้อหาไปตามบริการรับส่งข้อความและอินเทอร์เน็ต รวมถึงลงโฆษณาบนโซเชียลมีเดีย ไม่ว่าเนื้อหานั้นจะสร้างด้วย AI หรือไม่ก็ตาม จากนั้น พวกเขาจะพยายามทำให้ผู้ที่ตอบกลับรู้สึกตื่นเต้นกับโอกาสทำกำไรงาม หรือหวาดกลัวว่าจะสูญเสียเงินในไม่ช้า แล้วอาศัยอารมณ์นั้นโน้มน้าวเป้าหมายให้มอบเงินหรือข้อมูลที่ละเอียดอ่อน

เรายังพบหลายกรณีที่โมเดลของเราน่าจะช่วยปกป้องผู้คนจากการฉ้อโกง เราพบหลักฐานว่าผู้คนใช้ ChatGPT ช่วยระบุและหลีกเลี่ยงกลโกงออนไลน์หลายล้านครั้งต่อเดือน และในทุกปฏิบัติการหลอกลวงที่กล่าวถึงในรายงานนี้ เราพบว่าโมเดลช่วยให้ผู้คนระบุได้อย่างถูกต้องว่าเป็นกลโกง พร้อมแนะนำมาตรการความปลอดภัยที่เหมาะสม ปัจจุบันเราประเมินว่า ผู้คนใช้ ChatGPT เพื่อระบุกลโกงมากกว่านำไปใช้ก่อเหตุหลอกลวงถึงสามเท่า

ตัวอย่างที่ผู้ตรวจสอบของ OpenAI นำภาพหน้าจอข้อความ SMS หลอกลวงที่ตนได้รับไปใส่ใน ChatGPT และใช้โมเดลระบุได้สำเร็จว่าเป็นกลโกง ในกรณีนี้ ผู้ก่อภัยคุกคามพยายามปลอมตัวเป็นเจ้าหน้าที่สรรหาบุคลากรของ TikTok

นับตั้งแต่รายงานฉบับก่อน เราได้เสริมศักยภาพในการตรวจหาและยับยั้งการหลอกลวงให้แข็งแกร่งยิ่งขึ้น เราได้ยับยั้งเครือข่ายหลอกลวงเพิ่มเติมซึ่งดูเหมือนมีต้นทางจากกัมพูชา เมียนมา และไนจีเรีย เมื่อนำมาพิจารณาร่วมกับการยับยั้งก่อนหน้านี้ การปิดเครือข่ายเหล่านี้ช่วยให้เรามองเห็นแนวโน้มใหม่ในปฏิบัติการหลอกลวงหลายแห่งจากประเทศต่างๆ

กิจกรรมหลอกลวงส่วนใหญ่ที่เรายับยั้งเป็นการนำ AI มาเสริมแผนหลอกลวงที่มีอยู่เดิม แทนที่จะสร้างแผนรูปแบบใหม่โดยมี AI เป็นแกนหลัก ปฏิบัติการหลอกลวงทั้งหมดที่เราตรวจพบและระงับในปีนี้ใช้ AI เป็นหลักเพื่อเพิ่มขนาดและประสิทธิภาพการดำเนินงาน โดยทั่วไปจะใช้โมเดลของเราเพื่อแปลภาษา เขียนข้อความ และสร้างเนื้อหาสำหรับโซเชียลมีเดีย

ตัวอย่างเช่น เมื่อไม่นานมานี้ เราระงับปฏิบัติการหลอกลวงที่คาดว่ามีต้นทางจากกัมพูชาและไนจีเรีย ซึ่งแอบอ้างเป็น “บริษัทลงทุน” เพื่อพยายามฉ้อโกงเหยื่อในหลายประเทศ มิจฉาชีพสร้างเว็บไซต์และโฆษณาออนไลน์เพื่อประชาสัมพันธ์บริษัทปลอมเหล่านี้ และใช้บัญชีโซเชียลมีเดียที่น่าจะไม่ใช่บัญชีจริง แอบอ้างเป็นผู้เชี่ยวชาญด้านการซื้อขายเพื่อชักชวนผู้คนเข้าร่วมกลุ่มสนทนาส่วนตัว ผู้ก่อภัยคุกคามอ้างว่าจะมอบโอกาสทำกำไรงามโดยไร้ความเสี่ยง ก่อนพยายามล่อให้เหยื่อที่อาจตกเป็นเป้าหมายโอนเงินเข้าสู่แพลตฟอร์มซื้อขายที่ไม่มีอยู่จริง ในกลโกงทั้งหมด มิจฉาชีพใช้โมเดลของเราเป็นหลักเพื่อสร้างและแปลข้อความโต้ตอบ สร้างเนื้อหาสำหรับเว็บไซต์และบัญชีโซเชียลมีเดีย ตลอดจนค้นคว้าข้อมูลเบื้องต้น

ในอีกกรณีหนึ่ง เราระงับศูนย์หลอกลวงที่มีความเป็นไปได้สูงว่าตั้งอยู่ในเมียนมา ซึ่งใช้โมเดลของเราทั้งเพื่อสร้างเนื้อหาสำหรับแผนฉ้อโกงและจัดการงานธุรกิจประจำวัน งานเหล่านี้รวมถึงการจัดตารางเวลา ร่างประกาศภายใน จัดสรรโต๊ะทำงานและที่พัก ตลอดจนจัดการบัญชีการเงิน ผู้ดำเนินการบางรายสอบถามถึงโทษทางอาญาสำหรับผู้ที่ถูกจับได้ว่าก่อเหตุหลอกลวงทางออนไลน์

มิจฉาชีพที่เรายับยั้งไม่ได้ใช้โมเดลของเราในลักษณะเดียวกันหรือซับซ้อนเท่ากันทุกราย การโต้ตอบของมิจฉาชีพกับ ChatGPT ส่วนใหญ่เป็นงานที่ค่อนข้างเรียบง่าย เช่น การแปลภาษา แต่ปฏิบัติการหลอกลวงบางแห่งมีเป้าหมายใหญ่และซับซ้อนกว่านั้น

ตัวอย่างเช่น ปฏิบัติการหลอกลวงแห่งหนึ่งที่เรายับยั้งและคาดว่ามีต้นทางจากกัมพูชา ใช้โมเดลของเราสร้างประวัติโดยละเอียดให้ผู้เชี่ยวชาญด้านการลงทุนปลอมและพนักงานสมมติของบริษัทซื้อขายปลอม จากนั้น มิจฉาชีพขอให้ ChatGPT เขียนข้อความบนโซเชียลมีเดียโดยใช้สำนวนของตัวละครเหล่านั้น ผู้ก่อภัยคุกคามมักป้อนข้อความที่ดูเหมือนได้รับจากเป้าหมายลงในโมเดลของเรา แล้วขอให้โมเดลสนทนาต่อโดยสวมบทบาทเป็นบุคคลปลอม

ปฏิบัติการหลอกลวงอีกแห่งหนึ่งซึ่งคาดว่ามีต้นทางจากกัมพูชาเช่นกัน เริ่มจากใช้โมเดลของเราสร้างข้อความ SMS สำหรับติดต่อคนแปลกหน้า แล้วส่งเป็นจำนวนมากไปยังหมายเลขโทรศัพท์ในสหรัฐฯ ข้อความหนึ่งถูกส่งถึงผู้ตรวจสอบของ OpenAI คล้ายกับกรณีที่เรารายงานเมื่อเดือนมิถุนายน ข้อความ SMS เหล่านี้มีคำเชิญให้เข้าร่วมกลุ่ม WhatsApp ซึ่งถูกระงับในภายหลัง โดยตั้งชื่อให้คล้ายกับบริษัทลงทุนที่มีอยู่จริง

จากชุดข้อความ WhatsApp ที่ส่งถึงผู้ตรวจสอบของ OpenAI หากเป้าหมายที่อาจตกเป็นเหยื่อเข้าร่วมกลุ่มใดกลุ่มหนึ่ง ก็จะได้เห็น “บทสนทนา” ระหว่างบัญชีต่างๆ ราวหกบัญชีที่พูดคุยกันเรื่องการลงทุนภายในเวลาไม่นาน บัญชีหนึ่งแอบอ้างเป็น “ผู้เชี่ยวชาญด้านการลงทุน” ส่วนบัญชีที่เหลือแอบอ้างเป็นนักลงทุนที่มีระดับความมั่นใจและประสบการณ์แตกต่างกัน บทสนทนาทั้งหมดนี้สร้างขึ้นโดยมิจฉาชีพ ซึ่งแปลจากภาษาจีนมาพร้อมกันทั้งชุด โดยน่าจะต้องการสร้างภาพว่ากลุ่มนี้คึกคักและเต็มไปด้วยนักลงทุนที่กระตือรือร้นและประสบความสำเร็จ ท้ายที่สุด “ผู้เชี่ยวชาญด้านการลงทุน” จะแนะนำให้เป้าหมายลองลงทุนด้วย

อีกกรณีหนึ่ง ปฏิบัติการหลอกลงทุนที่มีความเป็นไปได้สูงว่ามีต้นทางจากไนจีเรีย ขอคำแนะนำจากโมเดลแบบทีละขั้นตอนเกี่ยวกับการใช้โฆษณาบนโซเชียลมีเดียเพื่อเข้าถึงผู้มีฐานะในลาตินอเมริกา การปกปิดตำแหน่งที่ตั้ง และการหลีกเลี่ยงข้อจำกัดของแพลตฟอร์มโซเชียลมีเดีย โดยสั่งให้โมเดลอ่านข้อกำหนดการให้บริการที่เปิดเผยต่อสาธารณะของแพลตฟอร์ม แล้วขอให้ตรวจสอบว่าเนื้อหาโฆษณาที่เสนอเป็นไปตามข้อกำหนดหรือไม่

มิจฉาชีพ โดยเฉพาะศูนย์หลอกลวงขนาดใหญ่ มักไม่ยอมเลิกรา บ่อยครั้ง เมื่อถูกยับยั้ง พวกเขาจะพยายามกลับมาดำเนินกิจกรรมที่ละเมิดนโยบายอีกครั้ง พร้อมปรับเปลี่ยนพฤติกรรมบางอย่าง ซึ่งน่าจะมีจุดประสงค์เพื่อหลบเลี่ยงการตรวจพบในอนาคต นี่เป็นเหตุผลหนึ่งที่ภาคอุตสาหกรรมควรแบ่งปันข้อมูลเชิงลึกเกี่ยวกับกิจกรรมที่เปลี่ยนแปลงไปของคนร้าย ดังเช่นกรณีที่ OpenAI และ Meta ต่างแบ่งปันข้อมูลเกี่ยวกับผู้ก่อภัยคุกคาม ซึ่งช่วยให้มีการตรวจสอบและบังคับใช้มาตรการเพิ่มเติม

เราได้พบว่ามิจฉาชีพพยายามอำพรางการใช้ AI ในเนื้อหาออนไลน์และการสื่อสารกับเป้าหมาย ซึ่งอาจเป็นการตอบสนองต่อการถูกยับยั้งหรือกระแสสนทนาออนไลน์ในวงกว้างเกี่ยวกับสัญญาณที่อาจเผยให้เห็นว่ามีการใช้ AI ตัวอย่างหนึ่งคือปฏิบัติการหลอกลวงที่คาดว่ามีต้นทางจากกัมพูชาสั่งให้โมเดลนำเครื่องหมายขีดยาวออกจากคำตอบ

ในกรณีหนึ่ง มิจฉาชีพพยายามอธิบายเหตุที่ทรัพย์สินบนโซเชียลมีเดียของตนถูกปิดเป็นวงกว้าง ด้วยการแต่งข้อแก้ตัวว่าทำไมจึงถูกระงับ กรณีนี้เกี่ยวข้องกับศูนย์หลอกลวงที่กล่าวถึงข้างต้น ซึ่งคาดว่ามีต้นทางจากกัมพูชาและดำเนินการผ่าน SMS กับ WhatsApp หลังจาก WhatsApp ระงับ “กลุ่มลงทุน” ที่เชื่อมโยงกับปฏิบัติการดังกล่าว ผู้ดำเนินการก็เริ่มสร้างข้อความโดยอ้างว่าคู่แข่งแจ้งรายงานเท็จเกี่ยวกับกลุ่มเหล่านั้น ซึ่งน่าจะเป็นความพยายามแก้ตัวเรื่องการถูกระงับ

ภาพหน้าจอข้อความ WhatsApp ที่ปฏิบัติการหลอกลวงซึ่งเชื่อมโยงกับกัมพูชาส่งถึงผู้ตรวจสอบของ OpenAI หลังจาก WhatsApp ปิดเครือข่ายดังกล่าว