กลโกงงาน: งานรีวิวปลอมที่ใช้ AI ช่วย
OpenAI แบนบัญชีที่ดูเหมือนว่ามาจากกัมพูชาและใช้ AI แปลข้อความสำหรับกลโกงงานรีวิวปลอม ซึ่งหลอกให้เหยื่อชำระค่าธรรมเนียม
กรณีศึกษานี้เผยแพร่ครั้งแรกในรายงานประจำเดือนกุมภาพันธ์ 2025(เปิดในหน้าต่างใหม่) ของ OpenAI
ผู้ดำเนินการ
เราแบนบัญชี ChatGPT กลุ่มหนึ่งที่แปลความคิดเห็นสั้นๆ ระหว่างภาษาอูรดูกับภาษาอังกฤษ ซึ่งสอดคล้องกับกลโกงแบบ “ให้ทำภารกิจ(เปิดในหน้าต่างใหม่)” โดยเสนอค่าตอบแทนสูงให้เหยื่อ แต่กำหนดให้เหยื่อนำเงินของตนเข้าสู่ระบบก่อนจึงจะถอน “รายได้” ที่กล่าวอ้างได้ กิจกรรมนี้ดูเหมือนว่ามาจากกัมพูชา ในกลโกงลักษณะนี้ โดยทั่วไปเหยื่อจะสูญเสียทั้ง “รายได้” และเงินของตนเอง เราเริ่มตรวจสอบกิจกรรมนี้หลังได้รับเบาะแสจาก Meta
พฤติกรรม
เครือข่ายนี้ใช้โมเดลของเราเป็นหลักในการแปลความคิดเห็นสั้นๆ ระหว่างภาษาอูรดูกับภาษาอังกฤษ ซึ่งมีลักษณะสอดคล้องกับบทสนทนาระหว่างมิจฉาชีพกับเหยื่อ เราพบการกล่าวถึงการส่งข้อความผ่าน Telegram (ซึ่งดูเหมือนเป็นแพลตฟอร์มหลัก), WhatsApp, SMS รวมถึงฟอรัมและกลุ่มหางานต่างๆ ที่สามารถโพสต์ข้อเสนองานได้
มิจฉาชีพดูเหมือนจะสวมบทบาทหลักสองแบบ แบบแรกคือ “ผู้สรรหาบุคลากร” โดยส่งข้อความติดต่อหาคนที่ไม่รู้จักและโพสต์โฆษณางานทางไกลที่ให้ค่าตอบแทนสูง อีกแบบหนึ่งซึ่งมีกิจกรรมมากกว่าคือ “พี่เลี้ยง” ที่จะติดต่อเป้าหมายต่อจาก “ผู้สรรหาบุคลากร” และสอนวิธีทำงานให้ ผู้สวมบทบาทเป็นพี่เลี้ยงมักกล่าวถึงการฝึกอบรมผ่าน Telegram
บางครั้งมิจฉาชีพยังใช้โมเดลของเราช่วยตรวจแก้ข้อความบนเว็บไซต์ด้วย เว็บไซต์เหล่านี้ดูเหมือนจะเลียนแบบชื่อและรูปลักษณ์ของแบรนด์หรูด้านการออกแบบ แฟชั่น และการท่องเที่ยว ผู้สวมบทบาทเป็น “พี่เลี้ยง” จะอ้างว่ารับสมัครงานในนามของแบรนด์เหล่านั้น จึงเป็นไปได้ว่าเว็บไซต์ดังกล่าวมีไว้เพื่อทำให้กลโกงดูน่าเชื่อถือยิ่งขึ้น
ขั้นตอนดำเนินกลโกง
จากข้อมูลอันจำกัดที่เรามองเห็น มิจฉาชีพดูเหมือนจะใช้ขั้นตอนทั่วไปต่อไปนี้เพื่อนำเป้าหมายตั้งแต่การเริ่มติดต่อไปสู่การหลอกลวง:
โพสต์งาน: เมื่อพิจารณาจากพรอมต์และผลลัพธ์ที่สร้างขึ้น มิจฉาชีพดูเหมือนจะเริ่มจากโพสต์ข้อเสนองานบนฟอรัมออนไลน์หลายแห่ง การรับสมัครมักกล่าวถึงงานทางไกลและเสนอค่าตอบแทนค่อนข้างสูงทั้งที่ใช้เวลาทำงานน้อย เช่น วันละ $300 พร้อมโบนัสสำหรับการทำงานเพียงไม่กี่ชั่วโมง โดยทั่วไป ผู้สวมบทบาทเป็น “ผู้สรรหาบุคลากร” จะเป็นผู้โพสต์
ชักชวน: จากนั้นมิจฉาชีพจะสร้างข้อความในบทบาท “พี่เลี้ยง” เพื่อติดต่อผู้ที่อาจสนใจงานผ่านแอปรับส่งข้อความหลายประเภทตามที่ระบุไว้ และบอกว่าตนทำงานร่วมกับ “ผู้สรรหาบุคลากร” โดย “พี่เลี้ยง” จะอ้างว่าทำงานให้แบรนด์หรูรายหนึ่งซึ่งขบวนการนี้ได้สร้างเว็บไซต์ขึ้นมา พวกเขาจะอธิบายว่างานคือการส่งรีวิวห้าดาวให้เว็บไซต์ของแบรนด์หรูเหล่านั้น โดยอ้างว่าเพื่อเพิ่มคะแนนจากลูกค้า
สร้างความมั่นใจ: ผลลัพธ์ที่สร้างขึ้นมักแสดงให้เห็นว่ามิจฉาชีพจะทำให้เป้าหมายมั่นใจว่างานนี้ถูกต้องตามกฎหมาย เพราะทำในนามของบริษัทที่ดำเนินกิจการมานาน หากเป้าหมายแสดงความกังวล มิจฉาชีพจะอ้างว่าตนก็เคยถูกหลอกมาก่อน แต่โอกาสนี้ปลอดภัย
ฝึกอบรม: หากเป้าหมายยังคงสนใจ ผลลัพธ์ที่สร้างขึ้นบ่งชี้ว่า “พี่เลี้ยง” จะเสนอการฝึกอบรมให้ ซึ่งโดยมากจัดผ่าน Telegram ในช่วงแรก เป้าหมายจะได้รับสิทธิ์ใช้ “บัญชีฝึกอบรม” และต้องส่งงานรีวิววันละ 25–35 รายการ “บัญชีฝึกอบรม” จะแสดงให้เป้าหมายเห็นว่า “รายได้” เพิ่มขึ้นอย่างรวดเร็ว
กระตุ้นความตื่นเต้น: หากเป้าหมายฝึกอบรมต่อ ผลลัพธ์ที่สร้างขึ้นมักระบุว่าจะเสนองานรีวิวแบบ “พิเศษ” หรือ “ขั้นสูงสุด” ซึ่งให้โบนัสมากกว่า “พี่เลี้ยง” จะย้ำว่างานนี้หาได้ยากเพียงใด และเป้าหมายโชคดีแค่ไหนที่ได้รับงาน
“ค่าธรรมเนียมเปิดใช้งาน”: เมื่อ “รายได้” ของเป้าหมายถึงระดับหนึ่ง ผลลัพธ์ที่สร้างขึ้นจะแสดงข้อความจาก “พี่เลี้ยง” ที่บอกว่าต้องจ่าย “ค่าธรรมเนียมเปิดใช้งาน” ก่อนจึงจะถอน “รายได้” ได้ หากจำเป็น มิจฉาชีพจะเร่งเร้าให้เป้าหมายยืมเงินจากเพื่อนหรือครอบครัว
กดดัน: ผลลัพธ์ที่สร้างขึ้นแสดงให้เห็นว่า หากเป้าหมายลังเลที่จะจ่ายเงิน มิจฉาชีพจะก้าวร้าวขึ้นเรื่อยๆ โดยนำไปเปรียบเทียบกับคนทำงานคนอื่นที่มีประสิทธิภาพกว่า และขู่ว่าจะสูญเสียรายได้หากไม่จ่ายเงินเข้าระบบ
หาข้ออ้าง: ในผลลัพธ์ที่สร้างขึ้น หากมีสัญญาณว่าเป้าหมายจ่ายเงินแล้ว มิจฉาชีพจะยกข้ออ้างต่างๆ ว่าเหตุใดจึงยังถอนรายได้ไม่ได้ และมักบอกว่าต้องจ่ายเงินเพิ่ม
ผลกระทบ
บทสนทนาบางส่วนแสดงให้เห็นว่าเป้าหมายไม่ปักใจเชื่ออย่างมาก และข้อความบางส่วนที่มิจฉาชีพสร้างขึ้นใช้มุมมองของพี่เลี้ยงที่พยายามถามว่าเหตุใดเป้าหมายจึงหยุดส่งข้อความ ซึ่งบ่งชี้ว่ากลโกงนี้น่าจะมีอัตราความสำเร็จโดยรวมต่ำ อย่างไรก็ตาม บทสนทนาและรายงานออนไลน์บางส่วนบ่งชี้ว่าเหยื่ออย่างน้อยบางรายได้นำเงินจริงเข้าสู่กลโกงเหล่านี้ เราไม่สามารถตรวจสอบกิจกรรมที่เกิดขึ้นนอกเครื่องมือของเราได้อย่างอิสระ
นโยบายของ OpenAI ห้ามนำผลลัพธ์จากเครื่องมือของเราไปใช้เพื่อฉ้อโกงหรือหลอกลวงโดยเด็ดขาด เรามุ่งมั่นทำงานร่วมกับองค์กรในอุตสาหกรรมและหน่วยงานภาครัฐ เพื่อทำความเข้าใจว่า AI ส่งผลต่อพฤติกรรมของผู้ไม่หวังดีอย่างไร และขัดขวางกลโกงที่นำบริการของเราไปใช้ในทางที่ผิดอย่างจริงจัง เพื่อให้สอดคล้องกับความมุ่งมั่นนี้ เราได้แบ่งปันข้อมูลเกี่ยวกับเครือข่ายกลโกงที่เราขัดขวางกับองค์กรในอุตสาหกรรมและหน่วยงานที่เกี่ยวข้อง เพื่อยกระดับความปลอดภัยร่วมกัน