کارروائی ”محبت کا جال“: محبت کے متلاشیوں کو نشانہ بنانے والا اے آئی سے چلنے والا فراڈ

یہ مطالعاتی جائزہ اصل میں اے آئی کے بدنیتی پر مبنی استعمال میں خلل ڈالنے کے بارے میں OpenAI کی فروری 2026⁠(نئی ونڈو میں کھلتا ہے) کی رپورٹ میں شائع ہوا تھا.

ہم نے ChatGPT اکاؤنٹس کے ایک گروہ اور ایک اے پی آئی صارف پر پابندی لگائی، جو ہمارے ماڈلز سے نیم خودکار رومانی اور کام کا فراڈ چلا رہے تھے اور غالباً ہر ماہ سینکڑوں متاثرین کو لوٹ رہے تھے. غالب امکان ہے کہ یہ سرگرمی کمبوڈیا سے شروع ہوئی اور ملک میں چینی قیادت میں چلنے والی مجرمانہ فراڈ کارروائیوں کے بارے میں حالیہ عوامی رپورٹس⁠(نئی ونڈو میں کھلتا ہے) سے مطابقت رکھتی ہے. چند الگ تھلگ معاملات میں صارفین نے خود کو کمبوڈیا میں فراڈ کا کارکن بتایا، مثلاً ماڈل سے ٹیکس کا مشورہ مانگتے ہوئے اپنا پیشہ ”فراڈیا“ لکھا.

اس نیٹ ورک نے ChatGPT اور ہمارے ماڈلز تک اے پی آئی رسائی استعمال کر کے بڑے پیمانے پر نیم خودکار رومانی اور کام کا فراڈ چلایا، جو منظم طریقۂ کار اور بلا تعارف رابطے پر مبنی فروختی پروگراموں جیسے عملی نمونے کی پیروی کرتا تھا.

1. پنگ: ابتدائی مرحلے میں کارروائی نے اپنے ChatGPT اکاؤنٹس سے ”Klub Romantis“ نامی مہنگی ڈیٹنگ اور ساتھی فراہم کرنے کی خدمت کے لیے تشہیری متن تیار کیے. بعد میں یہ متن سماجی ذرائع ابلاغ پر بامعاوضہ اشتہارات کے طور پر شائع کیے گئے. فراڈیوں نے پُرتعیش طرزِ زندگی کے مواد میں دلچسپی رکھنے والے انڈونیشیائی مردوں کو نشانہ بنایا، اور اشتہاری کلیدی الفاظ میں ”گولف“، ”تفریحی کشتیاں“ اور ”اعلیٰ درجے کا کھانا“ شامل کیے. اشتہارات میں ایک اے آئی گفتگوئی معاون کے روابط تھے، جسے دل لبھانے والی استقبالیہ ملازمہ کا روپ دھارنے کی ہدایت دی گئی تھی. مبینہ استقبالیہ ملازمہ نے اہداف سے خواتین اور تعلقات کی اقسام کی فہرست میں سے انتخاب کرنے کو کہا، پھر انہیں ٹریکنگ یو آر ایل اور پرومو کوڈ کے ذریعے Telegram بھیج دیا.

2. زنگ: Telegram پر پہنچنے کے بعد کارروائی نے ChatGPT استعمال کرنے والے انسانی کارکنوں کو اے پی آئی سے چلنے والی خودکاری کے ساتھ ملایا. استقبالیہ ملازمہ کا روپ دھارے کرداروں نے بڑھتی ہوئی رومانی اور کھلی جنسی زبان میں گفتگو جاری رکھی، پھر اہداف کو ”LoveCode“ اور ”SexAction“ نامی برخط ڈیٹنگ پلیٹ فارموں میں شامل ہونے کی پیشکش کی. پلیٹ فارم پر مبینہ ”دستیاب لڑکیوں“ کے خاکے اور اے آئی سے تیار کردہ اعلانات کا سلسلہ دکھایا جاتا تھا، جن میں فرضی صارفین کو ”مہمات“ مکمل کرنے، انعامات کھولنے اور انعام جیتنے پر مبارک باد دی جاتی تھی.

اعتماد قائم ہونے کے بعد استقبالیہ ملازمہ کا کردار گفتگو ایک ”رہنما“ کے حوالے کر دیتا، جو اہداف پر ”کاموں“ یا ”مہمات“ کا سلسلہ مکمل کرنے کے لیے جذباتی دباؤ ڈالنے والے پیغامات ChatGPT سے تیار اور ترجمہ کراتا تھا۔ ہر اگلے کام کے لیے بینک منتقلی یا رقمی بٹوے سے زیادہ ادائیگی درکار ہوتی، مثلاً ”وی آئی پی کارڈ“ خریدنا، مقابلے میں کسی ”منتخب لڑکی“ کی مدد کرنا یا ہوٹل کی ضمانتی رقم ادا کرنا۔ جعلی استقبالیہ ملازمہ کی یہ تصویر ”LoveCode“ ڈیٹنگ پلیٹ فارم کے لیے ایک فراڈیے نے ChatGPT سے بنائی تھی.

3. اسٹنگ: آخری مرحلے میں فراڈیوں نے ”تلافی کی ادائیگی“ یا ”تصدیقی ضمانتی رقم“ جیسی اضافی فیس گھڑ کر بڑی رقم وصول کرنے کی کوشش کی، جسے وہ ”آخری وصولی“ کہتے تھے۔ فراڈیوں کے ChatGPT میں چسپاں کیے گئے پیغامات سے ظاہر ہوتا ہے کہ متاثرہ شخص کے زیادہ سے زیادہ ممکنہ رقم بھیجنے کے بعد وہ اسے Telegram پر روک دیتے اور معاملہ بند قرار دیتے تھے۔ ایک فراڈیے کے ChatGPT کے ساتھ شیئر کردہ خط میں متاثرہ شخص سے کہا گیا کہ Love Code نظام میں ڈیٹا کی فرضی پروسیسنگ خرابی درست کرنے کے لیے Rp 20,500,000 ($12,000) ادا کرنا لازم ہے، مگر اسے Rp 39,860,000 کا 35% ”انعام“ ملے گا. OpenAI کے تفتیش کاروں نے معلومات چھپائی ہیں.

رومانی فراڈ کے علاوہ اس کارروائی نے اپنے روزمرہ کاروباری امور میں مدد کے لیے بھی ہمارے ماڈلز استعمال کیے. اس میں ChatGPT سے تکنیکی کام مکمل کرنے کی رہنمائی مانگنا شامل تھا، جیسے OpenAI اے پی آئی شامل کرنا یا جعلی ڈیٹنگ خدمت کی ویب سائٹ تازہ کرنا، مالی کھاتوں کا تجزیہ کرنا، اور روزانہ رپورٹیں تیار کرنا جن میں ہر ہدف کو فراڈیوں کی حساب کردہ ”آخری وصولی“ کی قدر دی جاتی تھی، یعنی آخر میں وصول کرنے کے لیے ہدف بنائی گئی تخمینی رقم.

دیگر معاملات میں فراڈیوں نے ChatGPT سے چینی بولنے والے نگرانوں اور انڈونیشیائی بولنے والے فراڈ مرکز کے کارکنوں کے درمیان پیغامات کا ترجمہ کرنے، اور ”ممکنہ اہداف کی تلاش“، ”استقبالیہ ٹیم“ اور ”نگران ٹیم“ نامی شعبوں کی کارکردگی کا سراغ رکھنے کو کہا.

اس نیٹ ورک کے اثرات کا جائزہ احتیاط سے لینا ضروری ہے. ہمارے شواہد کا بنیادی ذریعہ فراڈیوں کی اپنی فراہم کردہ معلومات ہیں. ان معلومات سے اشارہ ملتا ہے کہ فراڈیے بیک وقت سینکڑوں اہداف سے رابطے میں رہے ہوں گے اور روزانہ ہزاروں ڈالر حاصل کرتے ہوں گے. تاہم ہم آزادانہ طور پر تصدیق نہیں کر سکتے کہ یہ دعوے درست تھے یا نہیں.

OpenAI کی پالیسیاں ہمارے آلات کے نتائج کو دھوکا دہی یا فراڈ کے لیے استعمال کرنے کی سختی سے ممانعت کرتی ہیں. ہم صنعتی شراکت داروں اور حکام کے ساتھ مل کر یہ سمجھنے کے لیے پُرعزم ہیں کہ اے آئی مخالفانہ طرزِ عمل کو کیسے متاثر کر رہی ہے، اور اپنی خدمات کا غلط استعمال کرنے والی فراڈ سرگرمیوں میں فعال طور پر خلل ڈالتے ہیں.