فراڈ کارروائیاں: آن لائن فراڈ نیٹ ورکس

یہ کیس اسٹڈی اصل میں OpenAI کی اکتوبر 2025⁠(نئی ونڈو میں کھلتا ہے) کی رپورٹ میں شائع ہوئی تھی.

ممکنہ طور پر کمبوڈیا، میانمار اور نائجیریا سے چلنے والے نیٹ ورکس، جو بظاہر لوگوں سے آن لائن فراڈ کی کوششوں میں ChatGPT کا غلط استعمال کر رہے تھے.

ہم نقصان دہ مقاصد کے لیے اپنے ماڈلز کے غلط استعمال کی کوششوں کی شناخت، روک تھام اور سدباب کے لیے پُرعزم ہیں. ان غلط استعمالات میں فراڈ بھی شامل ہے، جس میں ہم لوگوں کو دھوکا دینے اور ان سے مالی فراڈ کرنے کے لیے ہمارے ماڈلز کا ناجائز استعمال کرنے والے بدنیت عناصر کا پتا لگا کر ان پر پابندی عائد کرتے ہیں. گزشتہ تین ماہ میں ہم نے ممکنہ طور پر کمبوڈیا، میانمار اور نائجیریا سے چلنے والے فراڈ نیٹ ورکس کا سدباب کیا ہے. فراڈ کا مقابلہ کرنے میں مصنوعی ذہانت کے ممکنہ کردار کا ایک اشارہ یہ ہے کہ غلط استعمال کے ان طریقوں کی تحقیقات کے دوران ہم نے بہت سے لوگوں کو فراڈ کی شناخت میں مدد کے لیے اپنے ماڈلز استعمال کرتے بھی دیکھا ہے. اس رپورٹ میں استعمال کی دونوں صورتوں پر بات کی گئی ہے.

فراڈ میں مدد کے لیے ہمارے ماڈلز کا غلط استعمال، اکیلے کام کرنے والے جعل سازوں سے لے کر منظم جرائم پیشہ گروہوں سے ممکنہ طور پر وابستہ وسیع اور مسلسل کارروائیوں تک پھیلا ہوا ہے. ماخذ اور مخصوص حربوں سے قطع نظر، فراڈ سے متعلق جن سرگرمیوں کا ہم نے سدباب کیا، وہ عموماً ایک مشترکہ طریقے پر چلتی ہیں: دستک یعنی بلاطلب رابطہ، اکساوا یعنی جوش یا گھبراہٹ پیدا کرنا، اور وار یعنی رقم یا قیمتی معلومات حاصل کرنا.

یہ جعل ساز پہلے پیغام رسانی کی خدمات اور انٹرنیٹ پر مواد پھیلاتے ہیں، خواہ وہ مصنوعی ذہانت سے تیار کیا گیا ہو یا نہیں، جس میں سوشل میڈیا اشتہارات چلانا بھی شامل ہے. پھر وہ جواب دینے والے شخص کو کسی منافع بخش موقع کے بارے میں پُرجوش یا قریب آتے مالی نقصان سے خوف زدہ کرنے کی کوشش کرتے ہیں اور اسی جذبے سے فائدہ اٹھا کر ہدف کو رقم یا حساس معلومات دینے پر آمادہ کرتے ہیں.

ہم نے ایسے بہت سے واقعات بھی دیکھے ہیں جن میں ہمارے ماڈلز نے غالباً لوگوں کو فراڈ سے محفوظ رکھنے میں مدد کی. ہم نے شواہد دیکھے ہیں کہ لوگ ہر ماہ لاکھوں بار آن لائن فراڈ کی شناخت اور اس سے بچنے کے لیے ChatGPT استعمال کرتے ہیں. اس رپورٹ میں شامل فراڈ کی ہر کارروائی میں ہم نے ماڈل کو لوگوں کی فراڈ کی درست شناخت کرنے اور مناسب حفاظتی تدابیر بتانے میں مدد کرتے دیکھا ہے. ہمارے موجودہ اندازے کے مطابق ChatGPT کو فراڈ کرنے کے مقابلے میں فراڈ کی شناخت کے لیے تین گنا زیادہ استعمال کیا جا رہا ہے.

OpenAI کے ایک تفتیش کار کی مثال، جنہوں نے موصولہ فراڈ ایس ایم ایس پیغام کا اسکرین شاٹ ChatGPT میں چسپاں کیا اور ماڈل کی مدد سے کامیابی کے ساتھ اسے فراڈ کے طور پر شناخت کیا. اس معاملے میں بدنیت عناصر نے TikTok کے بھرتی کاروں کی نقالی کی کوشش کی تھی.

اپنی گزشتہ رپورٹ کے بعد سے ہم نے فراڈ کا پتا لگانے اور اس کا سدباب کرنے کی اپنی صلاحیت مزید مضبوط کی ہے. ہم نے ممکنہ طور پر کمبوڈیا، میانمار اور نائجیریا سے چلنے والے مزید فراڈ نیٹ ورکس کا سدباب کیا ہے. ہماری سابقہ کارروائیوں کے ساتھ مل کر یہ بندشیں مختلف ممالک میں فراڈ کی متعدد کارروائیوں کے ابھرتے رجحانات کی شناخت میں ہماری مدد کرتی ہیں.

فراڈ کی جن سرگرمیوں کا ہم نے سدباب کیا، ان میں زیادہ تر توجہ مصنوعی ذہانت کے گرد نئے طریقے بنانے کے بجائے اسے فراڈ کے موجودہ طریقوں میں شامل کرنے پر تھی. اس سال شناخت کرکے پابندی لگائی گئی فراڈ کی تمام کارروائیوں میں مصنوعی ذہانت بنیادی طور پر کام کا پیمانہ اور کارکردگی بڑھانے کے آلے کے طور پر استعمال ہوئی. اس میں عموماً ترجمے، پیغامات لکھنے اور سوشل میڈیا کے لیے مواد بنانے کی غرض سے ہمارے ماڈلز کا استعمال شامل تھا.

مثلاً، ہم نے حال ہی میں ممکنہ طور پر کمبوڈیا اور نائجیریا سے چلنے والی فراڈ کارروائیوں پر پابندی عائد کی، جو متعدد ممالک میں متاثرین سے فراڈ کرنے کے لیے خود کو ”سرمایہ کاری کی کمپنیاں“ ظاہر کرتی تھیں. جعل سازوں نے فرضی کمپنیوں کی تشہیر کے لیے ویب سائٹس اور آن لائن اشتہارات بنائے اور تجارتی ماہرین کے روپ میں ممکنہ طور پر جعلی سوشل میڈیا کھاتوں سے لوگوں کو نجی پیغام رسانی گروپس میں شامل ہونے کی دعوت دی. بھاری منافع اور بلاخطر کمائی کے مواقع کا وعدہ کرکے بدنیت عناصر نے ممکنہ متاثرین کو فرضی تجارتی پلیٹ فارمز میں رقم جمع کرانے کی ترغیب دی. تمام فراڈ کارروائیوں میں جعل سازوں نے ہمارے ماڈلز کو بنیادی طور پر خط و کتابت تیار کرنے اور اس کا ترجمہ کرنے، اپنی ویب سائٹس اور سوشل میڈیا کھاتوں کے لیے مواد بنانے، اور بنیادی تحقیق کرنے کے لیے استعمال کیا.

ایک اور معاملے میں ہم نے غالباً میانمار میں واقع ایک فراڈ مرکز پر پابندی لگائی، جو ہمارے ماڈلز کو اپنی دھوکا دہی کی اسکیموں کے لیے مواد بنانے اور روزمرہ کاروباری کام انجام دینے، دونوں کے لیے استعمال کرتا تھا. اس میں نظام الاوقات ترتیب دینا، اندرونی اعلانات کا مسودہ تیار کرنا، میزیں اور رہائشی کمرے مختص کرنا، اور مالی کھاتوں کا انتظام شامل تھا. کچھ کارندوں نے آن لائن فراڈ کرتے پکڑے جانے والوں کے لیے فوجداری سزاؤں کے بارے میں پوچھا.

جن جعل سازوں کا ہم نے سدباب کیا، ان سب نے ہمارے ماڈلز کو ایک ہی طریقے یا یکساں درجے کی پیچیدگی کے ساتھ استعمال نہیں کیا. ChatGPT کے ساتھ جعل سازوں کی زیادہ تر گفتگو میں ترجمے جیسے نسبتاً آسان کام شامل تھے، لیکن فراڈ کی کچھ کارروائیاں زیادہ پُرعزم اور پیچیدہ تھیں.

مثلاً، ممکنہ طور پر کمبوڈیا سے چلنے والی فراڈ کی ایک کارروائی، جس کا ہم نے سدباب کیا، جعلی سرمایہ کاری ماہرین اور فرضی تجارتی کمپنیوں کے جعلی ملازمین کی مفصل سوانح بنانے کے لیے ہمارے ماڈلز استعمال کرتی تھی. پھر جعل سازوں نے ChatGPT سے ان کرداروں کے لہجے میں سوشل میڈیا پیغامات لکھنے کو کہا. بدنیت عناصر اکثر اپنے اہداف سے بظاہر موصول ہونے والے پیغامات ہمارے ماڈل میں درج کرتے اور اس سے جعلی کردار بن کر گفتگو جاری رکھنے کو کہتے تھے.

فراڈ کی ایک دوسری کارروائی، جو ممکنہ طور پر کمبوڈیا سے چل رہی تھی، نے ہمارے ماڈلز سے بلاطلب رابطے والے ایس ایم ایس پیغامات بنوائے، جنہیں بڑی تعداد میں امریکی فون نمبروں پر بھیجا گیا. ایسا ہی ایک پیغام OpenAI کے تفتیش کار کو بھیجا گیا، جو اس معاملے سے ملتا جلتا تھا جس کی اطلاع ہم نے جون میں دی تھی. ان ایس ایم ایس پیغامات میں WhatsApp گروپس میں شامل ہونے کی دعوتیں تھیں، جن پر بعد میں پابندی لگا دی گئی. ان گروپس کے نام ایک جائز سرمایہ کاری کمپنی سے ملتے جلتے تھے.

OpenAI کے تفتیش کار کو بھیجے گئے WhatsApp پیغامات کے سلسلے سے ظاہر ہوتا ہے کہ اگر کوئی ممکنہ ہدف ان گروپس میں شامل ہوتا تو اسے فوراً تقریباً چھ مختلف کھاتوں کے درمیان سرمایہ کاری کے موضوع پر ایک ”گفتگو“ دکھائی دیتی. ان میں سے ایک ”سرمایہ کاری ماہر“ بنتا، جبکہ باقی مختلف درجوں کے اعتماد اور تجربے والے سرمایہ کاروں کا روپ دھارتے. اس گفتگو کا ہر حصہ جعل سازوں نے تیار کیا اور ایک ہی متن کی صورت میں چینی زبان سے ترجمہ کیا تھا، غالباً پُرجوش اور کامیاب تاجروں کے سرگرم گروپ کا تاثر پیدا کرنے کے لیے. آخرکار، ”سرمایہ کاری ماہر“ ہدف کو بھی سرمایہ کاری آزمانے کا مشورہ دیتا.

ایک الگ معاملے میں، غالباً نائجیریا سے چلنے والی سرمایہ کاری فراڈ کارروائی نے ماڈل سے مرحلہ وار مشورہ مانگا کہ سوشل میڈیا اشتہارات سے لاطینی امریکہ کے دولت مند افراد تک کیسے پہنچا جائے، اپنا مقام کیسے چھپایا جائے، اور سوشل میڈیا پلیٹ فارمز کی پابندیوں سے کیسے بچا جائے. اس کے لیے ماڈل کو ایک پلیٹ فارم کی عوامی شرائطِ استعمال دکھا کر مجوزہ اشتہاری مواد کا قواعد سے مطابقت کے لحاظ سے جائزہ لینے کو کہا گیا.

جعل ساز، بالخصوص بڑے فراڈ مراکز، مسلسل کوشش کرتے رہتے ہیں. سدباب کے جواب میں وہ اکثر اپنے رویے کے بعض پہلو بدل کر خلاف ورزی پر مبنی سرگرمیاں دوبارہ شروع کرنے کی کوشش کرتے ہیں، غالباً مزید شناخت سے بچنے کے لیے. یہی ایک وجہ ہے کہ صنعت بھر میں ان کی بدلتی سرگرمیوں سے متعلق معلومات کا تبادلہ اہم ہے. مثلاً OpenAI اور Meta دونوں نے بدنیت عناصر کے بارے میں معلومات فراہم کیں، جن سے مزید تحقیقات اور نفاذی کارروائیوں میں مدد ملی.

ممکن ہے کہ سدباب کی کارروائیوں یا مصنوعی ذہانت کے استعمال کو ظاہر کرنے والی نشانیوں کے بارے میں وسیع تر آن لائن گفتگو کے ردعمل میں، جعل سازوں نے آن لائن مواد اور اہداف سے رابطے میں مصنوعی ذہانت کا استعمال چھپانے کی کوشش کی ہو. اس میں ممکنہ طور پر کمبوڈیا سے چلنے والی فراڈ کارروائیوں کا ماڈل کو نتائج سے طویل ڈیش ہٹانے کی ہدایت دینا بھی شامل ہے.

ایک معاملے میں جعل سازوں نے پابندی لگائے جانے کا بہانہ گھڑ کر اپنے سوشل میڈیا اثاثوں کے خلاف بڑے پیمانے کی کارروائی کی وضاحت کرنے کی کوشش کی. یہ اوپر بیان کردہ ایس ایم ایس اور WhatsApp پر سرگرم، ممکنہ طور پر کمبوڈیا سے چلنے والے فراڈ مرکز سے متعلق تھا. WhatsApp کی جانب سے اس کارروائی سے منسلک ”سرمایہ کاری گروپس“ پر پابندی کے بعد، کارندوں نے ایسے پیغامات بنانا شروع کیے جن میں دعویٰ کیا گیا کہ ایک حریف نے ان گروپس کے خلاف جھوٹی رپورٹ کی تھی، غالباً پابندیوں کا جواز پیش کرنے کے لیے.

WhatsApp کی بندش کے بعد کمبوڈیا سے منسلک فراڈ کارروائی کی جانب سے OpenAI کے ایک تفتیش کار کو بھیجے گئے WhatsApp پیغام کا اسکرین شاٹ.