رومانی تعلق کا جھانسا: مصنوعی ذہانت کی مدد سے پگ بچرنگ فراڈ کا طریقۂ کار

یہ مطالعاتی جائزہ اصل میں OpenAI کی فروری 2025⁠(نئی ونڈو میں کھلتا ہے) کی رپورٹ میں شائع ہوا تھا.

ہم نے ChatGPT اکاؤنٹس کے ایک گروہ پر پابندی لگائی جو جاپانی، چینی اور انگریزی میں مختصر تبصروں کا ترجمہ اور تیاری کر رہا تھا. یہ سرگرمی بظاہر کمبوڈیا سے شروع ہوئی اور رومانی تعلق اور سرمایہ کاری کے فراڈ سے مطابقت رکھتی تھی، جسے ”پگ بچرنگ“ بھی کہا جاتا ہے. میٹا نے حال ہی میں اپنے پلیٹ فارم پر متعلقہ سرگرمی کی نشان دہی کی⁠(نئی ونڈو میں کھلتا ہے)، جو بظاہر کمبوڈیا میں حال ہی میں قائم کیے گئے فراڈ کے ایک مرکز سے شروع ہوئی تھی.

اس نیٹ ورک نے مختصر تبصروں کا ترجمہ اور تیاری کرنے کے لیے ہمارے ماڈلز استعمال کیے. بظاہر کارندوں کی بنیادی زبان چینی تھی. نتائج کئی زبانوں میں تھے، خاص طور پر جاپانی اور چینی میں، لیکن انگریزی میں بھی.

کارندوں نے ہمارے ماڈلز کو دو بنیادی سرگرمیوں کے لیے استعمال کیا. پہلے، وہ تبصرے تیار کرتے اور انہیں فیس بک، ایکس اور انسٹاگرام سمیت سماجی ذرائع کے پلیٹ فارمز پر عوامی طور پر شائع کرتے تھے. سماجی ذرائع کے ہر اکاؤنٹ پر عموماً کسی نوجوان خاتون کی ایک یا زیادہ پروفائل تصاویر ہوتی تھیں. ہمارا اندازہ ہے کہ ان میں سے کم از کم کچھ تصاویر مصنوعی ذہانت سے تیار کرنے کے بجائے حقیقی ماڈلز یا بااثر شخصیات سے نقل کی گئی تھیں.

تیار کیے گئے بیشتر تبصرے حقیقی لوگوں کی سماجی ذرائع کی پوسٹس کے جواب میں شائع کیے گئے تھے. چلانے والوں نے جن پوسٹس کا جواب دیا، ان میں سے کچھ کئی ماہ یا سال پرانی تھیں. یہ کارروائی عموماً ایسے مردوں کو نشانہ بناتی تھی جن کی عوامی پروفائل سے لگتا تھا کہ ان کی عمر 40 سال سے زیادہ ہے اور وہ اکثر طبی پیشوں سے وابستہ تھے. اس کارروائی میں اکثر گالف سے متعلق پوسٹس کا جواب دیا گیا، جس سے دانستہ ہدف بندی کی حکمت عملی کا اشارہ ملتا ہے. کبھی کبھار دھوکے باز سیاسی مسائل یا حالاتِ حاضرہ کے بارے میں پوسٹ کرتے تھے.

دوسرا، اور زیادہ عام کام یہ تھا کہ چلانے والے مختصر تبصرے تیار کرتے جو آن لائن گفتگو کے حصوں جیسے لگتے تھے. عموماً چینی تبصروں کا ہدفی زبان، یعنی جاپانی یا انگریزی، میں ترجمہ کیا جاتا یا ہدفی زبان سے واپس چینی میں ترجمہ کیا جاتا تھا. یہ اس بات سے مطابقت رکھتا ہے کہ دھوکے باز ماڈل کو بنیادی طور پر جاری گفتگو کا ترجمہ کرنے کے لیے استعمال کر رہے تھے.

کبھی اکاؤنٹس ماڈل سے کسی مخصوص لہجے میں جواب تیار کرنے کو کہتے تھے، مثلاً چھیڑ چھاڑ کرنے والی نوجوان خاتون کے انداز میں. کبھی ماڈل کے جوابات کی رہنمائی کے لیے تفصیلی سوانحی معلومات بھی دی جاتی تھیں، جن میں فرضی کردار کا نام، تعلیمی پس منظر، ملازمت، مقام اور مشاغل شامل تھے. ان سوانح میں عموماً یہ تفصیل شامل ہوتی تھی کہ فرضی کردار کبھی کبھار آن لائن سرمایہ کاری بھی کرتا ہے.

بظاہر دھوکے بازوں نے اپنے اہداف سے رابطے کے لیے بہت سے مختلف آلات اور پلیٹ فارمز استعمال کیے. ہماری تحقیقات میں ان کے زیرِ استعمال آلات کے شواہد ملے، جن میں لائن، واٹس ایپ، ایکس، فیس بک، انسٹاگرام، پیغام رسانی کی متعدد دیگر خدمات، ایپل کی ”میرا ای میل چھپائیں“ سہولت⁠(نئی ونڈو میں کھلتا ہے)، اور کرپٹو کرنسی و زرمبادلہ کے پلیٹ فارمز شامل تھے.

اس سرگرمی کے جس مخصوص حصے تک ہمیں رسائی حاصل تھی، اس کی بنیاد پر لگتا ہے کہ دھوکے باز اپنے اہداف کو ابتدائی رابطے سے جعلی سرمایہ کاری تک لانے کے لیے ایک عام طریقۂ کار اپناتے تھے:

1. عوامی رابطہ: دھوکے باز ہدف کی سماجی ذرائع کی پوسٹس پر تبصرے کرتے تھے. یہ تبصرے اکثر کسی سوال پر ختم ہوتے تھے، مثلاً ”آپ [موضوع] کے بارے میں کیا سوچتے ہیں؟“، غالباً جواب ملنے کا امکان بڑھانے کے لیے. چند معاملات میں انہوں نے سیاست پر تبصرہ کیا، لیکن زیادہ تر گالف کے بارے میں بات کی.

2. ممکنہ براہِ راست پیغام رسانی: اس کے بعد دھوکے باز مختصر اور بات چیت کے انداز کے تبصرے تیار کرتے تھے. اگرچہ ہمیں مکمل طور پر معلوم نہیں کہ انہیں کیسے اور کہاں استعمال کیا گیا، تاہم تبصرے ایسی صورتِ حال سے مطابقت رکھتے تھے جس میں دھوکے باز اور ہدف براہِ راست پیغامات کا تبادلہ شروع کر چکے ہوں.

3. محفوظ پیغام رسانی: بہت جلد، اکثر چند دنوں کے اندر، دھوکے باز ایسے پیغامات تیار کرتے جن میں زیادہ محفوظ پیغام رسانی کی ایپ پر منتقل ہونے کی تجویز ہوتی تھی. کبھی اس کا جواز یہ دیا جاتا کہ دھوکے باز کو سماجی ذرائع پر بھروسا نہیں، اور کبھی کوئی عملی بہانہ بنایا جاتا، مثلاً یہ کہ وہ ایسی جگہ جانے والا ہے جہاں سماجی ذرائع تک رسائی نہیں ہوگی.

4. رومانی رابطہ: دھوکے باز بتدریج زیادہ محبت بھرے اور قریبی پیغامات لکھتے اور ان کا ترجمہ کرتے تھے. اگر ہدف اس ”خاتون“ کی تصاویر مانگتے جس سے وہ بات کر رہے تھے، تو دھوکے باز بہانے بناتے تھے.

5. مالی رابطہ: دھوکے باز ایسے پیغامات لکھتے اور ان کا ترجمہ کرتے جن میں زرمبادلہ، کرپٹو کرنسی یا سونے میں آن لائن سرمایہ کاری سے بڑی رقم کمانے کا دعویٰ کیا جاتا تھا. اسے اکثر مالی شعبے میں کام کرنے والے کسی رشتے دار کے مشورے پر عمل کرنے کا نتیجہ بتایا جاتا تھا. دھوکے باز ہدف پر اسی طرح سرمایہ کاری شروع کرنے کے لیے زور ڈالتا اور پورے عمل میں رہنمائی کی پیش کش کرتا تھا.

6. فراڈ: دھوکے باز ایسے پیغامات لکھتے اور ان کا ترجمہ کرتے جن کا مقصد متاثرہ شخص کو تجارتی ایپ میں رقم منتقل کرنے پر آمادہ کرنا ہوتا، اور اپنے مبینہ منافع کو بڑھا چڑھا کر بیان کرکے اس کی حوصلہ افزائی کرتے تھے. جب بھی متاثرہ شخص اپنا ”منافع“ نکالنے کی کوشش کرتا، دھوکے باز کوئی بہانہ پیش کرتا، مثلاً یہ کہ پہلے فیس ادا کرنا ضروری ہے.

سرگرمی کا یہ انداز ایسے فراڈ کے عمومی طریقۂ کار سے متعلق عوامی طور پر دستیاب رپورٹنگ⁠(نئی ونڈو میں کھلتا ہے) سے مطابقت رکھتا ہے.

بظاہر اس سرگرمی میں بہت سی ناکام کوششیں شامل تھیں. دھوکے بازوں نے ہمارے ماڈلز کے ذریعے جن گفتگوؤ پر کام کیا، ان میں سے کچھ اس وقت ختم ہوئیں جب ہدف نے اسے فراڈ قرار دیا یا دھوکے باز سے اسے تنہا چھوڑنے کو کہا. ہم نے سماجی ذرائع پر دھوکے بازوں کی ایسی پوسٹس بھی شناخت کیں جن پر کسی نے کوئی ردعمل نہیں دیا تھا.

تاہم، بعض گفتگوؤ میں انفرادی لین دین کے حجم کے طور پر ہزاروں ڈالر یا مساوی کرنسی کی رقوم کا ذکر تھا. ان کارندوں نے ہمارے ماڈلز کو جس طرح استعمال کیا، اس کی وجہ سے ہمیں یہ معلوم نہیں کہ آیا یہ مالی لین دین واقعی ہوئے تھے، لیکن گفتگو کے حوالے بتاتے ہیں کہ کم از کم بعض معاملات میں دھوکے باز اپنے اہداف سے فراڈ کرنے میں کامیاب رہے.

OpenAI کی پالیسیاں فراڈ یا دھوکے کے لیے ہمارے آلات کے نتائج کے استعمال کی سختی سے ممانعت کرتی ہیں. ہم صنعتی شعبے کے ساتھیوں اور حکام کے ساتھ مل کر یہ سمجھنے کے لیے پُرعزم ہیں کہ مصنوعی ذہانت کو مخالفانہ رویوں میں کیسے استعمال کیا جاتا ہے، اور ہماری خدمات کا ناجائز استعمال کرنے والی فراڈ سرگرمیوں کو فعال طور پر روک رہے ہیں. اس عزم کے مطابق، ہم نے روکے گئے فراڈ نیٹ ورکس کے بارے میں معلومات صنعتی شعبے کے ساتھیوں اور متعلقہ حکام کے ساتھ بانٹی ہیں.