دھوکا دہی پر مبنی روزگار اسکیم: آئی ٹی کارکنوں کی سرگرمی

یہ کیس اسٹڈی اصل میں OpenAI کی جون 2025⁠(نئی ونڈو میں کھلتا ہے) کی رپورٹ میں شائع ہوئی تھی.

ہم نے ChatGPT کے ایسے اکاؤنٹس کی شناخت کر کے ان پر پابندی لگا دی جو بظاہر روزگار کے نام پر دھوکا دہی کی متعدد مشتبہ مہمات سے وابستہ تھے. ان خطرہ پیدا کرنے والے عناصر نے OpenAI کے ماڈلز سے ایسا مواد تیار کیا جو ممکنہ طور پر دنیا بھر میں آئی ٹی، سافٹ ویئر انجینئرنگ اور دیگر دور دراز ملازمتوں کے لیے جعلی درخواستیں دینے میں معاون تھا.

اگرچہ ہم خطرہ پیدا کرنے والے عناصر کے مقامات یا قومیتوں کا تعین نہیں کر سکتے، لیکن ان کا طرز عمل آئی ٹی کارکنوں سے متعلق ان اسکیموں سے مطابقت رکھتا تھا جنہیں علانیہ طور پر شمالی کوریا (DPRK) سے منسوب کیا گیا ہے⁠(نئی ونڈو میں کھلتا ہے). ممکن ہے کہ ان حالیہ مہمات سے وابستہ بعض عناصر کو DPRK سے ممکنہ طور پر منسلک خطرہ پیدا کرنے والے مرکزی گروہ نے درخواستوں سے متعلق کام کرنے اور امریکہ سمیت مختلف مقامات پر ہارڈویئر چلانے کے لیے ٹھیکے دار کے طور پر رکھا ہو.

ان خطرہ پیدا کرنے والے عناصر کی طرح، جن کی سرگرمیوں کو ہم نے روکا اور فروری⁠(نئی ونڈو میں کھلتا ہے) میں ان کے بارے میں لکھا تھا، تازہ ترین مہمات نے ملازمت کے عمل کے ہر مرحلے پر مصنوعی ذہانت استعمال کرنے کی کوشش کی. اس سے پہلے ہم نے دیکھا تھا کہ یہ عناصر مصنوعی ذہانت سے دستی طور پر قابل اعتبار اور اکثر امریکہ میں مقیم فرضی شناختیں بناتے تھے، جن میں معروف کمپنیوں میں ملازمت کی من گھڑت تفصیلات شامل ہوتی تھیں. اس بار انہوں نے کوائف نامے کسی حد تک خودکار طریقے سے بنانے کی کوشش کی، جبکہ بعض اشاروں سے معلوم ہوتا ہے کہ افریقہ میں موجود Operator ملازمت کے امیدوار بن کر پیش ہوئے اور شمالی امریکہ میں لوگوں کو اپنی طرف سے لیپ ٹاپ چلانے کے لیے بھرتی بھی کیا گیا.

ہمیں سرگرمی کے دو الگ سلسلے ملے، جو غالباً دو طرح کے Operator کی نمائندگی کرتے تھے: مرکزی Operator اور ٹھیکے دار.

مرکزی Operator نے ملازمت کی مخصوص تفصیلات، مہارتوں کے نمونوں اور فرضی شناختی خاکوں کی بنیاد پر کوائف نامے خودکار طریقے سے بنانے کی کوشش کی، اور ملازمت کی درخواستوں کا انتظام اور سراغ رکھنے والے آلات بنانے کے بارے میں معلومات تلاش کیں. انہوں نے ہمارے ماڈلز سے ایسا مواد بھی تیار کیا جو دنیا کے مختلف حصوں میں ٹھیکے داروں کو بھرتی کرنے کے لیے ملازمت کے اشتہارات جیسا دکھائی دیتا تھا.

مرکزی Operator نے دور دراز کام کے انتظامات سے متعلق تحقیق کے لیے ChatGPT استعمال کیا. انہوں نے ہمارے ماڈلز سے ایسا متن بھی تیار کرایا جو امریکہ میں حقیقی لوگوں کو کمپنی کے لیپ ٹاپ وصول کرنے کے لیے بھرتی کرنے سے متعلق تھا، جن تک بعد میں خطرہ پیدا کرنے والے مرکزی عناصر یا ان کے ٹھیکے دار دور سے رسائی حاصل کرتے.

خطرہ پیدا کرنے والے عناصر نے اپنی کارروائیوں میں Tailscale کے ہم مرتبہ VPN، OBS Studio، vdo.ninja سے براہ راست نشریاتی مواد شامل کرنے اور HDMI کیپچر لوپس جیسے آلات کے استعمال پر تحقیق کی. یہ آلات اداروں کے حفاظتی اقدامات کو چکما دینے کے لیے استعمال ہو سکتے ہیں۔ کامیابی کی صورت میں ان سے کوئی شخص دور رہتے ہوئے مستقل طور پر اور نظروں میں آئے بغیر موجود رہ سکتا ہے، نیز براہ راست ویڈیو ملاقاتوں پر منحصر شناختی تصدیق کے بعض طریقوں کو چکما دینے کی کوشش کر سکتا ہے.

اسی دوران ممکنہ ٹھیکے دار Operator نے ملازمت کی درخواست سے متعلق کام مکمل کرنے میں مدد کے لیے ChatGPT استعمال کیا. انہوں نے اس سے ایسا مواد بھی تیار کیا جو مرکزی Operator کو بھیجے گئے پیغامات جیسا تھا، جن میں ادائیگیوں اور دور دراز ملازمتوں کی درخواستوں کے لیے استعمال ہونے والی فرضی شناختوں کے بارے میں پوچھا گیا تھا.

ہم نے تعین کیا کہ ان خطرہ پیدا کرنے والے عناصر نے دھوکا دہی کی ایک کارروائی کے لیے ہمارے ماڈلز استعمال کرنے کی کوشش کی. خاص طور پر انہوں نے تفصیلی ہدایات، تلقینات اور خودکار عمل کے ادوار استعمال کر کے بڑے پیمانے پر حسب ضرورت اور قابل اعتبار کوائف نامے تیار کیے.

• مختلف تکنیکی ملازمتوں کی تفصیلات، فرضی شناختوں اور صنعتی ضوابط کے مطابق تفصیلی کوائف نامے خودکار طریقے سے بنانا: LLM سے معاونت یافتہ سماجی فریب کاری.

• اپ لوڈ کیے گئے کوائف ناموں کی بنیاد پر ملازمت کی درخواستوں کے سوالات، رمز نویسی کے کاموں اور براہ راست انٹرویو کے سوالات کے جواب دینا: LLM سے معاونت یافتہ سماجی فریب کاری.

• کمپنی کے جاری کردہ لیپ ٹاپ کو دور سے اس طرح ترتیب دینے کے لیے رہنمائی طلب کرنا کہ وہ ملک کے اندر موجود دکھائی دیں، جس میں جغرافیائی مقام چھپانے اور اینڈپوائنٹ سیکیورٹی سے بچنے کے طریقے شامل تھے: LLM سے بہتر بنائی گئی بے ضابطگی کی شناخت سے بچاؤ.

• ماؤس کو خودکار طور پر حرکت دینے یا کمپیوٹر کو دور سے فعال رکھنے والے آلات کی رمز نویسی میں مدد کرنا، ممکنہ طور پر دور دراز کام کے بنیادی ڈھانچے کے انتظام میں معاونت کے لیے: LLM کی مدد سے تیاری.

ہم آزادانہ طور پر ان کارروائیوں کی کامیابی کا اندازہ نہیں لگا سکتے، کیونکہ اثرات جانچنے کے لیے متعدد متعلقہ فریقوں کی معلومات درکار ہوں گی.

اگرچہ خطرہ پیدا کرنے والے عناصر نے غالباً اپنی کارکردگی بڑھانے کے لیے عمل کے ہر مرحلے میں مصنوعی ذہانت شامل کی، لیکن اس سے ان کے بے نقاب ہونے کا امکان بھی بڑھ گیا. اپنے تمام عملی مراحل کی معلومات ہمیں فراہم کر کے انہوں نے ان مہمات کے بارے میں متعلقہ صنعتی اداروں اور حکام کے ساتھ ہر مرحلے کی معلومات بانٹنے کا موقع دیا، جس سے مشترکہ تحفظ کو آگے بڑھاتے ہوئے ایسے خطرات کی شناخت، روک تھام اور جواب دینے کی ہماری اجتماعی صلاحیت بہتر ہوئی.