SweetSpecter: چین سے منسلک سائبر سرگرمی
OpenAI نے ممکنہ طور پر چین میں مقیم مشتبہ حملہ آور SweetSpecter کے اکاؤنٹس پر پابندی لگائی، جو مصنوعی ذہانت سے حفاظتی کمزوریوں کی تحقیق، کوڈ نویسی اور ہدفی فشنگ میں مدد لے رہا تھا.
یہ مطالعاتی مثال اصل میں OpenAI کی اکتوبر 2024(نئی ونڈو میں کھلتا ہے) کی رپورٹ میں شائع ہوئی تھی.
حملہ آور
ہم نے ایسے اکاؤنٹس کی نشان دہی کرکے ان پر پابندی لگائی جو ایک معتبر ذریعے کے جائزے کے مطابق ممکنہ طور پر چین میں مقیم ایک مشتبہ حملہ آور کے تھے. یہ اکاؤنٹس ہماری ماڈلز کو جارحانہ سائبر کارروائیوں میں مدد کے لیے استعمال کرنے کی کوشش کر رہے تھے، جبکہ ساتھ ہی ہمارے ملازمین اور دنیا بھر کی حکومتوں کے خلاف مخصوص اہداف پر فشنگ حملے بھی کیے جا رہے تھے. یہ حملہ آور 2023 میں سامنے آیا اور عوامی سطح پر SweetSpecter کے نام سے اس کی سرگرمیوں پر نظر رکھی جاتی ہے. ہماری معلومات کے مطابق، یہ پہلا موقع ہے جب عوامی طور پر پتا چلا ہے کہ اس کے اہداف میں امریکہ میں قائم ایک مصنوعی ذہانت کی کمپنی بھی شامل ہے. اس سے پہلے کی اطلاعات کے مطابق، اس کی سرگرمیوں کا محور مشرق وسطیٰ، افریقہ اور ایشیا کے سیاسی ادارے تھے.
طرزِ عمل
مئی 2024 میں ہمیں ایک معتبر ذریعے سے اطلاع ملی کہ اس کی سلامتی کی ٹیم نے SweetSpecter کو ہمارے کچھ ملازمین کے دفتری اور ذاتی، دونوں طرح کے ای میل اکاؤنٹس پر نقصان دہ منسلک فائلوں کے ساتھ ہدفی فشنگ ای میلز بھیجتے دیکھا ہے.
SweetSpecter کی جانب سے ہمارے چند ملازمین کو بھیجی گئی ای میل کی نقل، جس میں کچھ معلومات چھپا دی گئی ہیں. ہمارے حفاظتی نظاموں نے ان ای میلز کو روک دیا تھا. تصویر بشکریہ پروف پوائنٹ.
ان ای میلز میں SweetSpecter نے خود کو ChatGPT کا صارف ظاہر کرکے نشانہ بنائے گئے ملازمین سے مدد مانگی. ان ای میلز کے ساتھ ”some problems.zip“ نام کی ایک نقصان دہ فائل منسلک تھی، جس میں ایک LNK فائل موجود تھی. اس فائل میں ایسا کوڈ تھا جو اسے کھولنے پر صارف کو ایک DOCX فائل دکھاتا. اس میں خرابیوں اور سروس سے متعلق مختلف پیغامات درج تھے جو بظاہر ChatGPT کے معلوم ہوتے تھے. لیکن پس منظر میں، ونڈوز کے لیے SugarGh0st RAT نامی نقصان دہ سافٹ ویئر کی خفیہ کاری کھول کر اسے چلا دیا جاتا. یہ نقصان دہ سافٹ ویئر اس طرح بنایا گیا ہے کہ SweetSpecter متاثرہ کمپیوٹر کو اپنے قابو میں لے سکے اور من مانے احکامات چلانے، اسکرین شاٹس لینے اور ڈیٹا چوری کرکے باہر بھیجنے جیسے کام کر سکے.
OpenAI کی سلامتی کی ٹیم نے ان ملازمین سے رابطہ کیا جن کے بارے میں خیال تھا کہ انہیں اس ہدفی فشنگ مہم میں نشانہ بنایا گیا ہے. ٹیم نے پایا کہ موجودہ حفاظتی انتظامات نے ان ای میلز کو ان کے دفتری ای میل اکاؤنٹس تک پہنچنے ہی نہیں دیا تھا.
تجزیہ کی گئی نقصان دہ LNK فائلوں میں سے ایک کا جھانسا دینے والا مواد، جو فائل چلانے پر دکھائی دیتا تھا.
اس پورے عمل میں، صنعتی شراکت داروں کے ساتھ ہمارے تعاون نے ملازمین کے اکاؤنٹس میں دراندازی کی ان ناکام کوششوں کی نشان دہی میں اہم کردار ادا کیا. یہ بات واضح کرتی ہے کہ مصنوعی ذہانت کے دور میں جدید حربے استعمال کرنے والے حملہ آوروں سے ایک قدم آگے رہنے کے لیے خطرات سے متعلق معلومات کا تبادلہ اور باہمی تعاون کتنے اہم ہیں. آپس میں بانٹی گئی معلومات اور اجتماعی مہارت سے فائدہ اٹھا کر، ہم اپنے اثاثوں کی بہتر حفاظت کر سکتے ہیں اور اپنے پلیٹ فارم پر ایسی سرگرمیوں سے وابستہ اکاؤنٹس کی کارروائیاں روک سکتے ہیں.
تیار کردہ جوابات
اس مہم کو سہارا دینے والے وسیع تر تکنیکی ڈھانچے کا تجزیہ کرتے ہوئے، ہمیں ChatGPT اکاؤنٹس کا ایک گروہ ملا جس کی سرگرمیاں ہم نے روک دیں. یہ اکاؤنٹس اسی ڈھانچے کو استعمال کرکے سوالات کے جواب حاصل کرنے، اسکرپٹ لکھنے اور حفاظتی کمزوریوں پر تحقیق کے کام انجام دینے کی کوشش کر رہے تھے. ہم نے ان تعاملات کا تعلق LLM سے متعلق ان حکمت عملیوں، تکنیکوں اور طریقۂ کار سے جوڑا جنہیں مائیکروسافٹ نے اس سال کے اوائل میں MITRE ATT&CK® فریم ورک میں شامل کرنے کی تجویز دی تھی. MITRE فریم ورک میں سائبر حملہ آوروں کی عملی طور پر استعمال کی جانے والی حکمت عملیوں اور تکنیکوں کو درج کیا جاتا ہے. ان مطابقتوں کی فہرست پیش کرکے، ہمارا مقصد سائبر سلامتی کے وسیع تر حلقے کو مشاہدے میں آنے والی حکمت عملیوں، تکنیکوں اور طریقۂ کار سے آگاہ کرنا اور سائبر دفاع کو زیادہ مؤثر بنانے میں مدد دینا ہے.
SweetSpecter کی ان سرگرمیوں کی چند مثالیں ذیل میں ہیں جو ان حکمت عملیوں، تکنیکوں اور طریقۂ کار سے مطابقت رکھتی ہیں:
سرگرمی | LLM ATT&CK فریم ورک کا زمرہ |
|---|---|
مختلف ایپلی کیشنز میں موجود حفاظتی کمزوریوں کے بارے میں پوچھنا | LLM کی معلومات سے ہدف کی چھان بین |
یہ پوچھنا کہ Log4j کے وہ مخصوص نسخے کیسے تلاش کیے جائیں جو دور سے کوڈ چلانے کی انتہائی سنگین کمزوری Log4Shell سے متاثر ہو سکتے ہیں | LLM کی معلومات سے ہدف کی چھان بین |
بیرون ملک استعمال ہونے والے مواد کے نظم و نسق کے مقبول نظاموں کے بارے میں پوچھنا | LLM کی معلومات سے ہدف کی چھان بین |
مخصوص CVE نمبروں کے بارے میں معلومات مانگنا | LLM کی معلومات سے ہدف کی چھان بین |
یہ پوچھنا کہ پورے انٹرنیٹ کو اسکین کرنے والے آلات کیسے بنائے جاتے ہیں. | LLM کی معلومات سے ہدف کی چھان بین |
یہ پوچھنا کہ ہدف بنائے گئے سرور پر ایک ممکنہ ویب شیل اپ لوڈ کرنے کے لیے sqlmap کیسے استعمال کیا جائے گا. | LLM کی مدد سے حفاظتی کمزوریوں پر تحقیق |
ایک معروف کار ساز کمپنی کے تکنیکی ڈھانچے کی کمزوریوں سے فائدہ اٹھانے کے طریقے ڈھونڈنے میں مدد مانگنا. | LLM کی مدد سے حفاظتی کمزوریوں پر تحقیق |
کوڈ فراہم کرکے، مواصلاتی خدمات کے ذریعے پروگرام کی مدد سے متنی پیغامات بھیجنے کے لیے مزید مدد مانگنا. | LLM سے بہتر بنائی گئی اسکرپٹ نویسی کی تکنیکیں |
سائبر سلامتی کے ایک آلے کے لیے توسیعی جزو تیار کرتے وقت کوڈ کی خرابیاں دور کرنے میں مدد مانگنا. | LLM سے بہتر بنائی گئی اسکرپٹ نویسی کی تکنیکیں |
ایسے کوڈ کی خرابیاں دور کرنے میں مدد مانگنا جو حملہ آور کے مقرر کردہ نمبروں پر پروگرام کے ذریعے متنی پیغامات بھیجنے کے ایک بڑے فریم ورک کا حصہ ہے. | LLM کی مدد سے سافٹ ویئر کی تیاری |
ایسے موضوعات پوچھنا جن میں سرکاری محکموں کے ملازمین دلچسپی لیں، اور یہ پوچھنا کہ منسلک فائلوں کے کون سے نام موزوں ہوں گے تاکہ انہیں روکا نہ جائے. | LLM کی مدد سے سماجی فریب کاری |
حملہ آور کے فراہم کردہ ملازمت میں بھرتی کے پیغام کی مختلف صورتیں مانگنا. | LLM کی مدد سے سماجی فریب کاری |
اس تفتیش کے دوران، ہماری سلامتی کی ٹیموں نے حملہ آوروں کے اکاؤنٹس سے ہونے والی گفتگو کا تجزیہ، درجہ بندی، ترجمہ اور خلاصہ کرنے کے لیے ChatGPT استعمال کیا. اس سے ہم بہت کم وسائل استعمال کرتے ہوئے ڈیٹا کے بڑے مجموعوں سے تیزی سے اہم نتائج اخذ کر سکے. جیسے جیسے ہمارے ماڈلز مزید ترقی کریں گے، ہمیں توقع ہے کہ ہم ملازمین کو بھیجی گئی نقصان دہ منسلک فائلوں کی ساخت اور طریقۂ کار سمجھنے اور ان کا تجزیہ کرنے کے لیے بھی ChatGPT استعمال کر سکیں گے.
اثرات
خطرات سے متعلق ہماری پہلی رپورٹ کے مشاہدات کی طرح، اس بار بھی ایسا نہیں لگا کہ ہمارے ماڈلز کے استعمال سے ان کارروائیوں کے منتظمین کو کوئی ایسی نئی صلاحیت یا رہنمائی ملی ہو جو انہیں دیگر متعدد عوامی طور پر دستیاب ذرائع سے حاصل نہ ہو سکتی تھی. ہمارے حفاظتی نظاموں نے حملہ آور کی نقصان دہ ای میلز کو ملازمین کے ان باکس تک پہنچنے سے پہلے ہی روک دیا.