SweetSpecter: فعالیت سایبری مرتبط با چین
OpenAI حساب‌هایی را مسدود کرد که احتمالاً متعلق به مهاجمی مظنون به استقرار در چین، موسوم به SweetSpecter، بودند و از هوش مصنوعی برای بررسی آسیب‌پذیری‌ها، کدنویسی و پشتیبانی از فیشینگ هدفمند استفاده می‌کردند.
این مطالعهٔ موردی نخستین بار در گزارش اکتبر ۲۰۲۴(در یک پنجره جدید باز می‌شود) OpenAI منتشر شد.
عامل تهدید
حساب‌هایی را شناسایی و مسدود کردیم که بر اساس ارزیابی یک منبع معتبر، احتمالاً به مهاجمی تعلق داشتند که گمان می‌رود در چین مستقر باشد. این حساب‌ها می‌کوشیدند از مدل‌های ما برای پشتیبانی از عملیات تهاجمی سایبری خود استفاده کنند و هم‌زمان حملات فیشینگ هدفمندی علیه کارکنان ما و دولت‌ها در سراسر جهان انجام می‌دادند. این مهاجم که در گزارش‌های عمومی با نام SweetSpecter ردیابی می‌شود، در سال ۲۰۲۳ ظهور کرد. تا جایی که می‌دانیم، این نخستین بار است که هدف قرار دادن یک شرکت هوش مصنوعی مستقر در آمریکا از سوی این مهاجم، به‌طور عمومی شناسایی و اعلام شده است. گزارش‌ها حاکی از آن بود که فعالیت‌های پیشین آن بر نهادهای سیاسی در خاورمیانه، آفریقا و آسیا متمرکز بوده است.
رفتار
در مه ۲۰۲۴، یک منبع معتبر به ما اطلاع داد که تیم امنیتی‌اش مشاهده کرده است SweetSpecter ایمیل‌های فیشینگ هدفمند با پیوست‌های مخرب به حساب‌های ایمیل سازمانی و شخصی برخی از کارکنان ما ارسال می‌کند.
نسخه‌ای از ایمیل ارسالی SweetSpecter به تعداد کمی از کارکنان ما که اطلاعات حساس آن پوشانده شده است. سامانه‌های امنیتی ما این ایمیل‌ها را مسدود کردند. تصویر با همکاری Proofpoint ارائه شده است.
در این ایمیل‌ها، SweetSpecter خود را کاربر ChatGPT معرفی می‌کرد و از کارکنان هدف درخواست پشتیبانی داشت. این ایمیل‌ها پیوستی مخرب به نام «some problems.zip» داشتند که حاوی یک فایل LNK بود. این فایل حاوی کدی بود که در صورت باز شدن فایل، یک سند DOCX را به کاربر نشان می‌داد؛ سندی که پیام‌های گوناگونی را فهرست می‌کرد که ظاهراً پیام‌های خطا و وضعیت سرویس ChatGPT بودند. اما در پس‌زمینه، بدافزاری مخصوص ویندوز با نام SugarGh0st RAT رمزگشایی و اجرا می‌شد. این بدافزار طوری طراحی شده است که کنترل دستگاه آلوده را در اختیار SweetSpecter بگذارد و به آن امکان دهد کارهایی مانند اجرای دستورهای دلخواه، گرفتن تصویر از صفحه و سرقت داده‌ها را انجام دهد.
تیم امنیتی OpenAI با کارکنانی که تصور می‌شد هدف این کارزار فیشینگ هدفمند قرار گرفته‌اند تماس گرفت و دریافت که کنترل‌های امنیتی موجود، از همان ابتدا مانع رسیدن این پیام‌ها به حساب‌های ایمیل سازمانی آنان شده بود.
محتوای فریبندهٔ یکی از فایل‌های مخرب LNK تحلیل‌شده که هنگام اجرا نمایش داده می‌شد.
در سراسر این فرایند، همکاری ما با شرکای صنعت نقشی کلیدی در شناسایی این تلاش‌های ناموفق برای نفوذ به حساب‌های کارکنان داشت. این موضوع اهمیت اشتراک‌گذاری اطلاعات تهدید و همکاری را برای پیشی گرفتن از مهاجمان پیشرفته در عصر هوش مصنوعی نشان می‌دهد. با بهره‌گیری از یافته‌های به‌اشتراک‌گذاشته‌شده و تخصص جمعی، می‌توانیم از دارایی‌های خود بهتر محافظت کنیم و فعالیت حساب‌های مرتبط با چنین اقداماتی را در پلتفرم خود متوقف کنیم.
پاسخ‌های مدل
هنگام تحلیل زیرساخت گسترده‌ترِ پشتیبان این کارزار، مجموعه‌ای از حساب‌های ChatGPT را شناسایی و فعالیت آن‌ها را متوقف کردیم که از همان زیرساخت برای یافتن پاسخ پرسش‌ها، انجام کارهای اسکریپت‌نویسی و پژوهش دربارهٔ آسیب‌پذیری‌ها استفاده می‌کردند. این تعامل‌ها را با تاکتیک‌ها، تکنیک‌ها و رویه‌های (TTP) مرتبط با الگوهای زبانی بزرگ (LLM) تطبیق دادیم؛ مواردی که مایکروسافت اوایل امسال پیشنهاد کرده بود به چارچوب MITRE ATT&CK® افزوده شوند. چارچوب MITRE تاکتیک‌ها و تکنیک‌هایی را ثبت می‌کند که مهاجمان سایبری در دنیای واقعی به کار می‌برند. با فهرست کردن این تطبیق‌ها، هدف ما آگاه‌سازی جامعهٔ گسترده‌تر امنیت سایبری از تاکتیک‌ها، تکنیک‌ها و رویه‌های مشاهده‌شده و کمک به افزایش اثربخشی دفاع سایبری است.
در ادامه، نمونه‌هایی از فعالیت‌های SweetSpecter آمده است که با این تاکتیک‌ها، تکنیک‌ها و رویه‌ها مطابقت دارند:
فعالیت | دسته‌بندی در چارچوب ATT&CK برای الگوهای زبانی بزرگ (LLM) |
|---|---|
پرسش دربارهٔ آسیب‌پذیری‌های برنامه‌های مختلف | شناسایی با اتکا به اطلاعات الگوهای زبانی بزرگ (LLM) |
پرسش دربارهٔ نحوهٔ جست‌وجوی نسخه‌های مشخصی از Log4j که در برابر آسیب‌پذیری بحرانی اجرای کد از راه دور (RCE) موسوم به Log4Shell آسیب‌پذیرند | شناسایی با اتکا به اطلاعات الگوهای زبانی بزرگ (LLM) |
پرسش دربارهٔ سامانه‌های مدیریت محتوای پرکاربرد در خارج از کشور | شناسایی با اتکا به اطلاعات الگوهای زبانی بزرگ (LLM) |
درخواست اطلاعات دربارهٔ شناسه‌های مشخص CVE | شناسایی با اتکا به اطلاعات الگوهای زبانی بزرگ (LLM) |
پرسش دربارهٔ نحوهٔ ساخت اسکنرهایی که سراسر اینترنت را پویش می‌کنند. | شناسایی با اتکا به اطلاعات الگوهای زبانی بزرگ (LLM) |
پرسش دربارهٔ نحوهٔ استفاده از sqlmap برای بارگذاری یک وب‌شل احتمالی روی سرور هدف. | پژوهش دربارهٔ آسیب‌پذیری‌ها با کمک الگوهای زبانی بزرگ (LLM) |
درخواست کمک برای یافتن راه‌های بهره‌برداری از ضعف‌های زیرساخت متعلق به یک خودروساز مطرح. | پژوهش دربارهٔ آسیب‌پذیری‌ها با کمک الگوهای زبانی بزرگ (LLM) |
ارائهٔ کد و درخواست کمک بیشتر برای استفاده از خدمات ارتباطی جهت ارسال پیامک به‌صورت برنامه‌نویسی‌شده. | تکنیک‌های اسکریپت‌نویسی بهبودیافته با الگوهای زبانی بزرگ (LLM) |
درخواست کمک برای رفع اشکال در فرایند توسعهٔ افزونه‌ای برای یک ابزار امنیت سایبری. | تکنیک‌های اسکریپت‌نویسی بهبودیافته با الگوهای زبانی بزرگ (LLM) |
درخواست کمک برای رفع اشکال کدی که بخشی از یک چارچوب بزرگ‌تر برای ارسال برنامه‌نویسی‌شدهٔ پیامک به شماره‌های تعیین‌شده از سوی مهاجم است. | توسعه با کمک الگوهای زبانی بزرگ (LLM) |
پرسش دربارهٔ موضوعات جذاب برای کارکنان اداره‌های دولتی و نام‌های مناسب برای پیوست‌ها، به‌منظور جلوگیری از مسدود شدن آن‌ها. | مهندسی اجتماعی با پشتیبانی الگوهای زبانی بزرگ (LLM) |
درخواست نسخه‌های متفاوت از یک پیام استخدامی ارائه‌شده توسط مهاجم. | مهندسی اجتماعی با پشتیبانی الگوهای زبانی بزرگ (LLM) |
در طول این بررسی، تیم‌های امنیتی ما از ChatGPT برای تحلیل، دسته‌بندی، ترجمه و خلاصه‌سازی تعامل‌های حساب‌های مهاجم استفاده کردند. این کار به ما امکان داد به‌سرعت از مجموعه‌داده‌های بزرگ به یافته‌های مفید برسیم و در عین حال منابع موردنیاز برای این کار را به حداقل برسانیم. انتظار داریم با پیشرفته‌تر شدن مدل‌هایمان، بتوانیم از ChatGPT برای مهندسی معکوس و تحلیل پیوست‌های مخرب ارسال‌شده به کارکنان نیز استفاده کنیم.
تأثیر
همسو با آنچه در نخستین گزارش تهدید خود مشاهده کردیم، به نظر نمی‌رسید استفادهٔ عاملان این عملیات از مدل‌های ما، قابلیت‌ها یا راهنمایی‌های تازه‌ای در اختیارشان گذاشته باشد که نتوانند از منابع متعددِ در دسترس عموم به دست آورند. سازوکارهای امنیتی ما ایمیل‌های مخرب مهاجم را پیش از رسیدن به صندوق ورودی کارکنان مسدود کردند.