طرح فریبکارانه استخدام: فعالیت کارکنان فناوری اطلاعات

این مطالعه موردی نخستین بار در گزارش ژوئن ۲۰۲۵⁠(در یک پنجره جدید باز می‌شود) OpenAI منتشر شد.

ما حساب‌های ChatGPT مرتبط با فعالیت‌هایی را شناسایی و مسدود کردیم که ظاهراً به چندین کارزار مشکوک به فریبکاری در استخدام تعلق داشتند. این عوامل تهدید از مدل‌های OpenAI برای تهیه محتوایی استفاده می‌کردند که به تلاش‌های احتمالاً متقلبانه برای درخواست مشاغل فناوری اطلاعات، مهندسی نرم‌افزار و دیگر مشاغل دورکاری در سراسر جهان کمک می‌کرد.

گرچه نمی‌توانیم محل استقرار یا ملیت این عوامل تهدید را مشخص کنیم، رفتار آن‌ها با فعالیت‌هایی همخوانی داشت که در گزارش‌های عمومی به طرح‌های مرتبط با کره شمالی (DPRK)⁠(در یک پنجره جدید باز می‌شود) در زمینه کارکنان فناوری اطلاعات نسبت داده شده‌اند. برخی از عوامل مرتبط با این کارزارهای اخیر ممکن است به‌عنوان پیمانکار توسط گروه اصلی عوامل تهدیدِ احتمالاً مرتبط با کره شمالی استخدام شده باشند تا کارهای مربوط به درخواست‌های شغلی و راه‌اندازی و اداره سخت‌افزار را، از جمله در داخل ایالات متحده، انجام دهند.

در کارزارهای اخیر نیز، همانند فعالیت عوامل تهدیدی که آن‌ها را مختل کردیم و در فوریه⁠(در یک پنجره جدید باز می‌شود) درباره‌شان نوشتیم، تلاش می‌شد در تمام مراحل فرایند استخدام از هوش مصنوعی استفاده شود. پیش‌تر مشاهده کرده بودیم که این عوامل با استفاده از هوش مصنوعی، به‌صورت دستی هویت‌های ساختگی باورپذیری ایجاد می‌کردند که اغلب ساکن آمریکا معرفی می‌شدند و سابقه کاری جعلی در شرکت‌های مطرح داشتند. این بار، آن‌ها تلاش کردند تولید رزومه را تا حدی خودکار کنند. برخی نشانه‌ها نیز حاکی از آن است که اپراتورهایی در آفریقا خود را متقاضی شغل جا می‌زدند و افزون بر آن، افرادی را در آمریکای شمالی به کار می‌گرفتند تا از طرف آن‌ها لپ‌تاپ‌ها را راه‌اندازی و اداره کنند.

ما دو جریان متمایز از فعالیت را شناسایی کردیم که احتمالاً نشان‌دهنده دو نوع اپراتور بودند: اپراتورهای اصلی و پیمانکاران.

اپراتورهای اصلی تلاش می‌کردند ایجاد رزومه را بر اساس شرح شغل‌های مشخص، الگوهای مهارتی و پروفایل هویت‌های ساختگی خودکار کنند و به دنبال اطلاعاتی درباره ساخت ابزارهای مدیریت و پیگیری درخواست‌های شغلی بودند. آن‌ها همچنین از مدل‌های ما برای تولید محتوایی شبیه به آگهی‌های شغلی با هدف جذب پیمانکار در نقاط مختلف جهان استفاده می‌کردند.

اپراتورهای اصلی از ChatGPT به‌عنوان ابزار تحقیق برای کسب اطلاعات لازم جهت راه‌اندازی محیط‌های دورکاری استفاده می‌کردند. آن‌ها همچنین از مدل‌های ما برای تولید متن‌هایی درباره جذب افراد واقعی در آمریکا استفاده می‌کردند تا لپ‌تاپ‌های شرکت‌ها را تحویل بگیرند؛ سپس عوامل اصلی تهدید یا پیمانکارانشان از راه دور به این لپ‌تاپ‌ها دسترسی پیدا می‌کردند.

این عوامل تهدید درباره استفاده از ابزارهایی مانند VPN همتا‌به‌همتای Tailscale، نرم‌افزار OBS Studio، تزریق جریان زنده ویدئو با vdo.ninja و حلقه‌های ضبط HDMI در عملیات خود تحقیق می‌کردند. این ابزارها قابلیت استفاده برای دور زدن تدابیر امنیتی شرکت‌ها را دارند و در صورت موفقیت، به فرد امکان می‌دهند حضور از راه دور خود را به‌طور مداوم و بدون شناسایی حفظ کند و همچنین برای دور زدن برخی فرایندهای احراز هویت متکی بر جلسات ویدئویی زنده تلاش کند.

در همین حال، اپراتورهایی که احتمالاً پیمانکار بودند، از ChatGPT برای کمک به انجام کارهای مربوط به درخواست شغل استفاده می‌کردند. آن‌ها همچنین از آن برای تولید محتوایی شبیه به پیام‌های خطاب به اپراتورهای اصلی استفاده می‌کردند که در آن‌ها درباره پرداخت‌ها و هویت‌های ساختگی مورد استفاده در درخواست مشاغل دورکاری پرس‌وجو می‌شد.

ما به این نتیجه رسیدیم که این عوامل تهدید تلاش کرده‌اند از مدل‌های ما برای عملیاتی فریبکارانه استفاده کنند. به‌طور مشخص، آن‌ها با استفاده از پرامپت‌ها و دستورالعمل‌های مفصل و حلقه‌های خودکارسازی، رزومه‌های متناسب با هر شغل و باورپذیر را در مقیاس گسترده تولید می‌کردند.

• تولید خودکار رزومه‌های مفصل متناسب با شرح مشاغل مختلف فناوری، هویت‌های ساختگی و عرف صنعت: مهندسی اجتماعی با پشتیبانی الگوهای زبانی بزرگ (LLM).

• پاسخ‌گویی به پرسش‌های درخواست استخدام، انجام تکالیف برنامه‌نویسی و پاسخ‌گویی هم‌زمان به پرسش‌های مصاحبه بر اساس رزومه‌های بارگذاری‌شده: مهندسی اجتماعی با پشتیبانی الگوهای زبانی بزرگ (LLM).

• درخواست راهنمایی برای پیکربندی از راه دور لپ‌تاپ‌های تحویلی شرکت به‌گونه‌ای که مستقر در داخل کشور به نظر برسند، از جمله روش‌های پنهان‌سازی موقعیت جغرافیایی و دور زدن امنیت دستگاه‌های پایانی: تقویت توان گریز از تشخیص ناهنجاری با الگوهای زبانی بزرگ (LLM).

• کمک به کدنویسی ابزارهایی برای حرکت خودکار ماوس یا جلوگیری از ورود رایانه به حالت خواب از راه دور، احتمالاً برای کمک به راه‌اندازی زیرساخت دورکاری: توسعه با کمک الگوهای زبانی بزرگ (LLM).

ما نمی‌توانیم موفقیت این عملیات را به‌طور مستقل ارزیابی کنیم، زیرا سنجش تأثیر آن به دریافت اطلاعات از چندین ذی‌نفع نیاز دارد.

اگرچه این عوامل تهدید احتمالاً برای افزایش کارایی، هوش مصنوعی را در تمام مراحل فرایند خود به کار گرفته بودند، این کار احتمال شناسایی آن‌ها را نیز افزایش داد. با فراهم کردن امکان شناخت جریان‌های کاری خود برای ما، آن‌ها این فرصت را ایجاد کردند که اطلاعات به‌دست‌آمده درباره این کارزارها را در هر مرحله از فعالیتشان با همتایان مرتبط در صنعت و مراجع مسئول به اشتراک بگذاریم. این امر توان جمعی ما را برای شناسایی، پیشگیری و مقابله با چنین تهدیدهایی افزایش داد و ایمنی مشترکمان را ارتقا بخشید.