عملیات کلاهبرداری: شبکه‌های کلاهبرداری آنلاین

این مطالعهٔ موردی نخستین بار در گزارش اکتبر ۲۰۲۵⁠(در یک پنجره جدید باز می‌شود) OpenAI منتشر شد.

شبکه‌هایی که احتمالاً از کامبوج، میانمار و نیجریه سرچشمه می‌گیرند و ظاهراً برای کلاهبرداری آنلاین از مردم، از ChatGPT سوءاستفاده می‌کنند.

ما به شناسایی، پیشگیری و مختل‌کردن تلاش‌ها برای سوءاستفاده زیان‌بار از مدل‌هایمان متعهدیم. یکی از این موارد سوءاستفاده، کلاهبرداری است؛ ما عاملان مخربی را که می‌کوشند با سوءاستفاده از مدل‌هایمان مردم را فریب دهند و از آن‌ها کلاهبرداری کنند، شناسایی و مسدود می‌کنیم. در سه ماه گذشته، شبکه‌های کلاهبرداری را که احتمالاً از کامبوج، میانمار و نیجریه سرچشمه می‌گرفتند مختل کرده‌ایم. تحقیقات ما درباره این الگوهای سوءاستفاده همچنین نشان داد که افراد بسیاری از مدل‌هایمان برای شناسایی کلاهبرداری‌ها کمک می‌گیرند؛ نشانه‌ای از نقشی که هوش مصنوعی می‌تواند در مقابله با کلاهبرداری ایفا کند. این گزارش هر دو کاربرد را بررسی می‌کند.

سوءاستفاده از مدل‌های ما برای تسهیل کلاهبرداری، از تلاش‌های مجرمان منفرد تا عملیات گسترده و مستمری را دربر می‌گیرد که احتمالاً با گروه‌های جرائم سازمان‌یافته ارتباط دارند. فعالیت‌های کلاهبرداری‌ای که مختل کرده‌ایم، صرف‌نظر از منشأ و شگردهای دقیقشان، معمولاً از الگویی مشترک پیروی می‌کنند که آن را سه مرحله می‌دانیم: «تماس» (ارتباط ناخواسته)، «تحریک» (برانگیختن اشتیاق یا وحشت) و «اخاذی» (گرفتن پول یا اطلاعات ارزشمند).

این کلاهبرداران کار خود را با انتشار گسترده محتوا، چه تولیدشده با هوش مصنوعی و چه بدون آن، در پیام‌رسان‌ها و اینترنت آغاز می‌کنند؛ از جمله با نمایش تبلیغات در شبکه‌های اجتماعی. سپس می‌کوشند در پاسخ‌دهندگان یا برای فرصتی پرسود اشتیاق ایجاد کنند یا از زیان مالی قریب‌الوقوع بترسانند و با بهره‌برداری از این احساسات، هدف را متقاعد کنند که پول یا اطلاعات حساس خود را در اختیارشان بگذارد.

موارد بسیاری نیز دیده‌ایم که مدل‌های ما احتمالاً به محافظت از مردم در برابر کلاهبرداری کمک کرده‌اند. شواهد نشان می‌دهد مردم ماهانه میلیون‌ها بار از ChatGPT برای شناسایی و دوری از کلاهبرداری‌های آنلاین کمک می‌گیرند. در تمام عملیات‌های کلاهبرداری مطرح‌شده در این گزارش نیز دیده‌ایم که مدل به مردم کمک کرده است کلاهبرداری را به‌درستی تشخیص دهند و اقدامات ایمنی مناسب را به آن‌ها توصیه کرده است. برآورد کنونی ما این است که میزان استفاده از ChatGPT برای شناسایی کلاهبرداری، تا سه برابر استفاده از آن برای انجام کلاهبرداری است.

نمونه‌ای از پژوهشگر OpenAI که تصویر پیامک کلاهبرداری دریافتی خود را در ChatGPT بارگذاری کرد و با موفقیت از مدل برای شناسایی آن به‌عنوان کلاهبرداری بهره گرفت. در این مورد، عاملان تهدید خود را استخدام‌کنندگان TikTok جا زده بودند.

از زمان انتشار گزارش قبلی، توانایی خود را برای شناسایی و مختل‌کردن کلاهبرداری‌ها تقویت کرده‌ایم. شبکه‌های کلاهبرداری دیگری را نیز مختل کرده‌ایم که ظاهراً از کامبوج، میانمار و نیجریه سرچشمه می‌گرفتند. این اقدامات، در کنار موارد پیشین، به ما امکان می‌دهد برخی روندهای نوظهور را در چندین عملیات کلاهبرداری از کشورهای مختلف شناسایی کنیم.

بخش عمده فعالیت‌های کلاهبرداری‌ای که مختل کردیم، به استفاده از هوش مصنوعی در روش‌های رایج کلاهبرداری اختصاص داشت، نه ابداع روش‌های تازه‌ای که بر هوش مصنوعی استوار باشند. تمام عملیات‌های کلاهبرداری‌ای که امسال شناسایی و مسدود کرده‌ایم، عمدتاً از هوش مصنوعی برای افزایش مقیاس و کارایی استفاده می‌کردند. این کار معمولاً شامل استفاده از مدل‌هایمان برای ترجمه، نوشتن پیام و تولید محتوای شبکه‌های اجتماعی بود.

برای مثال، اخیراً عملیات‌های کلاهبرداری‌ای را که احتمالاً از کامبوج و نیجریه سرچشمه می‌گرفتند و برای فریب قربانیان در چند کشور خود را «شرکت‌های سرمایه‌گذاری» جا می‌زدند، مسدود کردیم. کلاهبرداران برای تبلیغ این شرکت‌های جعلی، وب‌سایت‌ها و آگهی‌های آنلاین ساختند و با حساب‌های احتمالاً جعلی در شبکه‌های اجتماعی که خود را کارشناسان معامله‌گری معرفی می‌کردند، مردم را به عضویت در گروه‌های خصوصی پیام‌رسان دعوت کردند. سپس عاملان تهدید با وعده فرصت‌های درآمدزایی پرسود و بدون ریسک، می‌کوشیدند قربانیان احتمالی را به واریز پول در پلتفرم‌های معاملاتی ساختگی ترغیب کنند. در همه این کلاهبرداری‌ها، کلاهبرداران عمدتاً از مدل‌های ما برای تولید و ترجمه مکاتبات، ساخت محتوای وب‌سایت‌ها و حساب‌های شبکه‌های اجتماعی و انجام پژوهش‌های مقدماتی استفاده می‌کردند.

در موردی دیگر، یک مرکز کلاهبرداری را که به احتمال زیاد در میانمار مستقر بود و از مدل‌های ما هم برای تولید محتوای طرح‌های متقلبانه و هم برای انجام امور روزمره کسب‌وکار استفاده می‌کرد، مسدود کردیم. این امور شامل تنظیم برنامه‌ها، تدوین اطلاعیه‌های داخلی، تخصیص میز کار و محل اقامت و مدیریت حساب‌های مالی بود. برخی گردانندگان درباره مجازات کیفری افرادی پرس‌وجو می‌کردند که هنگام انجام کلاهبرداری آنلاین دستگیر می‌شوند.

همه کلاهبردارانی که فعالیتشان را مختل کردیم، به یک شیوه یا با سطح یکسانی از پیچیدگی از مدل‌های ما استفاده نمی‌کردند. بیشتر تعاملات کلاهبرداران با ChatGPT به کارهای نسبتاً ساده‌ای مانند ترجمه مربوط می‌شد، اما برخی عملیات‌های کلاهبرداری بلندپروازانه‌تر و پیچیده‌تر بودند.

برای نمونه، یکی از عملیات‌های کلاهبرداری که مختل کردیم و احتمالاً از کامبوج سرچشمه می‌گرفت، از مدل‌های ما برای نوشتن زندگی‌نامه‌های مفصل برای کارشناسان سرمایه‌گذاری جعلی و کارکنان ساختگی شرکت‌های معاملاتی جعلی استفاده می‌کرد. سپس کلاهبرداران از ChatGPT می‌خواستند پیام‌هایی برای شبکه‌های اجتماعی بنویسد که لحن همان شخصیت‌ها را داشته باشد. عاملان تهدید اغلب پیام‌هایی را که ظاهراً از اهداف خود دریافت کرده بودند به مدل ما می‌دادند و از آن می‌خواستند در نقش شخصیت جعلی به گفت‌وگو ادامه دهد.

عملیات کلاهبرداری دیگری که آن هم احتمالاً از کامبوج سرچشمه می‌گرفت، کار خود را با استفاده از مدل‌های ما برای تولید پیامک‌های تبلیغاتی ناخواسته آغاز کرد که به‌صورت انبوه برای شماره‌های تلفن آمریکا ارسال می‌شدند. یکی از این پیام‌ها برای پژوهشگر OpenAI ارسال شد؛ موردی مشابه آنچه در ژوئن گزارش کردیم. این پیامک‌ها حاوی دعوت‌نامه‌هایی برای پیوستن به گروه‌های WhatsApp بودند که نامشان به یک شرکت سرمایه‌گذاری معتبر شباهت داشت و بعداً مسدود شدند.

بر پایه مجموعه‌ای از پیام‌های WhatsApp که برای پژوهشگر OpenAI فرستاده شد، اگر هدفی احتمالی به یکی از این گروه‌ها می‌پیوست، خیلی زود شاهد «گفت‌وگوی» حدود شش حساب مختلف می‌شد که همگی درباره سرمایه‌گذاری صحبت می‌کردند. یکی از این حساب‌ها خود را «کارشناس سرمایه‌گذاری» جا می‌زد و بقیه نقش سرمایه‌گذارانی با سطوح متفاوت اعتمادبه‌نفس و تجربه را بازی می‌کردند. تمام بخش‌های این گفت‌وگو را کلاهبرداران تولید کرده و یکجا از چینی ترجمه کرده بودند؛ احتمالاً برای آنکه فضایی پرجنب‌وجوش از گروهی معامله‌گر مشتاق و موفق بسازند. در نهایت، «کارشناس سرمایه‌گذاری» پیشنهاد می‌کرد که هدف نیز سرمایه‌گذاری را امتحان کند.

در موردی جداگانه، یک عملیات کلاهبرداری سرمایه‌گذاری که به احتمال بسیار زیاد از نیجریه سرچشمه می‌گرفت، از مدل راهنمایی گام‌به‌گام خواست که چگونه با تبلیغات شبکه‌های اجتماعی به افراد ثروتمند در آمریکای لاتین دسترسی پیدا کند، موقعیت مکانی خود را پنهان سازد و محدودیت‌های پلتفرم‌های اجتماعی را دور بزند. برای این منظور، مدل را به شرایط استفاده عمومی یک پلتفرم ارجاع می‌دادند و از آن می‌خواستند محتوای تبلیغاتی پیشنهادی را از نظر انطباق با مقررات بررسی کند.

کلاهبرداران، به‌ویژه مراکز بزرگ کلاهبرداری، دست‌بردار نیستند. آن‌ها اغلب در واکنش به مختل‌شدن فعالیتشان می‌کوشند فعالیت ناقض مقررات خود را از سر بگیرند و در عین حال برخی رفتارهایشان را تغییر دهند؛ احتمالاً برای آنکه دوباره شناسایی نشوند. این یکی از دلایلی است که به‌اشتراک‌گذاری یافته‌ها درباره فعالیت‌های در حال تحول آن‌ها در سراسر صنعت اهمیت دارد؛ مانند زمانی که OpenAI و Meta هرکدام اطلاعاتی درباره عاملان تهدید به اشتراک گذاشتند که به تحقیقات و اقدامات اجرایی بیشتر کمک کرد.

احتمالاً در واکنش به اختلال‌ها یا بحث‌های گسترده‌تر آنلاین درباره نشانه‌هایی که می‌توانند استفاده از هوش مصنوعی را افشا کنند، دیده‌ایم که کلاهبرداران می‌کوشند استفاده خود از هوش مصنوعی را در محتوای آنلاین و ارتباط با اهداف پنهان کنند. از جمله، عملیات‌های کلاهبرداری‌ای که احتمالاً از کامبوج سرچشمه می‌گرفتند، به مدل دستور می‌دادند خط تیره بلند را از خروجی‌ها حذف کند.

در یک مورد، کلاهبرداران کوشیدند با ساختن بهانه‌ای برای مسدودشدنشان، مختل‌شدن گسترده دارایی‌های خود در شبکه‌های اجتماعی را توجیه کنند. این مورد به مرکز کلاهبرداری احتمالاً مرتبط با کامبوج مربوط بود که پیش‌تر شرح داده شد و در پیامک و WhatsApp فعالیت می‌کرد. پس از آنکه WhatsApp «گروه‌های سرمایه‌گذاری» مرتبط با این عملیات را مسدود کرد، گردانندگان شروع به تولید پیام‌هایی کردند که مدعی بود رقیبی به‌دروغ این گروه‌ها را گزارش کرده است؛ احتمالاً برای توجیه مسدودشدن‌ها.

تصویر پیام WhatsApp که عملیات کلاهبرداری مرتبط با کامبوج پس از اقدام WhatsApp برای حذف آن، برای پژوهشگر OpenAI ارسال کرد.