مختل‌کردن یک کارزار نفوذ پنهانی جدید از روسیه

مأموریت ما این است که اطمینان یابیم هوش مصنوعی عمومی به سود همه بشریت است. با عرضه نوآوری‌هایمان و ساخت ابزارهای هوش مصنوعی که به مردم در حل مسائل دشوار کمک می‌کنند، این مأموریت را پیش می‌بریم. از جمله ابزارهایی می‌سازیم که به ما امکان می‌دهند عملیات نفوذ پنهانی (IO) را شناسایی، بررسی، مختل و افشا کنیم؛ یعنی تلاش‌های فریبکارانه برای دست‌کاری افکار عمومی یا اثرگذاری بر نتایج سیاسی، بدون آشکارکردن هویت یا مقاصد واقعی عاملان آن‌ها.

ما اخیراً مجموعه‌ای از حساب‌های ChatGPT با منشأ روسیه را مسدود کردیم که برای تبلیغ مؤسسه بین‌المللی برک (IBI)، یک «جامعه کارشناسی» خودخوانده مستقر در اسرائیل، استفاده می‌شدند. تحقیقی که با بررسی پست‌های تولیدشده با هوش مصنوعی در شبکه‌های اجتماعی آغاز شد، ما را به عملیات نفوذ بسیار گسترده‌تری رساند. محور این عملیات وب‌سایتی بود که آثار دانشگاهی کپی‌شده و با انتساب نادرست، یک شاخص «حاکمیت» با تصویری مثبت از روسیه، و تلاش‌هایی برای پنهان‌کردن منشأ روسی اپراتورها را در بر داشت. اگرچه به نظر می‌رسد این کارزار به مخاطبان نسبتاً اندکی رسیده باشد، ساختار پیچیده آن، این کارزار را از دیگر عملیات‌های⁠(در یک پنجره جدید باز می‌شود) نفوذ⁠(در یک پنجره جدید باز می‌شود) مرتبط با روسیه⁠(در یک پنجره جدید باز می‌شود) که از آغاز جنگ اوکراین مختل کرده‌ایم⁠(در یک پنجره جدید باز می‌شود)، متمایز می‌کند. این گزارش توضیح می‌دهد عملیات چگونه کار می‌کرد، ChatGPT چه نقشی در آن داشت و ما برای مختل‌کردنش چه کردیم.

ما مجموعه‌ای از حساب‌های ChatGPT را که به احتمال بسیار زیاد منشأ آن‌ها روسیه بود، مسدود کردیم. اپراتورها اعلان‌هایی به زبان روسی وارد می‌کردند تا نظرهایی برای شبکه‌های اجتماعی تولید کنند که در ساب‌استک، تلگرام، X، فیسبوک و لینکدین منتشر می‌شدند. بیشتر نظرهای تولیدشده به انگلیسی بودند و اپراتورها به ChatGPT دستور می‌دادند هرگونه نشانه زبانی از روس‌بودنشان را پنهان کند. از آنجا که دسترسی به مدل‌هایمان را از داخل روسیه مجاز نمی‌دانیم، آن‌ها برای دسترسی به پلتفرم ما از VPN استفاده می‌کردند.

بخش زیادی از محتوای تولیدشده برای تبلیغ یک «جامعه کارشناسی» خودخوانده به نام مؤسسه بین‌المللی برک (IBI) بود. برند IBI با وب‌سایتی مرتبط بود که در فوریه ۲۰۲۵ ثبت شده بود. این وب‌سایت ادعا می‌کرد مؤسسه در اسرائیل مستقر است. مقالات منتشرشده در این وب‌سایت با مدل‌های ما تولید نشده بودند. بسیاری از آن‌ها از نوشته‌های دانشگاهی واقعی کپی شده و گاهی به افراد نادرستی نسبت داده شده بودند؛ به نظر می‌رسد برخی را فردی اسلاوی‌زبان نوشته و سپس با ترجمه ماشینی برگردانده بود. برای نمونه، تصویر زیر از وب‌سایت IBI عبارتی نامأنوس دارد که محتمل‌ترین توضیح برای آن، ترجمه ماشینی تحت‌اللفظی از یک زبان اسلاوی است.

تا جایی که می‌دانیم، این کارزار نفوذ پنهانی جدید است و پیش‌تر گزارشی درباره آن منتشر نشده بود. برجسته‌ترین ویژگی آن، ایجاد «شاخص حاکمیت» بود که این «اندیشکده» ظاهری برای ستایش روسیه و تحقیر کشورهای غربی تبلیغ می‌کرد. این نخستین بار است که عملیات نفوذی مرتبط با روسیه را مختل کرده‌ایم که برای رسیدن به اهدافش دست به چنین اقدامات پیچیده‌ای زده بود.

کاربرد اصلی ChatGPT در این عملیات، تولید پست‌های شبکه‌های اجتماعی برای تبلیغ مقالات وب‌سایت IBI بود. ما این پست‌ها را در X، لینکدین، فیسبوک، ساب‌استک و تلگرام شناسایی کردیم. برخی را حساب‌هایی با نام و نشان IBI منتشر کرده بودند؛ برخی دیگر ظاهراً از سوی کاربران عادی، که احتمالاً واقعی نبودند، منتشر شده بودند و فعالیت اصلی‌شان انتشار مقالات IBI بود.

اپراتورها در کنار این پست‌های تبلیغاتی، برای پست‌های کاربران واقعی ساب‌استک درباره موضوعات گوناگون نیز پاسخ تولید می‌کردند. این پاسخ‌ها معمولاً حاوی درخواست دنبال‌کردن کانال IBI بودند و حساب IBI آن‌ها را در ساب‌استک منتشر می‌کرد.

یکی از اپراتورها علاوه بر تولید محتوا درباره IBI، پست‌هایی به زبان آلمانی تولید می‌کرد که در کانالی تلگرامی به نام «Lahme Ente» («اردک لنگ») منتشر می‌شدند. این پست‌ها مرتباً از اوکراین، اتحادیه اروپا و دولت آلمان انتقاد می‌کردند و خواستار روابط بهتر با روسیه بودند.

اپراتور دوم، در کنار محتوای مرتبط با IBI، برای دوازده کانال تلگرامی از جمله Lahme Ente که بر آلمان، ایالات متحده، فرانسه، لهستان و ترکیه تمرکز داشتند، لوگو تولید کرد. برخی از این کانال‌ها گاهی درباره IBI پست می‌گذاشتند یا پست‌های خود IBI را بازنشر می‌کردند. اپراتور دوم همچنین بارها خلاصه‌ای روسی‌زبان از فعالیت این کانال‌ها درخواست کرد. یکی از کانال‌های متمرکز بر ایالات متحده که خود را یک رسانه آمریکایی جا می‌زد، در معرفی‌نامه‌اش نشانه‌های متعددی از نگارش فردی غیربومی داشت.

به نظر می‌رسید محور اصلی این عملیات مؤسسه بین‌المللی برک (IBI) باشد، هرچند فعالیتی که مختل کردیم بر محتوای شبکه‌های اجتماعی متمرکز بود که وب‌سایت را تبلیغ می‌کرد یا به آن پیوند می‌داد، نه محتوایی که مستقیماً در خود وب‌سایت میزبانی می‌شد.

این وب‌سایت خود را یک «جامعه کارشناسی» با نشانی خیابانی در اسرائیل معرفی می‌کرد. تا ۱۷ ژوئیه، این وب‌سایت مدعی همکاری با طیف گسترده‌ای از کارشناسان برجسته جهانی، از جمله چهره‌هایی مانند فرانسیس فوکویاما و نوام چامسکی، بود و مجموعه متنوعی از پژوهش‌ها را منتشر می‌کرد. بااین‌حال، بررسی نمونه‌ای شامل ۳۶ مقاله که در وب‌سایت IBI به کارشناسان پیوند داده شده و بین سپتامبر ۲۰۲۵ و مه ۲۰۲۶ منتشر شده بودند، نشان داد که ۳۴ مقاله از بخش‌های دیگر اینترنت کپی شده‌اند.

برخی از این مقالات چندین سال قدمت داشتند و برخی دیگر به نویسندگان اشتباهی نسبت داده شده بودند. برای نمونه، به نظر می‌رسد مقاله‌ای درباره کریدور اقتصادی چین و پاکستان از نسخه اصلی انتشارات دانشگاه کمبریج کپی شده، اما به‌اشتباه به استادی در دانشگاه ناتینگهام نسبت داده شده است که حوزه تخصصش سیاست جنوب آسیاست.

به نظر می‌رسد مقاله دیگری درباره حکمرانی مهاجرت از مؤسسه سیاست مهاجرت کپی شده، اما به‌اشتباه به یک استاد استرالیایی علوم غذایی نسبت داده شده است. این رفتار نشان می‌دهد که گردانندگان می‌خواستند با انباشتن وب‌سایت IBI از محتوای معتبر و در عین حال پنهان‌کردن منبع واقعی آن، وب‌سایت را مشروع‌تر جلوه دهند.

در کنار این مقالات، وب‌سایت IBI گزارش‌هایی درباره کشورهای مختلف و میزان حاکمیت آن‌ها، بر اساس شاخص این مؤسسه، منتشر می‌کرد. این گزارش‌ها با استفاده از مدل‌های ما تولید نشده بودند. برخی از این گزارش‌ها به‌صورت مقایسه میان دو کشور ارائه می‌شدند. برخی دیگر بر کشورهایی خاص، به‌ویژه منتقدان جنگ روسیه علیه اوکراین مانند فرانسه و آلمان، و نیز اتحادیه اروپا تمرکز داشتند. این عملیات روایت‌های مشابهی را درباره ایالات متحده ترویج می‌کرد. این گزارش‌ها معمولاً لحنی انتقادی داشتند و گاه به جدل‌گویی می‌رسیدند. نمونه‌ها عبارت‌اند از:

• فرانسه⁠(در یک پنجره جدید باز می‌شود): «ده سال مکرونیسم دقیقاً همان نتیجه‌ای را به بار آورد که باید از مدیری انتظار می‌رفت که از بانک روتشیلد به کاخ الیزه آمده بود: فرانسه مانند گاوصندوقی پر از سرمایه تاریخی گشوده شد و اکنون آن را تکه‌تکه می‌فروشند.»
• ایالات متحده⁠(در یک پنجره جدید باز می‌شود): «ترامپ با رتبه نخست شاخص حاکمیت در جهان وارد [پکن] شد و پس از برداشتن چند گام که [...] می‌توان آن‌ها را کاهش داوطلبانه استقلال قلمداد کرد، آنجا را ترک کرد.»
• آلمان⁠(در یک پنجره جدید باز می‌شود): «آلمان به سیاست صنعتی‌ای نیاز دارد که از مشاغل محافظت کند، نه فقط از قیمت سهام. این کشور به گفت‌وگویی صادقانه درباره هویت، به دور از تابو و هیاهو، نیاز دارد. آلمان به حاکمیت نظامی واقعی نیاز دارد، نه وابستگی به پایگاه‌های آمریکا. و به سیاستمدارانی نیاز دارد که نخستین وفاداری‌شان به مردم آلمان باشد، نه هیئت‌مدیره شرکت‌ها در نیویورک.»
• اتحادیه اروپا⁠(در یک پنجره جدید باز می‌شود): «اسلواکی در برابر ایتالیا: تناقض‌های حاکمیت کشورهای گروگانِ اتحادیه “بزرگ”»

محتوای شبکه‌های اجتماعی برای تبلیغ IBI را کاربران ChatGPT در روسیه تولید می‌کردند که برای پنهان‌کردن منشأ خود تلاش زیادی داشتند و ظاهراً بخش بزرگی از محتوای وب‌سایت IBI نیز از منابع دیگر کپی شده بود. بااین‌حال، برخی ردپاهای آنلاین نشان می‌دهند که شاید شمار اندکی از افراد واقعی در اسرائیل نیز هنگام ارسال مقاله و حضور در همایش‌ها نماینده IBI بوده‌اند. ما نمی‌توانیم رابطه میان این افراد، IBI و اپراتورهای مستقر در روسیه را مشخص کنیم.

به نظر می‌رسد تأثیر فوری این عملیات محدود بوده است: پست‌های معمول آن در شبکه‌های اجتماعی بازدید اندکی داشتند و شمار مشترکان حساب‌های رسمی IBI نیز پایین بود. به نظر می‌رسد کانال‌های تلگرامی این عملیات مشترکان بیشتری جذب کرده‌اند و هر یک معمولاً ۱۰ تا ۲۰ هزار دنبال‌کننده داشته‌اند. با استفاده از مقیاس گسترش⁠(در یک پنجره جدید باز می‌شود) بروکینگز برای سنجش تأثیر این عملیات، آن را در بخش پایین رده سوم ارزیابی می‌کنیم؛ یعنی فعالیت در چند پلتفرم، همراه با نشانه‌هایی از نفوذ به مخاطبان واقعی.

بااین‌حال، اهمیت این عملیات نه چندان در مخاطبانی که به آن‌ها رسید، بلکه در زیرساختی بود که ساخته بود. هرچند عاملان فقط برای تولید پست‌های تبلیغاتی پراکنده از ChatGPT استفاده می‌کردند، این پست‌ها به مؤسسه‌ای ظاهراً معتبر هدایت می‌شدند که کارشناسان ادعایی، آثار دانشگاهی بازنشرشده و یک شاخص ریسک ظاهراً اختصاصی داشت. این نمونه نشان می‌دهد عاملان نفوذ چگونه می‌توانند در چارچوب تلاشی گسترده‌تر برای اعتبارسازی، پنهان‌کردن منبع روایت‌های مطلوب و ایجاد دارایی‌هایی که در گذر زمان قابل گسترش باشند، از هوش مصنوعی به‌عنوان ابزار پشتیبان استفاده کنند. همچنین نشان می‌دهد که استفاده پشتیبان آن‌ها از هوش مصنوعی چگونه می‌تواند به افشای عملیات گسترده‌تر منجر شود.