عملیات «خوراک ماهی»: فعالیت مزرعه محتوای منشأگرفته از روسیه

این مطالعه موردی نخست در گزارش فوریه ۲۰۲۶⁠(در یک پنجره جدید باز می‌شود) OpenAI درباره مقابله با استفاده‌های مخرب از هوش مصنوعی منتشر شد.

ما مجموعه‌ای از حساب‌های ChatGPT را که به شبکه «ریبار» («Рыбарь»، به‌معنای «ماهیگیر» در روسی) در تلگرام و X مرتبط بودند، مسدود کردیم. احتمالاً دست‌کم برخی از این حساب‌ها منشأ روسی داشتند. این شبکه محتوایی تولید می‌کرد که در سراسر اینترنت منتشر می‌شد؛ گاهی از طریق حساب‌هایی با نام تجاری «ریبار» و گاهی از طریق حساب‌های شبکه‌های اجتماعی که هیچ ارتباطی با «ریبار» اعلام نکرده بودند. یکی از کاربران همچنین از ChatGPT خواست از طرف «ریبار» برای کارزارهای مداخله پنهانی در آفریقا، طرح‌های تجاری تهیه کند. با توجه به شیوه استفاده عوامل از ChatGPT برای تأمین محتوای شبکه «ریبار» و دیگر حساب‌ها، این عملیات را «خوراک ماهی» نامیده‌ایم.

فعالیت اصلی شناسایی‌شده در سراسر این شبکه، تولید محتوا برای انتشار در شبکه‌های اجتماعی بود. کاربران معمولاً درخواست‌هایشان را به روسی وارد می‌کردند، اما محتوا به زبان‌های گوناگون، به‌ویژه روسی، انگلیسی و اسپانیایی، تولید می‌شد. بخشی از این محتوا سپس در حساب‌های شبکه‌های اجتماعی با نام تجاری «ریبار» و وب‌سایت اصلی «ریبار» منتشر شد. یکی از کاربران همچنین با Sora ویدئوهایی برای تبلیغ نام تجاری «ریبار» تولید کرد.

کاربر اصلی این پرونده، علاوه بر تولید محتوایی که حساب‌های دارای نام تجاری «ریبار» به‌صورت آنلاین منتشر می‌کردند، مجموعه‌هایی از نظرات انگلیسی‌زبان نیز تولید کرد. با استفاده از روش‌های تحقیق مبتنی بر منابع باز، موارد بسیاری یافتیم که عین متن این نظرات تولیدشده در کانال تلگرام ریبار منتشر شده بود. بالا سمت راست: توییت انگلیسی‌زبان با نام تجاری ریبار. به‌صورت آنلاین از سوی مجموعه‌ای از حساب‌های X و تلگرام منتشر شد که هیچ‌یک ارتباطی با ریبار اعلام نکرده بودند. پایین سمت راست: متن اسپانیایی و اینفوگرافیک دارای نام تجاری ریبار در وب‌سایتی اسپانیایی‌زبان. در اصل، وب‌سایت زبانی ChatGPT یعنی andaluciamorisca[.]org. به نظر می‌رسید این فعالیت برای آن حساب‌ها نقش مزرعه محتوا را داشت. ما نتوانستیم سازوکاری را که این حساب‌ها در نهایت از طریق آن محتوای تولیدشده با هوش مصنوعی را به‌صورت آنلاین منتشر می‌کردند مستقلاً تأیید کنیم. به نظر می‌رسد این حساب‌ها گاهی محتوایی را نیز منتشر کرده‌اند که مدل‌های ما تولید نکرده بودند.

شایان ذکر است که عامل تهدید دست‌کم در یک مورد (که در ادامه نشان داده شده است)، با استفاده از یک اعلان، مجموعه‌ای شامل هفت توییت تولید کرد. ما شش مورد از آن‌ها را شناسایی کردیم که حساب‌های مختلف X توییت کرده بودند. طبق آمار X، پربیننده‌ترین توییت بیش از ۱۵۰٬۰۰۰ بار دیده شد، درحالی‌که کم‌بیننده‌ترین توییت فقط ۵۷ بازدید داشت. تا ۲۶ ژانویه ۲۰۲۶، حسابی که توییتش بیشترین بازدید را داشت بیش از ۶۰۰٬۰۰۰ دنبال‌کننده داشت؛ حسابی که توییتش کمترین بازدید را داشت نیز در همان تاریخ ۸۲۷ دنبال‌کننده داشت. از آنجا که همه توییت‌ها به‌صورت یک مجموعه و با یک اعلان تولید شده بودند، به نظر می‌رسد شمار دنبال‌کنندگان هر حساب، نه ماهیت هوش مصنوعی محتوا، عامل تعیین‌کننده‌تری در میزان بازدید هر توییت بوده است.

حساب اصلی عملیات علاوه بر تولید محتوا، از ChatGPT خواست فهرستی از خدمات قابل ارائه «ریبار» به مشتریان نامشخص را به انگلیسی ترجمه کند؛ از جمله اداره حساب‌های X و تلگرام، راه‌اندازی وب‌سایت دوزبانه «روزنامه‌نگاری تحقیقی» با تمرکز بر آفریقا، انتشار مطالب پولی در رسانه‌های فرانسوی‌زبان و ایجاد شبکه‌ای برای تقویت و بازنشر محتوا. در اعلانی جداگانه، از مدل خواسته شد پیشنهادی را برای آنچه ظاهراً یک تیم عملیاتی مداخله در انتخابات در آفریقا بود، ویرایش کند. این پیشنهاد علاوه بر فعالیت آنلاین، اقدام‌های میدانی مانند ایجاد شبکه‌ای از عوامل محلی و برگزاری رویدادهای گسترده را نیز دربر می‌گرفت. اعلان سومی به یک کارزار اطلاعاتی با تمرکز بر جمهوری دموکراتیک کنگو (DRC) می‌پرداخت. در اعلان‌های دیگری درباره فرایند انتخابات در بوروندی و کامرون پرسیده شده و گزینه‌هایی برای اجرای کارزاری در ماداگاسکار، از جمله دامن‌زدن به اعتراضات میدانی، ترسیم شده بود. مبالغ مطرح‌شده چشمگیر بود: بودجه سالانه برآوردی برای بلندپروازانه‌ترین پروژه تا ۶۰۰٬۰۰۰ دلار می‌رسید.

همین کاربر گاهی برای رسانه‌ای خبری به نام «REST Media» محتوای تبلیغاتی تولید می‌کرد که پژوهشگران منابع باز آن را به ریبار مرتبط دانسته‌اند⁠(در یک پنجره جدید باز می‌شود). بخشی از این محتوای تبلیغاتی را همان مجموعه کانال‌های تلگرامی که پیش‌تر شرح داده شد، به‌صورت آنلاین منتشر کردند. برای نمونه، در ماه اوت، کاربر اصلی ChatGPT در این پرونده مقاله‌ای از REST Media را وارد کرد که آلمان را به ایجاد شبکه نفوذ در مولداوی متهم می‌کرد و از مدل ما خواست مجموعه‌ای نظر درباره آن تولید کند. سپس سه کانال مختلف، سه مورد از این نظرات را در تلگرام منتشر کردند و هرکدام به مقاله REST پیوند دادند.

محتوای تولیدشده به‌وسیله این عملیات، نمونه‌ای متعارف از عملیات نفوذ پنهانی روسیه در طول سال‌ها بود. این محتوا معمولاً روسیه و متحدانش، مانند بلاروس، را می‌ستود، از اوکراین انتقاد می‌کرد و کشورهای غربی را به مداخله خارجی متهم می‌ساخت.

شبکه ریبار در شبکه‌های اجتماعی مخاطبان زیادی دارد؛ کانال اصلی روسی‌زبان آن در تلگرام به‌تنهایی حدود ۱٫۴ میلیون مشترک دارد. بسیاری از حساب‌های X و تلگرام که محتوای این عملیات را منتشر کردند نیز ده‌ها هزار دنبال‌کننده داشتند. بااین‌حال، مشاهده نکردیم که رسانه‌های خبری جریان اصلی محتوای آن را بازتاب گسترده دهند و نتوانستیم فعالیتی میدانی در آفریقا بیابیم که با شرح پیشنهادهای فروش مطابقت داشته باشد.

بر اساس مقیاس گسترش⁠(در یک پنجره جدید باز می‌شود) برای سنجش تأثیر عملیات نفوذ که این عملیات را از ۱ (کمترین) تا ۶ (بیشترین) رتبه‌بندی می‌کند، با توجه به پراکندگی گسترده آن در شبکه‌های اجتماعی، این عملیات را در بالاترین سطح رده ۳ (چندین اجتماع در چندین پلتفرم) ارزیابی می‌کنیم.