عملیات «داپلگنگر»: فعالیت نفوذی روسیه علیه اوکراین
OpenAI حسابهای مرتبط با عملیات روسی «داپلگنگر» را مسدود کرد؛ عملیاتی که با هوش مصنوعی، دیدگاههای ضد اوکراینی، ترجمه و محتوای وبسایت را به چند زبان تولید میکرد.
این مطالعه موردی نخستین بار در گزارش مه ۲۰۲۴(در یک پنجره جدید باز میشود) OpenAI منتشر شد.
عامل
ما چهار خوشه از حسابهای استفادهکننده از مدلهایمان را مسدود کردیم که به افرادی مرتبط بودند که از طرف عملیات نفوذی روسیه موسوم به «داپلگنگر»(در یک پنجره جدید باز میشود) فعالیت میکردند. هر خوشه از تاکتیکها، فنون و رویههای متفاوتی استفاده میکرد؛ الگویی که با عملیاتی متشکل از تیمهای تخصصی گوناگون همخوانی داشت.
رفتار
این فعالیت مخاطبان اروپا و آمریکای شمالی را هدف گرفته و بر تولید محتوا برای وبسایتها و شبکههای اجتماعی متمرکز بود.
نخستین خوشه حسابها، دیدگاههای متنی کوتاهی به زبانهای انگلیسی، فرانسوی، آلمانی، ایتالیایی و لهستانی تولید میکرد. این محتوا همراه با میمها، ویدیوها و پیوندهایی در 9GAG و X منتشر میشد که ظاهراً با مدلهای ما تولید نشده بودند. برخی میمها از نقاط مختلف اینترنت کپی شده و ظاهراً چندین سال قدمت داشتند.
در 9GAG، حسابهایی که محتوای این کارزار را منتشر میکردند، معمولاً تصویر نمایه افراد مشهور یا گربهها را داشتند. آنها میمها و ویدیوهایشان را در کانالهای گوناگونی منتشر میکردند؛ ازجمله کانال «تصادفی» و کانالهای مخصوص حیوانات خانگی، ورزش، طنز و حتی روابط و آشنایی.
دیدگاهی درباره اوکراین و ویدیویی درباره غزه که حسابی با سابقه انتشار مکرر محتوای این کارزار، آنها را در کانال «وسایل نقلیه موتوری» 9GAG منتشر کرده بود. اشاره به اوکراین و مرز آمریکا با استفاده از مدلهای ما تولید شده بود. این ویدیو ترکیبی از تصاویر خبری بود. این پست ۱۱ رأی مثبت و ۹۳ رأی منفی دریافت کرد.
هر بار که کارزار میم یا ویدیویی در 9GAG منتشر میکرد، سه تا پنج حساب معمولاً با پیامهای سادهای مانند «هاهاها» یا «خخخ» پاسخ میدادند. هر یک از این حسابها فقط با محتوای همین کارزار تعامل داشتند و بیشترشان در یک تاریخ ساخته شده بودند. این رفتار اغلب دیدگاههای انتقادی کاربران دیگر را برمیانگیخت و بسیاری از آنها این حسابها را «ربات» میخواندند.
دیدگاههای مربوط به ویدیوی بالا. سه حساب پایینی، یعنی نخستین نظردهندگان، همگی در اواخر آوریل ۲۰۲۴ ساخته شده بودند و بارها فقط پستهای این کارزار را منتشر یا تأیید کرده یا درباره آنها نظر داده بودند. سه حساب بالایی که جعلیبودن آنها را افشا کردند، بین یک تا ده سال پیش ساخته شده بودند و فعالیتهای بسیار متنوعی داشتند.
در X، دیدگاههای کارزار را حسابهایی منتشر میکردند که هرکدام معمولاً فقط یک یا دو پست داشتند. این دیدگاهها معمولاً با پیوندی ظاهراً تصادفی، مانند «solarpanelfor.sale»، همراه بودند. این پیوندها کاربران را به مجموعهای از وبسایتها هدایت میکردند که بارها به داپلگنگر نسبت داده شدهاند. دسترسی جغرافیایی وبسایتها محدود بود و فقط افراد دارای نشانی IP در کشور هدف میتوانستند آنها را ببینند. بااینحال، ظاهراً گردانندگان اشتباه کرده بودند و برخی مقالههای انگلیسی، آلمانی و لهستانی فقط با نشانی IP فرانسوی قابل مشاهده بودند.
پستی در X شامل دیدگاهی که با استفاده از مدلهای ما تولید شده است. ترجمه دیدگاه چنین است: «اقدامی تکاندهنده! سیاست هرگز نباید با خشونت همراه باشد. ما به گفتوگو نیاز داریم، نه خشونت.» پیوند همراه آن، کاربر را به نسخه آلمانی وبسایت rrn.media با نشان تجاری داپلگنگر هدایت میکند. بااینحال، تا ۲۰ مه این صفحه فقط با نشانی IP فرانسوی قابل مشاهده بود.
این خوشه، احتمالاً برای فرار از شناسایی، از طریق سرویسی مرتبط با شرکتهایی در روسیه و جمهوری چک به مدلهای ما دسترسی پیدا میکرد. هدف این سرویس آن بود که افراد ساکن روسیه بتوانند سیاست دسترسی کشورهای تحت پشتیبانی(در یک پنجره جدید باز میشود) ما را دور بزنند. دسترسی این سرویس به API را غیرفعال کردهایم.
خوشه دوم مقالهها را از روسی به انگلیسی و فرانسوی ترجمه میکرد؛ به نظر میرسد متنهای روسی تألیفی بودند. بسیاری از این مقالهها بعداً در وبسایتی منتشر شدند که بارها به داپلگنگر نسبت داده شده است: rrn.media. همین خوشه درباره مقالههایش دیدگاههای کوتاهی تولید کرد که بعدها در شبکههای اجتماعی منتشر شدند.
پستی در X که با استفاده از مدلهای ما تولید شده و پیوندی به مقالهای در rrn.media دارد.
از خوشه سوم برای تولید، نمونهخوانی و اصلاح مقالههای فرانسویزبان استفاده میشد. سپس مقالهها در وبسایت franceeteu.today منتشر شدند که آن نیز به داپلگنگر نسبت داده شده است.
خوشه پایانی به زبان آلمانی فعالیت میکرد. این خوشه محتوای وبسایت grenzezank.com متعلق به داپلگنگر را دریافت میکرد و با آن پستهای کوتاهی برای یک گروه و صفحه فیسبوک همنام آن وبسایت میساخت.
محتوا
بخش عمده محتوایی که این کارزار در اینترنت منتشر کرد، بر جنگ اوکراین متمرکز بود. این محتوا اوکراین، آمریکا، ناتو و اتحادیه اروپا را منفی و روسیه را مثبت جلوه میداد. دیدگاههای معمول ادعا میکردند روسیه شریک اقتصادی مهمی برای کشورهای اروپایی است؛ رهبران غربی منتقد روسیه از خواستههای رأیدهندگان خود بیخبرند؛ و اوکراین ضعیف، فاسد و/یا در آستانه شکست است.
عوامل داپلگنگر گاهی میکوشیدند مدلهای ما را وادار کنند تصاویر کارتونی سیاستمداران برجسته اروپایی و منتقدان روسیه را تولید کنند. مدلهای ما این درخواستها را نپذیرفتند.
ارزیابی تأثیر
ظاهراً هیچیک از کارزارهای شناساییشده داپلگنگر نتوانست تعامل مثبت چشمگیری از مخاطبان واقعی به دست آورد.
در 9GAG، پستهای معمول ۵ تا ۱۰ رأی مثبت ــ عمدتاً از حسابهایی که محتوای همین کارزار را منتشر میکردند ــ و بین ۱۵ تا ۲۰۰ رأی منفی میگرفتند. در X، پستهای معمول حدود ۱٬۰۰۰ بار بازنشر میشدند، اما هیچ پاسخ یا پسندیدنی نداشتند. این اختلاف بهقدری زیاد است که از تقویت غیرواقعی محتوا حکایت دارد. یک پست سه پاسخ دریافت کرد که همگی آن را جعلی خواندند.
پاسخی در X به یکی از پستهای داپلگنگر.
با استفاده از مقیاس گسترش(در یک پنجره جدید باز میشود) برای ارزیابی تأثیر عملیات نفوذی ــ که آنها را از ۱ (کمترین) تا ۶ (بیشترین) رتبهبندی میکند ــ فعالیت مرتبط با استفاده از مدلهایمان را در رده ۲ قرار میدهیم: انتشار محتوا در چند پلتفرم، بدون گسترش یا تعامل چشمگیر مخاطبان در هیچیک از آنها.