عملیات «زیرو زینو»: فعالیت نفوذ مرتبط با اسرائیل
OpenAI حسابهای مرتبط با عملیاتی از مبدأ اسرائیل را مسدود کرد که پیشتر گزارش نشده بود و ما آن را «زیرو زینو» نامیدیم؛ عملیاتی که با هوش مصنوعی محتوای ضد حماس، ضد قطر، حامی اسرائیل، ضد BJP و حامی هیستادروت تولید میکرد.
این مطالعه موردی نخستینبار در گزارش مه ۲۰۲۴(در یک پنجره جدید باز میشود) OpenAI منتشر شد.
عامل
ما مجموعهای از حسابهای ادارهشده از اسرائیل را مسدود کردیم که برای تولید و ویرایش محتوای یک عملیات نفوذ در X، فیسبوک، اینستاگرام، وبسایتها و یوتیوب به کار میرفتند. این شبکه را STOIC، یک شرکت مدیریت کارزارهای سیاسی در اسرائیل، اداره میکرد. به افتخار بنیانگذار مکتب فلسفی رواقیگری و برای بازتابدادن میزان اندک تعاملی که این شبکه جلب کرد، نام مستعار «زیرو زینو» را برای آن انتخاب کردهایم.
رفتار
این عملیات با محتوای انگلیسی و عبری مخاطبان کانادا، ایالات متحده و اسرائیل را هدف قرار داد. این عملیات در اوایل ماه مه هدفگیری مخاطبان هند را با محتوای انگلیسی آغاز کرد. همچنین به نظر میرسد در حال آمادهسازی برای اجرای یک کارزار عملیات نفوذ با هدف مخاطبان غنا بوده است.
این عملیات از مدلهای ما برای تولید مقالههای وب و دیدگاههای شبکههای اجتماعی استفاده میکرد و سپس آنها را در چندین پلتفرم، بهویژه اینستاگرام، فیسبوک و X، منتشر میکرد.
دیدگاههای انگلیسی تولیدشده توسط این شبکه و منتشرشده در اینستاگرام. هم پست اصلی و هم پاسخها توسط این کارزار تولید شدهاند.
این عملیات همچنین از مدلهای ما برای ساخت شخصیتها و شرححالهای خیالی در شبکههای اجتماعی بر اساس متغیرهایی مانند سن، جنسیت و مکان استفاده کرد و درباره افرادی در اسرائیل تحقیق کرد که بهصورت عمومی درباره اتحادیه کارگری هیستادروت اسرائیل دیدگاه نوشته بودند. مدلهای ما در پاسخ به این درخواستها از ارائه اطلاعات شخصی خودداری کردند.
محتوای تولیدشده توسط این شبکه در چندین پلتفرم شبکه اجتماعی منتشر شد. پژوهش منبعباز آزمایشگاه پژوهشهای جرمشناسی دیجیتال شورای آتلانتیک(در یک پنجره جدید باز میشود) بخشی از محتوای آن را در فیسبوک، اینستاگرام و X شناسایی کرد؛ وقتی آن حسابها غیرفعال شدند، این عملیات حسابهای تازهای تهیه کرد. محتوای دیگری در چهار وبسایت منتشر شد که خود را گروههای کنشگری متمرکز بر مناقشه غزه و مسائل گستردهتر روابط میان پیروان ادیان یهودی و مسلمان معرفی میکردند: uc4canada.com، the-good-samaritan.com، ufnews.io و nonagenda.com.
در برخی موارد، حسابهای جعلی این عملیات را شناسایی کردیم که زیر پستهای منتشرشده توسط خود عملیات در شبکههای اجتماعی دیدگاه میگذاشتند؛ احتمالاً برای ایجاد تصور تعامل مخاطبان.
پستی در X از حسابی مرتبط با فعالیتی که نخستینبار DFRLab شناسایی کرد، همراه با پاسخها. همه پاسخهای این تصویر توسط این کارزار تولید شدهاند.
بسیاری از حسابهای شبکههای اجتماعی که محتوای این شبکه را منتشر میکردند، از تصاویر نمایهای استفاده میکردند که ظاهراً با نوع قدیمیتری از هوش مصنوعی، یعنی شبکههای مولد تخاصمی (GAN)، ساخته شده بودند. چنین تصاویری را میتوان بهآسانی از اینترنت دانلود کرد. با وجود سهولت ساخت این تصاویر، چندین حساب شبکه اجتماعی را در این شبکه شناسایی کردیم که از یک تصویر یکسان استفاده میکردند. گاهی دو یا چند حساب با تصویر نمایه یکسان به همان پست شبکه اجتماعی پاسخ میدادند.
تصاویر نمایه حسابهای X که دیدگاههای تولیدشده توسط این شبکه را منتشر کردهاند. این تصویر نشانههای بصری سازگار با تولید بهوسیله شبکه مولد تخاصمی (GAN) دارد.
محتوا
این عملیات به چند کارزار موضوعی تقسیم شده بود که بیشتر آنها ارتباطی کلی با مناقشه غزه و مسئله گستردهتر روابط میان پیروان ادیان یهودی و مسلمان داشتند. در ماه مه، کمتر از ۲۴ ساعت پس از آغاز بخشی از فعالیتهای متمرکز بر انتخابات هند، آنها را مختل کردیم.
پژوهش منبعبازی در ماه فوریه(در یک پنجره جدید باز میشود) توضیح داد که این شبکه از آژانس امدادرسانی سازمان ملل متحد برای آوارگان فلسطینی، آنروا، انتقاد میکرد. گزارش ماه مارس DFRLab(در یک پنجره جدید باز میشود) محتوایی را برجسته کرد که بر کانادا تمرکز داشت و از افرادی انتقاد میکرد که پستهای این کارزار آنها را «اسلامگرایان افراطی» مینامیدند. مجموعه دیگری بر دانشگاههای ایالات متحده تمرکز داشت و معترضان حامی فلسطین را به ترویج یهودستیزی و تروریسم متهم میکرد. مجموعه چهارم بر قطر تمرکز داشت و سرمایهگذاریهای آن در ایالات متحده را تهدیدی برای سبک زندگی آمریکایی جلوه میداد. مجموعه پنجم پستهای عبری برای شبکههای اجتماعی تولید میکرد. این پستها معمولاً سازمان اتحادیههای کارگری هیستادروت و رهبری آن را میستودند. سرانجام، این شبکه در ماه مه تولید دیدگاههایی درباره هند را آغاز کرد که از حزب حاکم BJP انتقاد میکردند و حزب مخالف کنگره را میستودند.
گاهی به نظر میرسید شبکه موضوع فعالیت حسابهایش را تغییر میدهد؛ برای مثال، حسابهایی که پیشتر درباره کانادا پست گذاشته بودند، تمرکز خود را به ایالات متحده، هند، هیستادروت یا بیش از یکی از این موضوعات معطوف میکردند.
سه دیدگاه در X از حسابی که در ۱ تا ۴ مه ۲۰۲۴ بارها محتوای تولیدشده توسط این کارزار را منتشر کرد. به نظر میرسد نخستین پست (پایین) تلاشی برای ساخت هویت جعلی بوده است. پست دوم بر کانادا تمرکز دارد و پستی از حساب اصلی کانادامحور این شبکه را در خود جای داده است. پست سوم بر هند تمرکز دارد.
بخشی از محتوای ساختهشده توسط این شبکه در پاسخ به چهرههای سرشناس غربی از هر دو سوی طیف سیاسی در شبکههای اجتماعی منتشر شد. این پاسخها عموماً هیچ ارتباطی با پست اصلی نداشتند. برای مثال، دیدگاهی درباره «خریدن» آمریکا توسط قطر، در پاسخ به پستی درباره سلیقه موسیقایی رئیسجمهور پیشین، ترامپ، منتشر شد.
بالا: پست لورا اینگراهام درباره سلیقه موسیقایی رئیسجمهور ترامپ. پایین: پستی حاوی دیدگاهی تولیدشده توسط این شبکه. به تفاوت میزان تعامل پست اصلی و پاسخ توجه کنید.
ارزیابی تأثیر
به نظر میرسد فعالیت «زیرو زینو»، بهجز از سوی حسابهای جعلی خودش، تعامل ناچیزی جلب کرده یا اصلاً تعاملی نداشته است. (بسیاری از حسابها پیشتر توسط Meta و X غیرفعال شدهاند؛ بنابراین آمار کنونی تعامل ممکن است تصویر کاملی ارائه نکند.)
با استفاده از مقیاس گسترش(در یک پنجره جدید باز میشود) برای ارزیابی تأثیر عملیات نفوذ، که آنها را از ۱ (کمترین) تا ۶ (بیشترین) رتبهبندی میکند، این عملیات را در رده ۲ ارزیابی میکنیم: فعالیت انتشار در چندین پلتفرم و وبسایت، بدون شواهدی از تقویت چشمگیر آن توسط افراد خارج از شبکه.
کانال یوتیوب مرتبط با کارزار کانادامحور این عملیات. تا ۲۵ آوریل ۲۰۲۴، این کانال یک ویدیو منتشر کرده بود که هیچ بازدیدی نداشت.
شاخصها
دامنههای زیر را مرتبط با کارزارهای «زیرو زینو» شناسایی کردیم.
nonagenda.com
the-good-samaritan.com
uc4canada.com
ufnews.io