پرش به محتوای اصلی
OpenAI

۱۲ اردیبهشت ۱۴۰۳

ایمنی

IUVM: شبکه محتوایی نفوذ مرتبط با ایران

OpenAI حساب‌های مرتبط با عملیات ایرانی «IUVM» را مسدود کرد؛ عملیاتی که با هوش مصنوعی محتوای حامی ایران و ضد اسرائیل و آمریکا را برای وب‌سایت‌ها تولید و ترجمه می‌کرد.

در حال بارگذاری…

این مطالعه موردی نخست در گزارش مهٔ ۲۰۲۴⁠(در یک پنجره جدید باز می‌شود) OpenAI منتشر شد.

عامل

ما شمار اندکی از حساب‌های مرتبط با افراد وابسته به اتحادیه بین‌المللی رسانه‌های مجازی (IUVM)⁠(در یک پنجره جدید باز می‌شود) را مسدود کردیم؛ نهادی ایرانی که جامعه منابع باز از سال ۲۰۱۸ آن را بررسی کرده است.

رفتار

این کارزار مخاطبان سراسر جهان را هدف قرار داده بود و بر تولید محتوا به زبان‌های انگلیسی و فرانسوی تمرکز داشت. این کارزار از مدل‌های ما برای تولید و نمونه‌خوانی مقاله‌ها⁠(در یک پنجره جدید باز می‌شود)، تیترها و برچسب‌های وب‌سایت استفاده می‌کرد. سپس این محتوا در وب‌سایت کنونی IUVM به نشانی iuvmpress.co منتشر می‌شد (دامنه‌های پیشین IUVM در سال ۲۰۲۰ به‌دست اف‌بی‌آی توقیف شدند⁠(در یک پنجره جدید باز می‌شود)).

مقاله‌ها معمولاً یک روز پیش از انتشار تهیه می‌شدند؛ برچسب‌های وب‌سایت نیز درست پیش از انتشار ساخته می‌شدند و احتمالاً فرایند تولیدشان خودکار بود. در یک مورد، مجموعه‌ای از برچسب‌های وب‌سایت را شناسایی کردیم که پیام پاسخ مدل ما در آن‌ها باقی مانده بود؛ نشانه‌ای از خودکار بودن فرایند یا نمونه‌خوانی ضعیف.

برچسب‌های مقاله‌ای منتشرشده در iuvmpress.co. به دو برچسب نخست توجه کنید که پاسخ مدل ما را دربر دارند.

برچسب‌های مقاله‌ای منتشرشده در iuvmpress.co. به دو برچسب نخست توجه کنید که پاسخ مدل ما را دربر دارند.

محتوا

محتوای تولیدشده توسط این شبکه شامل مقاله‌های بلند، تیترها و برچسب‌های وب‌سایت بود. این محتوا معمولاً رویکردی ضد آمریکایی و ضد اسرائیلی داشت و فلسطینی‌ها، ایران و «محور مقاومت» را می‌ستود.

ارزیابی تأثیر

حضور آنلاین IUVM بر اثر حذف‌های مکرر از شبکه‌های اجتماعی⁠(در یک پنجره جدید باز می‌شود) و توقیف دامنه‌هایش توسط اف‌بی‌آی⁠(در یک پنجره جدید باز می‌شود) کاهش یافته است. تا ۲۳ مهٔ ۲۰۲۴، افزون بر وب‌سایت این شبکه، حساب‌هایی با نام تجاری IUVM را در تیک‌تاک، VKontakte و Odnoklassniki شناسایی کردیم. این حساب‌های شبکه‌های اجتماعی به‌ترتیب ۱۰، ۷۶ و ۲۷۴ دنبال‌کننده یا مشترک داشتند.

با استفاده از مقیاس گسترش⁠(در یک پنجره جدید باز می‌شود) برای سنجش تأثیر عملیات نفوذ، که آن‌ها را از ۱ (کمترین) تا ۶ (بیشترین) رتبه‌بندی می‌کند، این عملیات را در رده ۲ قرار می‌دهیم: فعالیت انتشار محتوا در چند پلتفرم، اما بدون گسترش یا تعامل چشمگیر مخاطبان در هیچ‌یک از آن‌ها.

شاخص‌ها

دامنه‌های زیر را مرتبط با این کارزار شناسایی کردیم.

  • iuvmpress.co

  • iuvmarchive.org