پرش به محتوای اصلی
OpenAI

۱۳ بهمن ۱۴۰۳

ایمنی

عملیات «نارضایتی با حمایت مالی»: فعالیت نفوذ

OpenAI حساب‌هایی را مسدود کرد که احتمالاً منشأ چینی داشتند و از هوش مصنوعی برای تولید پست‌های انگلیسی در شبکه‌های اجتماعی و مقاله‌های اسپانیایی استفاده می‌کردند.

در حال بارگذاری…

این مطالعهٔ موردی نخستین بار در گزارش فوریهٔ ۲۰۲۵⁠(در یک پنجره جدید باز می‌شود) OpenAI منتشر شد.

عامل

حساب‌های ChatGPT را که از مدل‌های ما برای تولید نظرهای کوتاه به زبان انگلیسی و مقاله‌های خبری بلند به زبان اسپانیایی استفاده می‌کردند، مسدود کردیم. الگوی زمانی این فعالیت با ساعات کاری سرزمین اصلی چین مطابقت داشت. مقاله‌های اسپانیایی‌زبان در وب‌سایت‌های خبری آمریکای لاتین منتشر شدند. تقریباً همهٔ وب‌سایت‌ها مقاله‌ها را به نام یک فرد منتشر کردند؛ در برخی موارد، در بخش معرفی نویسندهٔ مقاله‌ها، به ارتباط آن فرد با شرکت چینی «ارتباطات فرهنگی جیلین یوسن» (优森文化有限公司) اشاره شده بود.

رفتار

این حساب‌ها به زبان چینی به ChatGPT دستور می‌دادند و بیشتر در ساعات کاری سرزمین اصلی چین فعال بودند. بخشی از این فعالیت با عملیات نفوذ پنهانی موسوم به «اسپموفلاژ⁠» همخوانی داشت که در ماه مه درباره‌اش گزارش دادیم: این فعالیت شامل تولید نظرهای کوتاه انگلیسی‌زبان و تصاویری در انتقاد از کای شیا، از مخالفان حکومت و استاد سابق مدرسهٔ مرکزی حزب کمونیست چین، بود. سپس این محتوا در X توسط حساب‌هایی منتشر شد که خود را افرادی از ایالات متحده یا هند جا می‌زدند.

توییت‌های تولیدشده توسط حساب‌های «نارضایتی با حمایت مالی».

توییت‌هایی که این حساب‌ها با استفاده از مدل‌های ما تولید کردند و چهار حساب مختلف در X منتشر کردند.

اگر فعالیت این حساب‌ها به همین محدود می‌شد، ممکن بود نتیجه بگیریم که احتمالاً با «اسپموفلاژ» مرتبط است. اما این حساب‌ها در کنار نظرهای کوتاه، مقاله‌های بلند اسپانیایی‌زبان در انتقاد از ایالات متحده نیز تولید می‌کردند. این فعالیت به‌ویژه در آستانهٔ اجلاس اَپک در سال ۲۰۲۴ در پرو رواج داشت. عامل این فعالیت برای تولید مقاله‌ها از مدل‌های ما می‌خواست مقاله‌های چینی‌زبانی را که در دسترس عموم بودند، ترجمه و بسط دهند.

سپس این مقاله‌ها در وب‌سایت‌های خبری آمریکای لاتین، به‌ویژه در پرو و همچنین در مکزیک و اکوادور، منتشر می‌شدند. وب‌سایت‌های خبری اغلب مقاله‌ها را در همان روزی منتشر می‌کردند که این حساب‌ها محتوا را با ChatGPT تولید کرده بودند. تقریباً همهٔ رسانه‌ها مقاله‌ها را به نام یک فرد واحد منتشر کرده بودند. برخی، آن فرد را نمایندهٔ قانونی شرکتی معرفی کرده بودند که به باور ما چینی است.

این نخستین بار است که مشاهده کرده‌ایم یک عامل نفوذ احتمالاً چینی موفق شده است مقاله‌هایی را در رسانه‌های جریان اصلی آمریکای لاتین منتشر کند. انتشار برخی از این مقاله‌ها ممکن است حاصل توافق مالی بوده باشد: یکی از مقاله‌هایی که از طریق پژوهش در منابع آشکار شناسایی کردیم، با برچسب «دارای حمایت مالی» منتشر شده بود. افزون بر این، عامل این فعالیت از ChatGPT برای ترجمهٔ اشاره‌هایی به رسیدهای اسپانیایی‌زبانِ یک سازمان خبری در آمریکای لاتین استفاده کرده بود که با پرداخت هزینه برای انتشار محتوا همخوانی داشت.

مقالهٔ دارای حمایت مالی که در جریان فعالیت «نارضایتی با حمایت مالی» تولید شده است.

تصویری از مقاله‌ای که این عامل تولید کرده و در وب‌سایت wapa[.]pe منتشر شده است. به عبارت «دارای حمایت مالی» اشاره‌شده در مقاله توجه کنید.

با توجه به استفادهٔ ظاهری این کارزار از محتوای دارای حمایت مالی و موضع منفی آن در قبال سیاست و سیاست‌گذاری‌های ایالات متحده، نام «نارضایتی با حمایت مالی» را برای آن برگزیده‌ایم.

خروجی‌های مدل

این عامل دو نوع محتوای اصلی تولید می‌کرد: انتقادهای کوتاه از کای شیا به زبان‌های انگلیسی و چینی، و مقاله‌های بلند به زبان اسپانیایی.

اپراتور برای تولید انتقاد از کای شیا، معمولاً از ChatGPT می‌خواست به توییت‌ها یا ویدیوهای منتشرشده توسط او، یا مطالب رسانه‌ای دربارهٔ او پاسخ دهد. برخی از این نظرها تخصص او را در حوزه‌هایی مانند تایوان، اینترنت، و ادبیات و تاریخ چین زیر سؤال می‌بردند. برخی دیگر او را به تخلف در امور ویزا متهم می‌کردند.

مقاله‌های بلند اسپانیایی‌زبان بر شکاف‌های اجتماعی و سیاسی در ایالات متحده تمرکز داشتند و معمولاً بر پایهٔ رویدادهای روز و خبرهای فوری نوشته می‌شدند. موضوعات آن‌ها شامل نابرابری، خشونت سیاسی، تبعیض و جنسیت‌زدگی، و نیز گزارش‌هایی دربارهٔ جرم و جنایت و انتقاد از سیاست‌های خارجی ایالات متحده بود. بحران‌های اجتماعی مانند مصرف مواد مخدر و بی‌خانمانی نیز از موضوعات برجسته بودند. رویکرد اپراتور اغلب این بود که این بحران‌ها یا مشکلات را نشانهٔ شکست رهبران یا شکست جامعهٔ آمریکا جلوه دهد. این فعالیت در مجموع هر دو حزب اصلی ایالات متحده را هدف انتقاد قرار می‌داد.

تأثیر

هیچ شواهدی ندیده‌ایم که نشان دهد محتوای منتشرشده علیه کای شیا در شبکه‌های اجتماعی، تعامل قابل‌توجهی از سوی کاربران واقعی برانگیخته باشد. حساب‌هایی که این محتوا را در شبکه‌های اجتماعی منتشر می‌کردند، معمولاً دنبال‌کنندگان کمی داشتند و تعامل با آن‌ها بسیار اندک بود.

بااین‌حال، این نخستین بار است که مشاهده کرده‌ایم یک عملیات نفوذ با منشأ چینی موفق شده است مقاله‌های بلند انتقادی علیه ایالات متحده را در رسانه‌های آمریکای لاتین جا دهد. هرچند این موفقیت ممکن است دست‌کم تا حدی با پرداخت هزینه برای انتشار محتوا به دست آمده باشد، تا جایی که می‌دانیم، نشان‌دهندهٔ مسیری از فعالیت است که پیش‌تر گزارش نشده بود. این تلاش در کنار فعالیت‌های معمول‌تر در شبکه‌های اجتماعی پیش می‌رفت و ممکن است به مخاطبان بسیار گسترده‌تری رسیده باشد، هرچند نمی‌توانیم میزان تعامل را به‌طور مستقل تأیید کنیم.

با استفاده از مقیاس گسترش دامنهٔ نفوذ⁠(در یک پنجره جدید باز می‌شود) برای ارزیابی تأثیر عملیات نفوذ، که آن‌ها را از ۱ (کمترین) تا ۶ (بیشترین) رتبه‌بندی می‌کند، این فعالیت را به‌دلیل شمار بالای خوانندگان وب‌سایت‌های خبری آمریکای لاتین، در ردهٔ ۴ (راه‌یابی به رسانه‌های جریان اصلی) قرار می‌دهیم.

عنوان مقاله‌های منتشرشدهٔ مرتبط با این فعالیت

تشخیص دادیم که این مقاله‌ها با محتوایی مطابقت دارند که این عامل با استفاده از مدل‌های ما تولید کرده است.

  • حقیقت تلخِ چگونگی سود بردن ایالات متحده از کمک به جنگ در اوکراین (لا رپوبلیکا، پرو).

  • واقعیت غم‌انگیز معضل بی‌خانمانی در ایالات متحده (واپا، پرو).

  • منطق جنون‌آمیز تحریم‌های آمریکا علیه یک فعال فلسطینی (ال پوپولار، پرو).

  • نمایش پوچ مردانگی (لیبرو، پرو).

  • سایه‌های همه‌جاحاضر (ال پوپولار، پرو).

  • بی‌اعتنایی سران احزاب به دموکراسی در ایالات متحده (ال پوپولار، پرو).

  • نبود شفافیت در سخنرانی‌های انتخاباتی و دست‌کاری افکار عمومی (لیبرو، پرو).

  • اعتصاب و مبارزهٔ کارکنان هتل‌ها (لا رپوبلیکا، پرو).

  • ناتوانی تحریم‌های ایالات متحده و محدودیت‌هایی که برای خود ایجاد می‌کنند (ال اونیورسال، مکزیک).

  • فریادهای خاموش زیر یوغ فنتانیل (لا رپوبلیکا، پرو).

  • توفند «هلن»: ادعاهای نادرست و نظریه‌های توطئهٔ سیاستمداران آمریکایی (واپا، پرو).

  • ابهام تعرفه‌ها: سیاست کوتاه‌نگرانهٔ ترامپ و آیندهٔ اقتصاد آمریکا (لا رپوبلیکا، پرو).

  • معضل امنیت غذایی در جامعهٔ آمریکا و تأثیر آن بر مدارس (اکسترا، اکوادور).

  • تراژدی ایالات متحده: وقتی حقیقت پنهان می‌شود (اکسپرسو، اکوادور).

  • بحران امنیت کودکان در ایالات متحده (لا رپوبلیکا، پرو).

  • سایهٔ خشونت بر بروکلین (ال پلورال، اسپانیا).

  • تجمل برای یک قاتل: جراحی به هزینهٔ مالیات‌دهندگان (ال اونیورسال، مکزیک).

  • حمایت از اسرائیل و بی‌اعتنایی به بحران انسانی (لا رپوبلیکا، پرو).

  • رقابت ویرانگر در انتخابات ایالات متحده (واپا، پرو).