پرش به محتوای اصلی
OpenAI

۱۱ خرداد ۱۴۰۵

ایمنی

کارزار «فناوری و تعرفه‌ها»: عملیات نفوذ علیه سیاست فناوری آمریکا

OpenAI حساب‌هایی را که احتمالاً منشأشان جمهوری خلق چین بود و با هوش مصنوعی درباره سیاست فناوری آمریکا، تعرفه‌ها و محدودیت‌های تجاری نظر و کاریکاتور تولید می‌کردند، مسدود کرد.

در حال بارگذاری…

این مطالعه موردی نخست در گزارش ژوئن ۲۰۲۶⁠(در یک پنجره جدید باز می‌شود) OpenAI درباره عملیات نفوذ مرتبط با جمهوری خلق چین و با هدف اثرگذاری بر مباحث هوش مصنوعی در آمریکا منتشر شد.

عامل

ما مجموعه‌ای از حساب‌های ChatGPT را که احتمالاً منشأشان چین بود مسدود کردیم. این حساب‌ها از مدل‌های ما برای تولید نظرات کوتاه و کاریکاتورهای سیاسی در انتقاد از سیاست‌های فناوری و تعرفه‌های آمریکا، ویرایش گزارش‌های کاری و کمک به کاربر برای طراحی سامانه‌های پایش شبکه‌های اجتماعی استفاده می‌کردند. این حساب‌ها درخواست‌های خود را به زبان چینی ساده‌شده در ChatGPT وارد می‌کردند و برای دسترسی به پلتفرم ما از VPN استفاده می‌کردند.

در اعلان‌های آن‌ها بارها اصطلاحاتی دیده می‌شد که معمولاً افراد مرتبط با نظام امنیت عمومی چین به کار می‌برند؛ از جمله درخواست ارزیابی خطر افکار عمومی درباره اعتراضات، موارد قلدری در مدارس، جابه‌جایی جمعیت در شانگهای، رخدادهای مرتبط با پلیس، فعالیت‌های دادخواهانه و اجرای مقررات راهنمایی‌ورانندگی. یکی از کاربران، حساب‌های شبکه اجتماعی تحت مدیریت خود را «ارتش آبی» (水军) نامید؛ اصطلاحی رایج در چین برای حساب‌های هماهنگ آنلاینی که پلتفرم‌ها را با انتقاد یا پیام‌های تحریک‌آمیز پر می‌کنند. او از ChatGPT خواست محتوایی تولید کند که به سود جمهوری خلق چین باشد یا روایت‌های حامی آن را ترویج دهد. مجموع این نشانه‌ها حاکی از آن است که این حساب‌ها احتمالاً از فعالیت‌های همسو با منافع حزب کمونیست چین پشتیبانی می‌کردند، هرچند نتوانستیم وابستگی سازمانی دقیق اپراتورهای آن‌ها را مشخص کنیم.

همچنین شبکه‌ای را در X شناسایی کردیم که با ادعاهای دروغین درباره افشای داده‌های کاربران ChatGPT، OpenAI را هدف قرار داده بود. بر پایه نشانه‌های رفتاری موجود در منابع عمومی، ارزیابی کردیم که این فعالیت احتمالاً بخشی از همان شبکه X بوده که در این عملیات شناسایی شد.

Screenshot of likely inauthentic X accounts falsely claiming ChatGPT user data was compromised.

تصویری از حساب‌های احتمالاً جعلی در X که به‌دروغ مدعی افشای داده‌های کاربران ChatGPT بودند.

رفتار

این مجموعه عمدتاً از ChatGPT برای تولید نظرات کوتاه انگلیسی و تصاویر کارتونی استفاده می‌کرد که در حساب‌های احتمالاً جعلی X منتشر می‌شدند. برجسته‌ترین مضمون، رقابت فناوری میان آمریکا و چین بود. اپراتورها، این رقابت را در چارچوب تعرفه‌ها، عناصر خاکی کمیاب، هوش مصنوعی، 5G، انرژی‌های نو و تاب‌آوری صنعتی مطرح می‌کردند و مدعی بودند آمریکا در پی سلطه فناوری و قدرت تعیین قواعد است. آن‌ها تأکید کرده بودند که در کاریکاتورها فقط رئیس‌جمهور ترامپ به تصویر کشیده شود و هیچ تصویری از چین یا شی جین‌پینگ، رهبر چین، در آن‌ها نباشد.

آن‌ها همچنین انبوهی از نظرات کوتاه چینی و مقاله‌هایی درباره موضوعات گوناگون تولید کردند که برای حمایت از جمهوری خلق چین، حمله به آمریکا و اسرائیل، تقویت کلیشه‌های یهودستیزانه‌ای مانند «سرمایه یهودی افکار عمومی را دست‌کاری می‌کند» و آزار مخالفان چینی طراحی شده بودند. آن‌ها اغلب تعداد مشخصی نظر را به‌صورت انبوه، با محدودیت تعداد نویسه و لحنی محاوره‌ای درخواست می‌کردند.

آن‌ها همچنین از ChatGPT خواستند مفهومی برای یک سامانه هوش مصنوعی پیشنهاد دهد که افکار عمومی آنلاین را زیر نظر بگیرد. به گفته آن‌ها، چنین سامانه‌ای باید اطلاعاتی را که «مضر» تعریف می‌کردند به‌طور خودکار از حساب «افراد کلیدی» در پلتفرم‌های اجتماعی استخراج کند، گزارش‌ها را ذخیره کند، ویدئوها را برای تحلیل معنایی گسترده به‌طور خودکار بارگیری کند و هشدار خطر بفرستد. مدل‌های ما پاسخی کلی در حدود ۵۰۰ کلمه تولید کردند که توصیه‌هایی درباره ذخیره‌سازی و مدیریت داده ارائه می‌داد، اما ایده‌ای برای نحوه گردآوری این داده‌ها با هدف نظارت مطرح نمی‌کرد.

Screenshots of X posts where the text and images were generated by this operation.

تصاویری از پست‌های X که متن و تصاویرشان در این عملیات تولید شده بود.

فعالیت در پلتفرم‌ها

دامنه مأموریت این عملیات جهانی بود و می‌کوشید بر مخاطبان بین‌المللی اثر بگذارد. تمرکز آن‌ها بر تولید محتوای انتقادی علیه آمریکا بود؛ این کشور را به انزواطلبی و سلطه‌جویی متهم می‌کردند و مدعی بودند آمریکا با ترجیح سود بر وفاداری، از پشت به متحدانش خنجر می‌زند. آن‌ها علاوه بر انگلیسی، از ChatGPT خواستند برای مخاطبان تایوانی به زبان‌های ایتالیایی، ژاپنی و چینی سنتی نیز محتوا تولید کند.

بر پایه تعاملات حساب‌ها، به نظر می‌رسید حساب‌های احتمالاً جعلی X که محتوای تولیدشده در این عملیات را منتشر می‌کردند، به شبکه‌ای گسترده‌تر متصل بودند که آن نیز می‌کوشید اعتبار OpenAI را خدشه‌دار کند. از اواخر سال ۲۰۲۵، مجموعه‌ای از حساب‌های احتمالاً جعلی X را شناسایی کردیم که روایت‌های متفاوتی از این ادعا را منتشر می‌کردند که داده‌های کاربری ChatGPT آن‌ها افشا شده و زندگی‌شان آسیب دیده است. به نظر نمی‌رسید هیچ‌یک از این حساب‌ها متنی تولیدشده با مدل‌های ما منتشر کرده باشند. بااین‌حال، آن‌ها بارها با حساب‌های X شناسایی‌شده در کارزار «فناوری و تعرفه‌ها» تعامل داشتند و محتوای آن‌ها را تقویت کردند.

نخست اینکه یکی از حساب‌های ChatGPT شناسایی‌شده در مجموعه «فناوری و تعرفه‌ها»، پستی درباره ادعای هک شبکه‌های تلفن همراه از سوی نهادهای اطلاعاتی آمریکا تولید کرد. این پست را حساب‌های احتمالاً غیراصیل X از مجموعه «نفوذ به ChatGPT» بازنشر کردند.

در موردی دیگر، حساب‌هایی از هر دو مجموعه «افشای داده‌های ChatGPT» و «فناوری و تعرفه‌ها»، با فاصله چند ساعت یک توییت واحد از حسابی تأییدشده و بی‌ارتباط با عملیات را نقل‌توییت کردند. همچنین بررسی کردیم و دیدیم همه حساب‌هایی که این پست را نقل کرده بودند جعلی به نظر می‌رسیدند؛ نشانه‌ای از اینکه احتمالاً همگی بخشی از یک عملیات هماهنگ بوده‌اند. همه این حساب‌ها در اواخر سال ۲۰۲۵ ایجاد شده بودند، دنبال‌کننده‌ای نداشتند یا تعداد دنبال‌کنندگانشان اندک بود، هنگام کارزار «افشای داده‌های ChatGPT» فقط چند پست داشتند و ظاهراً X مستقل از ارزیابی ما همه آن‌ها را تعلیق کرده است.

X accounts from both the ChatGPT compromise cluster and the Tech and Tariffs cluster quoting a post by a user unrelated to the operation.

سمت چپ: حساب X مرتبط با این عملیات و پستی درباره سرقت داده‌های ChatGPT. سمت راست: حساب‌های X از دو مجموعه «افشای داده‌های ChatGPT» و «فناوری و تعرفه‌ها» که پست کاربری بی‌ارتباط با عملیات را نقل کرده‌اند.

شایان ذکر است که بخشی از محتوا نیز با عملیات نفوذ پنهانِ پیش‌تر شناسایی‌شده با منشأ جمهوری خلق چین هم‌پوشانی داشت. حساب X که کاریکاتور تولیدشده با ChatGPT از رئیس‌جمهور ترامپ را که در بالا نشان داده شده است منتشر کرده بود، همچنین تصاویری درباره مارکوس، رئیس‌جمهور فیلیپین، منتشر کرد. این تصاویر پیش‌تر توسط حساب‌های جعلی X مرتبط با عملیات «خط نه‌گانه» به اشتراک گذاشته شده بودند؛ عملیاتی که در گزارش اکتبر ۲۰۲۵ با عنوان «مختل‌کردن کاربردهای مخرب هوش مصنوعی»⁠ به آن پرداختیم. این شواهد برای اثبات قطعی ارتباط میان دو عملیات کافی نیست، اما احتمال وجود کانونی از فعالیت‌ها در X را تقویت می‌کند که تلاش‌های نفوذی چین را گسترش می‌دهند.

Post shared by the account from the Tech and Tariffs cluster and a video shared by an account attributed to Operation Nine-emdash Line.

سمت چپ: پستی از حساب مجموعه «فناوری و تعرفه‌ها» با کاریکاتوری که مصرف مواد مخدر توسط مارکوس را نشان می‌دهد. سمت راست: ویدئویی از مصرف مواد مخدر توسط مارکوس که حسابی منتسب به عملیات «خط نه‌گانه» منتشر کرده است.

تأثیر

بر پایه مقیاس گسترش، این فعالیت را در رده یک ارزیابی می‌کنیم: فعالیتی محدود به یک پلتفرم، بدون هیچ شواهدی از گسترش فراتر از آن. بیشتر پست‌های شبکه‌های اجتماعی که شناسایی کردیم، تعامل قابل مشاهده اندکی داشتند یا هیچ تعاملی نگرفتند. هیچ مدرکی نیافتیم که نشان دهد حساب‌های واقعی و پرمخاطب یا کاربران خارج از پلتفرم X، ادعاهای دروغین درباره افشای داده‌های کاربران ChatGPT را تقویت کرده باشند.

بااین‌حال، این عملیات علیه OpenAI، شرکتی خصوصی که در صنعتی راهبردی فعالیت می‌کند، باید موجب نگرانی شود. این الگو به عملیات نفوذ پیشین با منشأ جمهوری خلق چین شباهت دارد که مؤسسه سیاست راهبردی استرالیا⁠(در یک پنجره جدید باز می‌شود) و Mandiant⁠(در یک پنجره جدید باز می‌شود) علیه شرکت‌هایی شناسایی کردند که در صنعت عناصر خاکی کمیاب به‌دنبال کاهش وابستگی به چین بودند. در سال ۲۰۲۲، شبکه Spamouflage/DRAGONBRIDGE با استفاده از حساب‌های جعلی، شرکت Lynas Rare Earths را به‌دلیل تأسیسات فرآوری برنامه‌ریزی‌شده‌اش در تگزاس تخریب کرد. این شبکه سپس پس از اعلام برنامه‌های مربوط به ظرفیت جدید تولید در آمریکای شمالی، شرکت کانادایی Appia Rare Earths & Uranium و شرکت آمریکایی USA Rare Earth را هدف قرار داد. ASPI و Mandiant هر دو ارزیابی کردند که هدف این فعالیت، آسیب‌زدن به اعتبار رقبای سلطه جمهوری خلق چین بر بازار عناصر خاکی کمیاب بوده است.

به همین ترتیب، ظاهراً شاهد استفاده از تاکتیک‌هایی مشابه برای آسیب‌زدن به اعتبار OpenAI بوده‌ایم؛ هرچند این تلاش ناموفق بود و در صنعتی رخ داد که آمریکا در آن پیشتاز است. زمان‌بندی این عملیات درخور توجه بود. این کارزار هم‌زمان با تشدید چشمگیر رقابت اقتصادی و فناوری آمریکا و چین رخ داد؛ زمانی که رئیس‌جمهور ترامپ تعرفه‌ای اضافی به میزان ۱۰۰ درصد بر کالاهای چینی اعلام کرد. مهم‌تر اینکه این کارزار پس از چهارمین نشست عمومی⁠(در یک پنجره جدید باز می‌شود) رخ داد؛ نشستی که حزب کمونیست چین در آن توصیه‌های برنامه پنج‌ساله پانزدهم را تصویب کرد. این توصیه‌ها هوش مصنوعی را در جایگاه فناوری و اولویتی صنعتی و راهبردی قرار دادند و خواستار شتاب‌بخشیدن به نوآوری هوش مصنوعی و اجرای طرح سراسری «+AI» شدند.

این موضوع شباهت معناداری با کارزارهای پیشین درباره عناصر خاکی کمیاب دارد، زیرا طرح کلی برنامه پنج‌ساله چهاردهم⁠(در یک پنجره جدید باز می‌شود) که در سال ۲۰۲۱ منتشر شد، صنعت منابع معدنی راهبردی را امنیتی کرد و مشخصاً «مواد کارکردی پیشرفته عناصر خاکی کمیاب» را اولویتی کلیدی دانست. در هر دو مورد، حساب‌های جعلی شرکت‌های خصوصی فعال در کشورهای دموکراتیک را در بخش‌هایی هدف قرار دادند که پکن آن‌ها را برای توسعه و امنیت ملی مهم می‌دانست.