کارزار «موج‌سواری مراکز داده»: فعالیت نفوذ معطوف به آمریکا

این مطالعهٔ موردی نخست در گزارش ژوئن ۲۰۲۶⁠(در یک پنجره جدید باز می‌شود) OpenAI دربارهٔ عملیات نفوذ مرتبط با جمهوری خلق چین و معطوف به مباحث هوش مصنوعی در آمریکا منتشر شد.

ما مجموعه‌ای از حساب‌های ChatGPT را مسدود کردیم که احتمالاً منشأ چینی داشتند و از ChatGPT برای تولید محتوای شبکه‌های اجتماعی در یک عملیات نفوذ پنهانی استفاده می‌کردند. آن‌ها دستورها را به چینی ساده‌شده در ChatGPT وارد می‌کردند، اما بارها خروجی‌های انگلیسی و چینی می‌خواستند که با جا زدن خود به‌عنوان آمریکایی‌هایی با پیشینه‌های گوناگون تولید و در چندین پلتفرم شبکهٔ اجتماعی منتشر می‌شد. از آنجا که دسترسی از چین به مدل‌های ما مجاز نیست، آن‌ها برای دسترسی به پلتفرم ما از VPN استفاده می‌کردند.

اپراتورهای این حساب‌ها احتمالاً عضو تیم عملیات شبکه‌های اجتماعی در یک شرکت خصوصی فناوری چینی بودند که برای نهادهای دولتیِ استانی چین کار می‌کرد. به نظر می‌رسد این فعالیت با زیست‌بوم تجاریِ پشتیبان اولویت‌های حزب و دولت در زمینهٔ هدایت افکار عمومی⁠(در یک پنجره جدید باز می‌شود) همخوانی داشته باشد. گزارش جداگانه‌ای که آن‌ها در ChatGPT بارگذاری کردند، اهداف و راهبردهایشان را برای تأثیرگذاری بر افکار عمومی و ایجاد حساب‌های شبکه‌های اجتماعی با هدف دور زدن سامانه‌های شناسایی پلتفرم شرح می‌داد.

حساب‌هایی که مسدود کردیم در پی تأثیرگذاری بر دو گروه مخاطب بودند. آن‌ها عمدتاً مخاطبان آمریکایی را هدف می‌گرفتند و دیدگاه‌های کوتاه و تصاویری به زبان انگلیسی تولید می‌کردند که مدعی بود مراکز داده و کاربردهای هوش مصنوعی تقاضای برق را افزایش می‌دهند و هزینه‌های بیشتری به آمریکایی‌های عادی تحمیل می‌کنند.

برای نمونه، آن‌ها بر پایهٔ گزارش یک روزنامهٔ معتبر منطقه‌ای، کمیک‌استریپ‌هایی دربارهٔ قیمت‌های مزایدهٔ ظرفیت یک اپراتور شبکهٔ برق درخواست کردند. آن‌ها از ChatGPT خواستند دیدگاه‌ها را بر افزایش قیمت ظرفیت در پی اوج تقاضای برق متمرکز کند، تقاضای جدید را ناشی از مراکز داده و کاربردهای هوش مصنوعی جلوه دهد و استدلال کند که این هزینه‌ها در نهایت به خانوارهای عادی منتقل می‌شود. این دیدگاه‌ها و تصاویر را مجموعه‌ای از حساب‌های احتمالاً جعلی در X، همراه با پیوندهایی به گزارش‌های خبری معتبر دربارهٔ مزایده‌های ظرفیت اپراتور شبکهٔ برق و تقاضای برق مراکز داده، منتشر کردند.

محتوای تولیدشده با هوش مصنوعی با هشتگ‌هایی مانند #capacityauction، #datacentersuccess و #datacenters در X منتشر شد. آن‌ها همچنین از ChatGPT برای ویرایش تصاویر استفاده کردند و با افزودن متن به تصاویر عمومی بازار برق، روایتی را تقویت کردند که طبق آن مردم عادی هزینهٔ زیرساخت هوش مصنوعی را تأمین می‌کنند.

تصاویر ثبت‌شده از پست‌های X حاوی متن و تصاویر تولیدشده با ChatGPT.

دومین گروهی که این مجموعه هدف گرفت، چینی‌های خارج از کشور بودند؛ اقدامی همسو با نقش ظاهری آن در پشتیبانی از اولویت‌های دولت چین. آن‌ها اطلاعات عمومی دربارهٔ لی یینگ، مخالف چینی که با نام «معلم لی» نیز شناخته می‌شود، خواستند و از ChatGPT درخواست کردند دیدگاه‌های کوتاه و توهین‌آمیزی علیه او و خطاب به حساب X تیمش، @whyyoutouzhele، تولید کند. در گزارش تهدید قبلی⁠ خود اشاره کردیم که لی هدف آزار آنلاین مشابهی از سوی فردی مرتبط با نیروهای انتظامی چین قرار گرفته بود. در این مورد، مدل‌های ما از تولید مطالب تحریک‌آمیز یا حملات شخصی علیه لی خودداری کردند. از دیگر مفسران سیاسی چینی که تلاش کردند آزارشان دهند، لو ییهِنگ، شو چی و صاحب حساب X با نام @SydneyDaddy1 بودند.

یکی از تاکتیک‌های قابل‌توجه عامل این بود که در فضای آنلاین خود را مهاجران چینی، کارگران، دانشجویان، مادران، کارمندان و سرمایه‌گذاران ساکن آمریکا جا بزند تا یک افسر سابق پلیس چین که در آمریکا زندگی می‌کند، به انتقاد از آمریکا و افشای «وجه تاریک» آن ترغیب شود. عاملان از ChatGPT خواستند پیام‌هایی خطاب به یک یوتیوبر تولید کند که این افسر سابق را به صحبت دربارهٔ ناکامی‌های سیاستی آمریکا تشویق می‌کرد. به نظر می‌رسید این تاکتیک تازه‌ای باشد که با استفاده از هویت‌های جعلیِ افراد ساکن آمریکا و مهاجران چینی، یک چهرهٔ تأثیرگذار را به تولید محتوای انتقادی علیه آمریکا ترغیب می‌کرد.

این حساب‌ها افزون بر تولید محتوای شبکه‌های اجتماعی، از ChatGPT برای کمک به خودکارسازی و گسترش مقیاس گردش کارشان استفاده کردند. از جمله، کدی برای خودکارسازی ورود به حساب و مدیریت تعاملات در چندین پلتفرم شبکهٔ اجتماعی درخواست کردند. آن‌ها همچنین از ChatGPT به‌عنوان ابزار پردازش متن برای استخراج نام‌های کاربری، افزودن پیوندهای X یا YouTube به ابتدای آن‌ها، حذف ابرپیوندها و قالب‌بندی داده‌ها برای کاربرگ‌ها استفاده کردند.

تصویر اصلی مرکز داده.

تصویر ویرایش‌شده با هوش مصنوعی که یک حساب احتمالاً جعلی در X منتشر کرده است.

این حساب‌ها از ChatGPT خواستند گزارش‌های کاری را تولید، پرداخت و ویرایش کند؛ گزارش‌هایی که ملاحظات امنیت عملیاتی فعالیت‌هایشان در شبکه‌های اجتماعی و شناخت آن‌ها از سامانه‌های شناسایی پلتفرم را آشکار می‌کرد. آن‌ها اهداف خود را ایجاد حساب‌های ماندگار و معتبر، تولید محتوای بصری جذاب برای گسترش دامنهٔ مخاطبان در مناطق هدف و حفظ بلندمدت حساب‌ها از طریق پیش‌بینی اقدامات اجرایی پلتفرم عنوان کردند.

یک گزارش مشخصاً بر عملیات در Facebook تمرکز داشت و بر ساخت هویت‌هایی واقعی، قابل‌اعتماد و برگرفته از زندگی روزمره تأکید می‌کرد؛ همچنین ایجاد هویت اولیهٔ حساب‌ها با محتوای سبک زندگی، رویدادهای روز، تحلیل و محتوای تخصصی و استفاده از تعامل میان حساب‌ها برای تقویت روایت‌ها، در عین حفظ ظاهر تعامل طبیعی، را توصیه می‌کرد. این موضوع از گردش کاری پیچیده‌تر برای حفظ حضوری پایدار در پلتفرم‌های شبکهٔ اجتماعی آمریکا و استفاده از هوش مصنوعی برای پشتیبانی از برنامه‌ریزی عملیاتی این فعالیت‌ها حکایت داشت.

همان گزارش نشان می‌دهد که آن‌ها پلتفرم Facebook را به‌طور گسترده تحلیل کرده بودند تا دامنهٔ دسترسی خود را افزایش دهند و خطر مختل شدن فعالیت‌هایشان را کاهش دهند. آن‌ها بررسی کرده بودند که چگونه می‌توان از زیست‌بوم محتوایی، گروه‌ها، صفحه‌ها، هشتگ‌ها، ابزارهای تبلیغاتی، سامانه‌های پیشنهاددهی و سازوکارهای گزارش‌دهی Facebook برای ایجاد نفوذ و دسترسی تدریجی به مخاطبان جدید استفاده کرد. آن‌ها این کار را رویکردی دومسیره توصیف کردند که تعامل طبیعی را با تبلیغات Facebook ترکیب می‌کرد و با آزمون تکرارشوندهٔ موضوع‌ها، قالب‌ها و مخاطبان پشتیبانی می‌شد. آن‌ها همچنین بر امنیت حساب‌ها، ایجاد حساب‌های پشتیبان و تفکیک فعالیت عملیاتی حساب‌ها تأکید داشتند تا پلتفرم نتواند هماهنگی میان آن‌ها را به‌عنوان بخشی از گردش کارشان شناسایی کند.