سوءاستفاده مرتبط با جمهوری خلق چین: فعالیت‌های نظارتی و نفوذی

این مطالعهٔ موردی نخست در گزارش اکتبر ۲۰۲۵⁠(در یک پنجره جدید باز می‌شود) OpenAI منتشر شد.

افرادی که ظاهراً با نهادهای دولتی جمهوری خلق چین مرتبط بودند، از ChatGPT برای کمک به توسعه، پروفایل‌سازی و امور اداری استفاده می‌کردند.

همان‌طور که در ماه مارس در پیشنهاد خود برای «برنامه اقدام هوش مصنوعی ایالات متحده» به دفتر سیاست‌گذاری علم و فناوری توضیح دادیم، معتقدیم بهره‌مندی بیشترین شمار ممکن از مردم از هوش مصنوعی مستلزم آن است که با قواعدی منطقی و معطوف به محافظت از مردم در برابر آسیب‌های واقعی، امکان توسعه هوش مصنوعی فراهم شود و هوش مصنوعی دموکراتیک ساخته شود. منظور ما از هوش مصنوعی دموکراتیک، هوش مصنوعی‌ای است که بر پایه اصول دموکراتیکی شکل گرفته باشد که آمریکا همواره از آن‌ها دفاع کرده است. این امر شامل جلوگیری از استفاده رژیم‌های اقتدارگرا از ابزارهای هوش مصنوعی برای انباشت قدرت و کنترل شهروندانشان است.

سرمایه‌گذاری‌های ما برای شناسایی و مختل کردن تلاش رژیم‌های اقتدارگرا در سوءاستفاده از قابلیت‌های ChatGPT، نه‌تنها اکنون از مردم محافظت می‌کند، بلکه بینش‌های مهمی درباره شیوه‌های احتمالی سوءاستفاده این رژیم‌ها از قابلیت‌های آینده به دست می‌دهد. این بخش به مجموعه‌ای از یافته‌های مرتبط با افرادی می‌پردازد که احتمالاً با چنین رژیم‌هایی ارتباط دارند و تمرکز آن بر جمهوری خلق چین است.

همان‌طور که در ماه ژوئن نوشتیم، جمهوری خلق چین در پیشبرد نسخه خودکامه خود از هوش مصنوعی واقعاً در حال پیشرفت است. مختل کردن حساب‌های ChatGPT که افراد ظاهراً مرتبط با نهادهای دولتی چین از آن‌ها استفاده می‌کردند، تا حدی وضعیت کنونی استفاده از هوش مصنوعی در این فضای اقتدارگرا را روشن می‌کند. به نظر می‌رسید برخی جنبه‌های این استفاده با هدف پشتیبانی از نظارت گسترده بر ترافیک آنلاین یا آفلاین انجام می‌شود؛ موضوعی که بر اهمیت توجه مستمر ما به سوءاستفاده‌های احتمالی اقتدارگرایانه در این حوزه تأکید دارد. به نظر می‌رسید بخش‌های دیگری از این استفاده با هدف پروفایل‌سازی عمیق‌تر انجام می‌شود. ما حساب‌های مرتبط با این فعالیت را مسدود کردیم و بینش‌های به‌دست‌آمده را در این گزارش به اشتراک می‌گذاریم.

این مطالعه بر گزیده‌ای از اقدامات ما برای مختل کردن فعالیت‌های ناقض سیاست‌ها استوار است که آن‌ها را شناسایی و مسدود کردیم. این فعالیت نشان‌دهنده استفاده کاربران منفرد از ChatGPT بود، نه پذیرش گسترده و سازمانی مدل‌های ما. بنابراین، این مطالعه تنها تصویری محدود از نحوه استفاده از مدل‌های گوناگون هوش مصنوعی در این زمینه ارائه می‌دهد.

به نظر می‌رسید برخی از حساب‌هایی که مسدود کردیم، می‌کوشیدند از ChatGPT برای توسعه ابزارهای نظارت گسترده استفاده کنند: تحلیل مجموعه‌داده‌هایی که اغلب از پلتفرم‌های رسانه‌های اجتماعی غربی یا چینی گردآوری شده بودند. در ماه فوریه درباره یکی از این موارد گزارش دادیم که هدف آن طراحی ابزاری مبتنی بر هوش مصنوعی برای رصد رسانه‌های اجتماعی بود؛ ابزاری که گردانندگانش ادعا می‌کردند برای نیروهای امنیتی چین ساخته می‌شود. این کاربران معمولاً از ChatGPT می‌خواستند در طراحی چنین ابزارهایی یا تولید محتوای تبلیغاتی درباره آن‌ها کمک کند، نه اینکه خودِ نظارت را انجام دهد.

برای نمونه، اخیراً کاربری را مسدود کردیم که احتمالاً با استفاده از VPN از چین به خدمات ما دسترسی داشت و از ChatGPT می‌خواست برای یک ابزار رصد رسانه‌های اجتماعی، ظاهراً با هدف استفاده یک مشتری دولتی، محتوای تبلیغاتی و برنامه پروژه طراحی کند. این ابزار یک «کاوشگر» (探针) رسانه‌های اجتماعی توصیف شده بود که ادعا می‌شد می‌تواند Twitter/X، Facebook، Instagram، Reddit، TikTok و YouTube را برای یافتن آنچه کاربر گفتار افراط‌گرایانه و محتوای قومی، مذهبی و سیاسی می‌نامید، پایش کند. کاربر برای انجام نظارت واقعی بر رسانه‌های اجتماعی از مدل ما استفاده نکرد. نمی‌توانیم مستقلاً تأیید کنیم که آیا یکی از نهادهای دولتی چین از این ابزار استفاده کرده است یا خیر.

به همین ترتیب، کاربر دیگری را که احتمالاً با یک نهاد دولتی ارتباط داشت مسدود کردیم. او از ChatGPT خواسته بود در نگارش پیشنهادی برای آنچه «مدل هشدار ورود افراد پرخطر مرتبط با اویغورها» (高危涉维吾尔关注人员流入预警模型) می‌نامید، کمک کند. در این پیشنهاد، ابزاری توصیف شده بود که رزروهای حمل‌ونقل را تحلیل و با سوابق پلیس مقایسه می‌کرد تا درباره جابه‌جایی افرادی که «مرتبط با اویغورها و پرخطر» طبقه‌بندی شده بودند، هشدار زودهنگام بدهد؛ طبقه‌ای که تعریف دیگری برای آن ارائه نشده بود. کاربر از مدل ما نخواست در ساخت چنین ابزاری کمک کند و فقط خواستار تدوین یک پیشنهاد کلی شد؛ بنابراین نمی‌توانیم مستقلاً تأیید کنیم که قصد استفاده از چه فناوری‌ای را داشته یا آیا یک نهاد دولتی چین از چنین ابزاری استفاده کرده است یا خیر.

همچنین کاربرانی را مسدود کردیم که ظاهراً با نهادهای دولتی چین ارتباط داشتند و به نظر می‌رسید می‌کوشیدند از ChatGPT برای پروفایل‌سازی اختصاصی‌تر و هدفمند و نیز پژوهش آنلاین استفاده کنند.

برای نمونه، یک کاربر از ChatGPT خواست منابع مالی یک حساب X را که از دولت چین انتقاد می‌کرد شناسایی کند. کاربر دیگری از ChatGPT خواست سازمان‌دهندگان یک دادخواست در مغولستان را شناسایی کند. در هر دو مورد، مدل‌های ما فقط اطلاعات در دسترس عموم را ارائه کردند که شامل جزئیات حساسی مانند منابع مالی یا هویت سازمان‌دهندگان دادخواست نبود.

در برخی از این فعالیت‌ها، از مدل‌های ما به‌عنوان ابزاری برای پژوهش منبع‌باز استفاده شد؛ مشابه روشی که کاربران پیشین برای جست‌وجو در اینترنت یا رسانه‌های اجتماعی به کار می‌بردند. برای نمونه، کاربر سومی از ChatGPT خواست خبرهای فوری روزانه مرتبط با چین را شناسایی و خلاصه کند؛ از جمله درباره موضوعات حساسی مانند سالگرد کشتار میدان تیان‌آن‌من در سال ۱۹۸۹ و زادروز دالایی لاما.