عوامی جمہوریہ چین سے وابستہ غلط استعمال: نگرانی اور اثراندازی کی سرگرمیاں

یہ کیس اسٹڈی اصل میں OpenAI کی اکتوبر 2025 کی⁠(نئی ونڈو میں کھلتا ہے) رپورٹ میں شائع ہوئی تھی.

بظاہر عوامی جمہوریہ چین کی سرکاری اکائیوں سے وابستہ افراد، ترقیاتی کاموں، پروفائل سازی اور دفتری امور میں مدد کے لیے ChatGPT استعمال کر رہے تھے.

جیسا کہ ہم نے مارچ میں سائنس اور ٹیکنالوجی پالیسی کے دفتر کو امریکی اے آئی ایکشن پلان سے متعلق اپنی پیشکش میں بیان کیا تھا، ہمارا ماننا ہے کہ اے آئی سے زیادہ سے زیادہ لوگوں کو فائدہ پہنچانے کے لیے ایسے معقول ضابطوں کے تحت اے آئی کو فروغ دینا ضروری ہے جو لوگوں کو حقیقی نقصانات سے بچائیں، اور جمہوری اے آئی تیار کرنا بھی ضروری ہے. جمہوری اے آئی سے ہماری مراد ایسی اے آئی ہے جو ان جمہوری اصولوں کے مطابق تشکیل دی گئی ہو جن کی امریکا ہمیشہ حمایت کرتا آیا ہے. اس میں آمرانہ حکومتوں کو اقتدار جمع کرنے اور اپنے شہریوں کو قابو میں رکھنے کے لیے اے آئی ٹولز استعمال کرنے سے روکنا بھی شامل ہے.

آمرانہ حکومتوں کی جانب سے ChatGPT کی صلاحیتوں کے غلط استعمال کی کوششوں کا پتا لگانے اور انہیں ناکام بنانے میں ہماری سرمایہ کاری نہ صرف آج لوگوں کا تحفظ کرتی ہے بلکہ یہ اہم بصیرت بھی فراہم کرتی ہے کہ یہ حکومتیں مستقبل کی صلاحیتوں کا غلط استعمال کیسے کر سکتی ہیں. اس حصے میں عوامی جمہوریہ چین پر توجہ مرکوز کرتے ہوئے، ایسی حکومتوں سے ممکنہ طور پر وابستہ افراد کے بارے میں حاصل ہونے والے نتائج کے ایک مجموعے پر گفتگو کی گئی ہے.

جیسا کہ ہم نے جون میں لکھا تھا، عوامی جمہوریہ چین اے آئی کے اپنے آمرانہ تصور کو آگے بڑھانے میں حقیقی پیش رفت کر رہا ہے. چینی سرکاری اکائیوں سے بظاہر وابستہ افراد کے زیر استعمال ChatGPT اکاؤنٹس کے خلاف ہماری کارروائی سے اس آمرانہ ماحول میں اے آئی کے موجودہ استعمال کی صورت حال کسی حد تک واضح ہوتی ہے. اس استعمال کے کچھ پہلو بظاہر آن لائن یا آف لائن سرگرمی کی وسیع پیمانے پر نگرانی میں معاونت کے لیے تھے، جو اس شعبے میں ممکنہ آمرانہ غلط استعمال پر ہماری مسلسل توجہ کی اہمیت اجاگر کرتے ہیں. اس استعمال کے دیگر پہلو بظاہر زیادہ تفصیلی پروفائل سازی کے لیے تھے. ہم نے اس سرگرمی سے وابستہ اکاؤنٹس پر پابندی لگا دی اور اس رپورٹ میں حاصل شدہ بصیرت پیش کر رہے ہیں.

یہ مطالعہ پالیسیوں کی خلاف ورزی کرنے والی ان سرگرمیوں کے خلاف ہماری منتخب کارروائیوں پر مبنی ہے جن کی ہم نے شناخت کی اور جن پر پابندی لگائی. یہ سرگرمی ہمارے ماڈلز کو بڑے پیمانے پر ادارہ جاتی طور پر اپنانے کے بجائے انفرادی صارفین کے ChatGPT استعمال کرنے سے مطابقت رکھتی تھی. اس لیے یہ اس تناظر میں مختلف اے آئی ماڈلز کے استعمال کی ایک محدود جھلک ہے.

جن اکاؤنٹس پر ہم نے پابندی لگائی، ان میں سے کچھ بظاہر وسیع پیمانے پر نگرانی کے ٹولز تیار کرنے کے لیے ChatGPT استعمال کرنے کی کوشش کر رہے تھے: وہ اکثر مغربی یا چینی سوشل میڈیا پلیٹ فارموں سے جمع کیے گئے ڈیٹا سیٹس کا تجزیہ کر رہے تھے. ہم نے فروری میں ایسے ہی ایک معاملے کی اطلاع دی تھی، جس کا مقصد اے آئی سے چلنے والا سوشل میڈیا نگرانی کا ٹول تیار کرنا تھا اور منتظمین کا دعویٰ تھا کہ یہ چینی سکیورٹی فورسز کے لیے ہے. یہ صارفین عموماً ChatGPT سے ایسے ٹولز کا خاکہ بنانے یا ان کے بارے میں تشہیری مواد تیار کرنے میں مدد مانگتے تھے، مگر نگرانی کو عملی جامہ پہنانے میں نہیں.

مثلاً، ہم نے حال ہی میں ایک ایسے صارف پر پابندی لگائی جو ممکنہ طور پر چین سے ہماری خدمات تک رسائی کے لیے وی پی این استعمال کر رہا تھا اور ChatGPT سے ایک سوشل میڈیا نگرانی کے ٹول کے لیے تشہیری مواد اور منصوبے تیار کرنے میں مدد مانگ رہا تھا، جسے مبینہ طور پر ایک سرکاری مؤکل کے لیے استعمال کیا جانا تھا. اس ٹول کو سوشل میڈیا کی ایک ”تحقیقی سوئی“ (探针) کے طور پر بیان کیا گیا تھا، جو مبینہ طور پر ٹوئٹر/ایکس، فیس بک، انسٹاگرام، ریڈٹ، ٹک ٹاک اور یوٹیوب پر ایسی چیزیں تلاش کر سکتا تھا جنہیں صارف نے انتہا پسندانہ تقریر اور نسلی، مذہبی و سیاسی مواد قرار دیا تھا. صارف نے سوشل میڈیا کی حقیقی نگرانی کے لیے ہمارا ماڈل استعمال نہیں کیا. ہم آزادانہ طور پر اس بات کی تصدیق نہیں کر سکتے کہ آیا اس ٹول کو کسی چینی سرکاری اکائی نے استعمال کیا ہے.

اسی طرح، ہم نے ایک دوسرے صارف پر بھی پابندی لگائی جو غالباً کسی سرکاری اکائی سے وابستہ تھا اور جس نے ChatGPT سے اس منصوبے کی تجویز لکھنے میں مدد مانگی جسے اس نے ”زیادہ خطرے والے ایغوروں سے متعلق افراد کی آمد کا پیشگی انتباہی ماڈل“ (高危涉维吾尔关注人员流入预警模型) کہا تھا. تجویز میں ایک ایسے ٹول کا ذکر تھا جو نقل و حمل کی بکنگز کا تجزیہ کرکے ان کا پولیس ریکارڈ سے موازنہ کرتا، تاکہ ایغوروں سے متعلق اور زیادہ خطرے والے قرار دیے گئے افراد کے سفری نقل و حرکت کی پیشگی اطلاع دی جا سکے؛ تاہم اس زمرے کی کوئی مزید وضاحت نہیں کی گئی تھی. صارف نے ہمارے ماڈل سے ایسا ٹول بنانے میں مدد نہیں مانگی، بلکہ صرف ایک عمومی تجویز تیار کروائی؛ اس لیے ہم آزادانہ طور پر اس بات کی تصدیق نہیں کر سکتے کہ وہ کون سی ٹیکنالوجی استعمال کرنا چاہتے تھے یا آیا ایسا ٹول کسی چینی سرکاری اکائی نے استعمال کیا ہے.

ہم نے ایسے صارفین پر بھی پابندی لگائی جو بظاہر چینی سرکاری اکائیوں سے وابستہ تھے اور مخصوص افراد کی حسبِ ضرورت، ہدفی پروفائل سازی اور آن لائن تحقیق کے لیے ChatGPT استعمال کرنے کی کوشش کر رہے تھے.

مثلاً، ایک صارف نے ChatGPT سے چینی حکومت پر تنقید کرنے والے ایک ایکس اکاؤنٹ کے مالی وسائل کے ذرائع معلوم کرنے کو کہا. ایک دوسرے صارف نے ChatGPT سے منگولیا میں ایک عرضداشت کے منتظمین کی شناخت کرنے کو کہا. ان دونوں معاملات میں ہمارے ماڈلز نے صرف عوامی طور پر دستیاب معلومات فراہم کیں، جن میں مالی وسائل کے ذرائع یا عرضداشت کے منتظمین کی شناخت جیسی حساس تفصیلات شامل نہیں تھیں.

اس سرگرمی کے کچھ حصے میں ہمارے ماڈلز کو کھلے ذرائع سے تحقیق کے ٹول کے طور پر استعمال کیا گیا، بالکل اسی طرح جیسے پہلے صارفین انٹرنیٹ یا سوشل میڈیا پر تلاش کرتے تھے. مثلاً، ایک تیسرے صارف نے ChatGPT سے روزانہ کی ایسی تازہ خبروں کی شناخت اور تلخیص کرنے کو کہا جو چین کے لیے اہم ہوں، جن میں 1989 کے تیانانمن اسکوائر قتلِ عام کی برسی اور دلائی لاما کی سالگرہ جیسے حساس موضوعات بھی شامل تھے.