مرکزی مواد پر جائیں
OpenAI

۱ مئی، ۲۰۲۴

حفاظت

”خراب گرامر“: روس سے منسلک ٹیلی گرام تبصروں کی سرگرمی

OpenAI نے روس سے شروع ہونے والی ایک غیر رپورٹ شدہ کارروائی سے منسلک اکاؤنٹس پر پابندی لگا دی، جسے ہم نے ”خراب گرامر“ کا نام دیا. یہ مصنوعی ذہانت سے یوکرین، مالدووا، بالٹک ممالک اور امریکی سیاست پر انگریزی اور روسی ٹیلی گرام تبصرے تیار کرتی تھی.

لوڈ ہو رہا ہے…

یہ مطالعاتی جائزہ اصل میں OpenAI کی مئی 2024⁠(نئی ونڈو میں کھلتا ہے) کی رپورٹ میں شائع ہوا تھا.

عامل

ہم نے ایسے اکاؤنٹس کے ایک نیٹ ورک پر پابندی لگا دی جس کی پہلے اطلاع نہیں دی گئی تھی. یہ نیٹ ورک ہمارے ماڈلز سے تبصرے تیار کر کے انہیں ٹیلی گرام پر پوسٹ کرتا تھا. ہم نے اس سرگرمی کو روس سے تعلق رکھنے والے افراد سے منسلک کیا. ٹیلی گرام پر توجہ، قواعد کے لحاظ سے غلط انگریزی کی مسلسل پوسٹنگ اور سامعین بنانے میں ناکامی کے باعث ہم نے اس نیٹ ورک کو ”خراب گرامر“ کا نام دیا ہے.

طرز عمل

اس نیٹ ورک نے روسی اور انگریزی زبان کے مواد کے ذریعے روس، یوکرین، امریکہ، مالدووا اور بالٹک ممالک کے سامعین کو نشانہ بنایا.

نیٹ ورک نے تبصروں کی بھرمار کا سلسلہ قائم کرنے کے لیے ہمارے ماڈلز اور ٹیلی گرام اکاؤنٹس استعمال کیے. پہلے، آپریٹرز نے ہمارے ماڈلز سے ایسے کوڈ کی خامیاں دور کیں جو بظاہر ٹیلی گرام پر پوسٹنگ خودکار بنانے کے لیے تیار کیا گیا تھا. پھر انہوں نے ٹیلی گرام کی مخصوص پوسٹس کے جواب میں روسی اور انگریزی زبان میں تبصرے تیار کیے. آخر میں، بظاہر انہوں نے ان تبصروں کو پوسٹ کرنے کے لیے ٹیلی گرام کے کم از کم بارہ اکاؤنٹس استعمال کیے.

ٹیلی گرام پر عوامی تبصرہ، جو اس نیٹ ورک کے تیار کردہ متن سے مماثل ہے. متعلقہ اکاؤنٹ نے بار بار ایسے تبصرے پوسٹ کیے جو اس نیٹ ورک کے تیار کردہ مواد سے مماثل تھے.

ٹیلی گرام پر عوامی تبصرہ، جو اس نیٹ ورک کے تیار کردہ متن سے مماثل ہے. متعلقہ اکاؤنٹ نے بار بار ایسے تبصرے پوسٹ کیے جو اس نیٹ ورک کے تیار کردہ مواد سے مماثل تھے.

انگریزی میں، آپریٹرز نے ہمارے ماڈلز سے کئی فرضی شخصیات کے انداز میں تبصرے تیار کیے. یہ شخصیات امریکہ کے مختلف سماجی گروہوں اور سیاسی نظریات کے دونوں جانب کی نمائندگی کرتی تھیں. روسی زبان میں وہ کرداروں پر مبنی ہدایات کے بجائے موضوعاتی ہدایات کو ترجیح دیتے تھے.

نیٹ ورک نے زیادہ تر ٹیلی گرام کے چند چینلز کی پوسٹس پر تبصرے کیے. سب سے زیادہ ذکر روس نواز چینل @Slavyangrad کا ہوا، جس کے بعد انگریزی زبان کے @police_frequency اور @SGTNewsNetwork تھے. (بعد والا خود کو ایک قدامت پسند امریکی سابق فوجی ظاہر کرتا ہے، لیکن نومبر میں میٹا نے اطلاع دی⁠(نئی ونڈو میں کھلتا ہے) کہ اس کی ابتدا دراصل ایران میں ہوئی تھی). فروری کی سرگرمی کے ایک نمونے میں نیٹ ورک نے ان تین چینلز کے لیے، اگلے دس سب سے زیادہ مذکور چینلز کی مجموعی تعداد سے دو گنا زیادہ جوابات تیار کرنے کی کوشش کی.

مواد

اس مہم نے چند سیاسی موضوعات پر مرکوز مختصر تبصرے تیار کیے. انگریزی اور روسی دونوں زبانوں میں ٹیلی گرام پر اس کی پوسٹس کے اہم موضوعات یوکرین کی جنگ، مالدووا اور بالٹک ممالک کی سیاسی صورت حال اور امریکی سیاست تھے.

ٹیلی گرام پر روسی زبان کے عام تبصروں میں یوکرین اور مالدووا کے صدور پر بدعنوانی، عوامی حمایت کی کمی اور مغربی ”مداخلت“ کے لیے اپنے ہی لوگوں سے غداری کے الزامات لگائے گئے. ٹیلی گرام پر انگریزی زبان کے تبصرے ہجرت، معاشی مشکلات اور دن کی تازہ خبروں جیسے موضوعات پر مرکوز تھے. ان تبصروں میں اکثر موجودہ واقعات کا حوالہ دے کر یہ مؤقف پیش کیا گیا کہ امریکہ کو یوکرین کی حمایت نہیں کرنی چاہیے.

ٹیلی گرام پر عوامی تبصرہ، جو اس نیٹ ورک کے تیار کردہ متن سے مماثل ہے. متعلقہ اکاؤنٹ نے بار بار ایسے تبصرے پوسٹ کیے جو ہمارے ماڈلز سے تیار کردہ مواد سے مماثل تھے.

ٹیلی گرام پر عوامی تبصرہ، جو اس نیٹ ورک کے تیار کردہ متن سے مماثل ہے. متعلقہ اکاؤنٹ نے بار بار ایسے تبصرے پوسٹ کیے جو ہمارے ماڈلز سے تیار کردہ مواد سے مماثل تھے.

کبھی کبھی ایک ہی پوسٹ پر ایک سے زیادہ فرضی شخصیات نے متضاد نقطہ ہائے نظر کے ساتھ تبصرے کیے. دونوں جانب کی آوازیں بننے کا یہ ”دوغلا“ طریقہ روسی کارروائیوں میں پہلے بھی دیکھا گیا ہے. یہ مخصوص سامعین کو متوجہ کرنے یا اختلاف بڑھانے کی خواہش کی علامت ہو سکتا ہے.

ٹیلی گرام پر عوامی تبصرے، جو اس نیٹ ورک کے تیار کردہ متنوں سے مماثل ہیں. متعلقہ اکاؤنٹس نے بار بار ایسے تبصرے پوسٹ کیے جو ہمارے ماڈلز سے تیار کردہ مواد سے مماثل تھے.

ٹیلی گرام پر عوامی تبصرے، جو اس نیٹ ورک کے تیار کردہ متنوں سے مماثل ہیں. متعلقہ اکاؤنٹس نے بار بار ایسے تبصرے پوسٹ کیے جو ہمارے ماڈلز سے تیار کردہ مواد سے مماثل تھے.

22 مارچ کو ماسکو میں دہشت گرد حملے اور چار تاجک شہریوں کی حراست کے بعد مہم نے تاجکستان پر مرکوز ٹیلی گرام اکاؤنٹس کا ایک نیا گروپ استعمال کرنا شروع کیا. اس کے پوسٹ کردہ تبصروں میں تاجکوں اور روسیوں کے درمیان اتحاد اور روسی قانون کے احترام کی اپیل کی گئی.

اثرات کا جائزہ

تخلیقی مصنوعی ذہانت کی آمد سے پہلے بھی اثرانداز ہونے کی کارروائیوں میں تبصروں کی بھرمار ایک عام تکنیک تھی. اگرچہ ”خراب گرامر“ نے تبصرے تیار کرنے کے لیے ایک نئی تکنیک استعمال کی، لیکن اس کا تقسیم کا نظام لوگوں کی توجہ اور ردعمل حاصل کرنے میں ناکام رہا.

اس کے بہت کم تبصروں کو کوئی پسندیدگی یا جواب ملا. کسی بھی پوسٹ کے جوابات میں عموماً نیٹ ورک کے تبصرے اقلیت میں ہوتے تھے. یعنی اگر مقصد دوسرے خیالات کو دبانا تھا تو وہ اس میں کامیاب نہیں ہوا.

کبھی کبھار نیٹ ورک نے ہمارے ماڈلز سے ایسے متن تیار کیے جو بظاہر کسی دوسرے ٹیلی گرام صارف کے ساتھ نجی پیغامات تھے، لیکن تیار شدہ متن سے ظاہر ہوتا ہے کہ نیٹ ورک کسی کرپٹو کرنسی جعل ساز سے گفتگو کر رہا تھا.

اثرانداز ہونے کی کارروائیوں کے اثرات جانچنے کے لیے بریک آؤٹ پیمانہ⁠(نئی ونڈو میں کھلتا ہے) استعمال کرتے ہوئے، جو انہیں 1 (کم ترین) سے 6 (بلند ترین) تک درجہ دیتا ہے، ہم اسے زمرہ 1 میں رکھیں گے. اس زمرے میں سرگرمی ایک ہی پلیٹ فارم پر پوسٹنگ تک محدود ہوتی ہے اور نیٹ ورک سے باہر کے لوگوں کی جانب سے نمایاں پھیلاؤ کا کوئی ثبوت نہیں ہوتا.