متن کے ماخذ کے یورپی ضوابط پر ہمارا لائحۂ عمل
آج کی ٹیکنالوجی کی حدود میں رہتے ہوئے شفافیت کو فروغ دینا.
مواد کے ماخذ کی معلومات سے لوگوں کو یہ سمجھنے میں مدد ملتی ہے کہ مواد کہاں سے آیا، اسے کیسے تخلیق یا ترمیم کیا گیا، اور آیا اس میں ہمارے ماڈلز سے وابستہ اشارے موجود ہیں. ہم اپنے ماڈلز کی تخلیق کردہ تصاویر اور آڈیو کی شناخت کے لیے آلات پہلے ہی عوامی طور پر دستیاب کر چکے ہیں. آج ہم یورپی یونین کے مصنوعی ذہانت کے قانون کی تعمیل میں متن پر واٹرمارک لگانے کا اپنا طریقہ پیش کر رہے ہیں، اور بتا رہے ہیں کہ یہ ہماری وسیع تر کوششوں کا حصہ کیسے بنتا ہے.
یورپی یونین کا مصنوعی ذہانت کا قانون تخلیقی مصنوعی ذہانت فراہم کرنے والوں کو پابند کرتا ہے کہ وہ تخلیق شدہ متن کو ایسے انداز میں قابلِ شناخت بنائیں جسے مشین پڑھ سکے. متن پر واٹرمارک لگانے اور اس کا پتا لگانے کی ٹیکنالوجیاں ابھی ابتدائی مرحلے میں ہیں اور ان کی نمایاں حدود ہیں. ان کے فوائد اور ذمہ دارانہ استعمال سے متعلق آرا بھی ابھی تشکیل پا رہی ہیں. ہمارا مرحلہ وار لائحۂ عمل یورپی یونین کے مصنوعی ذہانت کے قانون کے تقاضوں اور اس ٹیکنالوجی کی حدود، دونوں کو مدنظر رکھتا ہے. اس میں واضح طور پر بتانے پر زور دیا گیا ہے کہ متن کا واٹرمارک لوگوں کو کیا بتا سکتا ہے اور کیا نہیں:
آج سے دنیا بھر میں اے پی آئی کے صارفین منتخب ماڈلز کے لیے متن پر واٹرمارک لگانے کا اختیار فعال کر سکیں گے. اے پی آئی میں متن پر واٹرمارک لگانے کا اختیار پہلے سے بند رہے گا.
آنے والے ہفتوں میں ہم یورپی یونین میں ChatGPT اور Codex کے اُن متنی نتائج میں غیر مرئی واٹرمارک شامل کریں گے جو اس سہولت کے اہل ہیں.
ہم متن کے واٹرمارک کا پتا لگانے والے اپنے آلے تک رسائی کے لیے درخواستیں قبول کرنا شروع کر رہے ہیں. ابتدائی طور پر رسائی صرف منظور شدہ محققین اور ماہر اداروں تک محدود ہوگی جو اس ٹیکنالوجی کی جانچ اور بہتری میں ہماری مدد کر سکتے ہیں.
مذکورہ بالا باتوں کا اطلاق صرف متن کے ماخذ کی معلومات پر ہوتا ہے. آڈیو اور تصاویر کی تصدیق کے ہمارے آلات، بشمول ہمارا ویب آلہ openai.com/verify اور ہمارا مواد کے ماخذ کی معلومات کا اے پی آئی(نئی ونڈو میں کھلتا ہے)، اُن اداروں کے لیے عوامی طور پر دستیاب رہیں گے جو جاننا چاہتے ہیں کہ آیا کوئی تصویر یا آڈیو فائل ہمارے کسی نظام نے تخلیق کی ہے.
متن پر واٹرمارک لگانے کی ہماری ٹیکنالوجی، textGrain، ماڈل کے الفاظ کے انتخاب میں ایک غیر مرئی شماریاتی اشارہ شامل کرتی ہے. پتا لگانے والا ہمارا آلہ اسی اشارے کو تلاش کرکے جانچتا ہے کہ آیا کسی عبارت میں OpenAI کا واٹرمارک موجود ہے. textGrain کے کام کرنے کے طریقے کی مزید تفصیلات ہماری تکنیکی رپورٹ(نئی ونڈو میں کھلتا ہے) میں مل سکتی ہیں، جس میں آنے والے ہفتوں میں مزید تفصیلات شامل کی جائیں گی. ہم اس ٹیکنالوجی کو کھلے ماخذ کے طور پر دستیاب کرنے کا بھی ارادہ رکھتے ہیں تاکہ دوسرے اسے مزید ترقی دے سکیں.
ہماری جانچ میں textGrain کی کارکردگی ہمارے آزمائے ہوئے دیگر طریقوں، بشمول متن کے لیے SynthID، کے برابر یا ان سے بہتر رہی. اس کے باوجود، مثالی حالات میں اچھی کارکردگی روزمرہ استعمال میں قابلِ اعتماد طور پر پتا لگانے کی ضمانت نہیں ہے.
پتا لگانے والے آلات دو طرح کی غلطیاں کر سکتے ہیں: واٹرمارک نہ ہونے پر بھی اس کی موجودگی بتانا، یعنی غلط مثبت نتیجہ، یا موجود واٹرمارک کا پتا نہ لگا پانا، یعنی غلط منفی نتیجہ. ذیل میں دی گئی ہماری جانچ ان میں سے کچھ مشکلات کو واضح کرتی ہے:
مختصر متن یا ایسے متن میں واٹرمارک کا پتا لگانا زیادہ مشکل ہوتا ہے جس میں اظہار کی گنجائش محدود ہو. غلط مثبت نتائج کی ہدف شرح 1% رکھنے پر، نفسیات جیسے موضوعات کے مواد میں ہمارے آلے نے 200 ٹوکن والی تقریباً 80% عبارتوں میں واٹرمارک پہچانے، جبکہ 400 ٹوکن والی عبارتوں میں یہ شرح تقریباً 95% تھی. ریاضی جیسے موضوعات کے مواد میں پتا لگانے کی شرحیں خاصی کم تھیں، جہاں الفاظ کے انتخاب میں گنجائش کم ہوتی ہے.
ترمیم سے واٹرمارک کمزور پڑ سکتا ہے. 400 ٹوکن والی عبارتوں کی ایک جانچ میں، 10% الفاظ کو مترادفات سے بدلنے پر پتا لگانے کی شرح تقریباً 92% سے گھٹ کر 66% رہ گئی. 25% الفاظ بدلنے پر یہ شرح گھٹ کر 17% رہ گئی.
ان حدود کی بنا پر بھی ہم نے ابتدائی طور پر پتا لگانے والے آلے تک رسائی صرف منظور شدہ محققین اور ماہر اداروں کو دینے کا فیصلہ کیا ہے، جو اس کی قابلِ اعتماد کارکردگی اور ذمہ دارانہ استعمال کی جانچ میں ہماری مدد کر سکتے ہیں.
یہ خاکہ ELI5 کے مجموعۂ معلومات(نئی ونڈو میں کھلتا ہے) سے ریاضی اور نفسیات کے سوالات کے واٹرمارک والے جوابات کی جانچ کے نتائج دکھاتا ہے، جس میں غلط مثبت نتائج کی ہدف شرح 1% رکھی گئی ہے. متن کی طوالت بڑھنے سے پتا لگانے کی کارکردگی بہتر ہوتی ہے، لیکن ریاضی جیسے مواد میں، جہاں الفاظ کے انتخاب میں گنجائش کم ہوتی ہے، مجموعی طور پر یہ خاصی کم رہتی ہے.
ترمیم سے واٹرمارک کا اشارہ خاصا کمزور پڑ سکتا ہے. یہ خاکہ دکھاتا ہے کہ کسی عبارت کے 10% یا 25% الفاظ بدلنے سے واٹرمارک کا پتا لگانے پر کیا اثر پڑتا ہے. نتائج ELI5(نئی ونڈو میں کھلتا ہے) کے سوالات کے واٹرمارک والے انگریزی جوابات پر مبنی ہیں.
اپنے نئے جدید ترین ماڈل Astra کی جانچ کے لیے ہم جو معیاری آزمائشیں استعمال کرتے ہیں، ان میں واٹرمارک کے ساتھ اور اس کے بغیر کارکردگی میں کوئی قابلِ ذکر فرق نظر نہیں آتا.
معیاری آزمائش | بغیر واٹرمارک والا متن (Astra، Max) | واٹرمارک والا متن (Astra، Max) |
|---|---|---|
Artificial Analysis کا ذہانت کا اشاریہ | 49.57 پوائنٹس | 49.76 پوائنٹس |
AutomationBench | 34.09% | 34.86% |
DeepSWE v1.1 | 72.80% | 71.68% |
Terminal-Bench 4.0 | 53.90% | 56.06% |
Terminal-Bench Science 0.1 | 56.90% | 60.00% |
BrowseComp | 87.92% | 87.35% |
HealthBench Professional | 64.27% | 64.60% |
GPQA Diamond | 94.44% | 93.94% |
متن کے واٹرمارک کسی عبارت میں ہمارے نظاموں کے کردار کے بارے میں محدود اشارہ فراہم کرتے ہیں. یہ سمجھنا ضروری ہے کہ پتا لگانے کے نتیجے سے کیا اخذ کیا جا سکتا ہے اور کیا نہیں.
واٹرمارک انسانی کردار کی پیمائش نہیں کرتا. یہ اشارہ دے سکتا ہے کہ OpenAI کے کسی نظام نے عبارت کا کچھ حصہ تخلیق کیا یا اس پر عمل کاری کی، لیکن یہ نہیں بتاتا کہ اس میں انسانی فیصلے، ترمیم یا تخلیقی صلاحیت کا کتنا دخل تھا.
واٹرمارک ملکیت یا ذمہ داری ثابت نہیں کرتا. یہ طے نہیں کرتا کہ متن کا مالک کون ہے، آیا اس کا استعمال قانونی تھا، آیا اس بارے میں آگاہ کرنا ضروری تھا، یا اس کا ذمہ دار کون ہے.
واٹرمارک صارف کی شناخت نہیں کرتا. یہ کسی شخص، ادارے، کھاتے، پرومپٹ یا گفتگو کو متن سے نہیں جوڑتا.
واٹرمارک درستگی کی تصدیق نہیں کرتا. یہ نہیں بتاتا کہ کوئی عبارت سچی، گمراہ کن یا نقصان دہ ہے، یا اسے درست سیاق و سباق میں پیش کیا گیا ہے.
واٹرمارک کا پتا نہ چلنا یہ ثابت نہیں کرتا کہ متن کسی انسان نے لکھا ہے. OpenAI کے آلات سے تخلیق کردہ متن اتنا مختصر ہو سکتا ہے، یا اس میں ایسی ترمیم یا اس کا ایسا ترجمہ ہوا ہو سکتا ہے، کہ واٹرمارک کا قابلِ اعتماد طور پر پتا نہ لگ سکے. یہ کسی ایسے ماڈل سے بھی آیا ہو سکتا ہے جو اس سہولت کو استعمال نہیں کرتا، واٹرمارک لگانے کے آغاز سے پہلے کا ہو سکتا ہے، یا کسی دوسری کمپنی کے آلات سے تخلیق کیا گیا ہو سکتا ہے.
یورپی یونین میں متن پر واٹرمارک لگانے کا آغاز. آنے والے ہفتوں میں ہم صرف یورپی یونین میں، تمام منصوبوں کے تحت ChatGPT اور Codex کے اہل صارفین کے لیے متن پر واٹرمارک لگانے کی سہولت متعارف کرائیں گے. آغاز کے وقت ہم متن پر واٹرمارک لگانے کی سہولت کو دنیا بھر میں پہلے سے فعال نہیں کر رہے ہیں. علاقائی سطح پر یہ آغاز ہمیں حقیقی استعمال اور صارفین کی آرا سے سیکھنے کی گنجائش دیتا ہے.
اے پی آئی کے صارفین کو واٹرمارک لگانے کا اختیار دینا. آج سے دنیا بھر میں اے پی آئی کے صارفین منتخب ماڈلز سے واٹرمارک والے متنی نتائج حاصل کرنے کا اختیار فعال کر سکیں گے. اس سے صارفین یہ فیصلہ کر سکتے ہیں کہ واٹرمارک لگانا شفافیت سے متعلق ان کی ذمہ داریوں اور اپنے صارفین کو فراہم کردہ تجربات میں کیسے موزوں بیٹھتا ہے. ہم کلاؤڈ خدمات فراہم کرنے والے شراکت داروں کے ساتھ بھی کام کر رہے ہیں، تاکہ آنے والے ہفتوں میں ان کی خدمات کے ذریعے حاصل ہونے والے OpenAI ماڈلز کے نتائج پر واٹرمارک لگانے کی سہولت دستیاب ہو.
محققین اور ماہر اداروں کو پتا لگانے والے آلے تک رسائی دینا. منظور شدہ محققین اور ماہر ادارے آج سے درخواست دے سکتے ہیں. ضابطۂ عمل(نئی ونڈو میں کھلتا ہے) کے مطابق، ابتدائی طور پر ہر درخواست کا الگ جائزہ لے کر رسائی دی جائے گی، تاکہ متن کے ماخذ کی معلومات کی جانچ اور بہتری میں مدد ملے. یہ آلہ بتائے گا کہ آیا اسے OpenAI کا واٹرمارک ملا ہے، لیکن صارف کی شناخت نہیں کرے گا اور نہ ہی اس کے پرومپٹس یا گفتگو ظاہر کرے گا. واٹرمارک کا پتا نہ چلنے اور غلط مثبت نتائج کے خطرے کے پیشِ نظر، ہم آغاز کے وقت اسے عوامی طور پر دستیاب نہیں کر رہے ہیں.
ہم توقع کرتے ہیں کہ ٹیکنالوجی، معیارات اور شواہد میں پیش رفت کے ساتھ اس لائحۂ عمل کے ہر حصے پر دوبارہ غور کریں گے.
ماخذ کی معلومات کی کوئی ایک تکنیک اپنے آپ میں کافی نہیں، اس لیے ہم تہہ دار طریقہ اپناتے ہیں جس میں کھلے معیارات، پائیدار واٹرمارک اور تصدیقی آلات یکجا ہوتے ہیں.
ہم اس سہولت کی حامل تخلیق شدہ تصاویر میں مواد کی اسناد شامل کرتے ہیں، C2PA کے معیارات کی تعمیل(نئی ونڈو میں کھلتا ہے) کرتے ہیں، موزوں تصاویر اور آڈیو میں غیر مرئی SynthID(نئی ونڈو میں کھلتا ہے) واٹرمارک لگاتے ہیں، اور openai.com/verify اور اپنے مواد کے ماخذ کی معلومات کے اے پی آئی(نئی ونڈو میں کھلتا ہے) کے ذریعے تصاویر اور آڈیو کی تصدیق کی سہولت دیتے ہیں. یہ تکنیکیں ایک دوسرے کی تکمیل کرتی ہیں: مواد کی اسناد کسی فائل کا ماخذ اور تاریخ درج کر سکتی ہیں، جبکہ غیر مرئی واٹرمارک، میٹاڈیٹا ہٹا دیے جانے پر بھی، ایک اشارہ محفوظ رکھ سکتے ہیں.
جیسا کہ ہم نے انتخابات کے تحفظ سے متعلق اپنے کام میں بیان کیا ہے، ماخذ کی معلومات لوگوں اور پلیٹ فارموں کو مصنوعی ذہانت سے تخلیق کردہ ممکنہ طور پر گمراہ کن مواد، بشمول ڈیپ فیکس، کی جانچ میں مدد دے سکتی ہیں. ہم ان اشاروں کے ساتھ پالیسیاں، غلط استعمال کا سراغ، شکایت درج کرنے کا عمل، تحقیقات اور ضوابط کا نفاذ یکجا کرتے ہیں. ہم محققین، معیار ساز اداروں، پلیٹ فارموں اور سول سوسائٹی کے ساتھ مل کر بھی کام کرتے ہیں تاکہ وسیع تر نظام میں ماخذ کی معلومات مفید بن سکیں.
ماخذ کی معلومات کا دائرہ متن تک بڑھاتے وقت یہ مدنظر رکھنا ضروری ہے کہ متن کو کتنی آسانی سے دوبارہ لکھا، ترجمہ یا ترمیم کیا جا سکتا ہے. جیسا کہ ہم نے جون میں بات کی تھی، ہمارے لائحۂ عمل میں موجودہ ٹیکنالوجی کی عملی حدود کا لحاظ ہونا ضروری ہے. ہم پتا لگانے کی کارکردگی بہتر بناتے رہیں گے، مطالعہ کریں گے کہ ترمیم اور ترجمے کے باوجود واٹرمارک کیسے برقرار رہتے ہیں، اور مصنوعی ذہانت کی مدد سے لکھی گئی اور خود اس کی تخلیق کردہ تحریروں میں زیادہ بامعنی فرق کرنے کے طریقے تلاش کریں گے. شواہد، معیارات اور ضابطہ جاتی تقاضوں میں تبدیلی کے ساتھ ہم اپنا لائحۂ عمل ڈھالتے رہیں گے، اور جب ہمیں یقین ہوگا کہ نتائج کی ذمہ دارانہ تشریح ممکن ہے تو پتا لگانے والے آلے تک رسائی کو وسعت دیں گے.
مزید معلومات کے لیے براہِ کرم ہمارے مرکزِ معاونت کا مضمون(نئی ونڈو میں کھلتا ہے) ملاحظہ کریں.
