زیادہ محفوظ اور شفاف AI ماحولیاتی نظام کے لیے مواد کے ماخذ کو آگے بڑھانا

لوگ OpenAI کے ٹولز کو روزمرہ استعمال کر رہے ہیں تاکہ تصاویر اور آڈیو کو ایسے طریقوں سے بنایا اور ایڈٹ کیا جا سکے جو ابلاغ کو زیادہ بامعنی، مفید اور قابلِ رسائی بناتے ہیں۔ جیسے جیسے یہ ٹولز لوگوں کے بنانے، تصور کرنے اور شیئر کرنے کے طریقے کا حصہ بنتے جا رہے ہیں، یہ ضروری ہے کہ لوگ سمجھ سکیں اور تصدیق کر سکیں کہ میڈیا کہاں سے آیا ہے تاکہ وہ اسے زیادہ اعتماد کے ساتھ سمجھ سکیں۔ ماخذی اشارے لوگوں کو یہ سیاق دے کر مدد کر سکتے ہیں کہ مواد کہاں سے آیا، اسے کیسے بنایا یا ایڈٹ کیا گیا، اور آیا یہ واقعی وہی ہے جس کا یہ دعویٰ کرتا ہے۔

آج ہم آن لائن اعتماد قائم کرنے کے لیے ایک کثیر سطحی، ماحولیاتی نظام پر مبنی ماڈل کے ساتھ مواد کے ماخذ کے بارے میں اپنے طریقۂ کار کو مزید مضبوط بنا رہے ہیں۔ ہم C2PA مطابقت کے ذریعے اپنے ماخذی اشاروں کو دوسرے ٹولز اور پلیٹ فارمز کے لیے زیادہ آسانی سے قابلِ شناخت بنا رہے ہیں، Google کے ساتھ شراکت کے ذریعے تصاویر میں پائیدار کراس پلیٹ فارم SynthID واٹرمارکنگ شامل کر رہے ہیں، اور ایک ایسے ٹول کی جھلک شیئر کر رہے ہیں جسے عوام یہ جانچنے کے لیے استعمال کر سکیں گے کہ آیا تصاویر OpenAI سے آئی ہیں۔

یہ تمام اپ ڈیٹس مل کر کھلے معیارات کی حمایت کرنے، OpenAI سے تیار کردہ مواد کو زیادہ آسانی سے شناخت کرنے، اور زیادہ قابلِ اعتماد معلوماتی ماحولیاتی نظام کی حمایت کے لیے پوری صنعت میں تعاون کرنے کے ہمارے پہلے کے کام⁠ کو آگے بڑھاتی ہیں.

OpenAI 2024 سے ماخذی معیارات کی تیاری اور اپنانے میں شامل رہا ہے، جب ہم نے DALL·E 3⁠(نئی ونڈو میں کھلتا ہے) سے تیار کردہ تصاویر میں Content Credentials شامل کرنا شروع کیے، اور بعد میں ImageGen⁠(نئی ونڈو میں کھلتا ہے) اور Sora⁠(نئی ونڈو میں کھلتا ہے) میں بھی. ہم Coalition for Content Provenance and Authenticity (C2PA) کی اسٹیئرنگ کمیٹی میں بھی شامل ہوئے، جو مواد کے ماخذ کے لیے کھلے تکنیکی معیار کے پیچھے موجود بین الصناعی گروپ ہے. C2PA کا تکنیکی طریقۂ کار میٹاڈیٹا اور کرپٹوگرافک دستخط استعمال کرتا ہے تاکہ میڈیا کے کسی حصے کے بارے میں معلومات محفوظ طریقے سے خود مواد کے ساتھ سفر کر سکیں. اس معلومات میں وہ سیاق شامل ہوتا ہے جو کسی ماخذ کا جائزہ لینے والے صحافیوں، سالمیت سے متعلق فیصلے کرنے والے پلیٹ فارمز، اور آن لائن دیکھی جانے والی چیز کو سمجھنے کی کوشش کرنے والے لوگوں کے لیے مددگار ہوتا ہے.

ہم نے حال ہی میں OpenAI کو ایک C2PA Conforming Generator Product⁠(نئی ونڈو میں کھلتا ہے) بنانے کا قدم اٹھایا ہے. C2PA کے مطابق بن کر، ہم پلیٹ فارمز کو ایک قابلِ اعتماد طریقہ دے رہے ہیں تاکہ وہ اس ماخذی معلومات کو پڑھ سکیں، محفوظ رکھ سکیں، اور آگے منتقل کر سکیں جو ہم اپنے مواد کے ساتھ منسلک کرتے ہیں. یہ اس لیے اہم ہے کیونکہ ماخذی نظام تبھی کام کرتا ہے جب وہ اس پہلے پلیٹ فارم سے آگے بھی برقرار رہے جہاں مواد بنایا گیا ہو، اور مطابقت اسے ممکن بناتی ہے.

C2PA میٹاڈیٹا ماخذ کے لیے ایک اہم بنیاد ہے۔ یہ مواد کو یہ معلومات ساتھ لے جانے میں مدد دیتا ہے کہ وہ کہاں سے آیا، اسے کیسے بنایا یا ایڈٹ کیا گیا، اور اس معلومات پر کس نے دستخط کیے۔ لیکن میٹاڈیٹا ناقابلِ خطا نہیں ہے۔ یہ ہٹایا جا سکتا ہے، اپ لوڈ اور ڈاؤن لوڈ کے دوران کھو سکتا ہے، یا فائل فارمیٹ کی تبدیلی، سائز بدلنے، یا اسکرین شاٹس جیسی تبدیلیوں سے خراب ہو سکتا ہے۔

ماخذ کو زیادہ مضبوط بنانے کے لیے، ہم ایک کثیر سطحی طریقۂ کار اپنا رہے ہیں اور Google DeepMind کے SynthID⁠(نئی ونڈو میں کھلتا ہے) کے ذریعے واٹرمارکنگ شامل کر رہے ہیں، ابتدا ان تصاویر سے ہو رہی ہے جو ChatGPT⁠، Codex، یا OpenAI API کے ذریعے تیار کی گئی ہیں. SynthID ایک غیر مرئی واٹرمارکنگ تہہ شامل کرتا ہے جو C2PA کے میٹاڈیٹا پر مبنی طریقوں کی تکمیل کرتی ہے.

ہم کچھ عرصے سے اس سمت میں کام کر رہے ہیں. ہم Sora میں مرئی واٹرمارکس⁠ اور Voice Engine میں ایک آڈیو واٹرمارک⁠ استعمال کر چکے ہیں، اور وقت کے ساتھ درستگی اور بھروسا مندی کی جانچ اور تحقیق جاری رکھی ہے. تعیناتی کے ذریعے.

یہ دونوں نظام ایک دوسرے کو مضبوط بناتے ہیں۔ C2PA مواد کو تفصیلی سیاق ساتھ لے جانے میں مدد دیتا ہے؛ SynthID اس وقت بھی ایک اشارہ محفوظ رکھنے میں مدد دیتا ہے جب میٹاڈیٹا برقرار نہ رہے۔ واٹرمارکنگ اسکرین شاٹس جیسی تبدیلیوں کے باوجود زیادہ پائیدار ہو سکتی ہے، جبکہ میٹاڈیٹا صرف واٹرمارک کے مقابلے میں زیادہ معلومات فراہم کر سکتا ہے۔ مل کر، یہ ماخذ کو اس سے زیادہ مضبوط بناتے ہیں جتنا کوئی ایک تہہ اکیلے بن سکتی ہے۔

قابلِ اعتماد میٹاڈیٹا اور ایسے واٹرمارکس جو زیادہ تر تبدیلیوں کے خلاف مزاحمت رکھتے ہوں، ماخذی اشاروں کو زیادہ پائیدار بنا سکتے ہیں. لیکن لوگوں کو ان اشاروں کی شناخت کا ایک طریقہ چاہیے. اب ہم ایک عوامی تصدیقی ٹول⁠ کی جھلک پیش کر رہے ہیں جو لوگوں کو یہ جانچنے میں مدد دے گا کہ آیا اپ لوڈ کی گئی تصویر ChatGPT، OpenAI API، یا Codex پر تیار کی گئی تھی، یہ دیکھ کر کہ آیا اس میں ماخذی اشارے موجود ہیں، جن میں Content Credentials اور SynthID شامل ہیں.

ہم سمجھتے ہیں کہ لوگوں کے لیے ماخذ کی تصدیق اور تشریح آسان ہونی چاہیے، اور ہمارا ٹول متعدد اشاروں کو یکجا کر کے لوگوں کو اس سوال کا جواب دینے میں کردار ادا کرنے میں مدد دے سکتا ہے، "کیا یہ AI کے ذریعے تیار کیا گیا تھا؟" یہ 2024 میں ہمارے تصویری شناختی کلاسیفائر⁠ کے ابتدائی تحقیقی پیش منظر سے حاصل شدہ سیکھ پر مبنی ہے اور لوگوں کو یہ قابلِ اعتماد طور پر شناخت کرنے کے قابل بناتا ہے کہ آیا OpenAI سے ماخوذ SynthID واٹرمارک میڈیا میں موجود ہے اور ساتھ ہی C2PA میٹاڈیٹا بھی دکھاتا ہے جب وہ مل جائے.

کوئی بھی شناختی طریقہ ناقابلِ خطا نہیں ہوتا، اس لیے جب شناخت ناکام ہو جائے تو ہم محتاط طریقۂ کار اپناتے ہیں۔ مثال کے طور پر، اگر کوئی میٹاڈیٹا یا واٹرمارک شناخت نہ ہو، تو ٹول اس بارے میں حتمی نتیجہ نہیں دے گا کہ آیا تصویر OpenAI کے ٹولز سے تیار کی گئی تھی، کیونکہ بعض صورتوں میں ماخذی اشارے ہٹائے جا سکتے ہیں۔

آغاز کے وقت، یہ ٹول OpenAI سے تیار کردہ مواد تک محدود ہے۔ آنے والے مہینوں میں، ہمارا ہدف بین الصناعی کوششوں کی حمایت کرنا ہے تاکہ پلیٹ فارمز کے درمیان تصدیق ممکن بنائی جا سکے۔ وقت کے ساتھ، ہم مزید اقسام کے مواد کی حمایت کی بھی توقع رکھتے ہیں جن سے لوگوں کا آن لائن سامنا ہو سکتا ہے۔

کوئی ایک ماخذی تکنیک اپنے طور پر کافی نہیں ہے۔ ہم سمجھتے ہیں کہ ایک مضبوط طریقۂ کار مشترکہ معیارات، پائیدار واٹرمارکنگ اشاروں، اور عوامی تصدیق کو یکجا کرتا ہے۔ Content Credentials کی ہماری دیرینہ حمایت، C2PA کے مطابق بننے، SynthID اپنانے، اور عوامی تصدیقی ٹولنگ کی جھلک پیش کرنے کی بنیاد پر، ہمیں امید ہے کہ ہم طویل مدت میں ایک زیادہ باہمی طور پر ہم آہنگ ماخذی ماحولیاتی نظام میں اپنا حصہ ڈال سکیں گے۔