الارتقاء بإثبات مصدر المحتوى من أجل منظومة ذكاء اصطناعي أكثر أمانًا وشفافية

يستخدم الناس أدوات OpenAI يوميًا لإنشاء الصور والصوت وتحريرهما بطرق تجعل التواصل أكثر تعبيرًا وفائدة وإتاحة. ومع تحوّل هذه الأدوات إلى جزء من كيفية إنشاء الناس ومخيلتهم ومشاركتهم، يصبح من المهم أن يتمكنوا من فهم مصدر الوسائط والتحقق منه حتى يفسروها بثقة أكبر. يمكن لإشارات المصدر أن تساعد عبر تزويد الناس بسياق حول مصدر المحتوى، وكيف أُنشئ أو عُدّل، وما إذا كان هو فعلًا ما يدّعي أنه عليه.

نعزّز اليوم نهجنا في إثبات مصدر المحتوى من خلال نموذج متعدد الطبقات ومدفوع بالنظام البيئي لبناء الثقة عبر الإنترنت. نجعل إشارات المصدر لدينا أسهل تعرّفًا من قِبل الأدوات والمنصات الأخرى عبر التوافق مع C2PA، ونضيف علامات SynthID المائية المتينة العابرة للمنصات إلى الصور من خلال شراكة مع Google، ونشارك معاينة لأداة يمكن للجمهور استخدامها للتحقق مما إذا كانت الصور قد جاءت من OpenAI.

تُكمل هذه التحديثات معًا عملنا السابق⁠ لدعم المعايير المفتوحة، وتسهيل التعرّف إلى المحتوى المُنشأ بواسطة OpenAI، والتعاون عبر القطاع لدعم منظومة معلومات أكثر موثوقية.

تشارك OpenAI في تطوير واعتماد معايير المصدر منذ 2024، حين بدأنا بإضافة بيانات اعتماد المحتوى إلى الصور التي أنشأها DALL·E 3⁠(يفتح في نافذة جديدة) ثم لاحقًا إلى ImageGen⁠(يفتح في نافذة جديدة) وSora⁠(يفتح في نافذة جديدة). كما انضممنا إلى اللجنة التوجيهية لتحالف Content Provenance and Authenticity (C2PA))، وهي مجموعة متعددة القطاعات تقف وراء المعيار التقني المفتوح لإثبات مصدر المحتوى. ويعتمد النهج التقني في C2PA على البيانات الوصفية والتوقيعات المشفّرة، بحيث تنتقل المعلومات المرتبطة بأي مادة وسائطية بأمان مع المحتوى نفسه. وتشمل هذه المعلومات سياقًا يساعد الصحفيين في تقييم المصادر، والمنصات في اتخاذ قرارات تتعلق بسلامة المحتوى، والأشخاص في فهم ما يرونه على الإنترنت.

واتخذنا مؤخرًا خطوة إضافية بجعل OpenAI منتج توليد ممتثلًا مع C2PA⁠(يفتح في نافذة جديدة). ومن خلال هذا الامتثال، نمنح المنصات طريقة موثوقة لقراءة معلومات المصدر التي نرفقها بمحتوانا، والحفاظ عليها، وتمريرها إلى الجهات الأخرى. وتنبع أهمية ذلك من أن إثبات المصدر لا يكون مفيدًا إلا إذا استمر بعد انتقال المحتوى من المنصة الأولى التي أُنشئ عليها، وهذا الامتثال هو ما يجعل ذلك ممكنًا.

تُعد بيانات C2PA الوصفية أساسًا مهمًا لإثبات المصدر. فهي تساعد المحتوى على حمل معلومات عن مصدره، وكيف أُنشئ أو عُدّل، ومن وقّع تلك المعلومات. لكن البيانات الوصفية ليست مضمونة تمامًا. فقد تُزال، أو تضيع أثناء الرفع والتنزيل، أو تتعطل بسبب تحويلات مثل تغيير تنسيق الملف أو تغيير الحجم أو لقطات الشاشة.

ولجعل إثبات مصدر المحتوى أكثر قدرة على الصمود أمام التعديلات، نتبع نهجًا متعدد الطبقات وندمج العلامات المائية من خلال SynthID من Google DeepMind⁠(يفتح في نافذة جديدة)، بدءًا من الصور المُنشأة عبر ChatGPT⁠ أو Codex أو واجهة OpenAI البرمجية. إذ يضيف SynthID طبقة علامات مائية غير مرئية تُكمّل نُهج C2PA القائمة على البيانات الوصفية.

لقد كنا نعمل للوصول إلى هذا منذ بعض الوقت. استخدمنا علامات مائية مرئية⁠ في Sora وعلامة مائية صوتية⁠ في Voice Engine، وواصلنا اختبار الدقة والموثوقية والبحث فيهما بمرور الوقت. من خلال النشر.

يعزّز هذان النظامان أحدهما الآخر. يساعد C2PA المحتوى على حمل سياق مفصل؛ ويساعد SynthID على الحفاظ على إشارة عندما لا تبقى البيانات الوصفية. يمكن أن تكون العلامات المائية أكثر متانة عبر التحويلات مثل لقطات الشاشة، بينما يمكن للبيانات الوصفية أن توفر معلومات أكثر من العلامة المائية وحدها. ومعًا، يجعلان إثبات المصدر أكثر صمودًا مما يمكن لأي طبقة أن تحققه بمفردها.

يمكن للبيانات الوصفية الموثوقة والعلامات المائية التي تقاوم معظم التعديلات أن تجعل إشارات المصدر أكثر دوامًا. لكن الناس يحتاجون إلى طريقة لاكتشاف هذه الإشارات. نستعرض الآن أداة تحقق عامة⁠ ستساعد الناس على التحقق مما إذا كانت الصورة المرفوعة قد أُنشئت على ChatGPT أو واجهة OpenAI البرمجية أو Codex، وذلك عبر فحص ما إذا كانت تحتوي على إشارات مصدر، بما في ذلك بيانات اعتماد المحتوى وSynthID.

نرى أن التحقق من مصدر المحتوى وفهمه يجب أن يكونا أسهل على المستخدمين، وأن أداتنا يمكن أن تساعدهم على المشاركة في الإجابة عن سؤال: "هل تم إنشاء هذا باستخدام الذكاء الاصطناعي؟" وذلك من خلال دمج إشارات متعددة. ويستند هذا إلى الدروس المستفادة من المعاينة البحثية الأولية لمصنّف اكتشاف الصور⁠ لدينا في 2024، ويُمكّن الناس من اكتشاف ما إذا كانت هناك علامة SynthID مائية صادرة من OpenAI في الوسائط بشكل موثوق، وكذلك إظهار بيانات C2PA الوصفية عند العثور عليها.

لا توجد طريقة كشف مضمونة تمامًا، لذا نتبع نهجًا حذرًا في الحالات التي يفشل فيها الكشف. فعلى سبيل المثال، إذا لم تُكتشف أي بيانات وصفية أو علامة مائية، فلن تتوصل الأداة إلى نتيجة قاطعة بشأن ما إذا كانت الصورة قد أُنشئت باستخدام أدوات OpenAI، لأن إشارات المصدر قد تُزال في بعض الحالات.

عند الإطلاق، تقتصر الأداة على المحتوى الذي أنشأته OpenAI. وخلال الأشهر المقبلة، نهدف إلى دعم الجهود العابرة للقطاع لجعل التحقق ممكنًا عبر المنصات. ومع مرور الوقت، نتوقع أيضًا دعم المزيد من أنواع المحتوى التي قد يصادفها الناس عبر الإنترنت.

لا تكفي أي تقنية واحدة لإثبات المصدر بمفردها. نعتقد أن النهج القوي يجمع بين المعايير المشتركة، وإشارات العلامات المائية المتينة، والتحقق العام. ومن خلال البناء على دعمنا الطويل لبيانات اعتماد المحتوى، والتوافق مع C2PA، واعتماد SynthID، واستعراض أدوات التحقق العامة، نأمل أن نُسهم على المدى الطويل في منظومة أكثر قابلية للتشغيل البيني لإثبات المصدر.