نهجنا لإثبات مصدر النصوص وفق قواعد الاتحاد الأوروبي
تعزيز الشفافية ضمن حدود التكنولوجيا المتاحة اليوم.
إثبات مصدر المحتوى يساعد الناس على فهم مصدر المحتوى، وكيف أُنشئ أو عُدّل، وما إذا كان يحتوي على إشارات مرتبطة بنماذجنا. وقد أتحنا بالفعل أدوات للجمهور للتعرّف على الصور والمقاطع الصوتية التي أنشأتها نماذجنا. ونشارك اليوم نهجنا في وضع علامات مائية على النصوص استجابةً لقانون الذكاء الاصطناعي للاتحاد الأوروبي، وكيف يندرج ذلك ضمن أعمالنا الأوسع.
يشترط قانون الاتحاد الأوروبي للذكاء الاصطناعي أن يتيح مقدمو الذكاء الاصطناعي التوليدي التعرّف على النصوص المُنشأة بطريقة قابلة للقراءة آليًا. ولا تزال تقنيتا وضع العلامات المائية على النصوص واكتشافها في مراحلهما المبكرة، مع قيود كبيرة، كما لا تزال الآراء حول فوائدهما واستخداماتهما المسؤولة تتطور. ويعكس نهجنا المرحلي متطلبات قانون الاتحاد الأوروبي للذكاء الاصطناعي إلى جانب قيود هذه التقنية، مع التركيز على الشفافية بشأن ما يمكن للعلامة المائية النصية أن تخبر الناس به وما لا يمكنها إخبارهم به:
بدءًا من اليوم، سيتمكن عملاء API حول العالم من اختيار تفعيل العلامات المائية للنصوص في نماذج محددة. وستظل العلامات المائية للنصوص معطلة افتراضيًا في API.
خلال الأسابيع المقبلة، سنضيف علامة مائية غير مرئية إلى المخرجات النصية المؤهلة من ChatGPT وCodex في الاتحاد الأوروبي.
نفتح باب تقديم الطلبات للوصول إلى كاشف العلامات المائية النصية لدينا. وسيقتصر الوصول في البداية على الباحثين المعتمدين والمؤسسات المتخصصة القادرة على مساعدتنا في تقييم التقنية وتحسينها.
ينطبق ما سبق على إثبات مصدر النص فقط. وستظل أدواتنا للتحقق من الصوت والصور، بما فيها أداة الويب openai.com/verify وContent Provenance API(يفتح في نافذة جديدة)، متاحة للجمهور للمؤسسات التي تسعى إلى معرفة ما إذا كانت صورة أو ملف صوتي قد أُنشئ باستخدام أحد أنظمتنا.
تضيف تقنية وضع العلامات المائية على النصوص لدينا، textGrain، إشارة إحصائية غير مرئية إلى الكلمات التي يختارها النموذج. ويبحث كاشفنا عن هذه الإشارة لتحديد ما إذا كان المقطع النصي يحمل علامة مائية من OpenAI. ويمكن الاطلاع على مزيد من التفاصيل حول آلية عمل textGrain في تقريرنا الفني(يفتح في نافذة جديدة)، الذي سنحدّثه بمعلومات إضافية خلال الأسابيع المقبلة. ونخطط أيضًا لإتاحة التقنية مفتوحة المصدر لتمكين الآخرين من البناء عليها.
في تقييماتنا، حقق textGrain أداءً يضاهي أو يتجاوز أداء الأساليب الأخرى التي اختبرناها، بما فيها SynthID للنصوص. ومع ذلك، لا يضمن الأداء القوي في الظروف المثالية اكتشافًا موثوقًا في الاستخدام اليومي.
قد ترتكب أدوات الكشف نوعين من الأخطاء: فقد تشير إلى وجود علامة مائية غير موجودة، وهي نتيجة إيجابية خاطئة، أو تفشل في اكتشاف علامة مائية موجودة، وهي نتيجة سلبية خاطئة. وتوضح تقييماتنا أدناه بعض التحديات:
يصعب اكتشاف النصوص الأقصر أو الأكثر تقييدًا. عند استهداف معدل إيجابيات كاذبة قدره 1%، اكتشف كاشفنا العلامات المائية في نحو 80% من المقاطع المكوّنة من 200 رمز، مقارنة بنحو 95% من المقاطع المكوّنة من 400 رمز، في محتوى مثل علم النفس. وكانت معدلات الاكتشاف أقل بكثير في محتوى مثل الرياضيات، حيث تقل المرونة في اختيار الكلمات.
قد يؤدي التحرير إلى إضعاف العلامة المائية. في تقييم لمقاطع مكوّنة من 400 رمز، أدى استبدال 10% من الكلمات بمرادفات إلى انخفاض الكشف من نحو 92% إلى 66%. وأدى استبدال 25% من الكلمات إلى انخفاضه إلى 17%.
تسهم هذه القيود في قرارنا بقصر الوصول إلى الكاشف في المرحلة الأولى على الباحثين المعتمدين والمؤسسات المتخصصة، الذين يمكنهم مساعدتنا في تقييم موثوقيته واستخداماته المسؤولة.
يوضح هذا المخطط نتائج الردود التي تحمل علامات مائية على أسئلة الرياضيات وعلم النفس من مجموعة بيانات ELI5(يفتح في نافذة جديدة) عند معدل مستهدف للنتائج الإيجابية الكاذبة يبلغ 1%. يتحسن أداء الكشف مع زيادة طول النص، لكنه يكون أقل بكثير إجمالًا في المحتوى الذي تقل فيه مرونة اختيار الكلمات، مثل الرياضيات.
يمكن أن يؤدي التحرير إلى إضعاف إشارة العلامة المائية بدرجة كبيرة. يوضح هذا المخطط كيف يؤثر استبدال 10% أو 25% من كلمات مقطع نصي في القدرة على اكتشاف العلامة المائية فيه. تعتمد النتائج على إجابات باللغة الإنجليزية تحمل علامة مائية عن أسئلة من ELI5(يفتح في نافذة جديدة).
في مختلف الاختبارات المعيارية التي نستخدمها لتقييم Astra، أحدث نماذجنا الرائدة، لا نلاحظ فروقًا جوهرية في الأداء سواء مع تطبيق العلامات المائية أو من دونها.
معيار | نص بدون علامة مائية (Astra، Max) | نص يحمل علامة مائية (Astra، Max) |
|---|---|---|
مؤشر الذكاء الاصطناعي التحليلي | 49,57 نقطة | 49,76 نقطة |
AutomationBench | 34,09% | 34,86% |
DeepSWE v1.1 | 72,80% | 71,68% |
Terminal-Bench 4.0 | 53,90% | 56,06% |
Terminal-Bench Science 0.1 | 56,90% | 60,00% |
BrowseComp | 87,92% | 87,35% |
HealthBench Professional | 64,27% | 64,60% |
ماسة GPQA | 94,44% | 93,94% |
توفر العلامات المائية النصية إشارة محدودة إلى الدور الذي أدته أنظمتنا في مقطع نصي. ومن المهم فهم ما يمكن وما لا يمكن استنتاجه من نتيجة الكشف.
لا تقيس العلامة المائية المساهمة البشرية. يمكنها أن تشير إلى أن نظامًا من OpenAI أنشأ جزءًا من مقطع نصي أو عالجه، لكنها لا توضح مقدار ما بذله البشر فيه من حسن تقدير أو تحرير أو إبداع.
لا تثبت العلامة المائية الملكية أو المسؤولية. فهي لا تحدد من يملك النص، أو ما إذا كان استخدامه قانونيًا، أو ما إذا كان الإفصاح عنه مطلوبًا، أو من يتحمل المسؤولية عنه.
العلامة المائية لا تحدد هوية المستخدم. ولا تربط النص بأي شخص أو مؤسسة أو حساب أو مطالبة أو محادثة.
لا تثبت العلامة المائية صحة المعلومات. فهي لا تخبرك ما إذا كان المقطع صحيحًا أو مضللًا أو ضارًا أو معروضًا في السياق المناسب.
عدم رصد علامة مائية لا يثبت أن المحتوى من إنشاء بشري. قد يكون النص المُنشأ باستخدام أدوات OpenAI قصيرًا جدًا أو خضع للتحرير أو الترجمة، مما يجعل اكتشافه غير موثوق. وقد يكون أيضًا صادرًا عن نموذج غير مدعوم، أو أُنشئ قبل بدء استخدام العلامات المائية، أو باستخدام أدوات شركة أخرى.
بدء طرح العلامات المائية النصية في الاتحاد الأوروبي. خلال الأسابيع المقبلة، سنبدأ إتاحة العلامات المائية النصية لمستخدمي ChatGPT وCodex المؤهلين على جميع الخطط في الاتحاد الأوروبي فقط. لن نجعل العلامات المائية النصية إعدادًا افتراضيًا عالميًا عند الإطلاق. يتيح لنا هذا النهج الإقليمي مجالًا للتعلم من الاستخدام الفعلي والآراء.
تفعيل العلامات المائية الاختيارية لعملاء API. اعتبارًا من اليوم، سيتمكن عملاء API حول العالم من اختيار تفعيل العلامات المائية على مخرجات النصوص لبعض النماذج. ويتيح ذلك للعملاء تحديد كيفية توافق العلامات المائية مع التزاماتهم المتعلقة بالشفافية والتجارب التي يقدمونها للمستخدمين. ونعمل أيضًا مع شركائنا في مجال الخدمات السحابية لإتاحة العلامات المائية لمخرجات نماذج OpenAI التي يتم الوصول إليها عبر خدماتهم خلال الأسابيع المقبلة.
إتاحة الوصول إلى أداة الكشف للباحثين والمؤسسات المتخصصة. يمكن للباحثين المعتمدين والمؤسسات المتخصصة التقدم بطلب ابتداءً من اليوم. وتماشيًا مع مدونة قواعد الممارسة(يفتح في نافذة جديدة)، سيُمنح الوصول في البداية على أساس كل حالة على حدة لدعم تقييم أصل النصوص وتحسينه. وستُبيّن الأداة ما إذا كانت قد اكتشفت علامة مائية من OpenAI، من دون تحديد هوية المستخدم أو الكشف عن مطالبه أو محادثاته. ونظرًا إلى مخاطر عدم اكتشاف العلامات المائية والإيجابيات الكاذبة، لن نتيح الأداة للجمهور عند إطلاقها.
نتوقع إعادة النظر في كل جزء من هذا النهج مع تطور التكنولوجيا والمعايير والأدلة.
لا تكفي أي تقنية واحدة لإثبات المصدر بمفردها، لذا نتبع نهجًا متعدد الطبقات يجمع بين المعايير المفتوحة والعلامات المائية المتينة وأدوات التحقق.
نضيف بيانات اعتماد المحتوى إلى مخرجات الصور المدعومة، ونتوافق مع معايير C2PA(يفتح في نافذة جديدة)، ونضمّن علامات مائية غير مرئية من SynthID(يفتح في نافذة جديدة) في الصور والملفات الصوتية المدعومة، ونتيح التحقق من الصور والملفات الصوتية عبر openai.com/verify و واجهة برمجة التطبيقات لإثبات مصدر المحتوى(يفتح في نافذة جديدة). وتكمل هذه التقنيات بعضها بعضًا: إذ يمكن لبيانات اعتماد المحتوى تسجيل أصل الملف وسجلّه، بينما يمكن للعلامات المائية غير المرئية الحفاظ على إشارة عند إزالة البيانات الوصفية.
كما أوضحنا في عملنا بشأن ضمانات حماية الانتخابات، يمكن أن يساعد إثبات المصدر الأشخاص والمنصات على تقييم المحتوى المنشأ بالذكاء الاصطناعي الذي قد يكون مضللًا، بما في ذلك التزييف العميق. نقرن هذه الإشارات بالسياسات ورصد إساءة الاستخدام والإبلاغ والتحقيقات وإجراءات الإنفاذ ونعمل مع الباحثين وهيئات المعايير والمنصات والمجتمع المدني لجعل إثبات المصدر مفيدًا في مختلف أنحاء المنظومة الأوسع.
يتطلب توسيع نطاق إثبات مصدر المحتوى ليشمل النصوص مراعاة سهولة إعادة صياغتها أو ترجمتها أو تحريرها. وكما ناقشنا في يونيو، يجب أن يراعي نهجنا الحدود العملية للتكنولوجيا الحالية. سنواصل تحسين الكشف ودراسة مدى صمود العلامات المائية أمام التحرير والترجمة واستكشاف طرق للتمييز بشكل أوضح بين الاستعانة بالذكاء الاصطناعي وتأليف المحتوى بالذكاء الاصطناعي. وسنعدل نهجنا مع تطور الأدلة والمعايير والمتطلبات التنظيمية ونتوسع في إتاحة أدوات الكشف عندما نرى أن نتائجها يمكن تفسيرها بمسؤولية.
لمزيد من المعلومات، يرجى زيارة مقالتنا في مركز المساعدة(يفتح في نافذة جديدة).
