إتاحة عدم الاحتفاظ بالبيانات للنماذج الرائدة

يمنح عدم الاحتفاظ بالبيانات عملاء منصّة الـ API المؤهلين وعدًا واضحًا: لا تحتفظ OpenAI بطلباتهم أو ردود النماذج بعد معالجة الطلب. لا يتاح محتوى العملاء لموظفي OpenAI لمراجعته¹، ولا تُستخدم بيانات عملاء المؤسسات لتدريب نماذجنا ما لم يوافق العملاء على ذلك صراحةً.

مع تولي النماذج مهام أطول وأكثر تعقيدًا، قد لا تظهر بعض المخاطر الجسيمة إلا عبر تفاعلات متعددة. تقيّم أنظمة السلامة الحالية المتوافقة مع عدم الاحتفاظ بالبيانات كل تفاعل على حدة. نقدم اليوم معاينة للمعالجة الخاصة للسلامة، المصممة لاكتشاف الأنماط عبر التفاعلات المترابطة من دون منح موظفي OpenAI إمكانية الوصول إلى المحتوى الأساسي.

في عمليات النشر التي تستخدم عدم الاحتفاظ بالبيانات، يظل محتوى العملاء ضمن بنية تحتية يتحكم فيها العميل. نعمل أيضًا على تطوير خيار يُخزَّن فيه المحتوى ضمن بنية OpenAI التحتية، ويُشفَّر بمفاتيح يتحكم فيها العميل. في الحالتين، تستطيع الأنظمة الآلية رصد إساءة الاستخدام المحتملة وإرجاع إشارات سلامة محدودة، من دون كشف الطلبات أو الردود الأساسية لموظفي OpenAI.

لا تكون أخطر مخاطر سلامة الذكاء الاصطناعي ظاهرة دائمًا في تفاعل واحد. فغالبًا لا تتضح النوايا التي يُحتمل أن تكون ضارة إلا عند النظر إلى تفاعلات متعددة معًا. وقد تنشأ مخاطر مماثلة عندما يختبر أصحاب النوايا السيئة الضمانات مرارًا، أو ينسقون عبر حسابات متعددة، أو يخفون التهديدات في صورة أبحاث اعتيادية. قد تتطور المخاطر أيضًا على مدار مهمة وكيلة؛ مثل أن ينحرف النظام عن مقصد المستخدم بمواصلة العمل بعد أن يُطلب منه التوقف.

ومع تولي أنظمة الذكاء الاصطناعي مهام أطول وأكثر تعقيدًا، تزداد أهمية هذا السياق الأوسع للتمييز بين النشاط المشروع وإساءة الاستخدام، وضمان بقاء وكلاء الذكاء الاصطناعي ضمن حدود الصلاحيات المخصصة لهم.

اشترطت بعض عمليات نشر النماذج الرائدة مؤخرًا أن يسمح العملاء لمزوّد الذكاء الاصطناعي بالاحتفاظ بالمحتوى الحساس لمراقبة السلامة. بالنسبة إلى مؤسسات كثيرة، تتعارض هذه المتطلبات مع التزاماتها الأمنية أو تعهداتها تجاه من تخدمهم.

صُممت المعالجة الخاصة للسلامة كي نتمكن من مواصلة تقديم عدم الاحتفاظ بالبيانات.

تستند المعالجة الخاصة للسلامة إلى وسائل الحماية الآلية المستخدمة بالفعل في عمليات نشر عدم الاحتفاظ بالبيانات وغيرها. تقيّم أنظمة السلامة الحالية المتوافقة مع عدم الاحتفاظ بالبيانات التفاعلات كلًا على حدة. توسّع المعالجة الخاصة للسلامة نطاق تلك الحماية ليشمل التفاعلات المترابطة، ما يتيح للأنظمة الآلية اكتشاف الأنماط من دون تمكين موظفي OpenAI من الوصول إلى محتوى العملاء المحتفَظ به.

تستخدم المعالجة الخاصة للسلامة محتوى العملاء بصرف النظر عن مكان تخزينه، سواء في بنية تحتية يتحكم فيها العملاء (عمليات نشر عدم الاحتفاظ بالبيانات) أو في مساحة تخزين توفرها OpenAI. عند استخدام مساحة تخزين توفرها OpenAI، يُشفَّر محتوى العملاء بمفاتيح يتحكم فيها العميل. لا يملك موظفو OpenAI نسخة من تلك المفاتيح، ولذلك لا يمكنهم الوصول إلى المحتوى الأساسي.

عند رصد خطر، تتلقى OpenAI إشارة محددة النطاق توضّح نوع النشاط المعني، على غرار ما تفعله أنظمة السلامة الحالية لدينا. ويمكن استخدام هذه الإشارة لتحديد ما إذا كان اتخاذ إجراء إنفاذي ضروريًا. لا يُمنح موظفو OpenAI إمكانية الوصول إلى محتوى العميل حتى عند الإبلاغ عنه.

يمكن للعملاء التحقيق في التنبيهات وقرارات الإنفاذ باستخدام المعلومات المتاحة في أنظمتهم. وإذا أرادوا الاعتراض أو توضيح مشروعية نشاط ما أو دعم تحقيق في إساءة استخدام مؤكدة، فيمكنهم اختيار مشاركة المعلومات ذات الصلة مع OpenAI.

تخضع المعالجة الخاصة للسلامة حاليًا للاختبار مع مجموعة من العملاء الأوائل. نشارك هذه المعاينة الآن لأن عملاءنا أوضحوا لنا جليًا حاجتهم إلى رؤية واضحة لكيفية حماية محتواهم مع ازدياد قدرات أنظمة الذكاء الاصطناعي.

مهمتنا هي ضمان أن يعود الذكاء الاصطناعي العام بالنفع على البشرية جمعاء. يُعد التعاون مع العملاء والشركاء ركيزة أساسية في طريقتنا لبناء ضمانات فعّالة. كما توضّح مبادئنا، لا يمكن لأي مختبر ذكاء اصطناعي مواجهة المخاطر الناشئة بمفرده. تجسّد المعالجة الخاصة للسلامة هذا النهج، ويشارك في صياغتها عملاء من مختلف القطاعات والمناطق وأحجام الشركات.

تتعامل المؤسسات التي نعمل معها مع بعض أكثر المعلومات حساسية في قطاعاتها، بما فيها السجلات المالية والبيانات الصحية وخطط الأعمال السرية والأبحاث المملوكة. وتُعد حماية هذه المعلومات ضرورية للوفاء بالالتزامات التنظيمية والحفاظ على ثقة العملاء وصون ميزتهم التنافسية.

تساعدنا ملاحظاتهم في بناء ضمانات أقوى، مع إبقاء معلوماتهم تحت سيطرتهم.

سنواصل العمل مع العملاء على التفاصيل التقنية والتشغيلية لنهجنا. نعتزم بدء طرح المعالجة الخاصة للسلامة ونشر ورقة تقنية في سبتمبر. وسنبقي العملاء على اطلاع في كل خطوة، عبر مشاركة المستجدات مبكرًا وشرح أثرها في الالتزامات الحالية، ومنحهم الوقت والدعم اللازمين للتخطيط مسبقًا.