إطلاق وضع القفل وعلامات تمييز "خطر مرتفع" المتسقة في ChatGPT

مع اضطلاع أنظمة الذكاء الاصطناعي بمهام أكثر تعقيدًا، لا سيما تلك المهام المرتبطة بشبكة الإنترنت والتطبيقات المتصلة بها، فإن طبيعة المخاطر الأمنية تتبدل بصورة جذرية.

وثمة خطر متزايد بات يكتسي أهمية خاصة في الآونة الأخيرة، ويتمثل في حقن المطالبات⁠. وتعتمد هذه الهجمات على محاولات تقوم بها جهات خارجية لخداع أنظمة الذكاء الاصطناعي القائمة على المحادثة، بغرض جرّها نحو تنفيذ تعليمات ضارة أو إفشاء بيانات ومعلومات ذات طبيعة حساسة.

نطرح اليوم تدبيرين وقائيين جديدين يهدفان إلى مساعدة الأفراد والمنظمات في مواجهة هجمات حقن المطالبات، مما يمنحهم شفافية أكبر في رصد المخاطر وآليات رقابة أكثر صرامة وفاعلية:

• وضع القفل في ChatGPT، الذي يمثل إعداد أمان متطورًا وغير إلزامي يستهدف فئة المستخدمين الذين يواجهون تهديدات أمنية مرتفعة
• علامات التمييز "خطر مرتفع" لبعض الوظائف والقدرات التي قد تتسبب في مخاطر أمنية إضافية داخل منصات ChatGPT وChatGPT Atlas وCodex

تأتي هذه التدابير الإضافية لتعزز إجراءات الحماية الحالية لدينا المطبقة على مستويات النموذج والمنتج والنظام ككل. ويشمل ذلك تقنيات العزل البرمجي، وتدابير الوقاية من محاولات تسريب البيانات عبر الروابط⁠، وآليات المراقبة وتطبيق السياسات، بالإضافة إلى عناصر التحكم المخصصة للمؤسسات⁠ مثل تحديد الوصول حسب الأدوار الوظيفية وسجلات المراجعة والتدقيق

يمثل وضع القفل إعداد أمان متطورًا واختياريًا، يستهدف فئة منتقاة من المستخدمين الحريصين تمامًا على الجوانب الأمنية، كالمديرين التنفيذيين أو أفرقة الأمن في المنظمات الكبرى، والذين يحتاجون إلى مستويات حماية فائقة لمواجهة التهديدات المتقدمة. هذا النمط ليس ضروريًا لمعظم المستخدمين العاديين، حيث يقوم وضع القفل بتقييد تفاعل ChatGPT مع الأنظمة الخارجية بشكل صارم، لتقليل احتمالية تسريب البيانات المرتبطة بهجمات حقن المطالبات.

يعمل وضع القفل على إيقاف تشغيل أدوات وإمكانات محددة في ChatGPT بصورة قطعية، وذلك لمنع الجهات المعادية من محاولة استغلالها في استخراج بيانات حساسة من المحادثات أو التطبيقات المربوطة عن طريق هجمات مثل حقن المطالبات.

كمثال على ذلك، تنحصر قدرة تصفح الويب ضمن وضع القفل في الوصول إلى المحتوى المؤرشف أو المخزن مؤقتًا فقط، وذلك لضمان عدم إرسال أي طلبات شبكة مباشرة خارج حدود شبكة OpenAI الآمنة. ويهدف هذا الإجراء الوقائي إلى الحيلولة دون استخراج البيانات الحساسة أو نقلها إلى جهة مهاجمة من خلال ثغرات التصفح؛ حيث يجري إيقاف تشغيل ميزات معينة كليًا في حال تعذر توفير تأكيدات تقنية قطعية تضمن أمن البيانات وسلامتها.

تقدم خطط ChatGPT المخصصة للأعمال مستويات متقدمة من أمن البيانات على مستوى المؤسسات الكبرى⁠. ويرتكز وضع القفل على تدابير الحماية هذه المتوفرة لمستخدمي ChatGPT Enterprise وChatGPT Edu وChatGPT للرعاية الصحية وChatGPT for Teachers. وبإمكان المشرفين تفعيل هذا الوضع من إعدادات مساحة العمل المشتركة⁠(يفتح في نافذة جديدة) عن طريق تعيين دور⁠(يفتح في نافذة جديدة) جديد؛ وبمجرد تفعيله، يطبق وضع القفل قيودًا إضافية إلى جانب إعدادات الإدارة المعمول بها حاليًا.

تعرّف على المزيد حول وضع القفل في مركز المساعدة⁠(يفتح في نافذة جديدة).

بما أن العديد من إجراءات العمل الأساسية ترتكز على استخدام التطبيقات، فقد تم منح مسؤولي مساحة العمل المشتركة آليات تحكم أكثر مرونة وتفصيلًا. وبموجب ذلك، يستطيعون اختيار التطبيقات المسموح بها للمستخدمين أثناء تفعيل وضع القفل، مع تحديد ماهية الإجراءات التي يمكن القيام بها داخل كل تطبيق. وبالإضافة إلى ذلك، وبشكل مستقل عن وضع القفل، تتيح منصة Compliance API Logs Platform⁠(يفتح في نافذة جديدة) شفافية كاملة تجاه كيفية استخدام التطبيقات والبيانات المشتركة والمصادر المربوطة، مما يعزز من قدرة المسؤولين على المتابعة والتدقيق المستمر.

نخطط لإتاحة وضع القفل للمستهلكين في الأشهر القادمة.

تتعزز فاعلية أدوات الذكاء الاصطناعي حينما تتكامل مع تطبيقاتك وعالم الويب، ونحن من جانبنا خصصنا استثمارات ضخمة لتأمين البيانات المرتبطة بهذه الأدوات⁠. ومع ذلك، ثمة وظائف تقنية تعتمد على الشبكة قد تفتح الباب لمخاطر مستجدة لم تصل حلول الحماية والأمان الراهنة في القطاع إلى معالجتها كليًا حتى الآن. وبما أن بعض المستخدمين قد يجدون في أنفسهم القدرة على موازنة هذه المخاطر وقبولها، فإننا نرى ضرورة تمكينهم من اختيار طريقة وتوقيت استخدامها، خاصة في ظل تعاملهم مع بياناتهم الشخصية الحساسة.

لقد تمثل توجهنا الدائم في تقديم توجيهات إرشادية ضمن واجهة الاستخدام للميزات التي يُحتمل أن تترتب عليها مخاطر أمنية إضافية. وسعيًا منا لجعل هذا التوجه أكثر شفافية وتوافقًا، فإننا بصدد توحيد طريقة تسمية وتصنيف مجموعة محددة من الإمكانات الحالية؛ حيث ستُدرج هذه الميزات الآن تحت علامة تمييز موحدة هي "خطر مرتفع" عبر منصات ChatGPT وChatGPT Atlas وCodex، وهو ما يضمن للمستخدم تلقي ذات التوجيهات الوقائية بغض النظر عن المنصة التي يستخدمها.

فمثلًا، يتاح للمطورين في مساعد البرمجة التابع لنا Codex منح النظام إذن الاتصال بالإنترنت لتنفيذ مهام عبر الشبكة كالبحث عن المراجع والوثائق البرمجية. وتحتوي شاشة الإعدادات المعنية على علامة "خطر مرتفع" مرفقة بتوضيح جلي للتبعات، والمخاطر المحتملة، والظروف التي يُنصح فيها بتفعيل هذا الإذن ومباشرة استخدامه.

نواصل التزامنا بضخ الاستثمارات لتدعيم وسائل السلامة والأمن، وخصوصًا فيما يتعلق بالمخاطر المستحدثة أو الناشئة أو الآخذة في التوسع. وفي سياق تعزيزنا لسبل حماية هذه الخصائص، سنقوم بإلغاء علامة التمييز "خطر مرتفع" فور تحققنا من أن التقدم التقني في مجال الأمان قد عالج تلك التحديات وقلل من وطأتها بما يكفي للاستخدام الاعتيادي. وسنستمر أيضًا في مراجعة وتحديث الميزات المشمولة بهذا التصنيف دوريًا لتحقيق الشفافية المثلى مع المستخدمين بشأن المخاطر.