تخطي إلى المحتوى الرئيسي
OpenAI

تعطيل الاستخدامات الضارة للذكاء الاصطناعي

استكشف أحدث دراسات الحالة والتقارير من OpenAI حول كيفية اكتشافنا للاستخدامات الضارة للذكاء الاصطناعي وتعطيلها.

بطاقة صفراء بنمط شبكي تحمل نصًا أرجوانيًا يقول: «اكتشاف عمليات الاحتيال باستخدام ChatGPT».

اكتشاف عمليات الاحتيال باستخدام ChatGPT: رأي ثانٍ عندما يثير أمرٌ ما شكوكك

معرفة المزيد(يفتح في نافذة جديدة)

آلية المراجعة البشرية

تساعد الأنظمة الآلية على اكتشاف الانتهاكات المحتملة، بينما يؤدي المراجعون البشريون دورًا أساسيًا في تحديد الاستخدامات الضارة للذكاء الاصطناعي وتعطيلها، بما في ذلك عمليات الاحتيال والأنشطة السيبرانية الضارة وعمليات التأثير السرية وغيرها من السلوكيات الضارة أو غير القانونية.

الاكتشاف

رصد مؤشرات محاولات إساءة الاستخدام عبر المنتجات والبلاغات وخيوط التحقيق.

التحقيق

يراجع المحققون البشريون الأنشطة، ويربطون بين الحالات ذات الصلة، ويقيّمون السلوك في سياقه.

التعطيل

نتخذ إجراءات ضد الحسابات والشبكات التي تنتهك شروطنا أو سياساتنا، مع تعزيز دفاعاتنا ضد أشكال الإساءة المشابهة.

الإفصاح

ننشر النتائج عند الاقتضاء لمساعدة قطاعنا والمجتمع عمومًا على التعرّف إلى هذه التهديدات والاستجابة لها بصورة أفضل.

دراسات الحالة

استكشف دراسات الحالة المستمدة من تحقيقات OpenAI في الاستخدامات الضارة للذكاء الاصطناعي. توضح كل حالة ما حاولت الجهات الفاعلة فعله، وكيف استخدمت الذكاء الاصطناعي، وكيف استجابت OpenAI.

التقارير