SafetyKit توسّع وكلاء المخاطر بأقوى نماذج OpenAI

SafetyKit⁠(يفتح في نافذة جديدة) يطوّر وكلاء ذكاء اصطناعي متعددي الوسائط لمساعدة الأسواق الإلكترونية ومنصات الدفع وشركات التقنية المالية على كشف الاحتيال والنشاط المحظور والتصدي له عبر النصوص والصور والمعاملات المالية وقوائم المنتجات وغيرها. وقد جاءت الإنجازات الأخيرة في استدلال النماذج والفهم متعدد الوسائط لتُعزز فاعلية هذه الحلول وترفع المعيار في عمليات المخاطر والامتثال والسلامة.

تستند وكلاء SafetyKit إلى GPT‑5 وGPT‑4.1 والبحث التفصيلي ووكيل استخدام الحاسوب (CUA) لمراجعة 100% من محتوى العملاء بدقة تتجاوز 95% وفق تقييمات SafetyKit. وتُمكّن هذه الوكلاء المنصات من حماية مستخدميها والحدّ من الاحتيال وتفادي الغرامات التنظيمية، فضلًا عن تطبيق سياسات معقدة كثيرًا ما تفوت الأنظمة التقليدية، كالقواعد الخاصة بكل منطقة وأرقام الهاتف المضمّنة في صور الاحتيال والمحتوى غير اللائق. ويُضاف إلى ذلك أن الأتمتة تُخفف العبء عن المشرفين البشريين وتقيهم من التعرض للمحتوى المسيء، مما يُتيح لهم التفرغ للقرارات السياسية الدقيقة التي تستلزم حكمًا بشريًا.

يُصمّم كل وكيل من وكلاء SafetyKit للتعامل مع فئة مخاطر بعينها، من الاحتيال إلى المنتجات غير المشروعة. ويُوجَّه كل محتوى إلى الوكيل الأنسب للمخالفة المرتكبة، مستعينًا بالنموذج الأمثل من OpenAI:

• يُطبّق GPT‑5 الاستدلال متعدد الوسائط على النصوص والصور وواجهات المستخدم، للكشف عن المخاطر الخفية ودعم اتخاذ قرارات دقيقة ومتعددة الطبقات.
• يلتزم GPT‑4.1 بتعليمات سياسة المحتوى المفصّلة بشكل موثوق، ويُدير سير عمل الإشراف عالي الحجم بكفاءة عالية.
• يعزز الضبط الدقيق بالتعلّم المعزّز (RFT) معدلات الاستدعاء والدقة إلى ما يتجاوز النماذج الافتراضية، محققًا أداءً في طليعة المجال مع السياسات الأمنية المعقدة.
• يدمج البحث التفصيلي التحقيقات الآنية عبر الإنترنت في مراجعات التجار والتحقق من هوياتهم.
• يُؤتمت وكيل استخدام الحاسوب (CUA) المهام المعقدة المرتبطة بالسياسات، مما يُقلّص الاعتماد على المراجعات اليدوية المكلفة.

يُتيح هذا النهج القائم على مطابقة النماذج لـ SafetyKit توسيع نطاق مراجعة المحتوى عبر مختلف الوسائط بمستوى من الدقة والعمق يفوق ما تستطيعه الحلول التقليدية.

خذ وكيل كشف الاحتيال مثالًا؛ فهو لا يكتفي بفحص النصوص، بل يتجاوز ذلك إلى تحليل العناصر البصرية كرموز QR وأرقام الهاتف المضمّنة في صور المنتجات. ويُسهم GPT‑4.1 في تفسير الصورة وفهم تخطيطها والبتّ في كونها مخالفةً للسياسة أم لا.

أما وكيل الإفصاح عن السياسات، فيفحص القوائم وصفحات الهبوط بحثًا عن الصياغات الإلزامية كالتنبيهات القانونية وتحذيرات الامتثال الخاصة بكل منطقة. يستخرج GPT‑4.1 الأقسام ذات الصلة، ويُقيّم GPT‑5 مدى الامتثال، ثم يُعلّم الوكيل على المخالفات.

يقول غرونكيه: "نتعامل مع وكلائنا باعتبارها سير عمل مصمَّمة لغرض بعينه. بعض المهام تستلزم استدلالًا عميقًا، وأخرى تحتاج إلى سياق متعدد الوسائط. وOpenAI هو المنظومة الوحيدة التي تُحقق أداءً موثوقًا على كلا الصعيدين."

كثيرًا ما تتوقف القرارات المرتبطة بالسياسات على فوارق دقيقة. خذ مثلًا سوقًا إلكترونية تُلزم البائعين بإضافة إفصاح خاص بمنتجات العافية، مع متطلبات تختلف بحسب ادعاءات المنتج والقواعد المحلية في كل منطقة. وهنا تعتمد الحلول التقليدية عادة على كلمات مفتاحية أو قواعد صارمة جامدة، فتعجز عن استيعاب عمق الحكم الذي تستدعيه هذه القرارات، مما يُفضي إلى إغفال المخالفات أو تطبيق غير سليم.

يبدأ وكيل الإفصاح عن السياسات في SafetyKit بالرجوع إلى مكتبة السياسات الداخلية، ثم يتولى GPT‑5 تقييم المحتوى: هل يتضمن ادعاءات علاجية أو وقائية؟ هل يُباع في منطقة يُشترط فيها الإفصاح؟ وإن كان كذلك، فهل تتضمن القائمة الصياغة المطلوبة فعلًا؟ وإن قصّر المحتوى في أي من هذه النقاط، يصدر GPT‑5 مخرجات منظّمة يستخدمها الوكيل للإشارة إلى المشكلة.

يلاحظ غرونكيه: "تكمن قوة GPT‑5 في دقة استدلاله حين يرتكز على سياسة حقيقية، فهو يُمكّننا من اتخاذ قرارات دقيقة وقابلة للدفاع عنها حتى في الحالات النادرة التي تتعثر فيها الأنظمة الأخرى."

تختبر SafetyKit كل نموذج جديد من OpenAI على أصعب حالاتها، وكثيرًا ما تُطلق الأفضل أداءً في اليوم ذاته. وتُتيح التقييمات الداخلية المعمّقة للفريق رصد إمكانات التحسين بسرعة ودمج النماذج الجديدة في بنيتهم التحتية الأساسية بسلاسة.

حين أطلقت OpenAI نموذج o3، وظّفته SafetyKit فور إطلاقه لرفع أداء الحالات النادرة عبر مجالات السياسة الرئيسية. وما إن جاء GPT‑5 حتى نُشر في غضون أيام على أكثر وكلائها تطلبًا، محققًا تحسنًا يتجاوز 10 نقاط في معايير الأداء على أعقد مهام الرؤية الحاسوبية.

تُسهم SafetyKit كذلك في إثراء المنظومة بأثر رجعي، إذ تُشارك OpenAI نتائج تقييماتها وحالاتها النادرة الفاشلة والرؤى الخاصة بكل سياسة، وذلك مباشرةً بهدف المساهمة في تشكيل أداء النماذج المستقبلية على أعباء العمل الحساسة من منظور السلامة.

تفرض بنية SafetyKit التحتية السياسات على نطاق واسع، محققةً السرعة والدقة والتغطية الشاملة للمخاطر. وخلف الكواليس، باتت المنصة تعالج أكثر من 16 مليار رمز يوميًا، قفزةً من 200 مليون قبل ستة أشهر فحسب، وذلك دون أن تتنازل عن الدقة في تحليل محتوى متنامٍ باستمرار.

وفي هذه الفترة ذاتها، وسّعت SafetyKit نطاق عملها ليشمل مخاطر المدفوعات والاحتيال ومكافحة استغلال الأطفال وغسيل الأموال، إلى جانب عملاء جدد يضمّون مئات الملايين من المستخدمين النهائيين تحت مظلة حمايتها. وتُمكّن هذه القاعدة الراسخة العملاءَ من الاستجابة للمخاطر الناشئة بسرعة وثقة.

يقول غرونكيه: "لقد أوجدنا حلقةً يُعزز فيها كل إصدار من OpenAI قدراتنا مباشرةً، ولهذا يتحسن النظام باستمرار، متقدمًا دومًا على المخاطر المتجددة."

• دقة تتجاوز 95% في مراجعة 100% من محتوى العملاء
• معالجة 16 مليار رمز يوميًا، ارتفاعًا من 200 مليون في ستة أشهر
• تحسّن يتخطى 10 نقاط في معايير الأداء على أصعب مهام الرؤية الحاسوبية