استحواذ OpenAI على Promptfoo
تسريع قدرات اختبار أمان الوكلاء الذكيين وتقييمهم ضمن OpenAI Frontier
نحن ماضون في الاستحواذ على Promptfoo، وهي منصة متخصصة في أمن الذكاء الاصطناعي تساعد المؤسسات على اكتشاف الثغرات في الأنظمة المعتمدة على الذكاء الاصطناعي ومعالجتها خلال مراحل التطوير. وبمجرد اكتمال هذه الصفقة، سنعمل على دمج تقنية Promptfoo مباشرةً في OpenAI Frontier، منصتنا المخصصة لبناء وتشغيل زملاء العمل المعتمدين على الذكاء الاصطناعي.
ومع بدء المؤسسات في توظيف زملاء العمل المدعومين بالذكاء الاصطناعي داخل عمليات سير العمل الفعلي، أصبحت عمليات التقييم والأمن والامتثال متطلبات أساسية لا غنى عنها. فالمؤسسات تحتاج إلى أساليب منهجية لاختبار سلوك الوكلاء، واكتشاف المخاطر قبل الإطلاق، والحفاظ على سجلات واضحة تدعم الإشراف والحوكمة والمساءلة على المدى الطويل.
وفي هذا السياق، نجح فريق Promptfoo، بقيادة Ian Webster وMichael D’Angelo، في بناء مجموعة قوية من الأدوات تحظى بثقة أكثر من 25% من شركات Fortune 500. كما طوّر الفريق مكتبة مفتوحة المصدر(يفتح في نافذة جديدة) واسعة الاستخدام، تتضمن أدوات CLI ومكتبة برمجية مخصصة لتقييم تطبيقات النماذج اللغوية الكبيرة وإجراء اختبار تحدي المخاطر عليها. وانطلاقًا من هذه القاعدة القوية، سنواصل معًا تطوير المشروع مفتوح المصدر، بالتوازي مع تعزيز القدرات المؤسسية المتكاملة داخل Frontier.
"تتمتع Promptfoo بخبرة هندسية عميقة في تقييم أنظمة الذكاء الاصطناعي وتأمينها واختبارها على نطاق المؤسسات. ويساعد عملها الشركات على نشر تطبيقات ذكاء اصطناعي آمنة وموثوقة، ونحن متحمسون لإدماج هذه القدرات مباشرةً في Frontier."
سنبني عددًا من القدرات الجوهرية للمؤسسات التي تطوّر الوكلاء على Frontier:
- اختبارات الأمان والسلامة المدمجة في المنصة: ستصبح إمكانات الاختبار الأمني الآلي وعمليات تحدي المخاطر جزءًا أصيلًا من منصة Frontier، بما يساعد المؤسسات على تحديد المخاطر ومعالجتها، مثل حقن الأوامر، وكسر القيود، وتسرّب البيانات، وإساءة استخدام الأدوات، والسلوكيات الوكيلة الخارجة عن السياسات المعتمدة.
- الأمن والتقييم المدمجان في سير عمل التطوير: ستتكامل Frontier بعمق مع مسارات العمل اللازمة لتحديد مخاطر الوكلاء والتحقيق فيها ومعالجتها في مرحلة مبكرة، بما يجعل الأمن جزءًا أساسيًا من كيفية تطوير أنظمة الذكاء الاصطناعي المؤسسية وتشغيلها.
- الإشراف والمساءلة: ستسهم إمكانات إعداد التقارير المدمجة وإمكانية التتبّع في مساعدة المؤسسات على توثيق الاختبارات، ومراقبة التغييرات بمرور الوقت، وتلبية المتطلبات المتزايدة في مجالات الحوكمة وإدارة المخاطر والامتثال الخاصة بالذكاء الاصطناعي.
"أسّسنا Promptfoo لأن المطورين كانوا بحاجة إلى وسيلة عملية لتأمين أنظمة الذكاء الاصطناعي. ومع ازدياد ارتباط وكلاء الذكاء الاصطناعي بالبيانات والأنظمة الواقعية، أصبحت مهمة تأمينها والتحقق من سلامتها أكثر صعوبة وأكثر أهمية من أي وقت مضى. وانضمامنا إلى OpenAI يتيح لنا تسريع هذا العمل، من خلال تقديم قدرات أقوى في مجالات الأمن والسلامة والحوكمة إلى الفرق التي تبني أنظمة ذكاء اصطناعي تُستخدم في العالم الحقيقي."
يسعدنا أن نرحّب بفريق Promptfoo، وأن نواصل معًا تطوير الأدوات التي تحتاجها المؤسسات لنشر أنظمة ذكاء اصطناعي آمنة وموثوقة.
ويظل إتمام عملية الاستحواذ خاضعًا لشروط الإغلاق المعتادة والمتعارف عليها.
