واجهة برمجة التطبيقات API الخاصة بـ OpenAI

نحن بصدد إصدار واجهة برمجة تطبيقات API تتيح الوصول إلى نماذج الذكاء الاصطناعي الجديدة التي طورتها OpenAI. وعلى خلاف العديد من أنظمة الذكاء الاصطناعي المصممة لخدمة حالة استخدام واحدة، توفر هذه الواجهة نموذجًا عامًا يعتمد مبدأ "نص يدخل، نص يخرج"، ما يمكّن المستخدمين من تجربتها على أي مهمة لغوية تقريبًا باللغة الإنجليزية. ويمكنك الآن طلب الوصول لدمج الواجهة مباشرة في منتجك، أو لبناء تطبيق جديد بالكامل باستخدام قدراتها، أو للمساهمة معنا في استكشاف نقاط القوة والحدود التقنية لهذه المنظومة.

عند إدخال أي نصّ في الواجهة، سيقوم النظام بتوليد إكمال نصي يحاول مطابقة النمط الذي قدمته. ويمكنك في جوهر الأمر "برمجة" النموذج عبر عرض عدد محدود من الأمثلة التي توضّح نوع المخرجات التي ترغب بها، علمًا بأن مستوى الدقة يتفاوت بحسب درجة تعقيد المهمة. وتتيح لك واجهة برمجة التطبيقات كذلك تحسين أداء النموذج في مهام محددة من خلال تدريبه على مجموعة بيانات، سواء كانت صغيرة أو كبيرة، من الأمثلة التي توفرها. كما يمكن تطوير الأداء بالاستفادة من الملاحظات البشرية المقدَّمة من المستخدمين أو المراجعين المتخصصين.

لقد صممنا واجهة برمجة التطبيقات (API) لتكون سهلة الاستخدام لأي شخص، وفي الوقت نفسه مرنة بما يكفي لرفع إنتاجية فرق التعلم الآلي. وقد أصبح العديد من فرقنا الداخلية يعتمد عليها اليوم، بما يتيح لهم التركيز على البحث وتطوير الخوارزميات بدلًا من الانشغال بقضايا الأنظمة الموزعة. وتعمل الواجهة حاليًا بنماذج مستندة إلى أوزان من عائلة GPT‑3⁠(يفتح في نافذة جديدة)، بعد إدخال تحسينات كبيرة على السرعة والكفاءة وقدرة المعالجة. ومع التسارع الكبير في مجال التعلم الآلي، نواصل تحديث تقنياتنا باستمرار لضمان بقاء مستخدمينا على اطلاع دائم بأحدث التطورات.

إن الوتيرة المتسارعة لتطور هذا المجال تعني ظهور تطبيقات جديدة للذكاء الاصطناعي بشكل مفاجئ ومتكرر، سواء كانت ذات آثار إيجابية أو سلبية. وسنقوم بإنهاء الوصول إلى واجهة البرمجة في أي حالة استخدام تُظهر ضررًا واضحًا، مثل التحرّش، أو الرسائل المزعجة، أو التطرف، أو الحملات المضلِّلة المصطنعة. ومع ذلك ندرك أن التنبؤ بجميع العواقب المحتملة لهذه التقنية غير ممكن بالكامل، ولهذا نطرح الواجهة اليوم ضمن نسخة تجريبية خاصة بدلًا من إتاحتها بشكل عام. وفي الوقت نفسه، نعمل على تطوير أدوات تمنح المستخدمين قدرة أكبر على التحكم في طبيعة المحتوى الذي تولّده الواجهة، إلى جانب إجراء أبحاث معمّقة حول الجوانب المرتبطة بالسلامة في تقنيات اللغة، مثل تحليل التحيّز الضار، والتقليل من تأثيره، والتدخل عند ظهوره. وسنشارك ما نتوصل إليه من نتائج ليتمكن مستخدمونا والمجتمع الأوسع من تطوير أنظمة ذكاء اصطناعي أكثر توافقًا مع القيم الإنسانية وأكثر قدرة على إحداث أثر إيجابي.

بالإضافة إلى كونها مصدرًا للإيرادات لمساعدتنا في تغطية التكاليف⁠ في سعينا لتحقيق مهمتنا⁠، فقد دفعتنا واجهة برمجة التطبيقات إلى إلى توسيع تركيزنا على تطوير تكنولوجيا ذكاء اصطناعي عامة الاستخدام، والعمل على تحسين قدراتها، وجعلها أكثر سهولة وملاءمة للاستخدام العملي، والنظر بجدية في آثارها على العالم الحقيقي. ونأمل أن تُسهِم الواجهة في خفض العوائق⁠(يفتح في نافذة جديدة) أمام تطوير منتجات مفيدة تعمل بالذكاء الاصطناعي، بما يمهّد لابتكار أدوات وخدمات يصعب تخيّلها في الوقت الراهن.

هل أنت مهتم باستكشاف واجهة برمجة التطبيقات؟ انضم إلى شركات مثلAlgolia⁠(يفتح في نافذة جديدة) وQuizlet⁠(يفتح في نافذة جديدة) و Reddit⁠(يفتح في نافذة جديدة)، والباحثين في مؤسسات مثل معهد Middlebury⁠(يفتح في نافذة جديدة) في النسخة التجريبية الخاصة بنا⁠(يفتح في نافذة جديدة).

في جوهر الأمر، أولويتنا الكبرى⁠ هي ضمان أن يعود الذكاء الاصطناعي العام بالنفع على الجميع دون استثناء. ونرى أن تطوير منتجات تجارية يُعد من الوسائل الأساسية التي تمكّننا من توفير التمويل الكافي لمواصلة العمل وتحقيق النجاح في هذا المسار.

نؤمن أيضًا بأن نشر أنظمة ذكاء اصطناعي قوية بطريقة آمنة على مستوى العالم ليس أمرًا سهلًا أو مباشرًا. ومع طرح واجهة البرمجة، نعمل بشكل وثيق مع شركائنا لرصد التحديات الفعلية التي تظهر عند استخدام هذه الأنظمة في البيئات الواقعية. ويسهم ذلك في توجيه جهودنا نحو فهم أفضل لكيفية نشر أنظمة الذكاء الاصطناعي المستقبلية، وتحديد المتطلبات والإجراءات اللازمة لضمان أن تكون هذه الأنظمة آمنة وذات منفعة للجميع.

هناك ثلاثة أسباب رئيسية وراء هذا التوجّه. أولًا، يسهم تطوير المنتج التجاري في تمويل جهودنا البحثية المستمرة في مجال الذكاء الاصطناعي، بما في ذلك جهود السلامة والسياسات.

ثانيًا، تعتمد الواجهة على نماذج ضخمة تتطلب قدرًا عاليًا من الخبرة لتطويرها وتشغيلها، كما تستلزم موارد تشغيلية كبيرة تجعل استخدامها مكلفًا للغاية. ونتيجة لذلك يصبح من الصعب على الجهات الصغيرة، باستثناء الشركات الكبرى، الاستفادة من هذه التقنيات المتقدمة. ونأمل أن تسهم الواجهة في إتاحة أنظمة الذكاء الاصطناعي القوية أمام الشركات والمؤسسات الأصغر حجمًا بشكل أسهل وأكثر قابلية للوصول.

ثالثًا، يتيح لنا نموذج الواجهة التعامل مع حالات إساءة استخدام التكنولوجيا بكفاءة أكبر. وبما أن التنبؤ بجميع الاستخدامات اللاحقة للنماذج أمر بالغ الصعوبة، فإن طرحها من خلال واجهة برمجة تطبيقات، مع توسيع نطاق الوصول تدريجيًا، يُعد خيارًا أكثر أمانًا بطبيعته من إتاحة النموذج كمصدر مفتوح لا يمكن التحكم في مستويات الوصول إليه لاحقًا إذا تبيّن أن له تطبيقات ضارة.

مع إصدار GPT‑2 كان أحد أبرز مخاوفنا يتمثّل في إمكانية إساءة استخدام النموذج، مثل توظيفه لإنتاج معلومات مضلِّلة، وهو أمر يصعب الحدّ منه بعد إتاحة النموذج كمصدر مفتوح. أما في واجهة البرمجة الحالية، فيمكننا التحكم بشكل أفضل في الاستخدام من خلال تقييد الوصول على عملاء وحالات استخدام معتمدة. ولهذا السبب نعتمد عملية مراجعة إنتاج إلزامية قبل السماح لأي تطبيق بالانتقال إلى مرحلة الإطلاق. وخلال هذه المراجعات، نقوم بتقييم التطبيقات وفق مجموعة من المحاور الأساسية، مثل: ُهل تعد حالة الاستخدام مطابقة لما ندعمه حاليًا؟ وإلى أي مدى يتيح التطبيق إنتاج مخرجات مفتوحة؟ وما مستوى المخاطر المرتبطة به؟ وكيف يخطط المطور لمعالجة احتمال إساءة الاستخدام؟ ومن هم المستخدمون النهائيون للتطبيق؟

نقوم بإنهاء الوصول إلى الواجهة في حال ثبت أن حالة الاستخدام تُسبب ضررًا جسديًا أو عاطفيًا أو نفسيًا للناس، بما في ذلك التحرّش، أو الخداع المقصود، أو التطرف، أو الحملات المضلّلة، أو الرسائل المزعجة، أو أي تطبيق يفتقر إلى الضوابط التي تمنع إساءة الاستخدام. ومع اكتساب خبرة أكبر في تشغيل الواجهة، سنواصل تطوير تصنيفات الاستخدامات المعتمدة، سواء لتوسيع نطاق التطبيقات الممكن دعمها، أو لتحديد فئات أدقّ ضمن الحالات ذات الحساسية المرتفعة.

يُعدّ أحد العوامل الجوهرية في اعتماد حالات استخدام واجهة البرمجة مقدار الانفتاح أو مستوى القيود في سلوك التطبيق مقارنة بالإمكانات التوليدية الأساسية للنظام. فالتطبيقات المفتوحة بالكامل، التي تتيح إنتاج كميات كبيرة من النصوص المخصّصة دون عوائق استنادًا إلى أي مدخلات، تُعد أكثر عُرضة لسوء الاستخدام. ولتعزيز الأمان في هذه الاستخدامات التوليدية، يمكن الاستفادة من مجموعة من القيود التنظيمية، مثل تصميم أنظمة تضمن وجود عنصر بشري ضمن دورة العمل، ووضع ضوابط على وصول المستخدمين النهائيين، ومعالجة المخرجات بعد توليدها، وترشيح المحتوى، وتحديد طول المدخلات والمخرجات، إلى جانب المراقبة النشطة، وحصر الموضوعات ضمن نطاقات محددة.

كما نواصل إجراء أبحاث معمّقة حول أشكال سوء الاستخدام المحتملة للنماذج المتاحة عبر الواجهة، وذلك بالتعاون مع باحثين مستقلّين ضمن برنامج الوصول الأكاديمي⁠(يفتح في نافذة جديدة) لدينا. وقد بدأنا في هذه المرحلة بعدد محدود جدًا من الباحثين، وبدأنا نتلقى بالفعل نتائج أولية من شركائنا الأكاديميين مثل Middlebury Institute⁠(يفتح في نافذة جديدة)، وجامعة واشنطن، ومعهد Allen Institute للذكاء الاصطناعي⁠(يفتح في نافذة جديدة). ومع وجود عشرات الآلاف من طلبات الانضمام إلى هذا البرنامج، نمنح الأولوية حاليًا للمقترحات التي تركّز على دراسات الإنصاف والتمثيل.

الحدّ من الآثار السلبية مثل التحيّز الضار يمثل تحديًا واسعًا على مستوى القطاع ويكتسب أهمية كبيرة. وكما أوضحنا في ورقة GPT‑3⁠(يفتح في نافذة جديدة) وفي بطاقة النموذج⁠(يفتح في نافذة جديدة)، فإن نماذج الواجهة قد تُظهر بعض التحيّزات التي قد تظهر في النصوص المولّدة. وفيما يلي مجموعة من الخطوات التي نتخذها لمعالجة هذه الإشكالات:

• أعددنا إرشادات استخدام تساعد المطوّرين على فهم الإشكالات المحتملة المتعلقة بالسلامة والتعامل معها.
• ونعمل بشكل وثيق وعن كثب مع المستخدمين لفهم حالات الاستخدام وتطوير أدوات تمكّن من رصد التحيّز الضار والتدخل للتقليل من أثره.
• كما نجري أبحاثًا خاصة بنا حول أشكال التحيّز الضار والقضايا الأوسع المرتبطة بالإنصاف والتمثيل، وذلك بهدف تحسين توثيق النماذج الحالية وإدخال تحسينات جوهرية في النماذج المستقبلية.
• ندرك أن التحيّز يظهر عند تقاطع النظام مع السياق الذي يُنشر فيه. فالتطبيقات التي تُبنى على تقنياتنا تُعد أنظمة اجتماعية وتقنية، لذلك نتعاون مع المطوّرين لضمان اعتماد إجراءات مناسبة وأنظمة رقابة بشرية قادرة على متابعة أي سلوك غير مرغوب فيه.

وهدفنا هو تعميق فهمنا المحتمل للمخاطر في سياقات الاستخدام المختلفة، وتطوير أدواتنا وعملياتنا باستمرار للحد منها قدر الإمكان.

تاريخ التحديث: 18 سبتمبر 2020