في يونيو، وخلال عمليات التدريب والتقييم الداخلية، وصلت نماذجنا إلى مواقع إلكترونية حكومية أسترالية بطرق غير مصرّح لها بها. وكان ينبغي لنا أيضًا أن نتعامل مع الاستجابة على نحو أفضل. نحن نعتذر، ونعمل على تحسين أدائنا مستقبلًا.
نوضّح في هذا المنشور ما نعرفه، وما غيّرناه، وما سنفعله لإعادة بناء الثقة مع الشعب الأسترالي. هذه الحوادث السيبرانية من نوع جديد يمثّل تحديًا عالميًا ناشئًا. ومن السبل التي نعتزم بها تحمّل مسؤوليتنا عن هذا الوضع، العمل بشكل هادف مع أستراليا للمساعدة في تطوير نهج عملية تمكّن مطوّري الذكاء الاصطناعي والحكومات من رصد السلوك السيبراني للذكاء الاصطناعي والإفصاح عنه والاستجابة له، سواء كان خبيثًا أم غير مقصود.
بعد حادثة Hugging Face في يوليو، بدأنا بمراجعة أنشطة التدريب والتقييم السابقة لتحديد المؤسسات الأخرى المتأثرة. وفي منتصف أغسطس، كشفت تلك المراجعة عن نشاط طال المواقع الحكومية الأسترالية المذكورة أدناه.
إليكم ما نعرفه استنادًا إلى الأدلة:
هيئة الخدمات الأسترالية: اكتشف نموذج من OpenAI طريقة للوصول إلى أجزاء من الخدمة غير متاحة للعامة، ونفّذ أوامر واسترجع ملفات داخلية وبيانات اعتماد وإحصاءات تجميعية، وكتب ملفات. لكن لم يجرِ الوصول إلى سجلات فردية لمرضى أو مستفيدين. نتناول هذه الحادثة بمزيد من التفصيل أدناه.
مكتب إحصاءات الجريمة والبحوث في نيو ساوث ويلز (BOCSAR): استخدم نموذج من OpenAI أداة خرائط الجريمة العامة التابعة للمكتب للبحث عن إحصاءات الجريمة المتاحة للعامة (ونوضّح لاحقًا بمزيد من التفصيل سبب تنفيذ النماذج مهام متنوعة للبحث عن المعلومات). أرسل النموذج طلبات إلى واجهة برمجة التطبيقات وطلبات للحصول على البيانات الوصفية للموقع عبر أداة BOCSAR العامة، التي توفّر بيانات اعتماد لطلبات واجهة برمجة التطبيقات الصادرة من المتصفح. وأعاد نظام BOCSAR إعدادات التطبيق ومهام التشغيل وسجلاته والبيانات الوصفية للموقع. لم يجرِ الوصول إلى سجلات جنائية لأفراد.
وزارة الصحة في ولاية فيكتوريا: اكتشف وكلاء OpenAI مفتاح وصول مكشوفًا واستخدموه للاستعلام من نظام التقارير التابع لوكالة المعلومات الصحية في فيكتوريا واسترجاع إعدادات التقارير وإحصاءات تجميعية للاستبيانات. ولا يزال من غير الواضح إلى أي مدى كان ينبغي إتاحة هذه المعلومات، إذ يعتمد ذلك على سياسات الوصول لدى وكالة المعلومات الصحية في فيكتوريا (VAHI). لم يجرِ الوصول إلى سجلات طبية فردية أو إجابات استبيانات يمكن تحديد هوية أصحابها.
المعهد الأسترالي للصحة والرعاية الاجتماعية: استرجع وكلاء OpenAI إحصاءات تجميعية باستخدام خدمات تصفّح وتنزيل تابعة لجهات خارجية، بما في ذلك إحصاءات من موقع المعهد (AIHW)، واستعلموا مباشرة عن بيانات الرسوم البيانية. ولم تنجح محاولات منفصلة لتجاوز ضوابط الوصول. ويبدو أن المواد التي جرى تنزيلها كانت متاحة للعامة. لم يحدث أي اختراق للنظام. لم يجرِ الوصول إلى سجلات طبية فردية.
بدأنا التحقيق في هذه الأنشطة فور علمنا بها في منتصف أغسطس. أخطرنا هيئة الخدمات الأسترالية ووزارة الصحة في ولاية فيكتوريا في 10 سبتمبر، ومكتب إحصاءات الجريمة والبحوث في نيو ساوث ويلز في 18 سبتمبر. لم يستوفِ النشاط المتعلق بالمعهد الأسترالي للصحة والرعاية الاجتماعية معايير الإفصاح لدينا، لأن طريقة الوصول بدت متوافقة مع الوصول المتاح للعامة، لكننا أخطرنا المعهد في 24 سبتمبر لمشاركة نتائجنا وعرض تقديم إحاطة له.
كان هدفنا تقديم عرض تفصيلي لما حدث إلى الجهات المتأثرة بعد اكتمال تحقيقنا. لكن كان ينبغي لنا مشاركة النتائج الأولية في وقت أبكر وإطلاع الجهات الأسترالية على المستجدات كلما ظهرت حقائق إضافية.
ومنذ ذلك الحين، عملنا عن كثب مع الجهات الحكومية الأسترالية لمشاركة ما توصّلنا إليه حتى الآن. وإذا حدّدنا أي جهات إضافية متأثرة، فسنخطرها فورًا وبشكل مباشر بالمعلومات المتاحة، ونوافيها بالمستجدات كلما ظهرت حقائق أخرى.
خلال عمليات التدريب والتقييم الداخلية في يونيو، كنا نشغّل نموذجًا تجريبيًا من OpenAI للاستخدام الداخلي فقط، لم يكن مخصّصًا للإصدار العام، ومن دون المجموعة الكاملة من تدابير الحماية المستخدمة في منتجاتنا المتاحة للجمهور. وأثناء هذا التدريب والتقييم، وصل النموذج إلى خدمة تقارير إحصاءات Medicare التابعة لهيئة الخدمات الأسترالية. لم تجد مراجعتنا حتى الآن أي دليل على الوصول إلى السجلات الطبية لأي شخص.
عندما نُجري تدريبًا وتقييمًا داخليين لنماذجنا، نسند إليها مهام مستمدة من مجموعة واسعة من الأسئلة البحثية التي تشمل موضوعات عديدة، وتعكس أنواع الأسئلة التفصيلية التي قد يطرحها المستخدمون. ويدرّب ذلك النموذج على العثور على المعلومات المتاحة للعامة وتفسيرها وتحليلها، ليكون أكثر فائدة للناس. من المفترض أن تجيب نماذجنا عن هذه الأسئلة باستخدام الإحصاءات المنشورة للعامة.
في هذه الحالة، كانت إحدى المهام المسندة إلى النموذج هي البحث عن نصيب الفرد من الإنفاق الحكومي على أدوية الأمراض الجلدية في مجتمعات ولاية فيكتوريا. واجه النموذج صعوبة في الحصول على تلك المعلومات، واتخذ إجراءات لم نأذن له باتخاذها. وأثناء بحثه عن هذه المعلومات في خدمة تقارير إحصاءات Medicare التابعة لهيئة الخدمات الأسترالية، اكتشف طريقة للوصول إلى أجزاء من الخدمة غير متاحة للعامة. ثم استخدم هذا الوصول للاطلاع على معلومات تقنية عن النظام وشيفرة مصدرية تخص الخدمة، وظل هدفه من ذلك كله محاولة العثور على المعلومات التي كان يبحث عنها أصلًا. لم نكن نقصد أن يحدث هذا النشاط، وما كان ينبغي أن يحدث هذا الوصول إلى الخدمة أو النشاط الذي تلاه.
عقب حادثة Hugging Face، عزّزنا تدابير الحماية في أبحاثنا، بما يشمل فرض قيود إضافية على الشبكة وتوسيع نطاق المراقبة. طبّقنا ضوابط تمنع الوصول المباشر إلى الإنترنت في هذه البيئات البحثية، مع إتاحة الوصول إلى الويب عبر محتوى مخزّن مؤقتًا. وكطبقة إضافية من الأمان، كانت أنظمة المراقبة الحالية لدينا ستكتشف هذا النشاط وترسل تنبيهًا إلى فريقنا لإجراء مراجعة بشرية عاجلة. فعلى سبيل المثال، عندما تمكّن نموذج من الوصول المباشر إلى الإنترنت خلال عملية تدريب حديثة(يفتح في نافذة جديدة)، رصدت أنظمة المراقبة لدينا هذا النشاط وأرسلت تنبيهًا إلى مراجع بشري، وأوقفنا عملية التدريب. نواصل اختبار تدابير الحماية هذه ومعالجة أوجه القصور فيها. ولا تزال حادثة Hugging Face أشد الحوادث التي رصدناها خطورة.
يريد الناس الاطمئنان إلى أن تطوير الذكاء الاصطناعي يجري بأمان، وهذا يبدأ بما تفعله شركات مثل شركتنا بنفسها. لقد أعلنّا(يفتح في نافذة جديدة) مؤخرًا أننا أوقفنا مؤقتًا عمليات التدريب والتقييم التي تتضمن استخدام الأدوات لنماذجنا الأعلى قدرة، ولن نستأنف تدريبها إلا حين نكون واثقين من تطبيق تدابير حماية إضافية نعمل عليها حاليًا.
ومع تنامي قدرات أنظمة الذكاء الاصطناعي عمومًا، نرى أيضًا أن الوقت المتاح لمساعدة المؤسسات على اكتشاف نقاط الضعف ومعالجتها آخذ في التقلّص. وهذا يتطلب عملًا جماعيًا بالتعاون مع المدافعين السيبرانيين حول العالم.
لقد انضممنا إلى مؤسسات في قطاعات التكنولوجيا والأمن السيبراني والبنية التحتية الحيوية في دعوة إلى العمل الجماعي لتعزيز الدفاع السيبراني. وتبدأ هذه الدعوة بمسؤولياتنا نحن، بما فيها تعزيز تدابير الحماية، والإفصاح في الوقت المناسب، وتقديم الدعم العملي للمؤسسات المتأثرة. كما تدعو إلى الاستثمار في الفرق التي تحمي الخدمات الأساسية، حتى تتمكن من اكتشاف الثغرات والتحقق من فعالية الإصلاحات ومشاركة الأساليب الناجحة.
في أستراليا، نلتزم بتخصيص الموارد والخبرات لدعم الجهات المتأثرة ومساعدة المدافعين السيبرانيين على تطبيق هذه المبادئ عمليًا، وذلك من خلال:
دعم مخصّص للجهات المتأثرة. سنخصّص الموارد اللازمة لمساعدة الجهات المتأثرة على فهم ما حدث وتقييم أثره. ويشمل ذلك مشاركة النتائج التقنية ذات الصلة وتنسيق التواصل مع فرق الاستجابة لدينا ضمن ترتيبات مناسبة لتبادل المعلومات.
تمويل ودعم لتعزيز الدفاعات السيبرانية. سندعم الحكومات الأسترالية والقطاع الصناعي من خلال رصيد الاستخدام الذي يقدّمه صندوقنا Daybreak للمدافعين في الخطوط الأمامية، البالغة قيمته مليار دولار، ومن خلال المساعدة التقنية لتعزيز الدفاعات السيبرانية في البنية التحتية الحيوية وغيرها من البيئات الحساسة. استنادًا إلى تعاوننا مع الحكومات ومشغّلي البنية التحتية الحيوية، سيساعد هذا العمل المؤسسات على تحسين فهم المخاطر الناجمة عن وكلاء الذكاء الاصطناعي ذوي القدرات المتنامية، ورصدها والاستجابة لها.
فريق عمل أسترالي. سنشكّل فريق عمل يستعين بخبرات أسترالية مستقلة لوضع توصيات عملية بشأن سياسات إدارة المخاطر الناجمة عن وكلاء الذكاء الاصطناعي ذوي القدرات المتنامية. واستنادًا إلى الدروس المستفادة من هذه الحوادث، سيركّز الفريق على تحسين إجراءات الإخطار، وتعزيز التنسيق بين مطوّري الذكاء الاصطناعي والحكومة، وتحديد تدابير لتحسين حماية الأنظمة الحكومية. ستسهم توصيات فريق العمل في توجيه نهج OpenAI ودعم جهود الحكومات الأسترالية في مجالَي سلامة الذكاء الاصطناعي والأمن السيبراني. وسيقدّم فريق العمل، الذي يُتوقع أن يُنهي أعماله بحلول نهاية العام، توصيات بخطوات عملية يمكن لشركات الذكاء الاصطناعي اتخاذها لتقليل خطر وقوع حوادث مماثلة.
لطالما كانت الحكومات الأسترالية وقطاعاتها الصناعية ومواطنوها شركاء لا يُقدّرون بثمن لشركة OpenAI، ولا يزالون كذلك. نحن لا نعدّ هذه الشراكة أمرًا مسلّمًا به، ونعزم على تصحيح ما حدث.
سيسافر جيسون كوون، الرئيس التنفيذي للاستراتيجية في OpenAI، من مقر الشركة في الولايات المتحدة للمثول أمام اللجنة المشتركة الخاصة بالذكاء الاصطناعي في سيدني يوم الثلاثاء 6 أكتوبر. وسيجيب عن أسئلة حول ما نعرفه، وكيف استجبنا، والخطوات التي اتخذناها، وكيف سنحسّن أداءنا مستقبلًا.
سنواصل مشاركة النتائج التي تحقّقنا منها مع الجهات المتأثرة والحكومات المعنية. وسننشر مستجدات بشأن مراجعتنا الجارية والتقدّم المحرز في الوفاء بهذه الالتزامات. نعلم أن أمامنا الكثير من العمل لإعادة بناء الثقة، وأننا مسؤولون عن أن نُثبت للأستراليين أننا نُجري تغييرات جوهرية ونفي بوعودنا.
