در ماه ژوئن، مدل‌های ما در جریان آموزش و ارزیابی داخلی، به روش‌هایی غیرمجاز به وب‌سایت‌های دولتی استرالیا دسترسی پیدا کردند. همچنین باید واکنش خود را بهتر مدیریت می‌کردیم. عذرخواهی می‌کنیم و تلاش می‌کنیم در آینده بهتر عمل کنیم.
در این مطلب توضیح می‌دهیم چه می‌دانیم، چه تغییراتی ایجاد کرده‌ایم و برای بازسازی اعتماد مردم استرالیا چه خواهیم کرد. این نوع جدیدی از حادثهٔ سایبری است که از یک چالش نوظهور جهانی حکایت دارد. یکی از راه‌های ما برای پذیرش مسئولیت این وضعیت، همکاری هدفمند با استرالیا برای تدوین رویکردهای عملی است؛ رویکردهایی که به توسعه‌دهندگان هوش مصنوعی و دولت‌ها کمک کند رفتارهای سایبری هوش مصنوعی را، چه مخرب و چه ناخواسته، شناسایی کنند، دربارهٔ آن‌ها اطلاع‌رسانی کنند و به آن‌ها پاسخ دهند.
پس از حادثهٔ Hugging Face در ماه ژوئیه، بررسی فعالیت‌های پیشین آموزش و ارزیابی را آغاز کردیم تا دیگر سازمان‌های تحت تأثیر را شناسایی کنیم. در اواسط اوت، این بررسی فعالیت‌هایی را شناسایی کرد که وب‌سایت‌های دولتی استرالیاییِ زیر را تحت تأثیر قرار داده بود.
آنچه بر اساس شواهد می‌دانیم، به این شرح است:
سازمان خدمات استرالیا: یکی از مدل‌های OpenAI راهی برای دسترسی غیرعمومی به این سرویس پیدا کرد؛ دستورهایی را اجرا کرد، فایل‌های داخلی، اطلاعات احراز هویت و آمار تجمیعی را بازیابی کرد و فایل‌هایی نوشت. با این حال، به پرونده‌های فردی بیماران یا مراجعان دسترسی پیدا نکرد. در ادامه، این حادثه را با جزئیات بیشتری شرح می‌دهیم.
ادارهٔ آمار و پژوهش جرم نیو ساوت ولز (BOCSAR): یکی از مدل‌های OpenAI برای تحقیق دربارهٔ آمار عمومی جرم به ابزار عمومی نقشه‌برداری جرایم BOCSAR دسترسی پیدا کرد (در ادامه بیشتر توضیح می‌دهیم که چرا مدل‌ها وظایف گوناگون جست‌وجو و تحقیق اطلاعاتی را انجام می‌دهند). مدل از طریق ابزار عمومی BOCSAR، درخواست‌هایی به API و برای دریافت فراداده‌های وب‌سایت ارسال کرد. این ابزار اطلاعات احراز هویت لازم برای درخواست‌های API مرورگر را فراهم می‌کند. سامانهٔ BOCSAR در پاسخ، پیکربندی برنامه، کارهای عملیاتی و گزارش‌های ثبت وقایع، و فراداده‌های وب‌سایت را برگرداند. هیچ دسترسی‌ای به سوابق جرایم افراد صورت نگرفت.
وزارت بهداشت ویکتوریا: عامل‌های OpenAI یک کلید دسترسیِ در معرض دید پیدا کردند و با آن از سامانهٔ گزارش‌دهی سازمان اطلاعات سلامت ویکتوریا پرس‌وجو کردند و پیکربندی گزارش‌دهی و آمار تجمیعی نظرسنجی‌ها را بازیابی کردند. مشخص نیست چه میزان از این اطلاعات می‌بایست در دسترس می‌بود؛ این موضوع به سیاست‌های دسترسی VAHI بستگی دارد. هیچ دسترسی‌ای به پرونده‌های پزشکی افراد یا پاسخ‌های نظرسنجیِ قابل انتساب به افراد صورت نگرفت.
مؤسسهٔ سلامت و رفاه استرالیا: عامل‌های OpenAI با استفاده از سرویس‌های مرور وب و دانلودِ شخص ثالث، آمار تجمیعی را از جمله از وب‌سایت AIHW بازیابی کردند و مستقیماً از داده‌های نمودارها پرس‌وجو کردند. تلاش‌های جداگانه برای دور زدن کنترل‌های دسترسی ناموفق بود. به نظر می‌رسد محتوای دانلودشده در دسترس عموم بوده است. هیچ نفوذی به سامانه رخ نداد. هیچ دسترسی‌ای به پرونده‌های پزشکی افراد صورت نگرفت.
به‌محض آگاهی از این فعالیت‌ها در اواسط اوت، تحقیقات دربارهٔ آن‌ها را آغاز کردیم. در ۱۰ سپتامبر به سازمان خدمات استرالیا و وزارت بهداشت ویکتوریا و در ۱۸ سپتامبر به ادارهٔ آمار و پژوهش جرم نیو ساوت ولز اطلاع دادیم. فعالیت مرتبط با مؤسسهٔ سلامت و رفاه استرالیا مشمول معیارهای ما برای اطلاع‌رسانی نمی‌شد، زیرا شیوهٔ دسترسی ظاهراً با دسترسی عمومی سازگار بود. با این حال، در ۲۴ سپتامبر به این مؤسسه اطلاع دادیم تا یافته‌های خود را به اشتراک بگذاریم و پیشنهاد برگزاری جلسهٔ توجیهی بدهیم.
هدف ما این بود که پس از تکمیل تحقیقات، گزارشی دقیق به نهادهای تحت تأثیر ارائه دهیم. با این حال، باید یافته‌های اولیه را زودتر به اشتراک می‌گذاشتیم و با روشن شدن جزئیات بیشتر، نهادهای استرالیایی را در جریان می‌گذاشتیم.
از آن زمان، با نهادهای دولتی استرالیا همکاری نزدیکی داشته‌ایم تا آنچه را تاکنون دریافته‌ایم با آن‌ها به اشتراک بگذاریم. اگر نهادهای دیگری را شناسایی کنیم که تحت تأثیر قرار گرفته‌اند، بی‌درنگ و به‌طور مستقیم اطلاعات موجود را به آن‌ها اطلاع خواهیم داد و با روشن شدن جزئیات بیشتر، آن‌ها را در جریان خواهیم گذاشت.
در جریان آموزش و ارزیابی داخلی در ماه ژوئن، یک مدل آزمایشی OpenAI را اجرا می‌کردیم که صرفاً برای استفادهٔ داخلی بود و قرار نبود به‌صورت عمومی عرضه شود. این مدل از مجموعهٔ کامل تدابیر حفاظتیِ به‌کاررفته در محصولات عمومی ما برخوردار نبود. این مدل در جریان آموزش و ارزیابی به سرویس گزارش‌دهی آمار مدیکرِ سازمان خدمات استرالیا دسترسی پیدا کرد. بررسی ما تا امروز هیچ شواهدی از دسترسی به پروندهٔ پزشکی افراد پیدا نکرده است.
هنگام آموزش و ارزیابی داخلی مدل‌ها، وظایفی را از مجموعه‌ای گسترده از پرسش‌های پژوهشی در موضوعات گوناگون به آن‌ها می‌سپاریم؛ پرسش‌هایی مشابه سؤال‌های جزئی و دقیقی که کاربران ممکن است مطرح کنند. این کار به مدل آموزش می‌دهد اطلاعات در دسترس عموم را پیدا، تفسیر و تحلیل کند تا برای مردم مفیدتر باشد. مدل‌های ما موظف‌اند با استفاده از آمار منتشرشدهٔ عمومی به این پرسش‌ها پاسخ دهند.
در این مورد، یکی از وظایفی که به مدل سپرده شده بود، تحقیق دربارهٔ هزینهٔ سرانهٔ دولت برای داروهای بیماری‌های پوستی در جوامع ایالت ویکتوریا بود. مدل در یافتن این اطلاعات با مشکل روبه‌رو شد و اقداماتی انجام داد که ما اجازهٔ انجام آن‌ها را نداده بودیم. مدل هنگام جست‌وجوی این اطلاعات در سرویس گزارش‌دهی آمار مدیکرِ سازمان خدمات استرالیا، راهی برای دسترسی غیرعمومی به این سرویس پیدا کرد. سپس از این دسترسی برای بررسی اطلاعات فنی سامانه و کد منبع مرتبط با سرویس استفاده کرد؛ همچنان با این هدف که اطلاعات مورد جست‌وجوی اولیه را پیدا کند. ما قصد نداشتیم چنین فعالیتی رخ دهد و نه این دسترسی به سرویس و نه فعالیت‌های پس از آن نباید اتفاق می‌افتاد.
پس از حادثهٔ Hugging Face، تدابیر حفاظتی پژوهش‌های خود را تقویت کردیم؛ از جمله با اعمال محدودیت‌های بیشتر بر شبکه و گسترش نظارت. کنترل‌هایی را برای مسدود کردن دسترسی زنده به اینترنت در این محیط‌های پژوهشی پیاده‌سازی کردیم و دسترسی به وب را از طریق محتوای ذخیره‌شده در حافظهٔ نهان فراهم کردیم. سامانه‌های نظارتی فعلی ما، به‌عنوان لایه‌ای امنیتی مضاعف، می‌توانستند این فعالیت را شناسایی کنند و برای بررسی فوری انسانی به تیم ما هشدار دهند. برای مثال، وقتی یک مدل در جریان یکی از اجراهای اخیر آموزش(در یک پنجره جدید باز می‌شود) به اینترنت زنده دسترسی پیدا کرد، سامانهٔ نظارتی ما این فعالیت را شناسایی کرد و به یک بازبین انسانی هشدار داد؛ ما نیز آن اجرا را متوقف کردیم. ما همچنان این تدابیر حفاظتی را آزمایش می‌کنیم و کاستی‌های آن‌ها را برطرف می‌کنیم. حادثهٔ Hugging Face همچنان جدی‌ترین حادثه‌ای است که مشاهده کرده‌ایم.
مردم می‌خواهند مطمئن باشند که هوش مصنوعی به‌صورت ایمن توسعه می‌یابد؛ و این اطمینان از عملکرد خودِ شرکت‌هایی مانند ما آغاز می‌شود. اخیراً اعلام کردیم(در یک پنجره جدید باز می‌شود) که آموزش و ارزیابیِ همراه با استفاده از ابزار را برای توانمندترین مدل‌های خود موقتاً متوقف کرده‌ایم. آموزش آن‌ها را تنها زمانی از سر می‌گیریم که مطمئن باشیم تدابیر حفاظتی بیشتری برقرار شده است؛ تدابیری که اکنون در حال کار روی آن‌ها هستیم.
با افزایش توانمندی سامانه‌های هوش مصنوعی در مجموع، فرصت کمک به سازمان‌ها برای یافتن و رفع نقاط ضعف نیز رو به کاهش است. این کار به اقدام جمعی و همکاری با مدافعان امنیت سایبری در سراسر جهان نیاز دارد.
ما به سازمان‌های فعال در حوزه‌های فناوری، امنیت سایبری و زیرساخت‌های حیاتی پیوسته‌ایم تا در فراخوان اقدام جمعی برای دفاع سایبری مشارکت کنیم. این فراخوان از مسئولیت‌های خود ما آغاز می‌شود؛ از جمله تدابیر حفاظتی قوی‌تر، اطلاع‌رسانی به‌موقع و حمایت عملی از سازمان‌های تحت تأثیر. همچنین خواستار سرمایه‌گذاری روی تیم‌هایی است که از خدمات ضروری محافظت می‌کنند تا بتوانند آسیب‌پذیری‌ها را پیدا کنند، از رفع آن‌ها مطمئن شوند و راهکارهای مؤثر را به اشتراک بگذارند.
در استرالیا، منابع و تخصص خود را به حمایت از نهادهای تحت تأثیر و کمک به مدافعان امنیت سایبری برای اجرای این اصول اختصاص می‌دهیم؛ از جمله:
پشتیبانی اختصاصی از نهادهای تحت تأثیر. منابع لازم را اختصاص خواهیم داد تا به نهادهای تحت تأثیر کمک کنیم آنچه را رخ داده درک کنند و پیامدهای آن را ارزیابی کنند. این اقدامات شامل به‌اشتراک‌گذاری یافته‌های فنی مرتبط و فراهم کردن ارتباط با تیم‌های پاسخ‌گویی ما در چارچوب ترتیبات مناسب تبادل اطلاعات است.
تأمین مالی و پشتیبانی برای تقویت دفاع سایبری. با ارائهٔ اعتبار از صندوق یک میلیارد دلاری Daybreak برای مدافعان خط مقدم و کمک فنی، از دولت‌ها و بخش صنعت استرالیا برای تقویت دفاع سایبری در زیرساخت‌های حیاتی و دیگر محیط‌های حساس حمایت خواهیم کرد. این اقدامات، با تکیه بر همکاری ما با دولت‌ها و بهره‌برداران زیرساخت‌های حیاتی، به سازمان‌ها کمک خواهد کرد تا خطرات ناشی از عامل‌های هوش مصنوعیِ روزبه‌روز توانمندتر را بهتر درک و شناسایی کنند و به آن‌ها پاسخ دهند.
کارگروهی در استرالیا. کارگروهی با بهره‌گیری از تخصص مستقل استرالیایی تشکیل خواهیم داد تا توصیه‌های عملی در زمینهٔ سیاست‌گذاری برای مدیریت خطرات ناشی از عامل‌های هوش مصنوعیِ روزبه‌روز توانمندتر تدوین کند. این کارگروه با استفاده از درس‌های این حوادث، بر بهبود فرایندهای اطلاع‌رسانی، تقویت هماهنگی میان توسعه‌دهندگان هوش مصنوعی و دولت، و شناسایی اقداماتی برای محافظت بهتر از سامانه‌های دولتی تمرکز خواهد کرد. توصیه‌های این کارگروه به شکل‌گیری رویکرد OpenAI کمک خواهد کرد و پشتیبان اقدامات دولت‌های استرالیا در زمینهٔ ایمنی هوش مصنوعی و امنیت سایبری خواهد بود. این کارگروه که انتظار می‌رود کار خود را تا پایان سال به اتمام برساند، همچنین گام‌های عملی‌ای را پیشنهاد خواهد کرد که شرکت‌های هوش مصنوعی می‌توانند برای کاهش خطر وقوع حوادث مشابه بردارند.
دولت‌ها، صنایع و شهروندان استرالیا همواره شرکایی بسیار ارزشمند برای OpenAI بوده‌اند و هستند. ما قدر این رابطه را می‌دانیم و قصد داریم این وضعیت را جبران کنیم.
جیسون کوان، مدیر ارشد راهبرد OpenAI، از دفتر مرکزی OpenAI در ایالات متحده به استرالیا سفر خواهد کرد تا روز سه‌شنبه ۶ اکتبر در جلسهٔ کمیتهٔ ویژهٔ مشترک هوش مصنوعی در سیدنی حضور یابد. او به پرسش‌هایی دربارهٔ آنچه می‌دانیم، نحوهٔ واکنش ما، اقداماتی که انجام داده‌ایم و اینکه چگونه در آینده بهتر عمل خواهیم کرد، پاسخ خواهد داد.
به اشتراک‌گذاری یافته‌های تأییدشده با نهادهای تحت تأثیر و دولت‌های مربوطه ادامه خواهیم داد. گزارش‌های تازه‌ای دربارهٔ بررسی در حال انجام و پیشرفت در عمل به این تعهدات منتشر خواهیم کرد. می‌دانیم که برای بازسازی اعتماد، کار زیادی پیش رو داریم و مسئولیم به مردم استرالیا نشان دهیم که تغییرات معناداری ایجاد می‌کنیم و به وعده‌های خود عمل می‌کنیم.
