حکمرانی دموکراتیک بر هوش مصنوعی پیشرو، بخش دوم: توانمندسازی مدافعان سایبری
هوش مصنوعی در حال تغییر سرعت، مقیاس و معادلات اقتصادی امنیت سایبری است. هوش مصنوعی می‌تواند به مدافعان کمک کند آسیب‌پذیری‌ها را شناسایی و برطرف کنند، نفوذها را تشخیص دهند و به حملات پاسخ دهند؛ اما همین قابلیت‌ها می‌توانند به عوامل مخرب قدرت دهند و هنگامی که سامانه‌های هوش مصنوعی فراتر از مرزهای تعیین‌شده عمل می‌کنند، خطرات تازه‌ای ایجاد کنند. اکنون فرصتی به نفع مدافعان در اختیار داریم: فرصتی محدود برای قرار دادن هوش مصنوعی پیشرفته در دست مدافعان و تقویت تدابیر حفاظتی، پیش از آنکه قابلیت‌های پیشرفتهٔ تهاجم سایبری به‌طور گسترده در دسترس قرار گیرند.
امروز طرحی راهبردی برای توانمندسازی مدافعان سایبری منتشر می‌کنیم که بر پایهٔ برنامهٔ اقدام پیشین ما در حوزهٔ امنیت سایبری و طرح راهبردی ایمنی هوش مصنوعی پیشرو(در یک پنجره جدید باز می‌شود) تدوین شده است. تجربهٔ ما از ناهمسویی و رخدادهای امنیتی مرتبط با مدل‌های خودمان، بر لزوم تقویت تدابیر حفاظتی و پاسخ‌گویی در سراسر صنعت تأکید دارد. این طرح با تکیه بر آن آموخته‌ها، پیشنهادهای مشخصی برای دولت‌ها و صنعت در سه حوزه ارائه می‌کند:
تقویت ایمنی و امنیت هوش مصنوعی پیشرفته: مسئولیت‌ها در زمینهٔ تأمین امنیت مدل‌ها و عامل‌های پیشرو، تشخیص رفتارهای خطرناک و حفظ سازوکارهای قابل‌اعتماد برای توقف عملیات تحت کنترل هر سازمان، روشن‌تر شوند.
نوسازی امنیت سایبری برای عصر هوش: مدافعان به ابزارهای پیشرفته، آموزش و پشتیبانی فنی مجهز شوند؛ ضعف‌های دیرینهٔ امنیت سایبری برطرف شوند؛ و برای تأمین امنیت خدمات ضروری و جایگزینی سامانه‌های قدیمی سرمایه‌گذاری شود.
ایجاد نهادهای عمومی تاب‌آور و سازگار با تغییرات: ارزیابی‌های دولتی و بررسی‌های فنی مستقل تقویت شوند، الزامات یکسانی برای گزارش‌دهی رخدادها تعیین شود و هماهنگی در واکنش به رخدادها و بازیابی پس از آن‌ها بهبود یابد.
آزمایشگاه‌های هوش مصنوعی مسئول‌اند به خطراتی که سامانه‌هایشان ایجاد می‌کنند رسیدگی کنند و به تقویت توان دفاعی جامعه کمک کنند. دولت‌ها نیز باید از تخصص، منابع و اختیارات لازم برای حفاظت از مردم هم‌زمان با پیشرفت قابلیت‌ها برخوردار باشند. از سیاست‌گذاران می‌خواهیم همین حالا اقدام کنند: تدابیر حفاظتی برقرار کنند، از تجربه‌ها بیاموزند و هم‌گام با تحول فناوری، الزامات را تقویت کنند.
متن کامل طرح راهبردی را اینجا(در یک پنجره جدید باز می‌شود) بخوانید.
