چارچوب حکمرانی سامانه‌های هوش مصنوعی پیشروِ OpenAI‬

امروز «چارچوب حکمرانی سامانه‌های هوش مصنوعی پیشروِ OpenAI» را منتشر می‌کنیم. این سند توضیح می‌دهد که رویه‌های ما در حوزه ایمنی و امنیت چگونه با الزامات قانونی نوظهور، از جمله قانون شفافیت هوش مصنوعی پیشرو در کالیفرنیا و آیین‌نامه اجرایی قانون هوش مصنوعی اتحادیه اروپا برای مدل‌های هوش مصنوعی همه‌منظوره، همسو هستند.‬

«چارچوب آمادگی» همچنان مبنای رویکرد ما برای تعریف و عملیاتی‌سازی نحوه مدیریت جدی‌ترین ریسک‌های ناشی از سامانه‌های پیشرفته هوش مصنوعی است؛ از جمله رویه‌های داخلی‌ای که فراتر از الزامات قانونی کنونی هستند. «چارچوب حکمرانی سامانه‌های هوش مصنوعی پیشرو» نیز بخش‌های مرتبط با این رویکرد را در قالب یک سند عمومی حکمرانی، با تمرکز بر الزامات مشخص قانونی و مقرراتی، به کار می‌گیرد.‬

این چارچوب، فرایندهای ارزیابی و کاهش ریسک را در حوزه‌هایی همچون عملیات تهاجمی سایبری، ریسک‌های CBRN (شیمیایی، زیستی، پرتوزا و هسته‌ای)، دستکاری‌های زیان‌بار و از دست رفتن کنترل شامل می‌شود. همچنین گزارش‌دهی مدل، مدیریت ریسک‌های امنیتی، پاسخ‌گویی به رخدادها، استفاده از دیدگاه کارشناسان مستقل و بازنگری و به‌روزرسانی چارچوب را نیز در بر می‌گیرد.‬

‫> انتظار داریم رویکرد ما همگام با پیشرفت قابلیت‌های مدل‌ها، روش‌های ارزیابی و الزامات مقرراتی، به تکامل خود ادامه دهد و «چارچوب حکمرانی سامانه‌های هوش مصنوعی پیشرو» را نیز متناسب با این تحولات به‌روزرسانی خواهیم کرد.‬

«چارچوب حکمرانی سامانه‌های هوش مصنوعی پیشرو» را می‌توانید اینجا⁠(در یک پنجره جدید باز می‌شود) مشاهده کنید.