تقویت نظارت دموکراتیک در امنیت ملی

هوش مصنوعی شیوه محافظت دولت‌های دموکراتیک از مردم خود را تغییر می‌دهد. این فناوری می‌تواند به مقابله با حملات سایبری، ایمن‌سازی زیرساخت‌های حیاتی، شناسایی زودهنگام تهدیدها و ایجاد تصویری روشن‌تر از شرایط بحرانی برای کارکنان بخش عمومی کمک کند. استفاده درست از این ابزارها می‌تواند امنیت ملی را تقویت کند.

نظارت دموکراتیک کمک می‌کند تا اعمال قدرت عمومی در برابر مردمی که به آنان خدمت می‌کند پاسخ‌گو بماند. هم‌زمان با افزایش سرعت و توانمندی فعالیت‌های امنیت ملی به کمک هوش مصنوعی، نهادهای مسئول نظارت بر این فعالیت‌ها نیز باید همگام با آن پیش بروند. هوش مصنوعی می‌تواند با تکیه بر زمینه ناقص یا قدیمی، اهداف نادرست‌پیکربندی‌شده یا فرض‌های ناسازگار، با سرعت و در مقیاسی گسترده عمل کند؛ در نتیجه، تشخیص دستی خطاها پیش از گسترش آن‌ها دشوارتر می‌شود. نظارت بر کاربرد هوش مصنوعی در امنیت ملی اهمیت ویژه‌ای دارد، زیرا تصمیم‌ها ممکن است ناگزیر محرمانه باشند و پیامدهایی خطیر داشته باشند.

با پیروی از اصول امنیت ملی خود، استقرار سامانه‌ها در حوزه امنیت ملی را همراه با تدابیر حفاظتی، قضاوت مؤثر انسانی و نظارت مناسب انجام می‌دهیم، به‌ویژه در موقعیت‌های خطیر. این اصول همچنین ظرفیت‌سازی برای نهادهای نظارتی را در اولویت قرار می‌دهند تا بتوانند بر استفاده سریع و گسترده از هوش مصنوعی نظارت کنند.

نهادهای دولتی از پیش اختیارات و مسئولیت‌های مشخصی برای نظارت بر فعالیت‌های امنیت ملی دارند. هنگامی که هوش مصنوعی در این فعالیت‌ها نقش دارد، ممکن است سازوکارهای نظارتی نیز نیازمند تحول باشند. نظارت سنتی به نیروی انسانی فراوان نیاز دارد و وقتی از تیم‌های کوچکِ متکی به روش‌های عصر کاغذ خواسته می‌شود سامانه‌هایی را بررسی کنند که با سرعت ماشین کار می‌کنند، تقریباً ناممکن می‌شود.

OpenAI معتقد است سامانه‌های توانمندتر به نظارت قوی‌تری نیاز دارند و این اصل را درباره خود نیز به کار می‌بندد. بر اساس چارچوب آمادگی ما، مدل‌های پیشرفته پیش از استقرار به‌دقت بررسی می‌شوند تا توانمندی‌هایشان شناخته و کفایت تدابیر حفاظتی مشخص شود. این بررسی دقیق پس از استقرار نیز با پایش مستمر و بازبینی رخدادها ادامه می‌یابد و آموخته‌های ما به تقویت تدابیر حفاظتی و توسعه مدل‌های آینده کمک می‌کند.

OpenAI بر دولت نظارت نمی‌کند و نباید نیز چنین نقشی داشته باشد. این مسئولیت بر عهده مقام‌های منتخب و نهادهای عمومیِ تأسیس‌شده برای همین منظور است. در عوض، می‌توانیم با فناوری خود از نهادهای نظارتی در اجرای مأموریت‌های کنونی‌شان پشتیبانی کنیم.

سه اصل، راهنمای این کار خواهد بود.

نخست، هوش مصنوعی باید قضاوت انسانی و نهادی را تقویت کند، نه اینکه جای آن را بگیرد. تصمیم‌گیری درباره قانونی و مناسب بودن اقدامات دولت و انطباق آن‌ها با قواعد و سیاست‌های مربوط، بر عهده نهادهای مجاز و مراجع نظارتی است که به‌طور قانونی تشکیل شده‌اند.

دوم، استفاده دولت از هوش مصنوعی باید برای مراجع نظارتی مجاز قابل ردیابی و درک باشد. بازبینان باید بتوانند ضمن حفاظت از اطلاعات طبقه‌بندی‌شده، خصوصی و حساس از نظر امنیتی، دریابند هوش مصنوعی چگونه در یک تصمیم نقش داشته است.

سوم، هوش مصنوعی باید برای توانمندسازی نهادهای نظارت دموکراتیک به کار رود. نظارت دستی بر استفاده دولت از هوش مصنوعی در مقیاس گسترده ممکن نیست. با گسترش استفاده از هوش مصنوعی در امنیت ملی و دیگر فعالیت‌های خطیر دولتی، نهادهای نظارتی نیز باید مطابق مأموریت‌های خود، مسئولانه و به‌شکلی قابل‌درک از آن استفاده کنند.

قصد داریم طی سال آینده این طرح را از راه‌های زیر پیش ببریم:

• با مقام‌های مجاز همکاری خواهیم کرد تا فرصت‌های عملی برای افزایش اثربخشی نظارت با استفاده از ابزارهای هوش مصنوعی یا پشتیبانی فنی را شناسایی کنیم.

• برای پشتیبانی از پذیرش و ارزیابی مسئولانه ابزارهای هوش مصنوعی، ۵ میلیون دلار آموزش، پشتیبانی فنی و اعتبار OpenAI در اختیار نهادهای نظارت دموکراتیک دولتی قرار خواهیم داد.

• با نهادهای نظارتی همکاری خواهیم کرد تا ابزارهایی را به‌صورت آزمایشی به کار بگیریم که به بازبینان مجاز امکان می‌دهند سوابق مرتبط با تصمیم‌های دولتیِ متکی بر هوش مصنوعی، از جمله ورودی‌ها، خروجی‌ها و استفاده از ابزارها را بررسی کنند و تأثیر هوش مصنوعی بر نتایج را بهتر بفهمند. ابزارها در صورت امکان، تعامل‌پذیر یا مستقل از مدل خواهند بود. کنترل شواهد، خروجی‌ها و یافته‌ها در اختیار نهادهای مشارکت‌کننده، نه OpenAI، باقی خواهد ماند و فقط مقام‌های مجاز دولتی به آن‌ها دسترسی خواهند داشت.

• با جامعه مدنی و کارشناسان فنی تعامل خواهیم داشت تا دیدگاه‌های آنان بر نحوه توسعه این ابزارها در OpenAI و رویکرد ما به مسئولیت‌های همراه آن‌ها اثر بگذارد.

هوش مصنوعی می‌تواند قدرت را متمرکز کند یا به نهادهای دموکراتیک کمک کند تا قدرت را مؤثرتر اعمال و مهار کنند. فناوری به‌تنهایی تعیین نمی‌کند کدام آینده در انتظار ماست؛ این انتخاب‌هایی که نهادهای انسانی و شرکت‌ها اکنون انجام می‌دهند، تعیین‌کننده خواهد بود.

پیشرفت این طرح را بر اساس این خواهیم سنجید که آیا بازبینان مجاز بهتر می‌توانند به تعهدات خود عمل کنند و آیا مردم دلایل محکم‌تری برای اعتماد به استفاده مطابق انتظار از سامانه‌های هوش مصنوعی دولتی دارند یا نه.

با تحول استفاده دولت از هوش مصنوعی، OpenAI همچنان از نهادهای مسئول نظارت بر آن پشتیبانی خواهد کرد.