دولتها در حال آغاز استفاده از سامانههای هوش مصنوعی پیشرو برای کارهایی با اهمیت روزافزون هستند؛ از جمله در حوزه امنیت ملی. این وضعیت ضرورتهای تازهای ایجاد میکند تا آزمایشگاههای هوش مصنوعی، دولتها و جامعه مدنی با هم درباره شیوه استفاده از این ابزارها در موقعیتهای حساس همکاری کنند.
ما معتقدیم جوامع دموکراتیک باید بتوانند از هوش مصنوعی برای محافظت از مردم، دفاع از زیرساختهای حیاتی، ارائه خدمات عمومی و پاسخ به تهدیدهای نوظهور استفاده کنند؛ از جمله در حوزههایی مانند دفاع سایبری و امنیت زیستی که هوش مصنوعی میتواند بهطور معناداری به مدافعان برتری بدهد. اما سامانههای هوش مصنوعی که توانمندتر میشوند باید به شیوهای بهکار گرفته شوند که پاسخگویی دموکراتیک، قضاوت معنادار انسانی و حاکمیت قانون را تقویت کند و بهجای تمرکز قدرت، نهادهای دموکراتیک را نیرومندتر سازد.
امروز اصول امنیت ملی OpenAI را منتشر میکنیم تا شفاف کنیم که چگونه به همکاریهای دولتی و کاربردهای امنیت ملی فناوری خود مینگریم.
این اصول بازتاب تلاشی در سراسر شرکت برای تدوین رویکردی جامعتر به کار ما در حوزه امنیت ملی و اجرای قانون است؛ همزمان با آنکه فناوری ما همچنان پیشرفت میکند. ما از دیوید کریس، کارشناس برجسته امنیت ملی، دعوت کردیم تا به تسهیل این فرایند کمک کند و قضاوت مستقل خود را ارائه دهد؛ همچنین نشستهای شنیدن دیدگاهها را در سراسر شرکت برگزار کردیم و با کارکنانی از طیف متنوعی از تیمها، از پژوهش و ایمنی تا سیاستگذاری و همکاریهای دولتی، گفتوگو کردیم.
اکنون این اصول را منتشر میکنیم، در حالی که همکاری خود را با دولت ایالات متحده و شرکای همپیمان در حوزههای دفاعی حیاتی، بهویژه سایبری و امنیت زیستی، گسترش میدهیم. در ماه گذشته، در چارچوب برنامه دفاع سایبری Daybreak، ما از هماکنون مشارکتهای «دسترسی مورد اعتماد برای سایبری» را با استرالیا، کانادا، ژاپن، جمهوری کره، فرانسه، آلمان، لهستان، هلند و نهادهای اتحادیه اروپا مانند ENISA برقرار کردهایم. همچنین با دولت بریتانیا در حوزههای سایبری، آزمون و ارزیابی، همکاریای رو به گسترش و مبتنی بر اعتماد داریم. در امنیت زیستی نیز رویکردی مشابه در پیش گرفتهایم. ماه گذشته همچنین اعلام کردیم که دسترسی مورد اعتماد به مدل GPT‑Rosalind را برای شماری از شرکای دولت ایالات متحده و همپیمانان که از مأموریتهای سلامت عمومی و دفاع زیستی پشتیبانی میکنند، گسترش دادهایم.
این اصول بر همکاریهای کنونی و آینده ما در حوزه امنیت ملی و اجرای قانون، از جمله کار موجود ما با وزارت جنگ، اعمال میشود. وقتی اوایل امسال توافق خود را اعلام کردیم، چند محدودیت قراردادی را بهروشنی بیان کردیم: استفاده نکردن از فناوری OpenAI برای نظارت داخلی گسترده، استفاده نکردن از فناوری OpenAI برای هدایت سامانههای تسلیحات خودمختار، و استفاده نکردن از فناوری OpenAI برای تصمیمگیریهای خودکار با پیامدهای حساس. این محدودیتها با اصولی که امروز به اشتراک میگذاریم همسو هستند.
ما معتقدیم کار درست این است که درباره اینکه فناوری ما چگونه میتواند و چگونه نمیتواند بهکار رود، روشن سخن بگوییم و در این باره شفاف باشیم. اما بسیاری از مهمترین پرسشها درباره هوش مصنوعی در دولت، بهویژه در امنیت ملی، باید از مسیر فرایند دموکراتیک پاسخ داده شوند. نقش شرکتهایی مانند ما این است که به آگاهتر شدن این تصمیمها کمک کنند، نه اینکه بهتنهایی آنها را بگیرند. به همین دلیل از تلاشهای قانونگذاری برای ایجاد تدابیر حفاظتی پیرامون برخی از پرخطرترین کاربردهای نظامی هوش مصنوعی حمایت میکنیم؛ از جمله در زمینههای نظارت داخلی، سامانههای تسلیحات خودمختار و دیگر کاربردهای پرخطر که مستقیماً بر امنیت ملی ایالات متحده اثر میگذارند.
اصول را اینجا(در یک پنجره جدید باز میشود) بخوانید.
