توافق ما با وزارت جنگ

دیروز با پنتاگون برای استقرار سیستم‌های پیشرفته هوش مصنوعی در محیط‌های طبقه‌بندی‌شده به توافق رسیدیم و همچنین از آن‌ها خواستیم این امکان را برای همه شرکت‌های هوش مصنوعی نیز فراهم کنند.

ما فکر می‌کنیم توافق‌نامه ما برای استقرار سامانه‌های هوش مصنوعی طبقه‌بندی‌شده، از جمله توافق‌نامه Anthropic، ساز و کارهای حفاظتی بیشتری نسبت به هر توافق‌نامه قبلی دارد. دلیل آن به شرح زیر است.

ما سه خط قرمز اصلی داریم که کار ما با DoW را هدایت می‌کنند و به‌طور کلی توسط چندین آزمایشگاه پیشرو دیگر نیز به اشتراک گذاشته می‌شوند:

• عدم استفاده از فناوری OpenAI برای نظارت داخلی گسترده.
• عدم استفاده از فناوری OpenAI برای هدایت سامانه‌های تسلیحاتی خودمختار. 
• عدم استفاده از فناوری OpenAI برای تصمیم‌گیری‌های خودکارِ پرمخاطره (مثلاً سیستم‌هایی مانند «اعتبار اجتماعی»).

سایر آزمایشگاه‌های هوش مصنوعی، ضوابط ایمنی خود را کاهش داده یا حذف کرده‌اند و در استقرارهای مرتبط با امنیت ملی، عمدتاً به سیاست‌های استفاده به‌عنوان سازوکار اصلی حفاظتی اتکا کرده‌اند. ما معتقدیم رویکرد ما حفاظت بهتری در برابر استفاده‌های غیرقابل‌قبول فراهم می‌کند.

در توافق‌نامه‌مان، ما خطوط قرمز خود را از طریق رویکردی گسترده‌تر و چندلایه محافظت می‌کنیم. ما اختیار کامل بر پشته ایمنی خود را حفظ می‌کنیم، استقرار از طریق فضای ابری انجام می‌شود، کارکنان دارای مجوز امنیتی OpenAI در فرایند حضور دارند و از حمایت‌های قراردادی قوی برخوردار هستیم. این‌ها همه علاوه بر حفاظت‌های قوی موجود در قانون ایالات متحده است. 

ما عمیقاً به دموکراسی باور داریم. با توجه به اهمیت این فناوری، معتقدیم که تنها مسیر درست رو به جلو مستلزم همکاری عمیق میان تلاش‌های AI و فرآیند دموکراتیک است. ما همچنین بر این باوریم که فناوری ما قرار است خطرات جدیدی را در جهان ایجاد کند و می‌خواهیم کسانی که از ایالات متحده دفاع می‌کنند به بهترین ابزارها دسترسی داشته باشند.

توافق‌نامه ما شامل موارد زیر است:

1. معماری استقرار. این یک استقرار صرفاً مبتنی بر فضای ابری است و با پشته ایمنی‌ای اجرا می‌شود که ما آن را مدیریت می‌کنیم و شامل این اصول و موارد دیگر است. ما به DoW مدل‌هایی با «غیرفعال‌سازی ضوابط ایمنی» یا مدل‌های آموزش‌ندیده از نظر ایمنی ارائه نمی‌کنیم؛ همچنین مدل‌های خود را روی دستگاه‌های لبه‌ای (که ممکن است احتمال استفاده در تسلیحات خودمختار مرگبار وجود داشته باشد) مستقر نمی‌کنیم.

معماری استقرار ما این امکان را فراهم می‌کند که به‌صورت مستقل اطمینان حاصل کنیم این خطوط قرمز از جمله اجرای طبقه‌بندی‌ها و به‌روزرسانی مستمر آن‌ها نقض نمی‌شوند.

2. قرارداد ما. زبان مربوطه در زیر آمده است:

وزارت جنگ می‌تواند از سامانه هوش مصنوعی برای همه مقاصد قانونی، مطابق با قوانین قابل اعمال، الزامات عملیاتی، و پروتکل‌های ایمنی و نظارتِ تثبیت‌شده و شناخته‌شده استفاده کند. سامانه هوش مصنوعی در هیچ موردی که قانون، مقررات، یا سیاست وزارتخانه کنترل انسانی را الزامی می‌کند، برای هدایت مستقلِ سلاح‌های خودمختار به کار گرفته نخواهد شد و همچنین برای بر عهده گرفتن سایر تصمیم‌های پرمخاطره که نیازمند تأیید یک تصمیم‌گیرنده انسانی استتحت همان اختیارات، استفاده نخواهد شد. مطابق آیین‌نامه 3000.09 وزارت دفاع (مورخ 25 ژانویه 2023)، هرگونه استفاده از هوش مصنوعی در سامانه‌های خودمختار و نیمه‌خودمختار باید پیش از استقرار، تحت فرایندهای دقیق راستی‌آزمایی، اعتبارسنجیو آزمون قرار گیرد تا اطمینان حاصل شود که در محیط‌های واقعی مطابق با هدف طراحی‌شده عمل می‌کند.

در فعالیت‌های اطلاعاتی، هرگونه پردازش یا رسیدگی به اطلاعات خصوصی مطابق با متمم چهارم قانون اساسی، قانون امنیت ملی 1947، قانون نظارت بر اطلاعات خارجی 1978، فرمان اجرایی 12333 و آیین‌نامه‌های جاری وزارت دفاع که مستلزم تعیین هدف مشخص اطلاعات خارجی است، انجام خواهد شد. سامانهٔ هوش مصنوعی نباید برای نظارت نامحدود بر اطلاعات خصوصی اشخاص آمریکایی، مطابق با این اختیارات، استفاده شود. همچنین نباید از این سامانه برای فعالیت‌های اجرای قانون داخلی استفاده شود، مگر در مواردی که طبق قانون Posse Comitatus و سایر قوانین جاری مجاز باشد.

3. مشارکت متخصصان هوش مصنوعی. ما مهندسان OpenAI دارای مجوز امنیتی را به‌صورت مستقر در محل برای همکاری با دولت در اختیار خواهیم داشت و پژوهشگران دارای مجوز امنیتی در حوزه ایمنی و هم‌راستاسازی نیز در فرایند حضور خواهند داشت. 

چرا این کار را انجام می‌دهید؟ 

نخست، ما معتقدیم ارتش ایالات متحده قطعاً به مدل‌های قدرتمند هوش مصنوعی برای پشتیبانی از مأموریت‌های خود نیاز دارد، به‌ویژه در مواجهه با تهدیدهای فزاینده از سوی رقبای بالقوه‌ای که به‌طور فزاینده فناوری‌های هوش مصنوعی را در سامانه‌های خود ادغام می‌کنند. ما در ابتدا وارد قرارداد برای استقرار طبقه‌بندی‌شده نشدیم، زیرا احساس می‌کردیم تدابیر حفاظتی و سامانه‌های ما هنوز آماده نیستند و به‌طور جدی تلاش کرده‌ایم تا اطمینان حاصل کنیم که چنین استقراری می‌تواند با سازوکارهای حفاظتی مناسب انجام شود تا خطوط قرمز نقض نشوند. 

ما حاضر نبودیم—و همچنان هم حاضر نیستیم—تدابیر حفاظتی فنی کلیدی را برای بهبود عملکرد در کارهای مرتبط با امنیت ملی حذف کنیم. این رویکرد درستی برای حمایت از ارتش ایالات متحده نیست. 

دوم، ما همچنین می‌خواستیم تنش‌ها را بین DoW و آزمایشگاه‌های هوش مصنوعی ایالات متحده کاهش دهیم. یک آیندهٔ خوب مستلزم همکاری واقعی و عمیق میان دولت و آزمایشگاه‌های هوش مصنوعی خواهد بود. به‌عنوان بخشی از توافق‌مان در اینجا، درخواست کردیم که همان شرایط برای همه آزمایشگاه‌های هوش مصنوعی در دسترس قرار گیرد، و به‌طور مشخص اینکه دولت تلاش کند مسائل را با Anthropic حل‌وفصل کند؛ وضعیت فعلی راه بسیار بدی برای آغاز این مرحله بعدی همکاری میان دولت و آزمایشگاه‌های هوش مصنوعی است.

چرا شما توانستید به توافق برسید در حالی که Anthropic نتوانست؟ آیا قراردادی را که آن‌ها امضا نمی‌کردند، شما امضا کردید؟

بر اساس آنچه می‌دانیم، ما معتقدیم قرارداد ما تضمین‌های بهتر و تدابیر حفاظتی مسئولانه‌تری نسبت به توافق‌های پیشین، از جمله قرارداد اولیه Anthropic، ارائه می‌دهد. ما معتقدیم خطوط قرمز ما در اینجا قابلیت اجرای بیشتری دارند، زیرا استقرار صرفاً به فضای ابری محدود است (و روی دستگاه‌های محلی یا مستقل انجام نمی‌شود)، پشته ایمنی ما را به شیوه‌ای که آن را مناسب‌تر می‌دانیم فعال نگه می‌دارد و کارکنان دارای مجوز امنیتی OpenAI را در فرایند حفظ می‌کند.

ما نمی‌دانیم چرا Anthropic نتوانست به این توافق برسد و امیدواریم که آن‌ها و آزمایشگاه‌های بیشتری آن را در نظر بگیرند.

آیا فکر می‌کنید باید Anthropic به‌عنوان یک «ریسک زنجیره تأمین» طبقه‌بندی شود؟

خیر، و ما موضع خود را در این مورد به‌طور روشن به دولت اعلام کرده‌ایم.

آیا این توافق به وزارت جنگ امکان می‌دهد از مدل‌های OpenAI برای به‌کارگیری در سلاح‌های خودمختار استفاده کند؟ 

خیر. بر اساس پشته ایمنی ما، استقرار فقط ابری ما، زبان قرارداد، و قوانین موجود، مقررات و سیاست‌ها، مطمئن هستیم که این اتفاق نمی‌تواند رخ دهد. همچنین برای اطمینان بیشتر، کارکنان OpenAI را نیز در جریان خواهیم داشت.  

آیا این توافق به وزارت جنگ امکان می‌دهد از مدل‌های OpenAI برای انجام نظارت گسترده بر افراد آمریکایی استفاده کند؟

خیر. بر اساس پشته ایمنی ما، زبان قرارداد، و قوانین موجود که به‌شدت DoW را از نظارت داخلی محدود می‌کنند، اطمینان داریم که این اتفاق نمی‌تواند رخ دهد. همچنین برای اطمینان بیشتر، کارکنان OpenAI را نیز در جریان خواهیم داشت.  

آیا مجبورید مدل‌ها را بدون پشته ایمنی مستقر کنید؟

خیر، ما کنترل کامل بر پشته ایمنی مورد استفاده در استقرار را حفظ می‌کنیم و بدون ضوابط حفاظتی ایمنی، هیچ استقراری انجام نخواهیم داد. علاوه بر این، پژوهشگران ایمنی و هماهنگی ما نیز در جریان خواهند بود و به مرور زمان به بهبود سیستم‌ها کمک خواهند کرد. ما آگاهیم که برخی دیگر از آزمایشگاه‌های هوش مصنوعی ضوابط حفاظتی مدل‌ها را کاهش داده و به سیاست‌های استفاده به‌عنوان سازوکار اصلی ایمنی اتکا کرده‌اند؛ اما معتقدیم رویکرد لایه‌مند ما حفاظت مؤثرتری در برابر استفاده‌های غیرقابل‌قبول فراهم می‌کند.

اگر دولت مفاد قرارداد را نقض کند، چه اتفاقی می‌افتد؟

همانند هر قرارداد دیگری، اگر طرف مقابل شرایط را نقض کند، می‌توانیم آن را فسخ کنیم. ما انتظار نداریم که این اتفاق بیفتد.

اگر دولت صرفاً قانون یا سیاست‌های موجود DoW را تغییر دهد چه می‌شود؟

قرارداد ما به‌طور صریح به قوانین و سیاست‌های مربوط به نظارت و تسلیحات خودمختار همان‌گونه که در حال حاضر وجود دارند اشاره می‌کند؛ به‌گونه‌ای که حتی اگر این قوانین یا سیاست‌ها در آینده تغییر کنند، استفاده از سامانه‌های ما همچنان باید با استانداردهای فعلی منعکس‌شده در توافق هم‌راستا باقی بماند. 

چگونه به استدلال‌هایی که Anthropic در پست وبلاگ‌شان⁠(در یک پنجره جدید باز می‌شود) دربارهٔ گفت‌وگویشان با DoW مطرح کرده، پاسخ می‌دهید؟

Anthropic در پست خود، به دو خط قرمز خود اشاره می‌کند (که ما نیز همان دو مورد را داریم، به‌علاوه یک خط قرمز سوم: تصمیم‌گیری خودکار در موقعیت‌های پرمخاطره) و توضیح می‌دهد که چرا در آن زمان بر این باور بوده که این خطوط قرمز در قراردادهایی که از DoW مشاهده کرده بودند، رعایت نخواهد شد. در ادامه دلیل اینکه چرا باور داریم همان خطوط قرمز در قراردادمان نیز برقرار خواهند بود آمده است:

• نظارت داخلی گسترده. در تعامل ما روشن بود که DoW نظارت داخلی گسترده را غیرقانونی می‌داند و قصد نداشت از آن برای این منظور استفاده کند. ما اطمینان حاصل کردیم که این واقعیت که تحت استفاده قانونی پوشش داده نمی‌شود، در قرارداد ما به‌صراحت ذکر شده است.
• سلاح‌های کاملاً خودمختار. سطح استقرار ابری که در قرارداد ما پوشش داده شده است، امکان به‌کارگیری برای پشتیبانی از سلاح‌های کاملاً خودمختار را فراهم نمی‌کند، زیرا چنین کاربردی مستلزم استقرار بر روی سامانه‌های محلی است. 

علاوه بر این تدابیر حفاظتی، قرارداد ما لایه‌های مضاعفی از سازوکارهای ایمنی را نیز، از جمله پشته ایمنی ما و حضور کارشناسان فنی OpenAI در فرایند، فراهم می‌کند.