کمک به ساخت استانداردهای مشترک برای AI پیشرفته
مدلهای هرچه توانمندتر میتوانند دفاع سایبری را تقویت کنند، اکتشافات علمی را شتاب دهند و دسترسی به تخصص را گسترش دهند. اما اگر تواناییهای آنها درست درک نشود، تدابیر حفاظتیشان کافی نباشد، یا دولتها اطلاعات لازم برای واکنش را در اختیار نداشته باشند، میتوانند خطرات ایمنی و امنیتی ایجاد کنند. برای بهرهبرداری ایمن و مطمئن از این مزایا، جوامع به نهادهایی نیاز دارند که ظرفیت فنی و حکمرانی لازم برای ارزیابی، ایمنسازی و اداره سامانههای هرچه توانمندتر را داشته باشند.
این یکی از دلایلی است که OpenAI به بنیانگذاری بنیاد Appia(در یک پنجره جدید باز میشود)، به میزبانی بنیاد لینوکس، کمک کرد. Appia مشخصات باز و ماژولاری تدوین خواهد کرد که هدفشان تبدیل استانداردهای بینالمللی و چارچوبهای تثبیتشده به معیارهای عملی ارزیابی در سراسر زنجیره ارزش AI است. کار آن میتواند به ایجاد یک لایه اعتماد مهم اما مغفول کمک کند؛ لایهای که در آن اشخاص ثالث انطباق با استانداردها را بررسی میکنند و هنگامی که مدلها، زیرساختها و برنامهها را سازمانهای مختلف توسعه میدهند، شواهدی روشنتر و قابل استفاده مجدد تولید میشود. Appia با انجام این کار به ایجاد زبان فنی مشترکی کمک خواهد کرد که به نهادهای ملی و بینالمللی امکان میدهد به کار یکدیگر اعتماد کنند.
ما این تلاش را گام مهم بعدی در مجموعهای گستردهتر از کارها برای تقویت نهادها، استانداردها و رویههای ارزیابی لازم برای سامانههای پیشرفته AI میدانیم.
طرح پیشنهادی اخیر ما برای حکمرانی دموکراتیک AI مرزی نقشه راهی برای این کار ارائه میکند. این طرح خواستار چارچوبی پایدار در ایالات متحده، تقویت مرکز استانداردها و نوآوری AI (CAISI) و راهبردی گستردهتر برای تابآوری در سراسر دولت است. همچنین اذعان میکند که خطرات مرزی دامنهای بینالمللی دارند. کشورها باید با یکدیگر همکاری کنند تا چارچوبهای ایمنی سازگار، کانالهای مورد اعتماد برای اشتراکگذاری یافتههای ریسک و پاسخهای هماهنگ به رخدادها را توسعه دهند.
ظرفیت ملی و همکاری بینالمللی باید یکدیگر را تقویت کنند. نهادهای قدرتمندی مانند CAISI میتوانند تخصص فنی را توسعه دهند، سامانههای مرزی را ارزیابی کنند و از اکوسیستم ارزیابی مستقل پشتیبانی کنند. سپس شبکهای از نهادهای ملی توانمند میتواند روشهای مشترک ایجاد کند، شواهد مورد اعتماد را به رسمیت بشناسد و فهم فنی مشترکی را که دولتها برای اقدام هماهنگ به آن نیاز دارند فراهم آورد.
استانداردها در کانون این تلاش قرار دارند و باید بر پایه رویههای ارزیابی معتبر و دقت فنی بنا شوند. در راهنمای مشترک ما برای ارزیابیهای قابل اعتمادِ اشخاص ثالث توضیح دادهایم که ارزیابیهای مرزی بیش از پیش باید چه چیزهایی را افشا کنند: سامانه آزمایششده، دسترسی آن به ابزارها و بستر ارزیابی، روشهای بهکاررفته برای برانگیختن تواناییها، منابع در دسترس و بررسیهایی که برای اعتبارسنجی نتایج انجام شده است. ما همچنین این اصول را از طریق همکاریهای آزمایشی با CAISI ایالات متحده و AISI بریتانیا به اجرا گذاشتهایم؛ همکاریهایی که کارشان بر ارزیابیهای توانایی مرزی و تدابیر حفاظتی در برابر سوءاستفاده زیستی به بهبودهای ملموس در سامانههای ما انجامید. این کار نقشی مهم در ایجاد بنیانی برای رویههایی دارد که میتوان آنها را استاندارد کرد تا عملکرد به شیوهای قابل مقایسه سنجیده شود.
این رویهها زیرساخت گستردهتر ایمنی OpenAI را تکمیل میکنند. Preparedness Framework ما مبنای تعریف و عملیاتیکردن رویکردمان برای مدیریت جدیترین خطرات ناشی از سامانههای پیشرفته AI، از جمله رویههای داخلی ما، است. چارچوب حکمرانی مرزی ما بخشهای مرتبط این رویکرد را در قالب یک سند حکمرانی عمومی به کار میگیرد که بر تعهدات مقرراتی مشخص تمرکز دارد؛ از جمله ارزیابی ریسک، گزارشدهی مدل، کنترلهای امنیتی، پاسخگویی به رخدادها و بهرهگیری از نظر کارشناسان بیرونی. این اسناد در کنار هم کمک میکنند تعهدات کلی به رویههای عملیاتی قابل اعتبارسنجی و بهبود تبدیل شوند.
کار Appia بر چالش بعدی متمرکز است: ایجاد قابلیت همکاری این رویهها میان سازمانها، حوزههای قضایی و زنجیره تأمین.
OpenAI هماکنون در اکوسیستم گستردهتری از استانداردها و تلاشهای پیشااستانداردسازی مشارکت دارد. ما در کمیته فنی مشترک ۱ سازمان بینالمللی استانداردسازی و کمیسیون بینالمللی الکتروتکنیک، زیرکمیته ۴۲ در زمینه هوش مصنوعی(در یک پنجره جدید باز میشود) و کنسرسیوم هوش مصنوعی به رهبری مؤسسه ملی استانداردها و فناوری(در یک پنجره جدید باز میشود) مشارکت داریم؛ به بنیانگذاری انجمن مدل مرزی و بنیاد هوش مصنوعی عاملمحور(در یک پنجره جدید باز میشود) بنیاد لینوکس کمک کردیم؛ در ائتلاف برای هوش مصنوعی امن(در یک پنجره جدید باز میشود) مشارکت میکنیم؛ در کمیته راهبری ائتلاف برای منشأ و اصالت محتوا(در یک پنجره جدید باز میشود) عضویت داریم؛ و در فرایندهای کارگروه مهندسی اینترنت(در یک پنجره جدید باز میشود) و ائتلاف احراز هویت سریع آنلاین(در یک پنجره جدید باز میشود) برای پیشبرد استانداردهای فنی قابل همکاری حضور فعال داریم.
در همه این مجامع، از جمله اکنون از طریق Appia، هدف ما تبدیل درسآموختههای توسعه مرزی به رویههایی باز و مبتنی بر مبانی فنی است که دولتها، شرکتها و ارزیابان مستقل بتوانند در حوزههای قضایی مختلف به کار بگیرند.
