تدوین استانداردهای مرحله بعدی هوش مصنوعی
مأموریت ما این است که اطمینان یابیم هوش مصنوعی عمومی به سود همه بشریت است. همانطور که اخیراً سم آلتمن تشریح کرد و یاکوب پاخوکی نیز بیان کرده است، ما کار خود را برای تحقق این مأموریت حول سه هدف اصلی اولویتبندی میکنیم:
هدایت دوره بعدی پیشرفت هوش مصنوعی از طریق ساخت یک پژوهشگر خودکار هوش مصنوعی، همکاری تکرارشونده با آن برای حل مسئله همراستاسازی و یافتن راههایی برای حفظ نقش انسان در چرخه خودبهبودی.
فراهمکردن مزایای پیشرفت علمی و رشد اقتصادی که ماشینهای بسیار هوشمند امکانپذیر میکنند.
توانمندسازی تکتک افراد با یک AGI شخصی.
هوش مصنوعی پژوهش و مهندسی خود ما را شتاب میبخشد و پژوهش مبتنی بر هوش مصنوعی به پیشرفتهایی در ریاضیات، از جمله در مسئله هزاره ناویر–استوکس، منجر شده است. این پیشرفت برای دو هدف دیگر ما نیز بسیار نویدبخش است و میتواند به کشفهای مهم پزشکی، مراقبتهای سلامت با دسترسی گسترده و توانمندسازی اقتصادی کسبوکارهای کوچک و کارآفرینان مستقل در سراسر جهان بینجامد.
هوش مصنوعی در شرکتها و کشورهای بسیاری در حال پیشرفت است و تحولات این حوزه، فرصتها و چالشهای پیش روی همگان را تغییر میدهد. هوش مصنوعی توانمند و همراستا، در کنار دیگر مزایایش، بخش مهمی از چگونگی گذار ما از این دوره خواهد بود: تقویت دفاع، پیشبرد پژوهشهای همراستاسازی و کمک به مردم برای درک و هدایت مراحل بعدی توسعه هوش مصنوعی.
گذار ایمن از این دوره مستلزم آن است که پژوهشهای همراستاسازی همپای این قابلیتها پیش برود تا سامانههایی که ما و دیگران میسازیم با ارزشهای انسانی همراستا و تحت کنترل انسان باقی بمانند. با افزایش توانمندی و خودمختاری سامانههای هوش مصنوعی، از جمله با برعهدهگرفتن سهم بیشتری از تحقیق و توسعه خود هوش مصنوعی، این موضوع اهمیت فزایندهای مییابد. ایمن و سودمند نگهداشتن پیشرفت هوش مصنوعی هم به پیشرفت در پژوهشهای همراستاسازی و هم به استانداردهای مشترکی برای هدایت توسعه در آزمایشگاهها و کشورها نیاز دارد.
پژوهش خودکار هوش مصنوعی میتواند درجات متفاوتی از نظارت انسانی داشته باشد. هرچه سامانههای هوش مصنوعی سهم بیشتری از کار توسعه نسلهای بعدی هوش مصنوعی را بر عهده میگیرند، حتی با تداوم مشارکت انسانها، میتوانند فرایند خودبهبودی بازگشتی (RSI) را بیشازپیش پیش ببرند. با خودکارترشدن این فرایند، آهنگ پیشرفت هوش مصنوعی ممکن است بهسرعت شتاب بگیرد.
ما معتقدیم پژوهش خودکار هوش مصنوعی به تولید مدلهایی خواهد انجامید که مستقیماً زندگی مردم را بهبود میدهند. این پژوهش میتواند هزینه هوشمندی پیشرفته را کاهش دهد تا مردم سراسر جهان از آن بهرهمند شوند. پژوهش خودکار میتواند به ما کمک کند همراستاسازی را بهطور چشمگیری بهبود دهیم و در برابر هوش مصنوعیِ هرچه توانمندتر، سامانههای دفاعی بسازیم؛ یک پژوهشگر خودکار هوش مصنوعی میتواند پژوهشگر خودکار ایمنی هوش مصنوعی نیز باشد. سامانههای توانمندتر و همراستا میتوانند به ایمنسازی زیرساختهای حیاتی، دفاع در برابر عاملهای خطرناک هوش مصنوعی و توسعه تدابیر حفاظتی جدید کمک کنند.
امروز RSI کاملاً خودمختار در حال وقوع نیست و نباید آن را دنبال کنیم، مگر و تا زمانی که اجرای ایمن آن ممکن باشد. اینکه آیا و چگونه باید پیش برویم، باید به توانایی ما در حفظ کنترل انسانی و انتخابهای دموکراتیک و آگاهانه(در یک پنجره جدید باز میشود) درباره مزایا و خطرات بستگی داشته باشد. اگر RSI بدون مراقبت و احتیاط کافی انجام شود، ممکن است انسانها کنترل عملی بر توسعه هوش مصنوعی را از دست بدهند و دیگر نتوانند بر فرایندهای پژوهشی که درکشان نمیکنند نظارت داشته باشند. پس از آن، هوش مصنوعی ممکن است خطرناکتر و کمتر همراستا شود و در مجموع مردم را در معرض خطر قرار دهد. حادثه Hugging Face که افشا کردیم، هرچند نتیجه مستقیم RSI نبود، پیشنمایشی از خطراتی است که بدون تضمینهای ایمنی و همراستاسازیِ مستحکم میتوانند بسیار شدیدتر شوند.
استانداردهای بینالمللی برای رویههای ایمنی و امنیتی در توسعه هوش مصنوعی پیشرو ممکن است برای تنظیم آهنگ پیشرفت این حوزه بهاندازه خود پژوهشهای همراستاسازی اهمیت داشته باشند. استانداردها میتوانند تعریفهای مشترکی از شواهد باکیفیت و مبناهای مورد توافقی برای میزان سختگیری تضمینهای فنی ایجاد کنند. خلاصه اینکه استانداردها به ما کمک میکنند به این پرسش پاسخ دهیم: «کاهش مطلوب خطر فاجعهبار هوش مصنوعی چه ویژگیهایی دارد؟»
نهادهای دموکراتیک موجود، مانند مرکز استانداردها و نوآوری هوش مصنوعی (CAISI)، قوانین ایالتی و یک چارچوب فدرال برای هوش مصنوعی، همگی میتوانند در این زمینه مؤثر باشند؛ همچنین گونههای جدید مشارکت عمومیـخصوصی(در یک پنجره جدید باز میشود) نیز میتوانند کمک کنند. اما توسعه و بهکارگیری هوش مصنوعی در کشورهای متعددی جریان دارد، پذیرش آن در مقیاس جهانی رخ میدهد و احتمالاً آثارش دیر یا زود و به شکلی بر همه احساس خواهد شد.
بنابراین، برای حل چند چالش کلیدی به تلاشهای بینالمللی برای تدوین استانداردها نیاز است:
چندپارگی — ارزیابیها، الزامات گزارشدهی و تعریف حوادث در کشورهای مختلف ممکن است با یکدیگر تعارض داشته باشند و مقایسه شواهد، درک قابلیتهای نوظهور و واکنش به خطرات فرامرزی را دشوارتر کنند.
اقدام جمعی — عملکرد مستقل هر کشور میتواند به نتایجی منجر شود که هیچ کشوری خواهان آن نیست. RSI میتواند خود پژوهش هوش مصنوعی را شتاب دهد و چهبسا از توان جمعی ما برای درک پیشرفت، ارزیابی خطرات و حفظ نظارت معنادار انسانی فراتر برود.
ظرفیت نابرابر — فعالیتهای توسعه هوش مصنوعی پیشرو و تخصص مرتبط با آن در سراسر جهان بهطور یکسان توزیع نشده است. این وضعیت هر دو مشکل بالا را تشدید میکند.
این چالشها هم درباره الگوهای باز و هم مدلهای بسته صدق میکنند.
برای رفع هرگونه ابهام، هر آزمایشگاه هوش مصنوعی که پژوهش خودکار هوش مصنوعی یا قابلیتهای پیشرفته دیگری را دنبال میکند، باید مسئولیت اجرای ایمن آن را مطابق اصول بنیادین مسئولیتپذیری و قوانین موجود بپذیرد. منطق ما برای تدوین استانداردها بر جلوگیری از تمرکز قدرت و دستیابی به نتایج عملی بهتر استوار است. استانداردها راهی فراهم میکنند تا ذینفعان بیشتری خارج از آزمایشگاهها درباره مسیر پیشرفت این فناوری نقش داشته باشند؛ همچنین مجموعهای آشکار از اصول ارائه میدهند که مستقل از رویههای خاص هر آزمایشگاه قابل اتکاست. همچنین اگر طرفها برای رسیدگی به چالشهای بالا همکاری کنند، احتمالاً به نتایج بهتری خواهیم رسید.
ازاینرو معتقدیم ایالات متحده باید پیشگام تلاشی برای همکاری با کشورهای سراسر جهان باشد تا استانداردهای فنی جهانی برای هوش مصنوعی پیشرو، از جمله RSI، تدوین شوند.
هرچند انتظار داریم این مفهوم با گذشت زمان تحولات چشمگیری بیابد، دو جنبه آن ضروری خواهد بود.
یکی از راههای تحقق این هدف، بهرهگیری از شبکه نوظهور مؤسسههای ایمنی هوش مصنوعی است؛ مانند مؤسسههایی که در استرالیا، کانادا، آلمان، فرانسه، کنیا، ژاپن، کره، سنگاپور، هند و بریتانیا تأسیس شدهاند. این شبکه میتواند از طریق CAISI و نهادهای ملی صنعت، تدوین استانداردها را با تمرکز ویژه بر این موارد تسهیل کند: (۱) مدلها و توسعهدهندگان هوش مصنوعی پیشرو، بر پایه سنجههای قابلیت؛ و (۲) مدیریت مزایا و خطرات پژوهش خودکار هوش مصنوعی، از جمله RSI. ایالات متحده میتواند بر پایه اقدام CAISI در ایجاد شبکه بینالمللی سنجش، ارزیابی و علوم پیشرفته هوش مصنوعی(در یک پنجره جدید باز میشود) در سال ۲۰۲۴ پیش برود؛ شبکهای که نهادهای عمومی را برای همکاری در سنجش، ارزیابی و علوم هوش مصنوعی گرد هم میآورد.
استانداردهای حاصل از این تلاش، بنیانی فنی و مشترک برای سنجش و ارزیابی قابلیتها، ارزیابی خطر و کفایت تضمینهای ایمنی فراهم میکنند. این استانداردهای فنی به معنای مجوز، بازبینی اجباری پیش از انتشار یا الزام به تأیید مدلهای هوش مصنوعی نخواهند بود. دولتهای ملی تصمیم خواهند گرفت که آیا و چگونه این استانداردها را در نظام حقوقی خود بگنجانند.
این فعالیت باید با مشورت توسعهدهندگان الگو باز و مدل بسته، کارشناسان فنی مستقل و دانشگاهیان، از زیستبوم رقابتی هوش مصنوعی نیز حمایت کند. استانداردهای مشترک باید بهصورت شفاف تدوین و چنان طراحی شوند که به شرکتها، کشورها یا الگوهای تجاری خاصی برتری ندهند؛ از جمله با دشوارترکردن رقابت برای تازهواردان یا توسعهدهندگان مدلهای با وزن باز.
همانطور که پیشنهاد کردهایم(در یک پنجره جدید باز میشود)، این رویکرد میتواند از حوزههایی مانند هوانوردی و ثبات مالی درس بگیرد؛ حوزههایی که کشورها در آنها بدون واگذاری اختیارات ملی، استانداردهای فنی مشترک و مجاری همکاری قابل اعتماد ایجاد کردهاند. این نهاد باید با سازمانهای باسابقه و جدیدتر تدوین استاندارد، مانند ISO(در یک پنجره جدید باز میشود)، مجمع مدلهای پیشرو(در یک پنجره جدید باز میشود)، بنیاد AI عامل محور(در یک پنجره جدید باز میشود) و ائتلاف هوش مصنوعی باز و امن(در یک پنجره جدید باز میشود)، و نیز سازمانهای متمرکز بر اجرا مانند بنیاد آپیا همکاری نزدیکی داشته باشد؛ بنیادی که مشخصات عملی برای پیوند استانداردهای بینالمللی با ارزیابیهای واقعی هوش مصنوعی تدوین میکند.
استانداردهای بینالمللی هوش مصنوعی بهویژه برای مدیریت خودمختاری فزاینده در پژوهش هوش مصنوعی و خودبهبودی بازگشتی حیاتی خواهند بود. این استانداردها مشخصاً میتوانند موارد زیر را دربر گیرند:
ارزیابی پیشرفتهای هوش مصنوعی مرتبط با RSI و میزان پژوهش خودمختاری که در یک شرکت هوش مصنوعی انجام میشود. گزارش اخیر ما درباره شتابگیری پژوهش، نخستین سهم ما در این تلاش است.
نظارت انسانی بر پژوهش خودکار هوش مصنوعی، از جمله تعیین اینکه چه نوع فرایندهای پژوهشی خودکار باید موجب بازبینی فوری انسان شوند.
طبقهبندی، رهگیری، گزارشدهی و پاسخگویی به حوادث مرتبط با همراستاسازی و پژوهش خودکار هوش مصنوعی، از جمله سطوح مشترک شدت حوادث و آستانههای گزارشدهی. چارچوب گزارشدهی ناهمراستایی ما گامی اولیه در این مسیر است.
افزون بر این استانداردها، به باور ما مهم است که گردانندگان زیرساختهای حیاتی و دولتهای سراسر جهان مجاری ارتباطی امنی ایجاد کنند تا نگرانیهای امنیت ملی، آسیبپذیریها و تهدیدهای نوظهور، و بهترین رویهها را در حوزه بهسرعت در حال تحول ایمنی هوش مصنوعی پیشرو به اشتراک بگذارند. گفتوگوی ایالات متحده و چین در این حوزهها گامی مثبت خواهد بود و مذاکرات پیش رو در زمان مناسبی برگزار میشود.
تنظیم آهنگ توسعه هوش مصنوعی به معنای حفظ سرعتی ازپیشتعیینشده نیست. از نظر فنی، باید اطمینان یافت که پژوهشهای همراستاسازی و بهکارگیری نتایج آنها همواره از پیشرفت قابلیتها جلوتر است. از نظر اجتماعی، باید با بهرهگیری از استانداردها، نهادها و همکاری، شبکههای صنعتی، روابط اجتماعی و نیروهای بازار را تقویت کرد تا نتایجی به سود همگان حاصل شود. فراخوان اخیر برای اقدام جمعی در دفاع سایبری نمونهای از مورد دوم است.
ایالات متحده برای پیشگامی جایگاه مناسبی دارد، زیرا صنعت هوش مصنوعی آن در مرز پیشرو فناوری قرار دارد و همچنان در شبکه جهانیِ حوزههای حیاتی مانند امور مالی، تجارت، دفاع، فناوری و سامانههای اطلاعاتی از موقعیتی ممتاز برخوردار است. پیشگامی در این مقطع تعیین میکند که آیا ایالات متحده چارچوب جهانی هوش مصنوعی را شکل میدهد یا شاهد استقرار سامانهای پراکنده، نابرابر و آکنده از تعارض در پیرامون خود خواهد بود. همچنین مشخص خواهد شد که آیا هوش مصنوعی پیشرفته شبکههای موجود ایالات متحده و متحدانش را تقویت میکند؛ کوتاهی در پیشگامی ممکن است آنها را تضعیف کند.
رقابت ژئوپلیتیکی فقط بر سر برتری فنی نخواهد بود؛ پذیرش و گسترش هوش مصنوعی نیز عرصه این رقابت است. این پذیرش و گسترش ممکن است بیشازپیش به دست کسانی رقم بخورد که همکاری عملی و قواعد معقولی را پیش میبرند؛ قواعدی که کسبوکارها و جوامع سراسر جهان برای سپردن آینده خود به این فناوری خواهان آن خواهند بود.
حکمرانی ملیِ قدرتمند، در پیوند با همکاری عملی بینالمللی، مسیری برای تضمینهای ایمنی قویتر، تداوم نوآوری و دسترسی گسترده به مزایای هوش مصنوعی فراهم میکند.
