پیشبرد تحقیقات مستقل در زمینه همسو سازی هوش مصنوعی

با توانمندتر و خود مختارتر شدن سیستم‌های هوش مصنوعی، تحقیقات هم‌راستا سازی باید همگام بماند و تنوع را در مقیاس افزایش دهد. در OpenAI، ما به‌طور گسترده در پژوهش‌های همسویی پیشرو و ایمنی سرمایه‌گذاری می‌کنیم زیرا برای مأموریت ما حیاتی است. ما همچنین معتقدیم که اطمینان از ایمنی و سودمندی AGI برای همه، توسط هیچ سازمان واحدی قابل دستیابی نیست و می‌خواهیم از پژوهش‌های مستقل و رویکردهای مفهومی که می‌توانند خارج از آزمایشگاه‌های پیشرو دنبال شوند، حمایت کنیم. ما معتقدیم که آینده هوش مصنوعی دقیقاً به همان شکلی که کسی پیش‌بینی می‌کند رقم نخواهد خورد و افراد بسیار بیشتری باید در شکل‌گیری نتیجه سهیم باشند.

امروز، ما اعلام می‌کنیم که یک کمک‌هزینه ۷.۵ میلیون دلاری به پروژه هم‌راستا سازی⁠(در یک پنجره جدید باز می‌شود) اعطاء می‌شود؛ یک صندوق جهانی برای پژوهش‌های مستقل در زمینه هم‌راستا سازی که توسط مؤسسه امنیت هوش مصنوعی بریتانیا (UK AISI) ایجاد شده است. Renaissance Philanthropy از مدیریت کمک‌هزینه حمایت می‌کند. این مشارکت کمک می‌کند پروژه هماهنگی به یکی از بزرگ‌ترین تلاش‌های اختصاصی تأمین مالی برای تحقیقات مستقل در حوزه هماهنگی تا به امروز تبدیل شود و اکوسیستم گسترده‌تر و مستقل را تقویت کند.

آزمایشگاه‌های پیشرو مانند OpenAI در موقعیت منحصربه‌فردی قرار دارند تا پژوهش‌های هم‌راستا سازی را دنبال کنند که به دسترسی به مدل‌های پیشرو و محاسبات قابل‌توجه نیاز دارد—کاری که اغلب برای پژوهشگران مستقل دشوار است. ما بخش زیادی از تلاش‌های داخلی خود را به توسعه روش‌های مقیاس‌پذیر اختصاص می‌دهیم تا پیشرفت هم‌راستایی با پیشرفت قابلیت‌ها همگام باشد. ما به استقرار تدریجی باور داریم—افزایش تدریجی قابلیت‌ها در حالی که تدابیر حفاظتی را تقویت می‌کنیم—به آشکار شدن زود هنگام مشکلات کمک می‌کند و شواهد مشخصی درباره آنچه در عمل کار می‌کند به ما ارائه می‌دهد، و توسعه مسئولانه نیازمند هم‌راستاسازی و کار ایمنی قابل‌توجهی است که به‌طور تنگاتنگ با ساخت مدل و استقرار یکپارچه شده است.

به‌طور موازی، این حوزه از سرمایه‌گذاری پایدار در پژوهش‌های مستقل و اکتشافی بهره‌مند می‌شود—که می‌تواند فضای ایده‌ها را گسترش دهد و مسیرهای جدید را آشکار کند. تحقیقات مستقل همچنان ضروری است؛ در بسیاری از انواع تحقیقات مفید، آزمایشگاه‌ها مزیت نسبی ندارند. یک اکو سیستم سالمِ هم‌راستا سازی به تیم‌های مستقل وابسته است که فرضیات متنوع را می‌آزمایند، چارچوب‌های جایگزین را توسعه می‌دهند، و ایده‌های مفهومی، نظری و بلند پروازانه‌ای را بررسی می‌کنند که ممکن است به‌سادگی با نقشه‌راه هیچ سازمانی به‌طور مرتب هم‌خوانی نداشته باشند.

و از آنجا که پیشرفت به سوی AGI ممکن است در نهایت به پیشرفت‌های بنیادینی وابسته باشد که شکل مسئله هم‌ترازی را تغییر دهند و تعیین کنند کدام رویکردها مفیدتر هستند، مهم است از پژوهشی حمایت شود که حتی اگر روش‌های غالب امروز در نهایت آن‌طور که انتظار داریم مقیاس‌پذیر نباشند، باز هم اهمیت داشته باشد. در آن دنیاها، داشتن یک اکوسیستم خارجی قوی که کارهای بنیادی، مفهومی و نامرتبط را انجام دهد، به‌ویژه اهمیت پیدا می‌کند. مسئلهٔ هم‌ترازی و ایمنی هوش مصنوعی از اهمیتی بی‌سابقه برخوردار است، و ما به مشارکت همه نیاز داریم زیرا هنوز نمی‌دانیم کدام رویکردها با ادامهٔ پیشرفت قابلیت‌ها، پایدارتر خواهند بود.

کمک‌هزینه ما—حدود ۵.۶ میلیون پوند با نرخ‌های فعلی ارز—در کنار سایر حامیان عمومی، بشر دوستانه و صنعتی، پروژه هم‌راستایی را به‌صورت مشترک تأمین مالی خواهد کرد⁠(در یک پنجره جدید باز می‌شود). کل این صندوق از ۲۷ میلیون پوند (£) فراتر می‌رود و برای حمایت از یک سبد گسترده از پروژه‌های پژوهشی هم‌راستا سازی در سراسر جهان طراحی شده است؛ پروژه‌هایی که موضوعاتی به گستردگی نظریه پیچیدگی محاسباتی، نظریه اقتصادی و نظریه بازی‌ها، علوم شناختی، و نظریه اطلاعات و رمزنگاری را در بر می‌گیرند. پروژه‌های فردی معمولاً با مبلغی بین ۵۰٬۰۰۰ پوند تا ۱ میلیون پوند تأمین مالی می‌شوند و ممکن است به‌صورت اختیاری به منابع محاسباتی و پشتیبانی تخصصی نیز دسترسی داشته باشند.

تأمین مالی ما نه برنامه یا فرآیند انتخاب جدیدی ایجاد می‌کند و نه بر فرآیند موجود تأثیر می‌گذارد؛ بلکه تعداد پروژه‌های⁠(در یک پنجره جدید باز می‌شود) از پیش ارزیابی‌شده و با کیفیت را که می‌توان در دور فعلی تأمین مالی کرد افزایش می‌دهد.

AISI انگلستان در موقعیت مناسبی قرار دارد تا تأمین مالی هم‌راستایی را در این مقیاس و دامنه هدایت کند. این یک ائتلاف بین‌بخشی تثبیت‌شده را که دولت، دانشگاه، نیکوکاری و صنعت را در بر می‌گیرد، به همراه یک خط لوله اعطای کمک هزینه که از قبل در جریان است و مجموعه بزرگی از پیشنهاداتی که تحت بررسی کارشناسی قرار گرفته‌اند، گرد هم می‌آورد. به‌عنوان یک سازمان پژوهشی دولتی بریتانیا در وزارت علوم، نوآوری و فناوری (DSIT)، این نهاد همچنین مأموریتی متمرکز بر ریسک‌های جدی هوش مصنوعی دارد و در اجرای برنامه‌های تأمین مالی پژوهش تجربه دارد.

چون آینده هوش مصنوعی دقیقاً همان‌طور که کسی پیش‌بینی می‌کند پیش نخواهد رفت—و ممکن است به سرعت پیشرفت کند—ما معتقدیم دموکراتیزه‌سازی، «تاب‌آوری هوش مصنوعی»، و استقرار تدریجی ضروری هستند. در حالی که ما به پیشبرد تحقیقات هم‌راستاسازی و ایمنی پیشرو خود در OpenAI ادامه می‌دهیم، پیشرفت با بهره‌گیری از یک اکوسیستم قوی، متنوع و مستقل که رویکردهای مکمل را دنبال می‌کند، همراه خواهد بود. این کمک‌هزینه یک گام به سوی آن هدف است. ما مشتاقانه منتظر ادامه همکاری با جامعه پژوهشی گسترده‌تر هستیم، هم‌زمان با پیشرفت این حوزه.