سخنان سم آلتمن در شورای امنیت سازمان ملل متحد

امروز سم آلتمن، مدیرعامل OpenAI، در شورای امنیت سازمان ملل متحد درباره هوش مصنوعی سخنرانی کرد. او درباره ظرفیت هوش مصنوعی برای گسترش فرصت‌ها، اهمیت حفظ کنترل انسانی بر سامانه‌های قدرتمند و ضرورت همکاری بین‌المللی در زمینه ایمنی هوش مصنوعی سخن گفت.

جناب آقای رئیس و عالی‌جنابان، بسیار سپاسگزارم. باعث افتخار من است که در این برهه مهم اینجا هستم و فرصت سخن گفتن با همه شما را دارم.

سال‌هاست درباره هوش مصنوعی صحبت می‌کنیم، اما در هفته‌ها و ماه‌های اخیر اوضاع متفاوت به نظر می‌رسد. پیشرفت سریع مدل‌ها باعث شده افق زمانی فشرده‌تر، مزایا ملموس‌تر و در عین حال اهمیت موضوع و خطرها فوری‌تر به نظر برسند.

اکنون با یک انتخاب روبه‌رو هستیم. هوش مصنوعی می‌تواند به رنسانسی تازه در خلاقیت و اکتشاف تبدیل شود یا به انقلاب صنعتی تازه‌ای آکنده از آشوب و نابسامانی.

رنسانس دورانی بود که ابزارها، اندیشه‌ها و نهادهای جدید، تصور مردم از توانایی‌هایشان را گسترش دادند. هوش مصنوعی می‌تواند در دوران ما همین نقش را ایفا کند. باور دارم مردم بسیار توانمندتر از آن‌اند که تصور می‌کنند، اما فناوری‌های محدودی مانعشان شده‌اند؛ فناوری‌هایی که قرار بود توانمندشان کنند، ولی در عوض حواسشان را پرت می‌کنند و اغلب توجهشان را می‌ربایند.

بهترین شکل هوش مصنوعی قرار نیست مردم را به چرخ‌دنده‌های ماشینی عظیم تبدیل کند یا همه جنبه‌های زندگی را آن‌قدر بهینه سازد که وجوه انسانی آن ناپدید شوند. هدف این است که در جهانی روزبه‌روز پیچیده‌تر، اختیار بیشتری به مردم بدهد: توانایی بیشتر برای آموختن، آفریدن، کشف کردن، ساختن و مشارکت داشتن. کارهای بسیاری وجود دارند که هوش مصنوعی نمی‌تواند و نباید خودکار کند.

هوش مصنوعی باید برای مردم ساخته شود، نه اینکه صرفاً چرخ ماشین‌ها را بی‌هدف سریع‌تر بچرخاند. برخی گفته‌های کسانی که برای ساخت هوش مصنوعی تلاش می‌کنند، چنان ویران‌شهری‌اند که به داستان فیلم‌های علمی‌تخیلی بد شباهت دارند.

هر چیزی با چنین قدرتی، هراس‌آور نیز هست. این لحظه پیچیده است، زیرا هم‌زمان هم ظرفیتی عظیم را احساس می‌کنیم و هم اضطرابی کاملاً قابل‌درک را.

این مدل‌ها می‌توانند به مردم در کشف دانش جدید کمک کنند: داروهای تازه، خدمات سلامت بهتر، آموزش قوی‌تر و ساخت اقتصادهای پربازده‌تر. آن‌ها می‌توانند ابزارهای تازه‌ای باشند تا مردم رؤیاها و آرزوهایی را دنبال کنند که امروز دست‌نیافتنی به نظر می‌رسند. پیچیدگی زندگی برای یک فرد عادی به‌شدت افزایش یافته است. هوش مصنوعی همان‌قدر که می‌تواند ابزاری برای اکتشاف و نوآوری بی‌سابقه باشد، می‌تواند وسیله‌ای دفاعی در برابر این پیچیدگی نیز باشد.

از سوی دیگر، هرچه سامانه‌های هوش مصنوعی توانمندتر و خودمختارتر شوند، ممکن است از نهادهای ما پیشی بگیرند، قدرت را در دست شمار اندکی متمرکز کنند یا تصمیم‌هایی بگیرند که مردم دیگر آن‌ها را درک یا کنترل نکنند.

این نگرانی با نزدیک شدن به سامانه‌هایی اهمیت ویژه‌ای می‌یابد که می‌توانند خود و نسخه‌های آینده خود را بهبود دهند؛ فرایندی که اغلب «خودبهبودی بازگشتی» نامیده می‌شود. با خودکارتر شدن فرایند ساخت هوش مصنوعی، سرعت پیشرفت آن ممکن است به‌سرعت افزایش یابد. این برهه نیازمند نهایت احتیاط است.

من تا حد زیادی با پروفسور بنجیو موافقم. هرچند به‌جای سه مورد، دو مورد را مطرح می‌کنم؛ به باور من، پیشرفت هوش مصنوعی ممکن است از دو مسیر بسیار بد پیش برود که باید از آن‌ها جلوگیری کنیم.

نخست، ممکن است کنترل آینده را به هوش مصنوعی واگذار کنیم. خطر این است که آن‌قدر سریع پیش برود که مردم دیگر نتوانند رویدادها را دنبال کنند یا در مواقع لازم مداخله کنند. بدیهی است که چنین وضعی فاجعه‌بار خواهد بود.

صنعت نباید صرفاً به این دلیل که مزایا بسیار چشمگیرند و کاهش سرعت بیش از حد پرهزینه به نظر می‌رسد، خطرهای فناورانه بیش از اندازه را بپذیرد. پیشی گرفتن از شرکت‌ها در فضای رقابتی، دلیلی برای گرفتن تصمیم‌های نسنجیده نیست. همچنین باور نداریم در رقابتی گرفتار شده‌ایم که امکان کاهش سرعت را از ما گرفته باشد. در گذشته نیز یک‌جانبه سرعت خود را کاهش داده‌ایم. در آینده نیز چنین خواهیم کرد. ما نمی‌خواهیم سامانه‌هایی بسازیم—و معتقدیم همه باید از ساخت چنین سامانه‌هایی بپرهیزند—که نتوانیم تضمین‌های ضروری درباره هم‌راستایی، نظارت‌پذیری و ایمنی آن‌ها ارائه کنیم.

باید بدانیم این سامانه‌ها چه می‌کنند و شواهد محکمی داشته باشیم که حتی با بسیار بسیار هوشمند شدن نیز مطابق خواست مردم عمل خواهند کرد. در واقع، به‌ویژه هنگامی که بسیار بسیار هوشمند می‌شوند. مهم نیست مردم احتمال فاجعه را ۱۰٪، ۱٪، ۱۲٪ یا ۰٫۱٪ بدانند. هیچ‌یک از این میزان‌ها حتی اندکی هم پذیرفتنی نیست. همچنین نباید مدل‌هایی را آموزش دهیم، مگر آنکه بتوانیم با استدلالی بسیار محکم نشان دهیم که قادر خواهیم بود آن‌ها را تحت کنترل انسان نگه داریم.

پس این یکی از مسیرهایی است که ممکن است اوضاع در آن به خطا برود. در مسیر دیگر، این سامانه‌ها ممکن است قدرت بیش از حدی را در دست شمار بسیار اندکی متمرکز کنند. هیچ فرد، شرکت یا کشوری نباید بتواند با استفاده از قدرتمندترین مدل‌های هوش مصنوعی، جهان‌بینی خود را بر دیگران تحمیل کند. شرکت یا کشوری که معتقد است فقط خودش شایسته اعتماد برای در اختیار داشتن این فناوری است، می‌تواند با همین باور تقریباً هر کار دیگری را توجیه کند. باید این منطق را رد کنیم، حتی زمانی که برای یک بازیگر خاص به‌صرفه است.

به باور من، برای عبور از هر دو چالش راهی عمل‌گرایانه وجود دارد. ما در OpenAI با هدفی روشن به این پرسش‌ها می‌پردازیم: هوش مصنوعی باید اختیار بیشتری بر زندگی خود به مردم بدهد. آزادی بیشتر برای آنکه هر طور می‌خواهند زندگی کنند. توانایی بیشتر برای حل مسائل کوچک و بزرگ و بهبود جوامع خود. نمی‌خواهیم در دام خوش‌بینی کورکورانه بیفتیم. در عین حال، نمی‌خواهیم گرفتار بدبینی آخرالزمانی شویم. کشیده شدن به هر یک از این دو افراط، کمکی نمی‌کند تا چالش‌های پیش رو را با موفقیت حل کنیم؛ به‌ویژه اکنون که جهان و مردمش با مشکلات عظیمی روبه‌رو هستند که این فناوری می‌تواند به حل آن‌ها کمک کند. ازاین‌رو می‌کوشیم راه میانه را میان این دو قطب در پیش بگیریم.

برای ما، این رویکرد بر سه اصل استوار است.

نخست، با افزایش توانایی هوش مصنوعی، مردم باید همچنان در مرکز تصمیم‌گیری‌های مربوط به آن باقی بمانند. هم‌راستاسازی صرفاً یک پرسش انتزاعی پژوهشی نیست. بلکه تلاشی است برای اطمینان از اینکه این سامانه‌ها به‌طور قابل‌اعتماد تحت کنترل انسان باقی بمانند، بازتاب‌دهنده ارزش‌های انسانی باشند و به مردم کمک کنند مراحل بعدی توسعه را هدایت کنند. ما نمی‌کوشیم و نباید بکوشیم قضاوت یا ارزش‌های انسانی را خودکار کنیم.

دوم، منافع پیشرفت علمی و رشد اقتصادی باید به دست مردم و برای مردم تحقق یابد. هوش مصنوعی باید به پژوهشگران در کشف یافته‌های جدید، به پزشکان در درمان بیماران، به معلمان در آموزش دانش‌آموزان، به کارآفرینان در راه‌اندازی شرکت‌ها و به جوامع در حل مسائلی که دست‌نیافتنی به نظر می‌رسیدند کمک کند، و بسیار فراتر از این‌ها برود. داستان پیوسته پیشرفت بشر این نیست که ابزارها جای عاملیت انسان را می‌گیرند. بلکه ابزارهای مناسب مردم را توانمندتر می‌کنند، و باور دارم این روند بسیار فراتر از آنچه ممکن می‌دانیم پیش خواهد رفت.

سوم، این فناوری باید هر فرد را توانمند کند. آینده‌ای درخشان زمانی شکل می‌گیرد که مردم توانمندی‌های خود را شکوفا کنند و برای خود، جوامعشان، کشورهایشان و جهان گسترده‌تر ارزش بیافرینند. شاید ما یکی از سازندگان این فناوری باشیم، اما قهرمانان این داستان نیستیم. نقش ما توانمندسازی مردم سراسر جهان و اعتماد به نیروی شگفت‌انگیز مهارت‌ها و استعدادهای بشری است.

اکنون مدل‌هایی داریم که می‌توانند دانشی را کشف کنند که هرگز پیش از این در اختیار نداشته‌ایم. پیشرفتی را در نظر بگیرید که در ریاضیات شاهدش بوده‌ایم. سه تابستان پیش، مدل‌های ما در ریاضیات دوره ابتدایی عملکرد قابل‌قبولی داشتند. دو تابستان پیش، در مسابقات ریاضی دبیرستانی بسیار خوب عمل می‌کردند. تابستان گذشته، در معتبرترین مسابقه بین‌المللی ریاضی به سطح مدال طلا رسیدیم. و همین چند هفته پیش در تابستان امسال، یکی از مدل‌های ما یکی از مسائل جایزه هزاره، یعنی معادلات ناویر–استوکس، را حل کرد.

از این معادلات در طراحی هواپیما، پیش‌بینی آب‌وهوا و مطالعه جریان خون استفاده می‌شود. ما مسائل ریاضی را صرفاً به‌خاطر خودشان حل نمی‌کنیم؛ هدفمان توانمندسازی مردم برای کشف دانش جدید و استفاده از آن برای بهبود سلامت، ارتقای سطح زندگی و گسترش ظرفیت‌های همه مردم جهان است. هنوز چیزهای بسیار زیادی برای کشف کردن باقی مانده است.

اما بسیار مهم است که شرکت‌ها جایگزین فرایند دموکراتیک نشوند.

اگر قرار است هوش مصنوعی دموکراتیک باشد، مهم‌ترین تصمیم‌ها را نمی‌توان تنها در آزمایشگاه‌های سان‌فرانسیسکو گرفت. این تصمیم‌ها باید از طریق فرایندهای دموکراتیک و به دست دولت‌هایی شکل بگیرند که در برابر مردمِ تحت خدمت خود پاسخ‌گو هستند.

در سطح بین‌المللی، این امر مستلزم همکاری است. در طول تاریخ، زمان‌هایی بوده است که کشورها، با وجود رقابت و روابط نه‌چندان دوستانه، در مواجهه با فناوری جدید و قدرتمندی برای تأمین منافع مشترک و خیر جمعی گرد هم آمده‌اند. ما معتقدیم اکنون باید یکی از همان زمان‌ها باشد.

ما به سازوکاری برای تدوین استانداردهای مکمل ملی و بین‌المللی درباره هوش مصنوعی پیشرو نیاز داریم: استانداردهایی برای سنجش قابلیت‌ها، ارزیابی خطرها، تعیین کفایت تدابیر حفاظتی و حفظ نظارت مؤثر انسانی هم‌زمان با خودمختارتر شدن سامانه‌ها.

به استانداردهای مشترکی نیاز داریم تا کشورها بتوانند شواهد را مقایسه کنند، پایبندی را بسنجند و درباره آنچه رخ می‌دهد، زبان و درکی مشترک داشته باشند.

به گزارش‌دهی دقیق و سریع رویدادها و نیز پروتکل‌های طبقه‌بندی و گزارش‌دهی نیاز داریم تا جهان پیش از آنکه ناکامی‌ها به فاجعه تبدیل شوند، از آن‌ها درس بگیرد.

همچنین برای به‌اشتراک‌گذاری آسیب‌پذیری‌های نوظهور و تهدیدهای جدید، به کانال‌های امن میان دولت‌ها، گردانندگان زیرساخت‌های حیاتی و کارشناسان فنی نیاز داریم.

بدیهی است که این استانداردها نباید موقعیت بازیگران فعلی را تثبیت کنند یا یک مدل کسب‌وکار را بر دیگری ترجیح دهند. این استانداردها باید از توسعه‌دهندگان مدل‌های باز و بسته، تازه‌واردان و آزمایشگاه‌های باسابقه، اقتدار ملی و همکاری بین‌المللی پشتیبانی کنند. هر دولت باید خود تصمیم بگیرد که چگونه این استانداردها را در نظام حقوقی‌اش بگنجاند. اما اگر بتوانیم در سطح جهانی درباره ویژگی‌های شواهد معتبر، تدابیر حفاظتی مناسب و نظارت مؤثر به توافق برسیم، وضع همه ما بهتر خواهد شد.

ما همه پاسخ‌ها را نداریم و با روی باز از هر ایده بهتری استقبال می‌کنیم. آماده‌ایم با همه شما همکاری کنیم و با تمام توان بکوشیم تا راه پیش رو را بیابیم.

ما بر سر یک دوراهی هستیم. یک مسیر به جهانی می‌انجامد که در آن قدرت متمرکز است، تصمیم‌ها شفاف نیستند و مردم احساس می‌کنند مهم‌ترین فناوری دوران زندگی‌شان چیزی است که بر آنان تحمیل می‌شود. مسیر دیگر به جهانی می‌انجامد که در آن هوش مصنوعی در خدمت مردم است، زیرا مردم از طریق نهادهای دموکراتیک در تصمیم‌گیری درباره چگونگی توسعه و هدایت آن نقش دارند؛ پیشرفت علمی زندگی واقعی مردم را بهبود می‌بخشد؛ افراد بیشتری می‌توانند در ساخت آینده مشارکت کنند؛ و این فناوری همچنان به افراد و جوامع قدرت بیشتری می‌دهد تا آن‌گونه که می‌خواهند زندگی کنند. این آینده‌ای سرشار از شکوفایی توانمندی‌ها، هیجان و شگفتی است.

و ما معتقدیم این همان آینده‌ای است که ارزش ساختن دارد. بسیار سپاسگزارم.