هوش مصنوعی این ظرفیت را دارد که بسیاری از جنبههای جامعه را بهطور چشمگیری بهبود دهد.
این فناوری، مانند فناوریهای پیش از خود، توانمندی و اختیار بیشتری به مردم خواهد داد؛ آنچه مردم با هوش مصنوعی خواهند توانست انجام دهند، بسیار فراتر از کاری خواهد بود که با موتور بخار یا برق میتوانستند انجام دهند.
ما جهانی را تصور میکنیم با شکوفایی گسترده در سطحی که اکنون تصورش دشوار است و جهانی که در آن ظرفیت فردی، اختیار و رضایتمندی افراد بهطور چشمگیری افزایش مییابد. بسیاری از چیزهایی که فقط در داستانهای علمیتخیلی به خودمان اجازهٔ رؤیایشان را دادهایم میتوانند به واقعیت تبدیل شوند و بیشتر مردم میتوانند زندگیهایی معنادارتر از آن چیزی داشته باشند که امروز برای اغلبشان ممکن است.
اما این نتیجه تضمینشده نیست. قدرت در آینده یا میتواند در دست شمار اندکی از شرکتها باشد که از ابرهوش استفاده و آن را کنترل میکنند، یا میتواند بهشکلی غیرمتمرکز در دست مردم باشد. ما باور داریم دومی بسیار بهتر است و هدف ما این است که هوش مصنوعی واقعاً عمومی را تا حد امکان در اختیار افراد بیشتری قرار دهیم. همانطور که امروز نه کاملاً بد است و نه کاملاً خوب، آینده هم چنین خواهد بود، اما تصمیمهایی که اکنون میگیریم میتواند کمک کند مزایا به بیشنه خود برسد.
ماموریت ما این است که AGI به نفع تمام بشریت باشد. در اینجا اصولی آمدهاند که راهنمای کار ما هستند.
1. دموکراتیزهکردن. ما در برابر این احتمال که این فناوری قدرت را در دست عدهای معدود متمرکز کند، مقاومت خواهیم کرد.
این یعنی علاوه بر اینکه دسترسی همه را به هوش مصنوعی فراهم کنیم، باید مطمئن شویم تصمیمهای کلیدی دربارهٔ هوش مصنوعی از طریق فرایندهای دموکراتیک و بر پایهٔ اصول برابریخواهانه گرفته میشوند، نه فقط توسط آزمایشگاههای هوش مصنوعی.
2. توانمندسازی. ما باور داریم هوش مصنوعی میتواند همه را توانمند کند تا به هدفهایشان برسند، بیشتر بیاموزند، شادتر و رضایتمندتر باشند و رؤیاهایشان را دنبال کنند و در مجموع این امر به نفع جامعه خواهد بود.
تحقق این امر مستلزم آن است که به مردم اجازه دهیم ظرفیت عظیم پیشِ رو را کشف کنند و باید محصولاتی بسازیم که این امکان را فراهم کنند. کاربران باید بتوانند بهطور قابل اتکا با خدمات ما وظایفی هرچه ارزشمندتر را انجام دهند.
جهان متنوع است و مردم نیازهای متفاوتی دارند. ما میخواهیم استقلال عملی موردنیاز را به کاربرانمان بدهیم و تا جایی که معقول است آزادی عمل فراهم کنیم.
با اینکه میخواهیم در نحوهٔ استفاده از خدماتمان دامنهٔ اختیار بسیار گستردهای به کاربران بدهیم و عمیقاً باور داریم که هوش مصنوعی در مجموع بسیار سودمند خواهد بود، مسئولیت داریم آن را به شیوهای بسازیم و عرضه کنیم که آسیب را به حداقل برساند. این البته شامل پیشگیری از آسیبهای فاجعهبار میشود، اما به معنای به حداقل رساندن آسیبهای موضعی و پرهیز از آثار اجتماعی بالقوه فرساینده نیز هست. این یعنی در مواجهه با عدمقطعیت جانب احتیاط را نگه داریم و با شواهد بیشتر، محدودیتها را کاهش دهیم.
3. رفاه همگانی. ما آیندهای میخواهیم که در آن همه بتوانند زندگی بسیار خوبی داشته باشند.
ما باور داریم با قرار دادن سامانههای هوش مصنوعی آسانبرایاستفاده و دارای توان محاسباتی بسیار در دسترس همه، مردم راههای تازهای برای خلق ارزش پیدا خواهند کرد و کیفیت زندگی را برای همگان، بهویژه از رهگذر کشف علم جدید، بهشدت بهبود خواهند داد.
برای اینکه رفاه بهطور کامل محقق و بهطور گسترده تقسیم شود، باور داریم که 1) دولتهای ما شاید لازم باشد الگوهای اقتصادی تازهای را بررسی کنند تا مطمئن شوند همه میتوانند در خلق ارزشی که پیشِ روی ماست مشارکت داشته باشند و 2) ما باید حجم عظیمی از زیرساخت هوش مصنوعی بسازیم و فناوریهای جدیدی توسعه دهیم تا هزینههای زیرساخت هوش مصنوعی را بسیار کاهش دهیم.
بسیاری از کارهایی که انجام میدهیم و عجیب به نظر میرسند—مانند خرید حجم عظیمی از توان محاسباتی در حالی که درآمدمان نسبتاً کم است، یکپارچهسازی عمودی برای کاهش هزینهها و آسانتر کردن استفاده از فناوریمان، تلاش برای ساخت مراکز داده در سراسر جهان و بسیاری موارد دیگر—از باور بنیادین ما به آیندهای با رفاه همگانی سرچشمه میگیرند.
4. تابآوری. هوش مصنوعی خطرات تازهای به همراه خواهد آورد و ما برای حل آنها با سایر شرکتها، اکوسیستمها، دولتها و جامعه همکاری خواهیم کرد. برای پشتیبانی از این کار، بهطور قابل توجهی از منابع بنیاد خود استفاده خواهیم کرد.
هیچ آزمایشگاه هوش مصنوعیای بهتنهایی نمیتواند آیندهای خوب را تضمین کند. برای نمونهای آشکار، ممکن است مدلهایی بسیار توانمند وجود داشته باشند که ساختن یک پاتوژن جدید را آسانتر کنند و ما به رویکردی در سطح کل جامعه نیاز داریم تا با اقدامات مقابلهای مستقل از نوع پاتوژن در برابر این موضوع دفاع کنیم. برای نمونهای دیگر، با افزایش توانمندیهای امنیت سایبری مدلها، باید بهسرعت از این مدلها برای کمک به ایمنسازی نرمافزار متنباز و زیرساختهای حیاتی استفاده کنیم و همزمان مدلها را آموزش دهیم تا به همه در ساخت نرمافزار امنتر کمک کنند.
این گسترشی از راهبرد دیرینهٔ ما در استقرار تدریجی است؛ ما باور داریم جامعه باید با هر سطح پیدرپی از توانمندی هوش مصنوعی روبهرو شود، آن را درک کند، با آن ادغام شود و بهترین مسیر پیشرو را باهم پیدا کند. این کار نمیتواند در خلأ انجام شود؛ جامعه و فناوری با هم تکامل مییابند و این امر به زمان نیاز دارد.
منظور ما این نیست که این تنها راهبرد ایمنی ماست؛ باید سامانههای ایمن نیز بسازیم و به عملکرد عالی خود در زمینهٔ همراستاسازی فنی ادامه دهیم.
انتظار داریم دورههایی پیش بیاید که لازم باشد با دولتها، نهادهای بینالمللی و دیگر تلاشهای AGI همکاری کنیم تا مطمئن شویم پیش از ادامهٔ کار، مسائل جدی مربوط به همراستاسازی، ایمنی یا جامعه را بهاندازهٔ کافی حل کردهایم.
5. انطباقپذیری. ما همچنان باور داریم تنها راه مواجهه با چالشهای آیندهای بسیار غیرقابلپیشبینی این است که آماده باشیم با آموختن بیشتر، مواضع خود را بهروز کنیم. همچنین اذعان میکنیم که OpenAI نسبت به چند سال پیش نیرویی بسیار بزرگتر در جهان است و شفاف خواهیم بود که اصول عملیاتی ما چه زمانی، چگونه و چرا تغییر میکنند. بهعنوان نمونهای مشخص، با اینکه کاملاً مطمئنیم رفاه همگانی همچنان بسیار مهم خواهد ماند، میتوانیم دورههایی را در آینده تصور کنیم که ناچار شویم بخشی از توانمندسازی را با تابآوری بیشتر معاوضه کنیم.
توسعهٔ هوش مصنوعی شگفتیهای زیادی به همراه داشته است، و باز هم شگفتیهای بیشتری در راه است. با پیشرفت فناوری، پیشبینی رفتارهای برآمدهٔ آن روزبهروز دشوارتر خواهد شد. ما با پذیرفتن این عدمقطعیت، از راه پیشبرد محتاطانهٔ توانمندیها، استقرار تدریجی سامانهها و یادگیری از تعامل آنها با جهان، با این عدمقطعیت روبهرو میشویم.
مدت زیادی از زمانی نگذشته بود که بابت انتشار وزنهای GPT‑2 نگران بودیم، چون مطمئن نبودیم آثار آن بر جامعه چه خواهد بود. روشن است که در نگاه به گذشته آن نگرانی بجا نبود، اما همین نگرانی ما را به کشف راهبرد استقرار تدریجی رساند؛ راهبردی که یکی از مهمترین چیزهایی بوده که به آن رسیدهایم.
__
ما وارد مرحلهای بسیار اثرگذار میشویم، چون فناوری همچنان در حال بهبود است. کاملاً منصفانه است که در هر تصمیم از ما انتقاد شود؛ با توجه به اهمیت کاری که انجام میدهیم، سزاوار نظارتی بسیار گسترده هستیم. همهچیز را درست انجام نخواهیم داد، اما سریع یاد خواهیم گرفت و مسیر را اصلاح خواهیم کرد.
متعهدیم سهم خود را برای بهتر کردن آینده نسبت به گذشته انجام دهیم؛ خوششانس میدانیم که فرصت پرداختن به چنین کار مهمی را داریم.
