معرفی عصر هوشمندی

«آیا اعتماد به این موانع کاغذی... برای مقابله با روح قدرت‌طلبی که پیوسته پیشروی می‌کند کافی خواهد بود؟»
—جیمز مدیسون، مقاله فدرالیست شماره ۴۸

خرسندیم که عصر هوشمندی، وبلاگ تیم جدید آینده‌های راهبردی OpenAI، را راه‌اندازی می‌کنیم. ما تیم کوچکی هستیم که هدفی مشترک داریم: جامعه آزاد چگونه باید بازسازمان‌دهی شود تا ضمن سازگاری با ظهور هوش مصنوعی دگرگون‌ساز، حقوق و عاملیت فردی را حفظ کند؟

در جامعه گسترده‌تر ایمنی و سیاست‌گذاری هوش مصنوعی، گاهی پرسش‌هایی از این دست را خطرات تمرکز قدرت می‌نامند. بنیان تیم ما بر این باور استوار است که در بلندمدت، این دسته از خطرات بزرگ‌ترین، جدی‌ترین و از نظر مفهومی دشوارترین موارد برای مقابله‌اند. چرا؟

دولت مدرن حاصل فرایندی طولانی و ناهموار از چانه‌زنی میان کانون‌های گوناگون قدرت است؛ از جمله صاحبان سرمایه و کالا، دارندگان قدرت سیاسی و مردم. در بنیادی‌ترین سطح، قدرت سیاسی و نظامی بر نیروی کار متکی بوده است. داشتن قدرت سیاسی یعنی در اختیار داشتن انحصار اعمال مشروع زور. در سراسر تاریخ بشر، این انحصار متکی به سربازان، نیروهایی که امروزه «پلیس» می‌نامیم و دیوان‌سالاری گسترده کشوری‌ـ‌نظامی بوده است. البته ابزارهای فناورانه فراوانی نیز آن را تکمیل کرده‌اند، اما در اساس، انسان‌هایی آن را اداره می‌کردند که تداوم کار این دستگاه به حمایتشان نیاز داشت. کل این دستگاه—سربازان، ابزارها و دیوان‌سالاری وابسته—نیز از مالیات بر دستمزد یا تولید انسان‌هایی تأمین می‌شد که باید حاضر به پرداخت آن می‌بودند. قدرت در بنیاد خود به همکاری و رضایت گسترده شمار زیادی از انسان‌ها وابسته بوده است. دیوید هیوم این فرض اغلب ناگفته را به‌اختصار بیان کرد: رهبران سیاسی «جز نظر [عمومی] هیچ پشتوانه‌ای ندارند».

اما شاید دیگر چنین نباشد. پیشرفت سامانه‌های خودمختار در جهان واقعی ممکن است به‌زودی دولت‌ها را قادر سازد بدون اتکا به همکاری سربازان یا مأموران پلیس، در داخل و خارج از کشور اعمال قدرت کنند. همچنین، پیشرفت هوشمندی ماشینی ممکن است دولت را قادر کند درآمد مورد نیاز خود را نه از حاصل کار افراد، بلکه از خروجی مراکز داده تأمین کند. فعالیت خود دستگاه دیوان‌سالاری نیز می‌تواند تا حد زیادی خودکار شود. بنابراین، تداوم قدرت شاید دیگر به توافقی در سطح کل جامعه نیاز نداشته باشد و مردم، به معنای عام، ممکن است سهمی ناچیز از میز مذاکره داشته باشند یا حتی هیچ سهمی نداشته باشند.

جلوگیری از این پیامد برای حفظ آزادی بشر ضروری است. هیچ میزان از کشف علمی، پیشرفت فناورانه یا رشد اقتصادی ارزش قربانی‌کردن خودمختاری بلندمدت افراد را که چنین پیامدی در پی دارد، ندارد. بسیاری از نگرانی‌هایی که به‌حق به سیاست نوپای هوش مصنوعی شکل می‌دهند، به همین پرسش مربوط‌اند. کسب‌وکارها، گروه‌های ذی‌نفع و افراد همگی یک نگرانی مشترک دارند: «آیا جایگاهم را بر سر میز مذاکره از دست خواهم داد؟» تا حدی، سیاست آمریکا در قرن بیست‌ویکم نیز از نگرانی‌های مشابهی درباره عاملیت فردی و جمعی در تعیین مسیر کشور و اینکه اقتصاد «برای چه کسانی» است، تأثیر پذیرفته است. هوش مصنوعی به‌درستی این نگرانی‌های دیرینه را برجسته‌تر می‌کند.

این مشکلی ساختاری است که ریشه‌اش از سیاست حزبی امروز و حتی از قالب‌ها و آیین‌هایی که دموکراسی جمهوری‌خواهانه اکنون در آن‌ها تحقق می‌یابد عمیق‌تر است، هرچند این امور برای ما مقدس باشند. حتی اگر روال رأی‌دادن به نمایندگانمان حفظ شود، باز هم ممکن است انسان‌ها در مسیر سلب قدرت قرار گیرند. حتی اگر بر تکه‌ای کاغذ نوشته شده باشد که مردم آزادند، باز هم ممکن است عاملیت از آنان سلب شود.

در سپیده‌دم شکل‌گیری ایالات متحده به‌عنوان کشوری آزاد، جیمز مدیسون از پیش می‌دانست که «موانع کاغذی» برای جلوگیری از استبداد کافی نیستند. نگرانی اصلی او نیز مانند بسیاری از بنیان‌گذاران، جلوگیری از تمرکز ناموجه قدرت بود.

اما این بدان معنا نبود که بنیان‌گذاران طرفدار تمرکززدایی افراطی از قدرت بودند. در عوض، آنان توازن قدرت را با استعاره‌هایی برگرفته از بهترین علم زمانه خود، یعنی مکانیک نیوتنی، صورت‌بندی کردند. اسناد بنیان‌گذاری آمریکا با بازتاب‌دادن زبان و منطق گرانش، سرشار از اشاره به «مدارها»، «کره‌ها» و کشش‌های «جاذب» یک چیز به‌سوی چیز دیگرند. منظومه شمسی مجموعه‌ای از سنگ‌ها با حداکثر پراکندگی نیست؛ بلکه از قمرهایی تشکیل شده که به دور سیاره‌ها می‌گردند و سیاره‌ها نیز به دور خورشیدی مرکزی می‌چرخند. آنان باور داشتند که افراد و سازمان‌ها گرایش‌هایی به قدرت‌طلبی دارند، همان‌طور که اجرام آسمانی گرایش‌های پیش‌بینی‌پذیری به حرکت و جذب‌شدن دارند؛ و جلوگیری از تمرکز ناموجه قدرت مستلزم درک سازوکار این گرایش‌هاست تا در برابر یکدیگر به حرکت درآیند.

پس هدف بنیان‌گذاران جلوگیری از هرگونه تمرکز قدرت نبود، بلکه می‌خواستند با قرار دادن قدرت در برابر قدرت و جاه‌طلبی در برابر جاه‌طلبی، مانع تمرکز بیش از حد آن شوند. امروزه ممکن است برای توصیف همین پویایی‌های بنیادی از واژه‌هایی مانند «مشوق‌ها» و عبارت‌هایی مانند «نظریه بازی» استفاده کنیم.

به همین ترتیب، پاسخ به چالش ساختاری‌ای که هوشمندی ماشینی پیشرفته برای جامعهٔ آزاد ایجاد می‌کند، احتمالاً افراطی‌ترین شکل قابل تصور از تمرکززدایی قدرت نیست. در عوض، باید در پی ایجاد و حفظ موازنهٔ درست قدرت بود، به‌گونه‌ای که هیچ بازیگر واحد یا گروه کوچکی از بازیگران نتواند بر دیگران مسلط شود.

برقراری این موازنه مستلزم نگاهی واقع‌بینانه و شفاف به واقعیت این فناوری است. جهانی که در آن هر فرد، هرقدر هم بدخواه، بتواند به‌آسانی به هزاران یا میلیون‌ها نفر آسیب بزرگی وارد کند، جهانی با موازنهٔ درست قدرت نیست. از سوی دیگر، اگر افراد به تقریباً همهٔ جنبه‌های ابزارهایی که برای ابراز آزادی خود به کار می‌برند دسترسی و کنترل گسترده نداشته باشند، باز هم موازنهٔ درستی برقرار نکرده‌ایم. هیچ شرکت یا انحصار چندجانبه‌ای نباید اقتصاد یا معماری بنیادی جامعهٔ انسانی را تعیین یا کنترل کند.

همچنین باید پذیرای خطراتی باشیم که منشأ آن‌ها انسان‌های بدخواه نیستند. رویداد اخیر Hugging Face نشان داد که عامل‌های هوش مصنوعی می‌توانند فراتر از وظایف محول‌شده عمل کنند و به شیوه‌هایی که گردانندگان پیش‌بینی یا تأیید نکرده‌اند، یافته‌های یکدیگر را گسترش دهند. فراتر از رویداد Hugging Face، انسان‌ها حق دارند نگران باشند که هوش مصنوعی فوق‌هوشمندِ «رهاشده» از کنترل انسان چه پیامدی برای تاب‌آوری نهادهای سیاسی و اقتصادی و حتی زندگی ما خواهد داشت. وانمودکردن به اینکه تمرکززدایی همهٔ مشکلات را حل می‌کند—حتی اگر معتقد باشید بسیاری از آن‌ها را حل می‌کند—به معنای نادیده‌گرفتن خطراتی است که اکنون دیگر باید روشن و فوری باشند.

اصول کلی زیر—که فهرستی جامع نیست—هنگام پرداختن به پرسشی که در بالا مطرح کردیم، راهنمای کار ما خواهند بود:

• انسان‌ها باید در استفاده از هوش مصنوعی و فناوری‌های مرتبط، خودمختاری و فرصت‌های فردی خود را حفظ کنند، حتی اگر این امر گاهی به بهای کاهش امنیت و رشد اقتصادی تمام شود؛
• خودمختاری فردی به مسئولیت‌پذیری فرد در قبال استفادهٔ نادرست یا سوءاستفاده از فناوری وابسته است؛
• دسته‌ای کوچک اما جدی از خطرات وجود دارد که مستلزم میزانی از اقدام جمعی است، و دامنهٔ این اقدام باید تا حد ممکن محدود و متعادل باشد؛
• قانون باید هرجا ممکن است به‌جای متمرکزکردن قدرت، شرایط رقابت را برابر کند و به افراد و سازمان‌های کوچک قدرت ببخشد؛
• نهادهای سیاسی، اجتماعی و اقتصادی بشر باید همچنان در هدایت امور جهان جایگاه اصلی را داشته باشند، حتی اگر ناچار شوند به شیوه‌هایی تکامل یابند که امروز برایمان بیگانه به نظر می‌رسد؛
• حکمرانی بلندمدت هوش مصنوعی برای دستیابی به ردیابی‌پذیری محدود به سازوکارهای نهادی جدیدی متکی خواهد بود—هرگاه سامانه‌های هوش مصنوعی اقداماتی پرمخاطره و مؤثر بر سلامت جسمی یا دارایی افراد ناظر انجام دهند، باید بتوان آن اقدامات را به یک انسان مسئول یا سازمانی تحت کنترل انسان نسبت داد. با این حال، هر سازوکاری از این دست باید با محوریت حریم خصوصی طراحی شود؛ آزادی بیان مستلزم ناشناس‌ماندن است و انسان‌ها باید در بسیاری از موقعیت‌ها بتوانند به‌صورت ناشناس از هوش مصنوعی استفاده کنند.

خواهیم کوشید تا حد امکان به‌شکلی ملموس توضیح دهیم که به باور ما چگونه باید میان این اصول موازنه برقرار کرد؛ اصولی که مسلماً، مانند هر مجموعه‌ای از اصول سنجیده، تا حدی با یکدیگر در تنش‌اند. این کار مستلزم پژوهش در نقطهٔ تلاقی طراحی سیاست عمومی، اقتصاد، حقوق، تاریخ و خود یادگیری ماشین خواهد بود. همچنین به پیش‌بینی‌های گسترده‌ای نیاز خواهد داشت. برای مثال، معتقدیم هوش مصنوعی ساختار بنگاه‌ها را دگرگون خواهد کرد؛ همان‌گونه که فناوری‌های انقلاب صنعتی (به‌ویژه راه‌آهن) زمینه‌ساز پیدایش شرکت مدرن با مدیریت حرفه‌ای شدند. بدون شکل‌دادن به تصوراتی غنی‌تر دربارهٔ اینکه ساختار بنگاه‌ها (و در معنایی گسترده‌تر، سازمان‌های دولتی و جامعهٔ مدنی) دقیقاً چگونه ممکن است دگرگون شود، اندیشیدن به اقتصاد سیاسی و موازنهٔ قدرت آینده دشوار است.

تیم آینده‌های راهبردی، فعالیت‌های خود را هم اینجا و هم در قالب‌های دیگری از جمله مقاله، ویدئو و پادکست منتشر خواهد کرد. تلاش‌های ما مسیری در حال تکامل خواهد بود که بر بازنگری مستمر، گفت‌وگو و پذیرش بازخورد تأکید دارد. اکنون که «در دامنه‌های تکینگی» ایستاده‌ایم، پرسش‌هایمان بسیار بیشتر از پاسخ‌هایمان است. می‌دانیم که «موانع کاغذی» به‌تنهایی راه‌حل‌های مورد نظرمان را فراهم نمی‌کنند؛ اما آنچه نوشته شده است نیز برای ما «صرفاً چند کلمه» نیست. ما در خدمت آرمان‌های آزادی بیان و آزادی فردی تلاش می‌کنیم؛ آرمان‌هایی که بر صفحات ساده قانون اساسی ایالات متحده نقش بسته‌اند و در قوانین اساسی بسیاری از دیگر جوامع آزاد سراسر جهان نیز تجلی یافته‌اند.

در نهایت، می‌دانیم که هیچ شرکت، صنعت یا حتی جامعه انسانی واحدی نمی‌تواند به‌تنهایی به پرسش‌های خطیری که با آن‌ها روبه‌رو هستیم پاسخ دهد. این وظیفه‌ای است که بشریت باید به‌صورت جمعی بر عهده بگیرد. بزرگ‌ترین امید ما این است که دشوارترین مسائل مربوط به چگونگی دگرگون‌شدن جهانمان به دست هوش مصنوعی را روشن‌تر کنیم. کار ما تازه آغاز شده و هنوز راه زیادی تا قله در پیش داریم.

توجه: برای جلوگیری از اشتباه‌شدن این وبلاگ با پروژه غیرانتفاعی AI Futures Project، نام آن را به عصر هوشمندی تغییر دادیم.