مکمل همیشگی
چرا ماشین‌های نابغه شاید بیشترین ارزش خود را در انجام کارهای یکنواخت نشان دهند.
یادداشت نویسندگان: این نخستین مقاله از مجموعهٔ ما دربارهٔ اقتصاد آینده است؛ بخشی از یک بستر جدید برای میزبانی از صداهای مستقل که آینده‌ای با AGI را بررسی می‌کنند. این مقاله بازتاب دیدگاه‌های ماست، نه دیدگاه‌های OpenAI یا همکارانمان.
بشریت توانسته است تقریباً تا آغاز زمان را ببیند.
معادلات ما روایتی عمدتاً منسجم از جهان، از نخستین لحظه‌های آن، به دست می‌دهند. با تلسکوپ‌هایمان به دوردست‌های کیهان نگریسته‌ایم و نگاهی به تاریخ آغازین آن انداخته‌ایم. از تولد ستاره‌ها و شکل‌گیری کهکشان‌ها آگاهیم.
اما هیچ انسانی تاکنون فراتر از ماه سفر نکرده است.
توضیحاتی که در پی آن‌ها هستیم سراسر جهان را در بر می‌گیرند، درحالی‌که جسم ما به‌زحمت از خانه بیرون رفته است. ذهن ما بسیار فراتر از جایی می‌رود که دستمان به آن می‌رسد.
این ناهمخوانی می‌تواند دو معنای بسیار متفاوت داشته باشد.
یک احتمال این است که لازم نباشد چندان دور برویم؛ شاید بتوان ژرف‌ترین حقیقت‌ها را از روی یک سیاره درک کرد. با تکیه بر استدلال روشن‌بینانه و ابزارهای کارآمد، بدون پیمودن جهان از رازهایش پرده برمی‌داریم. در این روایت، تمدن ما به‌جای گسترش در پهنا، با ژرف‌تر شدن پیش می‌رود. این می‌تواند توضیح دهد چرا حیات هوشمند دیگری ندیده‌ایم: شاید در کهکشانی پر از ذهن‌های درخشان زندگی می‌کنیم که هرگز نیازی به گسترش قلمرو خود و در نتیجه دیده‌شدن از سوی ما نداشته‌اند.
احتمال دوم هراس‌انگیزتر است. شاید ذهن ما صرفاً از توان اجرایی‌مان جلو زده باشد. هر گام بعدی زمان و منابع بیشتری می‌طلبد. کمبود رؤیا نداریم، اما نیروی انسانی لازم برای تحقق آن‌ها را نداریم.
گالیله با دو عدسی و یک لوله، افق دید ما را گسترش داد. امروز برای گسترش دوبارهٔ آن، بشریت تلسکوپ فضایی جیمز وب را ساخته است: رصدخانه‌ای ده‌میلیارددلاری که درون موشکی تا شد و به فاصلهٔ یک‌میلیون مایلی فرستاده شد. هجده قطعهٔ عظیم آینهٔ آن با دقت پنجاه نانومتر مهندسی شده‌اند. این رصدخانه حاصل کار سیصد سازمان در چهارده کشور بود. دستاورد گالیله به همکاری چند ده نفر نیاز داشت. وب به لشکری از نیروها نیاز داشت و اقتصادی جهانی که پشتیبانش باشد.
برای دیدن دورترها، فقط ذهن‌های درخشان‌تر لازم نبود. دیوان‌سالاری بزرگ‌تری هم لازم بود.
بیش از آنچه توان بررسی‌اش را داریم، پرسش مطرح می‌کنیم. بیش از آنچه توان انجامش را داریم، آزمایش طراحی می‌کنیم. امکان‌های خلاقانه را سریع‌تر از آنکه بتوانیم محققشان کنیم، در ذهن می‌پرورانیم. و در بسیاری از حوزه‌ها، هرچه جلوتر می‌رویم، ساختن آنچه تصور می‌کنیم پیچیده‌تر می‌شود.
نیک بلوم و همکاران نویسنده‌اش(در یک پنجره جدید باز می‌شود) بهره‌وری پژوهش را در سراسر اقتصاد آمریکا بررسی کردند. حفظ روند قانون مور اکنون به بیش از هجده برابر تعداد پژوهشگران اوایل دههٔ ۱۹۷۰ نیاز دارد. از دههٔ ۱۹۳۰ به بعد، تلاش مؤثر پژوهشی در کل اقتصاد بیست‌وسه برابر شده، درحالی‌که بهره‌وری اندازه‌گیری‌شدهٔ پژوهش به یک‌چهل‌ویکم کاهش یافته است.
تعداد تکنسین‌ها با سرعتی دو برابر(در یک پنجره جدید باز می‌شود) تعداد دانشمندان افزایش می‌یابد. استفاده از تجهیزات تخصصی در علم طی چهار دهه دو برابر(در یک پنجره جدید باز می‌شود) شده است. امروز یک کارخانهٔ ساخت تراشه نسبت به سی سال پیش پنج برابر پرهزینه‌تر(در یک پنجره جدید باز می‌شود) است و عملیات بسیار گسترده‌تری دارد.
این آمار از افزایش هزینهٔ پیشرفت بیشتر حکایت دارد. اقتصاد همچنان پیش می‌رود، زیرا گسترش عظیم فعالیت‌های پژوهشی، افت بازده هر واحد از آن را جبران کرده است.
این تاریخ باید نگاه ما به نبوغ را تغییر دهد: نباید آن را جدا از همه‌چیز دید، بلکه باید یکی از نهاده‌های فرایند تولید دانست. حتی یک فرضیهٔ درخشان هم به شواهد، ابزار و امکانات لازم برای آزمودنش نیاز دارد. ایده‌ای که تجهیزات و نیروی پشتیبان لازم برای تحققش را ندارد، هنوز پیشرفت محسوب نمی‌شود.
اقتصاددانان دو نهاده را زمانی مکمل می‌نامند که افزایش یکی، ارزش دیگری را بالا ببرد. هوش پیشرو و توان تحقق ایده‌های آن، به این معنا مکمل یکدیگرند. تلسکوپی بهتر، ارزش یک پرسش خوب در اخترشناسی را بیشتر می‌کند. پرسشی بهتر نیز تلسکوپ را ارزشمندتر می‌کند.
برخی مکمل‌ها مادی‌اند. یک نظریه منتظر شتاب‌دهندهٔ ذرات می‌ماند؛ یک طرح فناورانه منتظر انرژی و تجهیزات لازم برای ساختش.
دیدن مکمل‌های دیگر با چشم دشوارتر است. ایده به‌تنهایی شکننده است. به انواع نهادها نیاز دارد. قوانین، دیوان‌سالاری، سازوکارهای تأمین مالی، زنجیره‌های تأمین و بسیاری چیزهای دیگر دست‌به‌دست هم می‌دهند تا ایده اجرا شود.
یک ایدهٔ عالی باید از زنجیره‌ای طولانی از اقدام‌های درست در بخش‌های مختلف این نهادها عبور کند و دوام بیاورد. نام این را هوش نهادی بگذاریم: هوش بی‌نام‌ونشانِ اجرا. نبوغ بنای یادبود را طراحی می‌کند؛ نهادها سنگ‌هایش را می‌چینند. یکی درخشان است و دیگری ملال‌آور به نظر می‌رسد؛ هر دو کاملاً حیاتی‌اند.
گاهی ابرهوش را به شکل یک‌میلیارد اینشتین تصور می‌کنیم. اما تمدنی متشکل از یک‌میلیارد اینشتین همچنان نیاز دارد که بیشتر آن‌ها به استخراج سنگ از معدن و ادارهٔ حسابداری بپردازند. نوآوری پیشرو تنها زمانی ممکن می‌شود که دنیای عادی پیرامونش بی‌وقفه و هماهنگ کار کند. پیشرفت به همه نیاز دارد: از جوشکار پیچی که در تلسکوپ به کار می‌رود، تا بیمه‌گر دبستانی که پرستارِ درمان‌کنندهٔ اخترشناس در آن درس خوانده است. پیشرفت بر اقتصادی پویا و روان بنا می‌شود که در روایت بزرگ‌ترین دستاوردهایمان اغلب نادیده‌اش می‌گیریم.
هوش مصنوعی نیز مانند هوش انسان، هم در مسیر بینش‌های درخشان و هم در مسیر توانمندی نهادی به کار گرفته خواهد شد. پرسش این است که بیشتر وقت خود را صرف کدام خواهد کرد.
هوش مصنوعی همین حالا هم از کمبود توان اجرایی می‌کاهد. کد می‌نویسد، در پیشینهٔ پژوهشی حوزه‌ای ناآشنا جست‌وجو می‌کند و طرحی ابتدایی را به نمونهٔ اولیه‌ای عملی تبدیل می‌کند. ایده‌هایی که زمانی به یک سازمان کامل نیاز داشتند، هر روز بیشتر از پیش به دست یک فرد بلندپرواز قابل پیگیری می‌شوند.
بیشتر کسانی که رؤیای فیلم‌سازی دارند، هرگز دویست‌میلیون دلار دریافت نمی‌کنند تا بخت خود را بیازمایند. بیشتر طراحان بازی تمام عمر حرفه‌ای خود را صرف اجرای چشم‌اندازهای خلاقانهٔ دیگران می‌کنند. می‌کوشیم بااستعدادترین افراد را پیش ببریم، اما ناگزیر برخی استعدادها را از دست می‌دهیم. از این منظر، عصر هوش با تکمیل ابتکار انسان آغاز می‌شود و نیروی پشتیبان لازم برای ساختن ایده‌های خودمان را در اختیار شمار بیشتری از ما می‌گذارد.
این می‌تواند انبوهی از پروژه‌های خاص و شخصی پدید آورد و آثار خلاقانهٔ بیشتری بیرون از نهادهایی تولید شود که پیش‌تر تعیین می‌کردند چه کسی اجازهٔ فعالیت در آن حوزه‌ها را داشته باشد. نهادهٔ کمیاب از توان اجرا به ذوق و تشخیص منتقل می‌شود: توان تصمیم‌گیری دربارهٔ اینکه چه چیزی ارزش ساختن دارد، کدام پرسش ارزش پرسیدن دارد و کدام‌یک از هزار مسیر محتمل، شایستهٔ پیگیری است.
اما شاید این پایان داستان نباشد. وقتی هوش مصنوعی بتواند خود به بینش‌های تازه و درخشان برسد، امری که شاید همین حالا در حوزه‌هایی مانند ریاضی شاهدش باشیم، علاوه بر نیروی کار، برنامهٔ کار هم فراهم می‌کند. به‌جای اجرای یک برنامهٔ پژوهشی انسانی، هزاران برنامهٔ پژوهشیِ خودش را طراحی می‌کند. نابغه‌های هوش مصنوعی شمار ایده‌های سینمایی ارزشمند برای پرورش و فرضیه‌های ارزشمند برای آزمودن را به‌شدت افزایش می‌دهند. ایده‌ها سریع‌تر از ظرفیت جذب زیرساخت‌های پشتیبان فراوان می‌شوند.
هوش مصنوعی امروز فرصتی برای نفس‌کشیدن فراهم می‌کند که مدت‌ها منتظرش بودیم؛ فرصتی که در آن سرانجام ایده‌های خوبمان به حق خود می‌رسند. فردا شاید آن‌قدر ایدهٔ خوب وجود داشته باشد که بیش از هر زمان دیگری دچار کمبود توان اجرایی شویم.
در نهایت نمی‌دانیم مکمل‌های لازم برای بهره‌برداری مؤثر از بینش‌های تازه بیشتر خواهند شد، کمتر خواهند شد یا ثابت خواهند ماند. تنها با اندیشیدن، تا چه اندازه می‌توان پیشرفت فکری کرد؟ نبوغ به چه میزان دیوان‌سالاری نیاز دارد؟
به نظر ما، پاسخ به این بستگی دارد که اندیشه تا کجا می‌تواند پیش برود، پیش از آنکه دوباره ناگزیر به تماس با واقعیت شود.
ما دو مسیر احتمالی را شرح می‌دهیم. اولی تمدن عمق‌گرا است که در آن ابرهوش بر نیاز به سرمایهٔ فیزیکی بیشتر و هماهنگی دیوان‌سالارانه غلبه می‌کند. دومی تمدن گسترش‌گرا است که در آن پیچیدگی طبیعت از توان هر هوشی، انسانی یا ماشینی، برای پیشرفت بدون آزمایش‌های بزرگ و هرچه پیچیده‌تر در دنیای واقعی فراتر می‌رود.
تاریخ بشر تا اینجا از نیاز فزاینده به ظرفیت مکمل حکایت دارد. تلسکوپ گالیله در دستانش جا می‌گرفت؛ وب به یک تمدن نیاز داشت. گروهی کوچک در آزمایشگاه‌های بل، نخستین ترانزیستور را روی میز کار مونتاژ کردند؛ پیشرفت‌های پیشرو در تراشه‌ها امروز از زنجیرهٔ تأمین پیچیده‌ای در مقیاس جهانی حاصل می‌شوند. دستیابی به افق‌های دورتر، پیوسته بخش بیشتری از تمدن را به پشتیبانی خود می‌طلبد.
اما لزومی ندارد این گذشته، سرنوشت ما باشد. ذهن‌های هوشمند می‌توانند مکمل‌های کارآمدتری ابداع کنند. اگر انرژی گلوگاه یک شتاب‌دهندهٔ ذرات جدید باشد، نبوغ می‌تواند شتاب‌دهنده‌ای کم‌مصرف‌تر یا راه بهتری برای برداشت انرژی طراحی کند.
نبوغ همچنین می‌تواند جای برخی از مکمل‌های خود را بگیرد. اینشتین توانست با اتکا به داده‌های تجربی بسیار اندک، از راه تفکر به نسبیت برسد. ما به داده‌های بسیار بیشتری نیاز داشتیم. بعضی‌ها به‌سادگی همهٔ قرارهایشان را به خاطر می‌سپارند؛ بیشتر ما به دیوان‌سالاری تقویم Google تکیه می‌کنیم.
نبوغ می‌تواند قدرت تشخیص را نیز به اوج برساند: بهترین فرضیه‌ها را برای آزمودن برگزیند و از شکست‌های پرهزینه جلوگیری کند. اگر هر نابغهٔ اضافی کیفیت برنامه را بالاتر ببرد، حتی با نیاز به دیوان‌سالاری‌های هرچه بزرگ‌تر، باز هم روی نبوغ سرمایه‌گذاری هنگفتی خواهیم کرد؛ دقیقاً به این دلیل که اجرا آن‌قدر پرهزینه است که نباید صرف کار اشتباه شود.
هیچ‌یک از این دو مسیر آیندهٔ واقعی ما را به‌تمامی توصیف نمی‌کند، اما می‌توان آن‌ها را دو جهت احتمالی برای تمدنمان دانست.
هوش می‌تواند از سه راه دانش را پیش ببرد. می‌تواند بر پایهٔ اصول استدلال کند. می‌تواند از شواهد موجود بینش‌های تازه به دست آورد. یا می‌تواند با مشاهده و مداخله در جهان، شواهد تازه گرد آورد.
روش اول تنها با اندیشیدن می‌تواند راه درازی بپیماید. ریاضی ناب‌ترین نمونهٔ آن است. یک ذهن توانمند می‌تواند در دوراهی‌های فراوان یک اثبات یا پروژه، پیوسته تصمیم درست بگیرد. و به‌جای سال‌ها جست‌وجوی سردرگم، زنجیره‌ای کوتاه و هدفمندتر از استدلال بنشاند.
روش دوم نیز عرصه‌ای بکر برای پیشرفت سریع است. بشریت بسیار بیش از آنچه فهمیده، شواهد گرد آورده است. مطالعهٔ داده‌های ما، از تصاویر نجومی و لام‌های میکروسکوپی تا بخش نظرات آنلاین، با محدودیت ظرفیت هوش انسانی روبه‌رو بوده است. بایگانی‌های علمی مشاهداتی را در خود دارند که برای پاسخ به یک پرسش ثبت شده‌اند، اما ممکن است پاسخ پرسش‌های بسیار دیگری را نیز در بر داشته باشند. فراوانی نبوغ می‌تواند به کشف بینجامد، نه با گردآوری چیز تازه‌ای، بلکه با دیدن آنچه از قبل وجود داشته است. شاید بدون دریافت حتی یک فوتون تازه، جهانی تازه بیابد.
روش سوم چندان آسان نیست، زیرا ما را ملزم به تعامل با دنیای فیزیکی می‌کند. فرایندهای فیزیکی زمان می‌برند و اغلب کار چندانی برای سرعت‌بخشیدن به آن‌ها از دستمان برنمی‌آید. مواد شیمیایی باید واکنش دهند. جانداران باید رشد کنند. ماشین‌ها باید ساخته شوند. فضاپیماها باید با رعایت محدودیت‌های کیهانی سرعت، مسافت‌های واقعی را بپیمایند. حتی ذهنی بی‌نقص هم نمی‌تواند نتیجهٔ آزمایشی را مشاهده کند که هنوز انجام نشده است.
اما می‌تواند تلاش کند. تمدن عمق‌گرا از نیاز به رجوع به واقعیت رها نمی‌شود. بلکه این کار را به‌شکلی بنیادین کم‌هزینه‌تر انجام می‌دهد. استدلال بهتر، همان چند آزمایشی را شناسایی می‌کند که واقعاً اهمیت دارند. شبیه‌سازی‌ها پاسخ بیشتر مسائل را روشن می‌کنند و دقیقاً همان ابهامی را مشخص می‌کنند که واقعیت باید برطرفش کند. ابرهوش می‌تواند با طراحی متناسب با منابع محدودش، بیشترین بهره را از آن‌ها ببرد و کارایی را به حداکثر برساند.
آزمایشگاه اخترفیزیکی را تصور کنید که مجموعه‌ای از فرضیه‌ها دربارهٔ مادهٔ تاریک دارد. این فرضیه‌ها ابتدا با مدل‌سازی رایانه‌ای فوق‌واقع‌گرایانه بررسی می‌شوند. سازگاری هر نظریه با تمام داده‌های موجود سنجیده می‌شود. تنها پس از همهٔ این مراحل است که چند تصویر تازه و هدفمند از آسمان گرفته می‌شود تا نویدبخش‌ترین نظریه‌ها آزموده شوند. این تمدن همچنان به مکمل‌های نبوغ نیاز دارد، اما هر واحد از آن‌ها ارزش بسیار بیشتری تولید می‌کند.
مسیر ما به سوی تمدن عمق‌گرا شاید شبیه چیدن یک پازل باشد. پیشروی در آغاز آسان است، در پایان هم آسان است و در میانه از همه دشوارتر. ابتدا لبه‌های مشخص و قطعه‌هایی وجود دارند که به‌آسانی کنار هم می‌نشینند. سپس این‌ها تمام می‌شوند، درحالی‌که هنوز بخش آن‌قدر کوچکی از تصویر شکل گرفته که نمی‌تواند راهنمای ادامهٔ کار باشد. نزدیک پایان، جاهای خالی تقریباً خودشان می‌گویند چه قطعه‌ای باید در آن‌ها قرار بگیرد. علمی که نزدیک به تکمیل است شاید به کشف‌های نهایی‌اش آسان‌تر از کشف‌هایی برسد که امروز برایشان تقلا می‌کنیم.
این الگویی آشنا در علم است. مندلیف می‌توانست عناصر کشف‌نشده را توصیف کند، زیرا بقیهٔ جدول تناوبی، ویژگی‌های بخش‌های خالی را محدود می‌کرد. مدل استاندارد به فیزیک‌دانان دلیلی داد تا دهه‌ها پیش از مشاهدهٔ بوزون هیگز، وجود آن را انتظار داشته باشند. آزمایش‌های ما هدفمند طراحی شدند تا چیزی را بیابند که انتظار دیدنش را داشتیم؛ چیزی سازگار با نظریه و داده‌های موجود.
ابرهوش شاید با درک چنان عمیقی از الگوهای جهان که دقیقاً بداند به چه داده‌های تازه‌ای نیاز دارد، تمدنی عمق‌گرا پدید آورد. این تمدن پیشرفت را با اندیشهٔ عمیق‌تر پیش می‌برد، نه با تکیه بر روند کند گسترش فیزیکی.
اگر این افزایش کارایی دست بالا را پیدا کند، تمدن می‌تواند به‌سرعت تسلط خود بر طبیعت را عمیق‌تر کند و برای ادارهٔ تجهیزات آزمایشی عظیم و تازه، نیاز کمتری به هوش نهادی داشته باشد. گسترهٔ فیزیکی آن شاید کوچک بماند، درحالی‌که خردش پخته‌تر می‌شود.
ما انسان‌ها همین حالا هم بدون ترک خانه، چیزهای بسیاری دربارهٔ جهانمان فهمیده‌ایم. تمدن عمق‌گرا ادامهٔ همین سنت خواهد بود.
اما تقاضا برای شواهد تازه می‌تواند از این افزایش کارایی پیشی بگیرد. هوش شاید هر بار رجوع به واقعیت را ارزان‌تر کند، اما هم‌زمان دلایل بسیار بیشتری برای رجوع به آن بیابد. ابزارهای بهتر، مرزهای ظریف‌تر دانش را می‌گشایند. آزمایش‌های سریع‌تر می‌توانند انجام آزمایش‌های بیشتر را ارزشمند کنند.
اگر مسیر تقریباً سراسر ذهنی اینشتین به نظریه‌های نسبیتش نمونهٔ تمدن عمق‌گرا باشد، شاید زیست‌شناسی بهترین پیش‌نمای تمدن گسترش‌گرا باشد. با وجود تمام دانشی که اندوخته‌ایم و همهٔ داده‌هایی که به کار گرفته‌ایم، داروهای تازه هنوز باید روی شمار زیادی از انسان‌ها آزمایش شوند تا بدانیم ایمن و مؤثرند. ماشین‌ها اکنون می‌توانند فرایندهای زیستی را شبیه‌سازی کنند و به زیست‌شناسان امکان دهند داروهای تازه را به‌جای آزمایش‌های فیزیکی، در محیط رایانه‌ای بیازمایند؛ اما این شبیه‌سازی‌های دیجیتال آن‌قدر به دنیای واقعی وفادار نیستند که جای کارآزمایی‌های انسانی گسترده را بگیرند. هرچه ماشین گزینه‌های دارویی بیشتری پیشنهاد کند، آزمون تجربی به گلوگاه بزرگ‌تری بدل می‌شود.
در تمدن گسترش‌گرا، نبوغ به‌تنهایی برای پیشرفت کافی نیست. نیاز ما به منابع فیزیکی و دیوان‌سالاری لازم برای مدیریت مصرف آن‌ها، سریع‌تر از توان یک ذهن هوشمند برای صرفه‌جویی در هرکدام رشد می‌کند.
حتی اگر سامانه‌های هوش مصنوعی آینده بسیار فراتر از هوش انسان بروند، شاید مسیر ما همین باشد. یک ابرهوش می‌تواند در یک بعدازظهر به‌اندازهٔ یک قرن آزمایش طراحی کند، سپس آن قرن را در انتظار طبیعت و ماشین‌ها بگذراند تا کار را به انجام برسانند. در چنین جهانی، به‌کارگیری هوش در فرایندهای نهادی لازم برای اجرای ایده‌ها ارزشمندتر از صرف آن برای خود ایده‌پردازی می‌شود.
اگر هر گام بعدی به زیرساخت پشتیبان بیشتری نیاز داشته باشد، این اثر تشدید خواهد شد.
در اینجا سهم اندیشیدن کمتر و سهم ساختن بیشتر خواهد بود. آزمایشگاه‌ها خودکار می‌شوند. کارخانه‌ها بیشتر می‌شوند. تولید انرژی افزایش می‌یابد. هوش نهادی برای تحقق همهٔ این‌ها نقش غالب را بر عهده می‌گیرد. گسترش فیزیکی به موتور دانش بدل می‌شود و تمدن گسترش می‌یابد، زیرا پرسش‌هایش از امکانات دستیابی به پاسخ فراتر رفته‌اند. مواد بیشتر، انرژی بیشتر و داده‌های بیشتر برای ادامه‌دادن.
کرهٔ دایسون تصویری از این آینده در نهایت ابعاد آن است. طراحی چنین کره‌ای به دستاوردهایی خارق‌العاده نیاز دارد، اما بخش عمدهٔ پروژه صرف اندیشه‌های نوآورانه نخواهد شد. بخش عمدهٔ آن ساخت‌وساز و تدارکات در مقیاسی نجومی خواهد بود.
تهیهٔ نقشهٔ کرهٔ دایسون به ذهن‌های درخشان نیاز دارد. درعین‌حال، این یکی از تکراری‌ترین و یکنواخت‌ترین پروژه‌های تاریخ خواهد بود که سازمان‌دهی آن نیز از دشوارترین‌هاست.
این نشانهٔ شکست هوش نیست، بلکه پیامد موفقیت آن است. ذهن‌های درخشان‌تر پروژه‌های ارزشمند بیشتری کشف می‌کنند؛ پروژه‌های پیچیده‌تر نیز برای اجرا به مادهٔ بیشتری نیاز دارند.
اگر چنین باشد، شاید قدرت خارق‌العادهٔ ابرهوش نه در نبوغ آن، بلکه در آمادگی‌اش برای بر عهده گرفتن نقش دیوان‌سالاری باشد: هماهنگ‌کردن دستگاه عظیم فناوری و نهادهایی که برای تبدیل ایده‌ها به واقعیت در مقیاس‌هایی هرچه بزرگ‌تر لازم‌اند.
تقریباً تمام هوش ماشینی نه برای انجام کارهای درخشان، بلکه برای کارهای ملال‌آور به کار گرفته خواهد شد.
آن‌گاه محدودیت‌هایی که طبیعت بر سرعت گسترش فیزیکی تحمیل می‌کند، ممکن است به گلوگاه پیشرفت بیشتر بدل شوند. ساخت تجهیزات بهره‌برداری از انرژی یک ستاره، هرقدر هم نقشه‌هایش سریع آماده شوند، پروژه‌ای در دنیای مادی است. ورای آن، ستاره‌ها و کهکشان‌های دیگری قرار دارند و فاصله، تا جایی که می‌دانیم، خود محدودکنندهٔ سرعت است: هیچ فضاپیمایی نمی‌تواند سریع‌تر از نور سفر کند و هیچ سیگنالی نمی‌تواند سریع‌تر از نور بازگردد. تمدن گسترش‌گرا، تمدنی کند است. ممکن است میان دگرگونی‌های بزرگ آن هزاران سال، و شاید میلیون‌ها سال، فاصله بیفتد. هر گام بعدی زمان بیشتری می‌برد.
انقلاب‌های کشاورزی و صنعتی در قیاس با آن، آغازی پرشتاب برای تاریخی بسیار طولانی‌تر با آهنگ پیشرفتی بسیار کندتر به نظر خواهند رسید.
کاملاً ممکن است سامانه‌های هوش مصنوعی آینده، هم در ارائهٔ بینش‌های پیشرو و هم در هماهنگ‌کردن منابع لازم برای کاربردی‌کردن آن بینش‌ها، از انسان پیشی بگیرند. اما این احتمال از اهمیت کنجکاوی انسان نمی‌کاهد.
نخست اینکه وظیفهٔ ما برای جست‌وجوی آگاهی پابرجاست، حتی اگر به نظر برسد ماشین‌ها در این کار بهترند. شاید همین حالا هم در جهان ذهن‌هایی بسیار خردمندتر از ما وجود داشته باشند که پاسخ پرسش‌های علمی و اخلاقی فراتر از درک ما را بدانند. بااین‌حال، ما همچنان می‌کوشیم خودمان جهان را بفهمیم. ظهور هوشی دیگر، حتی هوشی که خودمان بسازیم، این واقعیت را تغییر نمی‌دهد. تا زمانی که با قطعیت ندانیم بشریت دیگر هیچ سهم منحصربه‌فردی برای عرضه ندارد، دست‌کشیدن از تلاش یعنی هدر دادن هرآنچه تنها ما می‌توانیم به جهان بیفزاییم. وظیفهٔ ما همچنان پرسیدن و تلاش برای پاسخ‌دادن است.
دوم اینکه شاید در هوش پیشرو، در مقایسه با هوش نهادی، مزیت نسبی داشته باشیم. یعنی حتی اگر در هر دو ضعیف‌تر باشیم، در اولی نسبتاً بهتریم و در آن تخصص پیدا می‌کنیم. انسان‌ها ترجیح می‌دهند خلاق باشند تا گرفتار روزمرگی، اما ربات‌ها چنین ترجیحی ابراز نمی‌کنند.
سوم اینکه از تنوع سود می‌بریم. حتی اگر ماشین‌ها بتوانند بیشتر شیوه‌های تفکر انسان را تقلید کنند، تا زمانی که قدری منحصربه‌فرد بمانیم، به تنوع خلاقانه می‌افزاییم. بخش عمدهٔ هوش ماشینی در دستگاه خودگردان خودش باقی خواهد ماند، اما بخش کوچکی از آن را ما در خدمت خواسته‌های خلاقانه‌مان به کار خواهیم گرفت. سهمی ناچیز از کل، اما برای مقیاس کار ما بسیار فراوان و به‌مراتب بیشتر از منابعی که امروز داریم.
ابتکار به‌تنهایی شکوفا نمی‌شود. به جهان نیاز دارد و نبوغ نیز برای تحقق چشم‌انداز خلاقانه‌اش به سازندگان نیازمند است.
امروز بخش عمدهٔ هوش انسان صرف کارهای بی‌نام‌ونشانی می‌شود که ایده‌ها را به واقعیت تبدیل می‌کنند. ذهن‌های ماشینی همین وابستگی را به ارث خواهند برد. همهٔ آن‌ها نمی‌توانند چهره‌های درخشان باشند. باید دیوان‌سالار هم باشند.
داستان آیندهٔ ما و آهنگ پیشرفت آن به این بستگی دارد که آیا ذهن‌های بزرگ به سهم بیشتری از جهان نیاز پیدا می‌کنند، یا با منابع کمتر کار بیشتری انجام می‌دهند.
- ۲۰۲۶
- اقتصاد آینده
