Мәңгілік толықтырушы күш

Авторлар ескертпесі: Бұл — келешек экономикасы туралы эсселер топтамамыздың алғашқысы. Топтама AGI болашағын зерттейтін тәуелсіз авторларға сөз беретін жаңа платформаның бір бөлігі. Мұнда OpenAI не әріптестеріміздің емес, өз көзқарасымыз баяндалған.

Адамзат уақыттың басталуына дейін дерлік көз жүгіртті.

Біздің теңдеулеріміз ғаламның алғашқы сәттерінен бергі тарихын негізінен өзара үйлесімді түрде сипаттайды. Телескоптарымыз арқылы ғарыштың қиыр шетіне көз салып, оның ерте тарихын шолдық. Жұлдыздардың тууы мен галактикалардың қалыптасуы туралы білеміз.

Бірақ бірде-бір адам Айдан әрі барған емес.

Іздеген жауаптарымыз бүкіл ғаламды қамтиды, ал өзіміз туған мекенімізден енді ғана ұзай бастадық. Ақыл-ойымыз қолымыз жететін жерден әлдеқайда алысқа самғайды.

Бұл алшақтық бір-бірінен мүлде бөлек екі нәрсені білдіруі мүмкін.

Бір ықтималдық — бізге тым алысқа барудың қажеті жоқ: ең терең ақиқаттарды бір ғана ғаламшардан танып-білуге болар. Терең білімге сүйенген ой қорыту мен тиімді құралдардың көмегімен ғаламды шарламай-ақ сырын ашамыз. Бұл жағдайда өркениетіміз кеңею арқылы емес, тереңдеу арқылы дамиды. Бұл өзге саналы тіршілікті неге көрмегенімізді түсіндіруге көмектесер еді: бәлкім, біз кеңеюге, сөйтіп көзімізге түсуге мұқтаж болмаған данышпан ақыл-ойға толы галактикада тұратын шығармыз.

Екінші ықтималдық көбірек алаңдатады. Ақыл-ойымыз іске асыру мүмкіндігімізден жай ғана озып кеткен болуы мүмкін. Әр келесі қадам көбірек уақыт пен ресурс талап етеді. Арманымыз көп, бірақ оны жүзеге асыратын жұмыс күші жетіспейді.

Галилей екі линза мен бір түтік арқылы көру өрісімізді кеңейтті. Ал бүгінде оны одан әрі кеңейту үшін адамзат құны он миллиард долларлық Джеймс Уэбб ғарыш телескобын жасады. Бұл обсерваторияны зымыран ішіне бүктеп орналастырып, миллион миль қашыққа ұшырды. Оның он сегіз алып айна сегменті елу нанометр дәлдікпен жасалған. Обсерватория он төрт елдегі үш жүз ұйымның еңбегімен дүниеге келді. Галилейдің еңбегіне бірнеше ондаған адамның қолғабысы қажет болды. Ал Уэббке тұтас бір еңбек армиясы және оған тірек болатын әлемдік экономика керек болды.

Алысырақ көру үшін тек ұшқыр ақыл-ой жеткіліксіз еді. Оған ауқымдырақ бюрократиялық аппарат қажет болды.

Қоятын сұрақтарымыз зерттей алатынымыздан көп. Жоспарлайтын тәжірибелеріміз жүргізе алатынымыздан көп. Шығармашылық мүмкіндіктерді жүзеге асырып үлгергеннен жылдамырақ ойлап табамыз. Көптеген салада ілгерілеген сайын, ойымыздағыны жасау күрделене түседі.

Ник Блум және оның бірлескен авторлары⁠(жаңа терезеде ашылады) Америка экономикасындағы зерттеу өнімділігін зерделеді. Мур заңының қарқынын сақтау үшін қазір 1970-жылдардың басындағыдан он сегіз еседен астам көп зерттеуші қажет. 1930-жылдардан бері бүкіл экономика бойынша зерттеуге жұмсалған тиімді күш-жігер жиырма үш есе артқан, ал өлшенген зерттеу өнімділігі қырық бір есе төмендеген.

Техникалық мамандар саны ғалымдар санынан екі есе жылдам өсіп келеді⁠(жаңа терезеде ашылады). Төрт онжылдықта ғылымда арнайы жабдықтарды пайдалану екі есе артты⁠(жаңа терезеде ашылады). Қазіргі чип зауыты отыз жыл бұрынғыдан бес есе қымбат⁠(жаңа терезеде ашылады) әрі өндірістік құрылымы әлдеқайда ауқымды.

Бұл статистика одан арғы ілгерілеудің құны өсіп жатқанын аңғартады. Экономика әлі де дамып келеді, өйткені зерттеу қызметінің орасан кеңеюі оның әр бірлігінен алынатын нәтиженің азаюын өтеп отыр.

Бұл тарих данышпандыққа басқаша қарауға жетелейді: оны оқшау құбылыс емес, өндіріс процесінің бір ресурсы ретінде қарастыру керек. Керемет гипотезаның өзіне де айғақ, аспаптар және оны тексеретін құралдар қажет. Идеяны іске асыратын техника мен көмекші мамандар болмаса, ол әлі ілгерілеу емес.

Экономистер бір ресурстың көбеюі екіншісінің құндылығын арттырса, оларды өзара толықтырушы ресурстар деп атайды. Озық интеллект пен оның идеяларын жүзеге асыру мүмкіндігі осы мағынада бірін-бірі толықтырады. Жақсырақ телескоп астарлы астрономиялық сұрақтың құндылығын арттырады. Ал жақсырақ сұрақ телескоптың құндылығын арттырады.

Толықтырушы ресурстардың кейбірі материалдық сипатта болады. Теория бөлшектер үдеткішін күтеді; технологиялық жоба оны жасауға қажет энергия мен техниканы күтеді.

Өзге толықтырушы ресурстарды көзбен көру қиынырақ. Жеке тұрған идея — осал нәрсе. Оған сан алуан институттар қажет. Идеяны жүзеге асыру үшін заңдар, бюрократия, қаржыландыру тетіктері, жеткізу тізбектері және басқа да көптеген жүйе бірлесе әрекет етеді.

Ұлы идея осы институттарда әр деңгейде жасалатын дұрыс әрекеттердің ұзақ тізбегінен аман өтуі керек. Мұны институционалдық интеллект деп атайық: іске асыруға жұмсалатын, көп дәріптелмейтін интеллект. Данышпан ескерткішті жобалайды, ал институттар тасын қалайды. Бірі ғажап, екіншісі іш пыстыратындай көрінеді; бірақ екеуі де аса маңызды.

Біз кейде суперинтеллектіні миллиард Эйнштейнге теңеп елестетеміз. Бірақ миллиард Эйнштейннен тұратын өркениеттің өзінде олардың көпшілігіне карьерде тас қазып, бухгалтерлік есеп жүргізуге тура келеді. Озық инновация айналасындағы күнделікті тіршілік іркіліссіз жұмыс істегенде ғана мүмкін болады. Ілгерілеуге бәрі атсалысады: телескопқа орнатылатын бұранданы дәнекерлеушіден бастап, астрономды емдеген мейіргер оқыған бастауыш мектептің сақтандырушысына дейін. Ілгерілеудің негізінде үздіксіз жұмыс істейтін экономика жатыр. Біз ұлы жетістіктеріміз жайлы әңгімелерде оны жиі елемейміз.

Адам интеллектісі сияқты, ЖИ де тың идеялар табуға әрі институционалдық міндеттерді шебер орындауға бағытталады. Мәселе — уақытының басым бөлігін қайсысына жұмсайтынында.

ЖИ қазірдің өзінде іске асыру мүмкіндігінің тапшылығын азайтып жатыр. Ол код жазады, бейтаныс саладағы әдебиетті іздеп шығады, нобайды жұмыс істейтін прототипке айналдырады. Бұрын тұтас ұйымды қажет еткен идеяларды енді жалғыз талапты адамның қолға алуы жиілеп келеді.

Кинорежиссер болуға ұмтылғандардың көбіне бағын сынау үшін екі жүз миллион доллар ешқашан берілмейді. Ойын дизайнерлерінің көбі бүкіл еңбек жолын өзгенің шығармашылық ойын жүзеге асырумен өткізеді. Біз ең дарынды адамдарға жол ашуға тырысамыз, бірақ кейбір талантты бәрібір байқамай қаламыз. Осы тұрғыдан қарасақ, интеллект дәуірі адамның өнертапқыштығын толықтырудан басталады: өз идеясын жүзеге асыруға қажет көмекші мамандар бұрынғыдан көп адамға қолжетімді болады.

Бұл өзіндік сипаты бар көптеген жобаның тууына әкелуі мүмкін. Бұрын осы салаларға кімнің кіре алатынын айқындаған институттардан тыс жасалатын шығармашылық жұмыс көбейеді. Тапшы ресурс енді іске асыру қабілетінен талғамға ауысады: не жасауға тұрарлық, қандай сұрақ қою керек, мыңдаған қисынды бағыттың қайсысын таңдаған жөн екенін ажырату қабілеті маңызды болмақ.

Бірақ оқиға мұнымен аяқталмауы мүмкін. ЖИ өздігінен тамаша жаңа тұжырымдарға келе алатын болған сайын — мұны математика сияқты салаларда қазірдің өзінде көріп отырған болармыз — ол жұмыс күшін ғана емес, зерттеу бағыттарын да ұсынады. Адам жасаған бір зерттеу бағдарламасын орындаудың орнына, ол өзінің мыңдаған бағдарламасын құрады. Данышпан ЖИ жүйелері дамытуға тұрарлық фильм идеялары мен тексеруге тұрарлық гипотезалардың санын күрт арттырады. Идеялар оларды игеретін тірек инфрақұрылымның мүмкіндігінен жылдамырақ көбейеді.

Бүгінгі ЖИ көптен күткен жеңілдік әкеліп, жақсы идеяларымызға ақыры лайықты мүмкіндік беріп отыр. Ал ертең жақсы идеялардың көбейгені сонша, оларды іске асыру мүмкіндігі бұрынғыдан бетер тапшы болуы мүмкін.

Түптеп келгенде, жаңа идеяларды өнімді пайдалануға қажет толықтырушы ресурстар көбейе ме, азая ма, әлде тұрақты қала ма — біз оны білмейміз. Тек ойлану арқылы танымда қаншалықты ілгерілеуге болады? Данышпандыққа қанша бюрократия қажет?

Біздіңше, жауап ойдың шынайы дүниемен қайта түйісуге мұқтаж болмайынша қаншалықты алысқа бара алатынына байланысты.

Біз екі ықтимал жолды сипаттаймыз. Біріншісі — тереңдей дамитын өркениет. Онда суперинтеллект қосымша физикалық капитал мен бюрократиялық үйлестіруге деген қажеттілікті еңсереді. Екіншісі — кеңейе дамитын өркениет. Онда табиғаттың күрделілігі соншалық, адам не машина интеллектісінің ешқайсысы шынайы дүниеде ірі әрі барған сайын күрделі тәжірибелер жүргізбей ілгерілей алмайды.

Адамзат тарихы әзірге толықтырушы мүмкіндіктерге қажеттілік артып келе жатқанын аңғартады. Галилейдің телескобы қолына сыйған; Уэббке тұтас өркениет қажет болды. Bell Labs зертханасының шағын тобы алғашқы транзисторды жұмыс үстелінде құрастырды; ал чип саласындағы озық жетістіктер бүгінде күрделі жаһандық жеткізу тізбегіне сүйенеді. Алысқа ұмтылған сайын өркениеттің көбірек күші жұмылдырылады.

Бірақ өткен тарих болашақты міндетті түрде айқындамайды. Ұшқыр ақыл-ой тиімдірек толықтырушы құралдарды ойлап таба алады. Жаңа бөлшектер үдеткішіне энергия тапшылығы кедергі болса, данышпандық үнемдірек үдеткішті немесе энергия алудың жақсырақ тәсілін таба алады.

Данышпандық өзін толықтыратын кейбір ресурстардың орнын да баса алады. Эйнштейн өте аз эмпирикалық деректен ой қорытып, салыстырмалылық теориясына келе алды. Бізге әлдеқайда көп дерек қажет болар еді. Кей адамдар жоспарлаған барлық кездесуін есте сақтайды, ал көбіміз Google Күнтізбенің ұйымдастыру жүйесіне сүйенеміз.

Сондай-ақ данышпандық талғамды барынша жетілдіріп, тексеруге ең жақсы гипотезаларды таңдай алады әрі ресурсты ысырап ететін сәтсіздіктерден сақтайды. Әр қосылған данышпан жоспардың сапасын арттырса, барған сайын ауқымды бюрократия қажет болғанның өзінде, данышпандыққа мол қаражат салар едік. Өйткені іске асыру қымбатқа түседі, оны қате іске жұмсау тым ысырапшылдық болар еді.

Бұл жолдардың ешқайсысы нақты болашағымызды толық сипаттамайды, бірақ оларды өркениетіміздің екі ықтимал даму бағыты деп қарастыруға болады.

Интеллект білімді үш жолмен ілгерілете алады. Ол қағидалардан ой қорыта алады. Ол қолда бар айғақтардан жаңа тұжырымдар шығара алады. Немесе дүниені бақылап, оған әсер ету арқылы жаңа айғақтар жинай алады.

Бірінші жол тек ойдың күшімен-ақ алысқа жеткізе алады. Оның ең айқын мысалы — математика. Дәлелдеу не жоба барысында талай рет таңдау жасау керек болады, ал қуатты ақыл-ой әр жолы дұрыс шешім қабылдай алады. Ол жылдарға созылатын бейберекет ізденісті қысқа әрі нақты бағытталған ой қорыту тізбегімен алмастырады.

Екінші жол да жылдам ілгерілеуге тың мүмкіндік береді. Адамзат түсініп үлгергенінен әлдеқайда көп айғақ жинады. Деректерімізді — астрономиялық суреттерді, микроскоп препараттарын, интернеттегі пікірлерді — зерттеу адам интеллектісінің тапшылығымен шектеліп келді. Ғылыми мұрағаттарда бір сұраққа жауап беру үшін жазылған, бірақ басқа талай сұрақтың жауабын қамтуы мүмкін бақылаулар бар. Данышпан ақыл-ой мол болса, ол жаңа дерек жинамай-ақ, қолда барды байқау арқылы жаңалық аша алады. Ол бірде-бір жаңа фотон жинамай-ақ жаңа ғаламды ашуы мүмкін.

Үшінші жол оңай емес, өйткені ол физикалық дүниемен әрекеттесуді талап етеді. Физикалық процестер уақыт алады және оларды жеделдету үшін көбіне көп нәрсе істей алмаймыз. Химиялық заттар реакцияға түсуі керек. Ағзалар өсуі керек. Машиналар құрастырылуы керек. Ғарыш аппараттары ғарыштағы жылдамдық шектеулеріне бағынып, нақты қашықтықты жүріп өтуі керек. Тіпті кемел ақыл-ойдың өзі әлі жасалмаған тәжірибенің нәтижесін бақылай алмайды.

Бірақ соған талпына алады. Тереңдей дамитын өркениет шынайы дүниеге жүгіну қажеттілігінен толық арылмас еді. Бірақ оны мейлінше үнемді түрде жасар еді. Жетілген ой қорыту шын мәнінде маңызды санаулы тәжірибені анықтар еді. Симуляциялар сұрақтардың көбін шешіп, шынайы тәжірибе ғана айқындай алатын нақты белгісіздікті табар еді. Суперинтеллект тапшы ресурстарын ескере отырып жобалау арқылы олардың пайдасын барынша арттырып, ең жоғары тиімділікке жете алады.

Қараңғы материя туралы бірқатар гипотезасы бар астрофизика зертханасын елестетіңіз. Алдымен бұл гипотезалар шындыққа аса жақын компьютерлік модельдеуден өткізіледі. Әр теорияның қолда бар барлық дерекпен үйлесуі тексеріледі. Осының бәрінен кейін ғана ең үмітті теорияларды сынау үшін аспанның нысаналы бірнеше жаңа суреті түсіріледі. Өркениетке данышпандықты толықтыратын ресурстар әлі де қажет, бірақ әр бірлігі әлдеқайда көп пайда береді.

Тереңдей дамитын өркениетке барар жолымыз пазл құрастыруға ұқсауы мүмкін. Басында да, соңында да ілгерілеу оңай, ал ең қиыны — ортасы. Алғашында шеткі бөлшектерді және бір-біріне оңай келетін жұптарды табу жеңіл. Кейін олар таусылады, ал құрастырылған сурет қалған бөлікті жалғауға бағыт беретіндей толық емес. Соңына таяғанда бос орындардың өзі оларға не келетінін көрсетіп тұрғандай болады. Толықтыққа жақындаған ғылым соңғы жаңалықтарын бүгін біз қиналып іздеп жүрген жаңалықтардан оңайырақ ашуы мүмкін.

Бұл — ғылымға тән құбылыс. Менделеев әлі ашылмаған элементтерді сипаттай алды, өйткені периодтық кестенің белгілі бөлігі жетіспейтін элементтердің қандай болуы мүмкін екенін шектеп тұрды. Стандартты модель физиктерге Хиггс бозоны байқалғаннан ондаған жыл бұрын оның бар екенін күтуге негіз берді. Тәжірибелеріміз біз көреміз деп күткен, яғни қолда бар теория мен деректерге сай келетін нәрсені іздеуге бағытталды.

Суперинтеллект дүниенің заңдылықтарын соншалық терең түсініп, өзіне қандай жаңа дерек қажет екенін дәл білу арқылы тереңдей дамитын өркениетке қол жеткізуі мүмкін. Ол физикалық кеңеюдің баяу қадамына сүйенбей, терең ой арқылы ілгерілеуге жол ашар еді.

Осы тиімділік басым түссе, өркениет табиғатты игеруін жылдам тереңдете алады. Бұл ретте алып жаңа тәжірибелік қондырғыларды басқаратын институционалдық интеллектіге қажеттілік азаяды. Даналығы толыса түссе де, оның физикалық ауқымы шағын болып қалуы мүмкін.

Біз, адамдар, туған мекенімізден шықпай-ақ ғаламымыз туралы көп нәрсе түсіндік. Тереңдей дамитын өркениет осы дәстүрдің жалғасы болар еді.

Бірақ жаңа айғақтарға сұраныс бұл тиімділіктің пайдасын басып кетуі мүмкін. Интеллект шынайы дүниеге әр жүгінудің құнын азайта отырып, оған жүгінудің әлдеқайда көп себебін ашуы мүмкін. Жетілген аспаптар бұрын қол жетпеген нәзік құбылыстарды зерттеуге жол ашады. Тәжірибелердің жеделдеуі қосымша тәжірибелер жүргізуді пайдалы ете алады.

Эйнштейннің салыстырмалылық теорияларына түгелге жуық ой арқылы жетуі тереңдей дамитын өркениетті сипаттаса, кеңейе дамитын өркениеттің ең жақсы нышаны биология болуы мүмкін. Қанша білім жинап, қанша деректі пайдалансақ та, жаңа дәрілердің қауіпсіздігі мен тиімділігін білу үшін оларды әлі де көп адамға сынау керек. Машиналар қазір биологиялық процестерді модельдей алады. Бұл биологтарға жаңа дәрілерді физикалық тәжірибелерде емес, компьютерлік ортада сынауға мүмкіндік береді. Бірақ мұндай цифрлық симуляциялар шынайы дүниені адамдарға жүргізілетін кең ауқымды сынақтарды алмастыратындай дәл бейнелей алмайды. Машина ұсынатын ықтимал дәрілер көбейген сайын, оларды тәжірибеде тексеру одан бетер тежеуші буынға айналады.

Кеңейе дамитын өркениетте ілгерілеу үшін данышпандықтың өзі жеткіліксіз. Физикалық ресурстарға және оларды пайдалануды басқаратын бюрократияға қажеттілігіміз ақыл-ойдың екеуін де үнемдеу мүмкіндігінен жылдамырақ өседі.

Болашақ ЖИ жүйелері адам интеллектісінен әлдеқайда асып түссе де, біздің жолымыз осындай болуы мүмкін. Суперинтеллект бір түстен кейінгі уақытта бір ғасырға жететін тәжірибені жоспарлап, содан кейін табиғат пен техниканың оларды орындауын бір ғасыр бойы күтуі мүмкін. Мұндай дүниеде интеллектіні идея ойлап табудың өзіне емес, оны іске асыруға қажет институционалдық процестерге жұмсау құндырақ болады.

Әр келесі қадам барған сайын көбірек тірек инфрақұрылымды қажет етсе, бұл әсер күшейе түседі.

Мұнда ойланудың салыстырмалы үлесі азайып, құрылыс пен жасаудың үлесі артар еді. Зертханалар автоматтандырылады. Зауыттар көбейеді. Энергия өндірісі артады. Осының бәрін жүзеге асыруда институционалдық интеллект басым рөл атқарады. Физикалық кеңею білімнің қозғаушы күшіне айналады. Өркениет кеңейеді, өйткені оның сұрақтары жауап алу құралдарының мүмкіндігінен асып кеткен. Ілгерілеуді жалғастыру үшін көбірек материал, көбірек энергия, көбірек дерек қажет.

Дайсон сферасы — осындай болашақтың ең шеткі көрінісі. Оны жобалау үшін айрықша жаңалықтар қажет, бірақ жобаның басым бөлігі тың идеялар ойлап табудан тұрмайды. Ол астрономиялық ауқымдағы құрылыс пен логистика болар еді.

Дайсон сферасының сызбасын жасауға данышпан ақыл-ой қажет. Сонымен бірге бұл бұрын-соңды қолға алынған ең қайталанбалы, бірсарынды әрі ұйымдастыруы ең күрделі жобалардың бірі болар еді.

Бұл интеллектінің сәтсіздігі емес, қайта оның жетістігінің салдары. Ақыл-ой қуаты артқан сайын құнды жобалар көбірек ашылады; ал күрделірек жобаларды іске асыруға көбірек материалдық ресурс керек.

Олай болса, суперинтеллектінің басты күші оның данышпандығында болмауы мүмкін. Оның күші бюрократияның рөлін атқаруға, идеяларды барған сайын кең ауқымда жүзеге асыруға қажет орасан зор технологиялық және институционалдық тетіктерді үйлестіруге дайын болуында жатуы мүмкін.

Машиналық интеллектінің түгелге жуығы ғажайып жаңалықтарға емес, іш пыстыратын жұмысқа жұмсалар еді.

Сонда табиғаттың физикалық кеңею жылдамдығына қоятын шектері одан арғы ілгерілеуді тежеуі мүмкін. Жоспарлар қаншалықты тез жасалса да, жұлдыз энергиясын жинайтын құрылғыларды құрастыру — материалдық дүниеде орындалатын жоба. Оның ар жағында басқа жұлдыздар мен галактикалар бар. Ал қашықтықтың өзі, біз білетіндей, жылдамдықты шектейді: ешбір кеме де, кері қайтатын сигнал да жарықтан жылдам жүре алмайды. Кеңейе дамитын өркениет — баяу өркениет. Ондағы ұлы өзгерістердің арасы мыңдаған, тіпті миллиондаған жылға созылуы мүмкін. Әр келесі қадам ұзағырақ уақыт алады.

Аграрлық және өнеркәсіптік төңкерістер ілгерілеуі әлдеқайда баяу, әлдеқайда ұзақ тарихтың қарқынды бастамасы болып көрінер еді.

Болашақ ЖИ жүйелері озық идеялар ұсынуда да, сол идеяларды іс жүзінде пайдалы етуге қажет ресурстарды үйлестіруде де адамнан асып түсуі әбден мүмкін. Бірақ бұл мүмкіндік адамның білуге құштарлығының маңызын кемітпейді.

Біріншіден, машиналар дүниені бізден жақсырақ танып-білетіндей көрінсе де, білімге ұмтылу міндетіміз жойылмайды. Ғаламда бізден әлдеқайда дана, біз түсіне алмайтын ғылыми және моральдық сұрақтардың жауабын білетін саналы тіршілік иелері қазірдің өзінде бар болуы мүмкін. Сонда да біз әлемді өзіміз түсінуге тырысамыз. Өзге интеллектінің пайда болуы, тіпті оны өзіміз жасасақ та, мұны өзгертпейді. Адамзаттың қосар ешбір ерекше үлесі қалмағанына анық көз жеткізбей тұрып бас тартсақ, дүниеге тек біз ғана бере алатынның бәрін зая кетіреміз. Біздің міндетіміз — сұрақ қоюды және жауап іздеуді жалғастыру.

Екіншіден, институционалдық интеллектімен салыстырғанда, озық интеллект саласында салыстырмалы артықшылығымыз болуы мүмкін. Яғни екеуінде де осалырақ болсақ та, біріншісінде салыстырмалы түрде жақсырақ болып, соған мамандана аламыз. Адамдар күнделікті бірсарынды істен гөрі шығармашылықпен айналысқанды қалайды, ал роботтарда ондай қалау жоқ.

Үшіншіден, алуандықтың біз үшін өзіндік құндылығы бар. Машиналар адам ойлауының басым бөлігін қайталай алса да, өз ерекшелігімізді сақтасақ, шығармашылыққа алуандық қосамыз. Машиналық интеллектінің басым бөлігі өзін-өзі қамтамасыз ететін өз жүйесінде қалар еді, ал шағын бөлігін біз шығармашылық мақсаттарымызға жұмсар едік. Жалпы көлемнің титтей бөлігі болғанымен, бұл біздің ауқымымыз үшін молшылық, әрі бүгінгі ресурстарымыздан әлдеқайда көп болар еді.

Өнертапқыштық оқшау өмір сүрмейді. Оған айналадағы дүние қажет, ал данышпанға шығармашылық ойын жүзеге асыратын жасампаздар керек.

Бүгінде адам ақыл-ойының басым бөлігі идеяларды шындыққа айналдыратын, бірақ көп дәріптелмейтін еңбекке жұмсалады. Машиналық ақыл-ой да осы тәуелділікті мұра етеді. Олардың бәрі бірдей ұлы ойшыл бола алмайды. Олар бюрократ та болуға тиіс.

Болашақ тарихымыз бен ілгерілеу қарқыны данышпан ақыл-ойға дүниенің көбірек ресурсы қажет бола ма, әлде ол аз ресурспен көбірек іс тындыра ма — соған байланысты.