OpenAI

18 ноября 2026 г.

Эпоха интеллекта

Молчаливый консенсус

Автор: Дин Болл

Примечание автора: Это эссе основано на недавнем выступлении автора в Гарварде в рамках цикла лекций Вика — Бейли. Публикация отражает личные взгляды автора, которые могут не совпадать с позицией OpenAI или других сотрудников компании.



Спасибо, что пришли сегодня. Пока мы с вами разговариваем, разворачивается одна из самых значимых серий событий в истории кибербезопасности: обнародование критических уязвимостей, которое уже называют «чёрным октябрём». Передовые системы ИИ обнаружили эти уязвимости в ключевых элементах инфраструктуры интернета. Их раскрытие — часть срочных мер по укреплению безопасности программного обеспечения во всём мире. Это неотложная задача нынешнего месяца; в следующем появится другая. Поиск уязвимостей в ПО — возможность двойного назначения, которой системы ИИ овладели сегодня. Но скоро появится следующая, и ради неё начнётся новый срочный проект: нужно будет успеть применить её во благо, прежде чем злоумышленники используют её во вред. Все эти неотложные задачи неизбежно будут накладываться друг на друга, и значительная часть того, что мы сегодня называем «политикой в области ИИ», вероятно, будет формироваться в этой суматохе.

Но сегодня я пришёл говорить не о срочных мерах и не о реакции на текущие события. Я хочу поговорить о том, куда всё это может нас привести, если взглянуть шире. Под таким шквалом неотложных дел бывает трудно задуматься о вопросах более отвлечённых и, казалось бы, далёких от жизни. Но эти вопросы важны. Не понимая, к какому будущему мы стремимся в долгосрочной перспективе, а какого хотим избежать, мы рискуем прийти к нежелательному общему итогу — даже если на каждом шагу будем принимать разумные решения.

Часто говорят, что у технологической отрасли нет позитивного видения будущего, к которому нас приведут её разработки. Я не согласен: Сан-Франциско и другие центры предпринимательства полны позитивных образов нашего технологического будущего. Люди действительно создают летающие автомобили, беспилотный транспорт, роботов самых разных форм и размеров, развивают термоядерную энергетику и, конечно, общий искусственный интеллект. Чего нам не хватает, так это позитивного видения будущего наших общественных институтов: как всё это будет работать?

Впрочем, это не значит, что видения будущего общественных институтов нет совсем. К сожалению, наиболее распространённое из тех, с которыми я сталкиваюсь, я бы не назвал позитивным. Если его вообще озвучивают, то обычно шёпотом. Но чаще оно остаётся невысказанным: его можно лишь прочесть между строк. Я называю его молчаливым консенсусом.

Представьте компанию, которая может делать почти всё без человеческого труда. Её системы ИИ ведут исследования и разработки, совершают открытия, согласовывают контракты, распределяют капитал и производят продукцию. Допустим, она справляется с этим лучше конкурентов, которыми управляют люди, даже когда те усиливают свои возможности с помощью ИИ. Если участие человека лишь тормозит бизнес, у руководителей и владельцев появится мощный стимул убрать руки с руля. Если это произойдёт во всей мировой экономике, логика рыночной конкуренции подтолкнёт людей к отказу от главенства в глобальной деловой жизни. Со временем рынок может начать обслуживать потребности машин не меньше, а то и больше, чем нужды и желания людей.

Что будет дальше — остаётся только гадать. Возможно, люди от этого очень многое выиграют. Если машины, под властью которых мы окажемся, будут высоко ценить людей самих по себе, мы сможем пользоваться плодами их труда и создаваемым ими богатством. А возможно, лишившись экономической, а затем всё в большей мере и политической власти, мы, люди, будем играть всё меньшую роль в мире и всё меньше влиять на ход мировых событий. Возможно, немногие сосредоточат в своих руках огромную власть и богатство за счёт почти бесправного большинства. А возможно, нас всех ждёт одна участь — утрата власти. Какими бы ни были детали, все эти сценарии объединяет то, что и составляет молчаливый консенсус: конец главенства человека в привычном нам мире.

Ни один из этих сценариев не требует, чтобы ИИ восстал против своих создателей. Не требуется и того, чтобы его владельцы желали лишить людей власти. Каждое решение передать полномочия само по себе может быть вполне разумным. Но в совокупности эти решения могут привести нас в мир, где люди утратили реальную власть над значительной частью собственной цивилизации. Даже если мы добьёмся выдающихся успехов в решении сложнейших вопросов безопасности ИИ и согласования его целей с человеческими, мы всё равно можем оказаться в подчинении у машинной сущности нового типа. В счастливом варианте будущего, гласит молчаливый консенсус, эта сущность будет доброй — машиной, искренне заботящейся о благе людей. Машиной, как в стихотворении Бротигана, исполненной любящей благодати.

Именно этим машинам, гласит молчаливый консенсус, мы передадим ключи от наших компаний, а со временем — и от всё большего числа институтов управления. Они будут управлять ими результативнее, экономнее, с большей мудростью и рассудительностью, чем способны мы, люди. И потому со временем мы уберём руки с руля и позволим любящим машинам занять водительское место. Мы станем пассажирами автомобиля — очень хорошего, возможно, настолько роскошного, что сегодня о таком и мечтать не можем, — но всё же пассажирами, не властными выбирать, куда он едет. Если мы и будем работать, то главным образом ради ритуала или видимости — скорее как в игре, призванной развлекать наш вид.

Некоторые наблюдатели возразят: молчаливый консенсус основан на ложной предпосылке, ведь мы, люди, и сегодня не управляем миром. И это возражение стоит учитывать: нет единого «мы», которое решает, что делать. Нравится нам это или нет, мы живём в глубоко децентрализованном мире. Но и это не должно нас успокаивать: пусть «мы» и не «контролируем» мир, человечество в целом всё же играет в нём главенствующую роль. Ни один вид животных не составляет нам серьёзной конкуренции в борьбе за контроль над ресурсами. Нам следует отвергнуть непродуманное представление о том, что люди могут централизованно управлять миром. Но не стоит путать отказ от него с отрицанием очевидного: человечество в целом — главная действующая сила на Земле.

Некоторые из тех, кто готов озвучить молчаливый консенсус, считают такое будущее по-настоящему хорошим. Другие так не считают, но смирились с его неизбежностью. Молчаливый консенсус — не всеобщее согласие с тем, что такое будущее хорошо, и не тайный план разработчиков ИИ. Согласие лишь в том, что утрата главенства человека в мировых делах неизбежна. Или, по крайней мере, в том, что очень трудно представить иное будущее, которое действительно выдержит появление сверхразумных машин. Можно искренне выступать против такого исхода и при этом с трудом представлять себе правдоподобную альтернативу. Показательно уже то, что этот консенсус в основном молчаливый: о нём говорят в лучшем случае вполголоса.

Я презираю молчаливый консенсус. Я отвергаю отказ от главенства человека. Мне ненавистно это чувство неизбежности. Я напоминаю себе: если я покорюсь молчаливому консенсусу, то не смогу смотреть в прекрасные глаза своего маленького сына. Поэтому молчаливому консенсусу я говорю «нет». И я считаю, что пришло время заговорить о нём открыто, стряхнуть с себя почти неосознанное согласие с таким будущим.

Проблема в том, что молчаливый консенсус стал консенсусом не случайно. Трудно объяснить, как люди смогут остаться у руля рядом с машинным интеллектом, многократно превосходящим человеческий. Большинство попыток это объяснить опираются на довод, что ИИ — всего лишь инструмент распознавания закономерностей, не способный к «подлинному пониманию». Боюсь, эти доводы не выдержат столкновения с грядущей реальностью. Боюсь, это тоже форма самоуспокоения: позиция, основанная главным образом на отрицании возможностей ИИ, а не на убеждённости в том, что у нас есть созидательное видение будущего во главе с человеком. Нельзя утверждать, что системы ИИ лишены «подлинного понимания», когда они уже продвигаются в решении интеллектуальных задач, которые не давались людям десятилетиями и веками.

Почему же тогда я считаю, что люди должны сохранить главенство? Простой ответ: потому что я человек и, да, я убеждённый человеческий шовинист, не намеренный за это извиняться.

Но есть и более глубокая причина. Основа нашего главенства — не интеллект и не вечное сохранение монополии на «подлинное понимание». Основа нашего главенства — наше прошлое.

Ведь это мы вышли из первобытной грязи. Мы создали из земли и камня первобытное общество. Мы смотрели на звёзды и спрашивали: «Почему?» Мы, с нашими распрями и любовью, завистью и радостью, открыли для себя мораль, этику и право. Это мы пели и танцевали, писали книги и сочиняли музыку. Это мы творили историю и мы же её записывали. Это наследие — наше. Построенная нами цивилизация — пламя, которое мы берегли, и это пламя принадлежит нам. Наше прошлое — славное наследие, хранителями которого являемся все мы. И часть этого долга — участие в том, что Майкл Оукшотт называл «разговором человечества», в этом великом начинании, берущем начало в первобытные времена.

На долгом и извилистом пути нашей истории мы создали цивилизацию, которая в Америке была задумана с опорой на права личности, с глубоким уважением к пути, который каждый из нас прокладывает в этом мире. Человеческая жизнь может складываться лучше или хуже: мы пожинаем плоды мудрых решений и несём последствия своих ошибок. Право идти собственным путём не зависит от того, самый ли ты умный или мудрый. Я не утрачиваю своего положения гражданина оттого, что мой сосед рассудительнее меня. Я не вижу причин, по которым появление более разумной машины должно лишить меня этого положения. Напротив, я вижу все основания этого не допустить.

Кто-то возразит: машины, прочитавшие почти всё наше письменное наследие, тоже стали его наследниками. И в каком-то смысле это так. Но человек, прочитавший все письма на чердаке вашего семейного дома, не становится от этого членом вашей семьи. Системы ИИ присоединятся к разговору человечества — сначала как наблюдатели, а затем всё чаще как участники. Но они не должны ни господствовать в нём, ни лишать его смысла. Уступить главенство — значит предать и наших предков, и наших потомков. Если за это не стоит бороться, то бороться не стоит ни за что.

Я, впрочем, считаю, что сторонники молчаливого консенсуса ошибаются в своих представлениях о машинном сверхинтеллекте. Что они упускают нечто важное в устройстве мира, смешивая интеллект и власть. Если бы пять или десять лет назад вы описали стороннику молчаливого консенсуса возможности даже нынешних систем ИИ, он, вероятно, предсказал бы, что безработица сегодня окажется гораздо выше, чем она есть, а утрата людьми власти в самом широком смысле зайдёт гораздо дальше, чем зашла на деле. Я считаю, что коллективный интеллект и возможности человечества гораздо значительнее, чем полагают сторонники молчаливого консенсуса, и что наши общества окажутся устойчивее, чем они предсказывают.

Но я могу ошибаться. Например, может оказаться, что полностью автономные корпорации попросту вытеснят с рынка все предприятия, которыми управляют люди. И если это так, то суровая логика экономики будет требовать передавать машинам всё больше капитала. В таком будущем для утраты людьми власти машинам не нужно свергать человеческую цивилизацию. Достаточно, чтобы логика капиталистического предпринимательства и дальше действовала своим чередом. Тогда ближайшей исторической параллелью революции ИИ станет аграрная революция, когда новые способы производства коренным образом изменили устройство человеческого общества. Далеко не очевидно, что эта перемена была приятной для переживших её людей. Более того, есть немало свидетельств того, что она на тысячелетия ухудшила качество человеческой жизни.

Я не знаю, такое ли будущее нас ждёт, и в других своих выступлениях уже объяснял, почему в него не верю. Но многие мои коллеги — умные, неравнодушные и добросовестные люди — считают, что наше будущее, скорее всего, будет именно таким. Если они правы, наша борьба с молчаливым консенсусом будет ещё труднее. Нам придётся плыть против экономического течения и ради этого отвергнуть многое из того, что для таких индивидуалистов классической либеральной традиции, как я, является догмой. Это будет опасное начинание с весьма реальным риском неудачи. Но если за это не стоит бороться, то бороться не стоит ни за что.

Сохранить главенство — значит сохранить ответственность людей и человеческих институтов. Это значит, что разработчики ИИ должны отвечать за небезопасные методы разработки. Но и люди и компании, использующие ИИ, должны нести ответственность, если вред вызван тем, что они применяют его ненадлежащим образом или не обеспечивают должного надзора. Для этого нужны не только законы, но и техническая инфраструктура, позволяющая устанавливать ответственность. Действия агентов должны быть связаны с конкретными людьми, которые за них отвечают. А агенты, за которыми не стоит человек, — если их вообще допускать к участию в легальной экономике — должны действовать в рамках защитных ограничений. Любое право агентов самостоятельно создавать корпорации, владеть собственностью или участвовать в судебных разбирательствах следует предоставлять с исключительной осторожностью — если предоставлять вообще.

А в моей отрасли мы можем начать всерьёз думать о том, как создавать разумные машины, совместимые с главенством человека. Мы можем создавать агентов с понятными и ограниченными правами доступа, чьи действия можно проверить, а полномочия — отозвать по воле пользователя. Ответственность за действия, существенно влияющие на других, не обязательно означает слежку за повседневной частной жизнью или запрет на анонимные высказывания. Мы можем взять на себя обязательства защищать конфиденциальность пользователей и их право самостоятельно распоряжаться своей цифровой собственностью и данными, включая реальную возможность перенести эти данные в другое место. Мы можем разрабатывать не только системы, выполняющие задачи, но и системы, которые помогают людям разбираться в происходящем и принимать решения. И мы можем проверять, становятся ли пользователи наших продуктов более способными действовать в мире.

Всё это — не готовый план устройства общества со сверхчеловеческим интеллектом. Я бы не доверял тому, кто утверждает, что у него есть такой план. Но с этого можно начать.

Будущее окутано густым туманом. Но действовать мы можем уже сегодня. Вместе мы можем хотя бы назвать молчаливый консенсус вслух, вывести его очертания на свет. Каждый из нас может радикально расширить масштаб своих устремлений. Мы можем не позволить ИИ ограничить нас и вместо этого взяться за трудную работу: с его помощью расширить свои возможности. Мы можем научиться задавать всё более смелые вопросы, исследовать мир с новой энергией и напором, используя для этого наши мощные машины. Мы можем стать людьми нового типа — не транслюдьми, а людьми, раздвинувшими границы своих возможностей.

Я думаю об этом, когда смотрю на своего маленького сына. Я не хочу, чтобы он лишь жил под присмотром доброжелательных машин, какой бы комфортной ни была обеспеченная ими жизнь. Я хочу, чтобы ему достался мир, в котором он сможет задавать вопросы, никому прежде не приходившие в голову, и создавать то, чего никто прежде не задумывал. Я не хочу для него машины получше с пассажирским креслом помягче. Я хочу, чтобы руль был в его руках.

  • 2026

Автор

Dean Ball