Раз в несколько поколений новая технология меняет всё.
Представьте, что электричество приходит в сельский американский городок 1920-х годов. До появления линий электропередачи повседневную жизнь определяли физические ограничения: носить воду, стирать одежду вручную, сохранять продукты с помощью льда и завершать большую часть дел с заходом солнца. Электричество не преобразило каждое семью за одну ночь, и многие его преимущества доходили до людей неравномерно. Но по мере расширения доступа обычная жизнь менялась. Свет по ночам продлил день. Электрические насосы, бытовые приборы и холодильники облегчили часть самой тяжелой повседневной работы. Радио приносило в дома и общественные места новости, музыку и связь с миром за сотни миль.
Первое обещание электричества было практическим, но его более глубокое влияние пришло от новых возможностей, которые оно открыло по мере того, как всё больше людей могли им пользоваться. Со временем появилось множество новых возможностей: машины и компьютеры значительно ускорили прогресс в медицине, инженерии и многих других областях. К концу XX века средняя продолжительность жизни выросла более чем на 20 лет, а медианный доход с поправкой на инфляцию примерно утроился. Эти достижения в немалой степени были обусловлены прогрессом в здравоохранении, санитарии и уровне жизни, значительная часть которого стала возможной или ускорилась благодаря широкой электрификации и связанному с ней технологическому прогрессу.
То же самое снова происходит с ИИ. ИИ скоро будет способен на необыкновенные вещи. Но суть не в самой технологии. Суть в том, что люди смогут делать с её помощью. Он может помочь человеку разобраться с медицинским счетом, освоить новый навык, открыть малый бизнес, заботиться о пожилом родителе, понять юридическое или финансовое решение, превратить идею во что-то реальное или сделать научное открытие.
Возможно, восторг от света по ночам довольно быстро улегся, но значение того, как люди стали им пользоваться, — нет. А поскольку технологии со временем надежно приносили людям процветание, мы считаем, что ИИ должен быть доступен всем, чтобы им можно было пользоваться столько, сколько нужно, там, где нужно, и так, как нужно.
Такое будущее не наступит автоматически. Преобразующие технологии могут концентрировать власть, а могут расширять ее распределение. Они могут облегчить жизнь немногим или расширить возможности для многих. Наш подход основан на убеждении, что ИИ должен работать на людей: помогать им достигать собственных целей, увеличивать их возможности и распределять преимущества этой технологии как можно шире.
Наше первое обязательство — создавать ИИ на благо человечества. Это значит, что мы хотим расширять возможности как можно большего числа людей, а не допустить, чтобы власть сосредоточилась в руках нескольких компаний, правительств или отдельных людей. Мы считаем, что более безопасное будущее возможно тогда, когда власть распределена шире и больше людей по всему миру могут участвовать в создании экосистемы устойчивости.*
Мы с оптимизмом смотрим на ИИ, потому что верим, что он может расширить человеческие возможности и процветание. Но мы также трезво оцениваем риски. Мощные системы должны оставаться безопасными, согласованными с намерениями людей и подконтрольными человеку. Миссия OpenAI — обеспечить, чтобы AGI приносила пользу всему человечеству. Это означает создавать системы, которые помогают людям делать больше того, что они выбирают сами, а не системы, которые заменяют человеческое суждение о том, что важно.
Полная автоматизация всего — не то будущее, которого мы хотим. Оно было бы лишено удовлетворения и было бы опасным. ИИ должен помогать людям достигать своих целей, а не отрываться от них. По мере того как ИИ-системы становятся более способными, роль человека становится важнее: задавать направление, искать компромиссы, применять суждение и привносить в работу ценности, стилистику, заботу и ответственность.
Ключевая долгосрочная роль людей будет заключаться в том, чтобы решать, что стоит делать.
Мы считаем, что в ближайшие несколько лет ИИ-системы, ведущие исследования в области ИИ, станут главным фактором, определяющим темпы прогресса. Это важно, потому что согласование само по себе — сложная исследовательская задача. Чтобы быстро и существенно продвинуться, нашим исследователям понадобятся ИИ-системы, которые помогут проверять идеи, находить ошибки, изучать альтернативные подходы и шаг за шагом дорабатывать решения вместе с нами.
Но более быстрый технический прогресс делает человеческое суждение и общественную координацию ещё более важными. Будущее должны формировать люди, институты и общества, а не только компании, создающие самые способные системы.
По мере продолжения разработки передового ИИ мы ожидаем, что национальная и глобальная координация станет важнее. Мы давно считаем, что в конечном счете должна существовать международная организация, которая помогает координировать ведущие усилия в области ИИ для снижения катастрофического риска. Сотрудничество и общие стандарты безопасности — важная часть дальнейшего пути, особенно потому, что от стимулов коммерческой и национальной конкуренции трудно уйти. Одна из целей такой организации должна состоять в том, чтобы дать миру возможность действовать согласованно, в том числе при необходимости замедлять передовую разработку, чтобы общественная устойчивость, безопасность и согласование успевали за прогрессом.
Создать автоматизированного ИИ-исследователя — ИИ-систему, которая сможет ускорять и все больше автоматизировать сам исследовательский процесс, оставаясь управляемой, подотчетной и связанной с людьми. Мы внутри компании считаем, что к марту 2028 года значительная часть наших исследований может выполняться ИИ-системами совместно с нашими исследователями. Чтобы добиться достаточного прогресса в согласовании, мы считаем, что нам потребуются ИИ-системы, которые будут развиваться вместе с нами. Это поможет нам пройти переход к миру после AGI, совместно определяя дальнейший путь развития.
Ускорить экономику за счет ускорения научного прогресса, роста производительности и экономического роста, одновременно добиваясь того, чтобы полученные преимущества распределялись как можно шире. У каждого должна быть возможность получить значимую долю в процветании, которое создает ИИ.
Дать каждому человеку на Земле персональный AGI и возможность пользоваться одной из самых преобразующих технологий человечества по собственному выбору.
Чтобы суметь выполнить это обещание, мы вступаем в третью фазу OpenAI.
Первая фаза OpenAI была посвящена исследованиям на пути к AGI. Вторая фаза началась, когда наши исследования стали значимы для реального мира, а мы стали продуктовой компанией: развертывали наши системы, учились на том, как люди ими пользуются, и продолжали двигаться к AGI, который безопасен и согласован с нашей миссией.
Теперь мы вступаем в третью фазу. Экономика начинает перестраиваться вокруг ИИ. Главный вопрос сейчас — как сделать продвинутый ИИ изобильным, доступным, безопасным, полезным и достаточно простым, чтобы каждый человек и каждая организация могли извлечь из него пользу. Передовые возможности — лишь часть задачи. Более крупная задача — превратить эти возможности в инструменты, которыми люди действительно смогут пользоваться для процветания.
Прежде всего мы считаем, что широкое распределение власти поможет привести к лучшему будущему. История человечества показывает: сосредоточение власти создает хрупкость, а широко распределенная власть делает общества более устойчивыми, адаптивными и свободными.
Именно поэтому доступ имеет значение. По этой же причине важны безопасность, конфиденциальность, доступность по цене, открытые экосистемы и общественный надзор.
Хорошее будущее ИИ не может быть таким, где небольшое число институтов контролирует большую часть возможностей и большую часть выгод. Это должно быть будущее, в котором множество людей, компаний, сообществ и стран могут создавать, получать пользу и обладать влиянием. Мы считаем, что эта трансформация должна принадлежать каждому.
Если мы все сделаем правильно, ИИ сможет стать основой для большей производительности, креативности, научного прогресса и экономических возможностей для многих, а мы выполним нашу миссию: обеспечить, чтобы AGI приносила пользу всему человечеству.
*Устойчивость к ИИ означает совокупность организаций, систем и людей, которые общество могло бы создать, чтобы предвидеть потрясения, вызванные ИИ, выдерживать их, адаптироваться к ним и быстро восстанавливаться после них. Например, автомобиль преобразил общество, но автомобили стали широко полезными только потому, что общества выстроили вокруг них системы: ремни безопасности, правила дорожного движения, водительские права, краш-тесты и дорожную инфраструктуру. Цель была не в том, чтобы запретить людям водить, а в том, чтобы сделать мощную технологию достаточно устойчивой для широкого использования.
