ИИ способен значительно улучшить многие аспекты жизни общества.
Эта технология, как и другие до нее, даст людям больше возможностей и самостоятельности; то, что люди смогут делать с помощью ИИ, намного превзойдет возможности паровых машин или электричества.
Мы видим мир, где процветание станет повсеместным на уровне, который сейчас трудно даже представить, и где значительно вырастут личный потенциал, самостоятельность и самореализация. Многое из того, о чем мы позволяли себе мечтать лишь в научной фантастике, может стать реальностью, и большинство людей смогут жить более осмысленной жизнью, чем сегодня.
Но такой исход не гарантирован. В будущем власть может оказаться либо у небольшой группы компаний, использующих и контролирующих суперинтеллект, либо быть распределена децентрализованно между людьми. Мы считаем второй вариант намного лучше, и наша цель — дать по-настоящему общий ИИ в руки как можно большему числу людей. Как и настоящее, будущее не будет ни полностью плохим, ни полностью хорошим, но решения, которые мы принимаем сейчас, могут помочь увеличить долю хорошего.
Наша миссия — сделать так, чтобы AGI приносил пользу всему человечеству. Вот принципы, которыми мы руководствуемся в работе.
1. Демократизация. Мы будем противостоять риску того, что эта технология сосредоточит власть в руках немногих.
Это означает, что помимо предоставления всем доступа к ИИ, нам нужно добиться, чтобы ключевые решения об ИИ принимались через демократические процессы и на основе принципов равенства, а не только лабораториями ИИ.
2. Расширение возможностей. Мы считаем, что ИИ может помочь каждому достигать своих целей, больше узнавать, быть счастливее и более реализованным, следовать своим мечтам, и что от этого выиграет общество в целом.
Для этого нужно дать людям возможность исследовать огромный потенциал, который перед нами открыт, и создавать продукты, которые этому способствуют. Пользователи должны надежно решать с помощью наших сервисов все более ценные задачи.
Мир разнообразен, и у людей разные потребности. Мы хотим дать нашим пользователям необходимую им автономию и позволить как можно больше в разумных пределах.
Хотя мы хотим предоставить нашим пользователям очень широкую свободу в использовании наших сервисов и твердо верим, что в целом ИИ принесет огромную пользу, мы обязаны разрабатывать и внедрять его так, чтобы минимизировать вред. Это, конечно, включает предотвращение катастрофического вреда, но также и снижение локального ущерба и недопущение потенциально разлагающих общество эффектов. Это означает, что перед лицом неопределенности мы будем склоняться к осторожности и смягчать ограничения по мере появления новых доказательств.
3. Всеобщее процветание. Мы хотим будущего, в котором у каждого может быть прекрасная жизнь.
Предоставляя каждому простые в использовании системы ИИ с большим объемом вычислительных ресурсов, мы считаем, что люди найдут новые способы создавать ценность и резко улучшать качество жизни для всех, особенно благодаря новым научным открытиям.
Чтобы процветание стало полной реальностью и было широко разделено, мы считаем, что 1) нашим правительствам, возможно, потребуется рассмотреть новые экономические модели, чтобы каждый мог участвовать в создании ценности, которая нас ждет, и 2) нам нужно построить огромные объемы инфраструктуры ИИ и разработать новые технологии, чтобы значительно снизить стоимость этой инфраструктуры.
Многое из того, что мы делаем и что может казаться странным, — закупка огромных объемов вычислительных мощностей при сравнительно небольшой выручке, вертикальная интеграция для снижения затрат и упрощения использования нашей технологии, стремление строить дата-центры по всему миру и многое другое — продиктовано нашей фундаментальной верой в будущее всеобщего процветания.
4. Устойчивость. ИИ принесет новые риски, и мы будем работать с другими компаниями, экосистемами, правительствами и обществом, чтобы их решать. Мы будем в значительной степени использовать ресурсы нашего фонда для поддержки этой работы.
Ни одна лаборатория ИИ не может в одиночку обеспечить хорошее будущее. Очевидный пример: могут появиться чрезвычайно мощные модели, которые упростят создание нового патогена, и нам нужен общественный подход к защите от этого с помощью контрмер, не зависящих от конкретного патогена. Другой пример: по мере роста кибербезопасностных возможностей моделей нам нужно быстро использовать эти модели для защиты open-source ПО и критической инфраструктуры, одновременно обучая модели помогать всем создавать более безопасное программное обеспечение.
Это расширение нашей давней стратегии итеративного внедрения; мы считаем, что обществу необходимо сталкиваться с каждым следующим уровнем возможностей ИИ, понимать его, интегрировать и вместе определять наилучший путь вперед. Это невозможно сделать в вакууме; общество и технологии развиваются совместно, а для этого нужно время.
Мы не имеем в виду, что это наша единственная стратегия безопасности; нам также нужно создавать безопасные системы и продолжать серьезную работу над техническим выравниванием.
Мы ожидаем, что будут периоды, когда нам придется сотрудничать с правительствами, международными организациями и другими инициативами в области AGI, чтобы убедиться, что мы в достаточной степени решили серьезные проблемы выравнивания, безопасности или общественного характера, прежде чем двигаться дальше в нашей работе.
5. Адаптивность. Мы по-прежнему считаем, что единственный способ справиться с вызовами очень непредсказуемого будущего — быть готовыми пересматривать свои позиции по мере получения новых знаний. Мы также признаем, что OpenAI сегодня гораздо заметнее влияет на мир, чем несколько лет назад, и будем прозрачно объяснять, когда, как и почему меняются наши рабочие принципы. Конкретный пример: хотя мы вполне уверены, что всеобщее процветание останется крайне важным, мы можем представить периоды в будущем, когда нам придется пожертвовать частью расширения возможностей ради большей устойчивости.
Развитие ИИ уже принесло много сюрпризов, и впереди их еще больше. По мере развития технологии ее эмерджентное поведение будет все труднее предсказать. Мы принимаем эту неопределенность, осторожно развивая возможности, внедряя системы итеративно и учась на их взаимодействии с миром.
Не так давно мы с тревогой относились к выпуску весов GPT‑2, потому что не были уверены, каким будет влияние на общество. Оглядываясь назад, очевидно, что это беспокойство было ошибочным, но именно оно привело нас к открытию стратегии итеративного внедрения, которая стала одним из самых важных наших выводов.
__
Мы вступаем в очень значимый этап, поскольку технология продолжает совершенствоваться. Нас совершенно справедливо можно критиковать за каждое решение; мы заслуживаем самого пристального внимания, учитывая важность того, что мы делаем. Мы не все сделаем правильно, но будем быстро учиться и корректировать курс.
Мы полны решимости внести свой вклад в то, чтобы будущее было лучше прошлого; мы считаем большой удачей возможность заниматься столь важной работой.
