Повестка OpenAI в области государственной политики

Миссия OpenAI — сделать так, чтобы общий искусственный интеллект (AGI) приносил пользу всему человечеству. В своей работе мы руководствуемся пятью основополагающими принципами⁠, которые определяют, как мы создаём ИИ и как участвуем в формировании государственной политики: 

1. Демократизация. Мы будем противостоять риску того, что эта технология сосредоточит власть в руках немногих.
2. Расширение возможностей. Мы считаем, что ИИ может помочь каждому достигать своих целей, узнавать больше, жить счастливее и полнее, стремиться к своей мечте — и что это принесет пользу обществу в целом.
3. Всеобщее процветание. Мы хотим будущего, в котором у каждого может быть прекрасная жизнь.
4. Устойчивость. ИИ принесёт новые риски, и мы будем работать с другими компаниями, экосистемами, правительствами и обществом, чтобы их решать. 
5. Адаптивность. Мы по-прежнему считаем, что единственный способ справиться с вызовами крайне непредсказуемого будущего — быть готовыми корректировать свои позиции по мере того, как мы узнаем больше. 

Мы считаем, что ИИ способен изменить то, как люди работают, учатся, создают новое и участвуют в жизни общества. Демократии при этом сыграют важнейшую роль: они помогут расширять доступ к возможностям, снижать риски и обеспечивать людям реальное влияние на то, каким будет будущее ИИ. Именно поэтому мы стремимся обеспечить свободный и безопасный доступ к нашим технологиям. 

Наша пользовательская база отражает эту приверженность:⁠ нашими инструментами пользуются женщины и мужчины в равной мере; у нас больше пользователей младше и старше 30 лет, чем у любой другой ИИ-платформы; а пользователей с доходом менее 100 000 долларов США больше, чем пользователей с доходом выше этой суммы, что отражает структуру мировой рабочей силы в целом.

Именно поэтому OpenAI взаимодействует с правительствами и гражданским обществом по всему миру: чтобы помочь ответственным за выработку политики людям понять нашу технологию и её влияние, улучшить работу правительств и то, как они приносят пользу своим гражданам, расширить возможности людей участвовать в демократических институтах и получать от них пользу, а также формировать политику, которая продвигает нашу миссию — обеспечить, чтобы AGI приносил пользу всему человечеству.

Следующие приоритеты отражают то, как мы воплощаем нашу миссию⁠ и наши принципы⁠ в сфере государственной политики. Мы поддерживаем политические меры, которые помогают государствам и обществу реагировать на возможности и вызовы, создаваемые ИИ, снижать риски, расширять доступ к возможностям и обеспечивать людям возможность полноценно участвовать в экономике ИИ и получать от нее пользу. В совокупности эти приоритеты призваны помочь правительствам лучше служить интересам своих граждан и одновременно способствовать реализации нашей миссии — сделать так, чтобы AGI приносил пользу всему человечеству. Они отражают некоторые направления, в которых мы сегодня наиболее активно работаем, но этот список не является исчерпывающим. По мере развития ИИ мы также ожидаем, что наши приоритеты в сфере политики и направления взаимодействия будут и дальше развиваться.

Мы считаем, что безопасность передового ИИ — это вопрос национальной и общественной безопасности, особенно в отношении самых продвинутых моделей ИИ общего назначения, которые могут создавать риски, связанные с кибероружием, а также химическим, биологическим, радиологическим и ядерным оружием (CBRN). В США мы поддерживаем усилия штатов по согласованию общих рамочных подходов, таких как SB 53 штата Калифорния⁠(открывается в новом окне), Закон RAISE штата Нью-Йорк⁠(открывается в новом окне) и SB 315 штата Иллинойс⁠(открывается в новом окне), которые подчеркивают важность прозрачности, публичной отчетности об оценках катастрофических рисков и инцидентах в области безопасности, защиты лиц, сообщающих о нарушениях, а также обеспеченной правовыми механизмами ответственности разработчиков, не выполняющих свои обязанности в сфере безопасности и защиты. Такие подходы на уровне штатов могут помочь установить согласованные стандарты, которые позволят снизить фрагментацию и в конечном счете проложить путь к формированию федеральной нормативной базы. 

Мы также поддерживаем действия Конгресса по созданию всеобъемлющей федеральной нормативной базы, которая использует формирующийся консенсус, отражённый в законах штатов о безопасности передового ИИ; укрепляет Центр стандартов и инноваций в области ИИ (CAISI) как основной институт федерального правительства США по безопасности передового ИИ; и мобилизует более широкий межведомственный план повышения устойчивости для решения проблем национальной и общественной безопасности, создаваемых передовым ИИ. Эта рамочная структура должна требовать от CAISI проведения оценок наиболее мощных передовых моделей, поручать CAISI создание независимой экосистемы оценки и отдавать приоритет мониторингу прогресса в направлении рекурсивного самоулучшения (RSI). При наличии всеобъемлющей федеральной нормативной базы мы поддерживаем приоритет федерального регулирования над законами штатов, которые направлены на регулирование тех же рисков безопасности передовых систем.

Мы также поддерживаем ведущую роль федерального правительства США в разработке единых международных стандартов и стали первой американской компанией, подписавшей Кодекс практики к Закону ЕС об искусственном интеллекте. Мы также были в числе первых компаний, заключивших добровольные соглашения как с CAISI (США), так и с Британским институтом безопасности ИИ (UK AISI). 

Заглядывая в будущее, мы считаем, что лицам, определяющим политику, следует начать рассматривать более амбициозные идеи⁠(открывается в новом окне), такие как планы действий по сдерживанию моделей, отчетность об инцидентах или международные органы управления, которые способствуют координации в отношении рисков передового ИИ, защитных мер и инцидентов безопасности.

Что касается кибербезопасности⁠(открывается в новом окне), мы поддерживаем меры политики, которые расширяют надежный доступ к инструментам киберзащиты на основе ИИ и укрепляют партнерство между государственными органами, исследователями и отраслью, чтобы проводить оценки, активнее обмениваться информацией и развивать меры устойчивости для усиления киберзащиты. Мы также поддерживаем усилия по модернизации устаревших систем кибербезопасности государственного сектора и сотрудничаем с правительством США на федеральном уровне, уровне штатов и местном управлении, а также с международными партнерами.

Мы считаем, что ИИ может помогать молодым людям учиться, создавать новое, развивать навыки и предпринимательское мышление, которые понадобятся им для успешной жизни в экономике будущего, — при условии что ИИ внедряется с надежными защитными механизмами и мерами защиты, соответствующими возрасту. Подростки должны иметь доступ к безопасному и надежному ИИ⁠(открывается в новом окне) дома, в школе и в период подготовки к выходу на рынок труда, а также должны быть защищены от его потенциального вреда. Мы поддерживаем строгие и реально исполнимые нормы регулирования для защиты подростков, основанные на оценке рисков, а также подходы, в которых надежные защитные механизмы сочетаются с прозрачностью и инструментами, позволяющими семьям самим контролировать ситуацию. 

Это включает требования к подтверждению возраста с сохранением конфиденциальности, чтобы компании могли определять, когда пользователь является несовершеннолетним, и применять меры защиты, соответствующие возрасту; регулярные оценки рисков для безопасности молодежи, которые выявляют предсказуемые риски и способствуют внедрению соразмерных мер защиты до причинения вреда; доступные инструменты родительского контроля, которые помогают семьям направлять и поддерживать опыт взаимодействия подростков с сервисом; а также четкие публичные политики в области безопасности молодежи, объясняющие, какие меры защиты применяются и как они меняются со временем.

Он также включает меры защиты, разработанные для устранения рисков, с которыми подростки могут столкнуться при взаимодействии с системами ИИ, включая защиту от вредоносного или не соответствующего возрасту контента, четкие протоколы реагирования на серьезные ситуации, связанные с безопасностью, а также меры защиты от манипулятивных или вводящих в заблуждение взаимодействий. Протоколы реагирования на кризисные ситуации должны предусматривать поддержку внутри сервиса, направление к подходящим внешним ресурсам помощи, таким как служба 988 в США, а также своевременное уведомление родителей, когда это уместно. Компании также должны быть обязаны защищать персональные данные подростков, в том числе посредством ограничения таргетированной рекламы, направленной на несовершеннолетних, а также продажи персональных данных.

Наконец, надежные механизмы подотчетности, включая независимые аудиты, необходимы для того, чтобы эти меры защиты были действенными на практике. Аудиты должны основываться на наборе общих стандартов, которые обеспечивают совместимость аудитов в различных юрисдикциях. Нормативно-правовые механизмы должны предусматривать меры надзора и обеспечения исполнения, позволяющие правительствам оценивать, эффективно ли компании внедряют защитные меры для обеспечения безопасности несовершеннолетних, снижают выявленные риски и соблюдают обязательства в области безопасности и приватности несовершеннолетних. Мы с гордостью поддерживаем усилия коалиции «Безопасный ИИ для родителей и детей»⁠(открывается в новом окне) по продвижению этих принципов и внедрению практических защитных механизмов в сфере ИИ, которые помогают защищать молодых людей, сохраняя при этом возможность учиться с помощью ИИ и получать от него пользу. 

Кроме того, мы поддерживаем надежные правовые и технические меры защиты от сексуального насилия в отношении детей и сексуальной эксплуатации детей. Это включает модернизацию законов о защите детей с учётом способов, которыми генеративный ИИ может использоваться во вред: для создания синтетических материалов (CSAM), цифрового изменения существующих изображений, а также масштабирования онлайн-груминга или эксплуатации. Политики должны обеспечить, чтобы законодательные нормы о CSAM чётко охватывали материалы, созданные с помощью ИИ и изменённые цифровыми средствами, уточняли ответственность за умышленные попытки создавать или запрашивать CSAM, а также сохраняли широкие полномочия для обеспечения правоприменения прокурорами и правоохранительными органами. Мы также поддерживаем стандарты отчётности провайдеров и координации, которые повышают качество и эффективность отчётов CyberTipline для принятия мер, одновременно снижая нагрузку на расследование и помогая NCMEC и правоохранительным органам действовать быстрее. Наконец, компаниям следует внедрять меры безопасности, встроенные в дизайн, включая выявление, механизмы предотвращения, надзор со стороны человека и непрерывный мониторинг, чтобы пресекать попытки эксплуатации до того, как будет причинён вред.

ИИ будет всё больше влиять на то, как люди учатся, работают и участвуют в общественной жизни. Образовательные учреждения будут играть ключевую роль в формировании грамотности в области ИИ⁠(открывается в новом окне) и подготовке учащихся к тому, чтобы ориентироваться в мире, где ИИ присутствует повсеместно. Мы поддерживаем меры политики, которые помогают учащимся, учителям, семьям и сообществам взаимодействовать с ИИ безопасно, критически и творчески, при этом обеспечивая, чтобы педагоги сохраняли ключевую роль в принятии решений в классе и определяли темпы внедрения ИИ в школах. Это включает инвестиции в грамотность в области ИИ, качественное обучение по основным дисциплинам, таким как история, граждановедение, математика, естественные науки, литература, информатика и профессионально-техническое образование. Это также предусматривает повышение квалификации учителей и специально выделенное время для профессионального обучения, образовательные траектории, согласованные с потребностями рынка труда, а также расширение доступа к инструментам ИИ, широкополосному интернету, устройствам и образовательным ресурсам для школ, библиотек и общественных учреждений. Мы также поддерживаем усилия по расширению исследований того, как ИИ влияет на результаты обучения, благополучие учащихся и равенство возможностей в образовании, а также усилия по учету полученных выводов при разработке и внедрении ИИ.

Мы считаем, что у каждого должна быть возможность участвовать в новых возможностях, которые создаёт ИИ⁠(открывается в новом окне), поэтому мы предоставляем ChatGPT бесплатно. Мы поддерживаем политику, которая расширяет доступ к полезному и доступному ИИ и помогает работникам, предпринимателям, преподавателям и малому бизнесу внедрять его за счёт инвестиций в обучение кадров и повышение грамотности в области ИИ. Мы также поддерживаем создание региональных центров ИИ, которые объединяют работодателей, профсоюзные организации, общественные колледжи, университеты, советы по развитию трудовых ресурсов и местные предприятия, а также программы внедрения ИИ для малого бизнеса, предоставляющие доступ к инструментам ИИ, технической поддержке и практическому обучению.

Мы также сотрудничаем с организациями, представляющими интересы работников⁠(открывается в новом окне), чтобы расширять доступ к обучению⁠, помогать работникам развивать практические навыки в области ИИ и готовиться к изменениям в экономике, обусловленным всё более функциональными системами ИИ. Кроме того, мы регулярно публикуем данные о том, как работники и работодатели используют наши инструменты, и поддерживаем меры по обеспечению прозрачности в сфере занятости, которые не только помогают лицам, ответственным за выработку политики, и общественности лучше понимать, как ИИ меняет работу, но и помогают определять пути, позволяющие работникам переходить к новым ролям и человекоориентированной работе. В то же время мы намерены сотрудничать с органами, формирующими политику, чтобы разработать и реализовать более амбициозную повестку по вопросам трудовой занятости и экономического перехода⁠(открывается в новом окне), которая предусматривает переносимые социальные льготы, модернизацию налоговой системы, общественные фонды благосостояния и адаптивные системы социальной защиты.

Мы считаем, что ИИ может расширять возможности для творческого самовыражения, поддерживать художников и авторов, открывать новые формы самовыражения, творческого переосмысления и общественной дискуссии, а также снижать барьеры для участия независимых авторов, небольших студий и новых голосов в креативной экономике. В то же время люди должны иметь возможность понимать происхождение цифрового контента и быть защищены от вредоносных дипфейков, таких как обманное выдавание себя за другого и несанкционированные цифровые копии. Мы поддерживаем политики, способствующие прозрачности в интернете, включая требования к инструментам ИИ включать сигналы о происхождении, например разработанные Coalition for Content Provenance and Authenticity («Коалицией по обеспечению происхождения и подлинности контента», C2PA), в создаваемый ими аудиовизуальный контент. Мы также сотрудничаем с партнёрами по всей отрасли, чтобы развивать взаимно совместимые стандарты отслеживания происхождения контента и инструменты проверки его подлинности, которые помогают людям лучше понимать, откуда появился цифровой контент. Мы поддерживаем политики, направленные на защиту от вредоносного неправомерного использования голоса и образа, при этом сохраняя важные гарантии защиты свободы выражения мнений, пародии, журналистики и других законных способов использования. 

Мы поддерживаем надежные меры защиты от сексуального насилия с использованием изображений, включая усилия по криминализации распространения синтетических интимных изображений, созданных без согласия, и усилению средств правовой защиты для пострадавших. Мы также поддерживаем меры по защите честности выборов, связанные с вводящим в заблуждение политическим контентом, созданным ИИ, включая запреты на намеренное распространение контента, созданного ИИ, с целью ввести избирателей в заблуждение, а также требования к раскрытию информации для определённой политической рекламы и коммуникаций избирательных кампаний, созданных ИИ. Мы сотрудничаем с надежными избирательными органами, чтобы помогать предоставлять точную информацию о голосовании и выборах⁠, а также не допускать, чтобы наши системы необоснованно рекомендовали кандидатов или ранжировали их.

Мы считаем, что если инфраструктура ИИ развивается в партнерстве с местными сообществами, она становится двигателем местного, регионального и национального экономического роста. Партнерство с местными сообществами начинается с понимания местных потребностей, и именно поэтому для каждой площадки Stargate разрабатывается индивидуальный план сообщества⁠, разработанный в консультации с местными сообществами, в том числе по вопросам проектирования площадки и источников энергии. Именно поэтому мы также поддерживаем политики, требующие прозрачности в вопросах водоснабжения, электроэнергии, и соглашений с государственными органами, с соответствующими исключениями для обеспечения безопасности, защиты коммерчески чувствительной информации, коммерческих тайн и проприетарной информации. 

Мы обязуемся самостоятельно покрывать свои расходы на электроэнергию, чтобы наша деятельность не приводила к росту цен на электроэнергию, а также поддерживаем меры политики, которые гарантируют, что центры обработки данных оплачивают свою справедливую долю затрат на электроэнергию, включая требования комиссий штатов по регулированию коммунальных услуг вводить тарифы для крупных потребителей, согласно которым центры обработки данных обязаны оплачивать дополнительные затраты, которые они создают. Мы сотрудничаем с местными энергоснабжающими организациями и регулирующими органами, чтобы центры обработки данных способствовали обеспечению надежности энергосети. Мы также поддерживаем требования к отчетности в области устойчивого развития, включая раскрытие информации о технологиях и практиках, снижающих воздействие на окружающую среду, таких как резервные генераторы с низким уровнем выбросов и системы охлаждения с замкнутым контуром или с низким потреблением воды. Мы поддерживаем меры политики, которые помогают местным жителям получать доступ к хорошо оплачиваемым рабочим местам в строительстве, включая стимулы для участия в официальных программах производственного обучения и заключения проектных трудовых соглашений. Мы также поддерживаем меры политики, которые обеспечивают отраслево нейтральные и предсказуемые механизмы налогообложения и стимулирования, предусматривают ответственность компаний за выполнение взятых на себя обязательств и стимулируют инновации, предпринимательство и долгосрочный экономический рост в местных сообществах.