Безопасность и возможности молодежи: шаг к глобальному лидерству

ИИ может быть мощным инструментом для молодых людей. Он может помочь учащимся понять сложную концепцию, попрактиковаться в новом языке, подготовиться к собеседованию, исследовать творческие идеи или освоить новый навык. Подобно тому как движение за грамотность, распространившееся по миру в середине XX века, требовало массового распространения печатных текстов и доступа к подготовленным учителям, сегодня доступ к безопасному ИИ откроет новые возможности для персонализированного обучения, поможет снизить барьеры для недостаточно обслуживаемых групп и повысит готовность рабочей силы.

Поскольку потенциальные преимущества столь значительны, крайне важно, чтобы молодые люди могли получать доступ к ИИ безопасным, соответствующим возрасту и поддерживающим здоровое развитие образом. Эта ответственность не должна ложиться главным образом на родителей или самих молодых людей. Компании, включая OpenAI, обязаны создавать продукты с надлежащими средствами защиты по умолчанию, одновременно предоставляя семьям инструменты и информацию, помогающие направлять использование ИИ.

Когда в конце этого месяца главы государств соберутся во французском Эвиане на саммит лидеров «Большой семерки» (G7), безопасность молодежи в сфере ИИ станет одной из главных тем обсуждения. OpenAI примет участие в этой встрече, чтобы обсудить расширение сотрудничества в области защиты несовершеннолетних, совместные шаги по повышению отраслевых стандартов, а также новый призыв компании к учреждению международного института безопасности молодежи.

Саммит G7 представляет собой редкую возможность для координации усилий по обеспечению безопасности молодежи на глобальном уровне. Однако специализированный институт обеспечил бы преемственность и последовательность действий, необходимые за рамками одной встречи, помогая правительствам, исследователям, гражданскому обществу и представителям индустрии продолжать совместную работу для обмена данными, выработки рекомендаций и постепенного повышения стандартов.

Существует несколько надежных способов сделать это: через новый международный институт или путем предоставления существующему либо вновь созданному национальному институту ИИ глобального мандата на обмен исследованиями, данными и рекомендациями с партнерами по всему миру. Главное — какую функцию он выполняет. Обеспечение безопасности молодежи при использовании ИИ требует постоянного внимания, проверенных данных и практических рекомендаций, соответствующих стремительным темпам развития технологий.

Такой институт может опереться на уже зарождающиеся инициативы — например, на созданный при поддержке OpenAI Foundation Институт безопасности молодежи в сфере ИИ (Youth AI Safety Institute) организации Common Sense Media. Кроме того, он может использовать опыт практического взаимодействия с педагогами, включая совместную работу OpenAI с Американской федерацией учителей⁠. Деятельность института должна также опираться на примеры реального внедрения технологий, такие как национальный проект по интеграции ChatGPT в школах Эстонии. В рамках этого проекта OpenAI сотрудничает со Стэнфордским университетом и эстонскими исследователями для изучения эффекта от внедрения технологий и разработки методов их более безопасного и эффективного использования в обучении.

OpenAI приветствует возможность сотрудничества с правительством Франции, другими государствами «Большой семерки» (G7), а также с партнерами из числа гражданского общества, научных кругов и индустрии в рамках этой жизненно важной работы ради повышения глобальных стандартов безопасности молодежи.

Мы убеждены, что надежные рамочные стандарты безопасности молодежи в сфере ИИ — включая любые возможные соглашения, достигнутые на встречах «Большой семерки» (G7) — должны опираться на принципы, изложенные ниже:

1. Компании должны знать, когда пользователь является несовершеннолетним, и применять меры защиты, соответствующие возрасту. Это означает требование к поставщикам использовать такие средства, как эффективная оценка возраста с сохранением конфиденциальности, чтобы отличать несовершеннолетних от взрослых, и применять защитные меры по умолчанию, когда возраст пользователя невозможно определить. Без этой основы даже самые добросовестные меры защиты молодежи могут не дойти до тех молодых людей, которых они призваны защищать.
2. Компании должны регулярно оценивать как риски, так и преимущества для молодых людей и принимать меры для их устранения — до причинения вреда. Это означает требование к поставщикам ежегодно проводить оценки рисков для безопасности молодежи и внедрять соразмерные защитные меры на основе выявленных рисков. Такие оценки должны учитывать риски для молодых людей с учетом стадии их развития, эмпирических данных фактического использования, а также соответствующих исследований или регуляторных рекомендаций. Оценки должны рассматривать не только потенциальный вред, но и то, поддерживает ли ИИ положительные результаты, такие как обучение, творчество, развитие навыков и доступ к возможностям.
3. Родители и опекуны должны иметь доступные и простые в использовании средства управления, которые помогают им направлять опыт своих детей, поддерживая при этом самостоятельность, соответствующую возрасту. Они должны включать инструменты для управления ключевыми настройками, включая память, использование данных и лимиты времени. Инструменты для родителей следует активно продвигать, чтобы родители знали об их существовании и понимали, как ими пользоваться. 
4. Семьи должны располагать ясной и понятной информацией о том, как компании защищают молодых пользователей, а также содержательной информацией как о преимуществах, так и о рисках использования ИИ молодыми людьми. Компании должны публиковать политики безопасности, объясняющие, какие меры защиты действуют для защиты молодых людей, какие доступны родительские инструменты и как эти меры обновляются по мере развития рисков. Такая прозрачность укрепляет доверие и помогает родителям делать осознанный выбор.
5. Компании должны внедрить четкие протоколы для реагирования на серьезные угрозы безопасности, включая нанесение себе вреда (селфхарм), эксплуатацию, груминг, контент сексуально-эксплуатационного характера и другие взаимодействия с высоким уровнем риска. Эти меры должны включать встроенную поддержку пользователей, перенаправление к профильным ресурсам помощи и своевременное уведомление родителей в надлежащих случаях. Компании также обязаны проектировать свои системы таким образом, чтобы не допускать генерации контента, который является небезопасным или не соответствует возрасту детей, включая откровенные сцены насилия или сексуального характера.  
6. Системы ИИ, используемые молодыми людьми, должны быть разработаны так, чтобы поддерживать обучение, развитие и реальные отношения, а не заменять их. ИИ должен служить инструментом, который помогает молодым людям учиться, создавать, развивать навыки и готовиться к будущему. В то же время компании должны устанавливать четкие границы в областях, где здоровое развитие зависит от человеческого суждения, реальных отношений и профессиональной поддержки.
7. Персональная информация несовершеннолетних должна быть защищена. Данное требование подразумевает запрет на использование конфиденциально-инвазивной таргетированной рекламы, направленной на молодую аудиторию, и лишает компании права продавать личную информацию пользователей этой возрастной группы.
8. Рамочные стандарты безопасности молодежи должны способствовать расширению возможностей, повышению цифровой грамотности и защите пользователей. Молодые люди должны иметь доступ к инструментам ИИ, которые поддерживают обучение, творчество, развитие навыков и будущие возможности, и при этом обладать знаниями и навыками критического мышления, необходимыми для безопасного и ответственного использования ИИ. Это включает развитие грамотности в области ИИ и помощь молодым людям в понимании возможностей и ограничений систем ИИ, чтобы они могли уверенно и ответственно взаимодействовать в цифровой среде.
9. Для того чтобы эти меры защиты действительно работали на практике, необходимы сильные механизмы подотчетности, включая независимый аудит. В основе такого аудита должен лежать набор единых стандартов, обеспечивающих совместимость проверок в различных юрисдикциях. Законодательная база должна предусматривать меры надзора и принудительного исполнения, позволяющие правительствам оценивать, насколько эффективно компании внедряют механизмы защиты молодежи, снижают выявленные риски и соблюдают свои обязательства в сфере конфиденциальности и безопасности несовершеннолетних.

Эти принципы отражены в том, как мы создаем и развиваем ChatGPT: от поведения моделей и дизайна продукта до привлечения экспертов и поддержки пользователей в реальной жизни. Мы усилили меры защиты для пользователей младше 18 лет, запустили родительский контроль⁠ с проактивными уведомлениями и усовершенствовали системы определения возраста⁠, благодаря чему ChatGPT может применять более строгие ограничения, если система предполагает, что пользователю нет 18 лет. Наша спецификация модели, определяющая правила поведения моделей, также содержит отдельные принципы для несовершеннолетних пользователей⁠(открывается в новом окне), где приоритет отдается безопасности подростков, соответствию контента их возрасту, реальной поддержке и прозрачным ожиданиям. На практике это означает создание более жестких защитных барьеров вокруг таких тем, как нанесение себе вреда (селфхарм), опасные действия, откровенный контент, восприятие собственного тела и секреты, а также призывы обратиться за помощью к проверенным офлайн-специалистам или в службы экстренной поддержки в случае необходимости. В ситуациях, когда возраст пользователя точно не определен, мы по умолчанию применяем более строгие меры безопасности.

ИИ, разработанный с надежными защитными мерами и предлагаемый с понятными рекомендациями, а также при поддержке семей и педагогов, может помочь молодым людям безопасно пользоваться инструментами, расширяющими возможности обучения, творчества и развития. ИИ может помочь учащимся понимать сложные концепции, практиковать языки, улучшать письмо, учиться программировать, организовывать исследования, исследовать творческие идеи и готовиться к профессиям, которые уже меняются. В рамках программы Education for Countries⁠ OpenAI работает с правительствами и педагогами над внедрениями, основанными на исследованиях, локализованными инструментами обучения и подготовкой учителей, чтобы внедрение ИИ опиралось на доказательства и реальные потребности классов. Эта работа уже поддерживает национальные усилия в области образования в наших странах-партнерах, включая Эстонию⁠, Грецию⁠ и Сингапур⁠.

Помимо участия в Саммите лидеров, мы организуем выездную сессию OpenAI Forum⁠(открывается в новом окне) в Париже, чтобы провести практическую дискуссию о том, как правительства, исследователи, гражданское общество, педагоги и представители индустрии могут превратить общие цели по защите молодежи в конкретные защитные механизмы, стандарты и практику их внедрения. Посол Франции по делам ИИ и цифровых технологий Клара Шаппаз присоединится к директору OpenAI по глобальной политике Крису Лехейну, лидерам в сфере безопасности молодежи из iRaise/Everyone.AI и другим экспертам для обсуждения того, как молодые люди могут извлекать пользу из ИИ при одновременном снижении рисков.