OpenAI поддерживает законопроект Калифорнии о безопасности молодёжи при использовании ИИ

Энн О’Лири, вице-президент по глобальной политике

OpenAI поддерживает законопроект Сената Калифорнии SB 1119, который предусматривает значимые меры защиты молодых людей при использовании ИИ, сохраняя для них доступ к инструментам, помогающим учиться, творить и готовиться к будущему. Эта поддержка развивает позицию, которую в прошлом году обозначил соучредитель и генеральный директор OpenAI Сэм Альтман, изложив принципы компании в отношении подростков.

Пока на федеральном уровне не принимаются соответствующие меры, Калифорния может задать высокий стандарт безопасности детей при использовании ИИ.

В нашем письме губернатору Ньюсому⁠(открывается в новом окне) мы отмечаем его лидерство в этом важном вопросе, а также вклад сенатора Стива Падильи, членов Ассамблеи Баффи Уикс и Ребекки Бауэр-Кахан и Законодательного собрания Калифорнии. SB 1119 развивает меры по обеспечению безопасности детей, которые OpenAI уже поддерживает в своих продуктах, принципах глобальной политики и законодательных инициативах в Калифорнии, а также в работе над законом Parents & Kids Safe AI Act. Мы призываем губернатора Ньюсома подписать законопроект.

Современные подростки — первое поколение, растущее вместе с ИИ. Почти девять из десяти подростков, использующих ChatGPT, в течение недели обращаются к нему для учебы, поиска информации, развития навыков или повышения продуктивности. Эти возможности предполагают очевидную ответственность: продукты для подростков должны учитывать особенности их развития, обеспечивать надежную защиту по умолчанию и предоставлять подходящие возможности для учебы, творчества и исследований.

Этот подход воплощен в недавно запущенном продукте ChatGPT для Подростков. Он помогает пользователям младше 18 лет учиться, критически мыслить и создавать новое, одновременно содействуя здоровому использованию, обеспечивая встроенные меры защиты и предоставляя родителям дополнительные инструменты контроля. Если наша система определяет, что пользователю меньше 18 лет, или он указывает возраст от 13 до 17 лет, его автоматически переводят в ChatGPT для Подростков. Эти меры защиты являются частью стандартного режима работы и не относятся к дополнительным настройкам, которые пользователь может отключить.

В целом мы считаем, что подростки могут пользоваться преимуществами ИИ без ущерба для безопасности, и именно эта цель лежит в основе SB 1119.

SB 1119 сочетает надежные меры защиты с сохранением доступа к полезным инструментам ИИ. Мы полностью поддерживаем следующие ключевые требования:

• Определять возраст пользователя;
• Выявлять и устранять риски для безопасности до того, как продукт станет доступен молодым людям;
• Проходить независимые проверки;
• Защищать молодых людей от вредоносного контента, в том числе связанного с самоповреждением и сексуальной эксплуатацией, а также от других взаимодействий с высоким уровнем риска;
• Предоставлять родителям инструменты, позволяющие направлять использование ИИ детьми и устанавливать ограничения;
• Направлять молодых людей к ресурсам кризисной поддержки при возникновении серьезных угроз безопасности;
• Ограничивать таргетированную рекламу и защищать персональные данные молодых людей.

Для пользователей, которых система определяет как подростков в возрасте от 13 до 17 лет, эти меры защиты должны применяться автоматически. Законопроект сочетает действенные механизмы ответственности с мерами защиты, которые помогают обеспечить безопасность молодых людей при использовании ИИ.

SB 1119 также обоснованно признает, что ИИ — это не социальные сети. Законопроект устанавливает специальные меры защиты, помогающие молодым людям использовать ИИ для учебы, творчества и исследований. При разработке этой системы законодатели стремились сохранить доступ к образовательным и критически важным для безопасности функциям, включая ответственное использование памяти ChatGPT, и одновременно сделать взаимодействие подростков с продуктом безопаснее и адаптировать его к их возрасту.

ChatGPT для Подростков включает набор специально адаптированных для учебы функций, таких как викторины, учебные визуализации и режим обучения. Они разработаны совместно с педагогами и экспертами по образованию, чтобы помогать учащимся разбирать задачи шаг за шагом. Эти инструменты призваны углублять понимание материала и формировать более эффективные учебные привычки. Функции, использующие контекст предыдущих бесед, включая память, помогают последовательно применять меры защиты, распознавать тревожные закономерности и со временем оказывать более полезную помощь в учебе.

Контекст также помогает этим инструментам безопасности и обучения со временем работать более последовательно. Благодаря таким функциям, как память, ChatGPT может учитывать релевантную информацию и предпочтения из предыдущих бесед, позволяя подросткам продолжать долгосрочные учебные проекты, не начиная каждый раз с нуля. Такая непрерывность взаимодействия также помогает не закреплять вредные модели поведения и эффективнее реагировать, когда молодому человеку может потребоваться дополнительная помощь или ресурсы.

Мы уже давно стремимся соблюдать баланс между безопасностью и обучением. За последний год мы добавили родительский контроль, определение возраста, наш план обеспечения безопасности подростков и принципы для лиц младше 18 лет в нашей спецификации модели — правила, определяющие предполагаемое поведение наших моделей. Так мы задаем новые стандарты их взаимодействия с молодыми людьми. Они запрещают романтическое взаимодействие, поощрение эмоциональной зависимости и заявления о том, что ChatGPT является человеком или обладает сознанием. Мы также предлагаем родительский контроль, позволяющий семьям управлять ключевыми настройками для подростков и получать уведомления в ситуациях высокого риска.

SB 1119 создает в Калифорнии надежную систему защиты детей при использовании ИИ. Дальнейшее изучение вопроса и сотрудничество в ходе реализации помогут усовершенствовать ключевые положения и сохранить эффективность системы по мере развития технологий. OpenAI намерена поддерживать эту работу и продолжать создавать продукты на основе ИИ, которые учитывают возраст подростков, обеспечивают более надежную автоматическую защиту и предоставляют значимые возможности для учебы и развития.