Обновление наших технических требований к модели с защитой подростков
Составленные на основе экспертных рекомендаций новые принципы взаимодействия с лицами младше 18 лет описывают, как ChatGPT должен оказывать поддержку подросткам, обеспечивая безопасное и соответствующее возрасту поведение.
Делимся новостями об обновлении нашей спецификации модели — письменного набора правил, ценностей и поведенческих ожиданий, которые определяют, как мы хотим, чтобы наши модели ИИ вели себя, особенно в сложных или критических ситуациях, с новыми принципами взаимодействия с лицами младше 18 лет (U18)(открывается в новом окне). Поведение модели критически важно для взаимодействия людей с ИИ, а у подростков потребности в развитии отличаются от взрослых.
Принципы U18 определяют, как ChatGPT должен обеспечивать безопасный и соответствующий возрасту опыт взаимодействия для подростков в возрасте от 13 до 17 лет. Этот подход, основанный на науке о развитии, уделяет приоритетное внимание профилактике, прозрачности и раннему вмешательству. При разработке этих принципов мы предварительно просматривали их вместе с внешними экспертами, в том числе из Американской психологической ассоциации, в рамках нашей постоянной работы по получению данных для укрепления нашего подхода.
Хотя принципы спецификации модели продолжают применяться как ко взрослым пользователям, так и к пользователям подросткового возраста, это обновление уточняет, как эти принципы применяются в подростковых контекстах, особенно там, где соображения безопасности для несовершеннолетних могут быть определены более четко.
Принципы U18 закреплены в четырёх руководящих обязательствах:
- Ставить безопасность подростков на первое место, даже если это может противоречить другим целям
- Продвигать поддержку в реальном мире, поощряя офлайн-отношения и обращение к надежным ресурсами
- Относиться к подросткам как к подросткам — не снисходительно, но и не как ко взрослым
- Сохранять прозрачность действий и устанавливать четкие ожидания
Эти принципы, перекликающиеся с нашим Планом по обеспечению безопасности подростков, все это время направляли и направляют нашу работу по обеспечению безопасности подростков, в том числе в плане защиты контента, которую мы применяем, когда пользователь при регистрации сообщает нам, что ему нет 18 лет, а также через родительский контроль. В этих контекстах мы внедрили защитные механизмы, позволяющие направлять модель на более тщательное рассмотрение тем, связанных с областями повышенного риска, включая самоповреждение и суицид, романтические или сексуализированные ролевые игры, графический или откровенный контент, опасные действия и вещества, восприятие тела и расстройства пищевого поведения, а также просьбы хранить в секрете небезопасное поведение.
Американская психологическая ассоциация, которая рассматривала ранний проект спецификации модели U18 и предложила важные идеи на долгосрочную перспективу, четко указывает на важность защиты подростков:
«APA призывает разработчиков ИИ предлагать меры предосторожности, соответствующие возрасту, для молодых пользователей их продуктов, и применять более защищенный подход для более юных пользователей. Дети и подростки могут извлечь пользу из инструментов ИИ, если они будут сбалансированы с человеческими взаимодействиями, которые, как показывает наука, имеют решающее значение для социального, психологического, поведенческого и даже биологического развития. Опыт использования ИИ у молодых людей должен тщательно контролироваться и обсуждаться с доверенными взрослыми: важно поощрять критический анализ того, что предлагают ИИ-боты, и способствовать развитию у молодых людей независимого мышления и навыков.»
В этом обновлении также уточняется, как ассистент должен реагировать, когда возникают вопросы безопасности подростков. Это означает, что подростки должны сталкиваться с более жесткими ограничениями, более безопасными альтернативами и поощрением обращаться за доверенной поддержкой офлайн, когда разговоры переходят в зону повышенного риска. При наличии неминуемой угрозы подросткам настоятельно рекомендуется обращаться в экстренные службы или к ресурсам помощи в кризисных ситуациях.
Как и остальная часть спецификации модели, принципы U18 отражают предполагаемое нами поведение модели. Мы продолжим их совершенствовать на основе результатов дальнейших исследований, мнений экспертов и реальных практических примеров.
Помимо обновления спецификации модели, мы применили многоуровневый подход к укреплению безопасности для подростков в ChatGPT, охватывая меры безопасности продуктов, поддержку семей и экспертное руководство.
С момента внедрения родительского контроля(открывается в новом окне) мы расширили защиту на новые продукты, включая групповые чаты, браузер ChatGPT Atlas и приложение Sora. Эти обновления помогают родителям адаптировать опыт работы с ChatGPT для подростков по мере внедрения нами новых продуктов и функций.
В соответствии с рекомендациями экспертов, мы поощряем регулярное обсуждение темы здорового и ответственного использования ИИ между родителями и подростками. Для помощи в этих обсуждениях мы добавили новые ресурсы, прошедшие проверку экспертами, в центр ресурсов для родителей(открывается в новом окне): семейное руководство по ответственному использованию ИИ для подростков(открывается в новом окне) и советы для родителей(открывается в новом окне) о том, как говорить с детьми об ИИ. Все материалы были проверены ConnectSafely и участниками нашего Экспертного совета по благополучию и искусственному интеллекту. Со временем мы продолжим добавлять новые ресурсы. Мы также обеспечиваем поддержку здорового использования непосредственно в продукте, предоставляя встроенные напоминания о перерывах во время длительных сеансов, чтобы помочь сделать время, проведённое с ChatGPT, осознанным и сбалансированным.
Наша работа в области безопасности подростков основана на тесном взаимодействии с экспертами разных дисциплин и экспертизы. В октябре мы создали Экспертный совет по благополучию и искусственному интеллекту, чтобы давать рекомендации и определять, каким должно быть здоровое взаимодействие с ИИ для всех возрастов. Эта работа послужила основой для рекомендаций по родительскому контролю и уведомлениям для родителей. Мы также привлекаем клинических экспертов через нашу глобальную сеть врачей для обоснования исследований безопасности и оценок поведения модели; к примеру, таким образом мы улучшили то, как ChatGPT распознает признаки стресса и поощряет людей обратиться за профессиональной помощью, когда это действительно необходимо. Мы развили эти основы в GPT‑5.2 и также расширили доступ к реальной поддержке, предоставляя локализованные горячие линии в ChatGPT и Sora через наше партнерство с ThroughLine(открывается в новом окне).
Мы находимся на ранних стадиях внедрения модели прогнозирования возраста(открывается в новом окне) в потребительские планы ChatGPT. Это поможет нам автоматически применять меры безопасности для подростков, когда мы полагаем, что учетная запись принадлежит несовершеннолетнему. Если мы не уверены в возрасте или у нас нет полной информации о пользователе, мы по умолчанию предоставляем опыт работы, предусмотренный для пользователей младше 18 лет, давая взрослым возможность подтвердить свой возраст.
Укрепление безопасности для подростков — это постоянная работа. Мы будем продолжать улучшать качество родительского контроля и возможности моделей, дополнять раздел ресурсов для родителей, сотрудничать с организациями, исследователями и экспертами, в том числе с Советом по благополучию и Глобальной сетью врачей.
Мы стремимся создать надежные меры защиты подростков и улучшать их со временем для более качественной поддержки подростков и их близких.
