Почему подросткам нужен доступ к безопасному ИИ

Подростки — первое поколение, которое растет вместе с ИИ, и эта технология во многом определит их будущее. Сегодня почти 9 из 10 подростков в ChatGPT используют его в течение недели для обучения, поиска информации, развития навыков или повышения продуктивности. Именно поэтому мы считаем, что подросткам критически важно иметь доступ к ИИ. Не давать подросткам пользоваться им до совершеннолетия — все равно что просить предыдущее поколение не пользоваться интернетом или поисковиками до 18 лет, оставляя их менее подготовленными к одной из определяющих технологий своего времени. Но доступ должен сопровождаться мерами защиты, разработанными специально для подростков.

На недавнем мероприятии Академии OpenAI⁠(открывается в новом окне) Ориана Маккензи рассказала, как ChatGPT помог ей стать первой в классе старшей школы: она стала учиться эффективнее и лучше распределять нагрузку, а значит, у нее появилось время на любимые спортивные и школьные программы. Ее история показывает, что становится возможным, когда у подростков есть доступ к ИИ, помогающему учиться и создавать новое.

Чтобы эти возможности приносили максимальную пользу, подросткам нужны более надежные меры защиты, учитывающие их жизненный этап: в том числе автоматические ограничения, которые позволяют им уверенно исследовать, учиться и создавать, обеспечивая защиту с учетом возраста. По мере того как ИИ становится мощнее, наша ответственность — сочетать широкий доступ с соответствующими возрасту мерами защиты, чтобы подростки могли пользоваться преимуществами этой технологии по мере ее развития.

За последний год это означало усиление защитных настроек по умолчанию для подростков, запуск определения возраста⁠, расширение функций родительского контроля⁠, создание дополнительных ресурсов для семей⁠(открывается в новом окне), чтобы помочь родителям поддерживать здоровое и ответственное использование, а также внедрение учебных функций, которые помогают глубже понимать материал, а не просто получать ответы.

В нашей работе мы руководствуемся четырьмя ключевыми обязательствами⁠:

• Мы ставим безопасность подростков на первое место, даже если это может противоречить другим целям.

• Мы поощряем обращение за поддержкой в реальном мире в трудные моменты.

• Мы относимся к подросткам как к подросткам.

• Мы действуем прозрачно, задавая понятные ожидания.

Обучение — один из самых очевидных способов, которыми ИИ приносит пользу подросткам, поэтому мы создаем инструменты, поощряющие активное участие, критическое мышление и более глубокое понимание. Режим обучения⁠(открывается в новом окне) был разработан совместно с учителями, исследователями обучения и экспертами по педагогике, чтобы помогать учащимся шаг за шагом разбирать задачи с помощью наводящих вопросов, структурированных объяснений и возможностей для рефлексии, не выдавая просто готовый ответ. Ранние оценки таких инструментов, как режим обучения, показали многообещающий рост успеваемости учащихся⁠ и помогают формировать наши более широкие исследования о том, как ИИ может поддерживать образовательные результаты.

Хотя подростки могут включать этот режим сами, теперь родители со связанными подростковыми учетными записями могут включать режим обучения⁠ прямо из раздела родительского контроля⁠. Когда он включен, он действует по умолчанию каждый раз, когда подросток начинает новый чат, давая семьям еще один способ направлять использование ChatGPT для учебы и школьных заданий.

Недавно мы также добавили учебные стартовые промпты для подростков, чтобы им было проще начинать с таких задач, как разбор темы на простые шаги, превращение конспектов в учебное пособие, создание карточек или тренировочных вопросов, а также проверка доказательности и ясности.

Мы также продолжаем расширять интерактивные учебные возможности⁠. Исследования последовательно показывают⁠, что люди учатся эффективнее, когда могут активно взаимодействовать с понятиями, а не пассивно потреблять информацию. С момента запуска ранее в этом году 18 миллионов пользователей еженедельно взаимодействуют с интерактивными материалами по математике и естественным наукам в ChatGPT, а мы расширили их более чем на 250 новых тем — от интегралов и митоза до фаз Луны, фотосинтеза и многого другого. Мы также представили функцию тренировки произношения, которая использует аудио, чтобы помогать людям учиться произносить слова более чем на 61 языке.

Если наша система определяет, что пользователю ChatGPT меньше 18 лет,⁠ мы автоматически предоставляем ему более соответствующий возрасту опыт⁠(открывается в новом окне). Подростки по-прежнему могут использовать ChatGPT, чтобы учиться, создавать и исследовать, но с дополнительными мерами защиты, призванными снизить вероятность столкновения с контентом, который может быть для них неподходящим. Сюда входят более строгие защитные меры в отношении графического насилия, самоповреждения, рискованных вирусных челленджей, нездорового контента об образе тела, а также опасных, романтических или сексуальных ролевых игр. Наш главный ориентир — помочь сделать так, чтобы ChatGPT оставался инструментом для обучения и творчества, а не заменой отношениям в реальном мире.

Мы также проектируем ChatGPT так, чтобы он поощрял здоровые привычки. Подростки, которые проводят в ChatGPT много времени, теперь будут чаще получать напоминания о перерыве⁠, побуждающие их остановиться и отвлечься. Эти напоминания призваны помочь молодым людям выработать сбалансированные привычки использования технологий, сохраняя при этом свободу применять ИИ для обучения, творчества и решения задач.

Мы считаем, что лучшие инструменты безопасности помогают семьям вместе разбираться в онлайн-опыте подростков. Мы создали родительский контроль и уведомления⁠, которые позволяют задавать тихие часы, отключать голосовой режим, управлять доступом к генерации изображений и получать уведомления в некоторых ситуациях высокого риска, например при признаках возможного самоповреждения.

Мы расширяем эти уведомления, добавляя случаи, когда связанная подростковая учетная запись была деактивирована за нарушение наших правил использования⁠, касающихся угроз насилия или актов насилия онлайн. Такой подход помогает родителям узнать, когда произошло что-то серьезное, при этом уважая приватность подростков и поощряя разговоры и поддержку вне интернета.

При разработке этих функций мы консультировались с несколькими экспертами, включая Moonshot⁠(открывается в новом окне), одного из лидеров в предотвращении онлайн-насилия, чтобы эти меры были продуманными, эффективными и помогали семьям реагировать в трудные моменты.

Мы также хотим, чтобы у родителей, подростков и педагогов были понятные рекомендации о том, как лучше всего использовать ИИ ответственно. Мы публикуем образовательные ресурсы более чем на 50 языках, включая семейное руководство по ответственному использованию ИИ подростками⁠(открывается в новом окне), советы о том, как говорить с подростком об ИИ⁠(открывается в новом окне) и советы для родителей, использующих ChatGPT⁠(открывается в новом окне).

Безопасность молодых людей в интернете — не та задача, которую одна компания может решить в одиночку. Мы тесно сотрудничаем с подростками, родителями, педагогами, экспертами по безопасности детей, специалистами в области психического здоровья, исследователями, правительствами и организациями гражданского общества. Эти партнерства помогают нам лучше понимать потребности молодых людей, выявлять новые риски, оценивать эффективность наших защитных мер и обеспечивать, чтобы наши правила опирались на независимую экспертизу.

Эта работа охватывает наш подход как к обучению, так и к благополучию молодежи. Мы сотрудничаем с педагогами, включая Американскую федерацию учителей⁠, учащимися и образовательными организациями, чтобы лучше понимать, как ИИ может поддерживать преподавание и обучение, одновременно укрепляя активное участие и критическое мышление. Мы также тесно работаем с экспертами из сообществ, занимающихся психическим здоровьем, развитием детей и безопасностью молодежи, включая Американскую психологическую ассоциацию⁠(открывается в новом окне), нашу Глобальную сеть врачей⁠ и наш Экспертный совет по благополучию и ИИ⁠.

Наша работа по созданию более здоровой цифровой экосистемы выходит за рамки наших собственных продуктов. Мы призвали разрабатывать масштабируемые глобальные стандарты безопасности ИИ для молодежи⁠ через специализированный Институт безопасности ИИ, публиковали в открытом доступе правила и инструменты⁠, которые разработчики могут встраивать в собственные ИИ-системы, и работаем с такими организациями, как Common Sense Media⁠(открывается в новом окне) и everyone.ai⁠(открывается в новом окне), чтобы обмениваться знаниями и лучшими практиками.

В этом году мы также присоединились к Family Online Safety Institute⁠(открывается в новом окне) (FOSI), организации, которая давно выступает за безопасный онлайн-опыт для семей и молодых людей. Мы будем работать вместе, чтобы молодые люди могли пользоваться преимуществами ИИ, при этом в центре внимания будут поддержка родителей и ответственная практика отрасли. Мы надеемся, что это партнерство поможет продвинуть общее понимание того, что работает, усилить соответствующие возрасту меры защиты и инструменты для родителей, а также поддержать общеотраслевые усилия, которые позволяют молодым людям безопасно и ответственно пользоваться преимуществами ИИ.

Защита молодых людей онлайн требует постоянного прогресса. В ближайшие месяцы мы продолжим усиливать соответствующие возрасту меры защиты, давать родителям больше инструментов и контроля, улучшать защиту от серьезного вреда, развивать исследования здорового использования ИИ и создавать больше возможностей, которые помогают подросткам активно учиться и уверенно пользоваться ИИ.

Мы знаем, что предстоит сделать еще многое, и намерены продолжать работу вместе с подростками, родителями, педагогами, экспертами и сообществами по всему миру, чтобы обеспечить подросткам безопасный широкий доступ.