Наш подход к прогнозированию возраста

Мы внедряем прогнозирование возраста в потребительские планы ChatGPT, чтобы помочь определить вероятность, с которой учетная запись принадлежит лицу младше 18 лет, чтобы к подросткам можно было применить соответствующий опыт и меры безопасности. Как мы изложили в нашем Плане по обеспечению безопасности подростков⁠ и Принципах модельного поведения для лиц младше 18 лет⁠, молодые люди заслуживают технологий, которые одновременно расширяют возможности и защищают их.

Прогнозирование возраста основывается на уже существующих мерах защиты. Подростки, которые сообщают нам при регистрации, что им нет 18 лет, автоматически получают дополнительные меры защиты, чтобы уменьшить вероятность столкновения с чувствительным или потенциально вредным контентом. Это также позволяет нам относиться ко взрослым как ко взрослым и использовать наши инструменты так, как они хотят, при этом сохраняя безопасность.

Ранее мы поделились нашими предварительными планами⁠ по прогнозированию возраста, а сегодня мы делимся более подробной информацией, так как внедрение уже началось.

ChatGPT использует модель прогнозирования возраста, чтобы помочь определить, принадлежит ли учетная запись лицу младше 18 лет. Модель учитывает сочетание поведенческих сигналов и сигналов на уровне учетной записи, включая то, как долго существует учетная запись, типичное время суток, когда пользователь проявляет активность, особенности использования с течением времени и указанный пользователем возраст. Внедрение модели прогнозирования возраста помогает нам выяснить, какие сигналы улучшают точность, и мы используем эти знания для непрерывного совершенствования модели.

Пользователи, которые по ошибке попали в режим для лиц младше 18 лет, всегда смогут быстро и просто подтвердить свой возраст и восстановить полный доступ с помощью селфи через Persona — безопасный сервис проверки личности. Пользователи могут проверить, были ли применены меры безопасности к их учетной записи, и сделать это можно в любое время, перейдя в Настройки > Учетная запись.

Когда модель прогнозирования возраста определяет, что учетная запись может принадлежать лицу младше 18 лет, ChatGPT автоматически применяет дополнительные меры защиты⁠, предназначенные снижения риска доступа к чувствительному контенту, такому как:

• Изображение сцен насилия или чрезмерной жестокости
• Вирусные «челленджи», которые могут поощрять рискованное или вредное поведение у несовершеннолетних
• Признаки ролевых игр с сексуальным, романтическим или жестоким подтекстом
• Изображения членовредительства
• Контент, продвигающий экстремальные стандарты красоты, нездоровое питание или бодишейминг

Этот подход основан на мнении экспертов и опирается на научную литературу о науке о развитии ребенка, а также учитывает известные различия между подростками в восприятии риска, контроле импульсов, влиянии сверстников и эмоциональной регуляции. Хотя эти ограничения контента помогают снизить вероятность того, что подростки столкнутся с чувствительным контентом, мы сосредоточены на том, чтобы постоянно совершенствовать эти меры защиты, особенно для противодействия попыткам обойти наши защитные механизмы. Когда мы не уверены в возрасте человека или у нас нет полной информации, мы по умолчанию предоставляем более безопасный вариант использования системы.

Помимо данных мер защиты родители могут дополнительно настроить способ, с которым система взаимодействует с их ребенком, с помощью родительского контроля⁠(открывается в новом окне), включая установку тихих часов, когда ChatGPT нельзя использовать, управление такими функциями, как память или обучение модели, а также получение уведомлений при обнаружении признаков острого дистресса.

Мы учимся на результатах первоначального внедрения и продолжим со временем улучшать точность прогнозирования возраста. Мы будем внимательно отслеживать внедрение и использовать вышеперечисленные сигналы, чтобы непрерывно вносить улучшения.

В ЕС внедрение прогнозирования возраста начнется в ближайшие недели с учетом региональных требований. Для получения более подробной информации посетите нашу справочную страницу⁠(открывается в новом окне).

Хотя это важная веха, наша работа по обеспечению безопасности подростков продолжается. Мы продолжим делиться новостями о нашем прогрессе и полученных знаниях в диалоге с экспертами, в частности с Американской психологической ассоциацией, ConnectSafely и Глобальной сетью врачей⁠.