Представляем функцию «Доверенное лицо» в ChatGPT
Связь с тем, кому вы доверяете, когда это особенно важно.
Люди используют ChatGPT, чтобы учиться, исследовать идеи, решать проблемы и размышлять над личными вопросами. Иногда в таких разговорах возникают моменты, когда человеку может быть трудно или ему нужна поддержка. Наша цель — создавать системы, которые вдумчиво реагируют на деликатные разговоры и побуждают людей при необходимости обращаться за помощью в реальном мире.
Сегодня мы начинаем внедрять функцию «Доверенное лицо» — необязательную функцию безопасности в ChatGPT, которая позволяет совершеннолетним пользователям назначить человека, которому они доверяют, например друга, члена семьи или опекуна. Этот человек может получать уведомления, если наши автоматизированные системы и обученные специалисты по проверке выявят, что пользователь функции, возможно, обсуждал причинение вреда себе таким образом, что это указывает на серьёзную угрозу безопасности. Функция «Доверенное лицо» создана как дополнительный уровень поддержки наряду с локальными горячими линиями, уже доступными в ChatGPT, помогая пользователям связаться с человеком, которому они доверяют, во время кризиса.
Функция «Доверенное лицо» основана на уведомлениях о безопасности в рамках родительского контроля(открывается в новом окне), которые позволяют родителям или опекунам получать оповещения при признаках острого эмоционального неблагополучия у подростка, чья учётная запись связана с родительским контролем. Теперь мы расширяем возможности уведомлений о безопасности, чтобы любой человек старше 18 лет мог добавить контакт, которому доверяет, в качестве своего «Доверенного лица».
Экспертные рекомендации(открывается в новом окне) определяют социальную связь как один из важнейших защитных факторов для снижения риска самоубийства. Функция «Доверенное лицо»(открывается в новом окне) призвана поощрять связь с человеком, которому пользователь уже доверяет. Она не заменяет профессиональную помощь или кризисные службы и является одним из нескольких уровней защиты для поддержки людей, находящихся в дистрессе. ChatGPT по-прежнему будет рекомендовать пользователям обращаться на кризисные горячие линии или в экстренные службы, когда это уместно.
«Психологическая наука последовательно показывает, что социальная связь — мощный защитный фактор, особенно в периоды эмоционального дистресса. Если помочь людям заранее определить человека, которому они доверяют, сохранив при этом их выбор и автономию, им будет легче обратиться за поддержкой в реальном мире, когда это особенно важно».
- Пользователи могут добавить одного взрослого человека (18+ по всему миру или 19+ в Южной Корее) в качестве Доверенного лица в настройках ChatGPT.
- Доверенное лицо получит приглашение с объяснением своей роли и должен принять его в течение одной недели, чтобы функция стала активной. Если Доверенное лицо отклонит приглашение, пользователь сможет выбрать другого совершеннолетнего человека.
- Если наши автоматизированные системы мониторинга обнаружат, что пользователь, возможно, говорит о самоповреждении так, что это указывает на серьёзную угрозу его безопасности, ChatGPT сообщит пользователю, что мы можем уведомить его Доверенное лицо, и предложит ему обратиться к Доверенному лицу с примерами того, как начать разговор.
- Затем ситуацию проверяет небольшая команда специально обученных специалистов. Если эти специалисты определят, что разговор может указывать на серьёзную угрозу безопасности, ChatGPT отправит Доверенному лицу краткое уведомление по электронной почте, в SMS или через уведомление в приложении, если у него есть учётная запись ChatGPT
- Уведомление намеренно содержит минимум информации. В нём сообщается общая причина того, что тема самоповреждения возникла потенциально тревожным образом, и Доверенному лицу предлагается связаться с человеком. Чтобы защитить конфиденциальность пользователя, в уведомление не включаются детали чата или расшифровки. Уведомление также содержит ссылку на экспертные рекомендации(открывается в новом окне) о том, как вести деликатные разговоры.
- Пользователи всегда могут удалить или изменить свое Доверенное лицо в настройках, а Доверенное лицо может в любой момент удалить себя через наш справочный центр.(открывается в новом окне)
Хотя такие серьёзные ситуации, связанные с безопасностью, возникают редко, когда они всё же случаются, наши системы спроектированы так, чтобы обеспечивать своевременную проверку и реагирование. Ни одна система не идеальна, и уведомление Доверенного лица не всегда может точно отражать то, что переживает человек, однако каждое уведомление проходит проверку обученным специалистом перед отправкой, и мы стремимся рассматривать такие уведомления о безопасности менее чем за один час.
Мы разработали функцию «Доверенное лицо» при участии клиницистов, исследователей и организаций, специализирующихся на психическом здоровье и предотвращении самоубийств. Эта работа опирается на нашу Глобальную сеть врачей из более чем 260 лицензированных врачей в 60 странах и на наш Экспертный совет по благополучию и ИИ. Мы также тесно сотрудничали с внешними организациями, включая Американскую психологическую ассоциацию.(открывается в новом окне)
«Одно из главных обещаний ИИ — в том, что он может способствовать подлинной связи между людьми и психологической безопасности. Меня обнадеживает функция «доверенное лицо» в ChatGPT, которая помогает расширять возможности людей, особенно в моменты уязвимости».
Помимо функции «Доверенное лицо», в ChatGPT есть меры защиты, помогающие направлять деликатные разговоры на каждом этапе. Мы продолжаем улучшать то, как система реагирует на разные уровни риска, выраженные в разговоре:
- Поддержка помощи в реальном мире: В деликатные моменты ChatGPT может рекомендовать людям обращаться в экстренные службы, на кризисные горячие линии, к специалистам по психическому здоровью или к людям, которым они доверяют.
- Бережно реагируем: Мы работали с более чем 170 экспертами в области психического здоровья, чтобы улучшить способность ChatGPT замечать признаки возможного эмоционального неблагополучия, снижать напряжение в разговорах и при необходимости направлять людей к поддержке в реальном мире.
- Помогаем людям сохранять контроль над своим временем: В некоторых ситуациях ChatGPT может предложить сделать перерыв или отойти от экрана после длительного использования, чтобы поддерживать здоровые технологические привычки.
- Отказ от вредоносных запросов: ChatGPT обучен отказываться предоставлять инструкции по самоубийству или самоповреждению. Когда пользователи запрашивают такую информацию, система обучена отклонять запрос и вместо этого направлять к более безопасным ответам, а также показывать локальные кризисные ресурсы.
Функция «Доверенное лицо» — часть более широких усилий OpenAI по созданию ИИ-систем, которые помогают людям в трудные моменты. Мы продолжим работать с клиницистами, исследователями и разработчиками политик, чтобы улучшать то, как ИИ-системы реагируют, когда люди могут переживать дистресс. Наша цель — обеспечить, чтобы ИИ-системы не существовали изолированно. Вместо этого они должны помогать людям находить путь к реальной помощи, отношениям и ресурсам, которые важнее всего.
