Представяме Trusted Contact в ChatGPT
Свързваме ви с човек, на когото имате доверие, когато това е най-важно.
Хората използват ChatGPT, за да учат, да изследват идеи, да решават проблеми и да размишляват по лични въпроси. Понякога тези разговори могат да включват моменти, в които някой изпитва затруднения или търси подкрепа. Нашата цел е да създаваме системи, които реагират внимателно на чувствителни разговори и насърчават хората да се свързват с помощ в реалния свят, когато е необходимо.
Днес започваме постепенното внедряване на Trusted Contact, незадължителна функция за безопасност в ChatGPT, която позволява на пълнолетни потребители да посочат човек, на когото имат доверие — например приятел, член на семейството или полагащ грижи — който може да бъде уведомен, ако нашите автоматизирани системи и обучени проверяващи установят, че включеният в програмата човек може да е обсъждал самонараняване по начин, който показва сериозна загриженост за безопасността. Trusted Contact е създадена, за да предлага още едно ниво на подкрепа наред с локализираните линии за помощ, които вече са налични в ChatGPT, като помага на потребителите да се свържат с доверен човек, когато са в криза.
Trusted Contact надгражда известията за безопасност в родителски контрол(отваря се в нов прозорец), които позволяват на родители или настойници да получават сигнали, когато има признаци на остър дистрес при свързан тийнейджърски акаунт. Сега разширяваме възможностите си за сигнали за безопасност, така че всеки над 18 години да може да избере да добави доверен човек като свой Trusted Contact.
Експертни насоки(отваря се в нов прозорец) определят социалната свързаност като един от най-важните защитни фактори за намаляване на риска от самоубийство. Trusted Contact(отваря се в нов прозорец) е създадена, за да насърчава връзката с човек, на когото потребителят вече има доверие. Тя не замества професионалната грижа или кризисните услуги и е един от няколкото слоя предпазни мерки в подкрепа на хора в дистрес. ChatGPT ще продължи да насърчава потребителите да се свързват с кризисни горещи линии или служби за спешна помощ, когато е уместно.
„Психологическата наука последователно показва, че социалната свързаност е мощен защитен фактор, особено в периоди на емоционален дистрес. Когато на хората се помага предварително да определят доверен човек, като същевременно се запазват техният избор и автономност, за тях е по-лесно да потърсят подкрепа в реалния свят, когато това е най-важно.“
- Потребителите могат да добавят един пълнолетен (18+ в световен мащаб или 19+ в Южна Корея) като свой Trusted Contact от настройките на ChatGPT.
- Trusted Contact ще получи покана с обяснение на ролята и трябва да я приеме в рамките на една седмица, за да стане функцията активна. Ако Trusted Contact откаже, потребителят може да избере да добави друг пълнолетен.
- Ако нашите автоматизирани системи за наблюдение засекат, че потребителят може да говори за самонараняване по начин, който показва сериозна загриженост за безопасността, ChatGPT уведомява потребителя, че може да известим неговия Trusted Contact, и го насърчава да се свърже с Trusted Contact чрез предложени начала на разговор.
- След това малък екип от специално обучени хора преглежда ситуацията. Ако тези проверяващи преценят, че разговорът може да показва сериозна загриженост за безопасността, ChatGPT ще изпрати на Trusted Contact кратко известие по имейл, текстово съобщение или известие в приложението, ако той има акаунт в ChatGPT
- Известието умишлено е ограничено. То споделя общата причина, че темата за самонараняване е възникнала по потенциално тревожен начин, и насърчава Trusted Contact да се свърже с човека. Не включва подробности от чата или преписи, за да защити поверителността на потребителя. Известието включва и връзка към експертни насоки(отваря се в нов прозорец) за водене на чувствителни разговори.
- Потребителите винаги могат да премахнат или редактират своя Trusted Contact в настройките, а Trusted Contact може да се премахне по всяко време от нашия помощен център.(отваря се в нов прозорец)
Макар тези сериозни ситуации, свързани с безопасността, да са редки, когато възникнат, нашите системи са създадени да подпомагат навременен преглед и реакция. Макар никоя система да не е съвършена и известието до Trusted Contact невинаги да отразява точно какво преживява даден човек, всяко известие преминава през обучен човешки преглед, преди да бъде изпратено, и се стремим да преглеждаме тези известия за безопасност за под един час.
Разработихме Trusted Contact с насоки от клиницисти, изследователи и организации, специализирани в психично здраве и превенция на самоубийствата. Тази работа е информирана от нашата Глобална мрежа на лекарите, мрежа от над 260 лицензирани лекари в 60 държави, и нашия Експертен съвет за благополучие и AI. Също така работихме в тясно сътрудничество с външни организации, включително Американската психологическа асоциация.(отваря се в нов прозорец)
„Едно от най-големите обещания на AI е способността му да насърчава автентична връзка между хората и психологическа безопасност. Окуражен съм от функцията Trusted Contact в ChatGPT, която е стъпка напред към овластяването на хората, особено в моменти на уязвимост.“
В допълнение към Trusted Contact ChatGPT разполага с предпазни мерки, които помагат за насочване на чувствителните разговори на всеки етап. Продължихме да подобряваме начина, по който системата реагира на различни нива на риск, изразени в разговор:
- Подкрепа за помощ в реалния свят: В чувствителни моменти ChatGPT може да насърчи хората да се свържат със служби за спешна помощ, кризисни линии за помощ, специалисти по психично здраве или доверени хора в живота си.
- Реакция с грижа: Работихме с над 170 експерти по психично здраве, за да подобрим способността на ChatGPT да открива и реагира на признаци на потенциален дистрес, да деескалира разговори и да насочва хората към подкрепа в реалния свят, когато е подходящо.
- Помощ хората да запазят контрол над времето си: В някои ситуации ChatGPT може да предложи почивка или отдръпване след продължителна употреба, за да насърчи здравословни технологични навици.
- Отказ на вредни заявки: ChatGPT е обучен да отказва предоставяне на инструкции за самоубийство или самонараняване. Когато потребителите поискат този тип информация, системата е обучена да отказва заявката и вместо това да насочва към по-безопасни отговори и да показва локализирани кризисни ресурси.
Trusted Contact е част от по-широките усилия на OpenAI да изгражда AI системи, които помагат на хората в трудни моменти. Ще продължим да работим с клиницисти, изследователи и политици, за да подобряваме начина, по който AI системите реагират, когато хората може да изпитват дистрес. Нашата цел е да гарантираме, че AI системите не съществуват изолирано. Вместо това те трябва да помагат за свързването на хората с реалните грижи, взаимоотношения и ресурси, които са най-важни.
