Ви го претставуваме Trusted Contact во ChatGPT
Ве поврзува со некого кому му верувате кога е најважно.
Луѓето го користат ChatGPT за да учат, да истражуваат идеи, да решаваат проблеми и да размислуваат за лични прашања. Понекогаш тие разговори можат да вклучуваат моменти кога некој се мачи или бара поддршка. Нашата цел е да дизајнираме системи што промислено реагираат на чувствителни разговори и ги охрабруваат луѓето да се поврзат со помош во реалниот свет кога е потребно.
Денес почнуваме постепено да го воведуваме Trusted Contact, опционална безбедносна функција во ChatGPT што им овозможува на возрасните да назначат лице на кое му веруваат, како пријател, член на семејството или негувател, кое може да биде известено ако нашите автоматизирани системи и обучени прегледувачи утврдат дека вклученото лице можеби разговарало за самоповредување на начин што укажува на сериозна безбедносна загриженост. Trusted Contact е создаден да понуди уште еден слој поддршка покрај локализираните линии за помош што веќе се достапни во ChatGPT, помагајќи им на корисниците да се поврзат со лице на кое му веруваат кога се во криза.
Trusted Contact се надоврзува на безбедносните известувања за родителска контрола(се отвора во нов прозорец), кои им овозможуваат на родители или старатели да добиваат предупредувања кога има знаци на акутна вознемиреност кај поврзана тинејџерска сметка. Сега ги прошируваме нашите опции за безбедносни предупредувања за секој над 18 години да може да избере да додаде лице на кое му верува како свој Trusted Contact.
Стручните насоки(се отвора во нов прозорец) ја посочуваат социјалната поврзаност како еден од најважните заштитни фактори за намалување на ризикот од самоубиство. Trusted Contact(се отвора во нов прозорец) е создаден да поттикне поврзување со лице на кое корисникот веќе му верува. Тој не ја заменува стручната грижа или кризна помош и е еден од неколкуте слоеви на заштита за поддршка на луѓе во криза. ChatGPT и понатаму ќе ги охрабрува корисниците да контактираат кризна линија или служби за итна помош кога е соодветно.
„Психолошката наука постојано покажува дека социјалната поврзаност е моќен заштитен фактор, особено во периоди на емоционална вознемиреност. Ако им се помогне на луѓето однапред да препознаат доверлива личност, а притоа се зачуваат нивниот избор и автономија, полесно ќе побараат поддршка во реалниот свет кога тоа е најважно.“
- Корисниците може да додадат едно возрасно лице (18+ глобално или 19+ во Јужна Кореја) како свој Trusted Contact од поставките на ChatGPT.
- Trusted Contact ќе добие покана што ја објаснува неговата улога и мора да ја прифати поканата во рок од една недела за функцијата да стане активна. Ако Trusted Contact ја одбие, корисникот може да избере да додаде друго возрасно лице.
- Ако нашите автоматизирани системи за следење откријат дека корисникот можеби зборува за самоповредување на начин што укажува на сериозна безбедносна загриженост, ChatGPT го известува корисникот дека може да го известиме неговиот Trusted Contact и го охрабрува корисникот да му се обрати на Trusted Contact со предложени почетоци на разговор.
- Потоа, мала група специјално обучени лица ја прегледува ситуацијата. Ако тие прегледувачи утврдат дека разговорот може да укажува на сериозна безбедносна загриженост, ChatGPT ќе му испрати на Trusted Contact кратко известување преку е-пошта, текстуална порака или известување во апликацијата ако има ChatGPT сметка
- Известувањето е намерно ограничено. Во него се споделува општата причина зошто самоповредувањето било спомнато на потенцијално загрижувачки начин и се охрабрува Trusted Contact да провери како е лицето. Не вклучува детали од разговорот или транскрипти за да се заштити приватноста на корисникот. Известувањето вклучува и врска до стручни насоки(се отвора во нов прозорец) за водење чувствителни разговори.
- Корисниците секогаш можат да го отстранат или уредат својот Trusted Contact во поставките, а Trusted Contact може да се отстрани себеси во секое време преку нашиот центар за помош.(се отвора во нов прозорец)
Иако овие сериозни безбедносни ситуации се ретки, кога ќе се појават, нашите системи се дизајнирани да поддржат навремен преглед и реакција. Иако ниеден систем не е совршен, и известувањето до Trusted Contact можеби нема секогаш точно да го одразува она што некој го доживува, секое известување поминува обучен човечки преглед пред да биде испратено, и се стремиме овие безбедносни известувања да ги прегледаме за помалку од еден час.
Trusted Contact го развивме со насоки од клиничари, истражувачи и организации специјализирани за ментално здравје и превенција на самоубиство. Оваа работа е информирана од нашата Глобална мрежа на лекари, мрежа од повеќе од 260 лиценцирани лекари во 60 земји, и нашиот Expert Council on Well-Being and AI. Исто така тесно соработувавме со надворешни организации, вклучувајќи ја и American Psychological Association.(се отвора во нов прозорец)
„Едно од најголемите ветувања на ВИ е тоа што може да поттикне автентична човечка поврзаност и психолошка сигурност. Охрабрена сум од функцијата Trusted Contact во ChatGPT, која претставува чекор напред кон човечко оспособување, особено во моменти на ранливост.“
Покрај Trusted Contact, ChatGPT има заштитни механизми што помагаат да се насочуваат чувствителни разговори во секоја фаза. Продолживме да го подобруваме начинот на кој системот реагира на различни нивоа на ризик изразени во разговор:
- Поддршка за помош во реалниот свет: Во чувствителни моменти, ChatGPT може да ги охрабри луѓето да контактираат служби за итна помош, кризни линии, професионалци за ментално здравје или доверливи луѓе во нивниот живот.
- Одговарање со грижа: Работевме со 170+ експерти за ментално здравје за да ја подобриме способноста на ChatGPT да открива и реагира на знаци на можна вознемиреност, да деескалира разговори и да ги насочува луѓето кон поддршка во реалниот свет кога е соодветно.
- Помагање луѓето да ја задржат контролата врз своето време: Во некои ситуации, ChatGPT може да предложи пауза или оддалечување по подолга употреба за да поттикне здрави технолошки навики.
- Одбивање штетни барања: ChatGPT е обучен да одбива да дава упатства за самоубиство или самоповредување. Кога корисниците бараат ваков тип информации, системот е обучен да го одбие барањето и наместо тоа да пренасочи кон побезбедни одговори и да прикаже локализирани кризини ресурси.
Trusted Contact е дел од поширокиот напор на OpenAI да изгради ВИ системи што им помагаат на луѓето во тешки моменти. Ќе продолжиме да работиме со клиничари, истражувачи и носители на политики за да подобриме како ВИ системите реагираат кога луѓето можеби доживуваат вознемиреност. Нашата цел е да обезбедиме ВИ системите да не постојат изолирано. Наместо тоа, тие треба да им помогнат на луѓето да се поврзат со грижата, односите и ресурсите во реалниот свет што се најважни.
