Представљамо Trusted Contact у ChatGPT‑у

Људи користе ChatGPT да уче, истражују идеје, решавају проблеме и размишљају о личним питањима. Понекад ти разговори могу да укључе тренутке када се неко можда суочава са тешкоћама или тражи подршку. Наш циљ је да дизајнирамо системе који промишљено реагују на осетљиве разговоре и подстичу људе да се, када је потребно, повежу са помоћи у стварном свету.

Данас почињемо са постепеним увођењем Trusted Contact-а, ​​опционе безбедносне функције у ChatGPT‑у која омогућава одраслим особама да именују некога коме верују, као што је пријатељ, члан породице или неговатељ, ко може бити обавештен ако наши аутоматизовани системи и обучени рецензенти утврде да је укључена особа можда говорила о самоповређивању на начин који указује на озбиљну безбедносну забринутост. Trusted Contact је осмишљен да понуди још један слој подршке уз локализоване линије за помоћ⁠ које су већ доступне у ChatGPT‑у, тако што помаже корисницима да се повежу са особом којој верују када су у кризи.

Trusted Contact се надовезује на безбедносна обавештења родитељских контрола⁠(отвара се у новом прозору), која омогућавају родитељима или старатељима да добијају упозорења када постоје знаци акутне узнемирености на повезаном налогу тинејџера. Сада проширујемо наше опције безбедносних упозорења тако да свако старији од 18 година може да изабере да дода особу од поверења као свој Trusted Contact.

Стручне смернице⁠(отвара се у новом прозору) препознају социјалну повезаност као један од најважнијих заштитних фактора за смањење ризика од самоубиства. Trusted Contact⁠(отвара се у новом прозору) је осмишљен да подстакне повезивање са неким коме корисник већ верује. Он не замењује стручну негу нити кризне службе и представља један од више слојева заштите за подршку људима у невољи. ChatGPT ће и даље подстицати кориснике да, када је прикладно, контактирају кризне линије или хитне службе.

• Корисници могу да додају једну одраслу особу (18+ глобално или 19+ у Јужној Кореји) као свој Trusted Contact у подешавањима ChatGPT‑а.
• Trusted Contact ће добити позивницу која објашњава његову улогу и мора да прихвати позивницу у року од једне недеље да би функција постала активна. Ако Trusted Contact одбије, корисник може да изабере да дода другу одраслу особу.
• Ако наши аутоматизовани системи за надзор открију да корисник можда говори о самоповређивању на начин који указује на озбиљну безбедносну забринутост, ChatGPT обавештава корисника да можемо да обавестимо његов Trusted Contact и подстиче корисника да се обрати свом Trusted Contact-у уз предложене начине за започињање разговора.
• Након тога, мала група посебно обучених људи прегледа ситуацију. Ако ови рецензенти утврде да разговор може указивати на озбиљну безбедносну забринутост, ChatGPT ће Trusted Contact-у послати кратко обавештење е-поштом, текстуалном поруком или обавештењем у апликацији ако има ChatGPT налог
• Обавештење је намерно ограничено. Делимо општи разлог због ког се самоповређивање појавило на потенцијално забрињавајући начин и подстичемо Trusted Contact да се јави. Не укључује детаље разговора ни транскрипте, како би се заштитила приватност корисника. Обавештење такође садржи линк ка стручним смерницама⁠(отвара се у новом прозору) за сналажење у осетљивим разговорима.
• Корисници увек могу да уклоне или измене свој Trusted Contact у подешавањима, а Trusted Contact у било ком тренутку може да уклони себе преко нашег центра за помоћ.⁠(отвара се у новом прозору)

Иако су ове озбиљне безбедносне ситуације ретке, када до њих дође, наши системи су осмишљени да подрже правовремен преглед и реакцију. Иако ниједан систем није савршен и обавештење послато Trusted Contact-у можда не одражава увек тачно оно што неко проживљава, свако обавештење пре слања пролази кроз преглед обучене особе, а настојимо да ова безбедносна обавештења прегледамо за мање од једног сата.

Trusted Contact смо развили уз смернице клиничара, истраживача и организација специјализованих за ментално здравље и превенцију самоубиства. Овај рад је информисан нашим Global Physicians Network-ом⁠, мрежом од више од 260 лиценцираних лекара у 60 земаља, као и нашим Експертским саветом за благостање и AI⁠. Такође смо тесно сарађивали са спољним организацијама, укључујући Америчко психолошко удружење.⁠(отвара се у новом прозору)

Поред Trusted Contact-а, ChatGPT има заштитне механизме који помажу у вођењу осетљивих разговора у свакој фази. Наставили смо да унапређујемо начин на који систем реагује на различите нивое ризика изражене у разговору:

• Подршка помоћи у стварном свету: У осетљивим тренуцима ChatGPT може подстаћи људе да контактирају хитне службе, кризне линије, стручњаке за ментално здравље или особе од поверења у свом животу. 
• Реаговање са пажњом: Сарађивали смо са више од 170 стручњака за ментално здравље⁠ како бисмо побољшали способност ChatGPT‑а да препозна и одговори на знаке могуће узнемирености, деескалира разговоре и усмери људе ка подршци у стварном свету када је то прикладно. 
• Помоћ људима да задрже контролу над својим временом: У неким ситуацијама ChatGPT може предложити паузу или удаљавање након продужене употребе како би подстакао здраве технолошке навике.
• Одбијање штетних захтева: ChatGPT је обучен да одбије давање упутстава за самоубиство или самоповређивање. Када корисници траже ову врсту информација, систем је обучен да одбије захтев, да уместо тога понуди безбедније одговоре и да прикаже локализоване кризне ресурсе.

Trusted Contact је део ширег напора компаније OpenAI да изгради AI системе који помажу људима у тешким тренуцима.⁠ Наставићемо да радимо са клиничарима, истраживачима и креаторима политика како бисмо унапредили начин на који AI системи реагују када људи можда доживљавају узнемиреност. Наш циљ је да AI системи не постоје изоловано. Уместо тога, треба да помогну људима да се повежу са негом, односима и ресурсима из стварног света који су најважнији.