Predstavljamo Trusted Contact u ChatGPT‑u

Ljudi koriste ChatGPT da uče, istražuju ideje, rješavaju probleme i promišljaju o ličnim pitanjima. Ponekad ti razgovori mogu uključivati trenutke kada se neko možda muči ili traži podršku. Naš cilj je osmisliti sisteme koji promišljeno odgovaraju na osjetljive razgovore i podstiču ljude da se povežu sa pomoći iz stvarnog svijeta kada je to potrebno.

Danas počinjemo uvoditi Trusted Contact, ​​opcijsku sigurnosnu funkciju u ChatGPT‑u koja odraslim osobama omogućava da odaberu nekoga kome vjeruju, poput prijatelja, člana porodice ili njegovatelja, ko može biti obaviješten ako naši automatizirani sistemi i obučeni pregledavači utvrde da je uključena osoba možda govorila o samopovređivanju na način koji ukazuje na ozbiljnu zabrinutost za sigurnost. Trusted Contact je osmišljen da pruži dodatni sloj podrške uz lokalizirane telefonske linije za pomoć⁠ koje su već dostupne u ChatGPT‑u, pomažući korisnicima da se povežu s osobom kojoj vjeruju kada su u krizi.

Trusted Contact nadograđuje sigurnosne obavijesti za roditeljski nadzor⁠(otvara se u novom prozoru), koje roditeljima ili starateljima omogućavaju da primaju upozorenja kada postoje znakovi akutne uznemirenosti na povezanom tinejdžerskom računu. Sada proširujemo opcije sigurnosnih upozorenja tako da svako stariji od 18 godina može odabrati da doda nekoga kome vjeruje kao svoj Trusted Contact.

Smjernice stručnjaka⁠(otvara se u novom prozoru) prepoznaju društvenu povezanost kao jedan od najvažnijih zaštitnih faktora za smanjenje rizika od samoubistva. Trusted Contact⁠(otvara se u novom prozoru) je osmišljen da podstakne povezivanje s nekim kome korisnik već vjeruje. On ne zamjenjuje stručnu njegu ni krizne službe i predstavlja jedan od nekoliko slojeva zaštite za podršku ljudima u nevolji. ChatGPT će i dalje podsticati korisnike da kontaktiraju krizne linije ili hitne službe kada je to primjereno.

• Korisnici mogu dodati jednu odraslu osobu (18+ globalno ili 19+ u Južnoj Koreji) kao svoj Trusted Contact u postavkama ChatGPT‑a.
• Trusted Contact će primiti pozivnicu koja objašnjava njegovu ulogu i mora prihvatiti pozivnicu u roku od jedne sedmice da bi funkcija postala aktivna. Ako Trusted Contact odbije, korisnik može odabrati da doda drugu odraslu osobu.
• Ako naši automatizirani sistemi nadzora otkriju da korisnik možda govori o samopovređivanju na način koji ukazuje na ozbiljnu zabrinutost za sigurnost, ChatGPT obavještava korisnika da možemo obavijestiti njegov Trusted Contact i podstiče korisnika da se javi svom Trusted Contactu uz predložene početke razgovora.
• Nakon toga, mala grupa posebno obučenih ljudi pregleda situaciju. Ako ti pregledavači utvrde da razgovor može ukazivati na ozbiljnu zabrinutost za sigurnost, ChatGPT će poslati Trusted Contactu kratku obavijest e-poštom, tekstualnom porukom ili obavijesti u aplikaciji ako ima ChatGPT račun
• Obavijest je namjerno ograničena. Dijeli opći razlog zbog kojeg se samopovređivanje pojavilo na potencijalno zabrinjavajući način i podstiče Trusted Contact da se javi. Ne uključuje detalje razgovora ni transkripte kako bi se zaštitila privatnost korisnika. Obavijest također uključuje link na stručne smjernice⁠(otvara se u novom prozoru) za vođenje osjetljivih razgovora.
• Korisnici uvijek mogu ukloniti ili urediti svoj Trusted Contact u postavkama, a Trusted Contact može sebe ukloniti u bilo kojem trenutku iz našeg centra za pomoć.⁠(otvara se u novom prozoru)

Iako su ove ozbiljne sigurnosne situacije rijetke, kada se pojave, naši sistemi su osmišljeni da podrže pravovremen pregled i odgovor. Iako nijedan sistem nije savršen i obavijest Trusted Contactu možda neće uvijek tačno odražavati ono što neko proživljava, svaka obavijest prolazi obučeni ljudski pregled prije slanja, a nastojimo pregledati ove sigurnosne obavijesti za manje od jednog sata.

Trusted Contact smo razvili uz smjernice kliničara, istraživača i organizacija specijaliziranih za mentalno zdravlje i prevenciju samoubistva. Ovaj rad je informiran našom Globalnom mrežom ljekara⁠, mrežom od više od 260 licenciranih ljekara u 60 zemalja, i našim Ekspertnim vijećem za dobrobit i AI⁠. Također smo blisko sarađivali s vanjskim organizacijama, uključujući Američko psihološko udruženje.⁠(otvara se u novom prozoru)

Pored Trusted Contacta, ChatGPT ima zaštitne mjere koje pomažu u vođenju osjetljivih razgovora u svakoj fazi. Nastavili smo unapređivati način na koji sistem reagira na različite nivoe rizika izražene u razgovoru:

• Podrška pomoći iz stvarnog svijeta: U osjetljivim trenucima ChatGPT može podstaknuti ljude da kontaktiraju hitne službe, krizne linije, stručnjake za mentalno zdravlje ili osobe od povjerenja u svom životu. 
• Odgovaranje s pažnjom: Radili smo s više od 170 stručnjaka za mentalno zdravlje⁠ kako bismo unaprijedili sposobnost ChatGPT‑a da prepozna i odgovori na znakove moguće uznemirenosti, smiri razgovore i usmjeri ljude ka podršci iz stvarnog svijeta kada je to primjereno. 
• Pomažemo ljudima da zadrže kontrolu nad svojim vremenom: U nekim situacijama ChatGPT može predložiti pauzu ili udaljavanje nakon duže upotrebe kako bi se promovirale zdrave tehnološke navike.
• Odbijanje štetnih zahtjeva: ChatGPT je obučen da odbije davanje uputa za samoubistvo ili samopovređivanje. Kada korisnici zatraže ovu vrstu informacija, sistem je obučen da odbije zahtjev i umjesto toga usmjeri prema sigurnijim odgovorima te prikaže lokalizirane krizne resurse.

Trusted Contact je dio šireg nastojanja OpenAI-ja da gradi AI sisteme koji pomažu ljudima u teškim trenucima.⁠ Nastavit ćemo raditi s kliničarima, istraživačima i kreatorima politika kako bismo unaprijedili način na koji AI sistemi odgovaraju kada ljudi možda prolaze kroz teškoće. Naš cilj je osigurati da AI sistemi ne postoje izolirano. Umjesto toga, trebali bi pomagati ljudima da se povežu sa stvarnom njegom, odnosima i resursima koji su najvažniji.