Introductie van vertrouwde contactpersonen in ChatGPT
Brengt je in contact met iemand die je vertrouwt op momenten dat het er echt toe doet.
Mensen gebruiken ChatGPT om te leren, ideeën te verkennen, problemen op te lossen en na te denken over persoonlijke vragen. Soms kunnen die gesprekken momenten omvatten waarop iemand het moeilijk heeft of steun zoekt. Ons doel is systemen te ontwerpen die bedachtzaam reageren op gevoelige gesprekken en mensen aanmoedigen om contact te zoeken met hulp in de echte wereld wanneer dat nodig is.
Vandaag starten we met de uitrol van Vertrouwde contactpersoon, een optionele veiligheidsfunctie in ChatGPT waarmee volwassenen iemand kunnen aanwijzen die ze vertrouwen, zoals een vriend, familielid of mantelzorger. Die persoon kan een melding krijgen als onze geautomatiseerde systemen en getrainde beoordelaars signaleren dat de aangemelde gebruiker mogelijk uitingen van zelfbeschadiging heeft gedaan die wijzen op een ernstig veiligheidsrisico. Deze functionaliteit biedt een extra laag ondersteuning naast de lokale hulplijnen die al beschikbaar zijn in ChatGPT, door gebruikers te helpen contact te leggen met iemand die ze vertrouwen op momenten dat ze steun nodig hebben.
De Vertrouwde contactpersoon-functie bouwt voort op veiligheidsmeldingen van ouderlijk toezicht(opent in een nieuw venster), waarmee ouders of voogden waarschuwingen kunnen ontvangen wanneer er tekenen zijn van acute nood bij een gekoppeld tieneraccount. Nu breiden we onze veiligheidswaarschuwingen uit, zodat iedereen ouder dan 18 ervoor kan kiezen iemand die ze vertrouwen toe te voegen als Vertrouwde contactpersoon.
Richtlijnen van experts(opent in een nieuw venster) noemen sociale verbondenheid een van de belangrijkste beschermende factoren om het risico op zelfdoding te verkleinen. Vertrouwde contactpersoon(opent in een nieuw venster) is ontworpen om verbinding te stimuleren met iemand die de gebruiker al vertrouwt. Het vervangt geen professionele zorg of crisisdiensten en is een van de meerdere beschermingslagen om mensen in nood te ondersteunen. ChatGPT blijft gebruikers aanmoedigen om waar passend contact op te nemen met crisishulplijnen of hulpdiensten.
"Psychologisch onderzoek laat keer op keer zien dat sociale verbondenheid een belangrijke beschermende factor is, vooral tijdens periodes van emotionele stress. Mensen helpen om vooraf een vertrouwde contactpersoon aan te wijzen, met behoud van hun eigen keuzevrijheid en autonomie, kan de stap naar steun van mensen om hen heen kleiner maken op momenten dat dat het hardst nodig is."
- Gebruikers kunnen één volwassene (18+ wereldwijd of 19+ in Zuid-Korea) toevoegen als hun vertrouwde contactpersoon via hun ChatGPT‑instellingen.
- De vertrouwde contactpersoon ontvangt een uitnodiging waarin de rol wordt uitgelegd en moet de uitnodiging binnen één week accepteren voordat de functie actief wordt. Als de vertrouwde contactpersoon weigert, kan de gebruiker ervoor kiezen een andere volwassene toe te voegen.
- Als onze geautomatiseerde monitoringssystemen vaststellen dat de gebruiker mogelijk praat over zelfbeschadiging op een manier die wijst op een ernstig veiligheidsrisico, laat ChatGPT de gebruiker weten dat we mogelijk hun vertrouwde contactpersoon op de hoogte brengen en moedigt ChatGPT de gebruiker aan contact op te nemen met diens vertrouwde contactpersoon met voorgestelde gespreksopeners.
- Vervolgens beoordeelt een klein team van speciaal getrainde mensen de situatie. Als deze beoordelaars vaststellen dat het gesprek mogelijk wijst op een ernstig veiligheidsrisico, stuurt ChatGPT de vertrouwde contactpersoon een korte melding per e-mail, sms of in-app-notificatie als diegene een ChatGPT‑account heeft
- De melding is bewust beperkt. Ze deelt de algemene reden dat zelfbeschadiging op een mogelijk zorgwekkende manier ter sprake kwam en moedigt de vertrouwde contactpersoon aan om contact op te nemen. Om de privacy van de gebruiker te beschermen, bevat ze geen chatdetails of -transcripties. De melding bevat ook een link naar deskundige richtlijnen(opent in een nieuw venster) voor het omgaan met gevoelige gesprekken.
- Gebruikers kunnen hun vertrouwde contactpersoon altijd verwijderen of bewerken in de instellingen en de vertrouwde contactpersoon kan zichzelf op elk moment verwijderen via ons helpcentrum.(opent in een nieuw venster)
Hoewel deze ernstige veiligheidssituaties zeldzaam zijn, zijn onze systemen ontworpen om tijdige beoordeling en reactie te ondersteunen wanneer ze zich voordoen. Hoewel geen enkel systeem perfect is en een melding aan een vertrouwde contactpersoon niet altijd exact weerspiegelt wat iemand ervaart, wordt elke melding beoordeeld door getrainde mensen voordat deze wordt verzonden, en streven we ernaar deze veiligheidsmeldingen binnen één uur te beoordelen.
We hebben deze functie ontwikkeld onder begeleiding van clinici, onderzoekers en organisaties die gespecialiseerd zijn in geestelijke gezondheid en zelfmoordpreventie. Dit werk is geïnformeerd door ons Global Physicians Network, een netwerk van meer dan 260 bevoegde artsen in 60 landen, en onze Expert Council on Well-Being and AI. We werkten ook nauw samen met externe organisaties, waaronder de American Psychological Association.(opent in een nieuw venster)
"Een van de grootste beloften van AI is dat het echte menselijke verbinding en psychologische veiligheid kan bevorderen. Ik vind de functie Vertrouwde contactpersoon van ChatGPT daarom een positieve stap richting meer regie en ondersteuning voor mensen, vooral op kwetsbare momenten."
Naast Vertrouwde contactpersoon heeft ChatGPT waarborgen om gevoelige gesprekken in elke fase te helpen begeleiden. We zijn blijven verbeteren hoe het systeem reageert op verschillende risiconiveaus die in een gesprek naar voren komen:
- Steun buiten ChatGPT: Op gevoelige momenten kan ChatGPT mensen aanmoedigen contact op te nemen met hulpdiensten, crisishulplijnen, professionals in de geestelijke gezondheidszorg of vertrouwde mensen in hun leven.
- Zorgvuldig reageren: We hebben samengewerkt met meer dan 170 experts in de geestelijke gezondheidszorg om ChatGPT beter signalen van mogelijke nood te laten herkennen en erop te reageren, gesprekken te de-escaleren en mensen waar passend naar steun in de echte wereld te leiden.
- Mensen helpen de regie over hun tijd te houden: In sommige situaties kan ChatGPT voorstellen om een pauze te nemen of even afstand te nemen na langdurig gebruik om gezonde technologiegewoonten te bevorderen.
- Schadelijke verzoeken weigeren: ChatGPT is getraind om te weigeren instructies te geven voor zelfdoding of zelfbeschadiging. Wanneer gebruikers om dit soort informatie vragen, is het systeem getraind om het verzoek te weigeren en in plaats daarvan door te verwijzen naar veiligere reacties en lokale hulpbronnen voor crisissituaties te tonen.
De Vertrouwde contactpersoon-functie maakt deel uit van OpenAI’s bredere inspanning om AI-systemen te bouwen die mensen hulp bieden tijdens moeilijke momenten. We blijven samenwerken met clinici, onderzoekers en beleidsmakers om te verbeteren hoe AI-systemen reageren wanneer mensen mogelijk nood ervaren. Ons doel is ervoor te zorgen dat AI-systemen niet op zichzelf staan. In plaats daarvan moeten ze mensen helpen verbinding te maken met de zorg, relaties en hulpmiddelen in de echte wereld die er het meest toe doen.
