Vi presenterar Trusted Contact i ChatGPT

Folk använder ChatGPT för att lära sig, utforska idéer, lösa problem och reflektera över personliga frågor. Ibland kan de samtalen innehålla stunder när någon kämpar eller söker stöd. Vårt mål är att utforma system som svarar genomtänkt på känsliga samtal och uppmuntrar människor att söka hjälp i den verkliga världen när det behövs.

I dag börjar vi rulla ut Trusted Contact, ​​en valfri säkerhetsfunktion i ChatGPT som gör det möjligt för vuxna att utse någon de litar på, till exempel en vän, familjemedlem eller vårdgivare, som kan meddelas om våra automatiserade system och utbildade granskare upptäcker att den anslutna personen kan ha talat om att skada sig själv på ett sätt som tyder på en allvarlig säkerhetsrisk. Trusted Contact är utformad för att erbjuda ytterligare ett lager av stöd vid sidan av de lokalanpassade hjälplinjer⁠ som redan finns i ChatGPT, genom att hjälpa användare att få kontakt med en person de litar på när de befinner sig i kris.

Trusted Contact bygger vidare på säkerhetsaviseringar för föräldrainställningar⁠(öppnas i ett nytt fönster), som gör det möjligt för föräldrar eller vårdnadshavare att få varningar när det finns tecken på akut stress för ett länkat tonårskonto. Nu utökar vi våra alternativ för säkerhetsaviseringar så att alla över 18 år kan välja att lägga till någon de litar på som sin Trusted Contact.

Expertvägledning⁠(öppnas i ett nytt fönster) pekar ut social samhörighet som en av de viktigaste skyddsfaktorerna för att minska risken för självmord. Trusted Contact⁠(öppnas i ett nytt fönster) är utformad för att uppmuntra kontakt med någon som användaren redan litar på. Den ersätter inte professionell vård eller krisjourer och är ett av flera skyddslager för att stödja människor i kris. ChatGPT kommer fortfarande att uppmuntra användare att kontakta krishjälplinjer eller räddningstjänst när det är lämpligt.

• Användare kan lägga till en vuxen person (18+ globalt eller 19+ i Sydkorea) som sin Trusted Contact från sina inställningar i ChatGPT.
• Den betrodda kontakten får en inbjudan som förklarar rollen och måste acceptera inbjudan inom en vecka för att funktionen ska aktiveras. Om den betrodda kontakten tackar nej kan användaren välja att lägga till en annan vuxen person.
• Om våra automatiserade övervakningssystem upptäcker att användaren kan prata om självskada på ett sätt som tyder på en allvarlig säkerhetsrisk, låter ChatGPT användaren veta att vi kan meddela deras Trusted Contact och uppmuntrar användaren att kontakta sin Trusted Contact med föreslagna sätt att inleda samtalet.
• Därefter granskar ett litet team av särskilt utbildade personer situationen. Om dessa granskare bedömer att samtalet kan tyda på en allvarlig säkerhetsrisk skickar ChatGPT en kort avisering till den betrodda kontakten via e-post, sms eller avisering i appen om personen har ett ChatGPT‑konto
• Aviseringen är avsiktligt begränsad. Den beskriver i allmänna ordalag varför den självskaderelaterade kommunikationen bedömdes som potentiellt oroande och uppmuntrar den betrodda kontakten att höra av sig. För att skydda användarnas integritet innehåller den inte några uppgifter eller transkriptioner från chattar. Aviseringen innehåller också en länk till expertvägledning⁠(öppnas i ett nytt fönster) för att hantera känsliga samtal.
• Användare kan alltid ta bort eller redigera sin Trusted Contact i inställningarna, och den betrodda kontakten kan när som helst ta bort sig själv via vårt hjälpcenter.⁠(öppnas i ett nytt fönster)

Även om dessa allvarliga säkerhetssituationer är sällsynta är våra system utformade för att stödja snabb granskning och respons när de uppstår. Även om inget system är perfekt, och en avisering till en Trusted Contact inte alltid exakt speglar vad någon upplever, genomgår varje avisering en utbildad mänsklig granskning innan den skickas, och vi strävar efter att granska dessa säkerhetsaviseringar på under en timme.

Vi utvecklade Trusted Contact med vägledning från kliniker, forskare och organisationer som är specialiserade på psykisk hälsa och suicidprevention. Detta arbete informeras av vårt Global Physicians Network⁠, ett nätverk med fler än 260 legitimerade läkare i 60 länder, och vårt Expert Council on Well-Being and AI⁠. Vi arbetade också nära externa organisationer, däribland American Psychological Association.⁠(öppnas i ett nytt fönster)

Utöver Trusted Contact har ChatGPT skyddsåtgärder som hjälper till att vägleda känsliga samtal i varje steg. Vi har fortsatt att förbättra hur systemet svarar på olika nivåer av risk som uttrycks i ett samtal:

• Stöd till hjälp i den verkliga världen: I känsliga situationer kan ChatGPT uppmuntra människor att kontakta räddningstjänst, krishjälplinjer, psykiatrisk vårdpersonal eller betrodda personer i sina liv. 
• Svara med omsorg: Vi har arbetat med över 170 experter inom psykisk hälsa⁠ för att förbättra ChatGPT:s förmåga att upptäcka och reagera på tecken på möjlig stress, trappa ned samtal och vägleda människor till stöd i den verkliga världen när det är lämpligt. 
• Hjälpa människor att behålla kontrollen över sin tid: I vissa situationer kan ChatGPT föreslå att man tar en paus eller kliver bort efter att ha använt tjänsten under en längre stund för att främja sunda teknikvanor.
• Avvisa skadliga förfrågningar: ChatGPT är tränat att vägra ge instruktioner för självmord eller självskada. När användare ber om denna typ av information är systemet tränat att avvisa begäran och i stället styra mot säkrare svar samt visa lokalanpassade krisresurser.

Trusted Contact är en del av OpenAI:s bredare arbete för att bygga AI-system som hjälper människor under svåra stunder.⁠ Vi kommer att fortsätta arbeta med kliniker, forskare och beslutsfattare för att förbättra hur AI-system svarar när människor kan uppleva stress. Vårt mål är att säkerställa att AI-system inte existerar isolerat. I stället bör de hjälpa människor att få kontakt med den vård, de relationer och de resurser i den verkliga världen som betyder mest.