Użytkownicy wykorzystują ChatGPT do nauki, odkrywania rozwiązań, usuwania problemów i w kwestiach osobistych. Czasami rozmowy odbywają się w momentach, kiedy ktoś zmaga się z trudnościami lub szuka wsparcia. Naszym celem jest projektowanie systemów, które reagują z dużą dozą wrażliwości w takich chwilach i zachęcają użytkowników do szukania pomocy w realnym świecie.
Dziś zaczynamy wdrażać Zaufany kontakt. Jest to opcjonalna funkcja bezpieczeństwa w ChatGPT pozwalająca osobom dorosłym wskazać zaufaną osobę, przyjaciela, członka rodziny lub opiekuna, która zostanie powiadomiona, jeśli nasze zautomatyzowane systemy i przeszkoleni weryfikatorzy wykryją, że użytkownik korzystający z tej funkcji mógł wspomnieć o wyrządzeniu sobie krzywdy w sposób wskazujący na poważne zagrożenie bezpieczeństwa. Zaufany kontakt to dodatkowa warstwa wsparcia działająca niezależnie od lokalnych infolinii pomocowych już dostępnych w ChatGPT, i w założeniu ma ułatwić użytkownikom w kryzysie skontaktowanie się z zaufaną osobą.
Zaufany kontakt jest rozwinięciem kontroli rodzicielskiej(otwiera nowe okno), które pozwalają rodzicom lub opiekunom odbierać alerty, gdy wystąpią oznaki ostrego kryzysu na połączonym koncie nastolatka. Teraz rozszerzamy opcje alertów bezpieczeństwa, aby każda osoba powyżej 18. roku życia mogła dodać zaufaną osobę jako swój Zaufany kontakt.
Eksperci(otwiera nowe okno) wskazują, że więzi społeczne to jeden z najważniejszych czynników zmniejszających ryzyko samobójstwa. Funkcja Zaufany kontakt(otwiera nowe okno) ma zachęcać do kontaktu z osobą, której użytkownik już ufa. Nie zastępuje profesjonalnej pomocy ani usług kryzysowych i jest jedną z kilku warstw zabezpieczeń wspierających osoby w kryzysie. ChatGPT nadal będzie zachęcać użytkowników do kontaktu z telefonami zaufania lub służbami ratunkowymi w sytuacjach nadzwyczajnych.
„Badania psychologiczne konsekwentnie pokazują, że więzi społeczne są silnym czynnikiem wspierającym, zwłaszcza w okresach kryzysu emocjonalnego. Pomaganie ludziom we wskazaniu zaufanej osoby przy zachowaniu ich wyboru i autonomii, może ułatwić zwrócenie się o wsparcie w realnym świecie w poważnych sytuacjach”,
- Użytkownicy w ustawieniach ChatGPT mogą dodać jedną osobę dorosłą (w wieku co najmniej 18 lat, a w Korei Południowej w wieku 19 lat) jako swój Zaufany kontakt.
- Zaufany kontakt otrzyma zaproszenie wyjaśniające jego rolę i musi zaakceptować je w ciągu tygodnia, aby funkcja stała się aktywna. Jeśli Zaufany kontakt odrzuci zaproszenie, użytkownik może wskazać inną osobę dorosłą.
- Jeśli nasze zautomatyzowane systemy monitorowania wykryją, że użytkownik może mówić o samookaleczeniu w sposób wskazujący na poważne zagrożenie bezpieczeństwa, ChatGPT poinformuje użytkownika o możliwości powiadomienia jego Zaufanego kontaktu. Następnie zachęci użytkownika do skontaktowania się ze swoim Zaufanym kontaktem, sugerując również, jak zacząć rozmowę.
- W dalszej kolejności sytuację oceni mały zespół przeszkolonych osób. Jeśli uznają one, że rozmowa może wskazywać na poważne zagrożenie bezpieczeństwa, ChatGPT wyśle Zaufanemu kontaktowi krótkie powiadomienie e-mailem, SMS-em lub w aplikacji, jeśli ma konto ChatGPT.
- Treść powiadomienia jest celowo skrótowa i zawiera ogólnie informacje na temat możliwego samookaleczenia wywnioskowane na podstawie treści prowadzonego czatu. Wiadomość zachęca osobę dodaną jako Zaufany kontakt do skontaktowania się z użytkownikiem. Powiadomienie nie zawiera szczegółów czatu ani transkrypcji, aby chronić prywatność użytkownika. Powiadomienie zawiera także łącze do profesjonalnych wskazówek(otwiera nowe okno) dotyczących prowadzenia rozmów na tak wrażliwe tematy.
- Użytkownicy zawsze mogą usunąć lub edytować swój Zaufany kontakt w ustawieniach, a osoba dodana jako Zaufany kontakt może w dowolnym momencie usunąć siebie za pośrednictwem naszego centrum pomocy.(otwiera nowe okno)
Choć takie poważne sytuacje związane z bezpieczeństwem osobistym zdarzają się rzadko, to gdy już wystąpią, nasze systemy zapewniają szybką ocenę i reakcję. Żaden system nie jest doskonały, a powiadomienie Zaufanego kontaktu nie zawsze musi dokładnie odzwierciedlać to, czego doświadcza dany użytkownik, jednak każde powiadomienie jest sprawdzane przez przeszkolonego człowieka przed wysłaniem. Ponadto staramy się weryfikować takie powiadomienia dotyczące bezpieczeństwa w czasie krótszym niż jedna godzina.
Funkcję Zaufany kontakt opracowaliśmy przy wsparciu pracowników medycznych, badaczy i organizacji specjalizujących się w zdrowiu psychicznym i zapobieganiu samobójstwom. Działania te zrealizowaliśmy dzięki naszej sieci Global Physicians Network obejmującej ponad 260 licencjonowanych lekarzy z 60 krajów, oraz przy wsparciu rady Expert Council on Well-Being and AI. Ściśle współpracowaliśmy również z organizacjami zewnętrznymi, w tym z American Psychological Association.(otwiera nowe okno)
„Jedną z największych obietnic AI jest możliwość wspierania więzi międzyludzkich i zapewniania poczucia bezpieczeństwa psychicznego. Cieszy mnie pojawienie się funkcji Zaufany kontakt w ChatGPT, która stanowi krok naprzód we wzmacnianiu sprawczości ludzi, zwłaszcza w momentach szczególnie trudnych”,
Oprócz funkcji Zaufany kontakt ChatGPT wyposażyliśmy w zabezpieczenia, które pomagają prowadzić rozmowy na wrażliwe tematy. Stale ulepszamy sposób reagowania systemu na różne poziomy ryzyka wyrażone w rozmowie:
- Wspieranie pomocy w realnym świecie: W trudnych chwilach ChatGPT może zachęcać użytkowników do kontaktu ze służbami ratunkowymi, infoliniami kryzysowymi, specjalistami ds. zdrowia psychicznego lub zaufanymi osobami w ich życiu.
- Uważna reakcja: Współpracowaliśmy z ponad 170 ekspertami zajmującymi się zdrowiem psychicznym, aby poprawić zdolność ChatGPT do wykrywania i reagowania na oznaki potencjalnego kryzysu, deeskalowania rozmów i zachęcania użytkowników do szukania pomocy w realnym świecie.
- Pomoc w odzyskaniu kontroli nad swoim czasem: W niektórych sytuacjach ChatGPT może zasugerować zrobienie przerwy lub odejście od ekranu po dłuższym korzystaniu, co w założeniu ma promować zdrowe nawyki technologiczne.
- Odmowa wykonania szkodliwych poleceń: ChatGPT powinien odmawiać przekazania instrukcji dotyczących samobójstwa lub samookaleczenia. Gdy użytkownicy proszą o tego rodzaju informacje, system powinien odmówić realizacji polecenia i zaproponować bezpieczniejsze odpowiedzi oraz wyświetlić lokalnie dostępne opcje pomocy kryzysowej.
Zaufany kontakt jest częścią szerszych działań OpenAI na rzecz budowy systemów AI, które pomagają użytkownikom w trudnych chwilach. Będziemy nadal współpracować z pracownikami medycznymi, badaczami oraz decydentami i ulepszać sposób reagowania AI na potencjalne kryzysy psychologiczne użytkowników. Naszym celem jest zapewnienie, aby systemy AI nie działały w izolacji. Zamiast tego powinny zachęcać użytkowników do szukania pomocy w realnym świecie.
