Παρουσίαση του Trusted Contact στο ChatGPT
Σας συνδέει με κάποιον που εμπιστεύεστε όταν έχει τη μεγαλύτερη σημασία.
Οι άνθρωποι χρησιμοποιούν το ChatGPT για να μαθαίνουν, να εξερευνούν ιδέες, να λύνουν προβλήματα και να στοχάζονται πάνω σε προσωπικά ερωτήματα. Μερικές φορές αυτές οι συνομιλίες μπορεί να περιλαμβάνουν στιγμές όπου κάποιος δυσκολεύεται ή αναζητά υποστήριξη. Στόχος μας είναι να σχεδιάζουμε συστήματα που ανταποκρίνονται με περίσκεψη σε ευαίσθητες συνομιλίες και ενθαρρύνουν τους ανθρώπους να συνδέονται με βοήθεια στον πραγματικό κόσμο όταν τη χρειάζονται.
Σήμερα ξεκινάμε τη σταδιακή διάθεση του Trusted Contact, μιας προαιρετικής λειτουργίας ασφάλειας στο ChatGPT που επιτρέπει στους ενήλικες να ορίσουν κάποιον που εμπιστεύονται, όπως έναν φίλο, μέλος της οικογένειας ή φροντιστή, ο οποίος μπορεί να ειδοποιηθεί αν τα αυτοματοποιημένα συστήματά μας και οι εκπαιδευμένοι ελεγκτές εντοπίσουν ότι το εγγεγραμμένο άτομο ενδέχεται να έχει συζητήσει για αυτοτραυματισμό με τρόπο που υποδηλώνει σοβαρή ανησυχία για την ασφάλειά του. Το Trusted Contact έχει σχεδιαστεί ώστε να προσφέρει ένα ακόμη επίπεδο υποστήριξης παράλληλα με τις τοπικά διαθέσιμες γραμμές βοήθειας που είναι ήδη διαθέσιμες στο ChatGPT, βοηθώντας τους χρήστες να συνδεθούν με ένα άτομο που εμπιστεύονται όταν βρίσκονται σε κρίση.
Το Trusted Contact βασίζεται στις ειδοποιήσεις ασφάλειας των γονικών ελέγχων(ανοίγει σε νέο παράθυρο), οι οποίες επιτρέπουν σε γονείς ή κηδεμόνες να λαμβάνουν ειδοποιήσεις όταν υπάρχουν ενδείξεις οξείας δυσφορίας σε έναν συνδεδεμένο λογαριασμό εφήβου. Τώρα επεκτείνουμε τις επιλογές ειδοποιήσεων ασφάλειας ώστε οποιοσδήποτε είναι άνω των 18 ετών να μπορεί να επιλέξει να προσθέσει κάποιον που εμπιστεύεται ως Trusted Contact.
Οι οδηγίες των ειδικών(ανοίγει σε νέο παράθυρο) αναγνωρίζουν την κοινωνική σύνδεση ως έναν από τους σημαντικότερους προστατευτικούς παράγοντες για τη μείωση του κινδύνου αυτοκτονίας. Το Trusted Contact(ανοίγει σε νέο παράθυρο) έχει σχεδιαστεί για να ενθαρρύνει τη σύνδεση με κάποιον που ο χρήστης ήδη εμπιστεύεται. Δεν αντικαθιστά την επαγγελματική φροντίδα ή τις υπηρεσίες κρίσης και αποτελεί ένα από τα πολλά επίπεδα προστασίας για την υποστήριξη ανθρώπων σε κατάσταση δυσφορίας. Το ChatGPT θα συνεχίσει να ενθαρρύνει τους χρήστες να επικοινωνούν με γραμμές υποστήριξης σε κρίση ή με υπηρεσίες έκτακτης ανάγκης, όταν αυτό είναι κατάλληλο.
«Η ψυχολογική επιστήμη δείχνει σταθερά ότι η κοινωνική σύνδεση είναι ένας ισχυρός προστατευτικός παράγοντας, ειδικά σε περιόδους συναισθηματικής δυσφορίας. Το να βοηθάμε τους ανθρώπους να προσδιορίζουν εκ των προτέρων ένα έμπιστο πρόσωπο, διατηρώντας παράλληλα την επιλογή και την αυτονομία τους, μπορεί να τους διευκολύνει να αναζητήσουν υποστήριξη στον πραγματικό κόσμο όταν αυτό έχει τη μεγαλύτερη σημασία.»
- Οι χρήστες μπορούν να προσθέσουν έναν ενήλικα (18+ παγκοσμίως ή 19+ στη Νότια Κορέα) ως Trusted Contact από τις ρυθμίσεις του ChatGPT.
- Το Trusted Contact θα λάβει μια πρόσκληση που εξηγεί τον ρόλο του και πρέπει να αποδεχτεί την πρόσκληση μέσα σε μία εβδομάδα ώστε η λειτουργία να ενεργοποιηθεί. Αν το Trusted Contact αρνηθεί, ο χρήστης μπορεί να επιλέξει να προσθέσει έναν διαφορετικό ενήλικα.
- Αν τα αυτοματοποιημένα συστήματα παρακολούθησής μας εντοπίσουν ότι ο χρήστης μπορεί να μιλά για αυτοτραυματισμό με τρόπο που υποδηλώνει σοβαρή ανησυχία για την ασφάλειά του, το ChatGPT ενημερώνει τον χρήστη ότι ενδέχεται να ειδοποιήσουμε το Trusted Contact του και τον ενθαρρύνει να επικοινωνήσει με το Trusted Contact του με προτεινόμενες αφετηρίες συζήτησης.
- Στη συνέχεια, μια μικρή ομάδα ειδικά εκπαιδευμένων ατόμων εξετάζει την κατάσταση. Αν αυτοί οι ελεγκτές κρίνουν ότι η συνομιλία μπορεί να υποδηλώνει σοβαρή ανησυχία για την ασφάλεια, το ChatGPT θα στείλει στο Trusted Contact μια σύντομη ειδοποίηση μέσω email, γραπτού μηνύματος ή ειδοποίησης εντός εφαρμογής, αν διαθέτει λογαριασμό ChatGPT
- Η ειδοποίηση είναι σκόπιμα περιορισμένη. Κοινοποιεί τον γενικό λόγο για τον οποίο ο αυτοτραυματισμός προέκυψε με δυνητικά ανησυχητικό τρόπο και ενθαρρύνει το Trusted Contact να επικοινωνήσει. Δεν περιλαμβάνει λεπτομέρειες συνομιλίας ή απομαγνητοφωνήσεις, ώστε να προστατεύεται το απόρρητο του χρήστη. Η ειδοποίηση περιλαμβάνει επίσης έναν σύνδεσμο προς οδηγίες(ανοίγει σε νέο παράθυρο) ειδικών για τη διαχείριση ευαίσθητων συνομιλιών.
- Οι χρήστες μπορούν πάντα να αφαιρέσουν ή να επεξεργαστούν το Trusted Contact τους στις ρυθμίσεις και το Trusted Contact μπορεί να αφαιρέσει τον εαυτό του ανά πάσα στιγμή από το κέντρο βοήθειας.(ανοίγει σε νέο παράθυρο)
Παρότι αυτές οι σοβαρές καταστάσεις ασφάλειας είναι σπάνιες, όταν προκύπτουν, τα συστήματά μας είναι σχεδιασμένα να υποστηρίζουν έγκαιρη εξέταση και απόκριση. Παρόλο που κανένα σύστημα δεν είναι τέλειο και μια ειδοποίηση προς ένα Trusted Contact μπορεί να μην αντικατοπτρίζει πάντα ακριβώς αυτό που βιώνει κάποιος, κάθε ειδοποίηση υποβάλλεται σε αξιολόγηση από εκπαιδευμένο άνθρωπο πριν αποσταλεί και καταβάλλουμε προσπάθεια να εξετάζουμε αυτές τις ειδοποιήσεις ασφάλειας σε λιγότερο από μία ώρα.
Αναπτύξαμε το Trusted Contact με καθοδήγηση από κλινικούς, ερευνητές και οργανισμούς που εξειδικεύονται στην ψυχική υγεία και την πρόληψη της αυτοκτονίας. Αυτή η εργασία ενημερώνεται από το Global Physicians Network, ένα δίκτυο περισσότερων από 260 αδειοδοτημένων ιατρών σε 60 χώρες, και το Expert Council on Well-Being and AI. Εργαστήκαμε επίσης στενά με εξωτερικούς οργανισμούς, συμπεριλαμβανομένης της American Psychological Association.(ανοίγει σε νέο παράθυρο)
«Μία από τις μεγαλύτερες υποσχέσεις της TN είναι ο τρόπος με τον οποίο μπορεί να καλλιεργήσει αυθεντική ανθρώπινη σύνδεση και ψυχολογική ασφάλεια. Με ενθαρρύνει η λειτουργία Trusted Contact του ChatGPT, η οποία αποτελεί ένα βήμα προόδου για την ανθρώπινη ενδυνάμωση, ιδιαίτερα σε στιγμές ευαλωτότητας.»
Εκτός από το Trusted Contact, το ChatGPT διαθέτει μέτρα προστασίας που βοηθούν στην καθοδήγηση ευαίσθητων συνομιλιών σε κάθε στάδιο. Συνεχίσαμε να βελτιώνουμε τον τρόπο με τον οποίο το σύστημα ανταποκρίνεται σε διαφορετικά επίπεδα κινδύνου που εκφράζονται σε μια συνομιλία:
- Υποστήριξη βοήθειας στον πραγματικό κόσμο: Σε ευαίσθητες στιγμές, το ChatGPT μπορεί να ενθαρρύνει τους ανθρώπους να επικοινωνήσουν με υπηρεσίες έκτακτης ανάγκης, γραμμές βοήθειας σε κρίση, επαγγελματίες ψυχικής υγείας ή έμπιστα πρόσωπα στη ζωή τους.
- Ανταπόκριση με φροντίδα: Έχουμε συνεργαστεί με 170+ ειδικούς ψυχικής υγείας για να βελτιώσουμε την ικανότητα του ChatGPT να εντοπίζει και να ανταποκρίνεται σε ενδείξεις πιθανής δυσφορίας, να αποκλιμακώνει συνομιλίες και να καθοδηγεί τους ανθρώπους προς υποστήριξη στον πραγματικό κόσμο όταν είναι κατάλληλο.
- Βοηθώντας τους ανθρώπους να διατηρούν τον έλεγχο του χρόνου τους: Σε ορισμένες περιπτώσεις, το ChatGPT μπορεί να προτείνει ένα διάλειμμα ή απομάκρυνση έπειτα από παρατεταμένη χρήση, για την προώθηση υγιών συνηθειών χρήσης της τεχνολογίας.
- Άρνηση επιβλαβών αιτημάτων: Το ChatGPT έχει εκπαιδευτεί να αρνείται την παροχή οδηγιών για αυτοκτονία ή αυτοτραυματισμό. Όταν οι χρήστες ζητούν αυτού του είδους τις πληροφορίες, το σύστημα έχει εκπαιδευτεί να αρνείται το αίτημα και αντ’ αυτού να κατευθύνει προς ασφαλέστερες απαντήσεις και να προβάλλει τοπικά διαθέσιμους πόρους υποστήριξης σε κρίση.
Το Trusted Contact αποτελεί μέρος της ευρύτερης προσπάθειας της OpenAI να δημιουργεί συστήματα TN που βοηθούν τους ανθρώπους σε δύσκολες στιγμές. Θα συνεχίσουμε να συνεργαζόμαστε με κλινικούς, ερευνητές και υπεύθυνους χάραξης πολιτικής για να βελτιώσουμε τον τρόπο με τον οποίο τα συστήματα TN ανταποκρίνονται όταν οι άνθρωποι μπορεί να βιώνουν δυσφορία. Στόχος μας είναι να διασφαλίσουμε ότι τα συστήματα TN δεν λειτουργούν απομονωμένα. Αντίθετα, θα πρέπει να βοηθούν στη σύνδεση των ανθρώπων με τη φροντίδα, τις σχέσεις και τους πόρους του πραγματικού κόσμου που έχουν τη μεγαλύτερη σημασία.
