אנשים משתמשים ב-ChatGPT כדי ללמוד, לבחון רעיונות, לפתור בעיות ולהרהר בשאלות אישיות. לפעמים השיחות האלה מתקיימות גם ברגעים של קושי או חיפוש אחר תמיכה. המטרה שלנו היא לתכנן מערכות שמגיבות ברגישות ובשיקול דעת לשיחות בנושאים רגישים, ומעודדות אנשים לפנות לעזרה בעולם האמיתי בעת הצורך.
היום אנחנו מתחילים להשיק בהדרגה את איש קשר מהימן, תכונת בטיחות אופציונלית ב-ChatGPT. התכונה מאפשרת לבגירים לבחור אדם שהם סומכים עליו, כמו חבר, בן משפחה או מטפל, שעשוי לקבל התראה אם המערכות האוטומטיות שלנו ובודקים שעברו הכשרה יזהו שייתכן שהאדם שנרשם לתכונה דיבר על פגיעה בעצמו באופן המצביע על חשש חמור לשלומו. התכונה איש קשר מהימן נועדה להציע שכבה נוספת של תמיכה לצד קווי הסיוע המקומיים שכבר זמינים ב-ChatGPT, ולעזור למשתמשים ליצור קשר עם אדם שהם סומכים עליו בשעת משבר.
התכונה איש קשר מהימן מתבססת על התראות הבטיחות של בקרת הורים(נפתח בחלון חדש), שמאפשרות להורים או לאפוטרופוסים לקבל התראות כשמזוהים סימנים למצוקה חריפה בחשבון מקושר של נער או נערה. כעת אנחנו מרחיבים את אפשרויות התראות הבטיחות שלנו, כך שכל אדם מעל גיל 18 יוכל לבחור להוסיף מישהו שהוא סומך עליו כאיש הקשר המהימן שלו.
הנחיות מומחים(נפתח בחלון חדש) מצביעות על קשר חברתי כאחד מגורמי ההגנה החשובים ביותר להפחתת הסיכון להתאבדות. התכונה איש קשר מהימן(נפתח בחלון חדש) נועדה לעודד יצירת קשר עם אדם שהמשתמש כבר סומך עליו. היא אינה מחליפה טיפול מקצועי או שירותי סיוע במשבר, והיא אחת מכמה שכבות הגנה שנועדו לתמוך באנשים במצוקה. ChatGPT ימשיך לעודד משתמשים לפנות לקווי סיוע במשבר או לשירותי חירום כשהמצב מצדיק זאת.
״מחקרים בפסיכולוגיה מראים בעקביות שקשר חברתי הוא גורם הגנה משמעותי, במיוחד בתקופות של מצוקה רגשית. סיוע לאנשים בבחירה מראש של אדם שהם סומכים עליו, תוך שמירה על חופש הבחירה והעצמאות שלהם, יכול להקל עליהם לפנות לתמיכה בעולם האמיתי ברגעים שבהם היא נחוצה יותר מכול.״
משתמשים יכולים להוסיף אדם בגיר אחד (מגיל 18 ברחבי העולם או מגיל 19 בקוריאה הדרומית) כאיש הקשר המהימן שלהם דרך ההגדרות ב-ChatGPT.
איש הקשר המהימן יקבל הזמנה עם הסבר על תפקידו, ויצטרך לאשר אותה בתוך שבוע כדי שהתכונה תופעל. אם איש הקשר המהימן יסרב להזמנה, המשתמש יוכל לבחור להוסיף אדם בגיר אחר.
אם מערכות הניטור האוטומטיות שלנו יזהו שייתכן שהמשתמש מדבר על פגיעה עצמית באופן שמצביע על חשש חמור לשלומו, ChatGPT יודיע למשתמש שייתכן שנשלח התראה לאיש הקשר המהימן שלו, ויעודד אותו לפנות אליו בעזרת הצעות לפתיחת שיחה.
לאחר מכן, צוות קטן של בודקים שעברו הכשרה ייעודית יבחן את המצב. אם הבודקים יקבעו שהשיחה עשויה להצביע על חשש חמור לשלומו של המשתמש, ChatGPT ישלח לאיש הקשר המהימן התראה קצרה בדוא״ל, במסרון או בתוך האפליקציה, אם יש לו חשבון ChatGPT
המידע בהתראה מוגבל במכוון. היא מציינת את הסיבה הכללית לשליחתה — שנושא הפגיעה העצמית עלה באופן שעלול לעורר דאגה — ומעודדת את איש הקשר המהימן ליצור קשר ולשאול לשלומו של המשתמש. כדי להגן על פרטיות המשתמש, ההתראה אינה כוללת פרטים מהשיחה או תמלילים. ההתראה כוללת גם קישור להנחיות(נפתח בחלון חדש) של מומחים לניהול שיחות בנושאים רגישים.
משתמשים יכולים תמיד להסיר או לערוך את איש הקשר המהימן שלהם בהגדרות, ואיש הקשר המהימן יכול להסיר את עצמו בכל עת דרך מרכז העזרה שלנו.(נפתח בחלון חדש)
מצבים שבהם עולה חשש חמור לשלומו של אדם הם נדירים, אך כשהם מתרחשים, המערכות שלנו נועדו לאפשר בדיקה ותגובה בזמן. אף מערכת אינה מושלמת, והתראה לאיש קשר מהימן לא תמיד תשקף במדויק את מה שהאדם חווה. עם זאת, כל התראה נבדקת לפני שליחתה בידי אדם שעבר הכשרה, ואנחנו שואפים לבדוק את התראות הבטיחות האלה בתוך פחות משעה.
פיתחנו את התכונה איש קשר מהימן בהנחיית אנשי מקצוע קליניים, חוקרים וארגונים המתמחים בבריאות הנפש ובמניעת התאבדות. העבודה הזו נשענת על הידע של Global Physicians Network שלנו, רשת של יותר מ-260 רופאים מורשים ב-60 מדינות, ושל מועצת המומחים שלנו לרווחה נפשית ולבינה מלאכותית. עבדנו גם בשיתוף פעולה הדוק עם ארגונים חיצוניים, ובהם האגודה האמריקאית לפסיכולוגיה.(נפתח בחלון חדש)
״אחת ההבטחות הגדולות ביותר של בינה מלאכותית היא היכולת שלה לטפח קשר אנושי אמיתי וביטחון פסיכולוגי. התכונה איש קשר מהימן ב-ChatGPT מעודדת אותי: היא מהווה צעד קדימה בהעצמת אנשים, במיוחד ברגעים של פגיעוּת.״
בנוסף לתכונה איש קשר מהימן, יש ב-ChatGPT אמצעי הגנה שעוזרים לכוון שיחות בנושאים רגישים בכל שלב. המשכנו לשפר את האופן שבו המערכת מגיבה לרמות סיכון שונות שעולות בשיחה:
עידוד פנייה לעזרה בעולם האמיתי: ברגעים רגישים, ChatGPT עשוי לעודד אנשים לפנות לשירותי חירום, לקווי סיוע במשבר, לאנשי מקצוע בתחום בריאות הנפש או לאנשים בחייהם שהם סומכים עליהם.
תגובה רגישה ואכפתית: עבדנו עם יותר מ-170 מומחים לבריאות הנפש כדי לשפר את היכולת של ChatGPT לזהות סימנים למצוקה אפשרית ולהגיב להם, להרגיע שיחות ולהפנות אנשים לתמיכה בעולם האמיתי כשהמצב מצדיק זאת.
עזרה לאנשים לשמור על שליטה בזמן שלהם: במצבים מסוימים, ChatGPT עשוי להציע לקחת הפסקה או להתרחק מהמסך לאחר שימוש ממושך, כדי לעודד הרגלי שימוש בריאים בטכנולוגיה.
סירוב לבקשות מזיקות: ChatGPT מאומן לסרב לספק הוראות להתאבדות או לפגיעה עצמית. כשמשתמשים מבקשים מידע מסוג זה, המערכת מאומנת לסרב לבקשה, ובמקום זאת לכוון לתגובות בטוחות יותר ולהציג מקורות סיוע מקומיים למצבי משבר.
התכונה איש קשר מהימן היא חלק מהמאמץ הרחב יותר של OpenAI לבנות מערכות בינה מלאכותית שעוזרות לאנשים ברגעים קשים. נמשיך לעבוד עם אנשי מקצוע קליניים, חוקרים וקובעי מדיניות כדי לשפר את האופן שבו מערכות בינה מלאכותית מגיבות כשייתכן שאנשים חווים מצוקה. המטרה שלנו היא להבטיח שמערכות בינה מלאכותית לא יפעלו במנותק מהעולם שסביבן. במקום זאת, עליהן לעזור לחבר אנשים לטיפול, לקשרים ולמשאבים בעולם האמיתי שחשובים יותר מכול.
