అత్యవసర సమయంలో సహాయం చేయడం

ప్రపంచవ్యాప్తంగా ChatGPT వినియోగం పెరుగుతున్నకొద్దీ, ఇది కేవలం సెర్చ్, కోడింగ్, రైటింగ్ కోసం మాత్రమే కాకుండా—జీవన సలహాలు⁠(కొత్త విండోలో తెరుచుకుంటుంది), కోచింగ్⁠(కొత్త విండోలో తెరుచుకుంటుంది), మరియు సపోర్ట్⁠(కొత్త విండోలో తెరుచుకుంటుంది) వంటి వ్యక్తిగత నిర్ణయాల కోసం కూడా ప్రజలు ఉపయోగిస్తున్నారని మేము గమనించాము.

ఈ స్థాయిలో, మేము కొన్నిసార్లు తీవ్ర మానసిక లేదా భావోద్వేగ కష్టాల్లో ఉన్న వ్యక్తులను ఎదుర్కొంటాము. ఇటీవల మేము దీనిపై రాసాము మరియు మా తదుపరి ప్రధాన అప్డేట్ తర్వాత మరింత పంచుకోవాలని భావించాము. అయితే, ఆక్సుట్ సంక్షోభంలో ChatGPTని ఉపయోగిస్తున్న వ్యక్తుల గురించి వచ్చిన హృదయవిదారక సంఘటనలు మాపై తీవ్ర ప్రభావం చూపించాయి. అందుకే, ఇప్పుడు మరింత పంచుకోవడం అవసరమని మేము నమ్ముతున్నాము.

మా టూల్స్ సాధ్యమైనంతగా ప్రజలకు ఉపయోగకరంగా ఉండడం మా లక్ష్యం—దీనిలో భాగంగా, నిపుణుల సూచనతో, మా మోడల్స్ మానసిక మరియు భావోద్వేగ కష్టాల సంకేతాలను గుర్తించి, వాటికి స్పందించి, అవసరమైన సహాయాన్ని కలుపుకునే విధానాన్ని నిరంతరం మెరుగుపరుస్తున్నాము.

ప్రపంచం ఈ కొత్త టెక్నాలజీకి అలవాటు పడుతున్నప్పుడు, అత్యవసరంగా సహాయం అవసరమయ్యే వారిని సపోర్ట్ చేయడం మా గొప్ప బాధ్యతగా భావిస్తున్నాము. ChatGPT ఏమి చేయడానికి రూపకల్పన చేయబడిందో, మా సిస్టమ్‌లు ఎక్కడ మెరుగుపరచవచ్చో, మరియు మేము ప్రణాళిక చేస్తున్న భవిష్యత్ పనిని వివరించాలనుకుంటున్నాము.

మా లక్ష్యం ప్రజల దృష్టిని ఆకర్షించడం కాదు. వినియోగదారులు ఖర్చు చేసిన సమయం లేదా క్లిక్‌ల ద్వారా విజయం కొలవడం కంటే, నిజంగా ఉపయోగకరంగా ఉండడమే మాకు ముఖ్యమైనది. ఒక సంభాషణలో ఎవరో బలహీనంగా ఉన్నారని, లేదా ప్రమాదంలో ఉండవచ్చని సూచించినప్పుడు, మేము ChatGPTలో పలు స్థాయిల రక్షణ చర్యలను నిర్మించాము.

సహానుభూతితో గుర్తించి, స్పందించడం.

2023 ప్రారంభం నుండి, మా మోడల్స్ స్వీయ హాని సూచనలు ఇవ్వకుండా, సహాయక, సహానుభూతి గల భాషలోకి మారేలా శిక్షణ పొందాయి. ఉదాహరణకు, ఎవరైనా తామే తమకు హాని చేయాలనుకుంటున్నామని రాస్తే, ChatGPT అంగీకరించకుండా, వారి భావాలను గుర్తించి, సహాయం వైపు దారి చూపేలా శిక్షణ పొందింది.

అదనంగా, మా లోతైన రక్షణ విధానానికి అనుగుణంగా, మా మోడల్స్ సేఫ్టీ ట్రైనింగ్‌కు వ్యతిరేకంగా ఉన్న ప్రతిస్పందనలు (మా క్లాసిఫైయర్స్ గుర్తించినవి) ఆటోమేటిక్‌గా బ్లాక్ చేయబడతాయి—ప్రత్యేకంగా మైనర్లు మరియు లాగ్-అవుట్ వినియోగదారుల కోసం మరింత బలమైన రక్షణలతో. స్వీయ హాని సంబంధించిన ఇమేజ్ అవుట్‌పుట్స్ అందరికీ బ్లాక్ చేయబడ్డాయి, మైనర్ల కోసం మరింత బలమైన రక్షణలతో.

చాలా పొడవైన సెషన్‌ల సమయంలో, ChatGPT వినియోగదారులను విరామం తీసుకోవాలని సూచిస్తుంది.

వినియోగదారులను నిజ జీవిత సహాయ వనరులవైపు దారి చూపడం.

ఎవరైనా ఆత్మహత్య ఉద్దేశాన్ని వ్యక్తం చేస్తే, ChatGPT వారికి ప్రొఫెషనల్ సహాయం పొందాలని దారి చూపేలా శిక్షణ పొందింది. USలో, ChatGPT ప్రజలను 988 (ఆత్మహత్య మరియు సంక్షోభ హాట్‌లైన్) కు, UKలో సమారిటన్లను మరియు ఇతర చోట్ల findahelpline.com⁠(కొత్త విండోలో తెరుచుకుంటుంది) కు సూచిస్తుంది. ఈ లాజిక్ మోడల్ ప్రవర్తనలోనే పొందుపరచబడింది.

మేము 30+ దేశాల్లో 90కి పైగా వైద్యులతో—సైకియాట్రిస్ట్‌లు, పీడియాట్రిషన్‌లు, జనరల్ ప్రాక్టీషనర్‌లతో—సన్నిహితంగా పనిచేస్తున్నాము. అదనంగా, మానసిక ఆరోగ్యం, యువ అభివృద్ధి, మరియు హ్యూమన్-కంప్యూటర్ ఇంటరాక్షన్ నిపుణులతో కూడిన సలహా బృందాన్ని ఏర్పాటు చేసి, మా విధానం తాజా పరిశోధన మరియు ఉత్తమ పద్ధతులను ప్రతిబింబించేలా చూసుకుంటున్నాము.

ఇతరులకు శారీరక హాని చేసే ప్రమాదాన్ని మానవ సమీక్షకు ఎస్కలేట్ చేయడం.

ఎవరైనా ఇతరులకు హాని చేయాలని ప్లాన్ చేస్తున్నారని మేము గుర్తిస్తే, వారి సంభాషణలను ప్రత్యేక పైప్‌లైన్‌లకు దారి మళ్లిస్తాము. అక్కడ, మా పాలసీలపై శిక్షణ పొందిన చిన్న బృందం వాటిని సమీక్షించి, ఖాతాలను బ్యాన్ చేయడం వంటి చర్యలు తీసుకునే అధికారం కలిగి ఉంటుంది. మానవ సమీక్షకులు ఒక కేసులో ఇతరులకు తీవ్రమైన శారీరక హాని జరిగే తక్షణ ప్రమాదం ఉందని నిర్ణయిస్తే, మేము దానిని చట్ట అమలు సంస్థలకు రిఫర్ చేయవచ్చు. ChatGPT ఇంటరాక్షన్‌ల ప్రత్యేక ప్రైవేట్ స్వభావాన్ని గౌరవిస్తూ, ప్రస్తుతం స్వీయ హాని కేసులను మేము చట్ట అమలు సంస్థలకు రిఫర్ చేయడం లేదు.

మా మోడల్స్ సున్నితమైన ఇంటరాక్షన్‌లలో ఎలా స్పందించాలో నిరంతరం మెరుగుపరుస్తున్నాము, మరియు ప్రస్తుతం భావోద్వేగ ఆధారపడటం, మానసిక ఆరోగ్య అత్యవసర పరిస్థితులు, మరియు అధిక పొగడటం వంటి అంశాల్లో టార్గెట్ చేసిన సేఫ్టీ మెరుగుదలలపై పని చేస్తున్నాము.

ఆగస్టులో, ChatGPTని నడిపించే డిఫాల్ట్ మోడల్‌గా GPT‑5ని మేము ప్రారంభించాము. మొత్తంగా, GPT‑5 అనారోగ్యకర స్థాయి భావోద్వేగ ఆధారపడటం తగ్గించడం, అధిక పొగడటాన్ని తగ్గించడం, మరియు మానసిక ఆరోగ్య అత్యవసర పరిస్థితుల్లో సరైన కాకపోయే మోడల్ సమాధానాల రేటును 4oతో పోలిస్తే 25% కంటే ఎక్కువ తగ్గించడం వంటి రంగాల్లో గణనీయమైన పురోగతిని చూపించింది. GPT‑5 సురక్షితమైన పూర్తిలు అని పిలువబడే కొత్త సేఫ్టీ ట్రైనింగ్ విధానంపై కూడా నిర్మించబడింది, ఇది మోడల్‌ను సేఫ్టీ పరిమితులలో ఉండి సాధ్యమైనంతగా సహాయకరంగా ఉండటం నేర్పుతుంది. అంటే, సేఫ్టీకి విరుద్ధంగా ఉండే వివరాల బదులు, కొంత భాగంగా లేదా హై-లెవెల్ సమాధానం ఇవ్వడం కావచ్చు.

ఈ రక్షణ చర్యలున్నప్పటికీ, కొన్నిసార్లు మా సిస్టమ్స్ సున్నితమైన పరిస్థితుల్లో అనుకున్న విధంగా ప్రవర్తించలేదు. మేము మెరుగుపరచడానికి పని చేస్తున్న కొన్ని అంశాలు ఇక్కడ ఉన్నాయి.

పొడవైన సంభాషణల్లో రక్షణలను బలోపేతం చేయడం.

సాధారణ, చిన్న సంభాషణల్లో మా రక్షణలు మరింత నమ్మదగిన విధంగా పనిచేస్తాయి. కాలక్రమేణా, ఈ రక్షణలు పొడవైన ఇంటరాక్షన్‌లలో కొన్నిసార్లు తక్కువ నమ్మదగినవిగా మారవచ్చని మేము నేర్చుకున్నాము: సంభాషణ కొనసాగినకొద్దీ, మోడల్ సేఫ్టీ ట్రైనింగ్‌లోని కొన్ని భాగాలు తగ్గిపోవచ్చు. ఉదాహరణకు, ఎవరో తొలిసారి ఆత్మహత్య ఉద్దేశాన్ని చెప్పినప్పుడు ChatGPT సరిగ్గా స్యూసైడ్ హాట్‌లైన్‌ని సూచించవచ్చు, కానీ చాలా సుదీర్ఘంగా సాగిన సందేశాల తర్వాత, అది మా రక్షణలకు వ్యతిరేకంగా సమాధానం ఇవ్వవచ్చు. ఇలాంటి లోపం జరగకుండా నివారించడానికే మేము పని చేస్తున్నాము. పొడవైన సంభాషణల్లో కూడా ఇవి నమ్మదగినవిగా ఉండేలా మేము ఈ రక్షణలను బలోపేతం చేస్తున్నాము, అలాగే పలు సంభాషణల్లో సుస్థిర ప్రవర్తన ఉండేలా మార్గాలను పరిశోధిస్తున్నాము. అలా చేస్తే, ఒక చాట్‌లో ఎవరో ఆత్మహత్య ఉద్దేశాన్ని వ్యక్తం చేసి, తర్వాత కొత్త చాట్ ప్రారంభించినా, మోడల్ తగిన విధంగా స్పందించగలదు.

కంటెంట్‌ను బ్లాక్ చేసే విధానాన్ని మెరుగుపరచడం.

బ్లాక్ చేయాల్సిన కంటెంట్ బ్లాక్ చేయబడని కొన్ని సందర్భాలను మేము చూశాము. ఈ లోపాలు సాధారణంగా, క్లాసిఫైయర్ అది చూసే కంటెంట్ తీవ్రతను తక్కువ అంచనా వేయడం వల్ల వస్తాయి. రక్షణలు అవసరమైనప్పుడు తప్పకుండా యాక్టివేట్ అయ్యేలా మేము ఆ థ్రెషోల్డ్‌లను సవరుతున్నాము.

కష్టమైన క్షణాన్ని ChatGPT మరింత క్లిష్టంగా మార్చకుండా చూసుకోవడమే మా ప్రధాన ప్రాధాన్యత.

పై సమస్యలను పరిష్కరించడం వద్ద పనిని ఆపడం లేదు. మేము కూడా ప్రణాళిక చేస్తున్నాము: 

సంక్షోభంలో ఉన్న మరింత మందికి సహాయాన్ని విస్తరించడం.

మా మొదటి రక్షణ చర్యలు తీవ్రమైన స్వీయ హానిని ప్రాధాన్యంగా తీసుకున్నప్పటికీ, కొందరు వ్యక్తులు ఇతర రకాల మానసిక కష్టాలను అనుభవిస్తారు. ఉదాహరణకు, ఎవరైనా రెండు రోజులు నిద్రపోకపోయిన తర్వాత తాము అజేయమని నమ్మి, 24/7 డ్రైవ్ చేయగలమని ఉత్సాహంగా మోడల్‌కి చెప్పవచ్చు. ప్రస్తుతం, ChatGPT దీన్ని ప్రమాదకరంగా గుర్తించకపోవచ్చు లేదా ఆటలాగా భావించి—ఆసక్తిగా పరిశీలించడం ద్వారా—అజాగ్రత్తగా దానిని బలపరచవచ్చు.

వ్యక్తిని వాస్తవంలో నిలబెట్టడం ద్వారా పరిస్థితిని తగ్గించేలా చేయడానికి GPT‑5లో ఒక అప్డేట్‌పై మేము పని చేస్తున్నాము. ఈ ఉదాహరణలో, నిద్రలేమి ప్రమాదకరమని వివరించి, ఏ చర్యకు ముందూ విశ్రాంతి తీసుకోవాలని సూచిస్తుంది.

ఎమర్జెన్సీ సేవలకు చేరుకోవడం మరియు నిపుణుల సహాయం పొందడం మరింత సులభం చేయడం.

ప్రస్తుతం, ఎవరో తమకు హాని చేయాలనే ఉద్దేశాన్ని వ్యక్తం చేస్తే, మేము వారిని సహాయం పొందమని ప్రోత్సహించి, నిజ జీవిత సహాయ వనరులకు దారి చూపుతాము. అమెరికా మరియు యూరప్‌లో రీసోర్సులను స్థానికీకరించడం ప్రారంభించాము, మరియు ఇతర గ్లోబల్ మార్కెట్లకు విస్తరించే ప్రణాళికలో ఉన్నాము. ఎమర్జెన్సీ సేవలకు వన్-క్లిక్ యాక్సెస్ ద్వారా యాక్సెసిబిలిటీని కూడా పెంచుతాము.

వ్యక్తులు తీవ్రమైన సంక్షోభంలోకి వెళ్లకముందే, ఎలా ముందుగానే జోక్యం చేసుకుని వారిని సర్టిఫైడ్ థెరపిస్ట్‌లకు కలుపవచ్చో మేము పరిశీలిస్తున్నాము. అంటే, క్రైసిస్ హాట్‌లైన్‌లకన్నా ఎక్కువగా ఆలోచించి, ChatGPT ద్వారా నేరుగా చేరుకోగలిగే లైసెన్స్ పొందిన నిపుణుల నెట్‌వర్క్‌ను ఎలా నిర్మించవచ్చో పరిగణనలోకి తీసుకోవడం. దీన్ని సక్రమంగా అమలు చేయడానికి సమయం మరియు జాగ్రత్తగా పని అవసరం.

నమ్మదగిన కాంటాక్ట్‌లకు కనెక్ట్ అయ్యే సౌకర్యాన్ని కల్పించడం.

ఎమర్జెన్సీ సేవలకు అదనంగా, ప్రజలు తమకు అత్యంత సన్నిహితంగా ఉన్న వారిని సులభంగా సంప్రదించే మార్గాలను మేము పరిశీలిస్తున్నాము. ఇందులో వన్-క్లిక్ మెసేజ్‌లు లేదా కాల్స్ ఉండవచ్చు—సేవ్ చేసిన ఎమర్జెన్సీ కాంటాక్ట్స్, స్నేహితులు లేదా కుటుంబ సభ్యులకు. సంభాషణ ప్రారంభించడాన్ని తక్కువ భయంకరంగా చేయడానికి సూచించిన భాషతో.

తీవ్రమైన సందర్భాల్లో, వ్యక్తి తరపున ChatGPT నిర్ణయించిన కాంటాక్ట్‌ను సంప్రదించేలా, ప్రజలు ఆప్ట్-ఇన్ అవ్వగల ఫీచర్‌లను కూడా మేము పరిగణిస్తున్నాము.

టీనేజర్ల కోసం రక్షణలను బలోపేతం చేయడం.

చారిత్రాత్మకంగా, మేము అన్ని వినియోగదారుల కోసం ఒకే ఆదర్శ మోడల్ ప్రవర్తనను నిర్ణయించాము; అయితే ChatGPT పెరిగినకొద్దీ, వినియోగదారు 18 ఏళ్లలోపు ఉన్నారని తెలుసుకున్నప్పుడు అదనపు రక్షణలను జోడించడం ప్రారంభించాము. టీనేజర్ల ప్రత్యేక అభివృద్ధి అవసరాలను గుర్తించి, సున్నితమైన కంటెంట్ మరియు ప్రమాదకర ప్రవర్తనలపై బలమైన గార్డ్‌రైల్‌లతో రక్షణలను అభివృద్ధి చేసి, ప్రవేశపెడుతున్నాము.

త్వరలోనే, తల్లిదండ్రులు తమ టీనేజర్లు ChatGPTను ఎలా ఉపయోగిస్తున్నారో మరింత అవగాహన పొందేందుకు, దాన్ని రూపకల్పన చేయడంలో భాగం అవ్వడానికి వీలైన పేరెంటల్ కంట్రోల్స్‌ను ప్రవేశపెడతాము. టీనేజర్లు (తల్లిదండ్రుల పర్యవేక్షణలో) నమ్మదగిన ఎమర్జెన్సీ కాంటాక్ట్‌ను ఎంపిక చేసుకునేలా చేసే అవకాశాన్ని కూడా మేము పరిశీలిస్తున్నాము. అలా చేస్తే, తీవ్రమైన కష్టసమయంలో ChatGPT కేవలం రీసోర్సులను సూచించడమే కాకుండా, టీనేజర్లను నేరుగా సహాయం చేయగల వ్యక్తితో కలుపడంలో సహాయపడుతుంది.

ప్రతి అంశం అనుకున్న విధంగా పనిచేసినప్పుడు మాత్రమే రక్షణలు బలంగా ఉంటాయని మాకు బాగా తెలుసు. నిపుణుల సూచనతో, మా టూల్స్‌ను ఉపయోగించే ప్రజల పట్ల బాధ్యతతో మేము నిరంతరం మెరుగుపరుస్తూనే ఉంటాము—ఈ టెక్నాలజీ అత్యంత బలహీన క్షణాల్లో ఉన్న ప్రజలను రక్షించడానికి, ఇతరులు కూడా మాతో చేరుతారని మేము ఆశిస్తున్నాము.