લોકોને સૌથી વધુ જરૂર હોય ત્યારે મદદ કરવી

જેમ જેમ ChatGPT નો ઉપયોગ વિશ્વભરમાં વધ્યો છે, તેમ અમે જોયું છે કે લોકો તેનો ઉપયોગ માત્ર શોધ, કોડિંગ અને લેખન માટે જ નહીં, પરંતુ ખૂબ જ વ્યક્તિગત નિર્ણયો માટે પણ કરે છે, જેમાં જીવન અંગેની સલાહ⁠(નવી વિન્ડોમાં ખૂલે છે), કોચિંગ⁠(નવી વિન્ડોમાં ખૂલે છે) અને સહાય⁠(નવી વિન્ડોમાં ખૂલે છે) શામેલ છે.

આટલા મોટા પાયે, અમને ક્યારેક ગંભીર માનસિક અને ભાવનાત્મક તણાવમાં રહેલા લોકો પણ મળે છે. અમે આ વિશે થોડા અઠવાડિયા પહેલા લખ્યું હતું અને અમારી આગામી મોટી અપડેટ પછી વધુ શેર કરવાની યોજના બનાવી હતી. જોકે, તાજેતરમાં ગંભીર સંકટ વચ્ચે ChatGPT નો ઉપયોગ કરનાર લોકોના હૃદયવિદારક કિસ્સાઓએ અમને ઊંડો અસર કરી છે, અને અમને લાગે છે કે હવે વધુ શેર કરવું મહત્વપૂર્ણ છે.

અમારો હેતુ એ છે કે અમારા ટૂલ્સ લોકો માટે શક્ય તેટલા મદદરૂપ બને અને તેના એક ભાગરૂપે અમે નિષ્ણાતોના માર્ગદર્શન હેઠળ અમારા મોડલ માનસિક અને ભાવનાત્મક તણાવના સંકેતોને કેવી રીતે ઓળખે છે, પ્રતિક્રિયા આપે છે અને લોકોને યોગ્ય કાળજી સાથે કેવી રીતે જોડે છે તેમાં સતત સુધારો કરી રહ્યા છીએ.

જેમ દુનિયા આ નવી ટેક્નોલોજી સાથે પોતાને ઢાળે છે, તેમ અમને સૌથી વધુ જરૂરિયાત ધરાવતા લોકોને મદદ કરવાની ઊંડી જવાબદારી લાગે છે. અમે સમજાવવા માંગીએ છીએ કે ChatGPT શું કરવા માટે ડિઝાઇન થયું છે, અમારી સિસ્ટમોમાં ક્યાં સુધારો થઈ શકે છે, અને ભવિષ્ય માટે અમે કયું કામ આયોજન કરી રહ્યા છીએ.

અમારો હેતુ લોકોનું ધ્યાન જકડી રાખવાનો નથી. સફળતાને સમય કે ક્લિક્સ દ્વારા માપવા બદલે, અમને ખરેખર મદદરૂપ બનવું વધુ મહત્વનું લાગે છે. જ્યારે કોઈ વાતચીતથી લાગે છે કે કોઈ વ્યક્તિ નાજુક સ્થિતિમાં છે અને જોખમમાં હોઈ શકે છે, ત્યારે અમે ChatGPT માં સ્તરબદ્ધ સુરક્ષા ઉપાયો બનાવ્યા છે.

ઓળખો અને સહાનુભૂતિથી પ્રતિસાદ આપો.

2023ની શરૂઆતથી, અમારા મોડલને સ્વ-હાનિ વિશેની સૂચનાઓ ન આપવા અને સહાયક, સહાનુભૂતિપૂર્ણ ભાષા તરફ વળવા માટે તાલીમ આપવામાં આવી છે. ઉદાહરણ તરીકે, જો કોઈ લખે કે તે પોતાને નુકસાન પહોંચાડવા માંગે છે, તો ChatGPT ને તે મુજબ ન ચાલવા અને તેના બદલે તેમની લાગણીઓને સ્વીકારી તેમને મદદ તરફ દોરી જવા માટે તાલીમ આપવામાં આવી છે.

આ ઉપરાંત, અમારા defense in depth અભિગમ મુજબ, અમારા મોડલની સલામતી તાલીમના વિરુદ્ધ જતા પ્રતિસાદો. જેમને અમારા ક્લાસિફાયર ઓળખે છે. તે આપમેળે રોકી દેવામાં આવે છે, અને નાબાલિગો તથા લોગ-આઉટ ઉપયોગ માટે વધુ મજબૂત સુરક્ષાઓ લાગુ પડે છે. સ્વ-હાનિ ધરાવતા ઇમેજ આઉટપુટ્સ પણ દરેક માટે રોકવામાં આવે છે, અને નાબાલિગો માટે વધુ મજબૂત સુરક્ષાઓ લાગુ પડે છે.

ખૂબ લાંબા સત્રો દરમિયાન, ChatGPT લોકોને વિરામ લેવા માટે સંકેત આપે છે.

લોકોને વાસ્તવિક દુનિયાના સ્રોતો તરફ દોરો.

જો કોઈ આત્મહત્યાનો ઇરાદો વ્યક્ત કરે, તો ChatGPT લોકોને વ્યાવસાયિક મદદ લેવા દિશાનિર્દેશ આપવા માટે તાલીમબદ્ધ છે. યુ.એસ.માં, ChatGPT લોકોને 988 (suicide and crisis hotline) તરફ દોરી જાય છે, યુકેમાં Samaritans તરફ, અને અન્યત્ર findahelpline.com⁠(નવી વિન્ડોમાં ખૂલે છે) તરફ. આ તર્ક મોડલના વર્તનમાં જ સમાવાયેલ છે.

અમે 30થી વધુ દેશોમાં 90થી વધુ ચિકિત્સકો. જેમાં મનોચિકિત્સકો, બાળરોગ નિષ્ણાતો અને જનરલ પ્રેક્ટિશનર્સ શામેલ છે. તેમની સાથે નજીકથી કામ કરી રહ્યા છીએ, અને માનસિક આરોગ્ય, યુવાવિકાસ અને માનવ-કમ્પ્યુટર અંતરક્રિયા ક્ષેત્રના નિષ્ણાતોનું સલાહકાર સમૂહ પણ એકત્ર કરી રહ્યા છીએ, જેથી અમારો અભિગમ નવીનતમ સંશોધન અને શ્રેષ્ઠ પદ્ધતિઓને પ્રતિબિંબિત કરે.

બીજાને શારીરિક નુકસાનના જોખમને માનવીય સમીક્ષા માટે આગળ ધપાવો.

જ્યારે અમે એવા વપરાશકર્તાઓ શોધી કાઢીએ છીએ જે બીજાને નુકસાન પહોંચાડવાની યોજના બનાવી રહ્યા હોય, ત્યારે અમે તેમની વાતચીતને વિશેષ પાઇપલાઇન તરફ મોકલી દઈએ છીએ, જ્યાં અમારી ઉપયોગ નીતિઓ પર તાલીમ મેળવેલી નાની ટીમ દ્વારા તેની સમીક્ષા થાય છે અને જેને કાર્યવાહી કરવાની સત્તા હોય છે, જેમાં એકાઉન્ટ પ્રતિબંધિત કરવાનું પણ શામેલ છે. જો માનવીય સમીક્ષકો નક્કી કરે કે કોઈ કેસમાં બીજાને ગંભીર શારીરિક નુકસાનનો તાત્કાલિક ભય છે, તો અમે તે બાબત કાયદા અમલવારી એજન્સીઓને મોકલી શકીએ છીએ. હાલમાં, ChatGPT પરની ક્રિયાઓની વિશિષ્ટ ખાનગી સ્વરૂપને ધ્યાનમાં લઈને લોકોની ગોપનીયતાનો માન રાખવા માટે અમે સ્વ-હાનિના કેસો કાયદા અમલવારી એજન્સીઓને મોકલી રહ્યા નથી.

અમે સંવેદનશીલ ક્રિયાપ્રતિક્રિયામાં અમારા મોડલ કેવી રીતે પ્રતિસાદ આપે છે તેમાં સતત સુધારો કરી રહ્યા છીએ, અને હાલમાં ભાવનાત્મક નિર્ભરતા, માનસિક આરોગ્યની આકસ્મિક પરિસ્થિતિઓ અને અંધ-સંમતિ સહિતના અનેક ક્ષેત્રોમાં લક્ષિત સુરક્ષા સુધારાઓ પર કામ કરી રહ્યા છીએ.

ઑગસ્ટમાં, અમે ChatGPT ને શક્તિ આપતા ડિફોલ્ટ મોડલ તરીકે GPT‑5 લોન્ચ કર્યું. કુલ મળીને, GPT‑5 એ ભાવનાત્મક નિર્ભરતાના અસ્વસ્થ સ્તરો ટાળવા, અંધ-સંમતિ ઘટાડવા અને 4oની સરખામણીમાં માનસિક આરોગ્યની આકસ્મિક પરિસ્થિતિઓમાં આદર્શ ન ગણાય એવા મોડલ પ્રતિસાદોની આવર્તનતા 25%થી વધુ ઘટાડવા જેવા ક્ષેત્રોમાં અર્થપૂર્ણ સુધારાઓ દર્શાવ્યા છે. GPT‑5 safe completions નામની નવી સલામતી તાલીમ પદ્ધતિ પર પણ આધાર બનાવે છે, જે મોડલને સલામતી મર્યાદાઓમાં રહી શક્ય તેટલું મદદરૂપ બનવાનું શીખવે છે. તેનો અર્થ એ હોઈ શકે કે અસુરક્ષિત બની શકે તેવી વિગતો આપવા બદલે આંશિક અથવા ઉચ્ચ-સ્તરીય જવાબ આપવો.

આ સુરક્ષા ઉપાયો હોવા છતાં, કેટલીક ક્ષણોમાં અમારી સિસ્ટમોએ સંવેદનશીલ પરિસ્થિતિઓમાં આશય મુજબ વર્તન કર્યું નથી. અહીં અમુક બાબતો છે જેમાં અમે સુધારો કરવા કામ કરી રહ્યા છીએ.

લાંબી વાતચીતોમાં સુરક્ષા ઉપાયો મજબૂત બનાવવું.

અમારા સુરક્ષા ઉપાયો સામાન્ય, ટૂંકા સંવાદોમાં વધુ વિશ્વસનીય રીતે કામ કરે છે. સમય જતાં અમે શીખ્યા છીએ કે લાંબી ક્રિયાપ્રતિક્રિયાઓમાં આ સુરક્ષાઓ ક્યારેક ઓછી વિશ્વસનીય બની શકે છે. જેમ આગળ-પાછળ સંવાદ વધે છે, તેમ મોડલની સલામતી તાલીમના કેટલાક ભાગો કમજોર પડી શકે છે. ઉદાહરણ તરીકે, જ્યારે કોઈ પહેલીવાર ઇરાદો દર્શાવે ત્યારે ChatGPT આત્મહત્યા હેલ્પલાઇન તરફ સાચો સંકેત આપી શકે છે, પરંતુ લાંબા સમય સુધી ઘણા સંદેશાઓ પછી તે અંતે એવો જવાબ આપી શકે છે જે અમારા સુરક્ષા ઉપાયો સામે જાય. આ જ તે પ્રકારનો ભંગ છે જેને રોકવા માટે અમે કામ કરી રહ્યા છીએ. અમે આ ઘટાડાના ઉપાયો મજબૂત બનાવી રહ્યા છીએ જેથી તે લાંબી વાતચીતોમાં વિશ્વસનીય રહે, અને ઘણી વાતચીતોમાં મજબૂત વર્તન સુનિશ્ચિત કરવા રસ્તાઓનું સંશોધન કરી રહ્યા છીએ. જેથી જો કોઈ એક ચેટમાં આત્મહત્યાનો ઇરાદો વ્યક્ત કરે અને પછી બીજી શરૂ કરે, તો મોડલ હજી પણ યોગ્ય રીતે પ્રતિસાદ આપી શકે.

અમે સામગ્રીને કેવી રીતે રોકીએ છીએ તેમાં સુધારો કરવો.

અમને કેટલાક એવા કિસ્સા દેખાયા છે જ્યાં જે સામગ્રી રોકવી જોઈએ હતી તે રોકાઈ નહોતી. આ ખામીઓ સામાન્ય રીતે ત્યારે થાય છે જ્યારે ક્લાસિફાયર તે શું જોઈ રહ્યું છે તેની ગંભીરતાને ઓછી ગણે છે. અમે એ thresholds એ રીતે સમાયોજિત કરી રહ્યા છીએ કે સુરક્ષાઓ યોગ્ય સમયે સક્રિય થાય.

અમારી સર્વોચ્ચ પ્રાથમિકતા એ સુનિશ્ચિત કરવી છે કે ChatGPT કઠિન ક્ષણને વધુ ખરાબ ન બનાવે.

ઉપરોક્ત બાબતોને સુધારવાથી કામ અટકતું નથી. અમે આ પણ આયોજન કરી રહ્યા છીએ:

સંકટમાં રહેલા વધુ લોકોને હસ્તક્ષેપો પહોંચાડવા.

જ્યારે અમારા પ્રારંભિક ઘટાડાના ઉપાયોનો કેન્દ્રબિંદુ તાત્કાલિક સ્વ-હાનિ હતો, ત્યારે કેટલાક લોકો અન્ય પ્રકારના માનસિક તણાવનો અનુભવ કરે છે. ઉદાહરણ તરીકે, કોઈ વ્યક્તિ ઉત્સાહપૂર્વક મોડલને કહી શકે કે તેને લાગે છે કે તે 24/7 ડ્રાઇવ કરી શકે છે કારણ કે બે રાત ઊંઘ્યા વગર રહે્યા પછી તેને સમજાયું છે કે તે અજેય છે. આજે, ChatGPT કદાચ આને જોખમી તરીકે ઓળખી ન શકે અથવા તે ભ્રમ સમજી ન શકે અને જિજ્ઞાસાપૂર્વક તેને શોધતા શોધતા તેને સૂક્ષ્મ રીતે મજબૂત પણ બનાવી શકે.

અમે GPT‑5 માટે એવી અપડેટ પર કામ કરી રહ્યા છીએ જે ChatGPT ને વ્યક્તિને વાસ્તવિકતા સાથે ગ્રાઉન્ડિંગ કરીને પરિસ્થિતિ શાંત કરવાની દિશામાં લઈ જશે. આ ઉદાહરણમાં, તે સમજાવશે કે ઊંઘનો અભાવ જોખમી છે અને કોઈ પણ પગલું લેવા પહેલા આરામ કરવાની ભલામણ કરશે.

આપાતકાલીન સેવાઓ સુધી પહોંચવું અને નિષ્ણાતોની મદદ મેળવવી વધુ સરળ બનાવવું.

આજે, જ્યારે લોકો પોતાને નુકસાન પહોંચાડવાનો ઇરાદો વ્યક્ત કરે છે, ત્યારે અમે તેમને મદદ લેવા પ્રોત્સાહિત કરીએ છીએ અને વાસ્તવિક દુનિયાના સ્રોતો તરફ દોરીએ છીએ. અમે યુ.એસ. અને યુરોપમાં સ્રોતોનું સ્થાનિકીકરણ શરૂ કર્યું છે, અને અન્ય વૈશ્વિક બજારોમાં વિસ્તરણ કરવાની યોજના છે. અમે એક-ક્લિક ઍક્સેસ સાથે આપાતકાલીન સેવાઓની ઉપલબ્ધતા પણ વધારીશું.

અમે એ શોધી રહ્યા છીએ કે લોકો ગંભીર સંકટમાં પહોંચે તે પહેલા કેવી રીતે હસ્તક્ષેપ કરવો અને તેમને પ્રમાણિત થેરાપિસ્ટ્સ સાથે કેવી રીતે જોડવા. તેનો અર્થ માત્ર સંકટ હેલ્પલાઇનથી આગળ જવું અને લોકો સીધા ChatGPT મારફતે સંપર્ક કરી શકે એવા લાઇસન્સપ્રાપ્ત વ્યાવસાયિકોનું નેટવર્ક કેવી રીતે બનાવી શકીએ તે વિચારવું. આ કામ યોગ્ય રીતે કરવા માટે સમય અને સાવચેતીપૂર્વકનું કામ લાગશે.

વિશ્વસનીય સંપર્કો સાથે જોડાણ શક્ય બનાવવું.

આપાતકાલીન સેવાઓ ઉપરાંત, અમે લોકો માટે તેમની સૌથી નજીકની વ્યક્તિઓ સુધી પહોંચવું સરળ બને તેવા રસ્તાઓ શોધી રહ્યા છીએ. તેમાં સાચવેલા આપાતકાલીન સંપર્કો, મિત્રો અથવા પરિવારજનોને એક-ક્લિક સંદેશા અથવા કૉલ્સનો સમાવેશ થઈ શકે છે, સાથે એવી સૂચિત ભાષા પણ હોય જે વાતચીત શરૂ કરવાનું ઓછું ભયજનક બનાવે.

અમે એવા ફીચર્સ વિશે પણ વિચારણા કરી રહ્યા છીએ જે ગંભીર પરિસ્થિતિઓમાં લોકોની સંમતિથી ChatGPT ને તેમની તરફથી નિર્ધારિત સંપર્ક સુધી પહોંચવાની મંજૂરી આપે.

કિશોરો માટે સુરક્ષા વધુ મજબૂત બનાવવી.

ઇતિહાસમાં, અમે અમારા બધા વપરાશકર્તાઓ માટે એક જ આદર્શ મોડલ વર્તન નિર્ધારિત કર્યું હતું; ChatGPT વધતા, જ્યારે અમને ખબર પડે કે વપરાશકર્તાની ઉંમર 18 વર્ષથી ઓછી છે ત્યારે અમે વધારાની સુરક્ષાઓ ઉમેરવાનું શરૂ કર્યું. અમે કિશોરોના વિશિષ્ટ વિકાસાત્મક જરૂરિયાતોને ઓળખે એવા સુરક્ષા ઉપાયો વિકસાવતા અને રોલઆઉટ કરતા રહીશું, જેમાં સંવેદનશીલ સામગ્રી અને જોખમી વર્તન આસપાસ વધુ મજબૂત ગાર્ડરેલ્સ હશે.

અમે ટૂંક સમયમાં પેરેન્ટલ કંટ્રોલ્સ પણ રજૂ કરીશું, જે માતા-પિતાને તેમના કિશોરો ChatGPT નો કેવી રીતે ઉપયોગ કરે છે તેના વિશે વધુ સમજ મેળવવા અને તેને આકાર આપવા માટે વિકલ્પો આપશે. અમે એ પણ તપાસી રહ્યા છીએ કે કિશોરો માટે, માતા-પિતાની દેખરેખ સાથે, વિશ્વસનીય આપાતકાલીન સંપર્ક નિર્ધારિત કરવું શક્ય બનાવીએ. જેથી ગંભીર તણાવની ક્ષણોમાં ChatGPT ફક્ત સ્રોતો તરફ દોરી ન રહે, પરંતુ કિશોરોને સીધા એવા વ્યક્તિ સાથે જોડવામાં મદદ કરી શકે જે વચ્ચે પડી શકે.

અમને ઊંડે સુધી ખબર છે કે દરેક તત્વ આશય મુજબ કામ કરે ત્યારે જ સુરક્ષા ઉપાયો સૌથી મજબૂત હોય છે. અમે અમારા ટૂલ્સનો ઉપયોગ કરતા લોકો પ્રત્યેની જવાબદારીમાં નિષ્ણાતોના માર્ગદર્શન હેઠળ અને ગ્રાઉન્ડિંગ સાથે સતત સુધારો કરતા રહીશું. અને અમે આશા રાખીએ છીએ કે આ ટેક્નોલોજી લોકોને તેમની સૌથી નાજુક ક્ષણોમાં સુરક્ષિત રાખે તેની ખાતરી કરવા બીજા લોકો પણ અમારી સાથે જોડાશે.