છેતરપિંડી પ્રવૃત્તિઓ: ઑનલાઇન છેતરપિંડી નેટવર્કો

આ કેસ સ્ટડી મૂળરૂપે OpenAIના ઑક્ટોબર 2025⁠(નવી વિન્ડોમાં ખૂલે છે)ના અહેવાલમાં પ્રકાશિત થઈ હતી.

કંબોડિયા, મ્યાનમાર અને નાઇજીરિયામાંથી સંભવતઃ સંચાલિત નેટવર્કોએ લોકોને ઑનલાઇન છેતરવાના પ્રયાસોમાં ChatGPTનો દુરુપયોગ કર્યો.

અમે હાનિકારક હેતુઓ માટે અમારા મોડલનો દુરુપયોગ કરવાના પ્રયાસોને ઓળખવા, અટકાવવા અને નિષ્ફળ બનાવવા માટે પ્રતિબદ્ધ છીએ. આવા દુરુપયોગમાં છેતરપિંડી પણ સામેલ છે, જેમાં લોકોને ભ્રમિત કરીને છેતરવા માટે અમારા મોડલનો ગેરઉપયોગ કરવાનો પ્રયાસ કરતા દૂષિત તત્વોને અમે શોધીને પ્રતિબંધિત કરીએ છીએ. છેલ્લા ત્રણ મહિનામાં અમે સંભવતઃ કંબોડિયા, મ્યાનમાર અને નાઇજીરિયામાંથી સંચાલિત છેતરપિંડીનાં નેટવર્કોને નિષ્ક્રિય કર્યાં છે. છેતરપિંડી સામે લડવામાં કૃત્રિમ બુદ્ધિની ભૂમિકાના સંકેતરૂપે, દુરુપયોગની આ રીતોની તપાસ દરમિયાન અમે ઘણા લોકોને છેતરપિંડી ઓળખવામાં મદદ માટે અમારા મોડલનો ઉપયોગ કરતા પણ જોયા છે. આ અહેવાલમાં ઉપયોગના આ બંને પ્રકારોની ચર્ચા કરવામાં આવી છે.

છેતરપિંડીમાં મદદ માટે અમારા મોડલનો દુરુપયોગ એકલા હાથે છેતરપિંડીનો પ્રયાસ કરતા લોકોથી માંડીને સંગઠિત ગુનાહિત જૂથો સાથે સંભવતઃ જોડાયેલી વ્યાપક અને સતત ચાલતી પ્રવૃત્તિઓ સુધી ફેલાયેલો છે. તેમનું મૂળ અને ચોક્કસ રીતો ગમે તે હોય, અમે નિષ્ફળ બનાવેલી છેતરપિંડી સંબંધિત પ્રવૃત્તિ સામાન્ય રીતે એક જ ઢબે ચાલે છે: સંપર્ક સાધવો, ઉત્સાહ કે ગભરાટ પેદા કરવો અને અંતે પૈસા કે મૂલ્યવાન માહિતી પડાવવી.

આ ઠગ સૌપ્રથમ સંદેશા સેવાઓ અને ઇન્ટરનેટ પર, સામાજિક માધ્યમોની જાહેરાતો સહિત, કૃત્રિમ બુદ્ધિથી બનાવેલી હોય કે ન હોય તેવી સામગ્રી વ્યાપક રીતે ફેલાવે છે. પછી તેઓ જવાબ આપનાર વ્યક્તિમાં નફાકારક તકનો ઉત્સાહ અથવા તોળાઈ રહેલા નાણાકીય નુકસાનનો ડર જગાડવાનો પ્રયાસ કરે છે અને એ લાગણીનો લાભ લઈને તેને પૈસા કે સંવેદનશીલ માહિતી આપવા મનાવે છે.

અમે એવા ઘણા કિસ્સા પણ જોયા છે જેમાં અમારા મોડલે લોકોને છેતરપિંડીથી સુરક્ષિત રાખવામાં સંભવતઃ મદદ કરી છે. લોકો ઑનલાઇન છેતરપિંડી ઓળખવા અને તેનાથી બચવા માટે દર મહિને લાખો વખત ChatGPTનો ઉપયોગ કરે છે તેના પુરાવા અમને મળ્યા છે. આ અહેવાલમાં સામેલ દરેક છેતરપિંડીમાં મોડલે લોકોને તેને યોગ્ય રીતે ઓળખવામાં અને ઉચિત સુરક્ષા પગલાં સૂચવવામાં મદદ કરી છે. અમારા વર્તમાન અંદાજ મુજબ, ChatGPTનો ઉપયોગ છેતરપિંડી કરવા કરતાં તેને ઓળખવા માટે ત્રણ ગણો વધુ થઈ રહ્યો છે.

OpenAIના એક તપાસકર્તાએ તેમને મળેલા છેતરપિંડીભર્યા એસએમએસ સંદેશાનો સ્ક્રીનશૉટ ChatGPTમાં મૂક્યો અને મોડલની મદદથી તેને સફળતાપૂર્વક છેતરપિંડી તરીકે ઓળખ્યો તેનું ઉદાહરણ. આ કિસ્સામાં જોખમી તત્વોએ TikTokના ભરતીકારો હોવાનો ઢોંગ કર્યો હતો.

અમારા છેલ્લા અહેવાલ પછી અમે છેતરપિંડી શોધવાની અને તેને નિષ્ફળ બનાવવાની અમારી ક્ષમતા વધુ મજબૂત કરી છે. અમે સંભવતઃ કંબોડિયા, મ્યાનમાર અને નાઇજીરિયામાંથી સંચાલિત વધુ છેતરપિંડી નેટવર્કોને નિષ્ક્રિય કર્યાં છે. અગાઉની અમારી કાર્યવાહી સાથે મળીને, આ નેટવર્કોને હટાવવાથી જુદા જુદા દેશોની અનેક છેતરપિંડી પ્રવૃત્તિઓમાં ઊભા થતા કેટલાક વલણો ઓળખવામાં અમને મદદ મળે છે.

અમે નિષ્ફળ બનાવેલી મોટાભાગની પ્રવૃત્તિમાં કૃત્રિમ બુદ્ધિની આસપાસ નવી છેતરપિંડીની રીતો બનાવવાને બદલે તેને પહેલેથી ચાલતી રીતોમાં સામેલ કરવા પર ધ્યાન અપાયું હતું. આ વર્ષે અમે ઓળખીને પ્રતિબંધિત કરેલી તમામ છેતરપિંડી પ્રવૃત્તિઓમાં કૃત્રિમ બુદ્ધિનો મુખ્યત્વે વ્યાપ અને કાર્યક્ષમતા વધારતા સાધન તરીકે ઉપયોગ થયો હતો. સામાન્ય રીતે તેમાં અનુવાદ કરવા, સંદેશા લખવા અને સામાજિક માધ્યમો માટે સામગ્રી બનાવવા અમારા મોડલનો ઉપયોગ સામેલ હતો.

ઉદાહરણ તરીકે, અમે તાજેતરમાં સંભવતઃ કંબોડિયા અને નાઇજીરિયામાંથી સંચાલિત એવી છેતરપિંડી પ્રવૃત્તિઓ પર પ્રતિબંધ મૂક્યો હતો, જેણે અનેક દેશોના ભોગ બનેલા લોકોને છેતરવા માટે “રોકાણ કંપનીઓ” હોવાનો ઢોંગ કર્યો હતો. ઠગોએ નકલી કંપનીઓનો પ્રચાર કરવા વેબસાઇટ અને ઑનલાઇન જાહેરાતો બનાવી તથા લોકોને ખાનગી સંદેશા જૂથોમાં જોડાવા આમંત્રણ આપવા માટે વેપાર નિષ્ણાતોના નામે ચાલતાં સંભવતઃ નકલી સામાજિક માધ્યમ ખાતાં વાપર્યાં. નફાકારક અને જોખમ વિનાની કમાણીની તકોનું વચન આપીને, જોખમી તત્વોએ સંભવિત ભોગ બનેલા લોકોને બનાવટી વેપાર મંચોમાં ચુકવણી કરવા લલચાવવાનો પ્રયાસ કર્યો. તમામ છેતરપિંડીઓમાં ઠગોએ મુખ્યત્વે પત્રવ્યવહાર બનાવવા અને તેનો અનુવાદ કરવા, પોતાની વેબસાઇટ અને સામાજિક માધ્યમ ખાતાં માટે સામગ્રી બનાવવા તથા પ્રાથમિક સંશોધન કરવા અમારા મોડલનો ઉપયોગ કર્યો.

અન્ય એક કિસ્સામાં અમે મ્યાનમારમાં હોવાની પ્રબળ સંભાવના ધરાવતા છેતરપિંડી કેન્દ્ર પર પ્રતિબંધ મૂક્યો, જેણે પોતાની કપટપૂર્ણ યોજનાઓ માટે સામગ્રી બનાવવા અને રોજિંદા વ્યવસાયિક કામ કરવા અમારા મોડલનો ઉપયોગ કર્યો હતો. તેમાં સમયપત્રક ગોઠવવું, આંતરિક જાહેરાતોના મુસદ્દા તૈયાર કરવા, કાર્યસ્થળ અને શયનગૃહની ફાળવણી કરવી તથા નાણાકીય ખાતાં સંભાળવાં સામેલ હતાં. કેટલાક સંચાલકોએ ઑનલાઇન છેતરપિંડી કરતાં પકડાયેલા લોકોને થતી ફોજદારી સજા વિશે પૂછ્યું હતું.

અમે નિષ્ક્રિય કરેલા બધા ઠગોએ અમારા મોડલનો એકસરખી રીતે કે સમાન જટિલતા સાથે ઉપયોગ કર્યો નહોતો. ChatGPT સાથે ઠગોની મોટાભાગની ક્રિયાપ્રતિક્રિયામાં અનુવાદ જેવાં પ્રમાણમાં સરળ કાર્યો હતાં, પરંતુ કેટલીક છેતરપિંડી પ્રવૃત્તિઓ વધુ મહત્ત્વાકાંક્ષી અને વિસ્તૃત હતી.

દાખલા તરીકે, અમે નિષ્ફળ બનાવેલી સંભવતઃ કંબોડિયામાંથી સંચાલિત એક છેતરપિંડી પ્રવૃત્તિએ નકલી રોકાણ નિષ્ણાતો અને નકલી વેપાર કંપનીઓના બનાવટી કર્મચારીઓની વિગતવાર જીવનકથાઓ બનાવવા અમારા મોડલનો ઉપયોગ કર્યો હતો. પછી ઠગોએ ChatGPTને એ પાત્રોની શૈલીમાં સામાજિક માધ્યમો માટે સંદેશા લખવા કહ્યું. જોખમી તત્વો ઘણી વાર પોતાના લક્ષ્યો પાસેથી મળ્યા હોય એવા સંદેશા અમારા મોડલમાં દાખલ કરીને તેને નકલી ઓળખ ધારણ કરી વાતચીત આગળ વધારવા કહેતા હતા.

સંભવતઃ કંબોડિયામાંથી સંચાલિત અન્ય એક છેતરપિંડી પ્રવૃત્તિએ અમારા મોડલથી અજાણ્યા લોકોને મોકલવા માટે એસએમએસ સંદેશા બનાવ્યા અને તેમને અમેરિકાના ફોન નંબરો પર જથ્થાબંધ મોકલ્યા. જૂનમાં અમે નોંધેલા કિસ્સાની જેમ, આમાંથી એક સંદેશ OpenAIના તપાસકર્તાને મોકલવામાં આવ્યો હતો. આ એસએમએસ સંદેશાઓમાં કાયદેસરની રોકાણ કંપની જેવાં નામ ધરાવતાં WhatsApp જૂથોમાં જોડાવાનાં આમંત્રણ હતાં. એ જૂથો પર પછીથી પ્રતિબંધ મૂકાયો હતો.

OpenAIના તપાસકર્તાને મોકલાયેલા WhatsApp સંદેશાઓની શ્રેણી પ્રમાણે, કોઈ સંભવિત લક્ષ્ય આ જૂથોમાંથી એકમાં જોડાય તો તરત જ તે જુદાં જુદાં છ જેટલાં ખાતાં વચ્ચે રોકાણ વિશે ચાલતી “વાતચીત” જુએ. તેમાંથી એક ખાતું “રોકાણ નિષ્ણાત” હોવાનો ઢોંગ કરતું, જ્યારે બાકીનાં જુદા જુદા સ્તરના આત્મવિશ્વાસ અને અનુભવ ધરાવતા રોકાણકારો તરીકે રજૂ થતાં. આ વાતચીતનો દરેક ભાગ ઠગોએ બનાવ્યો હતો અને તેને ચીની ભાષામાંથી એક જ વખતમાં અનુવાદિત કર્યો હતો. સંભવતઃ તેઓ ઉત્સુક અને સફળ વેપારીઓનું સક્રિય જૂથ હોવાની છાપ ઊભી કરવા માગતા હતા. અંતે “રોકાણ નિષ્ણાત” લક્ષ્યને પણ રોકાણ અજમાવવાનું સૂચન કરતો.

અલગથી, નાઇજીરિયામાંથી સંચાલિત હોવાની પ્રબળ સંભાવના ધરાવતી રોકાણ છેતરપિંડી પ્રવૃત્તિએ લૅટિન અમેરિકાના ધનિક લોકો સુધી સામાજિક માધ્યમોની જાહેરાતો દ્વારા કેવી રીતે પહોંચવું, પોતાનું સ્થાન કેવી રીતે છુપાવવું અને સામાજિક માધ્યમ મંચોના નિયંત્રણોથી કેવી રીતે બચવું તે વિશે મોડલ પાસેથી તબક્કાવાર સલાહ માગી હતી. આ માટે મોડલને એક મંચની જાહેર સેવા-શરતો બતાવીને સૂચિત જાહેરાત સામગ્રી એ શરતોનું પાલન કરે છે કે નહીં તેની સમીક્ષા કરવાનું કહેવાયું હતું.

ઠગો, ખાસ કરીને મોટા પાયે ચાલતાં છેતરપિંડી કેન્દ્રો, સતત પ્રયાસ કરતા રહે છે. તેમની પ્રવૃત્તિ નિષ્ફળ બનાવવામાં આવે ત્યારે તેઓ ઘણી વાર પોતાના વર્તનમાં થોડા ફેરફાર કરીને નિયમોનું ઉલ્લંઘન કરતી પ્રવૃત્તિ ફરી શરૂ કરવાનો પ્રયાસ કરે છે, સંભવતઃ ફરીથી પકડાવાથી બચવા માટે. એટલે જ તેમની બદલાતી પ્રવૃત્તિ વિશે સમગ્ર ઉદ્યોગમાં જાણકારી વહેંચવી જરૂરી છે. જેમ કે, OpenAI અને Metaએ જોખમી તત્વો અંગે અલગ અલગ માહિતી વહેંચી હતી, જેનાથી વધુ તપાસ અને અમલી કાર્યવાહીમાં મદદ મળી.

કાર્યવાહી અથવા કૃત્રિમ બુદ્ધિનો ઉપયોગ છતો કરી શકે એવા સંકેતો વિશેની વ્યાપક ઑનલાઇન ચર્ચાના પ્રતિભાવમાં, ઠગો ઑનલાઇન સામગ્રી અને લક્ષ્યો સાથેના સંચારમાં કૃત્રિમ બુદ્ધિનો પોતાનો ઉપયોગ છુપાવવાનો પ્રયાસ કરતા જોવા મળ્યા છે. તેમાં સંભવતઃ કંબોડિયામાંથી સંચાલિત છેતરપિંડી પ્રવૃત્તિઓ દ્વારા મોડલને જવાબોમાંથી લાંબી આડી લીટી દૂર કરવાની સૂચના આપવાનો પણ સમાવેશ થાય છે.

એક કિસ્સામાં ઠગોએ પોતાના સામાજિક માધ્યમ સંસાધનો સામે થયેલી મોટા પાયાની કાર્યવાહીને પ્રતિબંધ માટેનું બહાનું ઘડીને સમજાવવાનો પ્રયાસ કર્યો. આ ઉપર જણાવેલા, સંભવતઃ કંબોડિયામાંથી સંચાલિત અને એસએમએસ તથા WhatsApp પર સક્રિય છેતરપિંડી કેન્દ્રને લગતું હતું. WhatsAppએ આ પ્રવૃત્તિ સાથે જોડાયેલાં “રોકાણ જૂથો” પર પ્રતિબંધ મૂક્યા પછી, સંચાલકોએ એવા સંદેશા બનાવવાનું શરૂ કર્યું જેમાં દાવો કરાયો કે કોઈ હરીફે આ જૂથો વિશે ખોટો અહેવાલ આપ્યો હતો. સંભવતઃ તેઓ આ રીતે પ્રતિબંધોનું બહાનું કાઢવા માગતા હતા.

WhatsAppની કાર્યવાહી પછી કંબોડિયા સાથે જોડાયેલી છેતરપિંડી પ્રવૃત્તિએ OpenAIના તપાસકર્તાને મોકલેલા WhatsApp સંદેશાનો સ્ક્રીનશૉટ.