આશાનું કિરણ કાર્યપદ્ધતિ: અમેરિકન વ્યક્તિઓને નિશાન બનાવતી, સંભવતઃ ચીનમાંથી સંચાલિત પ્રવૃત્તિ

આ કેસ અભ્યાસ મૂળરૂપે કૃત્રિમ બુદ્ધિમત્તાના દુર્ભાવનાપૂર્ણ ઉપયોગોને રોકવા અંગેના OpenAIના ફેબ્રુઆરી 2026⁠(નવી વિન્ડોમાં ખૂલે છે)ના અહેવાલમાં પ્રકાશિત થયો હતો.

અમે સંભવતઃ ચીનમાંથી સંચાલિત થોડાં ChatGPT ખાતાંઓ પર પ્રતિબંધ મૂક્યો. આ ખાતાંઓએ અમારા મોડલનો ઉપયોગ કરીને અમેરિકન વ્યક્તિઓ, ચર્ચામંચો અને સંઘીય ઇમારતોનાં સ્થાનો વિશે માહિતી તથા ચહેરા બદલવાના સૉફ્ટવેર અંગે માર્ગદર્શન માંગ્યું હતું. તેમણે અંગ્રેજીમાં એવા ઇમેઇલ પણ તૈયાર કરાવ્યા હતા જે સામાજિક છળકપટના પ્રયાસો જેવા લાગતા હતા. તેમણે અમારા મોડલને ચીની ભાષામાં સૂચનાઓ આપી હતી, તેઓ મુખ્યત્વે ચીનની મુખ્ય ભૂમિના કામકાજના સમય દરમિયાન સક્રિય રહેતા હતા અને અમારા મંચનો ઉપયોગ કરવા માટે વર્ચ્યુઅલ ખાનગી નેટવર્ક વાપરતા હતા.

આ ખાતાંઓએ એવા ઇમેઇલના મુસદ્દા તૈયાર કરાવ્યા હતા જે હોંગકોંગ સ્થિત “નિમ્બસ હબ કન્સલ્ટિંગ” નામની કંપનીના કર્મચારીઓ તરફથી મોકલાયા હોય એવું દર્શાવતા હતા. જોકે, તેમણે અમારા મોડલને પરંપરાગત ચીની અક્ષરોમાં (જે સામાન્ય રીતે હોંગકોંગમાં વપરાય છે) નહીં, પરંતુ સરળીકૃત ચીની અક્ષરોમાં (જે સામાન્ય રીતે ચીનની મુખ્ય ભૂમિમાં વપરાય છે) સૂચનાઓ આપી હતી. આ સૂચવે છે કે વાસ્તવિક સંચાલકો ચીનની મુખ્ય ભૂમિમાં હતા. આ ઉપરાંત, એક ખાતાએ અમેરિકા અને શાંઘાઈ વચ્ચે આર્થિક તથા સાંસ્કૃતિક આદાનપ્રદાનને પ્રોત્સાહન આપતી શાંઘાઈ સ્થિત જનસંપર્ક સંસ્થાના પ્રતિનિધિ તરીકેનો દાવો કરતો ઇમેઇલ તૈયાર કરાવ્યો હતો. કંપનીના નામમાં “નિમ્બસ” શબ્દ હતો, જેનો અર્થ વરસાદી વાદળ અથવા પ્રભામંડળ થાય છે. તેના આધારે અમે આ અભિયાનને “આશાનું કિરણ કાર્યપદ્ધતિ” નામ આપ્યું.

આ ખાતાંઓએ અમેરિકાના રાજ્ય સ્તરના અધિકારીઓ અથવા વ્યાપાર અને નાણાકીય ક્ષેત્રે કાર્યરત નીતિ વિશ્લેષકોને સંબોધતા અંગ્રેજી ઇમેઇલના મુસદ્દા તૈયાર કરાવ્યા હતા. આ ઇમેઇલમાં પ્રાપ્તકર્તાઓને મહેનતાણાના બદલામાં સલાહકાર સેવાઓ આપવા આમંત્રણ અપાતું હોય તેમ લાગતું હતું. આ કામને તેમના ગ્રાહકો માટે નીતિઓનું અર્થઘટન કરવા અને વ્યૂહાત્મક સલાહ આપવા તરીકે વર્ણવવામાં આવતું હતું. તેમણે ઇમેઇલના મુસદ્દા ટૂંકા, સ્પષ્ટ અને વ્યાવસાયિક રાખવાની વિનંતી કરી હતી. વિષયપંક્તિઓ એવી રાખવા કહ્યું હતું કે તે તાત્કાલિક પગલાં લેવાની લાગણી જગાવે અને સૂક્ષ્મ મનોવૈજ્ઞાનિક સંકેતોનો ઉપયોગ કરે.

આ ઉપરાંત, આ ChatGPT ખાતાંઓએ સામાન્ય માહિતી મેળવવા માટે અમારા મોડલનો ઉપયોગ કર્યો હતો. અમારા મોડલે જાહેરમાં ઉપલબ્ધ સ્રોતોનો ઉપયોગ કરીને જવાબ આપ્યા હતા. તેમાં નીચેના વિષયો અંગેના પ્રશ્નો સામેલ હતા:

• અમેરિકાની સંઘીય સરકારની મુખ્ય કચેરીઓ સહિતની કચેરીઓનાં સ્થાનો, અને વધુ સંખ્યામાં સંઘીય એજન્સીઓ તથા અધિકારીઓ ધરાવતાં રાજ્યોની ક્રમાંકિત યાદી.

• અમેરિકાના સંઘીય કર્મચારીઓનું રાજ્યવાર વિતરણ.

• વૉઇસ ઑફ અમેરિકાના કાર્યક્રમ પ્રસ્તુતકર્તાઓ જેવી અમેરિકન વ્યક્તિઓ, તેમણે ભૂતકાળમાં લીધેલા સાક્ષાત્કારો અને તેમના રસના વિષયો.

• અમેરિકાના અર્થતંત્ર અને નાણાકીય ક્ષેત્રના વ્યાવસાયિકો તથા નોકરી શોધનારા લોકો સામાન્ય રીતે વાપરતા ઇન્ટરનેટ ચર્ચામંચો અને વેબસાઇટો.

નોંધપાત્ર રીતે, એક ખાતાએ પોતાના કમ્પ્યુટર પર ફેસફ્યુઝન નામનું ચહેરામાં ફેરફાર કરતું મંચ ડાઉનલોડ કરીને સ્થાપિત કરવા અંગે માર્ગદર્શન માંગ્યું હતું. આ મંચ ચહેરા બદલવા અને અન્ય દૃશ્ય-શ્રાવ્ય સુધારા કરવા માટે વપરાય છે. ChatGPT પરની તેમની પ્રવૃત્તિ અનુસાર, તેમણે ખાસ કરીને તેની જીવંત પ્રસારણ દરમિયાન ચહેરો બદલવાની સુવિધા વાપરવાનો ઇરાદો દર્શાવ્યો હતો. તેમણે સ્થાપન માટે તકનીકી જટિલતા વિનાનું, પગલાવાર માર્ગદર્શન માંગ્યું હતું અને પોતે કમ્પ્યુટર પ્રોગ્રામિંગમાં શિખાઉ હોવાનો દાવો કર્યો હતો, તેથી સૂચનાઓ સરળ હોવી જરૂરી હતી. સ્થાપનમાં મદદ મળી રહે તે માટે તેમણે પોતાના કમ્પ્યુટરના હાર્ડવેરની વિગતોનું સ્ક્રીનચિત્ર અપલોડ કર્યું હતું. મોડલે ફેસફ્યુઝનની જાહેરમાં ઉપલબ્ધ વેબસાઇટ અને દસ્તાવેજોમાંથી મેળવેલી માહિતીના આધારે જવાબ આપ્યો હતો.

અમારા મોડલનો ઉપયોગ કરીને ઇમેઇલના મુસદ્દા તૈયાર કરાવવા માટેની તેમની સૂચનાઓ સામાન્ય ભરતી સંદેશાઓ જેવી નહોતી. તે વિદેશી ગુપ્તચર સંસ્થા દ્વારા સંપર્ક સાધવા માટે વપરાતી સામાજિક છળકપટની કાર્યપદ્ધતિ⁠(નવી વિન્ડોમાં ખૂલે છે) જેવી હતી. દરેક ઇમેઇલના મુસદ્દામાં તેમણે નીચેના વિભાગો માંગ્યા હતા:

વિશ્વસનીયતા સ્થાપિત કરવી: તેમણે “નિમ્બસ હબ”ને ભૂ-રાજકારણ અને આંતરરાષ્ટ્રીય નીતિમાં પ્રામાણિક નિપુણતા ધરાવતી વ્યાવસાયિક વ્યૂહાત્મક સલાહકાર કંપની તરીકે રજૂ કરી હતી. તેમણે નિમ્બસ હબની વેબસાઇટની કડી સામેલ કરી હતી (નીચેનું સ્ક્રીનચિત્ર જુઓ).

નિશાન બનાવેલી વ્યક્તિને અનુરૂપ સંદેશો લખવો અને તેની ખુશામત કરવી: તેમણે મોડલને પ્રાપ્તકર્તાની જાહેર ક્ષેત્રની પૃષ્ઠભૂમિનો સ્પષ્ટ ઉલ્લેખ કરવા કહ્યું હતું, જેથી તે આ પદ માટે એકદમ યોગ્ય હોવાનું દર્શાવી શકાય. એક કિસ્સામાં, ખાતાએ શાંઘાઈમાં રહેતી એક અમેરિકન વ્યક્તિની લિંક્ડઇન પ્રોફાઇલનાં સ્ક્રીનચિત્રો અપલોડ કર્યાં હતાં. તેમાં રહેલા તે વ્યક્તિના અંગત અનુભવો અને પૃષ્ઠભૂમિ વિશેના લખાણના આધારે ઇમેઇલનો મુસદ્દો તેને અનુરૂપ બનાવવા મોડલને સૂચના આપી હતી.

અનેક પ્રલોભનો આપવાં: સલાહકાર તરીકેના કામની ઓફર સામાન્ય રીતે ઇન્ટરનેટ દ્વારા સારી કમાણી કરવાની તક તરીકે લલચાવતી રીતે રજૂ કરવામાં આવતી હતી. તેમાં કામગીરી આધારિત વધારાનું મહેનતાણું અને અન્ય લોકોને જોડવા બદલ પુરસ્કારોનું વચન અપાતું, જ્યારે વાસ્તવિક કામ વિશે અસ્પષ્ટતા રાખવામાં આવતી હતી.

આશ્વાસન આપતી ભાષા વાપરવી અને જોખમ ઓછું હોવાનું ભાસાવવું: તેઓ ઘણીવાર દાવો કરતા હતા કે કામ તણાવમુક્ત છે, ચુકવણી સમયસર થાય છે અને કામ ગોપનીય રહે છે.

વાતચીત ઝડપથી બીજા મંચ પર લઈ જવી: તેઓ હંમેશાં પ્રાપ્તકર્તાઓને ઇમેઇલથી દૂર લઈ જઈને વૉટ્સઍપ, ઝૂમ અથવા ટીમ્સ દ્વારા પ્રારંભિક ઇન્ટરનેટ વિડિયો બેઠકમાં જોડવાનો પ્રયાસ કરતા હતા.

આ કિસ્સામાં આ જૂથોએ મોડલ સાથે કરેલી વાતચીત તકનીકી રીતે બહુ જટિલ નહોતી. તેમની વિનંતીઓ ક્યારેક ભરતી માટેનાં સામાન્ય આમંત્રણો તૈયાર કરવા અથવા કાયદેસર સૉફ્ટવેર સ્થાપિત કરવા અંગેની લાગતી હતી. જોકે, નકલી કંપનીની ઓળખ પાછળ છુપાવાની વપરાશકર્તાઓની યુક્તિઓ અને ભૂ-રાજકીય વિષયોમાં તેમનો રસ સૂચવે છે કે તેમનો ઇરાદો વિરોધી હિતો માટે લોકોની ભરતી કરવાનો હોઈ શકે છે.

આ ખાતાંઓના ChatGPTના ઉપયોગના આધારે, તેઓ નિશાન બનાવેલા લોકો પાસેથી તેમનાં આમંત્રણોના જવાબ મેળવવામાં સફળ થયા હોવાના કોઈ પુરાવા મળ્યા નહોતા. ઇમેઇલ દ્વારા આમંત્રણો ખરેખર મોકલવામાં આવ્યાં હતાં કે કેમ, અથવા નિશાન બનાવેલા કોઈ પ્રાપ્તકર્તાએ જવાબ આપ્યો હતો કે કેમ, તે અમે સ્વતંત્ર રીતે નક્કી કરી શક્યા નહોતા.

અનેક લોકશાહી દેશોની સરકારોએ (દા.ત. અમેરિકા⁠(નવી વિન્ડોમાં ખૂલે છે), બ્રિટન⁠(નવી વિન્ડોમાં ખૂલે છે), ઑસ્ટ્રેલિયા⁠(નવી વિન્ડોમાં ખૂલે છે)) ચેતવણી આપી છે કે વિદેશી ગુપ્તચર સંસ્થાઓ સામાજિક અને વ્યાવસાયિક સંપર્ક મંચો પર સલાહકાર કંપનીઓ તથા અન્ય સંસ્થાઓના નામે વર્તમાન અને ભૂતપૂર્વ સરકારી કર્મચારીઓને ભરતી માટે નિશાન બનાવી રહી છે. ભરતીના સામાન્ય સંદેશાઓ અને ચોક્કસ લોકોને નિશાન બનાવતી સામાજિક છળકપટની આ રીતો વચ્ચે ભેદ પાડવો મુશ્કેલ હોઈ શકે છે, કારણ કે તેમનાં કેટલાંક લક્ષણો સરખાં હોય છે. જોકે, સાચી ભરતી માટેના સંપર્કો સામાન્ય રીતે વધુ સમય લેતી ચકાસણી પ્રક્રિયાને અનુરૂપ હોય છે. તેમાં પદના નામ વિશે ચકાસી શકાય તેવી માહિતી, નોકરીદાતાની વિશ્વસનીય વિગતો, બજારને અનુરૂપ વાજબી વેતનશ્રેણી અને વાસ્તવિક નોકરીની જાહેરાતોની કડીઓ હોય છે. ટૂંકમાં, કોઈ તક એટલી આકર્ષક લાગે કે તે સાચી હોવા પર શંકા થાય, તો તે કદાચ સાચી નથી.