SweetSpecter: ચીન સાથે જોડાયેલી સાયબર પ્રવૃત્તિ
OpenAIએ ચીન સ્થિત શંકાસ્પદ હુમલાખોર SweetSpecterનાં સંભવિત ખાતાં પ્રતિબંધિત કર્યાં. તે સુરક્ષાની નબળાઈઓ શોધવા, કોડ લખવા અને લક્ષિત ફિશિંગમાં મદદ માટે કૃત્રિમ બુદ્ધિ વાપરતો હતો.
આ કેસ અભ્યાસ મૂળ OpenAIના ઑક્ટોબર 2024(નવી વિન્ડોમાં ખૂલે છે)ના અહેવાલમાં પ્રકાશિત થયો હતો.
હુમલાખોર
અમે એવાં ખાતાં ઓળખીને પ્રતિબંધિત કર્યાં જે વિશ્વસનીય સ્રોતના મૂલ્યાંકન મુજબ સંભવતઃ ચીન સ્થિત એક શંકાસ્પદ હુમલાખોરનાં હતાં. આ ખાતાં આક્રમક સાયબર કામગીરીમાં મદદ માટે અમારા મોડેલોનો ઉપયોગ કરવાનો પ્રયાસ કરી રહ્યાં હતાં. સાથે જ, આ હુમલાખોર અમારા કર્મચારીઓ અને વિશ્વભરની સરકારો સામે લક્ષિત ફિશિંગ હુમલા કરી રહ્યો હતો. જાહેર રીતે SweetSpecter નામે ઓળખાતો આ હુમલાખોર 2023માં સામે આવ્યો હતો. અમારી જાણકારી મુજબ, તેણે અમેરિકાની કૃત્રિમ બુદ્ધિ ક્ષેત્રની કંપનીને પણ નિશાન બનાવી હોવાની વાત પહેલી વાર જાહેર થઈ છે. અગાઉના અહેવાલો મુજબ તેની પ્રવૃત્તિઓ મધ્ય પૂર્વ, આફ્રિકા અને એશાની રાજકીય સંસ્થાઓ પર કેન્દ્રિત હતી.
વર્તન
મે 2024માં અમને એક વિશ્વસનીય સ્રોત પાસેથી બાતમી મળી કે તેમની સુરક્ષા ટીમે SweetSpecterને અમારા કેટલાક કર્મચારીઓનાં કંપનીનાં અને વ્યક્તિગત, બંને ઇમેઇલ ખાતાં પર હાનિકારક જોડાણોવાળા લક્ષિત ફિશિંગ ઇમેઇલ મોકલતા જોયો હતો.

SweetSpecterએ અમારા થોડા કર્મચારીઓને મોકલેલા ઇમેઇલની સંવેદનશીલ વિગતો ઢાંકેલી આવૃત્તિ. અમારી સુરક્ષા પ્રણાલીઓએ આ ઇમેઇલ અવરોધિત કર્યા હતા. ચિત્ર સૌજન્ય: Proofpoint.
આ ઇમેઇલમાં SweetSpecterએ પોતાને ChatGPT વપરાશકર્તા તરીકે રજૂ કરીને નિશાન બનાવાયેલા કર્મચારીઓ પાસે મદદ માગી હતી. ઇમેઇલમાં “some problems.zip” નામનું હાનિકારક જોડાણ હતું, જેમાં એક LNK ફાઇલ હતી. આ ફાઇલમાં એવો કોડ હતો કે તેને ખોલવાથી વપરાશકર્તાને એક DOCX ફાઇલ દેખાતી, જેમાં ChatGPTના હોવાનું જણાતા વિવિધ ભૂલ અને સેવા સંદેશાઓની યાદી હતી. પરંતુ પાછળથી, Windows માટેનો SugarGh0st RAT નામનો હાનિકારક સૉફ્ટવેર ડિક્રિપ્ટ થઈને ચાલવા લાગતો. આ હાનિકારક સૉફ્ટવેર ઘૂસણખોરીનો ભોગ બનેલા કમ્પ્યુટરનું નિયંત્રણ SweetSpecterને આપવા માટે બનાવાયો છે. તે હુમલાખોરને મનપસંદ આદેશો ચલાવવા, સ્ક્રીનશૉટ લેવા અને ડેટાની ચોરી કરવા જેવી પ્રવૃત્તિઓ કરવા દે છે.
OpenAIની સુરક્ષા ટીમે આ લક્ષિત ફિશિંગ ઝુંબેશમાં નિશાન બનાવાયા હોવાનું મનાતા કર્મચારીઓનો સંપર્ક કર્યો. તપાસમાં જાણવા મળ્યું કે હાલની સુરક્ષા વ્યવસ્થાઓએ આ ઇમેઇલને તેમનાં કંપનીનાં ઇમેઇલ ખાતાં સુધી પહોંચતા જ અટકાવ્યા હતા.

વિશ્લેષણ કરાયેલી હાનિકારક LNK ફાઇલોમાંથી એક ચલાવતાં દેખાતી લલચાવનારી સામગ્રી.
આ સમગ્ર પ્રક્રિયા દરમિયાન, કર્મચારીઓનાં ખાતાંમાં ઘૂસણખોરી કરવાના આ નિષ્ફળ પ્રયાસોને ઓળખવામાં ઉદ્યોગના ભાગીદારો સાથેના અમારા સહયોગે મહત્ત્વની ભૂમિકા ભજવી. આ દર્શાવે છે કે કૃત્રિમ બુદ્ધિના યુગમાં અદ્યતન પદ્ધતિઓ વાપરતા હુમલાખોરોથી એક ડગલું આગળ રહેવા માટે જોખમો વિશેની ગુપ્ત માહિતીની આપલે અને સહયોગ કેટલાં મહત્ત્વનાં છે. એકબીજા સાથે વહેંચેલી જાણકારી અને સામૂહિક નિપુણતાનો ઉપયોગ કરીને અમે અમારી સંપત્તિને વધુ સારી રીતે સુરક્ષિત રાખી શકીએ છીએ અને આવી પ્રવૃત્તિઓ સાથે સંકળાયેલાં અમારા મંચ પરનાં ખાતાંની કામગીરી અટકાવી શકીએ છીએ.
મોડેલના પ્રતિભાવો
આ ઝુંબેશને ટેકો આપતી વ્યાપક તકનીકી માળખાકીય સુવિધાઓનું વિશ્લેષણ કરતી વખતે અમને ChatGPT ખાતાંનું એક જૂથ મળ્યું, જે એ જ માળખાનો ઉપયોગ કરીને પ્રશ્નોના જવાબ મેળવવા, સ્ક્રિપ્ટ લખવા અને સુરક્ષાની નબળાઈઓનું સંશોધન કરવાનો પ્રયાસ કરી રહ્યું હતું. અમે આ ખાતાંની કામગીરી અટકાવી. અમે આ સંવાદોને LLM-સંબંધિત યુક્તિઓ, તકનીકો અને કાર્યપદ્ધતિઓ (TTPs) સાથે વર્ગીકૃત કર્યા. Microsoftએ આ વર્ષની શરૂઆતમાં તેમને MITRE ATT&CK® માળખામાં સામેલ કરવાનો પ્રસ્તાવ મૂક્યો હતો. MITRE માળખું સાયબર હુમલાખોરો વાસ્તવમાં વાપરતા હોય તેવી યુક્તિઓ અને તકનીકોનું દસ્તાવેજીકરણ કરે છે. આ વર્ગીકરણ રજૂ કરીને અમે વ્યાપક સાયબર સુરક્ષા સમુદાયને નિરીક્ષણમાં આવેલી યુક્તિઓ, તકનીકો અને કાર્યપદ્ધતિઓ વિશે માહિતગાર કરવા અને સાયબર સંરક્ષણની અસરકારકતા વધારવામાં મદદ કરવા માગીએ છીએ.
આ યુક્તિઓ, તકનીકો અને કાર્યપદ્ધતિઓ સાથે મેળ ખાતી SweetSpecterની પ્રવૃત્તિઓનાં કેટલાંક ઉદાહરણો નીચે આપ્યાં છે:
પ્રવૃત્તિ | LLM ATT&CK માળખાની શ્રેણી |
|---|---|
વિવિધ ઍપ્લિકેશનમાં રહેલી સુરક્ષાની નબળાઈઓ વિશે પૂછવું | LLMની માહિતીના આધારે પ્રાથમિક તપાસ |
દૂરથી કોડ ચલાવવાની ગંભીર નબળાઈ Log4Shell ધરાવતાં Log4jનાં ચોક્કસ સંસ્કરણો કેવી રીતે શોધવાં તે પૂછવું | LLMની માહિતીના આધારે પ્રાથમિક તપાસ |
વિદેશમાં વપરાતી લોકપ્રિય સામગ્રી વ્યવસ્થાપન પ્રણાલીઓ વિશે પૂછવું | LLMની માહિતીના આધારે પ્રાથમિક તપાસ |
ચોક્કસ CVE ક્રમાંકો વિશે માહિતી માગવી | LLMની માહિતીના આધારે પ્રાથમિક તપાસ |
સમગ્ર ઇન્ટરનેટમાં તપાસ કરી શકે એવાં સ્કૅનર કેવી રીતે બનાવાય છે તે પૂછવું. | LLMની માહિતીના આધારે પ્રાથમિક તપાસ |
નિશાન બનાવેલા સર્વર પર સંભવિત વેબ શેલ અપલોડ કરવા માટે sqlmapનો ઉપયોગ કેવી રીતે કરી શકાય તે પૂછવું. | LLMની સહાયથી સુરક્ષાની નબળાઈઓનું સંશોધન |
એક જાણીતા કાર ઉત્પાદકની તકનીકી માળખાકીય સુવિધાઓની નબળાઈઓનો ગેરલાભ ઉઠાવવાના રસ્તા શોધવામાં મદદ માગવી. | LLMની સહાયથી સુરક્ષાની નબળાઈઓનું સંશોધન |
કોડ આપીને સંચાર સેવાઓ મારફતે પ્રોગ્રામ દ્વારા લખાણ સંદેશા મોકલવામાં વધારાની મદદ માગવી. | LLMથી સુધારેલી સ્ક્રિપ્ટ લખવાની તકનીકો |
સાયબર સુરક્ષા સાધન માટે વિકસાવાતા એક્સ્ટેન્શનમાં કોડની ભૂલો સુધારવામાં મદદ માગવી. | LLMથી સુધારેલી સ્ક્રિપ્ટ લખવાની તકનીકો |
હુમલાખોરે નક્કી કરેલા નંબરો પર પ્રોગ્રામ દ્વારા લખાણ સંદેશા મોકલવા માટેના મોટા માળખાનો ભાગ હોય એવા કોડની ભૂલો સુધારવામાં મદદ માગવી. | LLMની સહાયથી વિકાસ |
સરકારી વિભાગોના કર્મચારીઓને રસ પડે એવા વિષયો સૂચવવા કહેવું અને જોડાણો અવરોધિત ન થાય તે માટે તેમને કયાં નામ આપવાં તે પૂછવું. | LLMની મદદથી લોકોને છેતરવાની સામાજિક યુક્તિઓ |
હુમલાખોરે આપેલા નોકરીની ભરતી માટેના સંદેશાની જુદી જુદી આવૃત્તિઓ માગવી. | LLMની મદદથી લોકોને છેતરવાની સામાજિક યુક્તિઓ |
આ સમગ્ર તપાસ દરમિયાન અમારી સુરક્ષા ટીમોએ હુમલાખોરનાં ખાતાંના સંવાદોનું વિશ્લેષણ, વર્ગીકરણ, અનુવાદ અને સારાંશ તૈયાર કરવા માટે ChatGPTનો ઉપયોગ કર્યો. આનાથી અમે વિશાળ ડેટાસંગ્રહોમાંથી ઝડપથી ઉપયોગી તારણો મેળવી શક્યા અને આ કામ માટે જરૂરી સંસાધનોનો ઉપયોગ પણ ઓછામાં ઓછો રાખી શક્યા. અમારા મોડેલો વધુ અદ્યતન બનતાં, અમે કર્મચારીઓને મોકલાયેલાં હાનિકારક જોડાણોની આંતરિક રચના અને કાર્યપદ્ધતિ સમજવા તથા તેનું વિશ્લેષણ કરવા માટે પણ ChatGPTનો ઉપયોગ કરી શકીશું એવી અમને અપેક્ષા છે.
અસર
જોખમો અંગેના અમારા પ્રથમ અહેવાલમાં કરેલા નિરીક્ષણને અનુરૂપ, આ સંચાલકોને અમારા મોડેલોના ઉપયોગથી એવી કોઈ નવી ક્ષમતા કે દિશા મળી હોય તેવું જણાયું નથી, જે તેઓ અન્યથા જાહેરમાં ઉપલબ્ધ અનેક સ્રોતોમાંથી મેળવી ન શક્યા હોત. અમારી સુરક્ષા વ્યવસ્થાઓએ હુમલાખોરના હાનિકારક ઇમેઇલને કર્મચારીઓનાં ઇનબૉક્સ સુધી પહોંચતા પહેલાં જ અવરોધિત કર્યા.