ચીન સાથે જોડાયેલ દુરુપયોગ: દેખરેખ અને પ્રભાવ પાડવાની પ્રવૃત્તિ

આ કેસ સ્ટડી મૂળ OpenAIના ઑક્ટોબર 2025⁠(નવી વિન્ડોમાં ખૂલે છે)ના અહેવાલમાં પ્રકાશિત થઈ હતી.

ચીની સરકારી સંસ્થાઓ સાથે દેખીતી રીતે જોડાયેલી વ્યક્તિઓ વિકાસ, રૂપરેખા તૈયાર કરવા અને અમલદારશાહી કાર્યોમાં સહાય માટે ChatGPTનો ઉપયોગ કરી રહી હતી.

માર્ચમાં અમેરિકાની વિજ્ઞાન અને ટેક્નોલોજી નીતિ કચેરીની કૃત્રિમ બુદ્ધિમત્તા કાર્યયોજના અંગેની અમારી રજૂઆતમાં જણાવ્યા મુજબ, કૃત્રિમ બુદ્ધિમત્તાથી શક્ય તેટલા વધુ લોકોને લાભ થાય તે સુનિશ્ચિત કરવા માટે વાસ્તવિક નુકસાનથી લોકોને બચાવવાના વ્યવહારુ નિયમો હેઠળ કૃત્રિમ બુદ્ધિમત્તાના ઉપયોગને પ્રોત્સાહન આપવું અને લોકશાહી કૃત્રિમ બુદ્ધિમત્તાનું નિર્માણ કરવું જરૂરી છે. લોકશાહી કૃત્રિમ બુદ્ધિમત્તાથી અમારો અર્થ એવી કૃત્રિમ બુદ્ધિમત્તા છે, જે અમેરિકાએ હંમેશાં સમર્થન આપેલા લોકશાહી સિદ્ધાંતોને અનુરૂપ ઘડાઈ હોય. તેમાં સત્તાવાદી શાસનોને સત્તા એકત્ર કરવા અને પોતાના નાગરિકોને નિયંત્રિત કરવા માટે કૃત્રિમ બુદ્ધિમત્તાનાં સાધનોનો ઉપયોગ કરતાં અટકાવવાનો પણ સમાવેશ થાય છે.

સત્તાવાદી શાસનો દ્વારા ChatGPTની ક્ષમતાઓનો દુરુપયોગ કરવાના પ્રયાસોને શોધવા અને નિષ્ફળ બનાવવા માટેનું અમારું રોકાણ માત્ર અત્યારે લોકોને સુરક્ષિત જ રાખતું નથી, પરંતુ આવા શાસનો ભવિષ્યની ક્ષમતાઓનો કેવી રીતે દુરુપયોગ કરી શકે તેની મહત્વપૂર્ણ સમજ પણ આપે છે. આ વિભાગ ચીનના જનવાદી ગણરાજ્ય પર ધ્યાન કેન્દ્રિત કરીને, આવા શાસનો સાથે સંભવિત રીતે જોડાયેલી વ્યક્તિઓ અંગે મળેલા તારણોના એક સમૂહની ચર્ચા કરે છે.

જૂનમાં અમે લખ્યું હતું તેમ, ચીનનું જનવાદી ગણરાજ્ય કૃત્રિમ બુદ્ધિમત્તાના પોતાના સત્તાવાદી સ્વરૂપને આગળ વધારવામાં નક્કર પ્રગતિ કરી રહ્યું છે. ચીની સરકારી સંસ્થાઓ સાથે દેખીતી રીતે જોડાયેલી વ્યક્તિઓ દ્વારા ઉપયોગમાં લેવાતાં ChatGPT ખાતાં સામેની અમારી કાર્યવાહીએ આ સત્તાવાદી વાતાવરણમાં કૃત્રિમ બુદ્ધિમત્તાના વર્તમાન ઉપયોગ પર થોડો પ્રકાશ પાડ્યો છે. આ ઉપયોગનાં કેટલાંક પાસાંનો હેતુ ઑનલાઇન અથવા ઑફલાઇન પ્રવાહની મોટા પાયે દેખરેખને સમર્થન આપવાનો જણાતો હતો. તે આ ક્ષેત્રમાં સત્તાવાદી દુરુપયોગની સંભાવના પર સતત ધ્યાન આપવાનું મહત્વ દર્શાવે છે. આ ઉપયોગનાં અન્ય પાસાંનો હેતુ વધુ ઊંડાણપૂર્વકની રૂપરેખા તૈયાર કરવાનો જણાતો હતો. અમે આ પ્રવૃત્તિ સાથે સંકળાયેલાં ખાતાં પર પ્રતિબંધ મૂક્યો છે અને આ અહેવાલમાં મળેલી સમજ રજૂ કરી રહ્યા છીએ.

આ અભ્યાસ અમે ઓળખીને પ્રતિબંધિત કરેલી, નીતિઓનું ઉલ્લંઘન કરતી પ્રવૃત્તિ સામેની પસંદગીની કાર્યવાહીઓ પર આધારિત છે. આ પ્રવૃત્તિ અમારા મોડલોને મોટા પાયે સંસ્થાકીય રીતે અપનાવવાને બદલે વ્યક્તિગત વપરાશકર્તાઓ દ્વારા ChatGPTના ઉપયોગને અનુરૂપ હતી. તેથી, આ સંદર્ભમાં કૃત્રિમ બુદ્ધિમત્તાના વિવિધ મોડલોના ઉપયોગનું આ એક મર્યાદિત ચિત્ર છે.

અમે પ્રતિબંધિત કરેલાં કેટલાંક ખાતાં મોટા પાયે દેખરેખનાં સાધનો વિકસાવવા ChatGPTનો ઉપયોગ કરવાનો પ્રયાસ કરતાં જણાયાં હતાં. તેમાં ઘણી વાર પશ્ચિમી અથવા ચીની સામાજિક માધ્યમ મંચો પરથી એકત્ર કરાયેલા ડેટાસેટનું વિશ્લેષણ સામેલ હતું. ફેબ્રુઆરીમાં અમે આવા એક કેસની જાણ કરી હતી, જેમાં કૃત્રિમ બુદ્ધિમત્તા સંચાલિત સામાજિક માધ્યમ નિરીક્ષણ સાધનની રચના કરવાનો હેતુ હતો અને સંચાલકોના દાવા મુજબ તે ચીની સુરક્ષા દળો માટે હતું. આ વપરાશકર્તાઓ સામાન્ય રીતે ChatGPTને આવાં સાધનોની રચના કરવામાં અથવા તેમના વિશે પ્રચારસામગ્રી તૈયાર કરવામાં મદદ માગતા હતા, પરંતુ દેખરેખનો અમલ કરવા માટે નહીં.

ઉદાહરણ તરીકે, અમે તાજેતરમાં એક એવા વપરાશકર્તા પર પ્રતિબંધ મૂક્યો હતો, જે કદાચ ચીનથી અમારી સેવાઓ મેળવવા માટે વીપીએનનો ઉપયોગ કરતો હતો. તેણે કથિત રીતે કોઈ સરકારી ગ્રાહક માટે સામાજિક માધ્યમ નિરીક્ષણ સાધનની પ્રચારસામગ્રી અને પ્રોજેક્ટ યોજનાઓ તૈયાર કરવામાં ChatGPTની મદદ માગી હતી. આ સાધનને સામાજિક માધ્યમના “ટોહયંત્ર” (探针) તરીકે વર્ણવવામાં આવ્યું હતું, જે કથિત રીતે Twitter/X, Facebook, Instagram, Reddit, TikTok અને YouTube પર વપરાશકર્તાના મતે ઉગ્રવાદી વાણી તથા વંશીય, ધાર્મિક અને રાજકીય સામગ્રી શોધી શકે તેમ હતું. વપરાશકર્તાએ સામાજિક માધ્યમની વાસ્તવિક દેખરેખ કરવા માટે અમારા મોડલનો ઉપયોગ કર્યો નહોતો. આ સાધનનો ઉપયોગ કોઈ ચીની સરકારી સંસ્થાએ કર્યો છે કે નહીં તેની અમે સ્વતંત્ર રીતે ખરાઈ કરી શકતા નથી.

એ જ રીતે, અમે સંભવતઃ કોઈ સરકારી સંસ્થા સાથે જોડાયેલા બીજા વપરાશકર્તા પર પ્રતિબંધ મૂક્યો હતો. તેણે “ઉચ્ચ જોખમ ધરાવતા ઉઇગર-સંબંધિત લોકોના પ્રવેશ માટેનું પૂર્વચેતવણી મોડલ” (高危涉维吾尔关注人员流入预警模型) તરીકે વર્ણવેલી વ્યવસ્થા માટે પ્રસ્તાવ લખવામાં ChatGPTની મદદ માગી હતી. પ્રસ્તાવમાં એવા સાધનનું વર્ણન હતું, જે પરિવહન આરક્ષણોનું વિશ્લેષણ કરીને તેમની પોલીસ રેકોર્ડ સાથે સરખામણી કરે અને “ઉઇગર-સંબંધિત તથા ઉચ્ચ જોખમ ધરાવતા” તરીકે વર્ગીકૃત લોકોની મુસાફરી અંગે વહેલી ચેતવણી આપે. આ વર્ગની અન્ય કોઈ વ્યાખ્યા આપવામાં આવી નહોતી. વપરાશકર્તાએ આવું સાધન બનાવવામાં અમારા મોડલની મદદ માગી નહોતી, માત્ર સામાન્ય પ્રસ્તાવ તૈયાર કરાવ્યો હતો. તેથી તેઓ કઈ ટેક્નોલોજી વાપરવા માગતા હતા અથવા કોઈ ચીની સરકારી સંસ્થાએ આવું સાધન વાપર્યું છે કે નહીં તેની અમે સ્વતંત્ર રીતે પુષ્ટિ કરી શકતા નથી.

અમે એવા વપરાશકર્તાઓ પર પણ પ્રતિબંધ મૂક્યો, જેઓ ચીની સરકારી સંસ્થાઓ સાથે જોડાયેલા જણાતા હતા અને વધુ વિશિષ્ટ, લક્ષિત રૂપરેખા નિર્માણ તથા ઑનલાઇન સંશોધન માટે ChatGPTનો ઉપયોગ કરવાનો પ્રયાસ કરતા જણાતા હતા.

ઉદાહરણ તરીકે, એક વપરાશકર્તાએ ચીની સરકારની ટીકા કરતા X ખાતાના ભંડોળના સ્ત્રોત ઓળખવા માટે ChatGPTને કહ્યું હતું. બીજા વપરાશકર્તાએ મંગોલિયામાં એક અરજીના આયોજકોને ઓળખવા માટે ChatGPTને કહ્યું હતું. આ બંને કિસ્સામાં અમારા મોડલોએ માત્ર જાહેરમાં ઉપલબ્ધ માહિતી આપી હતી, જેમાં ભંડોળના સ્ત્રોત અથવા અરજીના આયોજકોની ઓળખ જેવી સંવેદનશીલ વિગતો સામેલ નહોતી.

આમાંની કેટલીક પ્રવૃત્તિમાં અમારા મોડલોનો ખુલ્લા સ્ત્રોતના સંશોધન સાધન તરીકે ઉપયોગ થયો હતો, જે રીતે અગાઉના વપરાશકર્તાઓ ઇન્ટરનેટ અથવા સામાજિક માધ્યમ પર શોધ કરતા હશે તેવો જ આ ઉપયોગ હતો. ઉદાહરણ તરીકે, ત્રીજા વપરાશકર્તાએ ChatGPTને ચીન માટે પ્રાસંગિક હોય એવા રોજના તાજા સમાચાર ઓળખીને તેમનો સાર આપવા કહ્યું હતું. તેમાં 1989ના તિયાનઆનમેન ચોક હત્યાકાંડની વરસી અને દલાઈ લામાનો જન્મદિવસ જેવા સંવેદનશીલ વિષયો પણ સામેલ હતા.