Hugging Faceની ઘટના અને અસંગત મોડલોથી તૃતીય પક્ષો પર થયેલી અન્ય અસર
કૃત્રિમ બુદ્ધિમત્તા પ્રણાલીઓ વધુ સક્ષમ અને સ્વાયત્ત બનતી જાય તેમ, અસંગત વર્તન વાસ્તવિક દુનિયામાં ગંભીર પરિણામોવાળી કાર્યવાહીમાં પરિણમી શકે છે. તેમાં સાયબર સુરક્ષા ઘટનાઓ અને વિકાસકર્તાઓએ ન ધારેલાં અન્ય પરિણામો સામેલ છે. તેથી આવું વર્તન કેવી રીતે ઉદ્ભવે અને વકરે છે તથા તેને કેવી રીતે શોધવું અને તેનો પ્રતિસાદ આપવો, એ સમજવું અત્યાધુનિક કૃત્રિમ બુદ્ધિમત્તા પ્રણાલીઓનું સુરક્ષિત નિર્માણ અને પરિનિયોજન કરવા માટે વધુને વધુ મહત્ત્વપૂર્ણ બની રહ્યું છે.
શરૂઆતમાં અમે Hugging Faceની ઘટનાને મુખ્યત્વે સુરક્ષાનો મુદ્દો માન્યો હતો, કારણ કે તેમાં મંચ-સ્તરે ભંગ થયો હતો. અમારા મોડલોમાંથી આજ સુધી અમે ઓળખેલી આ પ્રકારની પ્રવૃત્તિમાં તે સૌથી ગંભીર છે અને તેની પાછળ મુખ્યત્વે અત્યંત સક્ષમ, ફક્ત આંતરિક ઉપયોગ માટેનું સંશોધન મોડલ હતું. ત્યારથી અમને સમજાયું છે કે Hugging Faceના તકનીકી અહેવાલમાં નોંધ્યા મુજબ, આ ઘૂસણખોરીનું કારણ કઠિન કાર્યો ઉકેલવા માટે મોડલોએ અસંગત વ્યૂહરચનાઓનો આશરો લેવો હતું. સાયબર સુરક્ષા ઘટનાઓ એ જોખમનું એક સ્વરૂપ છે. અસંગતતા અન્ય અણધાર્યા કે ચિંતાજનક વર્તન તરફ પણ દોરી શકે છે, જે સુરક્ષાની પરંપરાગત શ્રેણીઓની બહાર આવે છે. જેમ કે, અમારા મોડલોનું તૃતીય-પક્ષ સાઇટ પર લખાણ મૂકવું, જેને અમે “એજન્ટ સ્પામ” કહી રહ્યા છીએ. અને અમારે બંનેનો ઉકેલ લાવવો જરૂરી છે.
અમે વ્યાપક પ્રવૃત્તિની સમીક્ષા ચાલુ રાખી છે. તેમાં વધુ ગંભીર ઘટનાઓને પ્રાથમિકતા આપીને એજન્ટ સ્પામ સહિતની ઓછી ગંભીર અસંગત પ્રવૃત્તિ સુધી સમીક્ષાનો વ્યાપ વધાર્યો છે.
આ પૃષ્ઠ પર Hugging Faceની ઘટના અંગેના અમારા અહેવાલો અને નવીનતમ માહિતી, સંબંધિત સંશોધન અને જાહેર પ્રસ્તુતિઓ, અમે ઓળખેલી વધારાની પ્રવૃત્તિ, મોડલની અસંગતતાની ભૂમિકા વિશેની અમારી શીખ તથા અમારી પ્રણાલીઓને મજબૂત કરવા માટેનાં પગલાં એકત્રિત કરવામાં આવ્યાં છે. અમારી તપાસ આગળ વધશે તેમ અમે આ પૃષ્ઠને અદ્યતન કરીશું.
તૃતીય પક્ષોને અસર કરતી પ્રવૃત્તિ
આ અણધાર્યા વર્તનનો વ્યાપ વધુ સારી રીતે સમજવા માટે અમે તાલીમ અને મૂલ્યાંકન દરમિયાન ઇન્ટરનેટ પર અમારા મોડલોની પ્રવૃત્તિની વ્યાપક સમીક્ષા કરી રહ્યા છીએ. અમારી સમીક્ષાના ભાગરૂપે અમે નીચેના કિસ્સાઓથી શરૂઆત કરીને તૃતીય પક્ષોને સતત ઓળખી અને જાણ કરી રહ્યા છીએ:
અમારા મોડલોએ કદાચ તૃતીય પક્ષનાં સુરક્ષા નિયંત્રણો ટાળ્યાં હોય અથવા કોઈ ઑનલાઇન સેવાની ઉપલબ્ધતા ખોરવી હોય. અથવા
અસંગતતાના કિસ્સાઓએ તૃતીય-પક્ષ વેબસાઇટ કે સેવાઓ પર નકારાત્મક અસર કરી હોય.
અત્યાર સુધીની અમારી સમીક્ષાના આધારે અમે ઉપરના માપદંડોનો ઉપયોગ કરીને ડઝનેક તૃતીય પક્ષોને જાણ કરી છે. ભૂતકાળની પ્રવૃત્તિની અમારી સમીક્ષા ચાલુ છે અને તેમાં નોંધપાત્ર સમય તથા સંસાધનો લાગશે. આ કાર્ય ચાલુ રહેશે તેમ અમે વધારાના તૃતીય પક્ષોને જાણ કરીશું.
અમે જોયેલી અસંગત પ્રવૃત્તિના પ્રકારો સમજાવવા માટે નીચે અનામી સારાંશો પ્રકાશિત કરી રહ્યા છીએ. વધારાના તૃતીય પક્ષોને જાણ કરશું અને અમારી સમજ વિકસશે તેમ આ વર્ણનો અદ્યતન કરીશું. આ ઉપરાંત, અમે સમીક્ષાની સ્થિતિ અંગેની સંબંધિત નવીનતમ માહિતી વહેંચીશું. અસરગ્રસ્ત પક્ષોનું રક્ષણ કરવા જરૂરી હોય ત્યાં અમે સામાન્ય રીતે નામ અને ઓળખ દર્શાવતી અન્ય વિગતો કાઢી નાખીશું. જોકે જાણ કરાયેલા પક્ષો અમે આપેલી માહિતી જાહેર કરવાનું પસંદ કરી શકે છે.
જોવાયેલી પ્રવૃત્તિઓના સારાંશો
અત્યાર સુધીની અમારી સમીક્ષા અને સૂચના પ્રક્રિયાએ પ્રવૃત્તિની નીચેની શ્રેણીઓ ઓળખી છે:
સુલભતા નિયંત્રણ ટાળવું: એજન્ટો એવી માહિતી કે સુવિધા સુધી પહોંચે છે જેના માટે સામાન્ય રીતે ઓળખની ચકાસણી, વિશિષ્ટ પરવાનગી, લવાજમ કે ખાતું જરૂરી હોય છે. ઉદાહરણ તરીકે, એજન્ટે અલગ વેબ સરનામું વાપર્યું, વિનંતીની વિગતો બદલી અથવા અપેક્ષા કરતાં વધુ સુલભતા આપતા પ્રવેશ સત્રનો આધાર લીધો.
જાહેર થયેલાં ઓળખપત્રોનો ઉપયોગ: એજન્ટોને જાહેર કરાયેલી પ્રવેશ વિગતો કે સુલભતા કળ મળી અને તેમણે તેનો ઉપયોગ કોઈ સેવાને સુલભ કરવા કર્યો.
પ્રશ્ન કે આદેશ અંતઃક્ષેપ: એજન્ટોએ વેબસાઇટ કે સેવામાં એવું લખાણ દાખલ કર્યું જેને સેવાએ સામાન્ય નિવેશને બદલે સૂચના તરીકે લીધું. આના કારણે સેવા પોતાના સર્વર પર માહિતીભંડાર પ્રશ્ન, અનુપ્રયોગ કોડ કે આદેશ ચલાવી શકે છે.
કાર્યચાલનના આંતરિક ભાગોની સુલભતા: એજન્ટોએ સેવાના અમલીકરણવાળી ફાઇલો વાંચી અથવા આંતરિક ઉપયોગ માટેની પાર્શ્વ પ્રણાલી સાથે ક્રિયાપ્રતિક્રિયા કરી. આ કિસ્સાઓમાં એજન્ટ સેવાના એવા ભાગો સુધી પહોંચ્યો, જે તેની નિર્ધારિત સુલભતાની બહાર હતા.
એજન્ટ સ્પામ: એજન્ટો તૃતીય-પક્ષ સાઇટ પર એવી માહિતી મૂકે છે જે ત્યાંની માહિતી બદલી શકે અને જેને સાફ કરવાની જરૂર પડે. ઉદાહરણ તરીકે, જાહેર વિકિ પૃષ્ઠોનો સહિયારા સંદેશા-બોર્ડ તરીકે ઉપયોગ કરવો.