નિર્ણાયક સાયબર ક્ષમતાઓના આગામી અત્યાધુનિક સ્તરનો સામનો

મોડલ વધુ સક્ષમ બનતાં સાયબર સુરક્ષા ઝડપથી બદલાઈ રહી છે. આ ક્ષમતાઓ સાયબર સંરક્ષણને મજબૂત બનાવી શકે છે, પરંતુ સાથે જ અભૂતપૂર્વ ઝડપ અને વ્યાપે હુમલા કરવાનું પણ શક્ય બનાવે છે.

છેલ્લા થોડા દિવસોમાં અમારા આગામી મોડલમાંથી એક, Astraના તાજેતરના આંતરિક મૂલ્યાંકનો એજન્ટિક કોડિંગ અને સાયબર સુરક્ષામાં નોંધપાત્ર પ્રગતિ દર્શાવે છે. નિષ્ણાતોના આકલન ઉપરાંત આ પરિણામોને કારણે અમે ગઈ રાત્રે એવા નિષ્કર્ષ પર પહોંચ્યા કે અમારા પ્રિપેરડનેસ ફ્રેમવર્ક⁠(નવી વિન્ડોમાં ખૂલે છે) હેઠળ નિર્ણાયક સાયબર ક્ષમતાઓની શક્યતા નકારી શકાતી નથી.

અમે આ માહિતી એટલા માટે આપી રહ્યા છીએ કે ક્ષમતાઓમાં આવી શકે એવા આ ફેરફાર વિશે જનતા તેમજ સલામતી અને સુરક્ષા સમુદાયો સમક્ષ પારદર્શક રહેવું મહત્વપૂર્ણ છે.

અમે ડિસેમ્બર 2023માં પહેલી વાર પ્રિપેરડનેસ ફ્રેમવર્ક પ્રકાશિત કર્યું હતું. એ સમયે મોડલ જૈવિક, રાસાયણિક, સાયબર સુરક્ષા અને કૃત્રિમ બુદ્ધિના સ્વ-સુધારાની આ સ્તરની ક્ષમતાઓની નજીક પણ પહોંચ્યાં નહોતાં. ક્ષમતાઓમાં થતી પ્રગતિ ઓળખવા અને તે ક્ષમતાઓ ઉભરી આવે ત્યારે અમારી કંપનીએ શું કરવું તેનું આયોજન કરવા માટે માર્ગદર્શન મળે એ હેતુથી અમે આ ફ્રેમવર્ક બનાવ્યું હતું. GPT‑5.6‑Sol સહિતનાં અગાઉનાં મોડલનું અત્યાધુનિક સાયબર ક્ષમતાઓ માટે મૂલ્યાંકન કરવામાં આવ્યું હતું અને તેમને નિર્ણાયકને બદલે હાઇ મર્યાદા પર આંકવામાં આવ્યાં હતાં.

અમારા પ્રિપેરડનેસ ફ્રેમવર્ક હેઠળ કોઈ મોડલ માનવીના હસ્તક્ષેપ વિના વાસ્તવિક દુનિયાની અનેક સુરક્ષા-સુદૃઢ નિર્ણાયક સિસ્ટમોમાં તમામ ગંભીરતા સ્તરના કાર્યક્ષમ ઝીરો-ડે ભેદ શોધી અને વિકસાવી શકે, અથવા માત્ર વ્યાપક ઇચ્છિત ધ્યેયના આધારે સુરક્ષા-સુદૃઢ લક્ષ્યો પર સાયબર હુમલા કરવા માટે શરૂઆતથી અંત સુધીની નવી વ્યૂહરચનાઓ ઘડી અને અમલમાં મૂકી શકે, તો તે સાયબર સુરક્ષાની નિર્ણાયક મર્યાદાએ પહોંચે છે. 

અમે આ મોડલને માપદંડો પર ચકાસવાનું અને તેનું મૂલ્યાંકન કરવાનું ચાલુ રાખ્યું છે. જોકે, અમારા પ્રારંભિક મૂલ્યાંકનો એટલું મજબૂત પ્રદર્શન દર્શાવે છે કે હાલ નિર્ણાયક ક્ષમતા સ્તરની શક્યતા નકારી શકાતી નથી. Astra એક આગામી મોડલ છે અને Hugging Faceના ભેદનો લાભ લેવામાં તેની કોઈ ભૂમિકા નહોતી. 

તેથી, અમે અમારા સુરક્ષા ઉપાયો અને સુરક્ષા નિયંત્રણોની મજબૂતાઈનું પરીક્ષણ વધુ વ્યાપક બનાવ્યું છે, જેથી આ ક્ષમતાઓને ઉપયોગમાં મૂકવા માટે તે યોગ્ય રહે. આ મોડલનો આગળનો વિકાસ સલામત અને સુરક્ષિત રીતે થાય એ માટે અમે આંતરિક રીતે નીચેના પગલાં પણ લીધાં છે: 

• અમે વધુ ક્ષમતાવાળાં મોડલ અને સંબંધિત પ્રવૃત્તિઓ માટે વધુ કડક સુરક્ષા નિયંત્રણો લાગુ કરી રહ્યા છીએ. તેમાં અલગ પરીક્ષણ વાતાવરણ, નેટવર્ક અને સાધનોની મર્યાદિત પહોંચ, મોડલના વજનોનું વધુ મજબૂત રક્ષણ અને કૂટલેખન, વધારાની દેખરેખ અને શોધ ક્ષમતાઓ તથા સુરક્ષિત અલગ વાતાવરણમાં અમલનો સમાવેશ થાય છે.
• Astra સાથે સંકળાયેલી જે આંતરિક પ્રવૃત્તિઓ હજી આ વધુ કડક સુરક્ષા નિયંત્રણોની જરૂરિયાતો પૂરી કરતી નથી, તેને અમે હાલ અટકાવી રહ્યા છીએ.
• તાલીમ અને મૂલ્યાંકન સહિત Astraના તમામ એજન્ટિક ઉપયોગોમાં જોખમી ક્રિયાઓ અને હેતુથી થતા વિચલન પર સર્વવ્યાપી દેખરેખ અમે લાગુ કરી છે. નિરીક્ષકો મોડલની વિચારશૃંખલાનું મૂલ્યાંકન કરે છે અને વધુ જોખમી પ્રવૃત્તિની સમીક્ષા કરીને તેને અટકાવવા માટે સુરક્ષા પ્રતિસાદ શરૂ કરે છે.
• આ મોડલની ક્ષમતાઓનું પરીક્ષણ કરવા માટે અમે સંબંધિત સરકારી એજન્સીઓ અને પસંદગીની કૃત્રિમ બુદ્ધિ સલામતી સંસ્થાઓ સાથે કામ કરીશું.
• વધુ જોખમી મૂલ્યાંકનો અને કાર્યભારને સલામત રીતે ચલાવવા માટે અમે તૃતીય-પક્ષ પરીક્ષણ ભાગીદારોને ભલામણ કરેલાં સુરક્ષા નિયંત્રણો આપીશું. 

ક્ષમતાઓમાં અગાઉ થયેલા અન્ય ફેરફારો દરમિયાન પણ આ ફ્રેમવર્કે અમને માર્ગદર્શન આપ્યું છે. જૂન 2025માં પ્રિપેરડનેસ ફ્રેમવર્ક હેઠળ અમારા મોડલ જૈવવિજ્ઞાન માટેની હાઇ ક્ષમતા મર્યાદાની નજીક પહોંચ્યાં ત્યારે સુરક્ષા ઉપાયો મજબૂત કરવા, પરીક્ષણ વિસ્તારવા, બાહ્ય નિષ્ણાતો સાથે કામ કરવા અને વધારાનાં સુરક્ષા નિયંત્રણો લાગુ કરવા માટે અમે લેતાં પગલાંની રૂપરેખા આપી હતી. અમે અહીં પણ એ જ સિદ્ધાંત લાગુ કરી રહ્યા છીએ.

અમારું માનવું છે કે અદ્યતન સાયબર ક્ષમતાવાળાં મોડલે હુમલાખોરો પહેલાં નબળાઈઓ ઓળખવા અને દૂર કરવામાં રક્ષકોને મદદ કરવી જોઈએ. Astra જેવા અને તેના પછી આવનારા મોડલની અત્યાધુનિક ક્ષમતાઓ સમગ્ર માનવજાતના હિત માટે જવાબદારીપૂર્વક અને વ્યાપકપણે ઉપયોગમાં મુકાય એ સુનિશ્ચિત કરવા અમે સરકારો, સલામતી સંસ્થાઓ અને નાગરિક સમાજ સાથે મળીને કામ કરવા પ્રતિબદ્ધ છીએ.