OpenAI વડે બ્લોક એઆઇ-આધારિત સુરક્ષા કેવી રીતે બનાવે છે

સ્ક્વેર, કૅશ ઍપ અને આફ્ટરપે બનાવનારી કંપની બ્લોકની સુરક્ષા ટીમ OpenAI ડિફેન્સ ફૅક્ટરીનો ઉપયોગ કરે છે. તેમાં એઆઇ સુરક્ષા ખામીઓ શોધવાનું, જોખમો ઓળખવાનું અને તેનો પ્રતિસાદ આપવાનું કામ એટલા મોટા પાયે કરે છે કે કોઈ માનવ ટીમ તેની બરાબરી ન કરી શકે. OpenAI ડેબ્રેક સહિતની એઆઇ પ્રણાલીઓથી બ્લોક હવે એ કામ થોડા કલાકોમાં જ કરે છે, જેમાં અગાઉ અઠવાડિયાં લાગતાં હતાં.

કોડ બનાવવાનો હોય કે સુરક્ષા સંચાલન કરવાનું હોય, બ્લોકની સુરક્ષા ટીમે દરેક કાર્યપ્રવાહમાં જવાબદારીપૂર્વક એઆઇ અપનાવવા પર ધ્યાન કેન્દ્રિત કર્યું છે. મુખ્ય માહિતી સુરક્ષા અધિકારી જેમ્સ નેટેશાઇમ કહે છે, “આનો મુખ્ય હેતુ એવો નવો સાથી મેળવવાનો છે, જેની મદદથી તમે કામનો વ્યાપ વધારી શકો.” “આ પરંપરાગત સ્વચાલન જેવું નથી, જેમાં તમારે દરેક પગલું નક્કી કરવું પડતું હતું. તમે તેને તમારી જરૂરિયાતને લગતી, પૂરેપૂરી સ્પષ્ટ ન હોય એવી સમસ્યા જણાવી શકો છો અને સાથે મળીને તેનો ઉકેલ શોધી શકો છો.”

સૉફ્ટવેરની ખામીની સમીક્ષા કરવા કે લૉગનું વિશ્લેષણ કરવા જેવાં કામ પૂરાં કરવામાં દિવસો કે અઠવાડિયાં લાગતાં હતાં. હવે ટીમ એ કામ અગાઉના સમયના નાના અંશમાં પૂરાં કરી શકે છે, અને હજી પણ દરેક પરિણામની ખરાઈ માણસ જ કરે છે.

ઉદાહરણ તરીકે, જોખમોની ઓળખ વધુ સચોટ બનાવવા માટે દરેક તપાસમાં ક્વેરીના મૂળ પુરાવા સાચવવામાં આવે છે. તેથી ટીમ હવે જોખમ ઓળખવાની પદ્ધતિમાં સૂચવાયેલો ફેરફાર એક કલાકથી ઓછા સમયમાં સાત મહિનાના વાસ્તવિક સંચાલનના ટેલિમેટ્રી ડેટા પર ફરી ચલાવીને ચકાસી શકે છે. અગાઉ આ માટે સેંકડો જૂના કિસ્સાઓમાં જાતે ફરી ક્વેરી ચલાવવી પડતી હતી. તેમાં એટલો સમય લાગતો કે વ્યવહારમાં આ કામ ભાગ્યે જ થતું.

કયા કામ માટે કયું મોડલ વાપરવું તે બાબતે પણ ટીમ હવે વધુ કાળજીપૂર્વક પસંદગી કરે છે. તેઓ કહે છે, “અમે પહેલાં સૌથી નવું મોડલ વાપરતા હતા, પણ હવે એવું કરવાની જરૂર નથી.” “અલગ-અલગ કાર્યો માટે અલગ મોડલ પસંદ કરતાં અમને ઘણું શીખવા મળ્યું છે.” બ્લોકની સુરક્ષા કાર્યપ્રણાલી ડેબ્રેક પર બનાવવામાં આવી છે, જેથી કાર્યો યોગ્ય મોડલને સોંપી શકાય. તેમાં એવી વ્યવસ્થા પણ છે કે માણસો કામ પોતાના હાથમાં લઈ શકે અથવા એજન્ટો એકબીજાના કામની ખરાઈ કરી શકે. ટીમ આંતરિક માપદંડો અને વાસ્તવિક કામગીરીના આધારે આ પ્રણાલીઓનું સતત મૂલ્યાંકન કરે છે અને જરૂર પડે ત્યારે પોતાનો અભિગમ બદલે છે. જ્યાં જવાબદારીપૂર્વક આગળ વધવા માનવીય સમીક્ષા જરૂરી હોય, ત્યાં કામ તે માટે મોકલવામાં આવે છે.

પ્રાથમિક તપાસ અને પ્રાથમિકતા નક્કી કરતી સ્વચાલિત પ્રણાલીથી કામ વધુ ઝડપથી અને વધુ પ્રમાણમાં થાય છે. બ્લોકની સુરક્ષા ટીમે પ્રાથમિક તપાસના થ્રૂપુટમાં 50% વધારો, જોખમો વિશે માહિતી એકત્ર કરવામાં અને તપાસોમાં 50% વધારો નોંધ્યો છે. સાથે જ તેને સ્વાયત્ત રીતે જોખમો શોધવાની તદ્દન નવી ક્ષમતા મળી છે. નેટેશાઇમ કહે છે, “આ પ્રણાલી દર ત્રિમાસિકે વિશ્લેષકોના આશરે 1,100 કલાક જેટલું તપાસનું કામ કરે છે, કારણ કે હવે દરેક ચેતવણી સાથે સંકળાયેલાં તમામ પાસાંની સંપૂર્ણ અને ઊંડાણપૂર્વક તપાસ થાય છે. અમારી પ્રણાલી દરેક ચેતવણી પર એવી રીતે કામ કરે છે, જાણે એ દિવસે અમને મળેલી તે એકમાત્ર ચેતવણી હોય.”

પરંપરાગત સ્કૅનિંગ સાધનો એક સુરક્ષા ખામીને અલગથી ચિહ્નિત કરે છે, પરંતુ ડેબ્રેક સાથે બ્લોકની સુરક્ષા ટીમ તેનાથી ઘણું આગળ વધી શકે છે. મોડલ હુમલાની રીતો વિશે પરિકલ્પનાઓ ઘડવામાં અને હુમલાઓની શ્રેણીને જોડીને શરૂઆતથી અંત સુધી સિસ્ટમમાં ઘૂસણખોરીનો સંપૂર્ણ માર્ગ શોધવામાં મદદ કરે છે. તેનાથી વર્ષોથી રહી ગયેલી સુરક્ષા ખામીઓ પણ સામે આવે છે.

એક કિસ્સામાં, એક લૅપટૉપ પરની ચેતવણીને અલગથી જોતાં તે નીતિના પાલનને લગતી નાની સમસ્યા લાગતી હતી. પરંતુ પરસ્પર સમીક્ષા દરમિયાન મોડલે પુરાવામાં સંજોગવશાત્ દેખાયેલા એક સંકેતને અનુસર્યો, તેને બ્લોકના ઓળખસંબંધિત લૉગ સાથે જોડ્યો અને સમસ્યાઓનો ઘણો મોટો સમૂહ શોધી કાઢ્યો. “એક ઉપકરણ પરની સામાન્ય ચેતવણી આખા હુમલા અભિયાનને નિષ્ફળ બનાવવાનું કારણ બની. કોઈ એક સાધન આ જોડાણ કરી શકતું નથી. બે ઉત્પાદનોના લૉગને સાથે જોતાં જ આ સંકેત મળે છે,” જેમ્સ કહે છે.

ડેબ્રેકની મદદનું બીજું ઉદાહરણ તાજેતરની રેડ ટીમિંગ કવાયતમાં જોવા મળ્યું. મોડલને એક આંતરિક પ્રણાલી વિશે થોડા સંકેતો અપાયા હતા. તેણે લગભગ બે કલાકમાં હુમલાનો સંપૂર્ણ માર્ગ જોડી કાઢ્યો—એસક્યુએલ ઇન્જેક્શન, અધિકારોમાં વધારો, સિસ્ટમમાં પગપેસારો, પ્રવેશ ઓળખપત્રોની યાદી મેળવવી અને ત્યાંથી અન્ય પ્રણાલીઓમાં પ્રવેશ કરવો. સામાન્ય રીતે, માનવ રેડ ટીમિંગ નિષ્ણાતને આ કામમાં ઘણા દિવસો લાગતા. તાજેતરની રેડ ટીમિંગ કવાયતોમાં, ઉચ્ચ-સ્તરની સુરક્ષા ખામી રજૂ કરવાથી આપમેળે સૂચવાયેલો પેચ મળવા સુધીનો સમય 18 મિનિટ હતો.

સુરક્ષા ખામીઓ શોધવી ત્યારે જ ઉપયોગી બને છે, જ્યારે તેને સુધારવાની ક્ષમતા પણ હોય. નેટેશાઇમ તેમની ટીમ દરેક શોધાયેલી ખામી માટે અપનાવતી પ્રક્રિયા સમજાવે છે: કોડમાં ખામી ક્યાં છે અને તેના માટે કોણ જવાબદાર છે તે શોધો, પછી સુધારણા તરફ આગળ વધો. “તમે પેચ સૂચવો છો, ખામીનો દુરુપયોગ થઈ શકે છે કે નહીં તેની ખાતરી કરો છો અને પછી ખામી સુધરી ગઈ છે તેની ખરાઈ કરો છો. આ પ્રક્રિયામાં માણસ માર્ગદર્શન આપે છે અને કોડના ફેરફારો અમલમાં મૂકે છે.”

એજન્ટો તકનીકી રીતે સક્ષમ હોવા છતાં, તેમની પાસે સંસ્થાની પરિસ્થિતિની સમજ કે અગાઉના નિર્ણયો પાછળના તર્કની જાણકારી હોતી નથી. આ સંદર્ભ અને વ્યૂહરચના માણસ આપે છે. અહીં તેમની ટીમ માનવીય સમીક્ષા પૂરી પાડવા માટે જોડાય છે. એઆઇની નિર્ણયક્ષમતા વ્યવહારમાં સાબિત થતી જશે તેમ, નેટેશાઇમ કહે છે, “અમે ધીમે-ધીમે વધુ જોખમવાળી અને વધુ સંવેદનશીલ પ્રણાલીઓમાં તેનો ઉપયોગ વધારતા જઈશું.”

• સાત મહિનાના ટેલિમેટ્રી ડેટા પર જોખમ ઓળખવાની પદ્ધતિમાં સૂચવાયેલો ફેરફાર ફરી ચલાવી ચકાસવામાં એક કલાકથી ઓછો સમય.

• તાજેતરની રેડ ટીમિંગ કવાયતોમાં, ઉચ્ચ-સ્તરની સુરક્ષા ખામી રજૂ કરવાથી આપમેળે સૂચવાયેલો પેચ મળવા સુધી માત્ર 18 મિનિટ.

• ખોટી ચેતવણીઓની પ્રાથમિક તપાસમાં દર ત્રિમાસિકે વિશ્લેષકોના આશરે 600 કાર્યકલાકોની બચત.

• દર ત્રિમાસિકે વિશ્લેષકોના આશરે 1,100 કાર્યકલાકો જેટલી તપાસ પૂર્ણ.

• પ્રાથમિક તપાસના થ્રૂપુટમાં 50% વધારો.

• જોખમો વિશે માહિતી એકત્ર કરવામાં અને તપાસોમાં 50% વધારો.

માત્ર જોખમોની ઓળખ અને પ્રતિસાદની કામગીરીથી જ દર ત્રિમાસિકે વિશ્લેષકોના આશરે 600 કાર્યકલાકો બચ્યા છે, જે અગાઉ ખોટી ચેતવણીઓની પ્રાથમિક તપાસમાં વપરાતા હતા. આ સમય બચવાથી ટીમ હવે વધુ ઊંડાણપૂર્વકની તપાસ અને જવાબદારીપૂર્વક વધુ સ્વચાલિત વ્યવસ્થાઓ ઊભી કરવામાં વધુ સમય આપી શકે છે.

હુમલાની ગતિ વધતી જાય છે અને એઆઇ મોડલ વધુ સક્ષમ બનતાં જાય છે ત્યારે, નેટેશાઇમને શરૂઆતથી જ ઊભી થતી સુરક્ષા ખામીઓની સંખ્યા ઘટાડવાની તક દેખાય છે. તેનાથી સુરક્ષા ટીમો પેચ લાગુ કરવામાં ઓછો સમય અને જોખમ અટકાવવાના વ્યૂહાત્મક કામમાં વધુ સમય આપી શકશે.

તેઓ કહે છે, “આ અદ્યતન ક્ષમતાઓ દરેકને ઉપલબ્ધ કરાવીને OpenAI સુરક્ષા કરનારાઓનું પલડું ભારે કરી રહ્યું છે.” “સામાન્ય રીતે આ ક્ષમતાઓ માત્ર ખૂબ જાણીતી ટેક્નોલોજી કંપનીઓ અને સરકારો પાસે જ હતી. પરંતુ હવે મહત્ત્વની માળખાકીય સુવિધાઓ, શાળાઓ અને નાના વ્યવસાયો સહિત દરેક વ્યક્તિ કે સંસ્થા પોતાનાં નેટવર્કની સુરક્ષા માટે આ ટેક્નોલોજીનો ઉપયોગ શરૂ કરી શકે છે.”