OpenAI ટેકનોલોજીથી Block AI-સંચાલિત સુરક્ષા કેવી રીતે બનાવે છે

Square, Cash App અને Afterpay પાછળની કંપની Blockમાં, સુરક્ષા ટીમ OpenAI Defense Factoryનો ઉપયોગ કરે છે: અહીં AI સુરક્ષાની ખામીઓ શોધવા, ઓળખવા અને તેનો જવાબ આપવા જેવા કામ એવા મોટા પાયે કરે છે કે કોઈ માનવીય ટીમ તેની સાથે તાલ મિલાવી શકે નહીં. OpenAI Daybreak સહિતની AI સિસ્ટમોનો ઉપયોગ કરીને, Block જે કામ કરવામાં પહેલા અઠવાડિયા લાગતા હતા તે હવે માત્ર ગણતરીના કલાકોમાં પૂર્ણ કરી રહ્યું છે.

Blockની સુરક્ષા ટીમ વર્કફ્લોમાં AIને જવાબદારીપૂર્વક અપનાવવા પર ધ્યાન કેન્દ્રિત કરી રહી છે, પછી ભલે તે કોડ જનરેશન હોય કે સુરક્ષા કામગીરી. “આ બાબત ખરેખર એક એવા નવા સાથી મેળવવા પર કેન્દ્રિત છે જેની સાથે તમે કામનો વ્યાપ વધારી શકો,” એમ મુખ્ય માહિતી સુરક્ષા અધિકારી જેમ્સ નેટ્ટેશૈમ કહે છે. “આ એવી પરંપરાગત ઑટોમેશન જેવું નથી, જેમાં તમારે એક પછી એક પગલાં લેવા પડતા હતા. તમે તેને પ્રમાણમાં વિશિષ્ટ અને અસ્પષ્ટ સમસ્યા માટે પ્રોમ્પ્ટ આપી શકો છો અને સાથે મળીને તેનો ઉકેલ શોધી શકો છો.”

સોફ્ટવેર બગની સમીક્ષા કરવા અથવા લૉગનું વિશ્લેષણ કરવા જેવા પ્રોજેક્ટ્સ પૂર્ણ કરવામાં દિવસો કે અઠવાડિયા લાગી જતા. હવે ટીમ એ જ પ્રોજેક્ટ્સને ઘણાં ઓછા સમયમાં પૂર્ણ કરી શકે છે અને દરેક પરિણામની માનવી દ્વારા હજુ પણ ચકાસણી થાય છે.

ઉદાહરણ તરીકે, જોખમ પારખવાની પ્રક્રિયામાં સુધારો કરવા માટે, દરેક તપાસમાં ક્વેરીના મૂળ પુરાવા સંગ્રહિત થાય છે, જેથી હવે ટીમ સાત મહિનાના પ્રોડક્શન ટેલિમેટ્રી ડેટા સામે સૂચિત ડિટેક્શન ફેરફારને એક કલાકથી ઓછા સમયમાં ફરી ચલાવી શકે છે. પહેલાં આ કામ માટે જૂના સેંકડો કેસની ક્વેરી જાતે જ ફરીથી તપાસ કરવી પડતી હતી અને તેમાં ઘણો સમય લાગતો હોવાથી વ્યવહારમાં આવું ભાગ્યે જ થતું હતું.

ટીમ હવે કયા કામ માટે કયા મોડલનો ઉપયોગ કરવો તે પસંદ કરવામાં પણ વધુ કાળજી રાખે છે. “પહેલાં અમે સૌથી નવા મોડલનો જ ઉપયોગ કરતા હતા, પરંતુ હવે એવું કરવાની જરૂર નથી,” તેઓ કહે છે. “અલગ-અલગ કાર્યો માટે જુદાં-જુદાં મોડલ પસંદ કરવાનો અનુભવ ઘણું શીખવનારો રહ્યો છે.” Blockની સુરક્ષા કાર્યપ્રણાલી Daybreak પર આધારિત છે, જેથી કાર્યો યોગ્ય મોડલ તરફ મોકલી શકાય અને તેમાં એવા હૂક્સ પણ છે જેનાથી લોકો કાર્યોની જવાબદારી સંભાળી શકે અથવા એજન્ટો એકબીજાના કામની ચકાસણી કરી શકે. ટીમ આ સિસ્ટમોનું આંતરિક માપદંડો અને વાસ્તવિક દુનિયાના પ્રદર્શન સામે સતત મૂલ્યાંકન કરે છે અને જરૂર પડે ત્યારે પોતાનો અભિગમ બદલે છે. જવાબદારીપૂર્વક કામ કરવા માટે જરૂરી હોય ત્યારે કામને માનવીય સમીક્ષા માટે મોકલવાનો પણ સમાવેશ થાય છે.

સ્વચાલિત પ્રાથમિક ચકાસણી સિસ્ટમને કારણે કામ ઝડપથી (અને વધુ પ્રમાણમાં) પૂરું થવા લાગ્યું છે. Blockની સુરક્ષા ટીમે ટ્રાયેજ થ્રૂપુટમાં 50% વધારો, ઇન્ટેલિજન્સ એકત્ર કરવામાં અને તપાસમાં 50% વધારો, તેમજ જોખમો શોધી કાઢવાની એક તદ્દન નવી સ્વયંસંચાલિત ક્ષમતા જોઈ છે. નેટ્ટેશૈમ કહે છે, “આ સિસ્ટમ દર ત્રિમાસિક ગાળામાં વિશ્લેષકોના અંદાજે ~1,100 કલાક જેટલું તપાસનું કાર્ય કરે છે, કારણ કે હવે દરેક એલર્ટમાં સમાવિષ્ટ તમામ બાબતોની સંપૂર્ણ અને ઊંડાણપૂર્વક તપાસ કરવામાં આવે છે. અમારી સિસ્ટમ દરેક એલર્ટ પર એવી રીતે કામ કરે છે જાણે કે તે દિવસે અમારી પાસે આવેલો તે એકમાત્ર એલર્ટ હોય.”

પરંપરાગત સ્કેનિંગ ટૂલ્સ કોઈ એક જ સુરક્ષા ખામીને અલગથી ચિહ્નિત કરે છે, પરંતુ Blockની સુરક્ષા ટીમ Daybreakની મદદથી ઘણું આગળ જઈ શકે છે. મોડલ હુમલાની પેટર્ન વિશે અનુમાન લગાવવામાં અને હુમલાઓની શ્રેણીને શરૂઆતથી અંત સુધીના સંપૂર્ણ સિસ્ટમ-ભંગના માર્ગમાં જોડવામાં મદદ કરે છે, જેનાથી વર્ષોથી રહેલી સુરક્ષા ખામીઓ પણ સામે આવે છે.

એક કિસ્સામાં, એક જ લેપટોપ પરનું એલર્ટ અલગથી જોતાં પોતાની મેળે પોલિસી સંબંધિત એક નાની સમસ્યા જેવું લાગતું હતું. પરંતુ સહકર્મીઓ દ્વારા સમીક્ષા દરમિયાન, મોડલે પુરાવામાં માત્ર આકસ્મિક રીતે દેખાયેલા એક સૂચકને અનુસર્યું, તેને Blockના ઓળખસંબંધિત લૉગ્સ સાથે જોડ્યું અને ઘણી વધુ સમસ્યાઓ બહાર લાવી. “એક નિયમિત એન્ડપોઇન્ટ એલર્ટને પગલે સમગ્ર હુમલાની ઝુંબેશને નિષ્ક્રિય કરવામાં આવી. કોઈ એક સાધન આવું જોડાણ કરતું નથી. બે પ્રોડક્ટના લૉગ્સને એકસાથે જોતાં જ આ સંકેત મળે છે,” જેમ્સ કહે છે.

Daybreak મદદરૂપ થયું હોય એવું બીજું ઉદાહરણ તાજેતરના રેડ ટીમિંગ અભ્યાસ દરમિયાન જોવા મળ્યું. મોડલને એક આંતરિક સિસ્ટમ વિશે કેટલાક સંકેતો આપવામાં આવ્યા હતા અને તેણે લગભગ બે કલાકમાં હુમલાના સંપૂર્ણ માર્ગની કડીઓ જોડી—SQL ઇન્જેક્શન, વિશેષાધિકારો વધારવા, સિસ્ટમમાં પ્રવેશ કરવો, ઓળખની વિગતોની યાદી મેળવવી અને ત્યાંથી અન્ય સિસ્ટમોમાં પ્રવેશ કરવો. આ કામ કરવામાં સામાન્ય રીતે માનવ રેડ ટીમિંગ નિષ્ણાતને ઘણા દિવસો લાગે. તાજેતરના રેડ ટીમિંગ અભ્યાસોમાં, ઉચ્ચ-સ્તરીય સુરક્ષા ખામી સબમિટ કરવાથી લઈને આપમેળે પૅચ સૂચવાય ત્યાં સુધીનો સમય 18 મિનિટ હતો.

સુરક્ષાની ખામીઓ શોધવાનું મૂલ્ય તેમને ઠીક કરવાની ક્ષમતા જેટલું જ છે. નેટ્ટેશૈમ દરેક શોધેલી સમસ્યા માટે તેમની ટીમ જે પ્રક્રિયા અનુસરે છે તે સમજાવે છે: કોડમાં સમસ્યા ક્યાં છે તે શોધવું અને તેની જવાબદારી કોની છે તે ઓળખવું, પછી તેને ઠીક કરવાની પ્રક્રિયા શરૂ કરો. “તમે પૅચ સૂચવો છો, તેનો દુરુપયોગ શક્ય છે કે નહીં તેની ખાતરી કરો છો અને પછી માનવીની દેખરેખ હેઠળ માર્ગદર્શન મેળવીને અને કોડમાં ફેરફારો અમલમાં મૂકીને, સમસ્યા ઠીક થઈ છે તેની ચકાસણી કરો છો.”

એજન્ટો તકનીકી રીતે સક્ષમ હોવા છતાં, તેમની પાસે સંસ્થાનો સંદર્ભ કે અગાઉના નિર્ણયો પાછળનું રિઝનિંગ હોતું નથી. માનવી એ સંદર્ભ અને વ્યૂહરચના પૂરી પાડે છે અને અહીં તેમની ટીમ માનવીય સમીક્ષાનું એક સ્તર પૂરું પાડવાની ભૂમિકા ભજવે છે. વ્યવહારમાં AIની નિર્ણયશક્તિની વિશ્વસનીયતા સાબિત થતી જાય તેમ, નેટ્ટેશૈમ કહે છે, “અમે વધુ સંવેદનશીલ સિસ્ટમ્સ માટે તેનો ઉપયોગ કરવા સારુ જોખમનું સ્તર ધીમે ધીમે વધારીશું.”

• સાત મહિનાના ટેલિમેટ્રી ડેટા સામે સૂચિત ડિટેક્શન ફેરફારને ફરી ફરીથી ચલાવીને ચકાસવા માટે એક કલાકથી પણ ઓછો સમય લાગે છે.

• તાજેતરની રેડ ટીમ કવાયતોમાં ઉચ્ચ-સ્તરીય સુરક્ષા ખામી સબમિટ કરવાથી લઈને સ્વચાલિત રીતે સૂચવાયેલા પૅચ સુધી 18 મિનિટ.

• દર ત્રિમાસિક ગાળામાં ખોટા-સંકેતોની પ્રાથમિક ચકાસણી પાછળ જતા વિશ્લેષકોના અંદાજે 600 કલાકો બચ્યા.

• દર ત્રિમાસિક ગાળામાં વિશ્લેષકોના અંદાજે 1,100 કલાકો જેટલું તપાસનું કાર્ય પૂર્ણ થયું.

• પ્રાથમિક ચકાસણીના થ્રૂપુટમાં 50% વધારો.

• ઇન્ટેલિજન્સ એકત્રિત કરવામાં અને તપાસમાં 50% વધારો.

માત્ર જોખમ પારખવાની અને તેનો પ્રતિસાદ આપવાની કામગીરીથી જ દર ત્રિમાસિક ગાળામાં વિશ્લેષકોના અંદાજે 600 કલાકો બચ્યા છે, જે અગાઉ ખોટા-સંકેતોની પ્રાથમિક ચકાસણી પાછળ વપરાતા હતા. આ બચેલા સમયની મદદથી, ટીમ હવે વધુ ઊંડાણપૂર્વકની તપાસ કરવા અને જવાબદારીપૂર્વક વધુ સ્વચાલિત પ્રક્રિયાઓ વિકસાવવા પાછળ વધુ સમય ફાળવે છે.

હુમલાઓની ગતિ વધતી જાય છે અને AI મોડલ્સ સતત આગળ વધી રહ્યાં છે, ત્યારે નેટ્ટેશૈમ ઉદ્ભવતી સુરક્ષા ખામીઓની સંખ્યા ઘટાડવાની એક તક જુએ છે. તેનાથી સુરક્ષા ટીમો પૅચિંગમાં ઓછો સમય અને નિવારક, વ્યૂહાત્મક કાર્યમાં વધુ સમય આપી શકશે.

“આ અદ્યતન ક્ષમતાઓ સૌના હાથમાં આપીને OpenAI રક્ષણકર્તાઓની તરફેણમાં પરિસ્થિતિ બદલી રહ્યું છે,” તેઓ કહે છે. “સામાન્ય રીતે, આ ક્ષમતાઓનો ઉપયોગ ફક્ત ખૂબ જ મોટી ટેકનોલોજી કંપનીઓ અને સરકારો જ કરતી આવી છે. પરંતુ હવે મહત્વપૂર્ણ માળખાકીય સુવિધાઓ, શાળાઓ અને નાના વ્યવસાયો સહિત દરેક જણ પોતાના નેટવર્કનું રક્ષણ કરવા માટે આ ટેકનોલોજીનો ઉપયોગ શરૂ કરી શકે છે.”