OpenAI സാങ്കേതികവിദ്യയിൽ Block ഒരുക്കുന്ന എഐ സുരക്ഷ

Square, Cash App, Afterpay എന്നിവയുടെ മാതൃസ്ഥാപനമായ Block-ലെ സുരക്ഷാസംഘം OpenAI Defense Factory പ്രയോജനപ്പെടുത്തുന്നു. ഇതിൽ സുരക്ഷാ ദൗർബല്യങ്ങൾ കണ്ടെത്തൽ, ഭീഷണികൾ തിരിച്ചറിയൽ, പ്രതികരണം എന്നിവ ഒരു മനുഷ്യസംഘത്തിനും ഒപ്പമെത്താനാകാത്ത തോതിൽ എഐ കൈകാര്യം ചെയ്യുന്നു. OpenAI Daybreak ഉൾപ്പെടെയുള്ള എഐ സംവിധാനങ്ങൾ ഉപയോഗിച്ച്, മുമ്പ് ആഴ്ചകളെടുത്തിരുന്ന ജോലികൾ ഏതാനും മണിക്കൂറുകൾക്കുള്ളിൽ Block പൂർത്തിയാക്കുന്നു.

കോഡ് സൃഷ്ടിക്കലിലായാലും സുരക്ഷാ പ്രവർത്തനങ്ങളിലായാലും, പ്രവർത്തനക്രമങ്ങളിലുടനീളം എഐ ഉത്തരവാദിത്തത്തോടെ ഉപയോഗിക്കുന്നതിലാണ് Block-ന്റെ സുരക്ഷാസംഘം ശ്രദ്ധ കേന്ദ്രീകരിച്ചിരിക്കുന്നത്. “ആവശ്യങ്ങൾ വളരുന്നതിനനുസരിച്ച് ഒപ്പം വളരാൻ കഴിയുന്ന പുതിയൊരു സഹപ്രവർത്തകനെ ലഭിക്കുക എന്നതാണ് ഇതിന്റെ കാതൽ,” മുഖ്യ വിവരസുരക്ഷാ ഉദ്യോഗസ്ഥൻ ജെയിംസ് നെറ്റസ്‌ഹൈം പറയുന്നു. “ഓരോ ഘട്ടവും പ്രത്യേകം നിർദേശിക്കേണ്ടിയിരുന്ന പരമ്പരാഗത ഓട്ടോമേഷൻ പോലെയല്ല ഇത്. നിങ്ങളുടെ സാഹചര്യത്തിന് മാത്രം ബാധകമായ, വ്യക്തത കുറവുള്ള ഒരു പ്രശ്നംപോലും അതിന് നൽകി ഒരുമിച്ച് പരിഹരിക്കാം.”

സോഫ്റ്റ്‌വെയറിലെ പിഴവ് പരിശോധിക്കുന്നതോ ലോഗ് വിശകലനം ചെയ്യുന്നതോ പോലുള്ള ജോലികൾ പൂർത്തിയാക്കാൻ ദിവസങ്ങളോ ആഴ്ചകളോ വേണ്ടിവന്നിരുന്നു. ഇപ്പോൾ അതിന്റെ ചെറിയൊരു അംശം സമയംകൊണ്ട് സംഘത്തിന് ആ ജോലികൾ പൂർത്തിയാക്കാം. ഓരോ ഫലവും മനുഷ്യൻ പരിശോധിച്ച് ഉറപ്പുവരുത്തുന്നതും തുടരുന്നു.

ഉദാഹരണത്തിന്, ഭീഷണി കണ്ടെത്തൽ മെച്ചപ്പെടുത്തുന്നതിനായി ഓരോ അന്വേഷണത്തിലും ലഭിക്കുന്ന അസംസ്കൃത ക്വറി തെളിവുകൾ സൂക്ഷിക്കുന്നു. അതിനാൽ ഭീഷണി കണ്ടെത്തൽ രീതിയിൽ നിർദേശിക്കുന്ന മാറ്റം, ഏഴുമാസത്തെ യഥാർഥ പ്രവർത്തനങ്ങളിൽനിന്നുള്ള ടെലിമെട്രി ഡാറ്റയിൽ ഒരു മണിക്കൂറിനുള്ളിൽ പരീക്ഷിക്കാൻ ഇപ്പോൾ സംഘത്തിന് കഴിയും. മുമ്പ് ഇതിനായി നൂറുകണക്കിന് പഴയ കേസുകളിൽ മനുഷ്യർ വീണ്ടും ക്വറികൾ നടത്തേണ്ടിയിരുന്നു. ഏറെ സമയമെടുക്കുന്നതിനാൽ പ്രായോഗികമായി ഇത് അപൂർവമായേ നടന്നിരുന്നുള്ളൂ.

ഏത് ജോലിക്ക് ഏത് മോഡൽ ഉപയോഗിക്കണം എന്നതിലും സംഘം ഇപ്പോൾ കൂടുതൽ ശ്രദ്ധ പുലർത്തുന്നു. “ഞങ്ങൾ മുമ്പ് ഏറ്റവും പുതിയ മോഡലാണ് ഉപയോഗിച്ചിരുന്നത്. എന്നാൽ ഇനി അങ്ങനെ ചെയ്യേണ്ടതില്ല,” അദ്ദേഹം പറയുന്നു. “വ്യത്യസ്ത ജോലികൾക്കായി വ്യത്യസ്ത മോഡലുകൾ തിരഞ്ഞെടുക്കുന്നത് ഒരു പഠനാനുഭവമായിരുന്നു.” ജോലികൾ അനുയോജ്യമായ മോഡലിലേക്ക് അയയ്ക്കാൻ സഹായിക്കുന്ന Block-ന്റെ സുരക്ഷാ ഹാർനെസ് Daybreak അടിസ്ഥാനമാക്കിയാണ് നിർമ്മിച്ചിരിക്കുന്നത്. മനുഷ്യർക്ക് ജോലികൾ ഏറ്റെടുക്കാനും ഏജന്റുകൾക്ക് പരസ്പരം ജോലികൾ പരിശോധിക്കാനുമുള്ള സംവിധാനങ്ങളും ഇതിലുണ്ട്. ആഭ്യന്തര മാനദണ്ഡങ്ങളും യഥാർഥ സാഹചര്യങ്ങളിലെ പ്രകടനവും അടിസ്ഥാനമാക്കി സംഘം ഈ സംവിധാനങ്ങളെ തുടർച്ചയായി വിലയിരുത്തുകയും ആവശ്യാനുസരണം സമീപനം ക്രമീകരിക്കുകയും ചെയ്യുന്നു. മനുഷ്യരുടെ പരിശോധനയാണ് ഉത്തരവാദിത്തമുള്ള മാർഗമെങ്കിൽ ജോലി അതിലേക്ക് മാറ്റുന്നതും ഇതിൽ ഉൾപ്പെടുന്നു.

മുൻഗണന നിർണയിക്കുന്ന സ്വയമേവ പ്രവർത്തിക്കുന്ന സംവിധാനം വന്നതോടെ കൂടുതൽ ജോലികൾ കൂടുതൽ വേഗത്തിൽ പൂർത്തിയാകുന്നു. Block-ന്റെ സുരക്ഷാസംഘത്തിന് മുൻഗണന നിർണയത്തിലെ ത്രൂപുട്ടിൽ 50% വർധനയും ഭീഷണിവിവര ശേഖരണത്തിലും അന്വേഷണങ്ങളിലും 50% വർധനയും കൈവരിക്കാനായി. ഭീഷണികൾ സ്വയം തേടിക്കണ്ടെത്താനുള്ള തികച്ചും പുതിയ കഴിവും ലഭിച്ചു. നെറ്റസ്‌ഹൈം പറയുന്നു, “ഇത് ഓരോ ത്രൈമാസത്തിലും വിശകലനവിദഗ്ധരുടെ ഏകദേശം 1,100 മണിക്കൂറിന് തുല്യമായ അന്വേഷണം നടത്തുന്നു. കാരണം, ഇപ്പോൾ ഓരോ മുന്നറിയിപ്പിലെയും എല്ലാ ഘടകങ്ങളെക്കുറിച്ചും സമഗ്രവും ആഴത്തിലുള്ളതുമായ അന്വേഷണം നടക്കുന്നുണ്ട്. അന്ന് ഞങ്ങൾക്ക് ലഭിച്ച ഒരേയൊരു മുന്നറിയിപ്പ് എന്നപോലെയാണ് ഞങ്ങളുടെ സംവിധാനം ഓരോ മുന്നറിയിപ്പും കൈകാര്യം ചെയ്യുന്നത്.”

പരമ്പരാഗത സ്കാനിംഗ് ഉപകരണങ്ങൾ ഓരോ സുരക്ഷാ ദൗർബല്യവും ഒറ്റപ്പെട്ടതായാണ് അടയാളപ്പെടുത്തുന്നത്. എന്നാൽ Daybreak ഉപയോഗിച്ച് അതിനുമപ്പുറം പോകാൻ Block-ന്റെ സുരക്ഷാസംഘത്തിന് കഴിയും. ആക്രമണരീതികളെക്കുറിച്ച് അനുമാനങ്ങൾ രൂപപ്പെടുത്താനും ആക്രമണങ്ങളുടെ ഒരു പരമ്പരയെ ബന്ധിപ്പിച്ച് തുടക്കംമുതൽ അവസാനംവരെ സുരക്ഷ തകർക്കാനുള്ള പാത കണ്ടെത്താനും മോഡൽ സഹായിക്കുന്നു. വർഷങ്ങളായി നിലനിന്നിരിക്കാവുന്ന സുരക്ഷാ ദൗർബല്യങ്ങൾ ഇതിലൂടെ പുറത്തുവരുന്നു.

ഒരു സംഭവത്തിൽ, ഒറ്റ ലാപ്‌ടോപ്പിലെ മുന്നറിയിപ്പ് തനിയെ പരിശോധിച്ചപ്പോൾ ചെറിയൊരു നയലംഘനം മാത്രമായാണ് തോന്നിയത്. എന്നാൽ സഹപരിശോധനയ്ക്കിടെ, തെളിവുകളിൽ യാദൃച്ഛികമായി മാത്രം കണ്ട ഒരു സൂചകം മോഡൽ പിന്തുടർന്നു. അതിനെ Block-ന്റെ തിരിച്ചറിയൽ ലോഗുകളുമായി ബന്ധിപ്പിച്ച് പരിശോധിച്ചതിലൂടെ കൂടുതൽ വിപുലമായ പ്രശ്നങ്ങൾ കണ്ടെത്തി. “ഒരു ഉപകരണത്തിലെ പതിവ് മുന്നറിയിപ്പ്, സംഘടിതമായൊരു ആക്രമണപരമ്പരയെ തകർക്കുന്നതിലേക്ക് നയിച്ചു. ഒരു ഉപകരണത്തിനും ഒറ്റയ്ക്ക് ആ ബന്ധം കണ്ടെത്താനാവില്ല. രണ്ട് ഉൽപ്പന്നങ്ങളുടെയും ലോഗുകൾ ചേർത്തുനോക്കിയാലേ ആ സൂചന ലഭിക്കൂ,” ജെയിംസ് പറയുന്നു.

അടുത്തിടെ നടന്ന ഒരു റെഡ് ടീമിംഗ് അഭ്യാസത്തിലും Daybreak സഹായിച്ചു. ഒരു ആഭ്യന്തര സംവിധാനത്തെക്കുറിച്ച് ഏതാനും സൂചനകൾ മോഡലിന് നൽകി. ഏകദേശം രണ്ട് മണിക്കൂറിനുള്ളിൽ അത് ഒരു സമ്പൂർണ ആക്രമണപാത രൂപപ്പെടുത്തി—SQL ഇൻജക്ഷൻ, അധിക പ്രവേശനാവകാശങ്ങൾ നേടൽ, സ്ഥിരമായ പ്രവേശനം സ്ഥാപിക്കൽ, പ്രവേശനവിവരങ്ങൾ കണ്ടെത്തി പട്ടികപ്പെടുത്തൽ, അവിടെനിന്ന് മറ്റു സംവിധാനങ്ങളിലേക്കുള്ള കടന്നുകയറ്റം എന്നിവ ബന്ധിപ്പിച്ചുകൊണ്ട്. ഒരു മനുഷ്യ റെഡ് ടീമിംഗ് വിദഗ്ധന് സാധാരണയായി ഇതിന് നിരവധി ദിവസങ്ങൾ വേണ്ടിവരും. അടുത്തിടെ നടന്ന റെഡ് ടീമിംഗ് അഭ്യാസങ്ങളിൽ, സുരക്ഷാ ദൗർബല്യത്തിന്റെ സംക്ഷിപ്ത വിവരം സമർപ്പിച്ചതുമുതൽ സ്വയമേവ പരിഹാരപ്പാച്ച് നിർദേശിക്കുന്നതുവരെ എടുത്തത് 18 മിനിറ്റാണ്.

സുരക്ഷാ ദൗർബല്യങ്ങൾ കണ്ടെത്തുന്നത് പ്രയോജനപ്പെടണമെങ്കിൽ അവ പരിഹരിക്കാനും കഴിയണം. ഓരോ കണ്ടെത്തലിലും തന്റെ സംഘം പിന്തുടരുന്ന പ്രക്രിയ നെറ്റസ്‌ഹൈം വിശദീകരിക്കുന്നു: കോഡിൽ പ്രശ്നം എവിടെയാണെന്നും അതിന്റെ ഉത്തരവാദിത്തം ആർക്കാണെന്നും കണ്ടെത്തുക, തുടർന്ന് പരിഹരിക്കുന്നതിലേക്ക് കടക്കുക. “ഒരു പരിഹാരപ്പാച്ച് നിർദേശിക്കുന്നു, ദൗർബല്യം ചൂഷണം ചെയ്യാനാകുമെന്ന് ഉറപ്പാക്കുന്നു, തുടർന്ന് അത് പരിഹരിച്ചെന്ന് പരിശോധിക്കുന്നു. ഇതിന് മാർഗനിർദേശം നൽകാനും കോഡിലെ മാറ്റങ്ങൾ വിന്യസിക്കാനും ഒരു മനുഷ്യൻ പ്രക്രിയയിലുടനീളം ഉണ്ടാകും.”

ഏജന്റുകൾക്ക് സാങ്കേതികശേഷിയുണ്ടെങ്കിലും ഒരു സ്ഥാപനത്തിന്റെ പശ്ചാത്തലമോ മുൻ തീരുമാനങ്ങളുടെ പിന്നിലെ യുക്തിയോ അവയ്ക്ക് അറിയണമെന്നില്ല. ആ പശ്ചാത്തലവും തന്ത്രവും നൽകുന്നത് മനുഷ്യനാണ്. അവിടെയാണ് മനുഷ്യരുടെ പരിശോധന ഉറപ്പാക്കാൻ അദ്ദേഹത്തിന്റെ സംഘം ഇടപെടുന്നത്. എഐയുടെ തീരുമാനശേഷി പ്രായോഗികമായി തെളിയുന്നതിനനുസരിച്ച്, “കൂടുതൽ സൂക്ഷ്മത ആവശ്യമായ സംവിധാനങ്ങളിൽ ഉപയോഗിക്കാൻ ഞങ്ങൾ ഏറ്റെടുക്കുന്ന അപകടസാധ്യതയുടെ തോത് പതിയെ ഉയർത്തും,” നെറ്റസ്‌ഹൈം പറയുന്നു.

• ഭീഷണി കണ്ടെത്തൽ രീതിയിലെ നിർദിഷ്ട മാറ്റം ഏഴുമാസത്തെ ടെലിമെട്രി ഡാറ്റയിൽ പരീക്ഷിക്കാൻ ഒരു മണിക്കൂറിൽ താഴെ.

• അടുത്തിടെ നടന്ന റെഡ് ടീമിംഗ് അഭ്യാസങ്ങളിൽ, സുരക്ഷാ ദൗർബല്യത്തിന്റെ സംക്ഷിപ്ത വിവരം സമർപ്പിച്ചതുമുതൽ സ്വയമേവ പരിഹാരപ്പാച്ച് നിർദേശിക്കുന്നതുവരെ 18 മിനിറ്റ്.

• തെറ്റായ മുന്നറിയിപ്പുകൾ വിലയിരുത്താൻ ചെലവഴിച്ചിരുന്ന വിശകലനവിദഗ്ധരുടെ ഏകദേശം 600 തൊഴിൽമണിക്കൂറുകൾ ഓരോ ത്രൈമാസത്തിലും ലാഭിക്കുന്നു.

• ഓരോ ത്രൈമാസത്തിലും വിശകലനവിദഗ്ധരുടെ ഏകദേശം 1,100 തൊഴിൽമണിക്കൂറിന് തുല്യമായ അന്വേഷണം പൂർത്തിയാക്കുന്നു.

• മുൻഗണന നിർണയത്തിലെ ത്രൂപുട്ടിൽ 50% വർധന.

• ഭീഷണിവിവര ശേഖരണത്തിലും അന്വേഷണങ്ങളിലും 50% വർധന.

ഭീഷണി കണ്ടെത്തലും പ്രതികരണവും വഴി മാത്രം, തെറ്റായ മുന്നറിയിപ്പുകൾ വിലയിരുത്താൻ മുമ്പ് ചെലവഴിച്ചിരുന്ന വിശകലനവിദഗ്ധരുടെ ഏകദേശം 600 തൊഴിൽമണിക്കൂറുകൾ ഓരോ ത്രൈമാസത്തിലും ലാഭിക്കാനായി. ഇങ്ങനെ ലാഭിച്ച സമയം ഉപയോഗിച്ച് കൂടുതൽ ആഴത്തിലുള്ള അന്വേഷണങ്ങൾക്കും ഉത്തരവാദിത്തത്തോടെ കൂടുതൽ ജോലികൾ സ്വയമേവ നടത്താനുള്ള സംവിധാനങ്ങൾ ഒരുക്കുന്നതിനും സംഘം ഇപ്പോൾ കൂടുതൽ സമയം ചെലവഴിക്കുന്നു.

ആക്രമണങ്ങളുടെ വേഗം കൂടുകയും എഐ മോഡലുകൾ മെച്ചപ്പെടുകയും ചെയ്യുമ്പോൾ, സുരക്ഷാ ദൗർബല്യങ്ങൾ ആദ്യംതന്നെ ഉണ്ടാകുന്നത് കുറയ്ക്കാനുള്ള അവസരമാണ് നെറ്റസ്‌ഹൈം കാണുന്നത്. അങ്ങനെ സുരക്ഷാസംഘങ്ങൾക്ക് പിഴവുകൾ പരിഹരിക്കാൻ കുറച്ച് സമയവും പ്രതിരോധത്തിനും തന്ത്രപ്രധാന പ്രവർത്തനങ്ങൾക്കും കൂടുതൽ സമയവും ചെലവഴിക്കാനാകും.

“ഈ നൂതന കഴിവുകൾ എല്ലാവർക്കും ലഭ്യമാക്കുന്നതിലൂടെ OpenAI പ്രതിരോധിക്കുന്നവർക്ക് മേൽക്കൈ നൽകുകയാണ്,” അദ്ദേഹം പറയുന്നു. “സാധാരണയായി അതിപ്രമുഖ സാങ്കേതികവിദ്യാ കമ്പനികൾക്കും സർക്കാരുകൾക്കും മാത്രമേ ഇവ ലഭ്യമായിരുന്നുള്ളൂ. എന്നാൽ നിർണായക അടിസ്ഥാനസൗകര്യ സ്ഥാപനങ്ങൾ, സ്കൂളുകൾ, ചെറുകിട വ്യാപാരസ്ഥാപനങ്ങൾ എന്നിവയുൾപ്പെടെ എല്ലാവർക്കും ഇപ്പോൾ സ്വന്തം നെറ്റ്‌വർക്കുകൾ സംരക്ഷിക്കാൻ ഈ സാങ്കേതികവിദ്യ ഉപയോഗിച്ചുതുടങ്ങാം.”