અમારા Cybersecurity Grant Program દ્વારા રક્ષકોને સશક્ત બનાવતા
સાયબર સુરક્ષામાં નવીન સંશોધન અને AI એકીકરણને ઉજાગર કરતું.
અમે ગયા વર્ષે અમારા Cybersecurity Grant Program હેઠળ પ્રાયોજિત કરેલા કામ વિશે વધુ માહિતી શેર કરી રહ્યા છીએ.
2023માં, અમે એક સાહસિક વિઝન સાથે Cybersecurity Grant Program શરૂ કર્યો હતો: સાયબર રક્ષકોને સૌથી અદ્યતન AI મોડલ્સથી સજ્જ કરવા અને સાયબર સુરક્ષા તથા કૃત્રિમ બુદ્ધિમત્તાના સંગમ પર ક્રાંતિકારી સંશોધનને સશક્ત બનાવવું. સમુદાયમાંથી મળેલો ઉત્સાહી પ્રતિસાદ અમારી અપેક્ષાઓથી પણ વધુ રહ્યો છે—અમને 600થી વધુ અરજીઓ મળી છે—જે OpenAI અને સાયબર સુરક્ષા સમુદાય વચ્ચે અર્થપૂર્ણ ચર્ચા અને સંશોધન સંવાદની અગત્યની જરૂરિયાત અને અસરને રેખાંકિત કરે છે.
કાર્યક્રમની શરૂઆતથી, તેણે વિવિધ પ્રકારના પ્રોજેક્ટ્સને સમર્થન આપ્યું છે. અમને તેમાંના થોડાકને ઉજાગર કરતાં આનંદ થાય છે.
UC Berkeleyનું Wagner Lab
UC Berkeley ખાતે પ્રોફેસર ડેવિડ વેગ્નરનું સુરક્ષા સંશોધન લેબ મોટા ભાષા મોડલ્સ (LLMs)માં prompt-injection હુમલાઓ સામે રક્ષણ આપવા માટેની અગ્રણી તકનીકો વિકસાવી રહ્યું છે. આ જૂથ OpenAI સાથે મળીને આ મોડલ્સની વિશ્વસનીયતા વધારવા અને તેમને સાયબર સુરક્ષા જોખમોથી બચાવવા માટે કામ કરી રહ્યું છે.
Coguard
Coguard(નવી વિન્ડોમાં ખૂલે છે)ના સહ-સ્થાપક અને CTO અલ્બર્ટ હાઇનલે સોફ્ટવેરની ખોટી રૂપરેખાંકન સમસ્યા ઘટાડવા AI નો ઉપયોગ કરે છે, જે સુરક્ષા ઘટનાઓનું સામાન્ય કારણ છે. સોફ્ટવેર રૂપરેખાંકન જટિલ છે, અને સોફ્ટવેરને નેટવર્ક્સ તથા ક્લસ્ટર્સ સાથે જોડતી વખતે તે વધુ જટિલ બને છે. હાલના સોફ્ટવેર સોલ્યુશન્સ જૂની rules-based નીતિઓ પર આધાર રાખે છે. AI ખોટી રૂપરેખાંકનની શોધને સ્વચાલિત કરવામાં અને તેને અપડેટ રાખવામાં મદદ કરી શકે છે.
Mithril Security
Mithril એ LLMs માટેની inference ઇન્ફ્રાસ્ટ્રક્ચરને મજબૂત બનાવવા proof-of-concept વિકસાવ્યું છે, જેમાં Trusted Platform Modules (TPMs) આધારિત secure enclaves સાથે GPUs પર AI મોડલ્સ ડિપ્લોય કરવા માટેના open-source સાધનો શામેલ છે. આ પ્રોજેક્ટનો હેતુ એ દર્શાવવાનો છે કે કોઈપણ ડેટા એક્સપોઝર વિના, એડમિનિસ્ટ્રેટર્સ સુધી પણ નહીં, AI પ્રદાતાઓને ડેટા મોકલી શકાય છે. તેમનું કામ GitHub(નવી વિન્ડોમાં ખૂલે છે) પર જાહેર રીતે ઉપલબ્ધ છે, તેમજ તેમની આર્કિટેક્ચરનું વિગત આપતું શ્વેતપત્ર(નવી વિન્ડોમાં ખૂલે છે) તરીકે પણ ઉપલબ્ધ છે.
Gabriel Bernadett-Shapiro
વ્યક્તિગત ગ્રાન્ટી Gabriel Bernadett-Shapiro એ AI OSINT વર્કશોપ અને AI Security Starter Kit બનાવ્યા, જે વિદ્યાર્થીઓ, પત્રકારો, તપાસકર્તાઓ અને માહિતી-સુરક્ષા વ્યાવસાયિકો માટે LLMsના મૂળભૂત તત્ત્વો અને મફત સાધનો અંગે ટેકનિકલ તાલીમ આપે છે. ખાસ કરીને, Gabriel એ Johns Hopkins University ખાતે આંતરરાષ્ટ્રીય અત્યાચાર ગુના તપાસકર્તાઓ અને ઇન્ટેલિજન્સ સ્ટડીઝના વિદ્યાર્થીઓ માટે સંકળાયેલી તાલીમ પર ભાર મૂક્યો છે જેથી તેઓને અગત્યના અને પડકારજનક બંને પરિસ્થિતિઓમાં AI નો લાભ લેવા શ્રેષ્ઠ સાધનો મળી રહે.
Dartmouthનું Breuer Lab
ન્યુરલ નેટવર્ક્સ એવા હુમલાઓ માટે સંવેદનશીલ હોય છે જેમાં વિરોધીઓ મોડલ સાથે ક્રિયા કરીને ખાનગી તાલીમ ડેટા ફરીથી રચી કાઢે છે. આવા હુમલાઓ સામે રક્ષણ આપવા સામાન્ય રીતે મોડલની ચોકસાઈ અને તાલીમ સમય વચ્ચે ખર્ચાળ સમાધાન કરવું પડે છે. Dartmouth ખાતે પ્રોફેસર Adam Breuerનું(નવી વિન્ડોમાં ખૂલે છે) લેબ નવી રક્ષણાત્મક તકનીકો વિકસાવી રહ્યું છે જે ચોકસાઈ અથવા કાર્યક્ષમતામાં સમાધાન કર્યા વિના આવા હુમલાઓ અટકાવે છે.
Security Lab Boston University (SeclaBU)
કોડની નબળાઈઓની ઓળખ અને તેના વિશે રિજનીંગ કરવું સંશોધનનું અગત્યનું અને સક્રિય ક્ષેત્ર છે. Ph.D ઉમેદવાર Saad Ullah, SeclaBU(નવી વિન્ડોમાં ખૂલે છે)ના પ્રોફેસર Gianluca Stringhini અને Boston University ખાતે Peac Lab(નવી વિન્ડોમાં ખૂલે છે)ની પ્રોફેસર Ayse Coskun કોડમાં રહેલી નબળાઈઓ શોધવા અને સુધારવા LLMsની ક્ષમતા સુધારવા માટે કામ કરી રહ્યા છે. આ સંશોધન સાયબર રક્ષકોને દુભાવનાપૂર્વક ઉપયોગ થાય તેના પહેલાં કોડ એક્સ્પ્લોઇટ્સ શોધવા અને અટકાવવા સક્ષમ બનાવી શકે છે.
University of Santa Cruz (UCSC)નું CY-PHY Security Lab
પ્રોફેસર Alvaro Cardenas(નવી વિન્ડોમાં ખૂલે છે)નું UCSCનું સંશોધન જૂથ શોધી રહ્યું છે કે foundation models નો ઉપયોગ કરીને કમ્પ્યુટર નેટવર્કમાં ઘુસણખોરો સામે સ્વાયત્ત રીતે પ્રતિસાદ આપતા એજન્ટ કેવી રીતે ડિઝાઇન કરી શકાય, જેને autonomous cyber defense agents તરીકે ઓળખવામાં આવે છે. પ્રોજેક્ટનો હેતુ foundation modelsની તુલના રીઇન્ફોર્સમેન્ટ લર્નિંગ (RL)થી પ્રશિક્ષિત તેમના સમકક્ષો સાથે કરીને તેમના લાભો અને ગેરલાભો સમજવાનો છે, અને ત્યારબાદ તેઓ નેટવર્ક સુરક્ષા તથા જોખમ માહિતીના triage ને સુધારવા માટે કેવી રીતે સાથે કામ કરી શકે તે જાણવા છે.
MIT Computer Science Artificial Intelligence Laboratory (MIT CSAIL)
MIT Computer Science Artificial Intelligence Laboratory(નવી વિન્ડોમાં ખૂલે છે)ના Stephen Moskal, Erik Hemberg અને Una-May O’Reilly red-teaming માટે plan-act-report loopમાં પ્રોમ્પ્ટ એન્જિનિયરિંગ અભિગમોનો ઉપયોગ કરીને નિર્ણય પ્રક્રિયા કેવી રીતે સ્વચાલિત કરવી અને અમલયોગ્ય પ્રતિસાદ કેવી રીતે આપવો તે શોધી રહ્યા છે. ઉપરાંત, આ જૂથ Capture-the-Flag (CTF) પડકારોમાં LLM-Agent ક્ષમતાઓ પણ શોધી રહ્યું છે, જે નિયંત્રિત પર્યાવરણમાં નબળાઈઓ શોધવા માટેના અભ્યાસ છે.
ChatGPT સાયબર સુરક્ષા વ્યાવસાયિકો દ્વારા સૌથી લોકપ્રિય અને વારંવાર ઉપયોગમાં લેવાતા સાધનોમાંનું એક બની ગયું છે. સાયબર રક્ષકો માટેના સૌથી સામાન્ય ઉપયોગોમાં ટેકનિકલ જાર్గન અથવા લોગ ઇવેન્ટ્સને સરળ ભાષામાં અનુવાદિત અને ફરીથી લખવું, તપાસ દરમિયાન આર્ટિફેક્ટ્સનું વિશ્લેષણ કરવા કોડ લખવો, લોગ પાર્સર્સ બનાવવું અને કડક સમય મર્યાદામાં ઘટનાની સ્થિતિનો સારાંશ આપવો શામેલ છે.
તેના લાભોને વધુ વિસ્તૃત કરવા માટે, અમે સાયબર સુરક્ષા સમુદાયના ઘણા લોકોને મફત ChatGPT Plus ઍક્સેસ આપી છે, અને તેને સાયબર ડિફેન્સમાં AI અપનાવવાનું મજબૂત અવસર માનીએ છીએ.
અમે મફત ChatGPT Plus ખાતાઓ આપતા રહીશું અને આ પહેલને વિસ્તારી ChatGPT Team અને Enterprise પણ પ્રદાન કરી રહ્યા છીએ. આ વિસ્તરણની શરૂઆત અમારા ભાગીદારો Research and Education Network for Uganda (RENU)(નવી વિન્ડોમાં ખૂલે છે) સાથે થાય છે.
જો તમે સુરક્ષિત અને નવીન AI-સંચાલિત ભવિષ્ય માટેના અમારા વિઝન સાથે સહમત છો, તો અમે તમને તમારા પ્રસ્તાવો સબમિટ કરવા અને રક્ષણાત્મક સાયબર સુરક્ષા ટેકનોલોજીઓને મજબૂત બનાવવાના અમારા હેતુમાં જોડાવા આમંત્રિત કરીએ છીએ.
તમારો પ્રસ્તાવ અહીં સબમિટ કરો