Біздің киберқауіпсіздікке арналған гранттық бағдарламамыз арқылы қорғаушыларды қолдау
Киберқауіпсіздіктегі инновациялық зерттеулер мен AI интеграциясын көрсету.
Өткен жылы біздің Киберқауіпсіздікке арналған гранттық бағдарламамыз аясында қолдау көрсеткен жұмысымыз туралы толығырақ бөлісіп отырмыз.
2023 жылы біз батыл көзқараспен Киберқауіпсіздікке арналған гранттық бағдарламаны іске қостық: киберқорғаушыларды ең озық AI модельдерімен жабдықтау және киберқауіпсіздік пен жасанды интеллект тоғысындағы жаңашыл зерттеулерге қолдау көрсету. Қауымдастықтың зор ықыласы күткенімізден асып түсті — біз 600-ден астам өтінім алдық — бұл OpenAI мен киберқауіпсіздік қауымдастығы арасындағы мазмұнды пікір алмасу мен зерттеу диалогының аса қажет әрі ықпалды екенін көрсетті.
Бағдарлама іске қосылғалы бері сан алуан жобаларға қолдау көрсетті. Солардың бірнешеуін атап өтуге қуаныштымыз.
UC Berkeley жанындағы Wagner Lab
UC Berkeley-дегі профессор Дэвид Вагнердің қауіпсіздік зертханасы үлкен тілдік модельдердегі (LLM) көмексөз инъекциясы шабуылдарынан қорғануға бағытталған тәсілдердің бастамашысы болып отыр. Топ осы модельдердің сенімділігін арттырып, оларды киберқауіпсіздік қатерлерінен қорғау үшін OpenAI-мен жұмыс істеп жатыр.
Coguard
Coguard(жаңа терезеде ашылады) компаниясының негізін қалаушысы әрі CTO-сы Альберт Хайнле AI-ды қауіпсіздік инциденттерінің жиі себебі болатын бағдарламалық жасақтама конфигурациясындағы қателерді азайту үшін қолданады. Бағдарламалық жасақтама конфигурациясы күрделі, ал бағдарламалық жасақтаманы желілер мен кластерлерге қосқанда бұл одан сайын қиындай түседі. Қазіргі бағдарламалық шешімдер ескірген ережеге негізделген саясаттарға сүйенеді. AI қате конфигурацияларды анықтауды автоматтандыруға және оларды өзекті күйде ұстауға көмектесе алады.
Mithril Security
Mithril LLM-дерге арналған инференс инфрақұрылымын нығайту үшін proof-of-concept әзірледі, оған Trusted Platform Modules (TPM) негізіндегі қорғалған анклавтары бар GPU-ларда AI модельдерін орналастыруға арналған ашық кодты құралдар кіреді. Бұл жоба деректерді AI провайдерлеріне ешбір дерек ашылмай, тіпті әкімшілерге де көрінбей жіберуге болатынын көрсетуге бағытталған. Олардың жұмысы GitHub-та(жаңа терезеде ашылады) және архитектурасын сипаттайтын whitepaper ретінде(жаңа терезеде ашылады) көпшілікке ашық қолжетімді.
Gabriel Bernadett-Shapiro
Жеке грант иегері Габриэль Бернадетт-Шапиро AI OSINT workshop пен AI Security Starter Kit жасап, LLM негіздері бойынша техникалық оқыту мен студенттерге, журналистерге, тергеушілерге және ақпараттық қауіпсіздік мамандарына арналған тегін құралдар ұсынды. Атап айтқанда, Габриэль халықаралық жаппай қылмыс тергеушілері мен Johns Hopkins University-дегі барлау зерттеулері студенттеріне арналған байланысты оқытуға ерекше мән беріп, олардың AI-ды аса маңызды әрі күрделі ортада қолдануға ең жақсы құралдарға ие болуына көмектесті.
Dartmouth жанындағы Breuer Lab
Нейрондық желілерге қарсыластар модельмен өзара әрекеттесу арқылы жекеменшік жаттықтыру деректерін қайта құрастыратын шабуылдар осал келеді. Мұндай шабуылдардан қорғану әдетте модель дәлдігі мен жаттықтыру уақыты тұрғысынан қымбат ымыраларды талап етеді. Dartmouth-тағы профессор Адам Брюэрдің(жаңа терезеде ашылады) зертханасы дәлдік пен тиімділікті төмендетпей, мұндай шабуылдардың алдын алатын жаңа қорғаныс тәсілдерін әзірлеп жатыр.
Boston University Security Lab (SeclaBU)
Кодтағы осалдықтарды анықтау және олар жөнінде ой қорыту — зерттеудің маңызды әрі белсенді саласы. Ph.D кандидаты Саад Улла, SeclaBU(жаңа терезеде ашылады)-дан профессор Джанлука Стриньини және Boston University-дегі Peac Lab(жаңа терезеде ашылады)-тан профессор Айше Чошкун LLM-дердің кодтағы осалдықтарды анықтау және түзету қабілетін жақсарту бағытында жұмыс істеп жатыр. Бұл зерттеу киберқорғаушыларға кодтағы эксплуатацияларды зиянды мақсатта қолданылмай тұрып анықтап, алдын алуға мүмкіндік беруі мүмкін.
University of Santa Cruz (UCSC) жанындағы CY-PHY Security Lab
Профессор Альваро Карденастың(жаңа терезеде ашылады) UCSC-тегі зерттеу тобы foundation model-дерді компьютерлік желіге енген бұзушыларға автономды түрде жауап беретін агенттерді, яғни автономды киберқорғаныс агенттерін жобалау үшін қалай қолдануға болатынын зерттеп жатыр. Жоба foundation model-дердің reinforcement learning (RL) арқылы жаттықтырылған баламаларымен салыстырғандағы артықшылықтары мен кемшіліктерін, кейін олардың желі қауіпсіздігін және қауіп туралы ақпаратты триаждауды жақсарту үшін қалай бірлесіп жұмыс істей алатынын салыстыруды көздейді.
MIT Computer Science Artificial Intelligence Laboratory (MIT CSAIL)
MIT Computer Science Artificial Intelligence Laboratory(жаңа терезеде ашылады)-дан Стивен Москал, Эрик Хемберг және Уна-Мэй О’Райли red-teaming үшін жоспарлау-әрекет-есеп беру циклінде көмексөз инженериясы тәсілдерін қолданып, шешім қабылдау үдерісін автоматтандыру мен іске асатын жауаптарды орындау жолдарын зерттеп жатыр. Бұған қоса, топ Capture-the-Flag (CTF) сынақтарында LLM-Agent мүмкіндіктерін зерттеп жатыр — бұл бақыланатын ортада осалдықтарды табуға бағытталған жаттығулар.
ChatGPT киберқауіпсіздік мамандары ең танымал әрі жиі қолданатын құралдардың біріне айналды. Киберқорғаушылар оны көбіне техникалық жаргонды не журнал оқиғаларын қарапайым тілге аудару және қайта тұжырымдау, тергеу кезінде артефактілерді талдауға арналған код жазу, журнал талдағыштарын жасау және қатаң уақыт шектеуінде инцидент күйін қорытындылау үшін қолданады.
Оның пайдасын арттыру үшін біз киберқауіпсіздік қауымдастығындағы көптеген адамға ChatGPT Plus-қа тегін қолжеткізуді ұсындық және мұны киберқорғаныста AI қолдануын күшейтудің маңызды мүмкіндігі деп санаймыз.
Біз тегін ChatGPT Plus аккаунттарын ұсынуды жалғастырамыз және бұл бастаманы ChatGPT Team мен Enterprise ұсыну арқылы кеңейтеміз. Кеңеюіміз Уганданың Зерттеу және білім беру желісіндегі (RENU)(жаңа терезеде ашылады) серіктестерімізден басталады.
Егер сіз қауіпсіз әрі инновациялық, AI-ға негізделген болашақ туралы біздің көзқарасымызды бөліссеңіз, ұсыныстарыңызды жіберіп, қорғанысқа арналған киберқауіпсіздік технологияларын жетілдіру мақсатына бізбен бірге қосылуға шақырамыз.
Ұсынысыңызды осында жіберіңіз