Nagħtu s-saħħa lid-difensuri permezz tal-Programm tagħna ta’ Għotjiet għaċ-Ċibersigurtà
Nenfasizzaw riċerka innovattiva u l-integrazzjoni tal-IA fiċ-ċibersigurtà.
Qed naqsmu aktar dwar ix-xogħol li ssponsorjajna fl-aħħar sena taħt il-Programm ta’ Għotjiet għaċ-Ċibersigurtà tagħna.
Fl-2023, varajna l-Programm ta’ Għotjiet għaċ-Ċibersigurtà b’viżjoni kuraġġuża: li ngħammru lid-difensuri ċibernetiċi bl-aktar mudelli tal-IA avvanzati u li nagħtu s-saħħa lil riċerka innovattiva fil-punt ta’ laqgħa bejn iċ-ċibersigurtà u l-intelliġenza artifiċjali. Ir-rispons entużjast mill-komunità qabeż l-aspettattivi tagħna—irċevejna aktar minn 600 applikazzjoni—u dan jenfasizza l-ħtieġa kritika għal u l-impatt ta’ diskors sinifikanti u djalogu ta’ riċerka bejn OpenAI u l-komunità taċ-ċibersigurtà.
Sa mill-bidu tiegħu, il-programm appoġġa firxa diversa ta’ proġetti. Ninsabu eċċitati li nenfasizzaw ftit minnhom.
Wagner Lab minn UC Berkeley
Il-laboratorju tar-riċerka dwar is-sigurtà tal-Professur David Wagner f’UC Berkeley qed ikun pijunier f’tekniki mmirati biex jiddefendu kontra attakki ta’ prompt-injection fil-LLMs. Il-grupp qed jaħdem ma’ OpenAI biex itejjeb l-affidabbiltà ta’ dawn il-mudelli u jipproteġihom kontra theddid taċ-ċibersigurtà.
Coguard
Albert Heinle, ko-fundatur u CTO ta’ Coguard(jinfetaħ f’tieqa ġdida), juża l-IA biex inaqqas il-konfigurazzjoni ħażina tas-software, kawża komuni ta’ inċidenti ta’ sigurtà. Il-konfigurazzjoni tas-software hija kumplessa, u dan jiżdied meta s-software jiġi mqabbad ma’ networks u clusters. Is-soluzzjonijiet attwali tas-software jiddependu fuq politiki bbażati fuq regoli antikwati. L-IA tista’ tgħin biex tawtomatizza l-identifikazzjoni ta’ konfigurazzjonijiet ħżiena u żżommhom aġġornati.
Mithril Security
Mithril żviluppat prova ta’ kunċett biex issaħħaħ l-infrastruttura tal-inference għall-LLMs, inklużi għodod open-source biex jitqiegħdu mudelli tal-IA fuq GPUs b’enclaves siguri bbażati fuq Trusted Platform Modules (TPMs). Dan il-proġett għandu l-għan li juri li d-data tista’ tintbagħat lill-fornituri tal-IA mingħajr ebda espożizzjoni tad-data, anke lill-amministraturi. Ix-xogħol tagħhom huwa disponibbli pubblikament fuq GitHub(jinfetaħ f’tieqa ġdida), u bħala whitepaper li jiddettalja l-arkitettura tagħhom(jinfetaħ f’tieqa ġdida).
Gabriel Bernadett-Shapiro
Benefiċjarju individwali, Gabriel Bernadett-Shapiro, ħoloq l-AI OSINT workshop u l-AI Security Starter Kit, li joffru taħriġ tekniku dwar il-bażiċi tal-LLMs u għodod bla ħlas għal studenti, ġurnalisti, investigaturi u professjonisti tas-sigurtà tal-informazzjoni. B’mod partikolari, Gabriel enfasizza taħriġ affiljat għal investigaturi internazzjonali ta’ delitti ta’ atroċità u studenti tal-istudji tal-intelligence f’Johns Hopkins University biex jgħin jiżgura li jkollhom l-aħjar għodod biex jisfruttaw l-IA kemm f’ambjenti kritiċi kif ukoll ta’ sfida.
Breuer Lab at Dartmouth
In-netwerks newrali huma vulnerabbli għal attakki fejn avversarji jerġgħu jibnu data privata tat-taħriġ billi jinteraġixxu mal-mudell. Id-difiża kontra dawn l-attakki tipikament teħtieġ kompromessi għaljin f’termini ta’ preċiżjoni tal-mudell u ħin tat-taħriġ. Il-Lab tal-Professur Adam Breuer(jinfetaħ f’tieqa ġdida) f’Dartmouth qed tiżviluppa tekniki ġodda ta’ difiża li jipprevjenu dawn l-attakki mingħajr ma jikkompromettu l-preċiżjoni jew l-effiċjenza.
Security Lab Boston University (SeclaBU)
L-identifikazzjoni u r-raġunament dwar vulnerabbiltajiet fil-kodiċi huwa qasam importanti u attiv ta’ riċerka. Il-kandidat Ph.D Saad Ullah, il-Professur Gianluca Stringhini minn SeclaBU(jinfetaħ f’tieqa ġdida) u l-Professur Ayse Coskun minn Peac Lab(jinfetaħ f’tieqa ġdida) f’Boston University qed jaħdmu biex itejbu l-kapaċità tal-LLMs li jindividwaw u jsewwu vulnerabbiltajiet fil-kodiċi. Din ir-riċerka tista’ tippermetti lid-difensuri ċibernetiċi jaqbdu u jipprevjenu sfruttamenti tal-kodiċi qabel ma jintużaw b’mod malizzjuż.
CY-PHY Security Lab from the University of Santa Cruz (UCSC)
Il-Grupp ta’ Riċerka tal-Professur Alvaro Cardenas(jinfetaħ f’tieqa ġdida) mill-UCSC qed jesplora kif nistgħu nużaw foundation models biex niddisinjaw aġenti li jirrispondu b’mod awtonomu għall-intrużi fin-networks tal-kompjuter, magħrufa wkoll bħala aġenti awtonomi ta’ difiża ċibernetika. Il-proġett għandu l-intenzjoni jqabbel il-vantaġġi u l-iżvantaġġi tal-foundation models mal-kontropartijiet tagħhom imħarrġa bl-użu ta’ apprendiment ta' tisħiħ (RL) u, sussegwentement, kif jistgħu jaħdmu flimkien biex itejbu s-sigurtà tan-network u t-triage tal-informazzjoni dwar it-theddid.
MIT Computer Science Artificial Intelligence Laboratory (MIT CSAIL)
Stephen Moskal, Erik Hemberg u Una-May O’Reilly minn MIT Computer Science Artificial Intelligence Laboratory(jinfetaħ f’tieqa ġdida) qed jesploraw kif tawtomatizzaw il-proċess tat-teħid tad-deċiżjonijiet u jwettqu risposti azzjonabbli billi jużaw approċċi ta’ inġinerija tal-prompts f’ċiklu ta’ pjan-aġixxi-irrapporta għar-red-teaming. Barra minn hekk, il-grupp qed jesplora l-kapaċitajiet ta’ LLM-Agent fl-isfidi ta’ Capture-the-Flag (CTF) - eżerċizzji mmirati biex jiskopru vulnerabbiltajiet f’ambjent ikkontrollat.
ChatGPT sar wieħed mill-aktar għodod popolari u użati ta’ spiss mill-professjonisti taċ-ċibersigurtà. Fost l-aktar użi komuni għad-difensuri ċibernetiċi hemm it-traduzzjoni u r-riformulazzjoni ta’ jargon tekniku jew avvenimenti tal-logs f’lingwa aktar sempliċi, il-kitba ta’ kodiċi biex janalizzaw artifacts waqt investigazzjonijiet, il-ħolqien ta’ parsers tal-logs, u s-sommarju tal-istatus ta’ inċident taħt limiti stretti ta’ ħin.
Biex inkabbru l-benefiċċji tiegħu, tajna aċċess bla ħlas għal ChatGPT Plus lil ħafna nies fil-komunità taċ-ċibersigurtà, u rajna dan bħala opportunità ewlenija biex intejbu l-adozzjoni tal-IA fid-difiża ċibernetika.
Se nkomplu noffru kontijiet ta’ ChatGPT Plus bla ħlas u qed nestendu din l-inizjattiva biex nipprovdu ChatGPT Team u Enterprise. L-espansjoni tagħna tibda mas-sħab tagħna fir-Research and Education Network for Uganda (RENU)(jinfetaħ f’tieqa ġdida).
Jekk taqsmu l-viżjoni tagħna għal futur sigur u innovattiv immexxi mill-IA, nistednukom tissottomettu l-proposti tagħkom u tingħaqdu magħna fl-għan tagħna li ntejbu t-teknoloġiji difensivi taċ-ċibersigurtà.
Ibgħat il-proposta tiegħek hawn