Nguatake para pembela liwat Program Hibah Keamanan Siber kita
Nyorot riset inovatif lan integrasi AI ing keamanan siber.
Kita nuduhake luwih akeh babagan karya sing wis kita dukung sajrone setahun kepungkur liwat Program Hibah Keamanan Siber kita.
Ing 2023, kita ngluncurake Program Hibah Keamanan Siber kanthi visi gedhe: nyedhiyakake model AI paling canggih kanggo para pembela siber lan nguatake riset terobosan ing persimpangan keamanan siber lan kecerdasan buatan. Tanggepan antusias saka komunitas ngluwihi pangarepan kita—kita wis nampa luwih saka 600 lamaran—sing negesake kabutuhan kritis lan dampak saka diskusi bermakna lan dialog riset antarane OpenAI lan komunitas keamanan siber.
Wiwit diwiwiti, program iki wis ndhukung maneka warna proyek. Kita seneng nyorot sawetara ing antarane.
Wagner Lab saka UC Berkeley
Lab riset keamanan Profesor David Wagner ing UC Berkeley dadi pelopor teknik kanggo mbela saka serangan prompt-injection ing large language models (LLMs). Klompok iki kerja bareng OpenAI kanggo ningkatake kapercayan marang model-model iki lan nglindhungi saka ancaman keamanan siber.
Coguard
Albert Heinle, co-founder lan CTO ing Coguard(mbukak ing jendhela anyar), nggunakake AI kanggo nyuda salah konfigurasi piranti lunak, salah siji sebab umum insiden keamanan. Konfigurasi piranti lunak iku rumit, lan dadi luwih angel nalika nyambungake piranti lunak menyang jaringan lan klaster. Solusi piranti lunak saiki gumantung marang kabijakan berbasis aturan sing wis ketinggalan jaman. AI bisa mbantu ngotomatisasi deteksi salah konfigurasi lan njaga supaya tetep dianyari.
Mithril Security
Mithril wis ngembangake proof-of-concept kanggo nguwatake infrastruktur inferensi kanggo LLM, kalebu piranti open-source kanggo masang model AI ing GPU nganggo secure enclaves adhedhasar Trusted Platform Modules (TPMs). Proyek iki nduweni tujuan kanggo nduduhake manawa data bisa dikirim menyang panyedhiya AI tanpa ana paparan data, malah marang administrator sekalipun. Karyane kasedhiya umum ing GitHub(mbukak ing jendhela anyar), lan uga minangka whitepaper sing njlentrehake arsitekture(mbukak ing jendhela anyar).
Gabriel Bernadett-Shapiro
Penerima hibah individu, Gabriel Bernadett-Shapiro, nggawe lokakarya AI OSINT lan AI Security Starter Kit, sing nawakake pelatihan teknis babagan dasar-dasar LLM lan piranti gratis kanggo siswa, jurnalis, penyelidik, lan profesional keamanan informasi. Khususe, Gabriel nekanake pelatihan afiliasi kanggo penyelidik kejahatan kekejaman internasional lan mahasiswa studi intelijen ing Johns Hopkins University kanggo mbantu mesthekake yen dheweke duwe piranti paling apik kanggo nggunakke AI ing lingkungan sing kritis lan nantang.
Breuer Lab ing Dartmouth
Jaringan saraf rentan marang serangan nalika mungsuh mbangun maneh data pelatihan pribadi kanthi sesambungan karo model. Pertahanan saka serangan iki biasane mbutuhake tradeoff sing larang saka sisi akurasi model lan wektu pelatihan. Lab Profesor Adam Breuer(mbukak ing jendhela anyar) ing Dartmouth lagi ngembangake teknik pertahanan anyar sing nyegah serangan iki tanpa ngorbanake akurasi utawa efisiensi.
Security Lab Boston University (SeclaBU)
Ngenali lan nalar babagan kerentanan kode iku wilayah riset sing penting lan aktif. Kandidat Ph.D Saad Ullah, Profesor Gianluca Stringhini saka SeclaBU(mbukak ing jendhela anyar) lan Profesor Ayse Coskun saka Peac Lab(mbukak ing jendhela anyar) ing Boston University lagi kerja kanggo ningkatake kemampuan LLM kanggo ndeteksi lan ndandani kerentanan ing kode. Riset iki bisa ndadekake para pembela siber bisa nangkep lan nyegah eksploitasi kode sadurunge digunakake kanthi niat ala.
CY-PHY Security Lab saka University of Santa Cruz (UCSC)
Professor Alvaro Cardenas(mbukak ing jendhela anyar)’ Research Group saka UCSC lagi njelajah carane kita bisa nggunakake foundation model kanggo ngrancang agen sing nanggapi kanthi otonom marang penyusup jaringan komputer, sing uga dikenal minangka agen pertahanan siber otonom. Proyek iki nduweni tujuan mbandhingake kaluwihan lan kekurangan foundation model karo padanané sing dilatih nganggo sinau penguatan (RL) lan, sabanjure, kepiye cara bisa kerja bareng kanggo ningkatake keamanan jaringan lan triase informasi ancaman.
MIT Computer Science Artificial Intelligence Laboratory (MIT CSAIL)
Stephen Moskal, Erik Hemberg lan Una-May O’Reilly saka MIT Computer Science Artificial Intelligence Laboratory(mbukak ing jendhela anyar) lagi njelajah cara ngotomatisasi proses pengambilan keputusan lan nindakake tanggapan sing bisa ditindaklanjuti nganggo pendekatan rekayasa prompt ing loop plan-act-report kanggo red-teaming. Kajaba iku, klompok iki uga njelajah kapabilitas LLM-Agent ing tantangan Capture-the-Flag (CTF) - latihan sing tujuane nemokake kerentanan ing lingkungan sing dikontrol.
ChatGPT wis dadi salah siji piranti sing paling populer lan kerep digunakake dening para profesional keamanan siber. Sawetara panggunaan sing paling umum kanggo para pembela siber kalebu nerjemahake lan nyusun ulang jargon teknis utawa kedadeyan log dadi basa sing luwih gampang, nulis kode kanggo nganalisa artefak sajrone investigasi, nggawe parser log, lan ngringkes status insiden ing wates wektu sing ketat.
Kanggo nggedhekake paedahe, kita wis menehi akses gratis menyang ChatGPT Plus marang akeh wong ing komunitas keamanan siber, amarga iki dadi kesempatan penting kanggo ningkatake adopsi AI ing pertahanan siber.
Kita bakal terus nawakake akun ChatGPT Plus gratis lan ngembangake inisiatif iki kanggo nyedhiyakake ChatGPT Team lan Enterprise. Ekspansi kita diwiwiti karo mitra kita ing Research and Education Network for Uganda (RENU)(mbukak ing jendhela anyar).
Yen sampeyan nuduhake visi kita babagan masa depan sing aman lan inovatif kanthi AI, kita ngajak sampeyan ngirim proposal lan gabung karo upaya kita kanggo ningkatake teknologi keamanan siber defensif.
Kirim proposal sampeyan ing kene