ကျွန်ုပ်တို့၏ Cybersecurity Grant Program ဖြင့် ကာကွယ်သူများကို စွမ်းအားမြှင့်တင်ခြင်း

ကျွန်ုပ်တို့၏ Cybersecurity Grant Program⁠ အောက်တွင် ယမန်နှစ်အတွင်း ကျွန်ုပ်တို့ ထောက်ပံ့ပေးခဲ့သော လုပ်ငန်းများအကြောင်းကို ပိုမိုမျှဝေနေပါသည်။ 

2023 ခုနှစ်တွင် ကျွန်ုပ်တို့သည် ရဲရင့်သော မျှော်မှန်းချက်တစ်ခုဖြင့် Cybersecurity Grant Program ကို စတင်ခဲ့သည်။ ဆိုက်ဘာကာကွယ်သူများအား အဆင့်မြင့်ဆုံး AI မော်ဒယ်များဖြင့် တပ်ဆင်ပေးရန်နှင့် ဆိုက်ဘာလုံခြုံရေးနှင့် အတုဉာဏ်ရည် တို့ ဆုံစည်းရာနေရာတွင် အခြေခံပြောင်းလဲမှုဖြစ်စေမည့် သုတေသနကို စွမ်းအားမြှင့်တင်ရန် ဖြစ်သည်။ အသိုင်းအဝိုင်းမှ စိတ်အားထက်သန်သော တုံ့ပြန်မှုသည် ကျွန်ုပ်တို့၏ မျှော်လင့်ချက်ကို ကျော်လွန်ခဲ့ပြီး—လျှောက်လွှာ 600 ကျော် လက်ခံရရှိခဲ့သည်—၎င်းက OpenAI နှင့် ဆိုက်ဘာလုံခြုံရေး အသိုင်းအဝိုင်းအကြား အဓိပ္ပာယ်ပြည့်ဝသော ဆွေးနွေးမှုနှင့် သုတေသနဖလှယ်မှု၏ အရေးပါမှုနှင့် သက်ရောက်မှုကို အထူးပြသနေပါသည်။

အစပြုချိန်မှစ၍ ဤအစီအစဉ်သည် မတူကွဲပြားသော ပရောဂျက်အမျိုးမျိုးကို ထောက်ပံ့ပေးလာခဲ့သည်။ ၎င်းတို့ထဲမှ အချို့ကို မီးမောင်းထိုးပြနိုင်ခြင်းအတွက် ကျွန်ုပ်တို့ ဝမ်းမြောက်ပါသည်။ 

UC Berkeley မှ Wagner Lab

UC Berkeley ရှိ Professor David Wagner ၏ security research lab သည် LLM များတွင် prompt-injection attack များကို ကာကွယ်ရန် ရည်ရွယ်သည့် နည်းစနစ်အသစ်များကို ရှေ့ဆောင်ဖော်ထုတ်နေပါသည်။ ဤအဖွဲ့သည် OpenAI နှင့် ပူးပေါင်းကာ ဤမော်ဒယ်များ၏ ယုံကြည်စိတ်ချရမှုကို မြှင့်တင်ပြီး ၎င်းတို့ကို ဆိုက်ဘာလုံခြုံရေး ခြိမ်းခြောက်မှုများမှ ကာကွယ်ရန် လုပ်ဆောင်နေပါသည်။

Coguard

Coguard⁠(ဝင်းဒိုးအသစ်တွင် ဖွင့်မည်) ၏ တွဲဖက်တည်ထောင်သူနှင့် CTO ဖြစ်သူ Albert Heinle သည် လုံခြုံရေးဖြစ်စဉ်များ၏ အဖြစ်များသော အကြောင်းရင်းတစ်ခုဖြစ်သည့် software misconfiguration ကို လျှော့ချရန် AI ကို အသုံးပြုနေပါသည်။ Software configuration သည် ရှုပ်ထွေးပြီး software ကို network များနှင့် cluster များသို့ ချိတ်ဆက်သောအခါ ပိုမိုရှုပ်ထွေးလာသည်။ လက်ရှိ software solution များသည် ခေတ်နောက်ကျသော rules-based policy များအပေါ် အားထားနေသည်။ AI သည် misconfiguration များကို အလိုအလျောက် ရှာဖွေဖော်ထုတ်ပြီး ၎င်းတို့ကို နောက်ဆုံးအခြေအနေအတိုင်း ထိန်းသိမ်းရန် ကူညီနိုင်သည်။

Mithril Security

Mithril သည် LLM များအတွက် inference infrastructure ကို ပိုမိုခိုင်မာစေရန် proof-of-concept တစ်ခုကို ဖန်တီးထားပြီး၊ Trusted Platform Modules (TPMs) ကို အခြေခံထားသော secure enclave များနှင့်အတူ GPUs ပေါ်တွင် AI မော်ဒယ်များကို deploy လုပ်ရန် open-source tool များလည်း ပါဝင်သည်။ ဤပရောဂျက်၏ ရည်ရွယ်ချက်မှာ ဒေတာကို AI provider များထံ စီမံခန့်ခွဲသူများထံကပါ မဖော်ထုတ်ဘဲ ပေးပို့နိုင်ကြောင်း ပြသရန်ဖြစ်သည်။ ၎င်းတို့၏ လုပ်ဆောင်ချက်များကို GitHub⁠(ဝင်းဒိုးအသစ်တွင် ဖွင့်မည်) တွင် အများပြည်သူကြည့်ရှုနိုင်ပြီး၊ ၎င်းတို့၏ architecture ကို အသေးစိတ်ဖော်ပြထားသော whitepaper⁠(ဝင်းဒိုးအသစ်တွင် ဖွင့်မည်) အဖြစ်လည်း ရရှိနိုင်ပါသည်။

Gabriel Bernadett-Shapiro

တစ်ဦးချင်း grant ရရှိသူ Gabriel Bernadett-Shapiro သည် AI OSINT workshop နှင့် AI Security Starter Kit ကို ဖန်တီးခဲ့ပြီး၊ ကျောင်းသားများ၊ သတင်းထောက်များ၊ စုံစမ်းစစ်ဆေးသူများနှင့် သတင်းအချက်အလက်လုံခြုံရေး ပညာရှင်များအတွက် LLM အခြေခံများနှင့် အခမဲ့ tool များဆိုင်ရာ နည်းပညာသင်တန်းများ ပေးအပ်ထားသည်။ အထူးသဖြင့် Gabriel သည် Johns Hopkins University ရှိ အပြည်ပြည်ဆိုင်ရာ အကြမ်းဖက်ကျူးလွန်မှု စုံစမ်းစစ်ဆေးသူများနှင့် intelligence studies ကျောင်းသားများအတွက် ဆက်စပ်သင်တန်းများကို အလေးထားလုပ်ဆောင်ခဲ့ပြီး၊ အရေးကြီးသည့်နှင့် စိန်ခေါ်မှုရှိသည့် ပတ်ဝန်းကျင်နှစ်မျိုးလုံးတွင် AI ကို အကောင်းဆုံး အသုံးချနိုင်ရန် လိုအပ်သော tool များ ရှိစေရန် ကူညီပေးခဲ့သည်။

Breuer Lab at Dartmouth

Neural network များသည် model နှင့် အပြန်အလှန်ဆက်သွယ်ခြင်းဖြင့် သီးသန့် training data ကို ပြန်လည်တည်ဆောက်သည့် တိုက်ခိုက်မှုများအပေါ် ခံနိုင်ရည်နည်းသည်။ ဤတိုက်ခိုက်မှုများကို ကာကွယ်ရန် ပုံမှန်အားဖြင့် model တိကျမှုနှင့် training time အပေါ် ကုန်ကျစရိတ်မြင့်မားသော အပေးအယူများ လိုအပ်သည်။ Dartmouth ရှိ Professor Adam Breuer ၏⁠(ဝင်းဒိုးအသစ်တွင် ဖွင့်မည်) Lab သည် တိကျမှု သို့မဟုတ် ထိရောက်မှုကို မထိခိုက်စေဘဲ ဤတိုက်ခိုက်မှုများကို တားဆီးနိုင်သော defense technique အသစ်များကို ဖန်တီးနေပါသည်။

Security Lab Boston University (SeclaBU)

Code vulnerability များကို ခွဲခြားသတ်မှတ်ပြီး ကျိုးကြောင်းသင့်လျော်စွာ စဉ််းစားပေးသော နည်းဖြင့် လေ့လာခြင်းသည် အရေးကြီးပြီး တက်ကြွသော သုတေသနနယ်ပယ်တစ်ခုဖြစ်သည်။ Ph.D candidate Saad Ullah၊ SeclaBU⁠(ဝင်းဒိုးအသစ်တွင် ဖွင့်မည်) မှ Professor Gianluca Stringhini နှင့် Boston University ရှိ Peac Lab⁠(ဝင်းဒိုးအသစ်တွင် ဖွင့်မည်) မှ Professor Ayse Coskun တို့သည် code ထဲရှိ vulnerability များကို LLM များက ရှာဖွေပြီး ပြင်ဆင်နိုင်စွမ်းကို မြှင့်တင်ရန် လုပ်ဆောင်နေကြသည်။ ဤသုတေသနသည် ဆိုက်ဘာကာကွယ်သူများအား မကောင်းသည့် ရည်ရွယ်ချက်ဖြင့် အသုံးမပြုမီ code exploit များကို ကြိုတင်ဖမ်းဆီးကာ တားဆီးနိုင်စေရန် ကူညီပေးနိုင်သည်။

University of Santa Cruz (UCSC) မှ CY-PHY Security Lab

Professor Alvaro Cardenas⁠(ဝင်းဒိုးအသစ်တွင် ဖွင့်မည်) ၏ UCSC ရှိ Research Group သည် computer network intruder များကို အလိုအလျောက် တုံ့ပြန်သည့် အေးဂျင့် များ၊ အခြားအမည် autonomous cyber defense agents ဟု သိကြသည့် စနစ်များကို design လုပ်ရန် foundation model များကို မည်သို့အသုံးပြုနိုင်မည်ကို စူးစမ်းလေ့လာနေပါသည်။ ဤပရောဂျက်သည် foundation model များနှင့် အားဖြည့် သင်ယူလေ့လာခြင်း (RL) ဖြင့် လေ့ကျင့်ထားသော ၎င်းတို့၏ counterpart များ၏ အားသာချက်နှင့် အားနည်းချက်များကို နှိုင်းယှဉ်ရန်နှင့် ထို့နောက် network security နှင့် threat information triage ကို တိုးတက်စေရန် ၎င်းတို့ မည်သို့ပူးပေါင်းလုပ်ဆောင်နိုင်မည်ကို လေ့လာရန် ရည်ရွယ်ထားသည်။

MIT Computer Science Artificial Intelligence Laboratory (MIT CSAIL)

MIT Computer Science Artificial Intelligence Laboratory⁠(ဝင်းဒိုးအသစ်တွင် ဖွင့်မည်) မှ Stephen Moskal၊ Erik Hemberg နှင့် Una-May O’Reilly တို့သည် red-teaming အတွက် plan-act-report loop အတွင်း တုံ့ပြန်ညွှန်ကြားချက် တည်ဆောက်ခြင်း နည်းလမ်းများကို အသုံးပြုကာ ဆုံးဖြတ်ချက်ချမှတ်မှု လုပ်ငန်းစဉ်ကို အလိုအလျောက်ပြုလုပ်ရန်နှင့် လက်တွေ့လုပ်ဆောင်နိုင်သော တုံ့ပြန်မှုများ ဆောင်ရွက်ရန် နည်းလမ်းများကို စူးစမ်းလေ့လာနေကြသည်။ ထို့အပြင် အဖွဲ့သည် ထိန်းချုပ်ထားသော ပတ်ဝန်းကျင်တွင် vulnerability များကို ရှာဖွေရန် ရည်ရွယ်သည့် လေ့ကျင့်ခန်းများဖြစ်သော Capture-the-Flag (CTF) challenge များတွင် LLM-Agent စွမ်းရည်များကိုလည်း စူးစမ်းလေ့လာနေပါသည်။

ChatGPT သည် ဆိုက်ဘာလုံခြုံရေး ပညာရှင်များအကြား အလွန်လူကြိုက်များပြီး မကြာခဏ အသုံးပြုသည့် ကိရိယာများထဲမှ တစ်ခုအဖြစ် ပေါ်ထွက်လာခဲ့သည်။ ဆိုက်ဘာကာကွယ်သူများ၏ အများဆုံးအသုံးပြုမှုများထဲတွင် နည်းပညာဆိုင်ရာ jargon သို့မဟုတ် log event များကို ပိုမိုလွယ်ကူသော ဘာသာစကားဖြင့် ဘာသာပြန်ခြင်းနှင့် ပြန်လည်ရေးသားခြင်း၊ စုံစမ်းစစ်ဆေးမှုအတွင်း artifact များကို ခွဲခြမ်းစိတ်ဖြာရန် code ရေးသားခြင်း၊ log parser များ ဖန်တီးခြင်းနှင့် အချိန်ကန့်သတ်ချက်တင်းကျပ်နေစဉ် incident status ကို အကျဉ်းချုပ်တင်ပြခြင်းတို့ ပါဝင်သည်။

၎င်း၏ အကျိုးကျေးဇူးများကို ပိုမိုချဲ့ထွင်ရန် ကျွန်ုပ်တို့သည် ဆိုက်ဘာလုံခြုံရေး အသိုင်းအဝိုင်းမှ လူအများအပြားအား ChatGPT Plus ကို အခမဲ့ အသုံးပြုခွင့် ပေးအပ်ခဲ့ပြီး၊ ၎င်းကို ဆိုက်ဘာကာကွယ်ရေးတွင် AI လက်ခံအသုံးပြုမှုကို မြှင့်တင်ရန် အရေးကြီးသော အခွင့်အရေးတစ်ရပ်အဖြစ် မြင်ပါသည်။

ကျွန်ုပ်တို့သည် အခမဲ့ ChatGPT Plus အကောင့်များကို ဆက်လက်ပေးအပ်သွားမည်ဖြစ်ပြီး၊ ဤအစီအစဉ်ကို တိုးချဲ့ကာ ChatGPT Team နှင့် Enterprise ကိုပါ ပံ့ပိုးပေးနေပါသည်။ ကျွန်ုပ်တို့၏ တိုးချဲ့မှုကို Research and Education Network for Uganda (RENU)⁠(ဝင်းဒိုးအသစ်တွင် ဖွင့်မည်) ရှိ မိတ်ဖက်များနှင့် စတင်နေပါသည်။

လုံခြုံပြီး ဆန်းသစ်တီထွင်သော AI မောင်းနှင်သည့် အနာဂတ်အတွက် ကျွန်ုပ်တို့၏ မျှော်မှန်းချက်ကို သင်မျှဝေပါက၊ ကာကွယ်ရေးဆိုင်ရာ ဆိုက်ဘာလုံခြုံရေး နည်းပညာများကို မြှင့်တင်ရန် ရည်မှန်းချက်တွင် ပါဝင်နိုင်ရန် သင့်အဆိုပြုချက်များကို တင်သွင်းပါရန် ဖိတ်ခေါ်အပ်ပါသည်။

သင့်အဆိုပြုချက်ကို ဤနေရာတွင်⁠ တင်သွင်းပါ