Xoojinta difaacayaasha iyada oo loo marayo Barnaamijkeenna Deeqaha Amniga Internetka

Waxaan wadaagaynaa wax badan oo ku saabsan shaqadii aan maalgelinnay sanadkii la soo dhaafay ee hoos timid Barnaamijkeenna Deeqaha Amniga Internetka⁠. 

Sannadkii 2023, waxaan bilownay Barnaamijka Deeqaha Amniga Internetka annagoo leh himilo geesinimo leh: inaan ku qalabeyno difaacayaasha internetka noocyada AI ee ugu horumarsan iyo inaan awood siinno cilmi-baaris hormuud ah halka ay ku kulmaan amniga internetka iyo sirdoonka macmalka ah. Jawaabta xamaasadda leh ee bulshada ayaa ka sarreysay wixii aan filaynay—waxaan helnay in ka badan 600 codsi—taas oo muujinaysa baahida daran iyo saameynta wadahadal macne leh iyo isdhaafsiga cilmi-baarista ee u dhexeeya OpenAI iyo bulshada amniga internetka.

Tan iyo markii la aasaasay, barnaamijku waxa uu taageeray mashaariic kala duwan. Waxaan ku faraxsanahay inaan iftiimino qaar ka mid ah. 

Wagner Lab ee UC Berkeley

Shaybaarka cilmi-baarista amniga ee Professor David Wagner ee UC Berkeley waxa uu hormuud ka yahay farsamooyin loogu talagalay difaaca weerarrada prompt-injection ee LLM (Qaabka Luuqadda Ballaaran)-yada. Kooxdu waxay la shaqaynaysaa OpenAI si loo xoojiyo kalsoonida noocyadan loogana ilaaliyo hanjabaadaha amniga internetka.

Coguard

Albert Heinle, aasaase-wadaag iyo CTO ee Coguard⁠(ku furmaa daaqad cusub), waxa uu adeegsadaa AI si loo yareeyo khaladaadka habaynka software-ka, oo ah sabab caadi ah oo keenta dhacdooyinka amniga. Habaynta software-ku waa mid adag, taas oo sii adkaata marka software-ka lagu xiro shabakado iyo clusters. Xalalka software-ka ee hadda jira waxay ku tiirsan yihiin siyaasado ku salaysan xeerar duugoobay. AI waxay gacan ka geysan kartaa otomaatig ka dhigista ogaanshaha habayn khaldan iyo cusboonaysiintooda.

Mithril Security

Mithril waxay samaysay proof-of-concept lagu xoojinayo kaabayaasha inference-ka ee LLM-yada, oo ay ku jiraan qalab il-furan ah oo lagu daabulo noocyada AI ee GPUs leh secure enclaves ku salaysan Trusted Platform Modules (TPMs). Mashruucani wuxuu ujeedkiisu yahay inuu muujiyo in xogta loo diri karo bixiyeyaasha AI iyada oo aan wax xog ah bannaanka u bixin, xitaa maamulayaasha. Shaqadoodu si dadweyne ah ayay uga taallaa GitHub⁠(ku furmaa daaqad cusub), iyo sidoo kale warqad cad oo faahfaahinaysa qaab-dhismeedkooda⁠(ku furmaa daaqad cusub).

Gabriel Bernadett-Shapiro

Deeq-qaate shaqsi ah, Gabriel Bernadett-Shapiro, ayaa sameeyay aqoon-is-weydaarsiga AI OSINT iyo AI Security Starter Kit, isagoo bixinaya tababar farsamo oo ku saabsan aasaaska LLM-yada iyo qalab bilaash ah oo loogu talagalay ardayda, saxafiyiinta, baarayaasha iyo xirfadlayaasha amniga macluumaadka. Gaar ahaan, Gabriel wuxuu xoogga saaray tababarro la xiriira baarayaasha dambiyada xasuuqa caalamiga ah iyo ardayda daraasaadka sirdoonka ee Johns Hopkins University si looga caawiyo inay haystaan qalabka ugu fiican ee ay AI uga faa’iidaystaan deegaanada adag ee xasaasiga ah.

Breuer Lab ee Dartmouth

Shabakadaha neerfaha waxay u nugul yihiin weerarro ay cadowgu dib uga soo saaraan xogta tababarka ee gaarka ah iyagoo la falgalaya nooca. Difaaca weerarradan badanaa wuxuu u baahan yahay is-dhaafsi qaali ah marka la eego saxnaanta nooca iyo waqtiga tababarka. Shaybaarka Professor Adam Breuer⁠(ku furmaa daaqad cusub) ee Dartmouth wuxuu horumarinayaa farsamooyin difaac oo cusub oo ka hortaga weerarradan iyada oo aan la dhimayn saxnaanta ama hufnaanta.

Security Lab Boston University (SeclaBU)

Aqoonsiga iyo caqliyeynta nuglaanshaha koodka waa goob cilmi-baaris muhiim ah oo firfircoon. Musharraxa Ph.D Saad Ullah, Professor Gianluca Stringhini oo ka tirsan SeclaBU⁠(ku furmaa daaqad cusub) iyo Professor Ayse Coskun oo ka tirsan Peac Lab⁠(ku furmaa daaqad cusub) ee Boston University waxay ka shaqaynayaan hagaajinta awoodda LLM-yada ee ogaanshaha iyo sixidda nuglaanshaha koodka. Cilmi-baaristani waxay awood siin kartaa difaacayaasha internetka inay qabtaan oo ka hortagaan ka-faa’iidaysiga koodka ka hor inta aan si xun loo isticmaalin.

CY-PHY Security Lab ee University of Santa Cruz (UCSC)

Professor Alvaro Cardenas⁠(ku furmaa daaqad cusub) kooxdiisa cilmi-baarista ee UCSC waxay sahminaysaa sida aan u adeegsan karno foundation models si aan u naqshadeyno wakiillo si madaxbannaan uga jawaaba soo-galayaasha shabakadaha kombiyuutarka, kuwaas oo sidoo kale loo yaqaan wakiillada difaaca internetka ee iswada. Mashruucu wuxuu doonayaa inuu isbarbar dhigo faa’iidooyinka iyo khasaaraha foundation models iyo dhiggooda lagu tababaray waxbarashadda xoojinta ah (RL) iyo sida ay dabadeed ugu wada shaqayn karaan hagaajinta amniga shabakadda iyo kala hormarinta macluumaadka hanjabaadda.

MIT Computer Science Artificial Intelligence Laboratory (MIT CSAIL)

Stephen Moskal, Erik Hemberg iyo Una-May O’Reilly oo ka socda MIT Computer Science Artificial Intelligence Laboratory⁠(ku furmaa daaqad cusub) waxay sahminayaan sida loo otomaatigeyn karo habka go’aan-qaadashada loona fulin karo jawaabo la taaban karo iyadoo la adeegsanayo habab injineeriyadda weydiinta ah oo ku jira wareeg plan-act-report ah oo loogu talagalay red-teaming.  Intaa waxaa dheer, kooxdu waxay sahminaysaa awoodaha LLM-Agent ee caqabadaha Capture-the-Flag (CTF) — layliyo loogu talagalay ogaanshaha nuglaanshooyinka deegaan la xakameeyay.

ChatGPT waxa uu noqday mid ka mid ah aaladaha ugu caansan uguna badan ee ay adeegsadaan xirfadlayaasha amniga internetka. Adeegsiyada ugu badan ee difaacayaasha internetka waxaa ka mid ah turjumaadda iyo dib-u-eraynta ereyada farsamo ama dhacdooyinka log-ga si loo fududeeyo, qorista kood si loo falanqeeyo raadadka inta lagu jiro baaritaannada, samaynta parsers-ka log-ga, iyo soo koobidda xaaladda dhacdo amni iyadoo waqtigu aad u xaddidan yahay.

Si loo kordhiyo faa’iidooyinkiisa, waxaan siinay marin bilaash ah oo ChatGPT Plus ah dad badan oo ka tirsan bulshada amniga internetka, annagoo u aragna tan fursad muhiim ah oo lagu xoojinayo qaadashada AI ee difaaca internetka.

Waxaan sii wadi doonnaa bixinta akoonno ChatGPT Plus oo bilaash ah, waxaana ballaarinaynaa hindisahan si aan u bixinno ChatGPT Team iyo Enterprise. Ballaarinteennu waxay ka bilaabanaysaa la-hawlgalayaasheenna ee Research and Education Network for Uganda (RENU)⁠(ku furmaa daaqad cusub).

Haddii aad nala wadaagto himiladeenna ku wajahan mustaqbal ammaan ah oo hal-abuur leh oo AI horseed ka yahay, waxaan kugu casuumeynaa inaad soo gudbiso soo-jeedimahaaga oo aad nagu soo biirto yoolkeenna ah xoojinta teknoolojiyada difaaca amniga internetka.

Soo gudbi soo-jeedintaada halkan⁠