Az OpenAI és a lengyel NASK összefog az MI biztonságának és védelmének erősítéséért
Az OpenAI és a lengyel NASK Nemzeti Kutatóintézet megállapodást írt alá, hogy feltárják az együttműködés lehetőségeit az MI biztonsága, védelme és műszaki kutatása terén. A partnerség egyesíti a két szervezet szaktudását, hogy jobban megértsék az újonnan felmerülő kockázatokat, megerősítsék a védelmi intézkedéseket, és feltárják, hogyan járulhat hozzá a fejlett MI egy biztonságosabb és ellenállóbb digitális ökoszisztémához.
Ahogy az MI-rendszerek egyre többre képesek, a fejlesztők és az állami kutatóintézetek közötti nemzetközi együttműködés elengedhetetlenné válik a kockázatok megértéséhez és a hatékonyabb védelem kialakításához. Az OpenAI már együttműködik a szuperintelligencia szabványainak és innovációjának előmozdításáért felelős amerikai központtal (CAISSI), a brit MI-biztonsági Intézettel (AISI) és a világ más állami kutatóintézeteivel. Ez a közös munka már eddig is hozzájárult a védelmi intézkedések megerősítéséhez, az MI-ügynökök biztonsági sérülékenységeinek feltárásához és javításához, valamint az élvonalbeli MI biztonságának növeléséhez.
A megállapodás keretében a NASK MI-biztonsági Kutatóközpontja – amely a lengyel Mesterségesintelligencia-biztonsági Intézet (AISI) szerepét tölti be – és az OpenAI közös MI-biztonsági kutatásokat végez majd. Azt vizsgálják, hogyan lehet értékelni az egyre többre képes MI-rendszereket, azonosítani a lehetséges sérülékenységeket és megerősíteni a védelmi intézkedéseket.
Az OpenAI szorgalmazta, hogy az Egyesült Államok a világ más országaival közösen dolgozzon az élvonalbeli MI nemzetközi műszaki szabványain, az MI-biztonsági intézetek és a szabványügyi szervezetek szakértelmére támaszkodva. A képességek értékelésére, a kockázatok felmérésére, a védelmi intézkedések tesztelésére és az incidensek jelentésére szolgáló közös módszerek segíthetik az országokat az eredmények összevetésében és a határokon átnyúló kockázatok kezelésében. A NASK-kal való együttműködés jól mutatja, milyen értékes az egyes országok szaktudásának bevonása ebbe az átfogóbb törekvésbe.
A NASK esetében ez a szakértelem kiterjedt MI-biztonsági kutatásokra épül, amelyek eredményeit közvetlenül alkalmazzák a közszolgáltatások és Lengyelország digitális információs ökoszisztémájának védelmében. A NASK-hoz hasonló nemzeti partnerek nélkül a globális MI-biztonsági szabványok elszakadhatnak az MI használatának valós körülményeitől.
A megállapodás az OpenAI lengyel kibervédelmi szakemberekkel folytatott eddigi munkájára is épít. Júliusban a NASK keretében működő CERT Polska a Daybreak révén hozzáférést kapott(új ablakban nyílik meg) az OpenAI kiberbiztonsági feladatokra alkalmas modelljeihez. A csapat az OpenAI modelljeinek segítségével hat sérülékenységet fedezett fel a MikroTik RouterOS rendszerében. Köztük olyan hibákat is találtak, amelyek együttes kihasználásával hitelesítés nélkül át lehetett venni az irányítást az érintett eszközök felett. A gyártó javításokat adott ki, amelyekről a CERT Polska megerősítette, hogy megakadályozzák az általa megfigyelt támadásokat.
