OpenAI a polský NASK navazují spolupráci na posílení bezpečnosti a zabezpečení AI
OpenAI a polský národní výzkumný ústav NASK podepsaly dohodu o prozkoumání možností spolupráce v oblasti bezpečnosti a zabezpečení AI a technického výzkumu. Partnerství propojí odborné znalosti obou organizací, aby mohly lépe porozumět nově vznikajícím rizikům, posílit ochranná opatření a prozkoumat, jak může pokročilá AI přispět k bezpečnějšímu a odolnějšímu digitálnímu ekosystému.
S rostoucími schopnostmi systémů AI bude mezinárodní spolupráce mezi vývojáři a veřejnými výzkumnými institucemi zásadní pro pochopení rizik těchto systémů a vytváření účinnějších ochranných opatření. Dosavadní spolupráce OpenAI s americkým Centrem pro rozvoj standardů a inovací v oblasti superinteligence (CAISSI), britským Institutem pro zabezpečení AI (AISI) a dalšími veřejnými výzkumnými institucemi po celém světě již pomohla posílit ochranná opatření, odhalit a odstranit bezpečnostní zranitelnosti v AI agentech a zvýšit bezpečnost průkopnické AI.
Na základě dohody bude Výzkumné centrum pro bezpečnost AI při NASKu, které plní roli polského Institutu pro bezpečnost umělé inteligence (AISI), spolupracovat s OpenAI na výzkumu bezpečnosti AI. Společně budou zkoumat způsoby, jak vyhodnocovat stále schopnější systémy AI, odhalovat potenciální zranitelnosti a posilovat ochranná opatření.
OpenAI vyzvala Spojené státy, aby se státy z celého světa spolupracovaly na mezinárodních technických standardech pro průkopnickou AI a využily přitom odborné znalosti institutů pro bezpečnost AI a normalizačních orgánů. Společné přístupy k vyhodnocování schopností, posuzování rizik, testování ochranných opatření a hlášení incidentů mohou zemím pomoci porovnávat zjištění a reagovat na rizika, která překračují hranice. Spolupráce s NASKem ukazuje, jak důležité je do tohoto širšího úsilí zapojit odborné znalosti jednotlivých zemí.
V případě NASKu tyto znalosti vycházejí z rozsáhlého výzkumu bezpečnosti AI, jehož výsledky se přímo uplatňují při ochraně veřejných služeb a polského digitálního informačního ekosystému. Bez národních partnerů, jako je NASK, mohou globální standardy bezpečnosti AI zůstat odtržené od reálných podmínek, v nichž se AI skutečně používá.
Dohoda také navazuje na dosavadní spolupráci OpenAI s odborníky na kybernetickou obranu v Polsku. V červenci tým CERT Polska, který působí v rámci NASKu, prostřednictvím programu Daybreak získal přístup(otevře se v novém okně) k modelům OpenAI se schopnostmi v oblasti kybernetické bezpečnosti. Tým s pomocí modelů OpenAI odhalil šest zranitelností v systému MikroTik RouterOS, včetně chyb, jejichž kombinací bylo možné převzít kontrolu nad zasaženými zařízeními bez ověření identity. Dodavatel vydal opravy a CERT Polska potvrdil, že zabránily útokům, které tým zaznamenal.
