OpenAI i polski NASK podejmują współpracę na rzecz zwiększenia bezpieczeństwa AI
OpenAI i polski instytut badawczy NASK – Państwowy Instytut Badawczy podpisały porozumienie, by zbadać możliwości współpracy w zakresie bezpieczeństwa AI, ochrony przed zagrożeniami i badań technicznych. Partnerstwo połączy wiedzę i doświadczenie obu organizacji, aby lepiej zrozumieć nowe zagrożenia, wzmocnić zabezpieczenia i zbadać, jak zaawansowana AI może pomóc zwiększyć bezpieczeństwo i odporność ekosystemu cyfrowego.
Wraz ze wzrostem możliwości systemów AI międzynarodowa współpraca między ich twórcami a publicznymi instytucjami badawczymi będzie niezbędna do zrozumienia związanych z nimi zagrożeń i tworzenia skuteczniejszych zabezpieczeń. Dotychczasowa współpraca OpenAI z amerykańskim Centrum Rozwoju Standardów i Innowacji w dziedzinie Superinteligencji (CAISSI), brytyjskim Instytutem Bezpieczeństwa AI (AISI) i innymi publicznymi instytucjami badawczymi na świecie pomogła już wzmocnić zabezpieczenia, wykryć i usunąć luki w zabezpieczeniach agentów AI oraz zwiększyć bezpieczeństwo pionierskich systemów AI.
Na mocy porozumienia Centrum Badań nad Bezpieczeństwem AI w NASK, pełniące funkcję polskiego Instytutu Bezpieczeństwa Sztucznej Inteligencji (AISI), oraz OpenAI będą wspólnie prowadzić badania nad bezpieczeństwem AI. Zbadają sposoby oceny systemów AI o coraz większych możliwościach, wykrywania potencjalnych podatności i wzmacniania zabezpieczeń.
OpenAI zaapelowało do Stanów Zjednoczonych o współpracę z krajami na całym świecie nad międzynarodowymi standardami technicznymi dla pionierskich systemów AI, z wykorzystaniem wiedzy instytutów bezpieczeństwa AI i organizacji normalizacyjnych. Wspólne podejście do oceny możliwości i ryzyka, testowania zabezpieczeń oraz zgłaszania incydentów może ułatwić poszczególnym krajom porównywanie wyników badań i reagowanie na zagrożenia wykraczające poza ich granice. Współpraca z NASK pokazuje, jak ważne jest włączanie krajowej wiedzy eksperckiej w te szersze działania.
W przypadku NASK wiedza ta opiera się na szeroko zakrojonych badaniach nad bezpieczeństwem AI, których wyniki są bezpośrednio wykorzystywane do ochrony usług publicznych i polskiego ekosystemu informacji cyfrowej. Bez krajowych partnerów takich jak NASK globalne standardy bezpieczeństwa AI mogą pozostać oderwane od realiów, w których faktycznie wykorzystuje się tę technologię.
Porozumienie rozwija również dotychczasową współpracę OpenAI z polskimi specjalistami zajmującymi się obroną przed cyberzagrożeniami. W lipcu działający w strukturach NASK zespół CERT Polska uzyskał dostęp(otwiera nowe okno) do modeli OpenAI o zdolnościach w zakresie cyberbezpieczeństwa w ramach inicjatywy Daybreak. Zespół wykorzystał modele OpenAI do wykrycia sześciu podatności w systemie MikroTik RouterOS, w tym luk, których łączne wykorzystanie pozwalało przejąć kontrolę nad podatnymi urządzeniami bez uwierzytelnienia. Producent udostępnił poprawki, a CERT Polska potwierdził, że blokują one zaobserwowane przez zespół ataki.
