OpenAI și NASK din Polonia colaborează pentru a spori siguranța și securitatea IA
OpenAI și Institutul Național de Cercetare NASK din Polonia au semnat un acord pentru a explora posibilități de colaborare în domeniul siguranței, securității și cercetării tehnice în IA. Parteneriatul va reuni expertiza ambelor organizații pentru a înțelege mai bine riscurile emergente, a consolida măsurile de protecție și a explora modul în care IA avansată poate contribui la un ecosistem digital mai sigur și mai rezilient.
Pe măsură ce sistemele de IA devin tot mai capabile, colaborarea internațională dintre dezvoltatori și instituțiile publice de cercetare va fi esențială pentru înțelegerea riscurilor acestor sisteme și elaborarea unor măsuri de protecție mai solide. Colaborarea OpenAI cu Centrul pentru Promovarea Standardelor și Inovării în domeniul Superinteligenței din SUA (CAISSI), Institutul pentru Securitatea IA din Regatul Unit (AISI) și alte instituții publice de cercetare din întreaga lume a contribuit deja la consolidarea măsurilor de protecție, la identificarea și remedierea vulnerabilităților de securitate ale agenților IA și la îmbunătățirea siguranței IA de vârf.
În baza acordului, Centrul de Cercetare pentru Siguranța IA al NASK – care îndeplinește rolul de Institut pentru Siguranța Inteligenței Artificiale din Polonia (AISI) – și OpenAI vor colabora în cercetarea siguranței IA, explorând modalități de evaluare a sistemelor de IA tot mai capabile, de identificare a potențialelor vulnerabilități și de consolidare a măsurilor de protecție.
OpenAI a îndemnat SUA să colaboreze cu țări din întreaga lume la elaborarea unor standarde tehnice internaționale pentru IA de vârf, valorificând expertiza institutelor pentru siguranța IA și a organismelor de standardizare. Abordările comune în evaluarea capacităților și a riscurilor, testarea măsurilor de protecție și raportarea incidentelor pot ajuta țările să compare dovezile și să răspundă riscurilor transfrontaliere. Colaborarea cu NASK reflectă valoarea integrării expertizei naționale în acest efort mai amplu.
În cazul NASK, această expertiză se bazează pe cercetări ample în domeniul siguranței IA, aplicate direct pentru protejarea serviciilor publice și a ecosistemului informațional digital al Poloniei. Fără parteneri naționali precum NASK, standardele globale de siguranță a IA riscă să rămână deconectate de realitățile în care IA este folosită efectiv.
Acordul se bazează și pe colaborarea existentă a OpenAI cu specialiștii în apărare cibernetică din Polonia. În iulie, CERT Polska, care funcționează în cadrul NASK, a obținut acces(se deschide într-o fereastră nouă) prin Daybreak la modelele OpenAI cu capacități în domeniul securității cibernetice. Echipa a folosit modelele OpenAI pentru a identifica șase vulnerabilități în MikroTik RouterOS, inclusiv deficiențe care puteau fi exploatate împreună pentru a prelua controlul asupra dispozitivelor afectate fără autentificare. Furnizorul a lansat remedieri, iar CERT Polska a confirmat că acestea blocau atacurile pe care le observase.
