OpenAI и польский NASK объединяют усилия для повышения безопасности и защищенности ИИ
OpenAI и польский Национальный исследовательский институт NASK подписали соглашение об изучении возможностей сотрудничества в области безопасности и защищенности ИИ, а также технических исследований. Партнерство объединит опыт обеих организаций, чтобы лучше понимать возникающие риски, усиливать защитные меры и изучать, как продвинутый ИИ может способствовать созданию более безопасной и устойчивой цифровой экосистемы.
По мере расширения возможностей систем ИИ международное сотрудничество компаний — разработчиков ИИ и государственных исследовательских учреждений будет играть ключевую роль в понимании рисков и создании более надежных защитных мер. Сотрудничество OpenAI с американским Центром развития стандартов и инноваций в области суперинтеллекта (CAISSI), британским Институтом безопасности ИИ (AISI) и другими государственными исследовательскими учреждениями по всему миру уже помогло усилить защитные меры, выявить и устранить уязвимости в ИИ-агентах и повысить безопасность передового ИИ.
В рамках соглашения Центр исследований безопасности ИИ при NASK, выполняющий функции польского Института безопасности искусственного интеллекта (AISI), и OpenAI будут совместно исследовать безопасность ИИ: изучать способы оценки систем ИИ с растущими возможностями, выявлять потенциальные уязвимости и усиливать защитные меры.
OpenAI призвала США совместно со странами по всему миру разрабатывать международные технические стандарты для передового ИИ, опираясь на опыт институтов безопасности ИИ и органов стандартизации. Единые подходы к оценке возможностей и рисков, проверке защитных мер и обмену информацией об инцидентах помогут странам сопоставлять данные и реагировать на трансграничные риски. Сотрудничество с NASK показывает, насколько важно привлекать национальные экспертные организации к этой масштабной работе.
Компетенции NASK основаны на обширных исследованиях в области безопасности ИИ, результаты которых напрямую применяются для защиты государственных сервисов и цифровой информационной экосистемы Польши. Без национальных партнеров, таких как NASK, глобальные стандарты безопасности ИИ могут оставаться оторванными от реальных условий его использования.
Соглашение также развивает уже существующее сотрудничество OpenAI с польскими специалистами по киберзащите. В июле команда CERT Polska, входящая в состав NASK, получила доступ(открывается в новом окне) к моделям OpenAI с возможностями в области кибербезопасности в рамках Daybreak. С помощью моделей OpenAI команда обнаружила шесть уязвимостей в MikroTik RouterOS, в том числе те, совместная эксплуатация которых позволяла получить контроль над уязвимыми устройствами без аутентификации. Производитель выпустил исправления, а CERT Polska подтвердила, что они блокируют наблюдавшиеся командой атаки.
