Демократическое управление передовым ИИ, часть II: новые возможности для киберзащитников
ИИ меняет скорость, масштабы и экономику работы в сфере кибербезопасности. Он может помогать специалистам по киберзащите находить и устранять уязвимости, обнаруживать вторжения и реагировать на атаки. Но те же возможности могут помогать злоумышленникам и создавать новые риски, когда системы ИИ выходят за установленные для них рамки. Сейчас у специалистов по киберзащите есть окно возможностей: ограниченное время, чтобы взять на вооружение передовой ИИ и усилить защиту до того, как продвинутые средства кибератак станут общедоступными.
Сегодня мы публикуем план расширения возможностей специалистов по киберзащите. Он развивает наш предыдущий план действий в области кибербезопасности и план обеспечения безопасности передового ИИ(открывается в новом окне). Наш опыт столкновения с отклонениями поведения собственных моделей от заданных целей и с инцидентами безопасности показывает, насколько важно усилить меры защиты и подотчетность во всей отрасли. С учетом этих уроков план предлагает конкретные меры для государственных органов и отрасли по трем направлениям:
Повышение безопасности и защищенности передового ИИ: четче определить обязанности по защите передовых моделей и агентов, выявлению опасного поведения и поддержанию надежных механизмов остановки операций, находящихся под контролем каждой организации.
Модернизация кибербезопасности для эпохи искусственного интеллекта: обеспечить специалистов по киберзащите передовыми инструментами, обучением и технической поддержкой; устранить давние недостатки в кибербезопасности; инвестировать в защиту жизненно важных сервисов и замену устаревших систем.
Создание устойчивых и адаптивных государственных институтов: усилить государственные проверки и независимые технические оценки, установить единые требования к отчетности об инцидентах и улучшить координацию реагирования и восстановления.
Лаборатории ИИ обязаны работать над снижением рисков, создаваемых их системами, и помогать укреплять защиту общества. Государственные органы также должны обладать знаниями, ресурсами и полномочиями, необходимыми для защиты граждан по мере расширения возможностей ИИ. Мы призываем тех, кто формирует государственную политику, действовать уже сейчас: вводить меры защиты, учиться на опыте и ужесточать требования по мере развития технологии.
Ознакомиться с полным планом можно здесь(открывается в новом окне).
