Помогаем разрабатывать общие стандарты для передового ИИ
Все более мощные модели могут укреплять киберзащиту, ускорять научные открытия и расширять доступ к экспертным знаниям. Но они также могут создавать риски безопасности, если их возможности неверно понимают, защитные меры недостаточны или у правительств нет информации, необходимой для реагирования. Чтобы безопасно и уверенно реализовать эти преимущества, обществам понадобятся институты с техническими и управленческими возможностями для оценки, защиты и регулирования все более мощных систем.
Это одна из причин, по которым OpenAI помогла основать Appia Foundation(открывается в новом окне) под эгидой Linux Foundation. Appia будет разрабатывать открытые модульные спецификации, призванные превращать международные стандарты и устоявшиеся рамочные подходы в практические критерии оценки по всей цепочке создания ценности ИИ. Эта работа поможет создать важный недостающий слой доверия, с помощью которого третьи стороны проверяют соответствие стандартам и формируют более понятные и пригодные для повторного использования доказательства, когда модели, инфраструктуру и приложения разрабатывают разные организации. Выполняя эту работу, Appia поможет создать общий технический язык, который позволит национальным и международным институтам доверять результатам работы друг друга.
Мы рассматриваем эту инициативу как важный следующий шаг в более широкой работе по укреплению институтов, стандартов и практик оценки, необходимых для передовых ИИ-систем.
Наш недавний план демократического управления передовым ИИ предлагает дорожную карту для этой работы. В нем говорится о необходимости устойчивой рамочной системы в США, усиления Центра стандартов и инноваций в области ИИ (CAISI) и более широкой стратегии устойчивости на уровне всего правительства. В нем также признается, что риски, связанные с передовыми ИИ-системами, носят международный характер. Странам следует совместно разрабатывать совместимые системы безопасности, надежные каналы для обмена результатами анализа рисков и согласованные меры реагирования на инциденты.
Национальный потенциал и международное сотрудничество должны усиливать друг друга. Сильные институты, такие как CAISI, могут развивать техническую экспертизу, оценивать пограничные системы и поддерживать экосистему независимой оценки. Затем сеть сильных национальных институтов сможет выработать общие методы, признавать надежные доказательства и давать правительствам общее техническое понимание, необходимое для совместных действий.
Стандарты играют ключевую роль в этих усилиях и должны опираться на надежную практику оценки и техническую строгость. В нашем общем руководстве по надежным сторонним оценкам мы описали, что все чаще необходимо раскрывать при пограничных оценках: тестируемую систему, ее доступ к инструментам и оценочную среду, методы выявления возможностей, доступные ресурсы и проверки, проведенные для подтверждения результатов. Мы также применили эти принципы на практике в рамках партнерств по тестированию с US CAISI и UK AISI, чья работа над оценками пограничных возможностей и защитой от биологического злоупотребления привела к конкретным улучшениям наших систем. Эта работа выполняет важную функцию: создает основу для практик, которые можно стандартизировать, чтобы проверять эффективность сопоставимым образом.
Эти практики дополняют более широкую инфраструктуру безопасности OpenAI. Наша Программа готовности — основа того, как мы определяем и внедряем наш подход к управлению самыми серьезными рисками, связанными с передовыми ИИ-системами, включая наши внутренние практики. Наша Программа управления передовыми ИИ-системами переносит соответствующие части этого подхода в публичный документ по управлению, посвященный конкретным регуляторным обязанностям, включая оценку рисков, отчетность о моделях, меры безопасности, реагирование на инциденты и учет мнений внешних экспертов. В совокупности эти материалы помогают превращать общие обязательства в операционные практики, которые можно проверять и совершенствовать.
Работа Appia направлена на следующую задачу: сделать эти практики совместимыми между организациями, юрисдикциями и всей цепочкой поставок.
OpenAI уже вносит вклад в широкую экосистему стандартов и предварительной стандартизации. Мы участвуем в работе Комитета ISO/IEC JTC 1/SC 42 «Искусственный интеллект»(открывается в новом окне) и Консорциума NIST по искусственному интеллекту (NIST AI Consortium)(открывается в новом окне); помогли основать Форум передовых моделей (Frontier Model Forum) и Фонд агентного ИИ (AAIF)(открывается в новом окне) при Linux Foundation; участвуем в Коалиции за безопасный ИИ (CoSAI)(открывается в новом окне); входим в руководящий комитет Коалиции за аутентичность контента и прозрачность его происхождения (C2PA)(открывается в новом окне); а также участвуем в процессах Инженерного совета Интернета (IETF)(открывается в новом окне) и Альянса быстрой онлайн-аутентификации (FIDO)(открывается в новом окне), чтобы продвигать совместимые технические стандарты.
Во всех этих форумах, теперь включая и Appia, наша цель — превращать опыт разработки передовых ИИ-систем в открытые, технически обоснованные практики, которые правительства, компании и независимые оценщики смогут применять в разных юрисдикциях.
