Представляем план обеспечения безопасности детей (Child Safety Blueprint)
Рамочная концепция по борьбе с сексуальной эксплуатацией детей с использованием ИИ
Сексуальная эксплуатация детей — одна из самых главных проблем цифровой эпохи. ИИ быстро меняет и то, каким образом эти риски и негативные последствия возникают во всей отрасли, и то, как их можно устранять в крупных масштабах.
В OpenAI мы создали и продолжаем укреплять защитные механизмы для предотвращения злоупотреблений нашими системами. Мы тесно сотрудничаем с такими партнерами, как Национальный центр помощи пропавшим и эксплуатируемым детям (NCMEC), и правоохранительными органами для улучшения систем обнаружения и отчетности. Эта работа помогла выявить области, в которых необходимы более строгие общие стандарты для всей индустрии.
Сегодня мы представляем программный план, который намечает практический путь по укреплению основ защиты детей в США в эпоху ИИ. Этот план отражает и учитывает отзывы ряда ведущих организаций и экспертов в экосистеме детской безопасности, включая NCMEC, Альянс генеральных прокуроров (Attorney General Alliance) и сопредседателей его рабочей группы по ИИ — генерального прокурора Северной Каролины Джеффа Джексона и генерального прокурора Юты Дерека Брауна, а также организацию Thorn. Это гарантирует, что документ учитывает их приоритеты и может способствовать более эффективному сотрудничеству для предотвращения вреда детям.
План сосредоточен на трех ключевых приоритетах: модернизация законов для борьбы с CSAM (материалами о сексуальном насилии над детьми), созданными или измененными ИИ; улучшение отчетности и координации поставщиков услуг для поддержки более эффективных расследований; и внедрение мер «безопасности по замыслу» (safety-by-design) непосредственно в системы ИИ для предотвращения и обнаружения злоупотреблений.
Ни одна отдельная мера не может решить эту проблему в одиночку. Данная концепция объединяет юридические, операционные и технические подходы, чтобы лучше выявлять риски, ускорять реагирование и обеспечивать подотчетность, сохраняя при этом эффективность работы правоохранительных органов по мере развития технологий.
Вместе эти шаги позволяют индустрии решать вопросы детской безопасности на более ранних этапах и более эффективно. Прерывая попытки эксплуатации раньше, повышая качество сигналов, передаваемых в правоохранительные органы, и укрепляя ответственность во всей экосистеме, эта концепция стремится предотвратить вред до того, как он будет нанесен, и обеспечить более оперативную защиту детей при возникновении рисков.
«Как сопредседатели рабочей группы по ИИ Альянса генеральных прокуроров, мы приветствуем этот план как значимый шаг на пути к приведению практики безопасности детей в технологическом секторе в соответствие с реалиями правоприменения, с которыми наши ведомства сталкиваются каждый день. Нас особенно воодушевляет признание того, что эффективные средства защиты в сфере генеративного ИИ требуют многоуровневой обороны — не одного технического рычага, а сочетания механизмов обнаружения, отказа в выполнении вредоносных запросов, человеческого надзора и постоянной адаптации к новым паттернам злоупотреблений. Это отражает то, что мы видим на практике: угроза постоянно эволюционирует, и статических решений недостаточно. Правильное выстраивание архитектуры предотвращения на ранних этапах — это самая эффективная инвестиция, которую индустрия может сделать в безопасность детей.
В конечном счете, сила любой добровольной инициативы зависит от конкретики её обязательств и готовности индустрии нести за них ответственность. Мы с нетерпением ожидаем продолжения партнерства с OpenAI, NCMEC и нашими коллегами — генеральными прокурорами, чтобы обеспечить воплощение этих рекомендаций в устойчивые меры защиты детей».
— Джефф Джексон (Северная Каролина) и Дерек Браун (Юта), генеральные прокуроры штатов, сопредседатели рабочей группы по ИИ Альянса генеральных прокуроров
«Альянс генеральных прокуроров идет в авангарде защиты молодежи в интернете, объединяя генеральных прокуроров, лидеров индустрии, некоммерческие организации и глобальных партнеров для продвижения практических, перспективных решений в области ИИ и цифровой безопасности. Благодаря сотрудничеству и инновациям альянс устанавливает высокий стандарт того, как мы обеспечиваем безопасность молодежи, ответственно внедряя новые технологии. Мы приветствуем неизменную приверженность OpenAI вопросам безопасности и их взаимодействие с альянсом и генеральными прокурорами в разработке этого крайне ценного плана обеспечения безопасности детей».
— Карен Уайт, исполнительный директор Альянса генеральных прокуроров (AGA)
«Генеративный ИИ ускоряет рост преступлений, связанных с сексуальной эксплуатацией детей в интернете, вызывающим глубокую тревогу образом: снижая барьеры для входа, увеличивая масштаб и создавая новые формы вреда. Но в то же время Национальный центр помощи пропавшим и эксплуатируемым детям (NCMEC) воодушевлен тем, что такие компании, как OpenAI, задумываются о том, как проектировать эти инструменты более ответственно, встраивая защитные механизмы с самого начала. Ни одна организация, бизнес или сектор не могут решить эту проблему в одиночку. Мы по-прежнему привержены работе с партнерами в индустрии, правительстве и сообществе по защите детей для продвижения решений, которые снижают вред и лучше обеспечивают безопасность детей».
— — Мишель ДеЛон, президент и генеральный директор Национального центра помощи пропавшим и эксплуатируемым детям
