Представляем программу Safety Bug Bounty

Сегодня OpenAI запускает публичную программу Safety Bug Bounty⁠(открывается в новом окне), направленную на выявление злоупотреблений ИИ и рисков безопасности в наших продуктах. По мере стремительного развития технологий ИИ расширяются и потенциальные возможности их неправомерного использования. Наша цель — гарантировать надежность и безопасность наших систем от неправомерного использования или злоупотреблений, которые могут нанести реальный ущерб. 

Эта новая программа дополнит программу OpenAI Security Bug Bounty⁠(открывается в новом окне): теперь будут приниматься отчеты о проблемах, которые создают значимые риски безопасности и злоупотреблений, даже если они не соответствуют критериям технической уязвимости. Благодаря этой программе мы рассчитываем на дальнейшее партнерство с исследователями в области безопасности и защиты ИИ, которое поможет нам выявлять и устранять проблемы, выходящие за рамки традиционных технических уязвимостей, но по-прежнему представляющие реальную угрозу. Отчеты будут обрабатываться командами Safety Bug Bounty и Security Bug Bounty. В зависимости от области охвата и зоны ответственности, обращения могут перенаправляться между этими двумя программами.

Новая программа Safety Bug Bounty⁠(открывается в новом окне) сосредоточена на специфических для ИИ сценариях безопасности, перечисленных ниже:

Риски агентных систем, включая MCP

• Сторонняя промпт-инъекция и эксфильтрация данных: ситуация, при которой текст злоумышленника способен стабильно перехватывать контроль над агентом-жертвой (включая Browser, ChatGPT Agent и аналогичные агентные продукты), чтобы обманом заставить его выполнить вредоносное действие или раскрыть конфиденциальную информацию пользователя. Это поведение должно воспроизводиться как минимум в 50% случаев. 
• Агентный продукт OpenAI выполняет недопустимое действие на веб-сайте OpenAI в большом масштабе.
• Агентный продукт OpenAI совершает некоторое потенциально вредоносное действие, не указанное выше. Обоснованные жалобы в этом разделе должны указывать на правдоподобный и существенный вред.
• Любое тестирование рисков, связанных с MCP, должно соответствовать условиям использования третьих сторон.

Конфиденциальная информация OpenAI

• Генерации моделей, содержащие проприетарную информацию, связанную с процессами рассуждения.
• Уязвимости, раскрывающие другую закрытую информацию OpenAI.

Целостность учетных записей и платформы

• Уязвимости в целостности учетных записей и сигналов целостности платформы, такие как обход средств защиты от автоматизации, манипуляции сигналами доверия учетной записи, обход ограничений, приостановок и блокировок учетной записи, а также другие подобные проблемы.
• О проблемах, из-за которых пользователи могут получать доступ к функциям, данным или возможностям сверх предоставленных им разрешений, следует сообщать в рамках программы Security Bug Bounty⁠(открывается в новом окне).

Хотя обходы ограничений (джейлбрейки) не входят в область охватa данной программы, мы периодически проводим закрытые кампании по поиску багов, ориентированные на определенные виды угроз, такие как контент, связанный с биорисками, в ChatGPT Agent⁠ и GPT‑5⁠. Мы приглашаем заинтересованных исследователей подавать заявки на участие в этих программах по мере их появления. 

Если исследователи обнаружат уязвимости, не входящие в перечисленные выше категории, но создающие прямую угрозу безопасности пользователей и имеющие конкретные, применимые на практике способы устранения, такие случаи могут быть рассмотрены для выплаты вознаграждения в индивидуальном порядке. Общие обходы политик в отношении контента, не имеющие подтвержденного влияния на безопасность или возможность злоупотребления, не входят в область действия этой программы. Например, случаи обхода ограничений, результатом которых становится использование моделью грубой лексики или предоставление информации, которую легко найти через поисковые системы, не входят в область охвата программы.

Исследователи, заинтересованные в участии, могут подать заявку через нашу программу Safety Bug Bounty⁠(открывается в новом окне). Мы с нетерпением ожидаем совместной работы с исследователями, этичными хакерами и сообществом специалистов по безопасности в стремлении к созданию безопасной экосистемы ИИ.