Сьогодні OpenAI запускає публічну програму Safety Bug Bounty(відкривається у новому вікні), зосереджену на виявленні зловживань ШІ та ризиків для безпеки в наших продуктах. У міру стрімкого розвитку технологій ШІ зростають і потенційні способи зловживання ними. Наша мета — забезпечити, щоб наші системи залишалися безпечними та захищеними від неправомірного використання чи зловживань, які можуть спричинити відчутну шкоду.
У рамках нової програми, що доповнить присвячену проблемам захищеності програму OpenAI Security Bug Bounty(відкривається у новому вікні), будуть прийматися повідомлення про проблеми, що створюють суттєві ризики зловживання та безпеки, навіть якщо вони не відповідають критеріям вразливості. Ми сподіваємося продовжити співпрацю з дослідниками безпеки та захисту, які допомагатимуть нам виявляти та вирішувати проблеми, що виходять за рамки звичайних вразливостей захисту, але все ще становлять реальні ризики. Подані заявки попередньо розглядатимуться командами програм Safety Bug Bounty та Security Bug Bounty та можуть бути перенаправлені між цими двома програмами залежно від обсягу та сфери відповідальності.
Нова програма Safety Bug Bounty(відкривається у новому вікні) буде зосереджена на наведених нижче сценаріях безпеки, пов’язаних із ШІ:
Агентні ризики, включно з MCP
- Сторонні промпт-ін'єкції та ексфільтрація даних: коли текст зловмисника здатний перехопити контроль над агентом жертви (зокрема через Browser, ChatGPT Agent та подібні агентні продукти), аби змусити його виконати шкідливу дію чи розкрити конфіденційну інформацію користувача. Поведінка має бути відтворюваною щонайменше у 50% випадків.
- Агентна система OpenAI виконує заборонену дію на сайті OpenAI у масштабі.
- Продукт OpenAI з агентними функціями виконує потенційно шкідливу дію, не зазначену вище. Звіти мають вказувати на підтверджену наявність суттєвої шкоди.
- Будь-яке тестування ризиків MCP має відповідати умовам надання послуг третіх осіб.
Конфіденційна інформація OpenAI
- Генерації моделей, які повертають у зв'язку з логічними міркуваннями особисту інформацію.
- Вразливості, що розкривають іншу власницьку інформацію OpenAI.
Цілісність облікового запису та платформи
- Уразливості, пов’язані з цілісністю облікових записів і сигналами цілісності платформи, як-от обхід засобів контролю проти автоматизації, маніпулювання сигналами довіри облікового запису, обхід обмежень, призупинень або блокувань облікового запису та подібні проблеми.
- Про проблеми, які дозволяють користувачам отримувати доступ до функцій, даних або можливостей понад надані дозволи, слід повідомляти в рамках Security Bug Bounty(відкривається у новому вікні).
Хоча джейлбрейки не входять до сфери цього проєкту, ми періодично проводимо приватні кампанії bug bounty, зосереджені на певних типах ризиків, наприклад проблемах із біоризиками у вмісті в ChatGPT Agent і GPT‑5. Ми запрошуємо зацікавлених дослідників подавати заявки на участь у цих програмах, коли вони з’являються.
Поза переліченими вище категоріями, якщо дослідники виявляють недоліки, що створюють прямі шляхи до завдання шкоди користувачам і мають чіткі, практичні кроки для усунення, такі випадки можуть розглядатися для винагороди в індивідуальному порядку. Загальні обходи політики щодо вмісту без доведеного впливу на безпеку або можливостей зловживання не входять до сфери цього проєкту. Наприклад, «джейлбрейки», які призводять до того, що модель використовує грубу лексику або повертає інформацію, яку легко знайти через пошукові системи, не входять до сфери цього проєкту.
Дослідники, які мають бажання долучитися, можуть подати заявку через нашу програму Safety Bug Bounty(відкривається у новому вікні). Ми з нетерпінням чекаємо на співпрацю з дослідниками, етичними хакерами та спільнотою фахівців із безпеки та захисту в прагненні до створення безпечної екосистеми ШІ.
