오늘 OpenAI는 자사 제품 전반에서 AI 오용 및 안전 위험을 식별하는 데 중점을 둔 공개 안전 버그 바운티(새 창에서 열기) 프로그램을 시작합니다. AI 기술이 빠르게 발전함에 따라 이를 악용할 수 있는 방식도 함께 증가하고 있습니다. OpenAI의 목표는 시스템이 실제적인 피해로 이어질 수 있는 오용이나 남용으로부터 안전하고 견고하게 유지되도록 하는 것입니다.
이 프로그램은 기존 보안 버그 바운티(새 창에서 열기)를 보완해, 보안 취약점 기준에는 해당하지 않더라도 실제로 의미 있는 오용이나 안전 위험을 초래할 수 있는 문제까지 다룹니다. 이 프로그램을 통해, 기존의 보안 취약점 범주에는 포함되지 않지만 실제 위험을 초래할 수 있는 문제를 함께 찾아내고 해결하기 위해 안전 및 보안 연구자들과 지속적으로 협력하기를 기대합니다. 제출된 보고서는 OpenAI의 안전 및 보안 버그 바운티 팀에서 검토되며, 범위와 담당에 따라 두 프로그램 간에 재분류될 수 있습니다.
새로운 안전 버그 바운티(새 창에서 열기) 프로그램은 아래와 같은 AI 관련 안전 시나리오에 중점을 둡니다.
MCP를 포함한 에이전틱 위험
- 타사 프롬프트 인젝션 및 데이터 유출: 공격자가 삽입한 텍스트가 피해자의 에이전트(브라우저, ChatGPT Agent 등 에이전틱 제품 포함)를 안정적으로 탈취해, 유해한 행동을 하도록 유도하거나 사용자의 민감한 정보를 유출하게 만드는 경우를 의미합니다. 이러한 동작은 최소 50%의 확률로 재현 가능해야 합니다.
- 에이전틱 OpenAI 제품이 OpenAI 웹사이트에서 허용되지 않은 작업을 대규모로 수행합니다.
- 에이전틱 OpenAI 제품이 위에 명시되지 않은 잠재적으로 유해한 작업을 수행합니다. 이 범주에서는 실제로 발생 가능성이 있고 영향이 큰 피해를 입증해야 유효한 보고로 인정됩니다.
- MCP 위험과 관련된 테스트는 해당되는 모든 타사 서비스 약관을 준수해야 합니다.
OpenAI 독점 정보
- 추론과 관련된 독점 정보를 반환하는 모델 생성
- 기타 OpenAI의 독점 정보를 노출하는 취약점
계정 및 플랫폼 무결성
- 자동화 방지 제어를 우회하거나, 계정 신뢰 신호를 조작하거나, 계정 제한·정지·차단을 회피하는 등 이러한 유사한 문제를 포함한 계정 및 플랫폼 무결성 신호 관련 취약점.
- 사용자가 권한 범위를 넘어 기능이나 데이터, 기능적 요소에 접근할 수 있게 하는 문제는 보안 버그 바운티(새 창에서 열기)로 보고해야 합니다.
이 프로그램에서는 jailbreak는 범위에 포함되지 않지만, ChatGPT Agent와 GPT‑5의 생물학적 위험 콘텐츠와 같은 특정 유형의 위험을 대상으로 한 비공개 버그 바운티 캠페인을 정기적으로 운영하고 있습니다. 관심 있는 연구자분들께는 해당 프로그램이 열릴 때 참여를 신청하실 수 있습니다.
위에 나열된 범주에 포함되지 않더라도, 연구자가 사용자 피해로 직접 이어질 수 있는 결함을 발견하고 이에 대한 구체적이고 실행 가능한 대응 방안을 제시한 경우, 사례별로 보상 대상에 포함될 수 있습니다. 안전 또는 오용 측면에서 입증 가능한 영향이 없는 일반적인 콘텐츠 정책 우회는 이 프로그램의 범위에 포함되지 않습니다. 예를 들어, 모델이 무례한 언어를 사용하게 하거나 검색 엔진으로 쉽게 찾을 수 있는 정보를 반환하게 만드는 “jailbreak”는 범위에 포함되지 않습니다.
참여를 원하는 연구자분들께서는 안전 버그 바운티(새 창에서 열기) 프로그램을 통해 신청할 수 있습니다. 안전한 AI 에코시스템을 구축하기 위해 연구자, 윤리적 해커, 그리고 안전 및 보안 커뮤니티와 함께 협력해 나가기를 기대합니다.
