지난 몇 달간 저희는 고객 및 파트너와 협력해 OpenAI 모델을 제공하는 서비스 전반에 일관된 안전 정책이 적용되도록 노력해 왔습니다. 또한 개발자가 이러한 요건을 더 명확히 이해하고 쉽게 준수할 수 있도록 사용 정책을 개정하고 있습니다.
GPT‑6 Astra와 같은 모델은 개발자와 기업이 구현할 수 있는 가능성을 넓혀 줍니다. 이러한 역량이 커짐에 따라, 저희는 OpenAI 모델을 제공하는 서비스 전반에서 보호 조치가 효과적으로 작동하고 일관되게 적용되도록 노력하고 있습니다.
모델을 배포하기 전에 역량과 위험을 평가하고, 안전 요건을 따르도록 훈련하며, 의도적인 우회 시도에도 보호 조치가 제대로 작동하는지 테스트합니다. 안전과 정렬에 대한 접근 방식에서 설명했듯이, 저희는 서로를 보완하도록 설계된 보호 조치를 결합해 사용합니다.
배포 후에는 악용 가능성을 모니터링하고 우려 사항을 조사합니다. 예를 들어, 사이버 악용을 줄이기 위해 모델이 유해한 요청을 거부하도록 훈련하고, 상호작용 전반에서 의심스러운 패턴을 탐지하는 시스템을 활용해 대응 방식을 결정합니다. 신뢰할 수 있는 사용자 대상의 접근 프로그램은 보호 장치를 한층 더 강화하고, 가장 강력한 기능을 이용하기 위한 자격 요건과 조건을 정합니다.
일부 보호 조치는 모델 자체에 내장되어 있고, 다른 조치는 모델을 둘러싼 시스템과 사람에 의해 작동합니다. 사용자가 OpenAI 모델을 직접 이용하든 파트너를 통해 이용하든, 두 유형의 조치 모두 효과적으로 작동해야 합니다.
개발자와 기업은 OpenAI 모델을 이용할 서비스를 선택할 수 있어야 하며, 어느 서비스를 선택하든 일관된 보호 조치가 적용되어야 합니다. 저희는 제공업체 전반의 보호 조치를 일관되게 맞추기 위한 정책을 마련했으며, 각 파트너와 협력해 실제 구현된 조치가 저희의 안전 기준을 충족하거나 그 이상이 되도록 하고 있습니다. 이 정책은 사용자가 OpenAI를 통해 직접 모델을 이용하든, 모델을 호스팅하는 파트너나 리셀러 파트너를 통해 이용하든 동일하게 적용됩니다.
이 정책에 따라 OpenAI 모델에 대한 접근을 제공하는 파트너는 저희와 일관된 수준의 보호 조치를 유지하고, 위반 가능성을 조사하며, 우려 사항이 확인되면 적절한 조치를 취해야 합니다. 여기에는 OpenAI 모델에 대한 접근을 제공하는 서비스 전반에서 제한 조치가 실효성을 유지하도록 정책 집행을 조율하는 일도 포함됩니다.
이를 실제로 적용하려면 각 서비스의 작동 방식과 고객의 이용 방식을 고려해야 합니다. 고객 및 파트너와 함께 진행하는 프라이빗 안전 처리 관련 작업은 고객에게 민감한 데이터에 대한 선택권과 통제권을 더 많이 제공하면서도 효과적인 보호 조치를 마련할 수 있음을 보여 주는 사례입니다.
또한 안전한 모델 개발과 민감한 용도의 AI 사용에 관한 규칙을 명확히 하기 위해 사용 정책을 개정하고 있으며, 개정된 정책은 2026년 11월 20일부터 시행됩니다. 개정된 사용 정책은 이러한 노력의 연장선에서, 모델 라우터나 AI 게이트웨이처럼 OpenAI 모델에 대한 직접 접근을 제공하는 서비스가 해당 접근을 제공하기 전에 저희의 검토와 승인을 받도록 요구합니다.
저희는 무엇이 허용되고 제한되는지, 고객과 파트너가 어떻게 질문하거나 규정 준수와 관련된 문제를 해결할 수 있는지 계속 안내하겠습니다.
모델의 역량이 높아질수록 악용을 탐지하고 조사하며 대응하는 방식도 지속적으로 개선하겠습니다. 고객은 최종 사용자, 탈취된 계정 또는 유출된 API 키로 인해 악용 문제를 겪을 수 있습니다. 저희는 고객과 협력해 이러한 문제를 파악하고 해결합니다.
또한 고객과 함께 SafetyIDs 도입을 추진하고 있습니다. 고객이 SafetyIDs를 제공하면, OpenAI는 조사 과정에서 최종 사용자의 신원을 알지 않고도 개별 사용자를 구분할 수 있습니다. SafetyIDs를 활용하면 다른 사용자의 이용에 미치는 영향을 줄이면서 악용 가능성에 더욱 정밀하게 대응할 수 있습니다.
저희는 기록으로 확인된 행위와 위험을 근거로 집행 결정을 내리고, 규칙을 일관되게 적용하며, 상황에 비례하는 수준으로 대응합니다. 접근을 제한한 경우에도, 행위나 이행 약속 또는 보호 조치에 유의미한 변화가 있어 결정의 근거가 된 우려가 해소되면 해당 제한을 재검토합니다.
저희는 더 많은 사람이 AI의 혜택을 누리기를 바랍니다. 명확한 규칙과 일관된 보호 조치는 개발자와 기업이 더 쉽게 개발하고 경쟁하며, 자신에게 가장 적합한 서비스를 선택할 수 있도록 뒷받침해야 합니다.
