AI의 악의적인 사용 차단하기: 2025년 10월

우리의 사명은 인류 전체가 범용 인공지능의 이점을 누리게 하는 것입니다. 사람들이 어려운 문제를 해결하는 데 도움이 되는 혁신을 전개하고, 실제적인 피해로부터 사람들을 보호하는 상식적인 규칙에 기반한 민주적인 AI를 구축함으로써 이러한 사명을 추진합니다.

2024년 2월 공개 위협 보고를 시작한 이후, OpenAI의 사용 정책을 위반하는 40개 이상의 네트워크를 차단하고 보고했습니다. 여기에는 권위주의 정권이 국민을 통제하거나 다른 국가를 강압하기 위해 AI를 사용하는 것을 방지하는 것과 사기, 악의적인 사이버 활동, 은밀한 영향력 행사와 같은 남용을 방지하는 것이 포함됩니다.

이 업데이트에서는 지난 분기의 사례 연구와 OpenAI 모델의 악의적 사용을 탐지하고 차단하는 방식을 공유합니다. 위협 행위자들이 더 빠르게 움직이기 위해 기존 플레이북에 AI를 접목하고, OpenAI의 모델에서 새로운 공격 역량을 확보하는 현상이 꾸준히 확인되고 있습니다. OpenAI 정책을 위반하는 행위가 발생하면 해당 계정은 차단되고, 적합한 경우, 파트너와 인사이트를 공유합니다. OpenAI의 공개 보고서, 정책 강제, 동료들과의 협업은 남용에 대한 인식을 높이는 동시에 일상 사용자의 보호를 향상하는 것을 목표로 합니다.