遏止惡意使用 AI：2025 年 10 月

我們的使命是確保通用人工智能造福全人類。為了推動這項使命，我們部署了可協助大家解決難題的創新技術，以及建立以常規為基礎的民主化 AI，保護大家免受切身傷害。

自我們在 2024 年 2 月開始公開威脅報告以來，我們已遏止並檢舉了超過 40 個違反使用政策的網絡。有關行動包括防止專制政權利用 AI 控制人民或威脅其他國家，以及打擊詐騙、惡意網絡活動和隱蔽影響行動等濫用情況。

在本次更新，我們將分享上季度的案例研究，以及偵測和遏止惡意使用 OpenAI 模型的方法。我們持續看到威脅分子為了加快行動速度，將 AI 應用於舊有手法，而非從我們的模型中獲得新穎的攻擊能力。如發現活動違反我們的政策，我們會封鎖帳戶，並在適當情況與合作夥伴分享相關概要。我們的公開報告、政策執行，以及與同業的合作，全數均以提高反濫用意識為目標，同時改善對日常用戶的安全保障。