跳到主要內容
OpenAI

遏止惡意使用 AI

探索 OpenAI 最新的個案研究和報告,了解我們如何偵測並遏止惡意使用 AI。

黃色方格圖案卡片,上有紫色文字「利用 ChatGPT 識破騙局」。

利用 ChatGPT 識破騙局:感覺不對勁時,尋求第二意見

了解更多(在新視窗中開啟)

人工審查如何運作

自動化系統有助偵測潛在違規行為,而人工審查員在識別及遏止惡意使用 AI 方面亦擔當關鍵角色,包括騙局、惡意網絡活動、隱蔽影響力行動,以及其他有害或非法行為。

偵測

從產品、報告及調查線索中,識別企圖濫用的跡象。

調查

調查人員會人工審查活動、連繫相關個案,並結合具體背景評估行為。

遏止

我們會對違反條款或政策的帳戶和網絡採取行動,同時加強防禦,避免類似濫用行為。

披露

在適當情況下,我們會公布調查結果,協助業界以至社會各界更有效識別和應對這些威脅。

個案研究

探索 OpenAI 對惡意使用 AI 所作調查的個案研究。每個個案均說明涉事者的企圖、如何使用 AI,以及 OpenAI 的應對方式。

報告