用 ChatGPT 识别诈骗：感觉不对劲时，再听一个意见
人工审核如何运作
自动化系统有助于检测潜在违规行为，而人工审核人员在识别并阻断 AI 恶意用途方面发挥着不可或缺的作用，包括诈骗、恶意网络活动、隐蔽影响力行动，以及其他有害或违法行为。
检测
从产品、报告和调查线索中识别企图滥用的信号。
调查
人工调查人员会审查相关活动、关联相关案例，并结合具体情境评估行为。
阻断
我们会对违反条款或政策的账号和网络采取行动，同时加强防御，防范类似滥用行为。
披露
在适当情况下，我们会发布调查结果，帮助业界乃至整个社会更好地识别和应对这些威胁。
案例研究
探索 OpenAI 针对 AI 恶意用途开展调查的相关案例研究。每个案例都会说明相关行为者试图做什么、如何使用 AI，以及 OpenAI 如何应对。
