ChatGPT で詐欺を見抜く：違和感があるときのセカンドオピニオン
人による審査の仕組み
自動化システムが違反の可能性を検知する一方、人の審査担当者は、詐欺、悪意あるサイバー活動、秘密裏の影響工作、その他の有害または違法な行為など、AI の悪用を特定し阻止するうえで重要な役割を担っています。
検知
製品、報告、調査の手がかりを横断し、悪用未遂の兆候を特定します。
調査
人の調査担当者が活動を精査し、関連する事例を結び付け、状況に即して行動を評価します。
阻止
利用規約やポリシーに違反するアカウントとネットワークに措置を講じるとともに、同様の悪用に対する防御を強化します。
公表
必要に応じて、業界や社会全体がこうした脅威をより的確に認識し、対応するために役立つ調査結果を公表します。
事例研究
AI の悪用に関する OpenAI の調査事例をご覧ください。各事例では、攻撃者の企図、AI の利用方法、OpenAI の対応を解説します。
報告書
各調査の詳細と、OpenAI が活動を阻止した方法については、出典となる報告書をご覧ください。