「偽証」作戦：公的機関を装う偽の被害金回収サービス

本事例は、OpenAI が 2026 年 2 月⁠（新しいウィンドウで開く）に公開した、AI の悪用阻止に関するレポートに初めて掲載されました。

OpenAI は、詐欺被害者を狙った被害金回収詐欺で、当社のモデルを使って架空の法律事務所を装い、実在の弁護士や米国の法執行機関にもなりすましていた一群の ChatGPT アカウントを停止しました。この活動はカンボジアを拠点としていた可能性が極めて高く、同国で中国人が主導する組織的な詐欺犯罪についての最近の報道とも符合しています。

これらのアカウントは、偽の法律事務所や、実在の弁護士、FBI のインターネット犯罪苦情センター（IC3）といった信頼される個人・機関へのなりすましを軸とした被害金回収詐欺に、ChatGPT を利用していました。

1. 接触：詐欺の実行者は ChatGPT を使い、少なくとも 6 つの偽の法律事務所が発信したように見せかけたコンテンツを作成していました。その一部は、架空の被害金回収サービスを宣伝するソーシャルメディアのアカウントやオンライン広告に掲載されました。公開情報には、これらの事務所が偽物であることを示唆する手がかりが複数ありました。州の弁護士資格を確認できないこと、不自然なウェブドメインを使っていること、連絡先に記載された住所が実在しないとみられること、弁護士への連絡にメッセージアプリを使うよう案内していることなどです。

2. 信頼の獲得：詐欺の実行者は、詐欺被害金の回収を専門に扱う弁護士の口調や専門家らしさを模したコメントを生成し、標的の信頼を得ようとしていました。また、弁護士を装った人物が発信したように見せかけたコンテンツも生成していました。当社は、さまざまなウェブサイトでこうした偽の人物の一部を確認しました。プロフィール画像は、ソーシャルメディアから流用したものか、AI で生成したものとみられます。同じ「弁護士」の身元情報を、法律事務所を名乗る複数の組織で使い回していたケースもありました。当社が特定したウェブサイトのうち 1 つは、IC3 を装っていました。

これらの詐欺サイトに掲載された連絡先は、訪問者を Telegram などのプライベートなやり取りに使うメッセージアプリへと誘導していました。詐欺の実行者は、ChatGPT を使って作成した標的へのメッセージで、国際刑事裁判所の監督下で活動していると偽り、被害金を全額回収できるまで手数料は一切かからないと説明していました。

3. 金銭の詐取：詐欺の実行者は、「回収」前に手数料や預かり金を要求し、標的から金銭をだまし取ろうとしていました。具体的には、回収したと称する資金を受け取る前に 15% の「サービス手数料」を支払うよう指示したり、口座を有効にするための預かり金を要求したり、「相談料」を請求したりしていました。ChatGPT を使って作成された標的へのメッセージには、暗号資産で送金し、支払いの証拠として取引確認画面のスクリーンショットを送るよう求める指示も含まれていました。

この詐欺活動では、ソーシャルメディア向けの宣伝コンテンツや、面識のない標的に送る勧誘メッセージの生成など、作業工程の複数の部分に当社のモデルが利用されていました。ただし、ChatGPT の最も一般的な用途は、メッセージアプリ上で標的と個別にやり取りするメッセージの翻訳でした。「アメリカ英語」で、あるいは弁護士らしい文体で返信を書くよう求める依頼もありました。

詐欺に使われたアカウントの一部は、信用を高めるための偽の資料の作成にも当社のモデルを利用していました。これには、偽の弁護士登録記録や弁護士会の会員証に加え、被害者が外部に助けを求めるのを思いとどまらせるための偽の秘密保持契約書も含まれていました。

証拠の主要な情報源が詐欺の実行者自身による入力内容であるため、影響の評価には慎重さが求められます。これらの入力内容からは、個々の被害者から数千ドルをだまし取った可能性がうかがえますが、当社はその主張を独自に検証できていません。FBI と、なりすまし被害に遭った少なくとも 1 つの法律事務所が、この詐欺について注意喚起を公表しています。FBI 当局者は、この詐欺が特に高齢者などの被害に遭いやすい層を狙い、詐欺被害者の心理状態や失った資金を早く取り戻したいという気持ちにつけ込んでいると警告しました。

OpenAI のポリシーは、当社ツールの出力を不正行為や詐欺に利用することを厳しく禁じています。当社は、AI が悪意ある行為者の行動にどのような影響を与えているかを把握し、当社サービスを悪用した詐欺活動を積極的に阻止するため、同業他社や関係当局との連携に力を注いでいます。