ロマンス誘導型詐欺：AI が支援する「豚の屠殺」詐欺のワークフロー
OpenAI は、カンボジア発と見られ、AI を使ってロマンス詐欺や投資詐欺の会話を翻訳・生成していたアカウントを停止しました。
このケーススタディは、OpenAI の 2025 年 2 月（新しいウィンドウで開く）のレポートで初めて公開されました。
実行主体
日本語、中国語、英語の短いコメントを翻訳・生成していた一連の ChatGPT アカウントを停止しました。この活動はカンボジア発と見られ、ロマンス詐欺と投資詐欺（「豚の屠殺」詐欺とも呼ばれます）の特徴と一致していました。Meta は最近、自社プラットフォーム上で関連する活動を特定しました（新しいウィンドウで開く）。これは、カンボジアに新設された詐欺拠点から発信されたものと見られます。
行動
このネットワークは、短いコメントの翻訳と生成に当社のモデルを使用していました。実行主体の主な使用言語は中国語だったと見られます。出力にはさまざまな言語が使われ、特に日本語と中国語が多く、英語も含まれていました。
実行主体は、主に 2 つの活動に当社のモデルを使用していました。1 つ目は、Facebook、X、Instagram などのソーシャルメディアに公開投稿するコメントの生成です。各ソーシャルメディアアカウントには通常、若い女性のプロフィール画像が 1 枚以上掲載されていました。少なくとも一部は AI で生成されたものではなく、実在するモデルやインフルエンサーからコピーされた画像だったと当社は評価しています。
生成されたコメントの大半は、実在する人物のソーシャルメディア投稿への返信として投稿されていました。実行者が返信した投稿の中には、数か月前や数年前のものもありました。この活動では通常、公開プロフィールから 40 歳を超えていると見られる男性が狙われ、医療従事者が多く含まれていました。ゴルフに関する投稿へ頻繁に返信しており、意図的な標的選定戦略がうかがえます。詐欺師が政治問題や時事問題について投稿することもありました。
この実行主体が当社のモデルで生成した Facebook のコメント。この活動との関連が見られない人物によるゴルフについてのコメントへの返信として投稿されました。詐欺アカウントのプロフィール画像は、米国のファッション・美容インフルエンサーからコピーされたものです。詐欺アカウントがコメントした時点で、元の投稿から 1 か月以上が経過していました。
当社のモデルで生成され、X の認証済みアカウントから投稿されたコメント。この詐欺との関連が見られないアカウントのポストへの返信として投稿されました。プロフィール画像は、同じ米国のファッション・美容インフルエンサーからコピーされたものです。元のポストは約 6 か月前のものでした。
2 つ目は、より頻繁に行われていた活動で、オンライン上の会話の一部に見える短いコメントの生成です。通常は、中国語のコメントを対象言語（日本語または英語）へ、あるいは対象言語から中国語へ翻訳していました。これは、詐欺師が主に進行中のチャットの翻訳にモデルを使用していたことと整合します。
アカウントがモデルに対し、若い女性が思わせぶりに話すような特定の口調で返信を生成するよう求めることもありました。モデルの回答を誘導するため、架空の人物の名前、学歴、職業、居住地、趣味など、詳細な経歴情報が提示されることもありました。こうした経歴には通常、架空の人物がオンライン投資も少し行っているという設定が含まれていました。
詐欺師は、標的と接触するために多数の異なるツールやプラットフォームを使用していたと見られます。調査では、LINE、WhatsApp、X、Facebook、Instagram、その他さまざまなメッセージサービス、Apple の「メールを非公開」機能（新しいウィンドウで開く）、暗号資産および外国為替取引プラットフォームを使用していた証拠が見つかりました。
一連の流れ
当社が把握できた範囲では、詐欺師は標的との接触から不正な投資へ誘導するまで、次のような共通の流れに従っていたと見られます。
公開の場での接触：詐欺師は、標的のソーシャルメディア投稿にコメントしていました。こうしたコメントは、「［話題］についてどう思いますか？」のような質問で終わることが多く、返信を得る可能性を高める狙いがあったと見られます。政治についてコメントした事例も少数ありましたが、ゴルフの話題の方が一般的でした。
ダイレクトメッセージと見られるやり取り：続いて詐欺師は、会話調の短いコメントを生成していました。これらがどこでどのように使われたかを完全には把握できていませんが、コメントの内容は、詐欺師と標的がダイレクトメッセージの交換を始めた状況と一致していました。
安全なメッセージアプリへの移行：多くの場合は数日以内という早い段階で、詐欺師は、より安全なメッセージアプリへ移ることを提案するメッセージを生成していました。ソーシャルメディアを信用していないことを理由にする場合もあれば、ソーシャルメディアを利用できない場所へ行く予定だといった、都合上の理由を挙げる場合もありました。
恋愛感情の醸成：詐欺師は、次第に愛情や親密さを強めたメッセージを作成・翻訳していました。標的が、会話相手である「女性」の写真を求めると、詐欺師は言い訳をしていました。
金銭面での誘導：詐欺師は、外国為替、暗号資産、金へのオンライン投資で大金を稼いだと自慢するメッセージを作成・翻訳していました。多くの場合、金融業界で働く親族の助言に従った結果だと説明していました。詐欺師は標的に同じ方法で投資を始めるよう強く勧め、その手順を案内すると申し出ていました。
詐欺：詐欺師は、被害者を取引アプリへの送金に誘導するメッセージを作成・翻訳し、多額の利益が出ていると強調して後押ししていました。被害者が「利益」を引き出そうとするたびに、詐欺師は手数料の支払いが必要だといった口実を持ち出していました。
この活動パターンは、この種の詐欺に典型的な手口を取り上げた公開情報（新しいウィンドウで開く）と一致しています。
影響
この活動には、多数の不首尾な試みや失敗が含まれていたと見られます。詐欺師が当社のモデルで処理した会話の中には、標的が詐欺だと指摘したり、もう連絡しないよう求めたりして終わったものもありました。また、詐欺師がソーシャルメディアに投稿したものの、まったく反応を得られなかった事例も確認しました。
一方、一部の会話では、個々の取引額として数千ドル、またはそれに相当する他通貨の金額が言及されていました。実行者による当社モデルの使い方を踏まえると、こうした金融取引が実際に行われたかどうかは把握できません。しかし、会話内の言及から、少なくとも一部では詐欺師が標的から金銭をだまし取ることに成功したと考えられます。
OpenAI のポリシーでは、当社ツールの出力を不正行為や詐欺に使用することを厳しく禁止しています。当社は、敵対的行為に AI がどう使われているかを把握し、当社サービスを悪用する詐欺活動を積極的に阻止するため、同業他社や関係当局との連携に尽力しています。この取り組みの一環として、当社が阻止した詐欺ネットワークに関する情報を、同業他社および関係当局と共有しました。