ロマンス詐欺：AI を悪用した詐欺のワークフロー

このケーススタディは、OpenAI が 2026 年 2 月⁠（新しいウィンドウで開く）に公開した、AI の悪用阻止に関する報告書に初めて掲載されました。

当社のモデルを悪用しようとする詐欺ネットワークの活動阻止について、1 年前⁠（新しいウィンドウで開く）に報告を始めて以来、世界各地の数多くの詐欺活動を阻止してきました。その中には、簡単な作業で得られるとする架空の報酬を受け取るために入金を求め、金銭をだまし取る「タスク」詐欺や、実在しない投資会社への出資を持ちかけて金銭をだまし取る投資詐欺がありました。

AI が登場するはるか以前から広く見られる手口の一つが、ロマンス詐欺です。詐欺実行者は恋人候補を装い、標的に理想の相手と出会えたと信じ込ませたうえで、次第に多額の金銭を要求します。当社が初めて公表した詐欺活動の阻止事例は、カンボジアで新たに立ち上げられた犯罪組織に関するものでした。この組織は ChatGPT を使ってロマンス詐欺のメッセージを生成し、その一部をソーシャルメディアで拡散していました。それ以来、当社はさまざまなロマンス詐欺の試みを阻止してきました。6 月⁠（新しいウィンドウで開く）に報告したとおり、こうした詐欺を含むさまざまな詐欺では、AI の使い方に共通のパターンが見られます。当社はこれを「接触」（面識のない相手への働きかけ）、「感情の喚起」、「金銭の詐取」という段階で捉えています。

接触（面識のない相手への働きかけ）：詐欺実行者は、標的候補の関心に訴えて注意を引くためのコンテンツを生成します。たとえば、昨年報告した「豚の屠殺」型詐欺では、医療職に就く 40 代の米国人男性を頻繁に標的とし、彼らのゴルフに関するソーシャルメディア投稿に返信していました。ほかの詐欺活動では、面識のない相手に送る SMS や偽の求人メッセージが使われていました。また、直近のロマンス詐欺の事例（後述）では、ソーシャルメディア広告が使われていました。いずれの事例でも、脅威アクターは ChatGPT を使い、従来の詐欺よりも相手の興味を引きやすく、非母語話者が書いたと気づかれにくいメッセージを生成していました。

感情の喚起：詐欺実行者は、標的の感情を強く揺さぶり、意のままに操りやすくするためのコンテンツを生成します。ロマンス詐欺では、標的に詐欺実行者への恋愛感情を抱かせようとします。ほかの詐欺では、もうかりそうな取引への期待を膨らませたり、機会を逃すことへの不安をあおったり、法的リスクや未払いの請求があると主張して相手を動揺させたりします。最初の接触と感情の喚起が、同じメッセージの中で行われることもあります。

金銭の詐取：詐欺実行者は、標的に金銭を渡すよう説得するためのコンテンツを生成します。その口実は実にさまざまです。たとえば、ロマンス詐欺では、恋人の事業への投資や、金銭的な窮地を乗り切るための援助を標的に求めることがあります。「タスク」詐欺では、標的が自分で稼いだと信じている架空の報酬を受け取るために、入金するよう要求します。投資詐欺では、実在しない投資案件に資金を出すよう標的に求めます。

この流れが示すように、詐欺に欠かせない要素の一つが、メッセージを届けるためのネットワークです。当社が明らかにしたさまざまな詐欺活動では、SMS、暗号化メッセージングアプリ、ソーシャルメディア投稿、オンライン広告、またはそれらを組み合わせて最初の接触を図っていました。AI 登場以前の詐欺では、メール⁠（新しいウィンドウで開く）や電話⁠（新しいウィンドウで開く）が使われていたことがよく知られており、さらに 19 世紀には手紙⁠（新しいウィンドウで開く）や電報⁠（新しいウィンドウで開く）も使われていました。多くの詐欺は無差別にメッセージを送りますが、中には標的を精密に絞り込もうとしていると見られるものもあります。たとえば、2025 年 2 月に報告した⁠（新しいウィンドウで開く）「豚の屠殺」型詐欺は、ゴルフなどの話題に焦点を当てていました。別のロマンス詐欺は、ソーシャルメディア広告でインドネシアの若い男性を狙っていました。また、著名人なりすまし詐欺⁠（新しいウィンドウで開く）では通常、著名人を装ってその人のファングループを標的にします。証拠が断片的なため、当社が阻止したさまざまな詐欺を確実に比較することは困難です。それでも、各種の作業に AI をどの程度使っていたかにかかわらず、選択した配信方法（無差別に送るか、標的を絞るかなど）が、標的に接触して金銭をだまし取れるかどうかを大きく左右すると評価しています。