このケーススタディは、OpenAI の 2025 年 2 月（新しいウィンドウで開く）のレポートで最初に公開されました。
実行主体
当社は、「タスク（新しいウィンドウで開く）」詐欺とみられる短いコメントをウルドゥー語と英語の間で翻訳していた、一連の ChatGPT アカウントを停止しました。この詐欺では、高収入の仕事を持ちかけた後、被害者が本来得られるはずの「報酬」を受け取る前に、自分のお金をシステムへ入金するよう求めます。この活動はカンボジアを拠点としていたとみられます。この種の詐欺では、通常、被害者は「報酬」だけでなく、自分が入金したお金も失います。当社は Meta からの情報提供を受け、この活動の調査を開始しました。
活動内容
このネットワークは主に、詐欺師と被害者の会話とみられる短いコメントを、ウルドゥー語と英語の間で翻訳するために当社のモデルを利用していました。Telegram（主な活動基盤とみられます）、WhatsApp、SMS でのメッセージのやり取りや、求人を掲載できるさまざまな就職関連フォーラムおよびグループへの言及を確認しました。
詐欺師は主に 2 種類の人物を装っていたとみられます。1 つは「採用担当者」です。高収入のリモートワークの広告を掲載し、面識のない相手に勧誘メッセージを送っていました。もう 1 つは、より活発に活動していた「メンター」です。「採用担当者」の勧誘を引き継ぎ、標的に仕事の進め方を教えていました。メンターは、Telegram での研修に頻繁に言及していました。
詐欺師は当社のモデルをウェブサイトの文章校正に利用することもありました。これらのサイトは、高級デザイン、ファッション、旅行ブランドの名称や外観を模倣していたとみられます。「メンター」役は、そうしたブランドに代わって採用していると主張していました。このことから、これらのウェブサイトは詐欺の信頼性を高めるために使われていた可能性があります。
生成内容
当社が把握できる範囲は限られていますが、詐欺師は標的との接触から詐欺へ誘導するまで、一般に次のような流れをたどっていたとみられます。
求人掲載：プロンプトと生成内容によると、詐欺師はまず、さまざまなオンラインフォーラムに求人を掲載していたとみられます。勧誘では通常リモートワークをうたい、数時間の作業で 1 日 300 ドルとボーナスが得られるなど、作業量に対して比較的高額な報酬を提示していたとみられます。こうした求人は通常、「採用担当者」役が掲載していました。
勧誘：次に詐欺師は、「メンター」役として潜在的な求職者に連絡するためのメッセージを生成していました。さまざまなメッセージアプリを使っていた可能性があり、「採用担当者」と一緒に働いていると説明していました。「メンター」は、この活動のためにウェブサイトを設けた高級ブランドのいずれかに勤務していると主張していました。業務内容については、顧客評価を高めるという名目で、そうした高級ブランドのサイトに星 5 つのレビューを投稿することだと説明していました。
安心させる：生成内容では、詐欺師は老舗企業のための仕事なので正規のものだと標的を安心させることがよくありました。標的が不安を示すと、詐欺師は自分も以前に詐欺に遭ったことがあるものの、今回の仕事は安全だと主張していました。
研修：標的が引き続き関心を示すと、「メンター」は通常 Telegram で研修を提案していたことが生成内容からうかがえます。標的にはまず「研修用アカウント」へのアクセス権が与えられ、1 日に 25～35 件のレビュー業務をこなすよう求められました。「研修用アカウント」では、標的の「報酬」が急速に増えていくように表示されました。
期待を高める：標的が研修を続けると、より高額なボーナスが付く「特別」または「究極」のレビュー業務を提示されることが多かったと、生成内容は示しています。「メンター」は、その機会がいかに珍しく、標的がどれほど幸運かを強調していました。
「有効化手数料」：標的の「報酬」が一定額に達すると、「メンター」は「報酬」を引き出すには「有効化手数料」の支払いが必要だと伝えていました。必要に応じて、詐欺師は友人や家族からお金を借りるよう促していました。
圧力をかける：標的が支払いをためらうと、詐欺師は次第に攻撃的になっていました。より効率的な他の作業者と比較したり、入金しなければ報酬を失うと告げたりして、支払いを迫っていたことが生成内容から分かります。
言い訳を重ねる：標的が入金したとみられる場合、生成内容では、詐欺師は標的が報酬を引き出せない理由を次々と並べ、多くの場合、さらに入金する必要があると伝えていました。
影響
会話の一部から、標的が強い疑念を抱いていたことが分かりました。また、詐欺師が生成したコメントの中には、「メンター」が標的にメッセージを送らなくなった理由を尋ねるものもありました。このことから、この詐欺が成功する割合は全体として低かった可能性があります。しかし、一部の会話やオンライン上の報告から、少なくとも一部の被害者が実際にこの詐欺へ入金したことがうかがえます。当社のツール外で行われる活動を、当社が独自に検証することはできません。
OpenAI のポリシーでは、詐欺に当社ツールの出力を利用することを固く禁じています。当社は、AI が敵対的行動に及ぼす影響を把握し、当社サービスを悪用する詐欺活動を積極的に阻止するため、業界各社や関係当局との連携に取り組んでいます。この取り組みの一環として、当社は阻止した詐欺ネットワークに関する情報を業界各社および関係当局と共有し、社会全体の安全性向上に努めています。