カンボジア拠点の犯罪組織による詐欺活動の阻止

今年初め、私たちは ChatGPT を投資詐欺、ロマンス詐欺、ギャンブル詐欺、法執行機関へのなりすましに利用していた、カンボジア拠点の詐欺活動を阻止しました。WhatsApp の担当者から寄せられた情報を受けて調査を開始し、その後、追加の脅威の兆候を業界パートナーや関係当局と共有しました。

この事案は、現代の詐欺ネットワークに関する重要な現実を示しています。組織的犯罪集団が、詐欺の手口を一種類に限定することはほとんどありません。その代わり、被害者を欺くうえで最も効果的だと考える筋書き、人物像、手口を機に応じて使い分けます。私たちの調査では、実行者が異なる種類の詐欺へ移行したり、一つの活動で複数の詐欺手法を組み合わせたりする例が日常的に確認されています。

ネットワーク内の一部のユーザーは、人身取引や犯罪行為の強要への関与をうかがわせるコンテンツも生成していました。これらの観察結果は、正規雇用を約束して労働者を勧誘した後、債務による拘束と強制の仕組みに閉じ込める東南アジアの組織的犯罪集団について述べた、広範な公開報道⁠（新しいウィンドウで開く）や報告⁠（新しいウィンドウで開く）と一致しています。関係者一人ひとりが置かれた状況を私たちが独自に判断することはできませんが、この活動は、詐欺の実行者自身も搾取の被害者である可能性を改めて示しています。

私たちは、カンボジアを発信源とする可能性が非常に高く、バンテアイ・ミエンチェイ州ポイペト市またはその周辺で活動していた可能性が高い、連携された ChatGPT アカウントのネットワークを停止しました。ポイペトは、公開報道⁠（新しいウィンドウで開く）で、オンライン詐欺拠点や人身取引活動との関連が繰り返し⁠（新しいウィンドウで開く）指摘されている⁠（新しいウィンドウで開く）都市です。

このネットワークは、架空のオンライン人物像の作成と運用、詐欺対象者に送るメッセージの生成と翻訳、不正な企ての宣伝コンテンツの作成、日常業務の支援に当社のモデルを使用していました。

私たちが過去に⁠（新しいウィンドウで開く）阻止した詐欺ネットワークと同様、一部のユーザーは ChatGPT を事務作業にも使用していました。これには、社内告知の作成、スタッフ間のメッセージの翻訳、採用、在留資格、労働条件、従業員の懲戒に関連するとみられる事項の記録が含まれます。

このネットワークは複数の種類の詐欺を同時に実行し、異なる手口の要素を組み合わせることも少なくありませんでした。例えば実行者は、出会い目的の人物像を使って信頼を築いた後、暗号資産や金の現物取引を利用した架空の投資話を持ちかけていました。ほかのユーザーは、架空の身元を使って対象者と長期間にわたり恋愛関係を装った会話を交わしたり、偽のボーナスや賞金を提示するオンラインギャンブルサイトの担当者を装ったり、法執行機関になりすまして、重大な犯罪を犯したため罰金を支払う必要があると対象者に告げたりしていました。

筋書きは異なっていても、ネットワーク内のユーザーには一貫して同じ基本的な欺瞞行動が見られました。例えば、偽の出会い系プロフィール、架空の投資専門家、法執行機関を装う偽の人物像を作成し、運用していました。また、パスポート、法的通知、株式購入確認書、ギャンブルサイトの画面など、偽造文書の画像も生成していました。

これまで⁠（新しいウィンドウで開く）複数の⁠（新しいウィンドウで開く）レポート⁠（新しいウィンドウで開く）で指摘したように、詐欺師は対象者とのやり取りで共通のパターンをたどっていました。私たちはこれを、接触、感情刺激、金銭搾取と捉えています。

• 接触：ネットワークは ChatGPT を使い、WhatsApp や Telegram などのメッセージングプラットフォームで対象者と交わす会話を翻訳、生成していました。詐欺師は、架空の人物像を補強するためにソーシャルメディア向けコンテンツを作成し、出会い系プロフィール用の素材も調べていました。

• 感情刺激：詐欺師のメッセージでは、感情的な圧力や信頼を築く手法が頻繁に使われていました。具体的には、収益の保証や「リスクなし」の投資という約束、恋愛感情を示す言葉、会話を秘密にするよう求める指示、架空のボーナスの期限が切れる前に行動するよう迫る要求などがありました。

• 金銭搾取：詐欺師は、報酬を受け取るための入金、利用開始手数料の支払い、架空の罰金の精算を被害者に指示し、支払いの証拠として送金画面のスクリーンショットや口座情報を提出させていました。

詐欺に加え、一部のユーザーは、人身取引や強制労働など、私たちが検知して阻止している別の規約違反行為への関与をうかがわせるコンテンツを生成していました。これには、航空券、住居、食事、ビザ、労働許可を提供すると約束する、ポイペトでの「チャット担当」求人のソーシャルメディア広告の作成が含まれていました。

ほかにも、この活動に従事する労働者の管理に関連するとみられる行為がありました。ユーザーは、従業員の債務、給与控除、懲戒罰金、ローン返済の記録を管理し、在留資格、労働許可、ビザの超過滞在、採用奨励金に関する話し合いを翻訳していました。

一部の会話では、拘束、逃亡の試みのほか、人身取引の被害に遭い、詐欺活動での労働を強要された人が刑事責任を問われる可能性にも言及していました。これらの会話だけでは特定の個人が置かれた状況を判断できませんが、東南アジアの組織的犯罪集団の活動について述べた、広範な公開報道⁠（新しいウィンドウで開く）や報告⁠（新しいウィンドウで開く）と一致しています。

私たちは、この活動に関連する ChatGPT アカウントを停止し、関連する指標を業界パートナーや関係当局と共有するとともに、実行者が当社の製品やサービスを再び利用しにくくする措置を講じました。

このネットワークに関連する金銭的被害の全容は不明ですが、詐欺師自身のやり取りによると、この活動は複数の詐欺手口を通じて数百人の対象者と接触した可能性があります。ユーザーの会話では、個々の被害者が数千ドルを失ったと述べられていましたが、私たちはその主張を独自に検証できていません。

より広い観点では、この事案から二つの傾向が改めて確認できます。第一に、組織的な詐欺ネットワークは、一種類の詐欺だけに特化せず、複数の詐欺を同時に展開するなど、高度に多角化している場合があります。第二に、オンライン詐欺、組織的犯罪、人身取引の境界はしばしば曖昧です。したがって、効果的に阻止するには、被害者に直接接触する詐欺行為だけでなく、それを指揮して利益を得る犯罪組織も標的にする必要があります。