メインコンテンツにスキップ
OpenAI

2024年5月1日

安全性

IUVM:イラン関連の影響工作コンテンツネットワーク

OpenAI は、AI で親イラン、反イスラエル、反米のウェブサイトコンテンツを生成・翻訳していたイラン発の工作「IUVM」に関連するアカウントを禁止しました。

読み込んでいます...

本ケーススタディは、OpenAI の 2024 年 5 月⁠(新しいウィンドウで開く)版レポートで初めて公開されました。

実行主体

当社は、2018 年からオープンソース調査コミュニティの研究対象となっているイランの組織、International Union of Virtual Media(IUVM)⁠(新しいウィンドウで開く)の関係者に関連する少数のアカウントを禁止しました。

行動

この工作は世界中の利用者を標的とし、英語とフランス語のコンテンツ生成に注力していました。当社のモデルを使用して、記事⁠(新しいウィンドウで開く)、見出し、ウェブサイトのタグを生成・校正していました。その後、これらのコンテンツは IUVM の現在のウェブサイトである iuvmpress.co に掲載されました(IUVM が以前使用していたドメインは、2020 年に FBI に押収されました⁠(新しいウィンドウで開く))。

記事は通常、公開前日に作成されていました。ウェブサイトのタグは公開直前に作成されており、自動生成された可能性があります。ある事例では、当社モデルの応答メッセージを含むウェブサイトのタグ一式が確認され、自動化されていたこと(または校正が不十分だったこと)が示唆されました。

iuvmpress.co に掲載された記事のタグ。最初の 2 つのタグには、当社モデルの応答が含まれています。

iuvmpress.co に掲載された記事のタグ。最初の 2 つのタグには、当社モデルの応答が含まれています。

コンテンツ

このネットワークが生成したコンテンツは、長文記事、見出し、ウェブサイトのタグで構成されていました。これらのコンテンツは概して反米・反イスラエルで、パレスチナ人、イラン、「抵抗の枢軸」を称賛していました。

影響評価

IUVM のオンラインでの存在感は、度重なるソーシャルメディア上での削除措置⁠(新しいウィンドウで開く)と、FBI によるドメインの押収⁠(新しいウィンドウで開く)によって低下しています。2024 年 5 月 23 日時点で、ウェブサイトのほかに、TikTok、VKontakte、Odnoklassniki 上で IUVM ブランドのアカウントを確認しました。これらのソーシャルメディアアカウントのフォロワーまたは登録者は、それぞれ 10 人、76 人、274 人でした。

影響工作(IO)の影響を 1(最低)から 6(最高)までの尺度で評価するブレイクアウト・スケール⁠(新しいウィンドウで開く)を用いると、これはカテゴリー 2 の工作に相当します。複数のプラットフォームで投稿活動が見られたものの、いずれでも拡散の広がりや、利用者による顕著な反応は確認されませんでした。

指標

この工作に関連するものとして、以下のドメインを特定しました。

  • iuvmpress.co

  • iuvmarchive.org