イランの秘密世論工作を阻止する

OpenAI は、AI が生成したコンテンツの悪用を防止し、透明性を向上させることに取り組んでいます。この活動には秘密世論工作⁠（IO）の検出と阻止が含まれます。これは、工作員の身元や意図を隠して世論を操作したり、政治結果に影響を与えたりするものです。2024年に実施された多くの選挙において特に重要なものとなりました。当社は、自社の AI モデルを活用して虐待の検出と理解を深めるなど、年間を通じてこの分野での取り組みを拡大してきました。 

今週では、Storm-2035⁠（新しいウィンドウで開く） として特定されたイランによる秘密世論工作のためにコンテンツを生成していた ChatGPT アカウント群を特定し、停止しました。当社は、これらのアカウントによる当社サービスの利用を禁止し、引き続き当社のポリシーに違反する試みを監視しています。この工作では、ChatGPT を使って、米国大統領選挙の両陣営の候補者についてのコメントなど、様々なトピックに焦点を当てたコンテンツを生成し、これを SNS アカウントやウェブサイトを通じて共有していました。 

当社が5月に報告した⁠秘密世論工作と同様に、今回の工作も有効なオーディエンスエンゲージメントを得ていないようです。当社が確認した SNS 投稿の大半は、「いいね」や共有、コメントがないか、非常に少ないものでした。同様に、ネット記事が SNS で共有された形跡も見つかりませんでした。秘密世論工作の影響力を1（最低）から6（最高）までの尺度で評価する Brookings の Breakout Scale⁠（新しいウィンドウで開く） では、この工作はカテゴリ2（複数のプラットフォームで活動したが、実際の人々がそのコンテンツを取り上げたり、広く共有したりしたという証拠はない）という低いものでした。当社の調査は、先週 Microsoft 社から発表された⁠（新しいウィンドウで開く）同工作に関する情報を参考にしました。 

調査の結果、この工作は ChatGPT を2つの用途で使用していることが判明しました。長文の記事を作成することと、SNS 用の短いコメントを作成することです。最初のワークストリームでは、米国の政治と国際時事に関する記事を作成し、進歩的・保守的両面の報道機関を装った5つのウェブサイトに掲載していました。2つ目のワークストリームでは、英語とスペイン語で短いコメントを作成し、SNS に投稿していました。この工作に関与しているアカウントを X で12、Instagram で1つ確認しました。X のアカウントの中には、進歩派を装ったものもあれば、保守派を装ったものもありました。当社のモデルに他の SNS ユーザーが投稿したコメントを書き換えるよう指示することで、これらのコメントの一部を作成していました。

同工作が生成したコンテンツのトピックは、ガザ紛争、オリンピック大会におけるイスラエルの存在、米国大統領選挙を主としているほか、ベネズエラの政治、アメリカにおけるラテンアメリカ系コミュニティの権利（スペイン語と英語の両方）、スコットランドの独立など複数です。政治的な内容にファッションや美容に関するコメントを織り交ぜることで、より本物らしく見せたり、支持を増やそうとしたりしていたと見られます。

同工作から有効なオーディエンスエンゲージメントは得られなかったものの、当社は、外国の世論工作で当社のサービスを利用しようとする試みを重く受け止めています。したがって、当社のサービスから当該アカウントを削除した後、この活動を阻止するために幅広いコミュニティを支援する作業の一環として、当社は脅威に関する情報を政府やキャンペーン、業界の関係者と共有しました。OpenAI は、産業界や市民社会、政府と協力し、生成 AI の力を活用して生産力を上げることで、この種の悪用を大規模に発見し、緩和することに専心しています。情報共有とベストプラクティスを促進するために、このような調査結果を引き続き発表していきます。

この活動に関連するドメイン：

• niothinker[.]com
• savannahtime[.]com
• evenpolitics[.]com
• teorator[.]com
• westlandsun[.]com