私たちの使命は、汎用人工知能が全人類に利益をもたらすようにすることです。私たちは、イノベーションを展開して民主的 AI、すなわち民主的原則に基づき、常識的なルールで統治され、現実の危害から人々を守りながら難題の解決を支援するよう設計された AI を構築することで、この使命を前進させています。その使命には、権威主義体制とその代理者が、批判者を威圧し、コミュニティを監視し、民主主義社会にひそかに干渉するために AI システムを使おうとする試みを特定し、阻止することも必要です。
本レポートでは、中国発とみられる ChatGPT アカウントの 2 つのクラスターについて説明します。これらのアカウントは、米国の AI およびより広範なテクノロジー政策をめぐる正当な議論を操作しようと言説を広める、秘密裏の影響工作とみられる活動を支援するために当社のモデルを使用したことから、当社が利用を停止したものです。
最初のクラスターは、AI 向けデータセンターの建設拡大が一般家庭の電気料金を押し上げていると主張するソーシャルメディアのコメントや画像を生成していました。当社はこのクラスターを「データセンター便乗」キャンペーンと名付けました。
2 つ目のクラスターは、米国の関税をテクノロジー競争を支配しようとする試みとして批判するコメントや画像を生成し、そのプロンプトでは、出力に中国の指導者である習近平を含めず、代わりにトランプ大統領のみを含めるよう指定していました。このクラスターは、ChatGPT のユーザーデータが侵害されたと主張して OpenAI も標的にしていた可能性が高い、真正でないとみられるソーシャルメディアアカウントのネットワークとつながっていました。これらの主張は完全に虚偽でした。当社はこの 2 つ目のクラスターを「テクノロジーと関税」キャンペーンと名付けました。
OpenAI と米国のデータセンター建設拡大が標的にされたことは、その作戦が世論を動かしたように見えるからではなく、中国発の影響工作オペレーターが、米国のテクノロジーリーダーシップ、経済成長、そしてより広範な民主的 AI エコシステムの基盤である AI インフラに対して言説を試していることを示しているため、重要です。この作戦は、エネルギー価格やデータセンター開発の地域への影響に関する既存の社会的懸念を悪用し、増幅しようとしましたが、当社は、その活動自体を越えて有意に広がった証拠を見つけていません。外国の影響工作は長年、既存の地域課題や人々が真剣に抱く信念に便乗し、それらを利用して信頼性を築き、分断を増幅し、社会的な不信を悪化させようとしてきました。今回のケースでは、オペレーターは自分たちが何者で、何に動機づけられているのかを隠しながら、米国の AI 能力の将来をめぐる進行中の米国内の議論にひそかに入り込もうとしました。
これらの調査結果を公表することで、当社は、業界、政府、市民社会、そして一般の人々が、外国の脅威アクターによる、正当な公共の議論を操作し、民主主義制度を弱体化させ、AI の特性を持つ全体主義、すなわち政治的・社会的・私的生活の監視、検閲、統制に AI を使用する体制を推進しようとする試みを、より適切に特定し阻止できるよう支援することを目指しています。
