この事例研究は、OpenAI の 2025 年 10 月（新しいウィンドウで開く）版レポートで初めて公開されました。
中国政府機関との関連が疑われる個人が、開発、プロファイリング、行政業務の支援に ChatGPT を使用していました。
当社が 3 月に米国科学技術政策局の「米国 AI 行動計画」へ提出した意見書で述べたように、AI の恩恵をできるだけ多くの人々に届けるには、現実の被害から人々を守るための常識的なルールの下で AI の活用を可能にし、民主的な AI を構築する必要があると考えています。民主的な AI とは、米国が一貫して支持してきた民主主義の原則によって形作られる AI を意味します。これには、権威主義体制が権力を集中させ、市民を統制するために AI ツールを使用することの防止も含まれます。
権威主義体制による ChatGPT の機能の悪用を検知し、阻止するための当社の取り組みは、現在の人々を守るだけでなく、そうした体制が将来の機能をどのように悪用し得るかについて重要な知見をもたらします。本節では、こうした体制との関連が疑われる個人について得られた一連の知見のうち、特に中国に関するものを取り上げます。
当社が 6 月に報告したように、中国は独裁的な AI の発展を着実に進めています。中国政府機関との関連が疑われる個人が使用していた ChatGPT アカウントを停止したことで、この権威主義的な環境における現在の AI 利用実態の一端が明らかになりました。その一部はオンラインまたはオフラインの通信を大規模に監視する目的とみられ、この領域における権威主義的な悪用の可能性を引き続き注視する重要性が浮き彫りになりました。また、より詳細なプロファイリングを目的とみられる利用もありました。当社はこの活動に関連するアカウントを停止し、本レポートで得られた知見を共有します。
本調査は、当社が特定して停止した違反行為のうち、一部の事例を基にしています。この活動は、組織による当社モデルの大規模導入ではなく、個人ユーザーによる ChatGPT の利用と一致していました。したがって、本調査は、この状況における各種 AI モデルの利用実態を限定的に示すものです。
大規模監視ツールの開発
当社が停止したアカウントの一部は、大規模監視ツールの開発に ChatGPT を利用しようとしていたとみられます。具体的には、欧米や中国のソーシャルメディアプラットフォームから収集されることが多いデータセットを分析していました。当社は 2 月にも、運用者が中国の治安当局向けだと主張する、AI を活用したソーシャルメディア監視ツールの設計を目的とする同様の事例を報告しました。これらのユーザーは通常、こうしたツールの設計や販促資料の作成を ChatGPT に依頼していましたが、監視そのものの実行には使用していませんでした。
例えば最近、VPN を使って中国から当社サービスにアクセスしていた可能性のあるユーザーを停止しました。このユーザーは、政府機関の顧客が使用するとされるソーシャルメディア監視ツールについて、販促資料やプロジェクト計画の作成支援を ChatGPT に求めていました。このツールは、ソーシャルメディア用の「プローブ」（探针）と説明され、Twitter/X、Facebook、Instagram、Reddit、TikTok、YouTube をスキャンして、ユーザーが過激派の言説と表現したものや、民族、宗教、政治に関するコンテンツを検出できるとされていました。このユーザーは、実際のソーシャルメディア監視に当社モデルを使用していませんでした。このツールが中国政府機関によって使用されたかどうかを、当社が独自に検証することはできません。
同様に、政府機関との関連が疑われる別のユーザーも停止しました。このユーザーは、「高リスク・ウイグル関連者流入警戒モデル」（高危涉维吾尔关注人员流入预警模型）と称するものの提案書作成を ChatGPT に依頼していました。提案書には、交通機関の予約情報を分析して警察記録と照合し、「ウイグル関連かつ高リスク」と分類された人々の移動を早期に警告するツールが記載されていましたが、この分類の定義は示されていませんでした。このユーザーは当社モデルにツールの構築支援を求めたのではなく、一般的な提案書の作成のみを依頼していました。そのため、使用を意図していた技術や、このようなツールが中国政府機関によって使用されたかどうかを、当社が独自に確認することはできません。
プロファイリングと調査
当社は、中国政府機関との関連が疑われ、個別の対象に特化した詳細なプロファイリングやオンライン調査に ChatGPT を利用しようとしていたとみられるユーザーも停止しました。
例えば、あるユーザーは、中国政府を批判する X アカウントの資金源を特定するよう ChatGPT に依頼しました。別のユーザーは、モンゴルで行われた署名活動の主催者を特定するよう ChatGPT に依頼しました。どちらの事例でも、当社モデルが返したのは公開情報のみで、資金源や署名活動の主催者の身元といった機微情報は含まれていませんでした。
こうした活動の一部では、かつてインターネット検索やソーシャルメディア検索が使われていたのと同様に、当社モデルが公開情報の調査ツールとして使用されていました。例えば、3 人目のユーザーは、1989 年の天安門広場での虐殺の記念日やダライ・ラマの誕生日といった機微な話題を含め、中国に関係する日々の速報ニュースを特定して要約するよう ChatGPT に依頼しました。