本案例研究最初刊載於 OpenAI 的2025 年 10 月(在新視窗中開啟)報告。
疑似與中國政府機構有關聯的人士利用 ChatGPT 協助開發工具、進行側寫及處理行政事務。
正如我們今年 3 月就科技政策辦公室的《美國 AI 行動計畫》提交的意見中所述，我們相信，要確保 AI 惠及盡可能多的人，就必須透過旨在保護人們免受實際傷害、合乎常理的規則來促進 AI 發展，並建構民主 AI。我們所說的民主 AI，是指依照美國始終秉持的民主原則所形塑的 AI。這包括防止威權政權利用 AI 工具擴張權力及控制公民。
我們投入資源偵測並阻止威權政權濫用 ChatGPT 功能的企圖，不僅能保護當下的人們，也讓我們深入瞭解這些政權未來可能如何濫用更先進的功能。本節將探討其中一組與疑似牽涉此類政權的人士有關的發現，重點聚焦中國。
正如我們今年 6 月所述，中國正在推動其威權版本的 AI，並已取得實質進展。我們阻止疑似與中國政府機構有關聯的人士使用 ChatGPT 帳戶，讓外界得以一窺目前 AI 在此威權環境中的使用情形。其中部分用途似乎旨在支援大規模監控線上或線下流量，凸顯我們必須持續關注威權政權在這個領域的潛在濫用行為。其他用途則似乎旨在進行更深入的側寫。我們已封禁涉及此類活動的帳戶，並在本報告中分享相關觀察。
本研究以我們發現並加以阻止及封禁的部分違規活動為基礎。這些活動顯示是個別使用者使用 ChatGPT，而非機構大規模採用我們的模型。因此，這僅是不同 AI 模型在此情境下使用情形的有限縮影。
開發大規模監控工具
我們封禁的部分帳戶似乎試圖利用 ChatGPT 開發大規模監控工具，用來分析經常取自西方或中國社群媒體平台的資料集。我們今年 2 月曾報告一起此類案例，當事人企圖設計一款 AI 社群媒體輿情監測工具，據營運者稱是供中國安全部門使用。這些使用者通常要求 ChatGPT 協助設計此類工具，或為其製作宣傳資料，但不會要求 ChatGPT 實際執行監控。
例如，我們最近封禁了一名使用者；此人可能透過 VPN 從中國存取我們的服務，並要求 ChatGPT 協助為一款據稱供政府客戶使用的社群媒體輿情監測工具設計宣傳資料及專案計畫。該工具被描述為社群媒體「探針」（探针），據稱可掃描 Twitter/X、Facebook、Instagram、Reddit、TikTok 及 YouTube，搜尋使用者所稱的極端主義言論，以及族群、宗教和政治內容。該使用者並未利用我們的模型實際執行社群媒體監控。我們無法獨立驗證中國政府機構是否曾使用這項工具。
同樣地，我們也封禁了另一名可能與政府機構有關聯的使用者；此人要求 ChatGPT 協助撰寫一份提案，內容涉及其所稱的「高風險涉維吾爾關注人員流入預警模型」（高危涉维吾尔关注人员流入预警模型）。提案描述了一款工具，可分析交通運輸訂位資料並與警方紀錄比對，以便針對被歸類為「涉維吾爾且屬高風險」人士的出行動向提供預警，但並未進一步界定此類別。該使用者並未要求我們的模型協助建構此類工具，而只要求擬定一份概括性提案；因此，我們無法獨立確認其打算使用何種技術，也無法確認中國政府機構是否曾使用這類工具。
側寫與研究
我們也封禁了疑似與中國政府機構有關聯，並試圖利用 ChatGPT 進行更客製化、更具針對性的側寫及線上研究的使用者。
例如，一名使用者要求 ChatGPT 找出某個批評中國政府的 X 帳戶有何資金來源。另一名使用者要求 ChatGPT 找出蒙古一項請願活動的組織者。在這兩起案例中，我們的模型都只提供公開資訊，其中不包含資金來源或請願活動組織者身分等敏感細節。
其中部分活動將我們的模型當成公開來源研究工具，使用方式類似於以往使用者透過網際網路或社群媒體進行搜尋。例如，第三名使用者要求 ChatGPT 找出並摘要每日與中國相關的即時新聞，包括 1989 年天安門廣場屠殺週年及達賴喇嘛生日等敏感議題。