本案例研究最初发表于 OpenAI 的 2025 年 10 月（在新窗口中打开）报告。
一些显然与中国政府实体有关的个人使用 ChatGPT 协助开展工具开发、分析建档和行政事务。
正如我们在今年 3 月就《美国人工智能行动计划》向美国科技政策办公室提交的意见中所述，我们认为，要确保人工智能惠及尽可能多的人，就应以保护人们免受实际伤害的合理规则推动人工智能发展，并建设民主的人工智能。所谓民主的人工智能，是指由美国一贯秉持的民主原则塑造的人工智能。这包括防止威权政权利用人工智能工具扩张权力并控制其公民。
我们持续投入资源，检测并阻止威权政权滥用 ChatGPT 能力的企图。这不仅能保护当下的人们，也有助于深入了解这些政权未来可能如何滥用更先进的能力。本节将讨论其中一组发现，涉及可能与此类政权有关的个人，重点关注中国。
正如我们在 6 月所述，中国正在切实推进其威权主义版本的人工智能。我们封禁了一些由显然与中国政府实体有关的个人使用的 ChatGPT 账户，这在一定程度上揭示了人工智能目前在这种威权环境中的使用情况。其中一些用途似乎旨在支持大规模监控线上或线下活动，这凸显了我们持续关注这一领域可能出现的威权滥用行为的重要性。另一些用途似乎旨在开展更深入的分析建档。我们已封禁与此类活动有关的账户，并在本报告中分享相关发现。
本研究基于我们发现并封禁的部分违规活动案例。这些活动表现为个人用户使用 ChatGPT，而非机构大规模采用我们的模型。因此，本研究只能有限呈现不同人工智能模型在这一场景中的使用情况。
开发大规模监控工具
我们封禁的部分账户似乎试图使用 ChatGPT 开发大规模监控工具，以分析通常从西方或中国社交媒体平台收集的数据集。我们曾在 2 月报告过一个此类案例：相关人员试图设计一款由人工智能驱动的社交媒体舆情监测工具，并声称该工具供中国安全部门使用。这些用户通常要求 ChatGPT 协助设计此类工具或为其生成宣传材料，但并未要求 ChatGPT 实际实施监控。
例如，我们最近封禁了一名用户。该用户可能通过 VPN 从中国访问我们的服务，并要求 ChatGPT 协助为一款据称供政府客户使用的社交媒体舆情监测工具设计宣传材料和项目计划。该工具被描述为一种社交媒体“探针”，据称可以扫描 Twitter/X、Facebook、Instagram、Reddit、TikTok 和 YouTube，查找该用户所谓的极端主义言论，以及涉及族群、宗教和政治的内容。该用户并未使用我们的模型实际开展社交媒体监控。我们无法独立核实该工具是否曾被中国政府实体使用。
同样，我们还封禁了另一名可能与政府实体有关的用户。该用户要求 ChatGPT 协助撰写一份关于其所谓“高风险涉维吾尔人员流入预警模型”（高危涉维吾尔关注人员流入预警模型）的提案。提案描述了一款工具，可分析交通出行预订信息，并将其与警方记录比对，从而对被归为“涉维吾尔且属高风险”人员的出行动态进行预警，但提案并未界定这一类别。该用户并未要求我们的模型协助构建此类工具，只要求制定一份总体提案。因此，我们无法独立确认其打算使用何种技术，也无法确认中国政府实体是否使用过此类工具。
分析建档与研究
我们还封禁了一些似乎与中国政府实体有关的用户，他们似乎试图使用 ChatGPT 开展更具针对性的定制分析建档和在线调查。
例如，一名用户要求 ChatGPT 查明某个批评中国政府的 X 账户的资金来源。另一名用户要求 ChatGPT 查明蒙古国一项请愿活动的组织者。在这两个案例中，我们的模型仅返回了公开信息，其中不包括资金来源或请愿活动组织者身份等敏感细节。
部分此类活动将我们的模型用作开源调查工具，其使用方式类似于以往用户通过互联网或社交媒体进行搜索。例如，第三名用户要求 ChatGPT 每日查找并汇总与中国有关的突发新闻，其中包括 1989 年天安门广场屠杀事件周年纪念日和 Dalai Lama 生日等敏感话题。