Abusos ligados à RPC: atividades de vigilância e influência

Este estudo de caso foi publicado originalmente no relatório da OpenAI de outubro de 2025⁠(abre numa nova janela).

Indivíduos aparentemente ligados a entidades governamentais da RPC utilizaram o ChatGPT para ajudar em tarefas de desenvolvimento, definição de perfis e burocracia.

Como expusemos em março no nosso contributo para o Plano de Ação dos EUA para a IA, do Gabinete de Política Científica e Tecnológica, acreditamos que garantir que a IA beneficia o maior número possível de pessoas exige regras de bom senso que permitam o seu desenvolvimento, protejam as pessoas de danos reais e promovam uma IA democrática. Por IA democrática, entendemos uma IA moldada pelos princípios democráticos que os Estados Unidos sempre defenderam. Isto inclui impedir que regimes autoritários utilizem ferramentas de IA para acumular poder e controlar os seus cidadãos.

O nosso investimento na deteção e interrupção de tentativas de regimes autoritários para explorar indevidamente as capacidades do ChatGPT não só protege as pessoas agora, como também fornece informações importantes sobre a forma como esses regimes poderão explorar indevidamente capacidades futuras. Esta secção aborda um conjunto dessas conclusões relativas a indivíduos potencialmente ligados a tais regimes, com especial atenção à RPC.

Como escrevemos em junho, a RPC está a fazer progressos concretos no desenvolvimento da sua versão autocrática da IA. A interrupção de contas do ChatGPT utilizadas por indivíduos aparentemente ligados a entidades governamentais chinesas ajuda a esclarecer o estado atual da utilização da IA neste contexto autoritário. Alguns aspetos desta utilização pareciam destinar-se a apoiar a monitorização em grande escala do tráfego online ou offline, o que reforça a importância de continuarmos atentos a possíveis abusos autoritários neste domínio. Outros aspetos desta utilização pareciam destinar-se a uma definição de perfis mais aprofundada. Bloqueámos as contas associadas a esta atividade e partilhamos neste relatório as informações obtidas.

Este estudo baseia-se numa seleção de atividades que violavam as nossas políticas, identificadas e interrompidas por nós. Essa atividade correspondia à utilização do ChatGPT por utilizadores individuais, e não a uma adoção institucional e em grande escala dos nossos modelos. Como tal, oferece apenas uma perspetiva limitada da utilização de diferentes modelos de IA neste contexto.

Algumas das contas que bloqueámos pareciam estar a tentar utilizar o ChatGPT para desenvolver ferramentas de monitorização em grande escala, analisando conjuntos de dados frequentemente recolhidos em plataformas de redes sociais ocidentais ou chinesas. Em fevereiro, relatámos um caso deste tipo, destinado a conceber uma ferramenta de IA para acompanhar redes sociais que, segundo os operadores, se destinava às forças de segurança chinesas. Estes utilizadores pediam normalmente ao ChatGPT que ajudasse a conceber essas ferramentas ou a criar materiais promocionais sobre as mesmas, mas não a realizar a monitorização.

Por exemplo, bloqueámos recentemente um utilizador que talvez recorresse a uma VPN para aceder aos nossos serviços a partir da China e que pedia ao ChatGPT ajuda para criar materiais promocionais e planos de projeto para uma ferramenta de acompanhamento das redes sociais, alegadamente destinada a um cliente governamental. A ferramenta foi descrita como uma «sonda» (探针) para redes sociais que, alegadamente, conseguiria pesquisar no Twitter/X, Facebook, Instagram, Reddit, TikTok e YouTube aquilo que o utilizador descreveu como discurso extremista e conteúdos étnicos, religiosos e políticos. O utilizador não recorreu ao nosso modelo para efetuar a monitorização propriamente dita das redes sociais. Não conseguimos verificar de forma independente se esta ferramenta foi utilizada por uma entidade governamental chinesa.

Do mesmo modo, bloqueámos um segundo utilizador, provavelmente ligado a uma entidade governamental, que pediu ao ChatGPT ajuda para redigir uma proposta relativa ao que descreveu como um Modelo de Alerta de Entrada de Pessoas de Alto Risco Relacionadas com Uigures (高危涉维吾尔关注人员流入预警模型). A proposta descrevia uma ferramenta que analisaria reservas de transporte e as compararia com registos policiais, a fim de emitir alertas antecipados sobre as deslocações de pessoas classificadas como relacionadas com uigures e de alto risco, uma categoria que não foi definida. O utilizador não pediu ao nosso modelo que ajudasse a criar essa ferramenta, mas apenas que elaborasse uma proposta geral. Por conseguinte, não conseguimos confirmar de forma independente que tecnologia pretendia utilizar, nem se tal ferramenta foi usada por uma entidade governamental chinesa.

Também bloqueámos utilizadores que pareciam estar ligados a entidades governamentais chinesas e que aparentavam tentar utilizar o ChatGPT para realizar investigações online e criar perfis mais específicos e direcionados.

Por exemplo, um utilizador pediu ao ChatGPT que identificasse as fontes de financiamento de uma conta no X que criticava o Governo chinês. Um segundo utilizador pediu ao ChatGPT que identificasse os organizadores de uma petição na Mongólia. Em ambos os casos, os nossos modelos apenas devolveram informações disponíveis ao público, que não incluíam dados sensíveis, como fontes de financiamento ou a identidade dos organizadores das petições.

Parte desta atividade utilizou os nossos modelos como ferramenta de investigação de fontes abertas, de forma semelhante àquela em que utilizadores anteriores poderiam ter recorrido a pesquisas na Internet ou nas redes sociais. Por exemplo, um terceiro utilizador pediu ao ChatGPT que identificasse e resumisse diariamente notícias de última hora relevantes para a China, incluindo temas sensíveis como o aniversário do massacre da Praça Tiananmen, em 1989, e o aniversário do Dalai Lama.