Abusos vinculados a la RPC: actividades de vigilancia e influencia

Este estudio de caso se publicó originalmente en el informe de OpenAI de octubre de 2025⁠(se abre en una ventana nueva).

Personas aparentemente vinculadas a organismos gubernamentales de la RPC que usaban ChatGPT como ayuda para tareas de desarrollo, elaboración de perfiles y funciones burocráticas.

Como expusimos en marzo en nuestra aportación al Plan de Acción sobre IA de EE. UU. de la Oficina de Política Científica y Tecnológica, creemos que garantizar que la IA beneficie al mayor número posible de personas exige impulsarla mediante normas de sentido común destinadas a proteger a la población frente a daños reales y desarrollar una IA democrática. Por IA democrática entendemos una IA configurada conforme a los principios democráticos que Estados Unidos siempre ha defendido. Esto incluye impedir que los regímenes autoritarios utilicen herramientas de IA para acumular poder y controlar a sus ciudadanos.

Nuestra inversión en detectar e interrumpir los intentos de regímenes autoritarios de abusar de las capacidades de ChatGPT no solo protege a las personas en la actualidad, sino que también aporta información importante sobre cómo podrían abusar esos regímenes de capacidades futuras. Esta sección aborda una serie de hallazgos de este tipo sobre personas potencialmente vinculadas a dichos regímenes, con especial atención a la RPC.

Como escribimos en junio, la RPC está logrando avances reales en el desarrollo de su versión autocrática de la IA. La desactivación de cuentas de ChatGPT utilizadas por personas aparentemente vinculadas a organismos gubernamentales chinos arroja algo de luz sobre el uso actual de la IA en este entorno autoritario. Algunos aspectos de este uso parecían destinados a facilitar la vigilancia a gran escala del tráfico digital o físico, lo que subraya la importancia de seguir prestando atención a los posibles abusos autoritarios en este ámbito. Otros aspectos de este uso parecían orientados a elaborar perfiles más detallados. Bloqueamos las cuentas asociadas a esta actividad y compartimos nuestras conclusiones en este informe.

Este estudio se basa en una selección de actividades infractoras que detectamos, interrumpimos y bloqueamos. Esta actividad era propia de usuarios individuales de ChatGPT, no de una adopción institucional a gran escala de nuestros modelos. Por tanto, solo ofrece una visión parcial del uso de distintos modelos de IA en este contexto.

Algunas de las cuentas que bloqueamos parecían estar intentando usar ChatGPT para desarrollar herramientas de vigilancia a gran escala mediante el análisis de conjuntos de datos, a menudo recopilados de plataformas de redes sociales occidentales o chinas. En febrero informamos de un caso de este tipo, cuyo objetivo era diseñar una herramienta de escucha en redes sociales basada en IA que, según sus operadores, estaba destinada a las fuerzas de seguridad chinas. Estos usuarios solían pedir a ChatGPT ayuda para diseñar dichas herramientas o generar materiales promocionales sobre ellas, pero no para poner en práctica la vigilancia.

Por ejemplo, hace poco bloqueamos a un usuario que posiblemente accedía a nuestros servicios desde China mediante una VPN y que pedía a ChatGPT ayuda para diseñar materiales promocionales y planes de proyecto de una herramienta de escucha en redes sociales, supuestamente destinada a un cliente gubernamental. La herramienta se describía como una «sonda» (探针) para redes sociales que presuntamente podía rastrear Twitter/X, Facebook, Instagram, Reddit, TikTok y YouTube en busca de lo que el usuario describía como discursos extremistas y contenido étnico, religioso y político. El usuario no empleó nuestro modelo para llevar a cabo la vigilancia efectiva de las redes sociales. No podemos verificar de forma independiente si algún organismo gubernamental chino ha utilizado esta herramienta.

Del mismo modo, bloqueamos a un segundo usuario, probablemente vinculado a un organismo gubernamental, que pidió a ChatGPT ayuda para redactar una propuesta de lo que describía como un Modelo de alerta de entrada de personas de alto riesgo relacionadas con los uigures (高危涉维吾尔关注人员流入预警模型). La propuesta describía una herramienta que analizaría reservas de transporte y las cotejaría con registros policiales para emitir alertas tempranas sobre los desplazamientos de personas clasificadas como de alto riesgo y relacionadas con los uigures, una categoría que no se definía de ningún otro modo. El usuario no pidió a nuestro modelo ayuda para crear dicha herramienta, sino únicamente para elaborar una propuesta general. Por ello, no podemos confirmar de forma independiente qué tecnología pretendía utilizar ni si algún organismo gubernamental chino ha empleado una herramienta de este tipo.

También bloqueamos a usuarios que parecían estar vinculados a organismos gubernamentales chinos y que aparentemente intentaban usar ChatGPT para realizar investigaciones en internet y elaborar perfiles específicos y personalizados.

Por ejemplo, un usuario pidió a ChatGPT que identificara las fuentes de financiación de una cuenta de X que criticaba al Gobierno chino. Un segundo usuario pidió a ChatGPT que identificara a los organizadores de una petición en Mongolia. En ambos casos, nuestros modelos solo devolvieron información pública, que no incluía datos sensibles como las fuentes de financiación o la identidad de los organizadores de la petición.

Parte de esta actividad utilizó nuestros modelos como herramienta de investigación de fuentes abiertas, de forma similar a como antes se recurría a búsquedas en internet o en redes sociales. Por ejemplo, un tercer usuario pidió a ChatGPT que identificara y resumiera cada día noticias de última hora relevantes para China, incluidas cuestiones sensibles como el aniversario de la masacre de la plaza de Tiananmén de 1989 y el cumpleaños del dalái lama.