Abuso vinculado a la RPC: actividades de vigilancia e influencia

Este estudio de caso se publicó originalmente en el informe de OpenAI de octubre de 2025⁠(se abre en una nueva ventana).

Personas aparentemente vinculadas a entidades gubernamentales de la RPC usaron ChatGPT como apoyo para tareas de desarrollo, elaboración de perfiles y funciones burocráticas.

Como expusimos en marzo en nuestra propuesta para el Plan de Acción de IA de Estados Unidos de la Oficina de Política Científica y Tecnológica, creemos que garantizar que la IA beneficie a la mayor cantidad posible de personas implica impulsarla mediante normas sensatas destinadas a proteger a las personas de daños reales y desarrollar una IA democrática. Por IA democrática nos referimos a una IA orientada por los principios democráticos que Estados Unidos siempre ha defendido. Esto incluye impedir que los regímenes autoritarios usen herramientas de IA para acumular poder y controlar a sus ciudadanos.

Nuestras inversiones para detectar e interrumpir los intentos de regímenes autoritarios de abusar de las capacidades de ChatGPT no solo protegen a las personas hoy, sino que también aportan información importante sobre cómo esos regímenes podrían abusar de capacidades futuras. Esta sección analiza una serie de hallazgos relacionados con personas que podrían estar vinculadas a esos regímenes, con especial atención a la RPC.

Como escribimos en junio, la RPC está logrando avances reales en el desarrollo de su versión autocrática de la IA. La interrupción de cuentas de ChatGPT utilizadas por personas aparentemente vinculadas a entidades gubernamentales chinas arroja algo de luz sobre el estado actual del uso de la IA en este entorno autoritario. Algunos aspectos de este uso parecían destinados a respaldar la vigilancia a gran escala del tráfico en línea o fuera de línea, lo que subraya la importancia de seguir atentos a posibles abusos autoritarios en este ámbito. Otros aspectos de este uso parecían orientados a elaborar perfiles más detallados. Bloqueamos las cuentas asociadas a esta actividad y compartimos nuestros hallazgos en este informe.

Este estudio se basa en una selección de actividades infractoras que detectamos, interrumpimos y bloqueamos. Esa actividad correspondía al uso de ChatGPT por parte de usuarios individuales, no a una adopción institucional y a gran escala de nuestros modelos. Por lo tanto, ofrece una visión limitada del uso de distintos modelos de IA en este contexto.

Algunas de las cuentas que bloqueamos parecían intentar usar ChatGPT para desarrollar herramientas de vigilancia a gran escala mediante el análisis de conjuntos de datos, a menudo recopilados de plataformas de redes sociales occidentales o chinas. En febrero informamos sobre uno de estos casos, cuyo objetivo era diseñar una herramienta de escucha de redes sociales basada en IA que, según sus operadores, estaba destinada a las fuerzas de seguridad chinas. Por lo general, estos usuarios le pedían a ChatGPT que los ayudara a diseñar esas herramientas o generar materiales promocionales sobre ellas, pero no a implementar la vigilancia.

Por ejemplo, hace poco bloqueamos a un usuario que posiblemente accedía a nuestros servicios desde China mediante una VPN y que le pedía a ChatGPT ayuda para diseñar materiales promocionales y planes de proyecto para una herramienta de escucha de redes sociales, supuestamente destinada a un cliente gubernamental. La herramienta se describía como una “sonda” (探针) de redes sociales que presuntamente podía rastrear Twitter/X, Facebook, Instagram, Reddit, TikTok y YouTube en busca de lo que el usuario describía como discursos extremistas y contenido étnico, religioso y político. El usuario no utilizó nuestro modelo para realizar la vigilancia de redes sociales propiamente dicha. No podemos verificar de forma independiente si alguna entidad gubernamental china ha utilizado esta herramienta.

Del mismo modo, bloqueamos a otro usuario, probablemente vinculado a una entidad gubernamental, que le pidió a ChatGPT ayuda para redactar una propuesta de lo que describió como un Modelo de alerta de afluencia de alto riesgo relacionada con uigures (高危涉维吾尔关注人员流入预警模型). La propuesta describía una herramienta que analizaría reservas de transporte y las compararía con registros policiales para advertir con anticipación sobre los desplazamientos de personas clasificadas como relacionadas con los uigures y de alto riesgo, una categoría que no se definía de ningún otro modo. El usuario no le pidió a nuestro modelo ayuda para crear esa herramienta, sino solo para elaborar una propuesta general. Por lo tanto, no podemos confirmar de forma independiente qué tecnología pretendía utilizar ni si alguna entidad gubernamental china ha usado una herramienta de este tipo.

También bloqueamos a usuarios que parecían estar vinculados a entidades gubernamentales chinas y que aparentemente intentaban usar ChatGPT para realizar investigaciones en línea y elaborar perfiles específicos y personalizados.

Por ejemplo, un usuario le pidió a ChatGPT que identificara las fuentes de financiamiento de una cuenta de X que criticaba al gobierno chino. Otro usuario le pidió a ChatGPT que identificara a los organizadores de una petición en Mongolia. En ambos casos, nuestros modelos solo proporcionaron información de acceso público, que no incluía datos confidenciales como las fuentes de financiamiento o la identidad de los organizadores de la petición.

Parte de esta actividad utilizó nuestros modelos como herramientas de investigación de fuentes abiertas, de manera similar a como otros usuarios antes habrían usado búsquedas en internet o redes sociales. Por ejemplo, otro usuario le pidió a ChatGPT que identificara y resumiera diariamente noticias de última hora relevantes para China, incluidas las relacionadas con temas delicados como el aniversario de la masacre de la plaza de Tiananmén de 1989 y el cumpleaños del dalái lama.