Neutralizamos una operación de influencia encubierta iraní
Hemos bloqueado varias cuentas vinculadas con una operación de influencia iraní que usaban ChatGPT para generar contenido sobre varios temas como las elecciones presidenciales de EE. UU. No nos consta que esto haya tenido una repercusión significativa.
OpenAI lucha contra el uso abusivo de la IA y por mejorar la transparencia del contenido que se genera con esta tecnología. Como respuesta a nuestro compromiso, hemos detectado y neutralizado una serie de operaciones de influencia encubiertas cuyo fin era manipular la opinión pública o influir en los resultados de las elecciones ocultando la verdadera identidad e intenciones de los responsables. Nuestra posición cobra especial relevancia si tenemos en cuenta la cantidad de procesos electorales que se han celebrado en 2024. Durante el año, hemos destinado más recursos a esta iniciativa; por ejemplo, usando nuestros propios modelos de IA para detectar e identificar mejor esta forma de uso abusivo.
Sin ir más lejos, esta semana hemos identificado y desarticulado un clúster de cuentas de ChatGPT que se dedicaba a generar contenido en el marco de una operación encubierta de influencia iraní, bautizada como Storm-2035(se abre en una ventana nueva). Hemos bloqueado el acceso de estas cuentas a nuestros servicios y seguimos atentos a nuevos intentos de infringir nuestras políticas. Los responsables de esta operación usaron ChatGPT para generar contenido relacionado con una gran variedad de temas, incluidos comentarios sobre los candidatos de ambos partidos en las elecciones presidenciales de Estados Unidos, que posteriormente compartieron en redes sociales y sitios web.
Igual que las operaciones encubiertas de influencia que denunciamos en el mes de mayo, esta operación no parece haber atraído el interés de las audiencias. En su mayor parte, las publicaciones que identificamos en redes sociales apenas se compartieron, se comentaron o recibieron likes. Asimismo, tampoco observamos que los artículos publicados en sitios web se compartieran por internet. Aplicando la escala de repercusión(se abre en una ventana nueva) ideada por The Brookings Institution, que clasifica el impacto de una IO encubierta en una escala de uno (el más bajo) a seis (el más alto), esta operación se sitúa en el nivel más bajo de la categoría dos (actividad en varias plataformas, sin evidencias de que individuos reales hayan consultado o compartido ampliamente el contenido). Nuestra investigación se ha nutrido de la información que Microsoft publicó la semana pasada(se abre en una ventana nueva) con respecto a la operación.
En ella, revelamos que, durante la operación, se hizo uso de ChatGPT con dos propósitos: generar artículos extensos y comentarios breves para redes sociales. El primer bloque de contenido se centró en artículos sobre política estadounidense y eventos internacionales. Se publicaron en cinco sitios web que se hacían pasar por medios de noticias progresistas y conservadores. Durante el segundo bloque, se generaron comentarios breves en inglés y español que luego se publicaron en redes sociales. Identificamos una docena de cuentas en X y una en Instagram que participaban en la operación. Algunas de las cuentas de X se declaraban progresistas y otras, conservadoras. Para generar estos comentarios, dieron la instrucción a nuestros modelos de reescribir los comentarios que habían publicado otros usuarios en las redes sociales.
En el conjunto de la operación, se generó contenido sobre temas diversos: principalmente, el conflicto de Gaza, la presencia de Israel en los Juegos Olímpicos y las elecciones presidenciales de Estados Unidos; y, en menor medida, la situación política en Venezuela, los derechos de las comunidades latinas en los Estados Unidos (tanto en español como en inglés) y la independencia de Escocia. Los responsables de la operación intercalaban el contenido político con contenido sobre moda y belleza, probablemente para ganar autenticidad o seguidores.
Pese a la palpable falta de interés por parte de la audiencia, nos preocupa cualquier intento de usar nuestros servicios en operaciones de influencia de terceros países. En consecuencia, tras eliminar las cuentas de nuestros servicios, y con el objetivo de ayudar a la comunidad a desmantelar esta operación, compartimos información relativa a estas amenazas con el Gobierno, los equipos de campaña y las partes interesadas del sector. En OpenAI, nos esforzamos por detectar y mitigar este tipo de abusos a gran escala y, a tal fin, nos asociamos con agentes del sector, la sociedad civil y el Gobierno y aprovechamos el potencial de la IA generativa a nuestro favor. Seguiremos haciendo públicos casos como este para favorecer el intercambio de información y buenas prácticas.
Dos titulares de artículos generados en el marco de esta operación y publicados en dos de sus sitios web. No nos consta que dichos artículos se hayan compartido profusamente en redes sociales.
Publicaciones sobre los candidatos a la presidencia de Estados Unidos generados durante la operación, publicadas desde dos cuentas distintas de X. Las publicaciones no generaron apenas interacción.
Publicaciones sobre la belleza generadas durante la operación en inglés y español, publicadas desde dos cuentas distintas de X. Analizamos las imágenes con nuestro clasificador DALL·E 3, que confirma que no se han generado con nuestros servicios. Las publicaciones no despertaron apenas interés.
Dominios relacionados con esta actividad:
- niothinker[.]com
- savannahtime[.]com
- evenpolitics[.]com
- teorator[.]com
- westlandsun[.]com