Interrupción de una operación de influencia encubierta iraní
Bloqueamos cuentas vinculadas a una operación de influencia iraní que usaba ChatGPT para generar contenido sobre diversos temas, incluyendo la campaña presidencial de EE. UU. Nada indica que este contenido haya llegado a un público significativo.
OpenAI tiene el compromiso de evitar el abuso y mejorar la transparencia en torno al contenido generado por IA. Esto incluye nuestro esfuerzo por detectar y detener operaciones de influencia encubiertas (IO), que intentan manipular la opinión pública o influir en resultados políticos y esconden la verdadera identidad e intenciones de quienes las ejecutan. Este tema cobró una importancia especial en el contexto de las numerosas elecciones que tuvieron lugar en 2024. Hemos ampliado nuestro trabajo en esta área durante el año, incluso aprovechando nuestros propios modelos de IA para detectar y comprender mejor el abuso.
Esta semana identificamos y desmantelamos un grupo de cuentas de ChatGPT que estaban generando contenido para una operación de influencia encubierta iraní denominada Storm-2035(se abre en una nueva ventana). Bloqueamos estas cuentas de nuestros servicios y seguimos monitoreando cualquier otro intento de infringir las políticas. La operación usó ChatGPT para generar contenido enfocado en una serie de temas, incluyendo comentarios sobre los candidatos de ambos bandos en las elecciones presidenciales de EE. UU., que luego compartían por medio de cuentas de redes sociales y sitios web.
Similar a las operaciones de influencia encubiertas que informamos en mayo, esta operación no parecía haber logrado una participación significativa del público. La mayor parte de las publicaciones en las redes sociales que identificamos no recibían muchos me gusta ni comentarios, y tampoco las compartían notablemente. Asimismo, no encontramos indicadores de que los artículos web se compartieran entre distintas redes sociales. Por medio de la Escala de Brookings(se abre en una nueva ventana), que evalúa el impacto de operaciones de influencia encubiertas en una escala de 1 (más bajo) a 6 (más alto), esta operación se encontraba en el extremo más bajo de la categoría 2 (actividad en múltiples plataformas, sin evidencia de que personas reales consideraran o compartieran ampliamente el contenido). Nuestra investigación aprovechó información sobre la operación publicada por Microsoft la semana pasada.(se abre en una nueva ventana)
Nuestra investigación reveló que esta operación usó ChatGPT para generar artículos largos y comentarios más cortos de redes sociales. El primer flujo de trabajo generó artículos sobre política de EE. UU. y eventos mundiales, publicados en cinco sitios web de noticias con tendencias tanto progresivas como conservadoras. El segundo flujo de trabajo creó comentarios cortos en inglés y español, publicados en redes sociales. Identificamos una docena de cuentas en X y una en Instagram relacionadas con esta operación. Algunas de las cuentas de X se presentaban como progresivas y otras como conservadoras. Generaron algunos de estos comentarios pidiendo a nuestros modelos que reformularan comentarios publicados por otros usuarios de redes sociales.
La operación generó contenido sobre varios temas, principalmente sobre el conflicto en Gaza, la presencia de Israel en los Juegos Olímpicos, las elecciones presidenciales de EE. UU. y, en menor medida, la política en Venezuela, los derechos de las comunidades latinas en EE. UU. (en español e inglés) y la independencia escocesa. Intercalaban su contenido político con comentarios sobre moda y belleza, posiblemente para parecer más auténticos u obtener seguidores.
A pesar de la falta de participación significativa del público en esta operación, nos tomamos en serio cualquier esfuerzo por usar nuestros servicios en operaciones de influencia extranjeras. Después de eliminar las cuentas, como parte de nuestro trabajo de apoyo a la comunidad general para detener esta actividad, compartimos inteligencia sobre amenazas con los actores interesados del gobierno, las campañas y el sector. OpenAI mantiene su labor de descubrir y mitigar este tipo de abuso a escala a través de asociaciones con el sector, la sociedad civil y el gobierno, y el uso del poder de la IA generativa como una fuerza multiplicadora de nuestro trabajo. Continuaremos publicando resultados como este para fomentar el intercambio de información y las mejores prácticas.
Titulares de dos artículos generados por esta operación y publicados en dos de sus sitios web. No encontramos evidencia de que estos artículos fueran compartidos ampliamente en las redes sociales.
Contenido sobre los candidatos en las elecciones de EE. UU. generado por esta operación, publicado en dos cuentas distintas de X. Obtuvieron poco o nada de atención.
Contenido de belleza generado por esta operación, en inglés y español, publicado en dos cuentas distintas de X. Al revisar estas imágenes con nuestro clasificador DALL·E 3, se determinó que no fueron generadas por nuestros servicios. Estas publicaciones obtuvieron poco o nada de atención.
Dominios relacionados con esta actividad:
- niothinker[.]com
- savannahtime[.]com
- evenpolitics[.]com
- teorator[.]com
- westlandsun[.]com