Neutralizar los usos malintencionados de la IA: octubre de 2025
Nuestra misión es garantizar que la inteligencia artificial general beneficie a toda la humanidad. Impulsamos esta misión mediante el uso de innovaciones que ayudan a las personas a resolver problemas complejos y mediante la creación de una IA democrática basada en normas de sentido común que protegen frente a daños reales.
Desde que comenzamos a publicar informes públicos sobre amenazas en febrero de 2024, hemos neutralizado y denunciado más de 40 redes que infringían nuestras políticas de uso. Esto incluye evitar que regímenes autoritarios usen IA para controlar a la población o coaccionar a otros Estados, así como frenar abusos como estafas, actividades cibernéticas maliciosas y operaciones encubiertas de influencia.
En esta actualización, compartimos casos reales del último trimestre y cómo detectamos y neutralizamos usos malintencionados de nuestros modelos. Seguimos observando que los usuarios con fines malintencionados incorporan IA a sus tácticas tradicionales para actuar con mayor rapidez, sin obtener capacidades ofensivas novedosas a partir de nuestros modelos. Cuando una actividad infringe nuestras políticas, bloqueamos cuentas y, si procede, compartimos información con socios. Nuestros informes públicos, la aplicación de nuestras políticas y la colaboración con otros actores del sector buscan concienciar sobre estos abusos y mejorar la protección de los usuarios cotidianos.
