Interrompre els usos maliciosos de la IA: octubre de 2025
La nostra missió és garantir que la intel·ligència artificial general beneficiï tota la humanitat. Impulsem aquesta missió desplegant innovacions que ajuden les persones a resoldre problemes difícils i construint una IA democràtica basada en normes de sentit comú que protegeixen les persones de danys reals.
Des que vam començar els nostres informes públics sobre amenaces el febrer de 2024, hem interromput i denunciat més de 40 xarxes que infringien les nostres polítiques d’ús. Això inclou impedir els usos de la IA per part de règims autoritaris per controlar poblacions o coaccionar altres estats, així com abusos com ara estafes, activitat cibernètica maliciosa i operacions d’influència encobertes.
En aquesta actualització, compartim estudis de cas del darrer trimestre i com detectem i interrompem l’ús maliciós dels nostres models. Continuem veient actors amenaçadors afegint la IA a tàctiques antigues per avançar més de pressa, no per obtenir noves capacitats ofensives dels nostres models. Quan una activitat infringeix les nostres polítiques, suspendim comptes i, quan escau, compartim informació amb socis. Els nostres informes públics, l’aplicació de polítiques i la col·laboració amb altres organitzacions tenen com a objectiu conscienciar sobre els abusos alhora que milloren les proteccions per als usuaris quotidians.
