Motverka skadlig användning av AI: Oktober 2025

Vårt mål är att se till att artificiell generell intelligens gynnar alla människor. Vi arbetar för att uppnå detta mål genom att implementera innovationer som hjälper människor att lösa svåra problem och genom att bygga demokratisk AI baserad på sunt förnuft som skyddar människor mot verkliga risker.

Sedan starten av vår offentliga hotrapportering i februari 2024 har vi stoppat och rapporterat över 40 nätverk som brutit mot våra användningspolicyer. Detta inkluderar att förhindra auktoritära regimer från att använda AI för att kontrollera befolkningen eller utöva påtryckningar mot andra stater samt att motverka missbruk såsom bedrägerier, skadlig cyberaktivitet och dolda påverkansoperationer.

I denna uppdatering delar vi fallstudier från det senaste kvartalet och visar hur vi upptäcker och motverkar skadlig användning av våra modeller. Vi ser fortfarande att hotaktörer använder AI i gamla strategier för att agera snabbare, inte för att skapa nya typer av angreppsmetoder med våra modeller. När aktiviteter bryter mot våra policyer stänger vi av konton och, när det är lämpligt, delar insikter med våra partner. Vår offentliga rapportering, tillämpning av policyer och samarbete med branschkollegor syftar till att öka medvetenheten om missbruk samtidigt som skyddet för vanliga användare förbättras.