Interrompendo usos maliciosos de IA
Explore os estudos de caso e relatórios mais recentes da OpenAI sobre como detectamos e interrompemos usos maliciosos de IA.
Como identificar golpes com o ChatGPT: uma segunda opinião quando algo parece errado
Como funciona a análise humana
Sistemas automatizados ajudam a detectar possíveis violações, enquanto analistas humanos têm papel essencial na identificação e interrupção de usos maliciosos de IA, incluindo golpes, atividades cibernéticas maliciosas, operações secretas de influência e outras condutas nocivas ou ilegais.
Detectar
Identificamos sinais de tentativas de uso indevido em produtos, denúncias e pistas investigativas.
Investigar
Investigadores humanos analisam atividades, relacionam casos e avaliam comportamentos em seu contexto.
Interromper
Tomamos medidas contra contas e redes que violam nossos termos ou políticas e reforçamos nossas defesas contra abusos semelhantes.
Divulgar
Quando apropriado, publicamos descobertas que ajudam nosso setor e a sociedade em geral a reconhecer e enfrentar melhor essas ameaças.
Estudos de caso
Explore estudos de caso de investigações da OpenAI sobre usos maliciosos de IA. Cada caso explica o que os agentes tentaram fazer, como usaram IA e como a OpenAI reagiu.
Relatórios
Leia as publicações originais para saber mais sobre cada investigação e como a OpenAI interrompeu a atividade.