Defesa de IA da Doppel bloqueia ataques antes que se espalhem

Um único site de impersonação pode entrar no ar, atingir milhares de usuários e desaparecer em menos de uma hora. Isso é tempo mais que suficiente para um atacante causar danos reais. E, com ferramentas generativas, eles podem criar centenas de outros iguais em instantes.

A Doppel foi criada para defender organizações contra deepfakes e impersonações online, mas logo percebeu que a IA tornava possível escalar as ameaças infinitamente. Atacantes não precisavam mais criar golpes à mão; podiam gerar variações infinitas de kits de phishing, domínios falsificados e contas de impersonação em segundos.

Para se manter à frente, a Doppel desenvolveu um novo tipo de sistema de defesa contra engenharia social, construído com os modelos GPT‑5 e o4-mini da OpenAI. A plataforma da Doppel detecta, classifica e derruba ameaças de forma autônoma, reduzindo em 80% o trabalho de analistas, triplicando a capacidade de lidar com ameaças e reduzindo o tempo de resposta de horas para minutos.

A proteção tradicional contra riscos digitais dependia de pessoas para revisar manualmente sites de impersonação, domínios de phishing e perfis e postagens em redes sociais. A Doppel viu esse modelo ruir quando atacantes começaram a automatizar, lançando ameaças mais rápido e em mais superfícies de ataque do que pessoas conseguiam avaliar.

Essa velocidade é crítica para clientes da Doppel — organizações que não podem esperar horas para confirmar uma ameaça. O sistema da Doppel classifica a maioria das ameaças automaticamente, usando modelos da OpenAI para raciocínio e um ciclo estruturado de feedback conhecido como ajuste fino por reforço (RFT) para melhorar o modelo ao longo do tempo. No RFT, o feedback humano é usado como exemplos graduados, ajudando os modelos a aprender a tomar decisões consistentes e explicáveis por conta própria.

O pipeline orientado por LLMs da Doppel fica no centro de sua stack de detecção. Depois que os sinais são coletados e filtrados, o sistema executa uma série de tarefas direcionadas de raciocínio: analisar possíveis ameaças, confirmar intenção e orientar decisões de classificação. Cada etapa é projetada para equilibrar velocidade, precisão e consistência, mantendo analistas focados nos casos-limite que exigem julgamento humano.

Como funciona:

• Filtragem de sinais e extração de características: os sistemas da Doppel ingerem milhões de domínios, URLs e contas todos os dias. Uma combinação de heurísticas e o OpenAI o4-mini filtra o ruído e extrai características estruturadas para orientar avaliações subsequentes do modelo.
• Confirmação paralela de ameaças: cada sinal passa por vários prompts do GPT‑5, criados para diferentes tipos de análise de ameaças. Esses prompts avaliam fatores como risco de impersonação, uso indevido da marca ou padrões de engenharia social.
• Classificação de ameaças: a versão RFT do o4-mini sintetiza as confirmações anteriores para atribuir um rótulo estruturado — malicioso, benigno ou ambíguo — com consistência de nível de produção.
• Verificação final: uma segunda rodada do GPT‑5 valida a decisão do modelo e gera uma justificativa em linguagem natural. Se a confiança exceder o limiar, o sistema inicia automaticamente as medidas de resposta.
• Revisão humana: resultados com baixa confiança ou conflitantes são encaminhados a analistas humanos. Suas decisões são registradas e realimentadas no ciclo de RFT para melhorar continuamente a consistência do modelo.

A Doppel já tinha visto ganhos relevantes com seu pipeline original de detecção aprimorado por LLMs, mas, quando se tratava de casos em que a mesma ameaça poderia ser julgada de forma diferente dependendo do analista, a consistência virou o fator limitante.

Para construir essa consistência, a Doppel aplicou RFT usando seus próprios dados de analistas como fonte de feedback. Cada decisão de classificar um domínio como malicioso, benigno ou ambíguo virou um exemplo avaliado. Esses exemplos rotulados treinaram o modelo para replicar o julgamento de especialistas, mesmo em casos-limite ambíguos.

Trabalhando de perto com a equipe de engenharia aplicada da OpenAI, a Doppel criou funções de avaliação que mediam não apenas a precisão, mas também a qualidade das explicações, premiando modelos que raciocinavam com clareza, não apenas corretamente. Ao transformar o feedback dos analistas em dados de treinamento estruturados, a Doppel ajudou a mostrar como o RFT pode tornar a detecção automatizada mais consistente e confiável.

O ajuste de hiperparâmetros e as avaliações iterativas aproximaram o modelo de uma consistência em nível humano. Mas, para a Doppel, completar o último quilômetro da automação também significou tornar as decisões imediatamente compreensíveis.

Cada derrubada automatizada agora inclui uma justificativa gerada por IA explicando por que uma ameaça foi removida, dando aos clientes clareza imediata sobre por que a ação foi tomada — algo que antes exigia intervenção de analistas.

Essa visibilidade aumenta a confiança, que é um fator crítico para os usuários da Doppel. Ver não apenas qual ação foi tomada, mas por quê, dá às equipes confiança para responder rapidamente e o contexto para explicar essas decisões internamente ou a outras partes interessadas.

• Reduziu a carga de trabalho de analistas em 80%
• Reduziu o tempo de resposta a ameaças de horas para minutos
• Triplicou a capacidade de lidar com ameaças
• A maioria das ameaças é classificada automaticamente

Depois de atingir quase automação total para domínios de phishing e impersonação, a Doppel agora aplica a mesma estrutura orientada por modelos a outros canais de alta variabilidade.

"Domínios são provavelmente o canal mais difícil com que lidamos", disse Madduluri. "Os sinais são confusos, o conteúdo muda o tempo todo, e as ameaças evoluem rápido em várias superfícies ao mesmo tempo. Se conseguirmos automatizar isso de ponta a ponta, conseguimos fazer para qualquer coisa: redes sociais, anúncios pagos, o que você quiser."

Os próximos marcos incluem ampliar o conjunto de dados de RFT em uma ordem de grandeza, experimentar novas estratégias de avaliação e usar o GPT‑5 para extração de características nas etapas iniciais. Essas mudanças permitirão que a Doppel consolide as etapas do pipeline e raciocine sobre indicadores de ameaça mais complexos mais cedo no processo.

A cada iteração, a Doppel está construindo rumo a um sistema que defende o que é real em todas as superfícies em que a confiança está sob ataque.