Apresentamos o Plano de Segurança Infantil
Um quadro para combater e prevenir a exploração sexual de crianças facilitada pela IA
A exploração sexual de crianças é um dos desafios mais urgentes da era digital. A IA está a mudar rapidamente tanto a forma como estes danos surgem em toda a indústria como a forma como podem ser enfrentados à escala.
Na OpenAI, construímos e continuamos a reforçar salvaguardas para prevenir o uso indevido dos nossos sistemas e trabalhamos de perto com parceiros como o National Center for Missing and Exploited Children (NCMEC) e com as autoridades de aplicação da lei para melhorar a deteção e a denúncia. Este trabalho ajudou a evidenciar onde são necessários padrões partilhados mais robustos em toda a indústria.
Hoje, apresentamos um roteiro de políticas que define um caminho prático para reforçar as estruturas de proteção infantil nos EUA na era da IA. Este plano reflete e incorpora feedback de várias organizações e especialistas de referência em todo o ecossistema de segurança infantil, incluindo o NCMEC, a Attorney General Alliance e os copresidentes do seu Grupo de Trabalho de IA — o Procurador-Geral da Carolina do Norte, Jeff Jackson, e o Procurador-Geral do Utah, Derek Brown — e a Thorn, para garantir que reflete as suas prioridades e pode facilitar uma colaboração mais eficaz para prevenir danos às crianças.
O plano foca-se em três prioridades-chave: modernizar leis para abordar CSAM gerado e alterado por IA, melhorar a denúncia e a coordenação por parte dos prestadores de serviços para apoiar investigações mais eficazes e incorporar medidas de segurança desde a conceção diretamente nos sistemas de IA para prevenir e detetar uso indevido.
Nenhuma intervenção, por si só, consegue responder a este desafio. Este quadro reúne abordagens legais, operacionais e técnicas para identificar melhor riscos, acelerar respostas e apoiar a responsabilização, garantindo ao mesmo tempo que as autoridades de aplicação da lei se mantêm fortes à medida que a tecnologia evolui.
Em conjunto, estes passos permitem à indústria abordar a segurança infantil mais cedo e de forma mais eficaz. Ao interromper tentativas de exploração mais cedo, melhorar a qualidade dos sinais enviados às autoridades de aplicação da lei e reforçar a responsabilização em todo o ecossistema, este quadro pretende prevenir danos antes de acontecerem e ajudar a garantir uma proteção mais rápida das crianças quando surgem riscos.
«Como copresidentes do Grupo de Trabalho de IA da Attorney General Alliance, saudamos este plano como um passo significativo para alinhar as práticas de segurança infantil do setor tecnológico com as realidades de aplicação da lei com que os nossos gabinetes se deparam todos os dias. Estamos particularmente encorajados pelo reconhecimento, por parte deste quadro, de que salvaguardas eficazes para IA generativa exigem defesas em camadas — não um único controlo técnico, mas uma combinação de deteção, mecanismos de recusa, supervisão humana e adaptação contínua a padrões emergentes de uso indevido. Isto reflete o que vemos na prática: a ameaça evolui constantemente e as soluções estáticas são insuficientes. Acertar à partida na arquitetura de prevenção é o investimento de maior impacto que a indústria pode fazer em segurança infantil.
Em última análise, a força de qualquer quadro voluntário depende da especificidade dos seus compromissos e da disponibilidade da indústria para ser responsabilizada por eles. Aguardamos com expectativa a continuação da parceria com a OpenAI, o NCMEC e os nossos colegas procuradores-gerais para garantir que estas recomendações se traduzem em proteções duradouras para as crianças.»
—Os procuradores-gerais estaduais Jeff Jackson (Carolina do Norte) e Derek Brown (Utah), copresidentes do Grupo de Trabalho de IA da Attorney General Alliance.
«A Attorney General Alliance está a liderar a proteção dos jovens online, reunindo procuradores-gerais, líderes da indústria, organizações sem fins lucrativos e parceiros globais para promover soluções práticas e orientadas para o futuro em IA e segurança digital. Através da colaboração e da inovação, a AGA está a estabelecer um padrão forte para a forma como protegemos os jovens enquanto adotamos, de forma responsável, tecnologias emergentes. Aplaudimos o compromisso contínuo da OpenAI com a segurança e o envolvimento com a AGA e com os procuradores-gerais no desenvolvimento de um plano altamente valioso para a segurança infantil.»
—Karen White, Diretora Executiva da Attorney General Alliance
«A IA generativa está a acelerar o crime de exploração sexual online de crianças de formas profundamente preocupantes — reduzindo barreiras, aumentando a escala e permitindo novas formas de dano. Mas, ao mesmo tempo, o National Center for Missing & Exploited Children (NCMEC) fica encorajado ao ver empresas como a OpenAI refletirem sobre como estas ferramentas podem ser concebidas de forma mais responsável, com salvaguardas integradas desde o início. Nenhuma organização, empresa ou setor consegue lidar com isto sozinho. Continuamos empenhados em trabalhar com parceiros em toda a indústria, governo e comunidade de proteção infantil para avançar soluções que reduzam danos e apoiem melhor a segurança das crianças.»
—Michelle DeLaune, Presidente e CEO, National Center for Missing & Exploited Children
