Apresentamos o Plano de Proteção Infantil
Uma estrutura para combater e prevenir a exploração sexual infantil facilitada por IA
A exploração sexual infantil é um dos desafios mais urgentes da era digital. A IA está mudando rapidamente tanto como esses danos surgem na indústria quanto como podem ser enfrentados em escala.
Na OpenAI, criamos e seguimos fortalecendo salvaguardas para evitar o uso indevido de nossos sistemas e trabalhamos em estreita colaboração com parceiros como o National Center for Missing and Exploited Children (NCMEC) e autoridades policiais para aprimorar a detecção e a notificação. Esse trabalho ajudou a evidenciar onde são necessários padrões mais fortes e compartilhados em todo o setor.
Hoje, apresentamos um plano de políticas públicas que descreve um caminho prático para fortalecer os marcos de proteção infantil nos EUA na era da IA. Este plano reflete e incorpora feedback de várias organizações líderes e especialistas em todo o ecossistema de proteção infantil, incluindo o NCMEC, a Attorney General Alliance e os copresidentes de sua Força-Tarefa de IA — o procurador-geral da Carolina do Norte, Jeff Jackson, e o procurador-geral de Utah, Derek Brown — e a Thorn, para garantir que reflita suas prioridades e possa facilitar uma colaboração mais eficaz para prevenir danos às crianças.
O plano se concentra em três prioridades principais: modernizar leis para lidar com CSAM gerado e alterado por IA, melhorar a notificação e a coordenação entre provedores para apoiar investigações mais eficazes e incorporar medidas de segurança por design diretamente nos sistemas de IA para prevenir e detectar uso indevido.
Nenhuma intervenção isolada consegue enfrentar esse desafio sozinha. Este arcabouço reúne abordagens legais, operacionais e técnicas para identificar melhor os riscos, acelerar respostas e promover a responsabilização, garantindo que as autoridades de fiscalização e aplicação da lei permaneçam robustas à medida que a tecnologia evolui.
Juntas, essas etapas permitem que o setor enfrente a proteção infantil mais cedo e com mais eficácia. Ao interromper tentativas de exploração mais cedo, melhorar a qualidade dos sinais enviados às autoridades de aplicação da lei e fortalecer a responsabilização em todo o ecossistema, este arcabouço busca prevenir danos antes que aconteçam e ajudar a garantir proteção mais rápida às crianças quando surgirem riscos.
"Como copresidentes da Força-Tarefa de IA da Attorney General Alliance, recebemos este plano como um passo significativo para alinhar as práticas de proteção infantil do setor de tecnologia às realidades de aplicação da lei que nossos gabinetes enfrentam todos os dias. Ficamos especialmente encorajados com o reconhecimento, neste arcabouço, de que salvaguardas eficazes para IA generativa exigem defesas em camadas — não um único controle técnico, mas uma combinação de detecção, mecanismos de recusa, supervisão humana e adaptação contínua a padrões emergentes de uso indevido. Isso reflete o que vemos na prática: a ameaça evolui constantemente, e soluções estáticas são insuficientes. Acertar a arquitetura de prevenção desde o início é o investimento de maior impacto que o setor pode fazer em proteção infantil.
Em última instância, a força de qualquer arcabouço voluntário depende da especificidade de seus compromissos e da disposição do setor de ser responsabilizado por eles. Esperamos dar continuidade à parceria com a OpenAI, o NCMEC e outros procuradores-gerais para garantir que essas recomendações se traduzam em proteções duradouras para as crianças."
—Os procuradores-gerais estaduais Jeff Jackson (Carolina do Norte) e Derek Brown (Utah), copresidentes da Força-Tarefa de IA da Attorney General Alliance.
"A Attorney General Alliance está na liderança da proteção de jovens online ao reunir procuradores-gerais, líderes da indústria, organizações sem fins lucrativos e parceiros globais para promover soluções práticas e voltadas para o futuro em IA e segurança digital. Com colaboração e inovação, a AGA está estabelecendo um padrão forte de como protegemos jovens ao adotar tecnologias emergentes de forma responsável. Aplaudimos o compromisso contínuo da OpenAI com a segurança e a colaboração com a AGA e procuradores-gerais no desenvolvimento de um plano de grande valor para a proteção infantil."
—Karen White, diretora executiva da Attorney General Alliance
"A IA generativa está acelerando o crime de exploração sexual infantil online de maneiras profundamente preocupantes - reduzindo barreiras, aumentando a escala e viabilizando novas formas de dano. Mas, ao mesmo tempo, o National Center for Missing & Exploited Children (NCMEC) se sente encorajado ao ver empresas como a OpenAI refletirem sobre como essas ferramentas podem ser projetadas de forma mais responsável, com salvaguardas incorporadas desde o início. Nenhuma organização, empresa ou setor consegue enfrentar isso sozinho. Continuamos comprometidos em trabalhar com parceiros em toda a indústria, no governo e na comunidade de proteção infantil para avançar soluções que reduzam danos e apoiem ainda mais a proteção das crianças."
—Michelle DeLaune, presidente e CEO, National Center for Missing and Exploited Children
Autoria
Continuar lendo
