Apoiando o trabalho da Europa por um ecossistema de AI confiável

As pessoas estão usando AI para criar e editar conteúdo de novas maneiras. À medida que essas ferramentas se tornam mais capazes e mais usadas, as pessoas devem ter contexto sobre o conteúdo que veem online.

Hoje, após a publicação do Código de Prática da Comissão Europeia sobre Transparência de conteúdo gerado por AI, a OpenAI anuncia seu apoio ao Código e à ambição por trás dele. O Código é um passo importante para implementar a Lei de AI da UE e construir um ecossistema digital mais transparente.

Esse apoio se baseia em anos de pesquisa interna, desenvolvimento de produtos e cooperação com o ecossistema mais amplo para fortalecer a proveniência de conteúdo gerado por AI. A OpenAI vem desenvolvendo e adotando padrões de proveniência desde 2024, quando começamos a adicionar metadados C2PA à nossa ferramenta de geração de imagens DALL-E 3. Desde então, continuamos fortalecendo a proveniência por meio de melhores métodos de marcação e detecção, novas pesquisas e o lançamento da nossa primeira ferramenta pública de verificação. Com base em anos de experiência, contribuímos para o desenvolvimento deste Código ao lado de centenas de outras partes interessadas, ajudando a garantir um ecossistema de AI confiável.  

Isso se baseia em nossa abordagem mais ampla à governança de AI na Europa. Em 2025, a OpenAI foi a primeira empresa dos EUA a assinar o Código de Prática de AI de Uso Geral da UE, refletindo nossa crença de que regras claras e viáveis podem ajudar a AI a se desenvolver com responsabilidade, dando às empresas a segurança para continuar construindo. Apoiamos este novo Código com o mesmo espírito. Promover a transparência de conteúdo gerado por AI é um esforço de todo o ecossistema, que exige a contribuição de atores ao longo de toda a cadeia de valor. A Lei de AI da UE e o Código reconhecem isso, e estamos comprometidos em fazer nossa parte cumprindo os requisitos aplicáveis aos nossos produtos relevantes.  

À medida que ferramentas de AI se tornam parte de como as pessoas constroem, imaginam e compartilham, é importante que elas entendam de onde vem o conteúdo e o interpretem com confiança. Sinais de proveniência podem ajudar ao dar às pessoas contexto sobre a origem do conteúdo, como ele foi criado ou editado e se ele é o que afirma ser. A proveniência também pode ajudar a proteger o ecossistema digital ao facilitar a detecção de campanhas de desinformação e apoiar a integridade eleitoral.  

Métodos de proveniência eficazes, confiáveis e robustos devem ser construídos coletivamente e funcionar em todo o ecossistema. É por isso que trabalhamos com coalizões como a C2PA, que reúne organizações de notícias, fabricantes de dispositivos, plataformas online e provedores de AI para promover padrões interoperáveis. Os metadados C2PA são uma base importante para a proveniência. Eles ajudam o conteúdo a levar informações sobre de onde veio, como foi criado ou editado e quem assinou essas informações. Mas metadados não são infalíveis. Eles podem ser removidos, perdidos em uploads e downloads ou quebrados por transformações como mudanças de formato de arquivo, redimensionamento ou capturas de tela. Para tornar a proveniência mais resiliente, adotamos uma abordagem multicamadas que incorpora vários sinais e salvaguardas de produto em nossas ferramentas. 

Nos últimos anos, criamos um modelo multicamadas, impulsionado pelo ecossistema, para construir confiança online com nossa abordagem à proveniência de conteúdo. Nosso trabalho atual inclui:

• Credenciais de Conteúdo C2PA⁠(abre em uma nova janela) para imagens: Começamos a adicionar metadados C2PA a imagens criadas e editadas pelo DALL·E 3 no ChatGPT e na API da OpenAI, e seguimos expandindo sinais de proveniência em imagens geradas pela OpenAI.
• Vários sinais para imagens geradas pela OpenAI: Imagens geradas com ChatGPT, Codex e a API da OpenAI incluem metadados C2PA e marcas d’água SynthID. Metadados podem carregar informações mais ricas, enquanto marcas d’água podem ajudar a preservar um sinal em diferentes contextos.
• Uma experiência pública de verificação: openai.com/verify permite verificar se imagens compatíveis contêm sinais de proveniência associados a imagens geradas pela OpenAI.
• Contribuições para padrões abertos. Em 2024, a OpenAI entrou para o Comitê Diretor da C2PA, um esforço intersetorial que envolve empresas de software, fabricantes de câmeras, organizações de mídia e plataformas online.
• Salvaguardas de produto: A proveniência complementa políticas, classificadores, canais de denúncia e processos de aplicação que reduzem usos enganosos de conteúdo gerado por AI, incluindo uso indevido de imagem pessoal e enganos relacionados a eleições.

Embora a proveniência seja útil, ainda é um campo nascente. Sinais podem se perder à medida que o conteúdo circula online: metadados podem ser removidos, marcas d’água podem se degradar e rótulos só ajudam onde as pessoas encontram o conteúdo. Avançar a confiabilidade, a robustez e a interoperabilidade das técnicas de proveniência ainda exige trabalho significativo e cooperação no ecossistema.

O Código de Prática define a direção certa: um alto nível de ambição para avançar técnicas de proveniência. À medida que for implementado, ele deve se manter baseado em métodos que funcionem na prática e ser flexível o suficiente para refletir as limitações das técnicas atuais.

A OpenAI continuará fortalecendo a transparência de conteúdo em nossos produtos, contribuindo para o desenvolvimento de padrões interoperáveis e melhorando ferramentas de verificação. Esperamos trabalhar com o Escritório de AI, os Estados-Membros e a comunidade mais ampla de AI para construir um ecossistema de AI mais seguro e transparente.