Apoiar o trabalho da Europa para garantir um ecossistema de AI fiável

As pessoas estão a usar AI para criar e editar conteúdos de novas formas. À medida que estas ferramentas se tornam mais capazes e mais amplamente utilizadas, as pessoas devem ter contexto sobre os conteúdos que veem online.

Hoje, na sequência da publicação do Código de Conduta da Comissão Europeia sobre a Transparência dos conteúdos gerados por AI, a OpenAI anuncia o seu apoio ao Código e à ambição que lhe está subjacente. O Código é um passo importante na aplicação do Regulamento da UE sobre AI e na construção de um ecossistema digital mais transparente.

Esse apoio assenta em anos de investigação interna, desenvolvimento de produtos e cooperação com o ecossistema mais amplo para reforçar a proveniência dos conteúdos gerados por AI. A OpenAI tem vindo a desenvolver e a adotar normas de proveniência desde 2024, quando começámos a adicionar metadados C2PA à nossa ferramenta de geração de imagens DALL-E 3. Desde então, continuámos a reforçar a proveniência através de métodos melhorados de marcação e deteção, nova investigação e o lançamento da nossa primeira ferramenta pública de verificação. Com base em anos de experiência, contribuímos para o desenvolvimento deste Código, juntamente com centenas de outras partes interessadas, para ajudar a garantir um ecossistema de AI fiável.  

Isto assenta na nossa abordagem mais ampla à governação da AI na Europa. Em 2025, a OpenAI foi a primeira empresa norte-americana a assinar o Código de Conduta da UE para AI de Finalidade Geral, refletindo a nossa convicção de que regras claras e exequíveis podem ajudar a AI a desenvolver-se de forma responsável, dando ao mesmo tempo às empresas a segurança necessária para continuarem a construir. Apoiamos este novo Código com o mesmo espírito. Promover a transparência dos conteúdos gerados por AI é um esforço de todo o ecossistema, que exige contributos de intervenientes ao longo de toda a cadeia de valor. O Regulamento da UE sobre AI e o Código reconhecem-no, e estamos empenhados em desempenhar o nosso papel, cumprindo os requisitos aplicáveis aos nossos produtos relevantes.  

À medida que as ferramentas de AI passam a fazer parte da forma como as pessoas constroem, imaginam e partilham, é importante que possam compreender de onde vêm os conteúdos e interpretá-los com confiança. Os sinais de proveniência podem ajudar, dando às pessoas contexto sobre a origem dos conteúdos, como foram criados ou editados, e se são aquilo que afirmam ser. A proveniência também pode ajudar a proteger o ecossistema digital, tornando mais fácil detetar campanhas de desinformação e apoiar a integridade eleitoral.  

Métodos de proveniência eficazes, fiáveis e robustos devem ser construídos coletivamente e funcionar em todo o ecossistema. É por isso que trabalhamos com coligações como a C2PA, que reúne organizações de notícias, fabricantes de dispositivos, plataformas online e fornecedores de AI para promover normas interoperáveis. Os metadados C2PA são uma base importante para a proveniência. Ajudam os conteúdos a transportar informação sobre a sua origem, como foram criados ou editados e quem assinou essa informação. Mas os metadados não são infalíveis. Podem ser removidos, perder-se em carregamentos e descarregamentos, ou ser quebrados por transformações como alterações de formato de ficheiro, redimensionamentos ou capturas de ecrã. Para tornar a proveniência mais resiliente, adotamos uma abordagem em várias camadas que incorpora múltiplos sinais e salvaguardas de produto nas nossas ferramentas. 

Nos últimos anos, construímos um modelo em várias camadas, orientado pelo ecossistema, para criar confiança online através da nossa abordagem à proveniência dos conteúdos. O nosso trabalho atual inclui:

• Credenciais de Conteúdo C2PA⁠(abre numa nova janela) para imagens: Começámos a adicionar metadados C2PA a imagens criadas e editadas pelo DALL·E 3 no ChatGPT e na API da OpenAI, e continuámos a expandir sinais de proveniência em imagens geradas pela OpenAI.
• Múltiplos sinais para imagens geradas pela OpenAI: As imagens geradas com o ChatGPT, o Codex e a API da OpenAI incluem metadados C2PA e marcas de água SynthID. Os metadados podem transportar informação mais rica, enquanto a marca de água pode ajudar a preservar um sinal em diferentes contextos.
• Uma experiência pública de verificação: openai.com/verify permite às pessoas verificar se as imagens suportadas contêm sinais de proveniência associados a imagens geradas pela OpenAI.
• Contributos para normas abertas. Em 2024, a OpenAI juntou-se ao Comité Diretor da C2PA, um esforço intersetorial que envolve empresas de software, fabricantes de câmaras, organizações de media e plataformas online.
• Salvaguardas de produto: A proveniência complementa políticas, classificadores, canais de denúncia e processos de aplicação que reduzem usos enganadores de conteúdos gerados por AI, incluindo uso indevido de semelhança e engano relacionado com eleições.

Embora a proveniência seja útil, continua a ser um domínio nascente. Os sinais podem perder-se à medida que os conteúdos circulam online: os metadados podem ser removidos, as marcas de água podem degradar-se e os rótulos só ajudam onde as pessoas encontram os conteúdos. Promover a fiabilidade, a robustez e a interoperabilidade das técnicas de proveniência ainda exige trabalho significativo e cooperação no ecossistema.

O Código de Conduta define a direção certa: um elevado nível de ambição para promover técnicas de proveniência. À medida que for implementado, deve manter-se assente em métodos que funcionem na prática e ser suficientemente flexível para refletir as limitações das técnicas atuais.

A OpenAI continuará a reforçar a transparência dos conteúdos nos nossos produtos, a contribuir para o desenvolvimento de normas interoperáveis e a melhorar ferramentas de verificação. Esperamos trabalhar com o Gabinete de AI, os Estados-Membros e a comunidade de AI mais ampla para construir um ecossistema de AI mais seguro e transparente.