Promover a proveniência de conteúdos para um ecossistema de IA mais seguro e transparente

As pessoas estão a usar as ferramentas da OpenAI todos os dias para criar e editar imagens e áudio de formas que tornam a comunicação mais expressiva, útil e acessível. À medida que estas ferramentas passam a fazer parte da forma como as pessoas criam, imaginam e partilham, é importante que consigam compreender e verificar de onde vêm os conteúdos multimédia, para os poderem interpretar com mais confiança. Os sinais de proveniência podem ajudar, dando às pessoas contexto sobre a origem do conteúdo, como foi criado ou editado, e se é aquilo que afirma ser.

Hoje, estamos a reforçar a nossa abordagem à proveniência de conteúdos com um modelo multicamada, orientado pelo ecossistema, para criar confiança online. Estamos a tornar os nossos sinais de proveniência mais fáceis de reconhecer por outras ferramentas e plataformas através da conformidade com a C2PA, a adicionar marca de água duradoura e multiplataforma SynthID às imagens através de uma parceria com a Google, e a partilhar uma pré-visualização de uma ferramenta que o público pode usar para verificar se as imagens vieram da OpenAI.

Em conjunto, estas atualizações desenvolvem o nosso trabalho anterior⁠ de apoio a normas abertas, tornam o conteúdo gerado pela OpenAI mais fácil de identificar e permitem colaborar em todo o setor para apoiar um ecossistema de informação mais fiável.

A OpenAI tem estado envolvida no desenvolvimento e na adoção de normas de proveniência desde 2024, quando começámos a adicionar Credenciais de Conteúdo a imagens geradas pelo DALL·E 3⁠(abre numa nova janela) e, mais tarde, pelo ImageGen⁠(abre numa nova janela) e pelo Sora⁠(abre numa nova janela). Também aderimos ao Steering Committee da Coalition for Content Provenance and Authenticity (C2PA), o grupo intersetorial por trás da norma técnica aberta para proveniência de conteúdos. A abordagem técnica da C2PA utiliza metadados e assinaturas criptográficas para ajudar a que informações sobre uma peça de media acompanhem o próprio conteúdo de forma segura. Estas informações incluem contexto que ajuda jornalistas a avaliar uma fonte, plataformas a tomar decisões de integridade e pessoas a compreender o que estão a ver online.

Recentemente, demos o passo de tornar a OpenAI um produto gerador conforme com C2PA⁠(abre numa nova janela). Ao tornarmo-nos conformes com C2PA, estamos a dar às plataformas uma forma fiável de ler, preservar e transmitir as informações de proveniência que anexamos ao nosso conteúdo. Isto é importante porque a proveniência só funciona se sobreviver para além da primeira plataforma onde o conteúdo é criado, e a conformidade torna isso possível.

Os metadados da C2PA são uma base importante para a proveniência. Ajudam o conteúdo a transportar informação sobre a sua origem, como foi criado ou editado e quem assinou essa informação. Mas os metadados não são infalíveis. Podem ser removidos, perder-se em carregamentos e transferências, ou ser danificados por transformações como alterações de formato de ficheiro, redimensionamento ou capturas de ecrã.

Para tornar a proveniência mais resiliente, estamos a adotar uma abordagem multicamadas e a incorporar marcas de água através do SynthID da Google DeepMind⁠(abre numa nova janela), começando por imagens geradas através do ChatGPT⁠, do Codex ou da OpenAI API. O SynthID incorpora uma camada de marca de água invisível que complementa as abordagens baseadas em metadados da C2PA.

Temos vindo a desenvolver este trabalho há algum tempo. Usámos marcas de água visíveis⁠ no Sora e uma marca de água de áudio⁠ no Voice Engine, e continuámos a testar e a investigar a precisão e a fiabilidade ao longo do tempo. durante a implementação.

Estes dois sistemas reforçam-se mutuamente. A C2PA ajuda o conteúdo a transportar contexto detalhado; o SynthID ajuda a preservar um sinal quando os metadados não sobrevivem. A marca de água pode ser mais duradoura perante transformações como capturas de ecrã, enquanto os metadados podem fornecer mais informação do que uma marca de água por si só. Em conjunto, tornam a proveniência mais resiliente do que qualquer uma das camadas isoladamente.

Metadados fiáveis e marcas de água que resistem à maioria das modificações podem tornar os sinais de proveniência mais duradouros. Mas as pessoas precisam de uma forma de detetar estes sinais. Estamos agora a disponibilizar uma prévia de uma ferramenta pública de verificação⁠ que ajudará as pessoas a verificar se uma imagem carregada foi gerada no ChatGPT, na OpenAI API ou no Codex, verificando se contém sinais de proveniência, incluindo Credenciais de Conteúdo e SynthID.

Acreditamos que a proveniência deve ser mais fácil de verificar e interpretar, e que a nossa ferramenta pode ajudar as pessoas a participar na resposta à pergunta «Isto foi gerado com IA?», integrando vários sinais. Isto desenvolve as aprendizagens da prévia inicial de investigação do nosso classificador de deteção de imagens⁠ em 2024 e permite que as pessoas detetem de forma fiável se uma marca de água SynthID originária da OpenAI está presente nos media, além de apresentar metadados C2PA quando são encontrados.

Nenhum método de deteção é infalível, por isso adotamos uma abordagem cautelosa nos casos em que a deteção falha. Se, por exemplo, não for detetado qualquer metadado ou marca de água, a ferramenta não tirará uma conclusão definitiva sobre se a imagem foi gerada com ferramentas da OpenAI, uma vez que os sinais de proveniência podem, em alguns casos, ser removidos.

No lançamento, a ferramenta está limitada a conteúdo gerado pela OpenAI. Nos próximos meses, pretendemos apoiar esforços intersetoriais para tornar a verificação possível entre plataformas. Com o tempo, esperamos também suportar mais tipos de conteúdo que as pessoas possam encontrar online.

Nenhuma técnica de proveniência, por si só, é suficiente. Acreditamos que uma abordagem sólida combina normas partilhadas, sinais de marca de água duradouros e verificação pública. Ao basearmo-nos no nosso apoio de longa data às Content Credentials, ao tornarmo-nos conformes com a C2PA, ao adotar o SynthID e ao apresentar uma pré-visualização de ferramentas públicas de verificação, esperamos contribuir, a longo prazo, para um ecossistema de proveniência mais interoperável.