Combatendo a invasão de privacidade dos usuários pelo New York Times

Confiança, segurança e privacidade guiam cada produto que criamos e decisão que tomamos. 

Toda semana, 800 milhões de pessoas usam o ChatGPT para pensar, aprender, criar e cuidar de algumas das partes mais pessoais de suas vidas. Elas confiam a nós conversas delicadas, arquivos, credenciais, memórias, pesquisas, dados de pagamento e agentes de IA que atuam em nome delas. Tratamos essas informações como uma das mais confidenciais da sua vida digital e estamos desenvolvendo nossas proteções de privacidade e segurança para estar à altura dessa responsabilidade.

Hoje, essa responsabilidade está sendo posta à prova. 

O New York Times está exigindo que entreguemos 20 milhões de conversas privadas do ChatGPT. A publicação afirma que pode encontrar exemplos de uso do ChatGPT para tentar escapar do acesso pago.

Essa demanda ignora proteções de privacidade de longa data, rompe com práticas de segurança razoáveis e nos obrigaria a entregar dezenas de milhões de conversas altamente pessoais de quem não tem qualquer ligação com o processo infundado do jornal contra a OpenAI.

A empresa já tentou isso antes. Originalmente, o New York Times queria que você perdesse a possibilidade de apagar conversas privadas. Lutamos contra isso e restauramos seu direito de removê-las. Em seguida, exigiu que entregássemos 1,4 bilhão de conversas privadas no ChatGPT. Nós resistimos e estamos resistindo novamente agora. Suas conversas privadas são suas e não devem se tornar dano colateral em uma disputa sobre o acesso a conteúdo online. 

Respeitamos o jornalismo forte e independente e firmamos parcerias com muitos editores e redações. Historicamente, o jornalismo tem desempenhado um papel crítico na defesa do direito à privacidade das pessoas em todo o mundo. No entanto, essa demanda do New York Times não está à altura desse legado, e estamos pedindo ao tribunal que a rejeite. Vamos continuar empregando todas as opções disponíveis para proteger a privacidade dos nossos usuários.

Estamos antecipando nosso plano de segurança e privacidade para proteger seus dados. A OpenAI é uma das organizações mais visadas do mundo. Investimos tempo e recursos significativos na criação de sistemas para impedir o acesso não autorizado aos dados por adversários que vão de organizações criminosas a serviços de inteligência financiados pelo estado. 

No entanto, se o New York Times tiver sucesso na reivindicação, seremos forçados a entregar os mesmos dados que estamos protegendo — seus dados — a terceiros, incluindo os advogados e consultores pagos da publicação.

Nosso plano de longo prazo inclui recursos avançados de segurança projetados para manter os dados privados, incluindo criptografia no lado do cliente para as mensagens no ChatGPT. Acreditamos que esses recursos ajudarão a manter suas conversas privadas e inacessíveis a qualquer outra pessoa, até mesmo a OpenAI. Vamos criar sistemas totalmente automatizados para detectar problemas de segurança em nossos produtos. Apenas uso indevido grave e riscos críticos (como ameaças à vida de alguém, planos para prejudicar outras pessoas ou ameaças de segurança cibernética) podem ser encaminhados para uma equipe pequena e altamente qualificada de revisores humanos. Esses recursos de segurança estão em desenvolvimento ativo, e vamos compartilhar mais detalhes sobre eles e outras mitigações de curto prazo em um futuro muito próximo. 

As proteções de privacidade e segurança devem se tornar mais robustas à medida que a IA se integra mais profundamente na vida das pessoas. Estamos comprometidos com um futuro em que você possa confiar que suas conversas mais pessoais com a IA estarão seguras, protegidas e verdadeiramente privadas.

—Dane Stuckey, diretor de segurança da informação da OpenAI 

Por que o New York Times e outros demandantes estão fazendo essa exigência?

• O New York Times está processando a OpenAI. Como parte de um processo infundado, o jornal exigiu que o tribunal nos obrigasse a entregar 20 milhões de conversas de usuários. Isso permitiria o acesso a milhões de conversas de usuários que não têm relação com o caso.
• Acreditamos veementemente que essa reivindicação é um exagero. Ela coloca sua privacidade em risco sem realmente ajudar a resolver o processo. É por isso que estamos lutando contra ela.

O que levou a esta etapa do processo?

• No tribunal, os advogados do New York Times argumentaram que o pedido deveria ser aceito, em parte porque outra empresa de IA já havia concordado em entregar 5 milhões de conversas privadas de seus usuários em uma ação judicial não relacionada.
• Discordamos veementemente que isso seja relevante para o nosso processo e continuamos a recorrer.

A OpenAI ofereceu alguma outra solução ao New York Times?

• Apresentamos ao New York Times várias opções que protegem a privacidade, incluindo buscas direcionadas na amostra (por exemplo, procurar conversas que possam incluir trechos de um artigo do New York Times, para que recebam apenas as conversas relevantes para as alegações), além de dados gerais classificando como o ChatGPT foi usado na amostra.
• Elas foram rejeitadas pelo jornal.

O New York Times é obrigado a manter esses dados privados? 

• Sim. No momento, a publicação teria a obrigação legal de não divulgar quaisquer dados fora do processo judicial. Dito isso, se o New York Times continuar pressionando para acessá-los de qualquer forma que torne as conversas públicas, lutaremos para proteger sua privacidade em cada etapa.
• O pedido original nessa ação judicial também era muito mais amplo. Inicialmente, foram exigidas 1,4 bilhão de conversas privadas do ChatGPT, mas conseguimos resistir com sucesso por meio do processo legal. Isso nos alertou de que talvez esse pedido não fosse ponderado ou genuinamente necessário.

Como essas 20 milhões de conversas são selecionadas?

• As 20 milhões de conversas de usuários foram selecionadas aleatoriamente em uma amostra de dezembro de 2022 a novembro de 2024.

Meus dados podem ser afetados? 

• Esses dados incluem uma amostra aleatória de conversas de consumidores no ChatGPT entre dezembro de 2022 e novembro de 2024. 
• Conversas fora desse período não são potencialmente afetadas. 

Clientes empresariais podem ser afetados? 

• Isso não afeta clientes do ChatGPT Enterprise, ChatGPT Edu, ChatGPT Business (anteriormente "Team") ou clientes da API.

O que a OpenAI está fazendo para proteger minha privacidade e informações pessoais?

• Todas as conversas afetadas estão passando por um procedimento de desidentificação para remover ou “limpar” informações de identificação pessoal (ou “PII”) e outras informações (por exemplo, senhas ou outros dados confidenciais). 
• Além disso, insistiríamos para que o New York Times só possa visualizar esses dados em um ambiente seguro mantido sob protocolos legais rigorosos.

Como esses dados serão armazenados?

• No momento, o conteúdo abrangido pela ordem judicial está armazenado separadamente em um sistema seguro. Ele está protegido por retenção legal, o que significa que não pode ser acessado nem usado para outros fins além do cumprimento de obrigações legais.
• Apenas uma pequena equipe jurídica e de segurança auditada da OpenAI poderia acessar esses dados conforme necessário para cumprir nossas obrigações legais.

Quem poderá acessar esses dados?

• Os advogados externos do New York Times registrados no processo e os consultores técnicos contratados pelo jornal poderiam acessar as conversas. Vamos insistir para que o New York Times só possa visualizar esses dados em um ambiente seguro mantido sob protocolos legais rigorosos.
• Se a publicação continuar pressionando para acessá-los de qualquer forma que torne as conversas públicas, lutaremos para proteger sua privacidade em cada etapa.

Essa ordem judicial viola o GDPR ou meus direitos segundo as leis europeias ou outras leis de privacidade?

• No momento, estamos tomando medidas para cumprir essa decisão porque precisamos seguir a lei, mas a exigência do New York Times não está alinhada com nossos padrões de privacidade. É por isso que estamos contestando.
• Como mencionado, tomamos medidas adicionais para proteger sua privacidade, como desidentificar dados e remover informações de identificação pessoal.

A OpenAI manterá os usuários informados?

• Sim. A transparência faz parte do nosso compromisso, e avisaremos você sobre qualquer novidade. Vamos compartilhar atualizações importantes, incluindo qualquer mudança na decisão ou como isso afeta seus dados.