Oferecendo retenção zero de dados para modelos de ponta

A retenção zero de dados oferece uma promessa clara aos clientes elegíveis da API: a OpenAI não retém seus prompts nem as respostas do modelo após o processamento de uma solicitação. O conteúdo dos clientes não fica disponível para análise pela equipe da OpenAI¹, e os dados de clientes empresariais não são usados para treinar nossos modelos, a menos que eles autorizem isso explicitamente.

À medida que os modelos assumem tarefas mais longas e complexas, alguns riscos graves podem se tornar visíveis apenas ao longo de várias interações. Os sistemas de segurança atuais compatíveis com ZDR avaliam cada interação individualmente. Hoje, apresentamos uma prévia do Processamento Privado de Segurança, desenvolvido para identificar padrões em interações relacionadas sem dar à equipe da OpenAI acesso ao conteúdo subjacente.

Nas implantações com ZDR, o conteúdo dos clientes permanece na infraestrutura controlada por eles. Também estamos desenvolvendo uma opção em que o conteúdo é armazenado na infraestrutura da OpenAI e criptografado com chaves controladas pelo cliente. Nos dois casos, sistemas automatizados podem identificar possíveis usos indevidos e retornar sinais de segurança limitados sem expor os prompts ou as respostas subjacentes à equipe da OpenAI.

Os riscos mais graves para a segurança da IA nem sempre são visíveis em uma única interação. Muitas vezes, intenções potencialmente prejudiciais só ficam claras quando várias interações são analisadas em conjunto. Riscos semelhantes podem surgir quando agentes mal-intencionados testam repetidamente as salvaguardas, coordenam ações entre contas ou disfarçam ameaças como pesquisas rotineiras. Também podem surgir riscos durante uma tarefa com agentes de IA — por exemplo, se um sistema deixar de agir de acordo com a intenção do usuário ao continuar atuando após receber instruções para parar.

À medida que os sistemas de IA assumem tarefas mais longas e complexas, esse contexto mais amplo se torna cada vez mais importante para distinguir atividades legítimas de usos indevidos e garantir que os agentes de IA permaneçam dentro dos limites da autoridade que lhes foi atribuída.

Algumas implantações recentes de modelos de ponta exigiram que os clientes permitissem ao provedor de IA reter conteúdo confidencial para monitoramento de segurança. Para muitas organizações, essas exigências entram em conflito com suas obrigações de segurança ou com os compromissos assumidos perante as pessoas que atendem.

O Processamento Privado de Segurança foi desenvolvido para que possamos continuar oferecendo ZDR.

O Processamento Privado de Segurança se baseia nas proteções automatizadas já usadas em implantações com ZDR e em outros tipos de implantação. Os sistemas de segurança atuais compatíveis com ZDR avaliam as interações individualmente. O Processamento Privado de Segurança estende essas proteções a interações relacionadas, permitindo que sistemas automatizados identifiquem padrões sem que a equipe da OpenAI tenha acesso ao conteúdo retido dos clientes.

O Processamento Privado de Segurança utiliza o conteúdo dos clientes independentemente do local de armazenamento, seja na infraestrutura controlada por eles (implantações com ZDR) ou no armazenamento fornecido pela OpenAI. No armazenamento fornecido pela OpenAI, o conteúdo dos clientes é criptografado com chaves controladas por eles. A equipe da OpenAI não possui uma cópia dessas chaves e, portanto, não pode acessar o conteúdo subjacente.

Quando um risco é identificado, a OpenAI recebe um sinal estritamente definido que indica o tipo de atividade envolvida, de forma semelhante aos nossos sistemas de segurança atuais. Esse sinal pode ser usado para determinar se é necessário aplicar alguma medida. A equipe da OpenAI não recebe acesso ao conteúdo do cliente, mesmo quando ele é sinalizado.

Os clientes podem investigar alertas e decisões de aplicação de medidas usando as informações disponíveis em seus próprios sistemas. Caso queiram recorrer, esclarecer uma atividade legítima ou apoiar uma investigação sobre abuso confirmado, eles podem optar por compartilhar informações relevantes com a OpenAI.

O Processamento Privado de Segurança está sendo testado atualmente com os primeiros clientes. Estamos compartilhando esta prévia agora porque nossos clientes deixaram muito claro que precisam de previsibilidade sobre como seu conteúdo será protegido à medida que os sistemas de IA se tornarem mais capazes.

Nossa missão é garantir que a inteligência artificial geral beneficie toda a humanidade. A colaboração com clientes e parceiros é essencial para desenvolvermos salvaguardas eficazes. Como deixam claro nossos princípios, nenhum laboratório de IA consegue enfrentar sozinho os riscos emergentes. O Processamento Privado de Segurança reflete essa abordagem e está sendo moldado por clientes de diversos setores, regiões e portes empresariais.

As organizações com as quais trabalhamos lidam com algumas das informações mais confidenciais de seus setores, incluindo registros financeiros, dados de saúde, planos de negócios confidenciais e pesquisas proprietárias. Proteger essas informações é essencial para cumprir obrigações regulatórias, manter a confiança dos clientes e preservar sua vantagem competitiva.

O feedback deles nos ajuda a criar salvaguardas mais robustas e, ao mesmo tempo, manter suas informações sob seu controle.

Continuaremos trabalhando com os clientes nos detalhes técnicos e operacionais da nossa abordagem. Planejamos começar a disponibilizar o Processamento Privado de Segurança e publicar um white paper técnico em setembro. Manteremos os clientes informados em todas as etapas, compartilhando novidades com antecedência, explicando o impacto nos compromissos existentes e oferecendo o tempo e o apoio necessários para que possam se planejar.