Disponibilizar retenção zero de dados em modelos de fronteira

A retenção zero de dados oferece aos clientes elegíveis da API uma garantia clara: a OpenAI não conserva os seus pedidos nem as respostas dos modelos depois de um pedido ser processado. O conteúdo dos clientes não está disponível para análise pelo pessoal da OpenAI¹, e os dados dos clientes empresariais não são utilizados para treinar os nossos modelos, salvo se estes aceitarem explicitamente.

À medida que os modelos assumem tarefas mais longas e complexas, alguns riscos graves podem tornar-se visíveis apenas ao longo de várias interações. Os sistemas de segurança existentes compatíveis com ZDR avaliam cada interação individualmente. Hoje, apresentamos uma antevisão do Processamento Privado de Segurança, concebido para identificar padrões em interações relacionadas sem dar ao pessoal da OpenAI acesso ao conteúdo subjacente.

Nas implementações com ZDR, o conteúdo dos clientes permanece em infraestruturas controladas pelo cliente. Estamos também a desenvolver uma opção em que o conteúdo é armazenado na infraestrutura da OpenAI e encriptado com chaves controladas pelo cliente. Em ambos os casos, os sistemas automatizados conseguem identificar potenciais utilizações indevidas e devolver sinais de segurança limitados, sem expor ao pessoal da OpenAI os pedidos ou as respostas subjacentes.

Os riscos mais graves para a segurança da IA nem sempre são visíveis numa única interação. Muitas vezes, as intenções potencialmente nocivas só se tornam claras quando várias interações são analisadas em conjunto. Podem surgir riscos semelhantes quando intervenientes mal-intencionados testam repetidamente as salvaguardas, coordenam ações entre contas ou disfarçam ameaças como investigação de rotina. Os riscos também podem desenvolver-se ao longo de uma tarefa realizada por um agente — por exemplo, se um sistema deixar de estar alinhado com a intenção do utilizador e continuar a agir depois de lhe ser ordenado que pare.

À medida que os sistemas de IA assumem tarefas mais longas e complexas, este contexto mais amplo torna-se cada vez mais importante para distinguir atividades legítimas de utilizações indevidas e garantir que os agentes de IA permanecem dentro dos limites da autoridade que lhes foi atribuída.

Algumas implementações recentes de modelos de fronteira exigiram que os clientes permitissem ao seu fornecedor de IA conservar conteúdo sensível para fins de monitorização da segurança. Para muitas organizações, estes requisitos entram em conflito com as suas obrigações de segurança ou com os compromissos assumidos perante as pessoas que servem.

O Processamento Privado de Segurança foi concebido para podermos continuar a oferecer ZDR.

O Processamento Privado de Segurança baseia-se nas proteções automatizadas já utilizadas em implementações com ZDR e noutras implementações. Os sistemas de segurança existentes compatíveis com ZDR avaliam as interações individualmente. O Processamento Privado de Segurança alarga essas proteções a interações relacionadas, permitindo aos sistemas automatizados identificar padrões sem que o pessoal da OpenAI tenha acesso ao conteúdo conservado dos clientes.

O Processamento Privado de Segurança utiliza o conteúdo dos clientes independentemente do local onde esteja armazenado — seja em infraestruturas controladas pelos clientes (implementações com ZDR), seja em armazenamento fornecido pela OpenAI. No armazenamento fornecido pela OpenAI, o conteúdo dos clientes é encriptado com chaves controladas pelo cliente. O pessoal da OpenAI não possui uma cópia dessas chaves e, por isso, não pode aceder ao conteúdo subjacente.

Quando é identificado um risco, a OpenAI recebe um sinal estritamente limitado que indica o tipo de atividade envolvida, à semelhança do que acontece atualmente com os nossos sistemas de segurança. Esse sinal pode ser utilizado para determinar se é necessário tomar medidas. O pessoal da OpenAI não recebe acesso ao conteúdo do cliente, mesmo quando este é sinalizado.

Os clientes podem investigar alertas e decisões sobre medidas a tomar através das informações disponíveis nos seus próprios sistemas. Se pretenderem contestar uma decisão, esclarecer atividades legítimas ou apoiar uma investigação de abusos confirmados, podem optar por partilhar informações relevantes com a OpenAI.

O Processamento Privado de Segurança está atualmente a ser testado com os primeiros clientes. Partilhamos agora esta antevisão porque os nossos clientes deixaram bem claro que precisam de previsibilidade quanto à forma como o seu conteúdo será protegido à medida que os sistemas de IA se tornam mais capazes.

A nossa missão é garantir que a inteligência artificial geral beneficia toda a humanidade. A colaboração com clientes e parceiros é essencial para criarmos salvaguardas eficazes. Como deixam claro os nossos princípios, nenhum laboratório de IA consegue enfrentar sozinho os riscos emergentes. O Processamento Privado de Segurança reflete esta abordagem e está a ser moldado por clientes de diferentes setores, regiões e dimensões empresariais.

As organizações com que trabalhamos gerem algumas das informações mais sensíveis dos seus setores, incluindo registos financeiros, dados de saúde, planos empresariais confidenciais e investigação proprietária. Proteger essas informações é essencial para cumprir obrigações regulamentares, manter a confiança dos clientes e preservar a sua vantagem competitiva.

O seu feedback está a ajudar-nos a criar salvaguardas mais robustas, mantendo as informações sob o seu controlo.

Continuaremos a trabalhar com os clientes nos detalhes técnicos e operacionais da nossa abordagem. Planeamos começar a disponibilizar o Processamento Privado de Segurança e publicar um documento técnico em setembro. Manteremos os clientes informados em todas as etapas, partilhando novidades com antecedência, explicando o que significam para os compromissos existentes e proporcionando-lhes o tempo e o apoio necessários para planearem o futuro.