Como incorporamos segurança, proteção e privacidade aos dots

Dots são agentes sempre ativos que assumem responsabilidades contínuas, dando a você mais tempo e atenção para o que importa. Cada dot tem seu próprio computador e trabalha nos apps que você escolhe conectar. Você atribui objetivos aos dots e define o que eles podem fazer por conta própria. Eles podem executar as etapas, se adaptar às mudanças e continuar avançando entre uma conversa e outra. Eles podem acompanhar os desdobramentos de uma notícia e preparar um rascunho de newsletter ou ajudar a atualizar um projeto conforme chegam novas informações — apresentando resultados para sua revisão e consultando você sobre decisões que exigem seu julgamento.

Dar essa responsabilidade aos dots significa confiar a eles uma parte maior das suas informações e do seu trabalho. É importante que você entenda o que cada dot pode acessar, como usa esse acesso e quando precisa envolver você. Essas questões importam porque os erros de um agente podem ter consequências além da conversa: interpretar mal um pedido pode levá-lo a alterar o arquivo errado ou compartilhar informações que você queria manter em sigilo.

Criamos proteções para cada parte desse trabalho. Começamos com o GPT‑6 Astra, que treinamos para entender sua intenção e seguir regras de segurança, e depois acrescentamos salvaguardas para as informações que os dots usam, os ambientes em que trabalham e as ações que planejam executar. Um ambiente de trabalho protegido na nuvem ajuda a conter erros, fluxos de login seguro ajudam a proteger credenciais sensíveis e verificações independentes das ações ajudam a identificar etapas que fogem das suas instruções ou dos requisitos de segurança. Você escolhe o que conectar, define preferências e acompanha ou redireciona o trabalho à medida que ele avança.

Os dots ainda podem cometer erros, e continuaremos aprimorando essas proteções à medida que aprendemos com o uso real. Aqui, explicamos como as salvaguardas funcionam em conjunto, o que você controla e quais limitações ainda existem — para que você possa tomar decisões informadas sobre o trabalho que confia aos dots.

Os dots usam o GPT‑6 Astra, nosso modelo mais capaz e alinhado. O Astra se destaca por entender seu objetivo, respeitar o escopo do seu pedido e fazer perguntas específicas quando as respostas podem mudar o que ele deve fazer. Essas capacidades ajudam os dots a dar continuidade às tarefas ao longo do tempo sem perder de vista sua intenção.

Treinamos o Astra para recusar pedidos nocivos, incluindo os que envolvem uso indevido nas áreas de biologia ou cibersegurança. Testamos como os dots lidam com mudanças nas instruções, pedidos ambíguos e tentativas de fazê-los ultrapassar as permissões que você concedeu. O red teaming humano e automatizado nos ajuda a encontrar vulnerabilidades, aprimorar o modelo e os sistemas ao redor dele e testar essas mudanças novamente.

Complementamos essas salvaguardas do modelo com as proteções de segurança do ChatGPT e medidas adicionais para agentes que podem continuar trabalhando em seu nome.

As proteções integradas do ChatGPT incluem criptografia do seu conteúdo durante o armazenamento e a transmissão entre você, a OpenAI e nossos prestadores de serviços, além de controles de acesso que ajudam a proteger as informações armazenadas. Nossos sistemas de segurança de contas também buscam sinais de uso suspeito da sua conta OpenAI e podem exigir um novo login se uma sessão parecer comprometida.

Os agentes também precisam de proteção contra as informações que encontram ao realizar seu trabalho. Uma página da web, um e-mail ou um documento pode conter instruções maliciosas que tentam redirecioná-los ou fazê-los compartilhar informações privadas — um problema chamado injeção de prompt. Combinamos salvaguardas do modelo com restrições de ferramentas, verificações antes das ações e monitoramento para ajudar a impedir que esse conteúdo se transforme em uma ação indesejada.

Também monitoramos os dots enquanto planejam e executam ações, buscando comportamentos potencialmente nocivos, como agir fora das suas instruções ou tentar contornar salvaguardas. Se o monitoramento de segurança identificar um possível problema no trabalho em andamento de um dot, ele poderá pausar esse trabalho e exibir um aviso para você analisar. Esse monitoramento é integrado e ajuda a detectar possíveis problemas durante a execução de uma tarefa, junto com as proteções que limitam o que os dots podem acessar e fazer.

Cada dot tem seu próprio computador na nuvem, onde pode navegar, analisar informações, criar arquivos e executar ferramentas. Os dots podem continuar avançando nesses ambientes de trabalho, mesmo quando você não está participando ativamente.

Você escolhe quais contas os dots podem usar, seja conectando apps dentro das permissões que concedeu ao ChatGPT ou entrando em um site no navegador de um dot, com login seguro quando disponível. Você também pode conectar seu computador pessoal para dar aos dots mais maneiras de ajudar — por exemplo, analisando uma planilha salva na sua área de trabalho ou usando ferramentas de programação instaladas no seu dispositivo.

No ambiente de trabalho protegido de cada dot, o isolamento em sandbox restringe os códigos e as ferramentas que ele pode acessar, ajudando a conter o impacto de códigos nocivos ou comandos incorretos. Também isolamos os ambientes de nuvem dos usuários uns dos outros e fazemos a manutenção do sistema operacional Linux e do navegador Chrome que os sustentam.

Os dots executam códigos em ambientes separados dos sistemas que coordenam seu trabalho e aplicam as principais salvaguardas. Eles podem criar arquivos e executar ferramentas nesses ambientes, mas não podem usar esse acesso para alterar os sistemas de segurança ou desativar verificações obrigatórias. Essa separação ajuda a manter as salvaguardas em vigor mesmo que um dot cometa um erro.

As regras de ação descritas abaixo determinam o que os dots podem fazer com o acesso que têm.

O login seguro permite que os dots trabalhem em contas sem que as senhas entrem na conversa. Nos logins compatíveis, o modelo é pausado enquanto você preenche um formulário de login seguro, que envia suas credenciais diretamente ao ambiente do navegador e as submete sem expô-las ao contexto do modelo. O dot então retoma o trabalho na conta autenticada. Manter a senha fora da conversa reduz o risco de ela aparecer em uma resposta ou ser compartilhada por engano.

Os fluxos compatíveis de senhas salvas mantêm essa separação por meio de um serviço dedicado de credenciais criptografadas. O serviço fornece a senha para o login sem repassá-la ao modelo. Assim, os dots podem trabalhar nas contas que você autorizou, enquanto as senhas permanecem fora do contexto do modelo. Essas proteções são específicas dos fluxos de login seguro e de senhas salvas; uma informação secreta inserida separadamente em uma mensagem ou documento legível ainda pode ficar visível para o modelo.

Você gerencia quais apps os dots podem usar por meio das conexões e permissões que já tem no ChatGPT, compartilhadas entre o ChatGPT, o ChatGPT Work e o Codex. Na seção Plugins das Configurações, você pode revisar as contas conectadas e alterar o que os dots poderão acessar dali em diante. Desconectar um app interrompe o compartilhamento de novas informações por essa conexão. Mas as informações que um dot já obteve permanecem no contexto dele. Essas permissões regem o acesso aos seus apps; elas não se sobrepõem aos requisitos obrigatórios de segurança.

Se quiser que os dots trabalhem com arquivos ou ferramentas locais, você também pode conectar seu computador. Essa conexão continua sujeita ao sandbox local e às verificações de ação aplicáveis. O uso do microfone ou da câmera do seu computador também exige permissões do dispositivo, que você pode optar por conceder ao ChatGPT.

A Visualização de atividades no app para desktop permite acompanhar e orientar o trabalho em andamento. Ela mostra as tarefas em andamento e delegadas, além do status de cada uma. Você pode adicionar contexto, corrigir um mal-entendido, mudar o rumo ou pedir que um dot pare.

Os dots acumulam contexto ao longo do tempo para oferecer uma ajuda mais útil. Quando delegam trabalho, os outros agentes são instruídos a manter as informações necessárias para a tarefa e evitar reter detalhes sensíveis desnecessários. Cada dot tem seu próprio contexto, que você pode redefinir a qualquer momento.

Nos Ambientes de trabalho seguros do ChatGPT Business, Enterprise e Edu, não usamos seus dados para treinar nossos modelos por padrão. Nos planos pessoais do ChatGPT, você controla se as conversas dos seus dots e o trabalho que eles realizam são usados para melhorar nossos modelos por meio da configuração "Melhorar o modelo para todos". Quando o treinamento de modelos está ativado, isso pode incluir ações dos dots e automações que você configura, após nosso trabalho de remoção de identificadores pessoais. Você pode saber mais sobre como seus dados são usados neste artigo⁠(abre em uma nova janela) da nossa central de ajuda.

Além do trabalho que você pede, os dots podem iniciar tarefas de pesquisa em segundo plano para buscar outras maneiras de ajudar — por exemplo, percebendo uma mudança nos seus planos de viagem. Chamamos isso de pesquisa proativa.

Essas tarefas são executadas no ambiente de nuvem de cada dot. Elas usam ferramentas somente de leitura para coletar informações de fontes conectadas autorizadas e depois salvam notas privadas para o dot. Aplicamos esses limites no código: as tarefas de pesquisa não podem enviar mensagens diretamente a outras pessoas, alterar conteúdo em apps conectados nem controlar um navegador ou uma área de trabalho. Os dots podem usar os resultados para decidir como ajudar, mas qualquer ação decorrente da pesquisa deve seguir as regras e verificações habituais.

Não treinamos nossos modelos diretamente com essas conversas de pesquisa em segundo plano nem com as notas que elas produzem. Mas um dot pode receber notas da sua tarefa de pesquisa em segundo plano ou ler partes das conversas dessa pesquisa. As informações incorporadas dessa forma a uma conversa ou tarefa elegível podem ser usadas para treinar modelos, dependendo das suas configurações. Por exemplo, uma tarefa de pesquisa em segundo plano pode reunir informações sobre vários destinos para uma futura viagem à Europa. Essa conversa de pesquisa e suas notas não são usadas diretamente para treinamento. Mais tarde, quando você pedir ao seu dot ajuda para planejar uma viagem a Lisboa, ele poderá ler uma nota sobre Lisboa produzida pela tarefa de pesquisa em segundo plano. Essa nota passa a fazer parte do contexto da sua conversa de planejamento de viagem e pode então ser usada para treinamento, dependendo das suas configurações. O restante da pesquisa em segundo plano não é usado para treinamento, a menos que também seja incorporado a uma conversa ou tarefa elegível.

Os dots seguem mecanismos de proteção integrados, criados para evitar danos e manter as decisões importantes nas suas mãos. Suas regras de segurança exigem que recusem pedidos nocivos, incluindo uso indevido nas áreas de biologia ou cibersegurança. Nas tarefas em que podem ajudar, as regras de ação definem quando eles podem prosseguir, quando devem pedir confirmação e quando devem devolver uma etapa para você executar.

Dentro desses limites, os dots podem ler informações que têm permissão para acessar, analisá-las e preparar rascunhos nas suas conversas. Para enviar uma mensagem ou compartilhar um arquivo, eles são treinados a buscar uma autorização que abranja as informações e o tipo de destinatário — dados mais sensíveis exigem destinatários definidos de forma mais específica. Por exemplo, dados de saúde sempre exigirão que o usuário identifique o destinatário pelo nome ("compartilhe meu histórico médico com o Dr. Thompson"). Por padrão, dados pessoais menos sensíveis, como um endereço de e-mail ou número de telefone, exigirão que o usuário especifique categorias de destinatários ("qualquer companhia aérea"). O usuário pode ampliar ainda mais as regras para dados pessoais menos sensíveis ("compartilhe em qualquer formulário on-line") criando uma Regra personalizada — veja mais detalhes sobre esse recurso na próxima seção. Essa autorização permanece vinculada às suas instruções para a tarefa; retomar o trabalho mais tarde ou delegá-lo não amplia seu alcance.

Os dots podem fazer compras usando cartões que você já salvou no site de uma loja. Essas compras exigem sua aprovação.

Algumas ações exigem sua confirmação a cada vez, como excluir dados permanentemente, instalar ou executar software de uma fonte não reconhecida ou conceder novos acessos sensíveis do ponto de vista da segurança. Essas exigências dão a você a chance de revisar mudanças que podem ser difíceis de desfazer ou que concedam um novo acesso a alguém.

No caso de outras etapas sensíveis, como alterar uma senha ou transferir dinheiro entre contas financeiras, os dots podem ajudar com o restante da tarefa, mas devem deixar essas etapas sensíveis para você executar.

As Regras personalizadas permitem definir como os dots ajudam dentro dessas proteções integradas — por exemplo, instruindo-os a nunca enviar e-mails. Você também pode dar orientações específicas para uma tarefa, como pedir a um dot que avise um colega da sua ausência sem compartilhar o motivo pessoal. Essas instruções continuam valendo quando o dot delega trabalho ou atua em segundo plano.

Os dots podem ajudar você a escrever Regras personalizadas, mas precisam da sua aprovação para alterá-las. Essas preferências funcionam dentro dos mecanismos de proteção integrados e não podem eliminar confirmações obrigatórias, etapas que devem ser executadas por você ou requisitos fundamentais de segurança.

Antes de os dots executarem ações como enviar e-mails ou alterar arquivos, um sistema de segurança independente chamado Revisão automática verifica se as etapas planejadas estão de acordo com suas instruções, suas Regras personalizadas e os requisitos de segurança. No caso de um e-mail, ele verifica o destinatário e a mensagem para ajudar a identificar um endereço errado ou informações que você não pretendia compartilhar.

Se a Revisão automática permitir uma etapa, o dot que a propôs a executa usando a ferramenta adequada do computador ou do app e então usa o resultado para dar continuidade à sua tarefa. Ele pode se basear em uma aprovação que você já deu quando ela abrange a ação e as regras não exigem uma nova confirmação.

Se a Revisão automática bloquear uma etapa, ela impede a execução da ação e informa o motivo ao dot. O dot pode pedir mais informações ou sua aprovação se isso puder resolver o bloqueio e, depois, submeter a etapa à revisão novamente. Dependendo do motivo, ele pode optar por tentar uma alternativa permitida, devolver uma etapa sensível para você executar ou parar. Sua aprovação não pode se sobrepor aos requisitos fundamentais de segurança.

Mantemos os controles que garantem a aplicação da Revisão automática fora dos ambientes que os dots podem alterar, para que eles não possam modificar nem desativar uma verificação obrigatória. As etapas comuns somente de leitura continuam seguindo as permissões dos apps, as restrições de ferramentas e outras salvaguardas, mas não precisam dessa revisão adicional.

Confiar um trabalho contínuo aos dots significa saber como eles seguirão suas instruções e reagirão quando algo inesperado acontecer. O Astra ajuda os dots a entender sua intenção, enquanto as proteções para dados, ambientes de trabalho, credenciais e ações ajudam a limitar os danos causados por erros ou conteúdo malicioso. Juntas, essas salvaguardas dão aos dots espaço para realizar um trabalho útil e reduzem a chance de um erro se transformar em uma ação ou divulgação indesejada.

Você escolhe a que os dots podem se conectar e como eles ajudam, e pode acompanhar seu progresso ou mudar o rumo conforme suas necessidades mudam. As aprovações e as etapas que ficam a seu cargo mantêm as decisões essenciais nas suas mãos. Os dots ainda podem cometer erros, por isso continuaremos testando e aprimorando suas proteções à medida que aprendemos com o uso real. Nosso objetivo é facilitar que você deixe o trabalho com os dots e encontre avanços úteis ao voltar, com suas preferências orientando a tarefa e as decisões importantes ainda nas suas mãos.

Leia o system card⁠(abre em uma nova janela) para saber mais sobre nossas salvaguardas, avaliações de segurança e limitações ainda existentes.

Para conhecer os fundamentos de segurança do ChatGPT, veja Segurança e privacidade na OpenAI. Para conhecer melhor uma das proteções de segurança na web, veja Como manter seus dados seguros quando um agente de IA clica em um link.