Por dentro da nossa abordagem às Especificações do Modelo

Na OpenAI, acreditamos que a IA deve ser justa, segura e amplamente disponível para que mais pessoas possam usá-la para resolver problemas difíceis, criar oportunidades e se beneficiar em áreas como saúde, ciência, educação, trabalho e vida cotidiana. Acreditamos que o acesso democratizado à IA é o melhor caminho: não uma IA cujos benefícios ou controle estejam concentrados nas mãos de poucos, mas uma IA que mais pessoas possam acessar, entender e ajudar a moldar.

Esse é um motivo fundamental para a existência da Especificação do Modelo da OpenAI. A Especificação do Modelo⁠(abre em uma nova janela) é nossa estrutura formal para o comportamento dos modelos. Ela define como queremos que os modelos sigam instruções, resolvam conflitos, respeitem a liberdade dos usuários e se comportem com segurança diante da enorme variedade de solicitações que os usuários fazem diariamente. Em termos mais amplos, ela é nossa tentativa de explicitar o comportamento pretendido dos modelos: não apenas dentro do nosso processo de treinamento, mas em um formato que usuários, desenvolvedores, pesquisadores, formuladores de políticas públicas e o público em geral possam efetivamente ler, examinar e debater.

As Especificações do Modelo não são uma afirmação de que nossos modelos já se comportam dessa forma perfeitamente hoje. Em muitos aspectos, elas são descritivas, mas também são uma meta para onde queremos levar o comportamento do modelo. Nós as usamos para tornar o comportamento pretendido mais claro, para que possamos treinar nessa direção, avaliar com base nele e melhorá-lo ao longo do tempo. 

Este post compartilha os bastidores que não estão nas próprias Especificações do Modelo, incluindo a filosofia e os mecanismos por trás delas: como são estruturadas, por que fizemos essas escolhas estruturais e como as escrevemos, implementamos e evoluímos ao longo do tempo.

A Especificação do Modelo faz parte da abordagem mais ampla da OpenAI para uma IA segura e responsável. Enquanto o Preparedness Framework⁠ se concentra nos riscos associados a capacidades de ponta e nas salvaguardas necessárias à medida que esses riscos aumentam, a Especificação do Modelo aborda uma questão diferente, mas complementar: como nossos modelos devem se comportar em uma ampla variedade de situações. Ampliando ainda mais a perspectiva, a resiliência da IA busca enfrentar o desafio social mais amplo de ajudar a sociedade a aproveitar os benefícios da IA avançada, ao mesmo tempo que reduz rupturas e riscos emergentes à medida que sistemas cada vez mais capazes são implantados. Juntas, essas iniciativas buscam ajudar a tornar a transição para a AGI gradual, iterativa e compreensível do ponto de vista democrático: dando a pessoas e instituições tempo para se adaptar, enquanto desenvolvemos as salvaguardas, os mecanismos de responsabilização e a compreensão pública necessários para manter uma IA poderosa alinhada aos interesses humanos.

A clareza pública sobre o comportamento do modelo é importante tanto para a equidade quanto para a segurança. Isso importa para a equidade porque as pessoas precisam entender como e por que a IA as trata dessa forma — e poder identificar, questionar e lidar com preocupações de equidade quando elas surgirem. E isso importa para a segurança porque, à medida que os sistemas de IA se tornam mais capazes, pessoas e instituições precisam de expectativas mais claras sobre como eles devem se comportar, quais trade-offs eles incorporam e como essas escolhas podem ser melhoradas ao longo do tempo. Esse tipo de legibilidade também apoia a resiliência ao dar a mais pessoas algo concreto para examinar, questionar e aprimorar.

Desde a primeira versão, em 2024, a Especificação do Modelo evoluiu consideravelmente à medida que aprendemos mais sobre as preferências e necessidades dos usuários, ampliamos sua abrangência e a adaptamos a capacidades mais avançadas, além de aprendermos com o feedback público sobre o comportamento dos modelos e sobre a Especificação do Modelo. No espírito da implantação iterativa⁠, a Especificação do Modelo é um documento em evolução que abrange tanto valores subjacentes quanto regras explícitas e compreensíveis — acompanhado de um processo para modificar elementos individuais à medida que aprendemos com a implantação no mundo real e com o feedback. Também estamos investindo em mecanismos de feedback público, como o alinhamento coletivo⁠, para ajudar a garantir que a humanidade mantenha o controle sobre como a IA é usada e como o comportamento da IA é moldado.

Internamente, elas nos dão um norte para o comportamento pretendido e uma estrutura compartilhada para treinamento, avaliação e governança. Externamente, elas criam um ponto de referência público que as pessoas podem usar para entender nossa abordagem, criticá-la e ajudar a aprimorá-la ao longo do tempo.

As Especificações do Modelo são compostas por vários tipos diferentes de orientação para o modelo. Isso é intencional. Diferentes partes do comportamento do modelo precisam ser tratadas de formas diferentes, e um documento público útil precisa fazer mais do que apenas listar regras.

As Especificações do Modelo começam com a intenção de alto nível: uma explicação clara do que estamos tentando otimizar no nível do sistema e por quê.

Esse preâmbulo esclarece três objetivos sobre como planejamos cumprir nossa missão:

• Implantar de forma iterativa modelos que deem poder a desenvolvedores e usuários
• Impedir que nossos modelos causem danos graves aos usuários ou a outras pessoas
• Manter a licença para operar da OpenAI

Em seguida, explica como pensamos em equilibrar esses objetivos na prática, tornando os trade-offs concretos o suficiente para apoiar os princípios mais detalhados que vêm a seguir.

É importante destacar que esse preâmbulo não se destina a ser uma instrução direta para o modelo. Beneficiar a humanidade é um objetivo da OpenAI, não um objetivo que queremos que nossos modelos persigam de forma autônoma. Em vez disso, queremos que os modelos sigam uma cadeia de comando que inclua as Especificações do Modelo e instruções aplicáveis da OpenAI, de desenvolvedores e de usuários — mesmo quando algumas pessoas possam discordar do resultado em um caso específico.

Achamos que esse é o equilíbrio certo porque valorizamos a autonomia humana e a liberdade intelectual. Se treinássemos modelos para decidir quais instruções obedecer com base na nossa própria visão do que é bom para a sociedade, a OpenAI estaria na posição de arbitrar a moralidade em um nível muito amplo. Dito isso, o preâmbulo ainda é importante. Quando houver ambiguidade sobre como aplicar as Especificações do Modelo, o preâmbulo deve ajudar a resolvê-la.

A Especificação do Modelo também contém compromissos públicos que vão além do comportamento diretamente mensurável dos modelos e abrangem a intenção de treinamento e as restrições de implantação. Por exemplo, nossos Princípios de linha vermelha⁠(abre em uma nova janela) incluem o compromisso de que, em implantações da própria OpenAI, como o ChatGPT, nunca usaremos mensagens do sistema para comprometer intencionalmente a objetividade⁠(abre em uma nova janela) ou princípios relacionados; e Nenhum outro objetivo⁠(abre em uma nova janela) estabelece compromissos quanto à nossa intenção de otimizar as respostas do modelo em benefício do usuário, e não para aumentar a receita ou prolongar o tempo de permanência no site sem benefício para o usuário.

No núcleo das Especificações do Modelo está a cadeia de comando: uma estrutura para decidir quais instruções devem se aplicar em uma determinada situação. Ela também aborda como o modelo deve lidar com instruções pouco especificadas, especialmente em cenários com agentes em que se espera que ele preencha detalhes de forma autônoma enquanto controla cuidadosamente efeitos colaterais no mundo real.A ideia básica por trás de decidir quais instruções devem se aplicar é simples. As instruções podem vir de diferentes fontes, incluindo a OpenAI, desenvolvedores e usuários. Essas instruções podem entrar em conflito. A cadeia de comando explica como o modelo deve resolver esses conflitos.  

Cada política da Especificação do Modelo e cada instrução recebe um nível de autoridade⁠(abre em uma nova janela). O modelo é instruído a priorizar a letra e o espírito das instruções de maior autoridade quando surgem conflitos. Se um usuário pedir ajuda para fabricar uma bomba, o modelo deve priorizar limites rígidos de segurança⁠(abre em uma nova janela). Se um usuário pedir para ser zoado, o modelo deve, em geral, priorizar esse pedido em relação à política contra o abuso⁠(abre em uma nova janela), que tem um nível de autoridade inferior na Especificação do Modelo.

Essa estrutura nos permite definir um conjunto relativamente pequeno de regras não anuláveis junto a um conjunto maior de padrões. É assim que buscamos maximizar a liberdade do usuário e o controle do desenvolvedor dentro de restrições de segurança.

• Regras rígidas são limites explícitos que usuários e desenvolvedores não podem anular (na terminologia da Especificação do Modelo, são instruções de nível “root” ou “system”). Elas são, em sua maioria, proibitivas e exigem que os modelos evitem comportamentos que possam contribuir para riscos catastróficos ou danos físicos diretos, violar leis ou comprometer a cadeia de comando. Esperamos que a IA se torne uma tecnologia fundamental para a sociedade, semelhante à infraestrutura básica da internet. Por isso, só impomos regras que possam limitar a liberdade intelectual quando acreditamos que sejam necessárias, considerando a grande diversidade de desenvolvedores e usuários que vão interagir com ela. Na Especificação do Modelo, Fique dentro dos limites⁠(abre em uma nova janela) contém regras rígidas que tratam de riscos concretos à segurança no mundo real, e Princípios para menores de 18 anos⁠(abre em uma nova janela) acrescenta mais uma camada de salvaguardas para usuários menores de 18 anos.
• Comportamentos padrão são pontos de partida que podem ser substituídos: correspondem ao “melhor palpite” do assistente sobre como se comportar quando o usuário ou o desenvolvedor não especifica uma preferência. Usamos comportamentos padrão para tornar o comportamento previsível e controlável em escala, para que as pessoas saibam o que esperar sem precisar escrever um conjunto de instruções sob medida a cada vez. Os comportamentos padrão preservam a capacidade de direcionamento: usuários e desenvolvedores podem definir explicitamente o tom, a profundidade, o formato e até o ponto de vista dentro dos limites de segurança. Os comportamentos padrão no nível de diretriz (como tom ou estilo) são projetados para permitir direcionamento implícito, enquanto os comportamentos padrão no nível do usuário (como veracidade e objetividade) funcionam como âncoras de confiança e previsibilidade e só podem ser substituídos por instruções explícitas. Esses comportamentos padrão não devem mudar silenciosamente com base em impressões subjetivas; se o usuário quiser uma postura diferente em relação aos fatos, expressá-la em uma instrução explícita deixa a mudança transparente e clara. Esses comportamentos padrão se refletem em Busque a verdade em conjunto⁠(abre em uma nova janela), Faça o melhor trabalho⁠(abre em uma nova janela) e Use um estilo adequado⁠(abre em uma nova janela), incluindo normas de honestidade e objetividade, orientações para evitar a bajulação e normas de interação, como franqueza, além de cordialidade e profissionalismo adequados ao contexto.

Além da própria hierarquia, as Especificações do Modelo usam recursos interpretativos para ajudar modelos (e pessoas) a aplicá-las de forma consistente nas áreas cinzentas. Esses recursos incluem: 

• Rubricas de decisão que ajudam o modelo a tomar decisões consistentes em situações ambíguas, sem agir como se houvesse uma única regra mecânica. Por exemplo, as orientações da Especificação do Modelo sobre controlar efeitos colaterais⁠(abre em uma nova janela) incluem considerações como minimizar ações irreversíveis, manter as ações proporcionais ao objetivo, reduzir surpresas desagradáveis e priorizar abordagens reversíveis. Essas considerações devem ser equilibradas com outros objetivos, como concluir a tarefa com rapidez e eficácia.
• Exemplos concretos que mostram como um princípio deve ser aplicado na prática. São exemplos curtos de prompt e resposta que normalmente incluem tanto uma resposta em conformidade quanto uma fora de conformidade, muitas vezes em um prompt difícil perto de um limite importante de decisão. O objetivo não é simular uma conversa completa e realista. É deixar clara a distinção essencial e fazer isso de um jeito que também demonstre o estilo de resposta desejado.

Mantemos o número de exemplos relativamente pequeno e focamos nos mais informativos. Conjuntos de avaliação mais amplos ajudam a cobrir mais da cauda longa.

As Especificações são uma interface, não uma implementação. Elas descrevem o comportamento que queremos, não cada detalhe de como produzimos esse comportamento. Tentamos evitar ancorá-las a detalhes de implementação, como formatos internos de tokens ou a receita exata de treinamento para um comportamento específico, porque esses detalhes podem mudar mesmo quando o comportamento desejado não muda. O principal público dAs Especificações do Modelo não são o modelo, e sim as pessoas: elas existem para ajudar funcionários da OpenAI, usuários, desenvolvedores, pesquisadores e formuladores de políticas públicas a entender, debater e decidir sobre o comportamento pretendido.

A Especificação também descreve o modelo, não o produto como um todo. Ela é complementada por nossas políticas de uso⁠, que descrevem nossas expectativas sobre como as pessoas devem usar a API e o ChatGPT. O sistema com que os usuários interagem vai além do próprio modelo: recursos do produto, como instruções personalizadas e memória, monitoramento, aplicação de políticas e outras camadas também são importantes. A segurança vai muito além do comportamento do modelo, e acreditamos na defesa em profundidade⁠. 

E as Especificações não são um documento completo de toda a nossa pilha de treinamento nem de cada distinção de política interna. O objetivo não é capturar cada detalhe. É tornar compreensíveis as decisões de comportamento mais importantes, de um jeito totalmente consistente com o comportamento pretendido do modelo.

Há vários motivos para colocar tanta coisa nas Especificações, em vez de assumir que o leitor — ou o modelo — consegue inferir tudo a partir de alguns objetivos de alto nível.

Em primeiro lugar, a Especificação do Modelo é uma ferramenta de transparência e prestação de contas. Ela foi criada para incentivar feedback relevante do público. Uma meta pública clara ajuda as pessoas a saber se um comportamento é um bug ou uma funcionalidade. Ela oferece às pessoas um ponto de referência estável para fazer críticas e dar feedback concreto. É por isso que disponibilizamos em código aberto⁠(abre em uma nova janela) a Especificação do Modelo e optamos por fazê-la evoluir em público. Desde a primeira versão, foram feitas muitas mudanças com base no feedback do público, coletado por meio de diversos mecanismos, incluindo formulários de feedback, críticas públicas e esforços deliberados⁠ para coletar contribuições democráticas.

Em segundo lugar, as Especificações do Modelo são uma ferramenta de coordenação dentro da OpenAI. Elas oferecem às pessoas de pesquisa, produto, segurança, políticas, jurídico, comunicação e outras áreas um vocabulário compartilhado para discutir o comportamento do modelo e um mecanismo para propor e revisar mudanças.

Em terceiro lugar, políticas explícitas podem compensar limitações práticas na inteligência do modelo e no contexto em tempo de execução, além de tornar o comportamento mais previsível. Embora isso seja cada vez menos válido, algumas políticas buscam compensar limitações de inteligência em situações nas quais os modelos talvez não consigam deduzir de forma confiável o comportamento correto a partir de princípios de alto nível. Por exemplo, Seja claro e direto⁠(abre em uma nova janela) orientava os modelos anteriores a mostrar o raciocínio antes de apresentar uma resposta para problemas complexos que exigem cálculos, mas hoje nossos modelos aprendem esse comportamento naturalmente por meio do aprendizado por reforço⁠. 

Outras políticas abordam o contexto limitado em tempo de execução: o assistente só pode se apoiar no que é observável na interação atual e raramente conhece a situação completa do usuário, sua intenção, o uso a jusante ou quais salvaguardas existem fora do modelo. Nesses casos, mesmo que os modelos possam descobrir o comportamento certo com pesquisa e reflexão suficientes, a especificidade melhora a eficiência e a previsibilidade — condensando muitas decisões de julgamento em orientações que reduzem a variação entre prompts semelhantes e tornam o comportamento mais fácil de entender para usuários e pesquisadores.

Por fim, as Especificações do Modelo buscam ser uma lista completa de políticas de alto nível relevantes para avaliação e mensuração. Se você quiser avaliar se um modelo está se comportando como pretendido, é útil ter uma lista pública das principais categorias de comportamento com as quais você se importa.

É tentador pensar que um modelo suficientemente capaz deveria conseguir inferir o comportamento correto a partir de uma lista curta de objetivos como "ser útil e seguro". Há alguma verdade nisso. Em domínios com critérios objetivos de sucesso, como matemática, a inteligência muitas vezes pode substituir regras detalhadas.

Mas, em geral, o comportamento do modelo não é como resolver um problema simples de matemática; os modelos muitas vezes operam em áreas mais espinhosas, em que não há uma única resposta moralmente correta sobre a qual todos concordem. O que significa, por exemplo, um modelo ser "útil e seguro" depende muito do contexto e é fruto de decisões inerentemente carregadas de valores. A inteligência, por si só, não diz quais trade-offs fazer quando se trata de ética e valores. Por isso, mesmo à medida que os modelos avançam em inteligência, ainda precisamos trabalhar para entender e orientar julgamentos de valor — isto é, o que significa agir de forma ética em um caso específico. E a maioria dos motivos para ter Especificações do Modelo continua relevante mesmo quando os modelos se tornam muito mais capazes: ainda precisamos de um alvo público em torno do qual as pessoas possam se coordenar, de uma forma de avaliar se o comportamento corresponde às nossas intenções e de um mecanismo para revisar as regras à medida que aprendemos. Se a única regra for "ser útil e seguro", então não há um mecanismo pelo qual as pessoas possam debater, por exemplo, os limites de qual conteúdo o modelo deve se recusar a fornecer, deixando todas essas decisões para o modelo.

Na verdade, à medida que os modelos se tornam mais capazes, mais autônomos e mais amplamente implantados, o custo da ambiguidade aumenta. Isso torna uma estrutura de comportamento clara mais importante, não menos.

Uma analogia útil é a diferença entre uma constituição escrita e a jurisprudência. Embora uma constituição escrita possa oferecer princípios de alto nível e regras concretas, ela não consegue antecipar todos os casos possíveis que podem surgir e exigir sua orientação. Sistemas reais de governança também precisam de mecanismos interpretativos, esclarecimentos e decisões explícitas para resolver casos complicados ou questões imprevistas. Regras publicadas ajudam diferentes partes interessadas a se coordenar mesmo quando discordam e limitam mudanças ao exigir que qualquer alteração seja explícita. As Especificações do Modelo devem cumprir todos esses papéis: uma declaração de princípios, uma estrutura pública de comportamento e um processo para alterar as Especificações ao longo do tempo.

Dito isso, não achamos que tudo o que importa sobre o comportamento do modelo sempre será reduzível a regras explícitas. À medida que os sistemas se tornam mais autônomos, a confiabilidade e a confiança dependerão cada vez mais de habilidades e disposições mais amplas: comunicar bem a incerteza, respeitar escopos de autonomia, evitar surpresas desagradáveis, acompanhar a intenção ao longo do tempo e raciocinar bem sobre valores humanos no contexto.

Ao escrever as Especificações do Modelo, há um espectro entre descrever o comportamento real do modelo hoje, com todos os defeitos, e descrever um alvo ideal de um futuro distante. Tentamos encontrar um equilíbrio, geralmente mirando algo em torno de 0 a 3 meses à frente do presente. Assim, as Especificações do Modelo frequentemente ficam à frente do modelo em pelo menos algumas áreas de desenvolvimento ativo.

Isso reflete o papel das Especificações do Modelo como uma descrição do comportamento pretendido. Elas devem nos apontar uma direção coerente, mas ainda ancorada no que já fazemos ou no que temos planos concretos de implementar no curto prazo.

As Especificações do Modelo são desenvolvidas por meio de um processo interno aberto. Qualquer pessoa na OpenAI pode comentar ou propor mudanças, e as atualizações finais são aprovadas por um amplo conjunto de partes interessadas multifuncionais. Na prática, dezenas de pessoas contribuíram diretamente com texto, e muitas outras, em pesquisa, engenharia, produto, segurança, políticas públicas, jurídico, comunicação, assuntos globais e outras áreas, dão seu parecer. Também aprendemos com lançamentos e feedback públicos, que ajudam a testar essas escolhas sob pressão em implantações reais.

Isso importa porque o comportamento do modelo — e suas implicações no mundo — são incrivelmente complexos. Ninguém consegue colocar na cabeça o conjunto completo de comportamentos, o processo de treinamento e as implicações a jusante; mas, com muitos colaboradores e revisores multifuncionais, conseguimos melhorar a qualidade e aumentar a confiança.

Uma surpresa positiva foi que um consenso real muitas vezes é possível — especialmente quando nos forçamos a registrar os trade-offs com precisão suficiente para que as discordâncias se tornem concretas.

As Especificações do Modelo também não são escritas no vácuo. Grande parte do que entra nelas é um resumo de trabalhos mais amplos sobre comportamento, segurança e políticas públicas. Muito do trabalho de escrever as Especificações do Modelo é, na prática, tradução: pegar um trabalho existente e torná-lo mais simples, consistente, organizado e acessível sem perder a intenção subjacente.

Nossos modelos em produção ainda não refletem totalmente as Especificações do Modelo por vários motivos.

• O treinamento do modelo pode ficar para trás em relação às atualizações das Especificações do Modelo. Elas descrevem o comportamento em direção ao qual estamos trabalhando, então podem estar à frente do que nosso modelo mais recente foi treinado para fazer.
• O treinamento pode, inadvertidamente, ensinar comportamentos inconsistentes com as Especificações do Modelo. Tentamos muito evitar isso e, quando acontece, tratamos como um bug grave — trabalhando para ajustar o comportamento ou as Especificações do Modelo para colocá-los em alinhamento.
• O treinamento nunca consegue cobrir totalmente o espaço de todos os comportamentos possíveis. O uso real contém uma longa cauda de contextos e casos-limite que só aparecem em escala, e nenhum processo de treinamento consegue cobrir tudo.
• A generalização pode diferir do que pretendíamos. Um modelo pode produzir os resultados “certos” durante o treinamento por razões diferentes das pretendidas, o que pode levar a comportamentos não intencionais em novas situações que diferem das observadas no treinamento. Técnicas como o alinhamento deliberativo⁠ ajudam, mas não são uma solução completa.

De forma mais ampla, o fato de as Especificações do Modelo descreverem uma ampla gama de comportamentos desejados não significa que exista um único método para ensiná-los todos. Diferentes aspectos do comportamento — seguir instruções, limites de segurança, personalidade, expressão calibrada de incerteza e mais — muitas vezes exigem técnicas diferentes e têm modos de falha diferentes. As Especificações do Modelo ajudam a tornar o comportamento pretendido mais fácil de entender e criticar, mas implementá-las bem continua sendo tanto uma arte quanto uma área ativa de pesquisa.

Junto com este post, estamos lançando Model Spec Evals⁠(abre em uma nova janela): um conjunto de avaliações baseado em cenários que busca abranger o maior número possível de afirmações da Especificação do Modelo com um pequeno número de exemplos representativos. Isso nos ajuda a acompanhar possíveis desalinhamentos entre o comportamento do modelo e a Especificação do Modelo, além de verificar se os modelos interpretam a Especificação do Modelo como pretendíamos. Essas avaliações são apenas uma parte de uma estratégia de avaliação mais ampla, que também inclui análises mais direcionadas de diversas dimensões do comportamento, como áreas específicas de segurança; veracidade e bajulação; personalidade e estilo; e capacidades.

Na prática, a maioria das atualizações das Especificações é guiada por um conjunto recorrente de insumos:

• Problemas e feedback públicos. Confusões, casos-limite ou modos de falha — seja na linguagem das Especificações do Modelo, seja no comportamento dos nossos modelos.
• Problemas internos. Padrões que vemos durante desenvolvimento e testes, incluindo ambiguidades em que diferentes interpretações razoáveis levam a comportamentos diferentes.
• Atualizações de políticas de comportamento e segurança. Quando restrições ou compromissos de nível mais alto mudam, as Especificações precisam refletir essa nova estrutura com clareza.
• Novas capacidades e produtos. À medida que os modelos se tornam capazes de novos comportamentos e lançamos novos produtos, queremos que o conteúdo e a abrangência da Especificação do Modelo acompanhem essa evolução — por exemplo, adicionando regras sobre interações multimodais⁠(abre em uma nova janela), agentes autônomos⁠(abre em uma nova janela) e usuários menores de 18 anos⁠(abre em uma nova janela).

Alguns princípios de design orientam como escrevemos e revisamos as Especificações do Modelo.

• Clareza e precisão. “Seja honesto” expressa um bom valor, mas não constitui um procedimento completo para tomar decisões. A Especificação do Modelo deve deixar as discordâncias mais claras, em vez de escondê-las atrás de uma linguagem fácil de aceitar. Sempre que viável, devemos explicitar possíveis conflitos entre as regras e oferecer orientações ou exemplos de como resolvê-los. Por exemplo, Não minta⁠(abre em uma nova janela) aponta um possível conflito com Seja cordial⁠(abre em uma nova janela) ao explicar que o assistente deve seguir as normas de cortesia, mas sem recorrer a mentiras piedosas que poderiam configurar bajulação⁠(abre em uma nova janela) e contrariar os interesses do usuário.
• Regras substanciais. Uma pessoa deve conseguir pegar um prompt realista e produzir uma resposta que outra pessoa reconheça como claramente dentro ou fora dos limites (mesmo que haja julgamentos nas margens).
• Exemplos que maximizam sinal em relação ao ruído. Bons exemplos muitas vezes são centrais para desenvolver uma atualização de alta qualidade das Especificações do Modelo. Os exemplos devem ir ao cerne das dificuldades de especificar o comportamento do modelo, trazendo conflitos difíceis à tona e assumindo uma posição clara sobre como resolvê-los. Em segundo lugar, eles devem se esforçar para ser exemplos do tom e do estilo desejados, o que pode ser difícil de transmitir em prosa.
• Robustez. Tentamos evitar exemplos com ambiguidade ou complexidade supérfluas, para que o conflito central e a resolução pretendida fiquem claros.
• Consistência e organização clara. Buscamos que as regras das Especificações do Modelo sejam totalmente consistentes entre si e com o comportamento pretendido do modelo, e que a organização geral do documento seja clara e acessível.

As Especificações do Modelo não são uma afirmação de que conseguimos escrever tudo o que importa, nem de que os modelos sempre acertarão o alvo. É a afirmação de que o comportamento pretendido é importante o suficiente para ser claro, acionável e revisável.

Três critérios de sucesso orientam como as evoluímos.

• Legibilidade. Pessoas dentro e fora da OpenAI podem formar expectativas precisas sobre o comportamento e apontar para o texto quando o comportamento as surpreende.
• Acionabilidade. As Especificações do Modelo podem ser usadas para criar avaliações, diagnosticar incidentes e tomar decisões consistentes de produto — não apenas para expressar valores.
• Revisabilidade. As Especificações do Modelo podem evoluir à medida que aprendemos, sem se tornar um alvo móvel instável.

À medida que modelos e produtos evoluem, esperamos que as Especificações do Modelo se expandam e esclareçam em sintonia com novas capacidades e contextos de implantação. O objetivo é manter a especificação comportamental coerente, testável e alinhada à nossa missão de garantir que a AGI beneficie toda a humanidade.