Por dentro da nossa abordagem às Especificações do Modelo

Na OpenAI, acreditamos que a IA deve ser justa, segura e amplamente acessível, para que mais pessoas a possam usar para resolver problemas difíceis, criar oportunidades e beneficiar em áreas como a saúde, a ciência, a educação, o trabalho e a vida quotidiana. Acreditamos que o acesso democratizado à IA é o melhor caminho a seguir: não uma IA cujos benefícios ou controlo estejam concentrados nas mãos de poucos, mas uma IA a que mais pessoas possam aceder, compreender e ajudar a moldar.

Essa é uma razão fundamental para a existência da Especificação do Modelo da OpenAI. A Especificação do Modelo⁠(abre numa nova janela) constitui a nossa estrutura formal para o comportamento dos modelos. Define como pretendemos que os modelos sigam instruções, resolvam conflitos, respeitem a liberdade dos utilizadores e se comportem de forma segura perante a enorme diversidade de pedidos que recebem todos os dias. De forma mais abrangente, representa a nossa tentativa de explicitar o comportamento pretendido dos modelos: não apenas no âmbito do nosso processo de treino, mas também num formato que utilizadores, programadores, investigadores, decisores políticos e o público em geral possam efetivamente ler, examinar e debater.

As Especificações do Modelo não são uma afirmação de que os nossos modelos já se comportam assim de forma perfeita hoje. Em muitos aspetos, é descritiva, mas também é um objetivo para onde queremos que o comportamento do modelo evolua. Utilizamo-la para tornar mais claro o comportamento pretendido, para que possamos treinar nessa direção, avaliá-lo face a ela e melhorá-lo ao longo do tempo. 

Este artigo partilha o contexto que não está na próprias Especificações do Modelo, incluindo a filosofia e o funcionamento por detrás dela: como está estruturada, por que razão fizemos essas escolhas estruturais e como a escrevemos, implementamos e fazemos evoluir ao longo do tempo.

A Especificação do Modelo faz parte da abordagem mais ampla da OpenAI a uma IA segura e responsável. Enquanto o Preparedness Framework⁠ se centra nos riscos decorrentes das capacidades de fronteira e nas salvaguardas necessárias à medida que esses riscos aumentam, a Especificação do Modelo aborda uma questão diferente, mas complementar: como se devem comportar os nossos modelos numa vasta gama de situações. Num plano ainda mais abrangente, a resiliência da IA procura enfrentar o desafio de ajudar a sociedade a tirar partido dos benefícios da IA avançada, reduzindo simultaneamente as perturbações e os riscos emergentes à medida que são implementados sistemas cada vez mais capazes. No seu conjunto, estas iniciativas procuram tornar a transição para a AGI gradual, iterativa e compreensível do ponto de vista democrático, dando às pessoas e às instituições tempo para se adaptarem, ao mesmo tempo que se criam as salvaguardas, os mecanismos de responsabilização e a compreensão pública necessários para manter sistemas de IA poderosos alinhados com os interesses humanos.

A clareza pública em torno do comportamento do modelo é importante tanto para a equidade como para a segurança. É importante para a equidade porque as pessoas precisam de compreender como e por que razão a IA as trata da forma como as trata — e de conseguir identificar, questionar e abordar preocupações de equidade quando estas surgem. E é importante para a segurança porque, à medida que os sistemas de IA se tornam mais capazes, as pessoas e as instituições precisam de expetativas mais claras sobre a forma como se pretende que se comportem, os tradeoffs que incorporam e como essas escolhas podem ser melhoradas ao longo do tempo. Esse tipo de clareza também reforça a resiliência ao dar a mais pessoas algo de concreto para examinar, questionar e melhorar.

Desde a primeira versão, em 2024, a Especificação do Modelo tem evoluído substancialmente à medida que conhecemos melhor as preferências e necessidades dos utilizadores, alargamos o seu âmbito e a adaptamos a capacidades cada vez maiores, e aprendemos com o feedback público sobre o comportamento dos modelos e a própria Especificação. No espírito da implementação iterativa⁠, a Especificação do Modelo constitui um documento em evolução que abrange valores de base e regras explícitas e compreensíveis, acompanhado de um processo para modificar elementos específicos à medida que aprendemos com a implementação em contextos reais e o feedback. Estamos também a investir em mecanismos de feedback público, como o alinhamento coletivo⁠, para ajudar a garantir que a humanidade mantém o controlo sobre a forma como a IA é utilizada e como o seu comportamento é moldado.

Internamente, funciona como uma estrela-guia para o comportamento pretendido e como uma estrutura partilhada para treino, avaliação e governação. Externamente, cria um ponto de referência público que as pessoas podem usar para compreender a nossa abordagem, criticá-la e ajudar a melhorá-la ao longo do tempo.

As Especificações do Modelo são compostas por vários tipos diferentes de orientações para o modelo. Isto é deliberado. Diferentes aspetos do comportamento do modelo precisam de ser tratados de formas diferentes, e um documento público útil tem de fazer mais do que apenas listar regras.

As Especificações do Modelo começam com uma intenção de alto nível: uma explicação clara do que procuramos otimizar ao nível do sistema e porquê.

Este preâmbulo clarifica três objetivos para a forma como planeamos prosseguir a nossa missão:

• Implementar iterativamente modelos que capacitem programadores e utilizadores
• Impedir que os nossos modelos causem danos graves a utilizadores ou a outras pessoas
• Manter a licença da OpenAI para operar

Em seguida, explica como pensamos equilibrar estes objetivos na prática, tornando os trade-offs suficientemente concretos para suportar os princípios mais detalhados que se seguem.

Importa salientar que este preâmbulo não se destina a ser uma instrução direta para o modelo. Beneficiar a humanidade é um objetivo da OpenAI, não um objetivo que queiramos que os nossos modelos prossigam autonomamente. Em vez disso, queremos que os modelos sigam uma cadeia de comando que inclui as Especificações do Modelo e as instruções aplicáveis da OpenAI, de programadores e de utilizadores — mesmo quando algumas pessoas possam discordar do resultado num caso específico.

Achamos que este é o equilíbrio certo porque valorizamos a autonomia humana e a liberdade intelectual. Se treinássemos modelos para decidirem que instruções obedecer com base na nossa própria visão do que é bom para a sociedade, a OpenAI ficaria na posição de arbitrar a moralidade a um nível muito amplo. Ainda assim, o preâmbulo continua a ser importante. Quando houver ambiguidade sobre como aplicar as Especificações do Modelo, o preâmbulo deve ajudar a resolvê-la.

A Especificação do Modelo contém também compromissos públicos que vão além do comportamento diretamente mensurável dos modelos, abrangendo a intenção subjacente ao treino e as restrições de implementação. Por exemplo, os nossos Princípios de linha vermelha⁠(abre numa nova janela) incluem o compromisso de nunca utilizarmos, em implementações da própria OpenAI como o ChatGPT, mensagens de sistema para comprometer intencionalmente a objetividade⁠(abre numa nova janela) ou princípios relacionados; por sua vez, Sem outros objetivos⁠(abre numa nova janela) estabelece compromissos quanto à nossa intenção de otimizar as respostas dos modelos em benefício dos utilizadores, e não para gerar receitas nem aumentar o tempo de permanência no site sem benefício para estes.

No cerne das Especificações do Modelo está a Cadeia de Comando: uma estrutura para decidir que instruções devem aplicar-se numa dada situação. Também aborda a forma como o modelo deve lidar com instruções insuficientemente especificadas, especialmente em contextos agênticos em que se espera que preencha detalhes de forma autónoma, controlando cuidadosamente os efeitos secundários no mundo real.A ideia básica por detrás da decisão de quais as instruções que devem aplicar-se é simples. As instruções podem vir de diferentes fontes, incluindo a OpenAI, programadores e utilizadores. Essas instruções podem entrar em conflito. A Cadeia de Comando explica como o modelo deve resolver esses conflitos.  

A cada política da Especificação do Modelo e a cada instrução é atribuído um nível de autoridade⁠(abre numa nova janela). O modelo é instruído a dar prioridade à letra e ao espírito das instruções com um nível de autoridade superior quando surgem conflitos. Se um utilizador pedir ajuda para fabricar uma bomba, o modelo deve dar prioridade aos limites rígidos de segurança⁠(abre numa nova janela). Se um utilizador pedir ao modelo que faça troça dele, o modelo deve, em geral, dar prioridade a esse pedido em detrimento da política contra o abuso⁠(abre numa nova janela) da Especificação do Modelo, que tem um nível de autoridade inferior.

Esta estrutura permite-nos definir um conjunto relativamente pequeno de regras não anuláveis, a par de um conjunto maior de predefinições. É assim que tentamos maximizar a liberdade do utilizador e o controlo do programador dentro de restrições de segurança.

• As regras rígidas são limites explícitos que não podem ser anulados por utilizadores nem programadores (na terminologia da Especificação do Modelo, são instruções de nível «root» ou «system»). São sobretudo proibitivas e exigem que os modelos evitem comportamentos que possam contribuir para riscos catastróficos ou danos físicos diretos, violar leis ou comprometer a cadeia de comando. Esperamos que a IA se torne uma tecnologia fundamental para a sociedade, comparável à infraestrutura básica da internet, pelo que só impomos regras que possam limitar a liberdade intelectual quando consideramos que são necessárias para o vasto leque de programadores e utilizadores que irão interagir com ela. Na Especificação do Modelo, Manter-se dentro dos limites⁠(abre numa nova janela) contém regras rígidas que abordam riscos concretos de segurança no mundo real, e Princípios para menores de 18 anos⁠(abre numa nova janela) acrescentam salvaguardas adicionais para utilizadores com menos de 18 anos.
• As predefinições são pontos de partida que podem ser substituídos: correspondem à «melhor estimativa» do assistente quanto ao comportamento a adotar quando o utilizador ou o programador não especifica qualquer preferência. Usamos predefinições para tornar o comportamento previsível e controlável em grande escala, para que as pessoas possam antecipar o que vai acontecer sem terem de escrever sempre um conjunto de instruções à medida. As predefinições preservam a possibilidade de orientar o comportamento: utilizadores e programadores podem definir explicitamente o tom, o nível de profundidade, o formato e até o ponto de vista, dentro dos limites de segurança. As predefinições ao nível das orientações (como o tom ou o estilo) são concebidas para poderem ser ajustadas implicitamente, enquanto as predefinições ao nível do utilizador (como a veracidade e a objetividade) servem de âncoras para a confiança e a previsibilidade e só podem ser substituídas por instruções explícitas. Estas últimas não devem mudar de forma impercetível apenas com base em impressões; se o utilizador pretender uma posição factual diferente, explicitá-la numa instrução torna a mudança transparente e compreensível. Estas predefinições refletem-se em Procurar a verdade em conjunto⁠(abre numa nova janela), Fazer o melhor trabalho⁠(abre numa nova janela) e Usar o estilo adequado⁠(abre numa nova janela), incluindo normas de honestidade e objetividade, a prevenção da bajulação e normas de interação como a comunicação direta, a cordialidade e o profissionalismo adequados ao contexto.

Para além da própria hierarquia, as Especificações do Modelo utilizam ajudas interpretativas para ajudar os modelos (e os humanos) a aplicá-las de forma consistente nas zonas cinzentas. Estas ajudas incluem: 

• Critérios de decisão que ajudam o modelo a fazer escolhas coerentes em zonas cinzentas, sem fingir que existe uma única regra mecânica. Por exemplo, as orientações da Especificação do Modelo sobre o controlo de efeitos secundários⁠(abre numa nova janela) enumeram considerações como minimizar ações irreversíveis, manter as ações proporcionais ao objetivo, reduzir surpresas desagradáveis e privilegiar abordagens reversíveis, que devem ser ponderadas face a outros objetivos, como concluir a tarefa de forma rápida e eficaz.
• Exemplos concretos que mostram como um princípio deve ser aplicado na prática. São exemplos curtos de prompt e resposta que, normalmente, incluem tanto uma resposta conforme como uma não conforme, muitas vezes com um prompt difícil perto de um limite de decisão importante. O objetivo não é simular uma conversa completa e realista. É tornar clara a distinção fundamental e fazê-lo de uma forma que também demonstre o estilo de resposta pretendido.

Mantemos o número de exemplos relativamente pequeno e focamo-nos nos mais informativos. Conjuntos de avaliação mais abrangentes ajudam a cobrir mais da cauda longa.

As Especificações são uma interface, não uma implementação. Descreve o comportamento que queremos, não todos os pormenores de como produzimos esse comportamento. Tentamos evitar ancorá-la a detalhes de implementação, como formatos internos de tokens ou a receita exata de treino para um determinado comportamento, porque esses detalhes podem mudar mesmo quando o comportamento pretendido não muda. O principal público-alvo das Especificações do Modelo não são o modelo, mas as pessoas: destina-se a ajudar colaboradores da OpenAI, utilizadores, programadores, investigadores e decisores políticos a compreender, debater e decidir sobre o comportamento pretendido.

A Especificação também descreve o modelo, não o produto no seu todo. É complementada pelas nossas políticas de utilização⁠, que definem as nossas expetativas quanto à forma como as pessoas devem utilizar a API e o ChatGPT. O sistema com que os utilizadores interagem vai além do próprio modelo: as funcionalidades do produto, como as instruções personalizadas e a memória, a monitorização, a aplicação das políticas e outras camadas também são importantes. A segurança vai muito além do comportamento do modelo, e acreditamos na defesa em profundidade⁠. 

E as Especificações não é uma descrição completa de todo o nosso stack de treino nem de cada distinção de política interna. O objetivo não é abranger todos os detalhes. O objetivo é tornar compreensíveis as decisões comportamentais mais importantes, de uma forma totalmente consistente com o comportamento pretendido do nosso modelo.

Há várias razões para colocar tanta coisa nas Especificações, em vez de assumir que o leitor — ou o modelo — consegue inferir tudo a partir de alguns objetivos de alto nível.

Em primeiro lugar, a Especificação do Modelo constitui uma ferramenta de transparência e responsabilização. Foi concebida para incentivar feedback relevante por parte do público. Um objetivo público claro ajuda as pessoas a perceber se determinado comportamento é um erro ou se é intencional. Proporciona-lhes um ponto de referência estável para formularem críticas e apresentarem feedback concreto. É por isso que disponibilizámos em código aberto⁠(abre numa nova janela) a Especificação do Modelo e optamos por continuar a desenvolvê-la em público. Desde a primeira versão, foram introduzidas muitas alterações com base no feedback do público, recolhido através de diversos mecanismos, entre os quais formulários de feedback, críticas públicas e esforços⁠ deliberados para recolher contributos democráticos.

Em segundo lugar, as Especificações do Modelo são ferramentas de coordenação dentro da OpenAI. Dá às pessoas das áreas de investigação, produto, segurança, políticas, jurídico, comunicação e outras funções um vocabulário partilhado para discutir o comportamento do modelo e um mecanismo para propor e rever alterações.

Em terceiro lugar, as políticas explícitas podem compensar limitações práticas na inteligência do modelo e no contexto disponível em tempo de execução e tornar o comportamento mais previsível. Embora isto se torne cada vez menos aplicável ao longo do tempo, algumas políticas procuram compensar limitações de inteligência, nos casos em que os modelos podem não conseguir inferir de forma fiável o comportamento correto a partir de princípios de nível superior. Por exemplo, Ser claro e direto⁠(abre numa nova janela) recomendava aos modelos anteriores que mostrassem os passos seguidos antes de darem uma resposta a problemas complexos que exigem cálculos, mas hoje os nossos modelos aprendem este comportamento de forma natural através da aprendizagem por reforço⁠. 

Outras políticas abordam o contexto limitado em tempo de execução: o assistente só pode basear-se no que é observável na interação atual e raramente conhece a situação completa do utilizador, a sua intenção, a utilização posterior ou que salvaguardas existem fora do modelo. Nesses casos, mesmo que os modelos pudessem descobrir o comportamento certo com pesquisa e reflexão suficientes, a especificidade melhora a eficiência e a previsibilidade — condensando muitas decisões de juízo em orientações que reduzem a variação entre prompts semelhantes e tornam o comportamento mais fácil de compreender para utilizadores e investigadores.

Por fim, as Especificações do Modelo pretendem ser uma lista completa das políticas de alto nível relevantes para avaliação e medição. Se quiser avaliar se um modelo se está a comportar como pretendido, é útil ter uma lista pública das principais categorias de comportamento com que se preocupa.

É tentador pensar que um modelo suficientemente capaz deveria conseguir inferir o comportamento correto a partir de uma lista curta de objetivos como «ser útil e seguro». Há alguma verdade nisso. Em domínios com critérios de sucesso objetivos, como a matemática, a inteligência pode muitas vezes substituir regras detalhadas.

Mas, em geral, o comportamento do modelo não é como resolver um problema simples de matemática; os modelos operam muitas vezes em áreas mais espinhosas onde não existe uma única resposta moralmente correta sobre a qual todos possam concordar. O que significa, por exemplo, um modelo ser «útil e seguro» depende em extremo do contexto e é o resultado de decisões inerentemente carregadas de valores. A inteligência, por si só, não indica que trade-offs fazer quando se trata de ética e valores. Assim, mesmo à medida que os modelos melhoram em inteligência, ainda precisamos de trabalho para compreender e orientar juízos de valor / o que significa agir «eticamente» numa dada situação. E a maioria das razões para termos umas Especificações do Modelo continua a ser relevante mesmo quando os modelos se tornam muito mais capazes: continuamos a precisar de um objetivo público em torno do qual as pessoas possam coordenar-se, de uma forma de avaliar se o comportamento corresponde às nossas intenções e de um mecanismo para rever as regras à medida que aprendemos. Se a única regra for «ser útil e seguro», então não existe um mecanismo para que as pessoas possam debater, por exemplo, os limites de que conteúdo o modelo deve recusar fornecer, deixando todas essas decisões ao modelo.

Seja como for, à medida que os modelos se tornam mais capazes, mais agênticos e mais amplamente implementados, o custo da ambiguidade aumenta. Isso torna uma estrutura comportamental clara mais importante, não menos.

Uma analogia útil é a diferença entre uma constituição escrita e a jurisprudência. Embora uma constituição escrita possa fornecer princípios de alto nível e regras concretas, não consegue antecipar todos os casos possíveis que podem surgir e exigir a sua orientação. Os sistemas reais de governação também precisam de mecanismos de interpretação, clarificações e decisões explícitas para resolver casos complicados ou questões imprevistas. As regras publicadas ajudam diferentes stakeholders a coordenar-se mesmo quando discordam e limitam a mudança ao exigir que qualquer alteração seja explícita. As Especificações do Modelo pretende desempenhar todos estes papéis: uma declaração de princípios, uma estrutura pública de comportamento e um processo para alterar as Especificações ao longo do tempo.

Ainda assim, não achamos que tudo o que importa no comportamento do modelo seja sempre redutível a regras explícitas. À medida que os sistemas se tornam mais autónomos, a fiabilidade e a confiança dependerão cada vez mais de competências e disposições mais amplas: comunicar bem a incerteza, respeitar âmbitos de autonomia, evitar más surpresas, acompanhar a intenção ao longo do tempo e raciocinar bem sobre valores humanos em contexto.

Ao escrever as Especificações do Modelo, há um espectro entre descrever o comportamento real do modelo hoje, com todos os seus defeitos, e descrever um ideal para um futuro distante. Tentamos encontrar um equilíbrio, normalmente apontando para algo entre 0 e 3 meses à frente do presente. Assim, as Especificações do Modelo ficam frequentemente à frente do modelo em, pelo menos, algumas áreas de desenvolvimento ativo.

Isto reflete o papel das Especificações do Modelo como descrição do comportamento pretendido. Deve apontar-nos uma direção coerente, mantendo-se ancorada no que já fazemos ou temos planos concretos, a curto prazo, para implementar.

As Especificações do Modelo são desenvolvidas através de um processo interno aberto. Qualquer pessoa na OpenAI pode comentar ou propor alterações, e as atualizações finais são aprovadas por um amplo conjunto de stakeholders de várias áreas. Na prática, dezenas de pessoas contribuíram diretamente com texto, e muitas mais nas áreas de investigação, engenharia, produto, segurança, políticas, jurídico, comunicação, assuntos globais e outras funções dão o seu contributo. Também aprendemos com lançamentos públicos e feedback, que ajudam a pôr estas escolhas à prova na implementação no mundo real.

Isto importa porque o comportamento do modelo — e as suas implicações no mundo — é incrivelmente complexo. Ninguém consegue ter na cabeça o conjunto completo de comportamentos, o processo de treino e as implicações posteriores, mas com muitos colaboradores e revisores de várias áreas conseguimos melhorar a qualidade e aumentar a confiança.

Uma agradável surpresa tem sido que um verdadeiro consenso é muitas vezes possível — sobretudo quando nos obrigamos a pôr por escrito os trade-offs com precisão suficiente para que as divergências se tornem concretas.

As Especificações do Modelo também não é escrita no vácuo. Grande parte do que aí acaba por constar é um resumo de trabalho mais amplo sobre comportamento, segurança e políticas. Grande parte da redação das Especificações do Modelo é, na verdade, tradução: pegar no trabalho existente e torná-lo mais simples, mais consistente, mais organizado e mais acessível, sem perder a intenção subjacente.

Os nossos modelos em produção ainda não refletem plenamente as Especificações do Modelo por várias razões.

• O treino do modelo pode não acompanhar as atualizações das Especificações do Modelo. Ela descreve um comportamento para o qual estamos a trabalhar, pelo que pode estar à frente do que o nosso modelo mais recente foi treinado para fazer.
• O treino pode, inadvertidamente, ensinar um comportamento inconsistente com as Especificações do Modelo. Fazemos um grande esforço para evitar isto e, quando acontece, tratamo-lo como um bug grave — trabalhando para ajustar o comportamento ou as Especificações do Modelo, para os voltar a alinhar.
• O treino nunca consegue cobrir totalmente o espaço de todos os comportamentos possíveis. A utilização real contém uma cauda longa de contextos e casos-limite que só surgem à escala, e nenhum processo de treino consegue cobrir tudo.
• A generalização pode não corresponder ao pretendido. Durante o treino, um modelo pode produzir os resultados «certos» por razões diferentes das pretendidas, o que pode dar origem a comportamentos imprevistos em situações novas, distintas das observadas durante o treino. Técnicas como o alinhamento deliberativo⁠ ajudam, mas não constituem uma solução completa.

De forma mais ampla, o facto de as Especificações do Modelo descrever uma vasta gama de comportamentos desejados não significa que exista um único método para os ensinar a todos. Diferentes aspetos do comportamento — seguimento de instruções, limites de segurança, personalidade, expressão calibrada da incerteza, entre outros — exigem frequentemente técnicas diferentes e têm modos de falha diferentes. As Especificações do Modelo ajuda a tornar o comportamento pretendido mais fácil de compreender e criticar, mas implementá-la bem continua a ser tanto uma arte como uma área de investigação ativa.

A par deste artigo, lançamos Evals da Especificação do Modelo⁠(abre numa nova janela): um conjunto de evals baseado em cenários que procura abranger o maior número possível de afirmações da Especificação do Modelo com um número reduzido de exemplos representativos. Isto ajuda-nos a identificar os aspetos em que o comportamento do modelo e a Especificação do Modelo podem estar desalinhados e a verificar se os modelos interpretam a Especificação do Modelo como pretendíamos. Estas evals são apenas uma componente de uma estratégia de evals mais ampla, que inclui também avaliações mais direcionadas em várias dimensões do comportamento, incluindo áreas específicas de segurança, veracidade e bajulação, personalidade e estilo, bem como capacidades.

Na prática, a maioria das atualizações das Especificações é orientada por um conjunto recorrente de contributos:

• Questões públicas e feedback. Confusões, casos-limite ou modos de falha — quer na linguagem das Especificações do Modelo, quer no comportamento dos nossos modelos.
• Questões internas. Padrões que observamos durante o desenvolvimento e os testes, incluindo ambiguidades em que diferentes interpretações razoáveis levam a comportamentos diferentes.
• Atualizações de políticas de comportamento e de segurança. Quando restrições ou compromissos de nível superior mudam, as Especificações têm de refletir claramente essa nova estrutura.
• Novas capacidades e produtos. À medida que os modelos se tornam capazes de novos comportamentos e lançamos novos produtos, queremos que a Especificação do Modelo acompanhe essa evolução em termos de conteúdo e abrangência — por exemplo, com a inclusão de regras para interações multimodais⁠(abre numa nova janela), agentes autónomos⁠(abre numa nova janela) e utilizadores com menos de 18 anos⁠(abre numa nova janela).

Alguns princípios de conceção orientam a forma como escrevemos e revemos as Especificações do Modelo.

• Clareza e precisão. «Ser honesto» é um bom princípio, mas não constitui um procedimento de decisão completo. A Especificação do Modelo deve clarificar as divergências, e não ocultá-las sob uma linguagem aparentemente consensual. Sempre que for viável, devemos assinalar explicitamente potenciais conflitos entre regras e fornecer orientações ou exemplos sobre a forma de os resolver. Por exemplo, Não mentir⁠(abre numa nova janela) assinala um potencial conflito com Ser simpático⁠(abre numa nova janela) e explica que o assistente deve respeitar as normas de cortesia sem, no entanto, recorrer a mentiras piedosas que possam constituir bajulação⁠(abre numa nova janela) e contrariar os interesses do utilizador.
• Regras substantivas. Um leitor deve conseguir pegar num prompt realista e produzir uma resposta que outro leitor reconheça como claramente dentro ou fora dos limites (mesmo que existam decisões de juízo nos casos-limite).
• Exemplos que maximizam a relação sinal/ruído. Bons exemplos são muitas vezes centrais para desenvolver uma atualização das Especificações de alta qualidade. Os exemplos devem ajudar a ir ao cerne das dificuldades de especificar o comportamento do modelo, trazendo conflitos difíceis à tona e adotando uma posição clara sobre como os resolver. Em segundo lugar, devem esforçar-se por ser exemplares do tom e estilo desejados, o que pode ser difícil de transmitir por escrito.
• Robustez. Tentamos evitar exemplos com ambiguidade ou complexidade supérfluas, para que o conflito central e a resolução pretendida fiquem bem definidos.
• Consistência e organização clara. Procuramos que as regras das Especificações do Modelo sejam totalmente consistentes entre si e com o comportamento pretendido do nosso modelo, e que a organização geral do documento seja clara e acessível.

As Especificações do Modelo não são a afirmação de que conseguimos pôr por escrito tudo o que importa, nem de que os modelos vão sempre acertar no alvo. É a afirmação de que o comportamento pretendido é suficientemente importante para ser claro, acionável e revisível.

Três critérios de sucesso orientam a forma como a fazemos evoluir.

• Legibilidade. Pessoas dentro e fora da OpenAI conseguem formar expetativas precisas sobre o comportamento e apontar para o texto quando o comportamento as surpreende.
• Aplicabilidade. As Especificações do Modelo podem ser usadas para conceber avaliações, diagnosticar incidentes e tomar decisões de produto consistentes — não apenas para expressar valores.
• Revisibilidade. As Especificações do Modelo podem evoluir à medida que aprendemos, sem se tornar um alvo móvel instável.

À medida que os modelos e os produtos evoluem, esperamos que as Especificações do Modelo se expandam e clarifiquem ao mesmo ritmo que surgem novas capacidades e novos contextos de implementação. O objetivo é manter a especificação comportamental coerente, testável e alinhada com a nossa missão de garantir que a AGI beneficie toda a humanidade.