Guia do programador para o GPT‑5.6

A família de modelos GPT‑5.6 torna o desempenho de agentes ao nível da fronteira muito mais acessível, ao mesmo tempo que expande os limites do possível.

Neste guia, mostramos como as startups utilizam uma seleção de modelos mais inteligente e novos controlos da API que ajudam a manter a continuidade do raciocínio, a orquestrar vários agentes e a chamar ferramentas de forma programática, para criarem agentes mais rápidos e capazes por uma fração do custo.

Desde o GPT‑5, cada geração de modelos tem procurado executar tarefas de maior duração com menos tokens. O GPT‑5.6 mantém essa trajetória: melhor desempenho dos agentes e custos mais baixos, com alterações mínimas ao harness subjacente.

A melhoria global da eficiência de custos é reforçada por uma maior precisão com níveis de raciocínio mais baixos. Por exemplo, no Agents’ Last Exam, o GPT‑5.6 Sol com raciocínio «baixo» superou o GPT‑5.5 com raciocínio «elevado», mantendo o mesmo harness. Observámos resultados semelhantes em testes de produção, nos quais as startups relatam reduções significativas de custos em vários fluxos de trabalho ao diminuírem o nível de raciocínio face às predefinições anteriores.

Historicamente, adotar um modelo principal com o nível máximo de raciocínio disponível tem sido a melhor opção para casos de utilização de maior duração. Isto deve-se, em grande parte, ao facto de estes modelos serem consideravelmente mais capazes do que os modelos otimizados para custos ao lidar com contextos mais longos e chamadas de ferramentas. Isso mudou com a família 5.6: com mais computação durante a inferência, Luna e Terra conseguem frequentemente um desempenho semelhante ao GPT‑5.4 e ao GPT‑5.5, a um custo muito inferior.

Veja-se o caso das tarefas do BrowseComp, um benchmark baseado em pesquisa que testa a capacidade de um modelo para encontrar factos pouco conhecidos. Há três meses, o GPT‑5.5 (Muito elevado) obteve 84,36% neste benchmark, com um custo total de 33,27 $. No lançamento, o GPT‑5.6 Luna (Muito elevado) oferece um desempenho praticamente idêntico, com 84,04% e um custo de 1,33 $. Entretanto, reduzimos ainda mais os preços. Saiba mais sobre as nossas mais recentes reduções de preços.

Os modelos mais pequenos da família 5.6 são uma excelente opção para cargas de trabalho de grande volume, interações sensíveis à latência e etapas repetidas em fluxos de trabalho com agentes. Por exemplo, se gere uma startup de tecnologia jurídica que analisa memorandos manuscritos antes da análise por agentes, já pode utilizar o Terra ou o Luna para a extração, em vez de recorrer a um modelo de fronteira em todo o processo, e obter poupanças significativas.

Além de melhorarmos o desempenho imediato do GPT‑5.6, também introduzimos novos elementos fundamentais na API Responses para possibilitar ganhos adicionais. Treinámos o GPT‑5.6 de ponta a ponta com três intervenções arquitetónicas complementares que permitem aos agentes operar com maior eficiência:

1. Reutilizar trabalho já realizado: ao permitir que o raciocínio seja mantido⁠(abre numa nova janela) entre interações com o modelo e ao utilizar compactação nativa⁠(abre numa nova janela) para comprimir conversas prolongadas, o modelo consegue manter a coerência do trabalho em tarefas mais longas, sem se confundir nem ter de reconstruir o contexto anterior.
2. Decompor em paralelo quando adequado: a orquestração nativa de vários agentes⁠(abre numa nova janela) permite coordenar vários agentes em linhas de trabalho paralelas para concluir tarefas complexas mais depressa.
3. Transferir o trabalho determinístico para código: utilizar a chamada programática de ferramentas⁠(abre numa nova janela) para filtrar, agregar e orquestrar os resultados das ferramentas fora da janela de contexto do modelo, reservando os tokens do modelo para decisões e reduzindo custos, latência e degradação do contexto.

Quando utilizadas em conjunto, estas funcionalidades podem fazer uma diferença enorme. Por exemplo, no ARC-AGI-3, o GPT‑5.6 Sol obteve 13,3% com o harness padrão. Contudo, depois de ativar a retenção do raciocínio e a compactação, a pontuação subiu para 38,3%, utilizando cerca de seis vezes menos tokens de saída. Sem alterações ao modelo, mas com quase o triplo do desempenho. Pode saber mais na nossa investigação sobre o harness do ARC-AGI-3.

Os fluxos de trabalho com agentes envolvem frequentemente dois tipos de trabalho:

1. Tarefas que exigem discernimento
2. Trabalho que consiste sobretudo em mover, filtrar e combinar dados

Quando um agente obtém 100 documentos regulamentares, os filtra por data e identifica transações relevantes, o modelo não deve ter de raciocinar sobre todos os resultados intermédios na sua janela de contexto. A chamada programática de ferramentas permite ao GPT‑5.6 escrever JavaScript para orquestrar ferramentas, executar chamadas independentes em paralelo e processar os respetivos resultados fora da janela de contexto. Assim, o modelo pode concentrar-se no que exige inteligência: aplicar discernimento.

Em tarefas complexas que podem ser paralelizadas, distribuir as ações e o raciocínio por várias linhas de trabalho de agentes permite concluir as tarefas mais depressa e obter maior capacidade. Nestas configurações, o agente principal é responsável por orquestrar os subagentes e delegar-lhes tarefas. Os subagentes prosseguem os seus objetivos em paralelo e, no final, devolvem os resultados ao agente principal para a síntese final. As equipas podem começar a tirar partido da funcionalidade multiagente nativa ao ativar a opção multiagente⁠(abre numa nova janela) na API Responses. É também assim que funciona a definição de capacidade Ultra no ChatGPT.

Embora o GPT‑5.6 saiba determinar bem o número adequado de subagentes e quando os deve criar, o comportamento multiagente é altamente configurável. Dar instruções ao modelo sobre quando deve invocar subagentes pode aumentar a probabilidade de só criar agentes quando o consumo adicional de tokens resultar num melhor desempenho.

Em toda a família de modelos, o TTL da cache de prompts foi alargado para um mínimo de 30 minutos e agora é possível definir pontos de interrupção da cache de forma determinística na janela de contexto do modelo. Isto permitiu às startups melhorar significativamente a taxa de acertos da cache.

Além de definir pontos de interrupção da cache, continuar a utilizar uma prompt_cache_key⁠(abre numa nova janela) adequada aumenta a probabilidade de os pedidos chegarem ao mesmo motor de inferência que processou anteriormente o mesmo prefixo, reduzindo assim a latência.

O que mais se destaca nestes exemplos é a profunda mudança na viabilidade económica do desenvolvimento de agentes.

Casos de utilização que antes exigiam um modelo de fronteira em todas as etapas podem agora alcançar resultados comparáveis ou melhores por uma fração do custo, recorrendo a modelos mais pequenos, ajustando o nível de raciocínio e fazendo escolhas arquitetónicas eficientes.

Estamos entusiasmados por ver o que vão criar!