Como a Third Moment Research executa 10 000 agentes por 36+ horas

Cada empresa tem os seus próprios fluxos de trabalho, ferramentas, casos-limite e critérios de sucesso. ⁠(abre numa nova janela)A Third Moment Research⁠(abre numa nova janela) acredita que os melhores agentes devem destacar-se nesse trabalho específico e melhorar as suas capacidades à medida que são utilizados.

Com base nessa ideia, a empresa está a desenvolver um sistema de IA que se aperfeiçoa a si próprio, recorrendo aos modelos mais recentes da OpenAI para compreender o comportamento dos agentes, identificar fragilidades recorrentes e criar automaticamente milhares de cenários sintéticos em torno desses problemas. A equipa usa esses cenários para melhorar os agentes, repetindo o processo à medida que surgem novos problemas.

O Codex, o GPT‑6 Astra, o GPT‑6 Sol e o GPT‑6.1 Sol apoiam o trabalho de investigação e computação do sistema, permitindo à Third Moment executar 10 000 agentes em simultâneo em investigações que duram entre 36 e 48 horas. A empresa também usa o Daybreak para testar a segurança dos ambientes em que os agentes trabalham.

Uma das primeiras aplicações da Third Moment é na área das finanças quantitativas, dada a clareza do critério de sucesso. Esta área oferece um contexto concreto para estudar como os agentes trabalham e onde encontram dificuldades. A equipa usa o Codex para detetar e resolver problemas no ambiente de investigação.

Num dos casos, usou o Codex com o GPT‑5.6, o modelo GPT mais recente na altura, para analisar milhares de trajetórias de simulação registadas (as ações dos agentes e as respostas do ambiente), juntamente com os carimbos de data/hora e a base de código.

O Codex detetou um estrangulamento: testar retrospetivamente uma estratégia de negociação com um ano de dados de ações dos EUA ao nível das ordens demorava várias horas. Enquanto esperavam, os agentes verificavam repetidamente se o teste já tinha terminado, desperdiçando tokens e enchendo o seu contexto com verificações de estado.

Após analisar o perfil de desempenho do teste retrospetivo, os dados de entrada e a forma como era utilizado, o Codex identificou uma otimização da cache e uma técnica de compactação em memória. Experimentou soluções e implementou a correção em produção, reduzindo a duração do teste retrospetivo de cerca de 3 horas para cerca de 3 a 5 minutos. Isto reduziu o consumo de tokens e a poluição do contexto, deixando mais tokens disponíveis para os agentes realizarem novas experiências.

A Third Moment fornece a cada agente as ferramentas, a informação e o ambiente de que precisa para um trabalho específico. Para a investigação quantitativa, a equipa executa o harness predefinido do Codex num ambiente em contentores Docker. Os agentes recebem um terabyte de dados, documentação e um repositório de investigação com módulos de engenharia de características, treino de modelos com suporte de GPU, estratégias de negociação e simulação.

O GPT‑6 Astra, o GPT‑6 Sol e o GPT‑6.1 Sol asseguram o raciocínio, enquanto o harness do Codex dá aos agentes ferramentas para agir, criar planos, definir objetivos, gerar subagentes e compactar o contexto à medida que o trabalho avança.

Para lidar com agentes que param antes de concluir uma tarefa, a Third Moment trata o Codex como um subagente dentro de um harness externo, baseado no GPT‑6 Sol ou no GPT‑6.1 Sol. Quando uma tarefa fica por concluir, o harness externo examina a trajetória e decide se deve tentar novamente, terminar o trabalho ou encaminhá-lo para revisão humana.

Nesse ambiente de investigação, os agentes trabalham para melhorar um sistema de negociação de referência desenvolvido pelos engenheiros da Third Moment. Testam estratégias de negociação com dados históricos, avaliam se uma melhoria é significativa ou apenas ruído e usam cada resultado para escolher a experiência seguinte. Segundo Adam, o trabalho dos agentes tem melhorado o sistema de negociação de referência.

Segundo Adam, antes do GPT‑5.5, os modelos só conseguiam executar experiências definidas por um utilizador. Com o GPT‑5.5 e o GPT‑5.6, os modelos que trabalhavam com o harness do Codex já conseguiam usar os resultados para conceber experiências subsequentes. Agora, com o GPT‑6 Astra, o GPT‑6 Sol e o GPT‑6.1 Sol, os agentes podem investigar as causas de fundo através de centenas de experiências executadas em paralelo com subagentes.

Essa evolução tem ajudado os agentes a explorar linhas de investigação que a equipa não tinha previsto. Numa sessão, o GPT‑6.1 Sol identificou o impacto de transações não visíveis numa bolsa onde estas representavam uma parcela inesperadamente elevada do volume de negociação. «Foi um resultado pouco óbvio que a nossa equipa de investigação não tinha considerado inicialmente», afirma Adam.

A Third Moment avalia modelos em otimização, sistemas de aprendizagem automática e investigação quantitativa. Testa as novas versões de modelos de fronteira com os níveis de raciocínio mais elevados, avaliando a sua capacidade de navegar em repositórios, escrever código eficiente e manter uma investigação em curso. Os testes atuais também incluem o GPT‑6 Luna.

Um dos testes de referência pede aos agentes que reduzam a latência de atualização de um serviço de resultados em direto, preservando os dados que apresenta. A equipa mede o ganho de velocidade dividindo o tempo médio de execução de uma solução criada por especialistas pelo da solução do modelo, no mesmo hardware e desde que os resultados estejam corretos. Segundo Adam, o GPT‑6 Astra proporcionou o maior ganho de velocidade.

Para tarefas específicas, incluindo verificações de vulnerabilidades de segurança concretas no sistema de simulação, a equipa usa modelos mais eficientes, como o GPT‑5.6 Terra. Para pesquisa aprofundada, Adam acredita que um raciocínio mais robusto pode justificar um custo superior: «Na área das finanças quantitativas, encontrar um sinal interessante tem um valor extremamente elevado.»

Com 10 000 agentes a funcionar de forma autónoma, a Third Moment precisa de uma forma de testar a segurança dos seus ambientes de investigação em grande escala. A equipa usa a plataforma de cibersegurança Daybreak para automatizar esses testes antes de iniciar as simulações.

Os testes verificam se um agente conseguiria sair do seu ambiente de investigação e aceder ao resto da rede. «Com o Daybreak, conseguimos que os próprios agentes realizem testes de intrusão na simulação e testem a sua infraestrutura e segurança», afirma Adam.

A ambição da Third Moment estende-se ao trabalho especializado que as empresas realizam todos os dias. Para um retalhista, isso pode significar tomar melhores decisões sobre a cadeia de abastecimento quando há pouco stock ou um fornecedor se atrasa. Para uma equipa de engenharia, pode significar encontrar estrangulamentos de desempenho numa base de código de grande dimensão. Para uma empresa que lida com muita documentação, pode significar identificar situações em que os compromissos assumidos num documento não correspondem aos resultados registados noutro.

Aproveitando as capacidades de raciocínio do GPT‑6 Astra, do GPT‑6 Sol e do GPT‑6.1 Sol, a Third Moment planeia passar de investigações individuais para centenas de milhares de subagentes a colaborar. O seu plano prevê biliões de tokens a sustentar sequências de dezenas de experiências interdependentes, com o objetivo de usar essa investigação para melhorar os agentes de forma autónoma à medida que surgem novos desafios.

Para Adam, isto daria às pessoas mais capacidade de moldar a forma como os agentes aprendem e trabalham: «As pessoas podem ter um papel com muito maior impacto, pensando em como realizar a investigação e otimizar o próprio processo, em vez de serem elas a fazer a investigação.»