Slik kjører Third Moment Research 10 000 agenter i over 36 timer

Alle selskaper har sine egne arbeidsflyter, verktøy, særtilfeller og kriterier for å lykkes. ⁠(åpnes i et nytt vindu)Third Moment Research⁠(åpnes i et nytt vindu) mener de beste agentene bør være svært gode på nettopp dette arbeidet og bli dyktigere jo mer de brukes.

Med denne ideen som utgangspunkt bygger selskapet et selvforbedrende KI-system. Det bruker OpenAIs nyeste modeller til å forstå agentatferd, identifisere tilbakevendende svakheter og automatisk lage tusenvis av syntetiske scenarioer basert på disse problemene. Teamet bruker scenarioene til å forbedre agentene og gjentar prosessen etter hvert som nye problemer dukker opp.

Codex, GPT‑6 Astra, GPT‑6 Sol og GPT‑6.1 Sol støtter systemets forskning og beregningsarbeid. Det gjør at Third Moment kan kjøre 10 000 agenter samtidig på undersøkelser som varer i 36–48 timer. Selskapet bruker også Daybreak til å teste sikkerheten i miljøene der agentene arbeider.

Et av Third Moments tidlige bruksområder er kvantitativ finans, der det er enkelt å måle hvor godt man lykkes. Dette fagområdet gir en konkret ramme for å studere hvordan agenter arbeider, og hva de strever med. Teamet bruker Codex til å finne og løse problemer i forskningsmiljøet.

I ett tilfelle brukte teamet Codex med GPT‑5.6, den nyeste GPT‑modellen på det tidspunktet, til å analysere tusenvis av registrerte simuleringsforløp (agentenes handlinger og miljøets responser) sammen med tidsstempler og kodebasen.

Codex avdekket en flaskehals: Det tok flere timer å teste en handelsstrategi mot ett års historiske ordredata for amerikanske aksjer. Mens agentene ventet, sjekket de gjentatte ganger om testen var ferdig. Det sløste med tokener og fylte konteksten med statussjekker.

Etter å ha profilert den historiske testen og analysert inndataene og bruken identifiserte Codex en optimalisering av hurtigbufferen og en teknikk for å pakke data tettere i minnet. Codex eksperimenterte med løsninger og satte rettingen i produksjon. Det reduserte tiden for den historiske testen fra omtrent 3 timer til omtrent 3–5 minutter. Dette reduserte tokenbruken og mengden unødvendig innhold i konteksten, slik at mer av agentenes tokenbudsjett kunne brukes på videre eksperimenter.

Third Moment gir hver agent verktøyene, informasjonen og miljøet den trenger for en bestemt jobb. Til kvantitativ forskning kjører teamet standardrammeverket for Codex i et Docker-miljø. Agentene får én terabyte med data, dokumentasjon og et forskningslager med moduler for utvikling av egenskaper, GPU-støttet modelltrening, handelsstrategier og simulering.

GPT‑6 Astra, GPT‑6 Sol og GPT‑6.1 Sol står for resonneringen, mens Codex-rammeverket gir agentene verktøy til å handle, lage planer, sette mål, opprette underagenter og komprimere konteksten underveis i arbeidet.

For å håndtere agenter som stopper før en oppgave er fullført, bruker Third Moment Codex som en underagent i et overordnet rammeverk drevet av GPT‑6 Sol eller GPT‑6.1 Sol. Det overordnede rammeverket undersøker forløpet når en oppgave ikke er fullført, og avgjør om jobben skal forsøkes på nytt, avsluttes eller sendes videre til menneskelig vurdering.

I dette forskningsmiljøet arbeider agentene med å forbedre et grunnleggende handelssystem som Third Moments ingeniører har bygget. De tester handelsstrategier på historiske data, vurderer om en forbedring er reell eller skyldes støy, og bruker hvert resultat til å velge neste eksperiment. Ifølge Adam har arbeidet deres forbedret det opprinnelige handelssystemet.

Før GPT‑5.5 kunne modeller bare gjennomføre eksperimenter som en bruker hadde spesifisert, sier Adam. Med GPT‑5.5 og GPT‑5.6 kunne modeller som brukte Codex-rammeverket, benytte resultatene til å utforme oppfølgingseksperimenter. Nå kan agenter med GPT‑6 Astra, GPT‑6 Sol og GPT‑6.1 Sol undersøke underliggende årsaker gjennom hundrevis av eksperimenter som kjøres parallelt med underagenter.

Denne utviklingen har hjulpet agentene med å utforske forskningsretninger som teamet ikke hadde sett for seg. I én økt identifiserte GPT‑6.1 Sol effekten av handler med skjulte ordrer på en børs der slike handler utgjorde en uventet stor andel av volumet. «Dette var et uventet resultat som forskningsteamet vårt ikke hadde vurdert i utgangspunktet», sier Adam.

Third Moment evaluerer modeller innen optimalisering, maskinlæringssystemer og kvantitativ forskning. Selskapet tester banebrytende modeller med de høyeste innstillingene for resonnering og vurderer evnen deres til å navigere i lagre, skrive effektiv kode og holde en undersøkelse gående. Testingen omfatter nå også GPT‑6 Luna.

I én ytelsestest blir agentene bedt om å redusere oppdateringsforsinkelsen i en tjeneste for sanntidsresultater uten å endre resultatene den leverer. Teamet måler hastighetsøkningen ved å dele gjennomsnittlig kjøretid for en ekspertutviklet løsning på kjøretiden for modellens løsning på samme maskinvare, forutsatt at resultatene er korrekte. Ifølge Adam ga GPT‑6 Astra den største hastighetsøkningen.

Til avgrensede oppgaver, blant annet kontroller av bestemte sikkerhetssvakheter i simuleringssystemet, bruker teamet mer effektive modeller som GPT‑5.6 Terra. For dyp forskning mener Adam at bedre resonnering kan rettferdiggjøre høyere kostnader: «Innen kvantitativ finans er verdien av å finne et interessant signal svært høy.»

Med 10 000 agenter som kjører autonomt, trenger Third Moment en måte å teste sikkerheten i forskningsmiljøene sine på i stor skala. Teamet bruker cybersikkerhetsplattformen Daybreak til å automatisere testingen før simuleringene starter.

Testene undersøker om en agent kan bryte ut av forskningsmiljøet sitt og få tilgang til resten av nettverket. «Med Daybreak kan vi la agentene selv utføre penetrasjonstesting av simuleringen og teste infrastrukturen og sikkerheten i den», sier Adam.

Third Moments ambisjoner omfatter også det spesialiserte arbeidet selskaper gjør hver dag. For en detaljhandelsbedrift kan det bety å ta bedre beslutninger i forsyningskjeden når varebeholdningen er lav eller en leverandør er forsinket. For et utviklingsteam kan det bety å finne flaskehalser som svekker ytelsen i en stor kodebase. For en virksomhet med mye dokumentarbeid kan det bety å avdekke hvor forpliktelser i ett dokument ikke samsvarer med resultater registrert i et annet.

Med utgangspunkt i evnen til resonnering i GPT‑6 Astra, GPT‑6 Sol og GPT‑6.1 Sol planlegger Third Moment å utvide fra enkeltundersøkelser til hundretusenvis av samarbeidende underagenter. Planen er å bruke billioner av tokener til å støtte kjeder av flere titalls eksperimenter som er avhengige av hverandre. Målet er å bruke denne forskningen til å forbedre agentene autonomt etter hvert som nye utfordringer oppstår.

For Adam vil dette gi mennesker større mulighet til å forme hvordan agenter lærer og arbeider: «Mennesker kan få langt større gjennomslagskraft ved å tenke på hvordan forskningen bør utføres, og optimalisere selve forskningsprosessen, i stedet for å gjøre forskningen selv.»