Third Moment Research가 에이전트 1만 개를 36시간 이상 실행하는 방법

기업마다 고유한 워크플로, 도구, 예외 상황이 있고 성공을 판단하는 기준도 다릅니다. ⁠(새 창에서 열기)Third Moment Research⁠(새 창에서 열기)는 최고의 에이전트라면 기업의 특수한 업무에 매우 능숙해야 하며, 사용할수록 역량이 향상되어야 한다고 믿습니다.

이러한 생각을 바탕으로 자체 개선형 AI 시스템을 구축하고 있습니다. OpenAI의 최신 모델로 에이전트의 행동을 파악하고, 반복되는 약점을 찾아내며, 해당 문제를 중심으로 수천 개의 합성 시나리오를 자동 생성합니다. 연구팀은 이 시나리오를 활용해 에이전트를 개선하고, 새로운 문제가 나타날 때마다 이 과정을 반복합니다.

Codex, GPT‑6 Astra, GPT‑6 Sol, GPT‑6.1 Sol은 시스템의 연구와 연산 작업을 지원합니다. 이를 통해 Third Moment는 36~48시간에 걸친 탐구에 에이전트 1만 개를 동시에 투입할 수 있습니다. 또한 Daybreak로 에이전트가 작업하는 환경의 보안을 테스트합니다.

Third Moment가 초기에 주목한 활용 분야 중 하나는 정량 금융입니다. 성공 여부를 명확히 측정할 수 있기 때문입니다. 이 분야는 에이전트가 어떻게 작업하고 어디에서 어려움을 겪는지 연구할 수 있는 구체적인 환경을 제공합니다. 연구팀은 Codex를 사용해 연구 환경의 문제를 찾아 해결합니다.

한 사례에서는 당시 최신 GPT 모델이었던 GPT‑5.6을 Codex와 함께 사용해, 기록된 수천 건의 시뮬레이션 궤적(에이전트의 행동과 환경의 반응)을 타임스탬프 및 코드베이스와 함께 분석했습니다.

Codex는 병목 구간을 발견했습니다. 1년 치 미국 주식 주문 단위 데이터로 거래 전략을 백테스트하는 데 몇 시간씩 걸리고 있었습니다. 에이전트는 기다리는 동안 완료 여부를 반복해서 조회하며 토큰을 낭비하고, 상태 확인 기록으로 컨텍스트를 채우고 있었습니다.

Codex는 백테스트 성능을 프로파일링하고 입력 데이터와 사용 방식을 분석한 뒤, 캐싱 최적화 방법과 메모리 패킹 기법을 찾아냈습니다. 해결책을 실험하고 수정 사항을 프로덕션 환경에 배포한 결과, 백테스트 시간이 약 3시간에서 약 3~5분으로 줄었습니다. 덕분에 토큰 사용량과 컨텍스트 오염이 줄었고, 에이전트는 주어진 토큰 예산을 추가 실험에 더 많이 쓸 수 있게 되었습니다.

Third Moment는 각 에이전트에 특정 업무를 수행하는 데 필요한 도구, 정보, 환경을 제공합니다. 정량 연구를 위해 연구팀은 Docker로 구성한 환경에서 기본 Codex 하네스를 실행합니다. 에이전트에는 1테라바이트의 데이터와 문서, 그리고 피처 엔지니어링, GPU 기반 모델 학습, 거래 전략, 시뮬레이션 모듈이 담긴 연구용 리포지터리가 제공됩니다.

GPT‑6 Astra, GPT‑6 Sol, GPT‑6.1 Sol이 추론을 담당하고, Codex 하네스는 에이전트가 작업을 수행하면서 행동하고, 계획을 세우고, 목표를 설정하고, 하위 에이전트를 생성하고, 컨텍스트를 압축할 수 있는 도구를 제공합니다.

에이전트가 작업을 완료하기 전에 멈추는 문제를 해결하기 위해, Third Moment는 GPT‑6 Sol 또는 GPT‑6.1 Sol로 구동되는 외부 하네스 안에서 Codex를 하위 에이전트로 사용합니다. 작업이 미완료 상태로 남으면 외부 하네스가 수행 궤적을 검토하고, 재시도할지, 작업을 종료할지, 사람의 검토를 요청할지 결정합니다.

이 연구 환경에서 에이전트는 Third Moment 엔지니어들이 구축한 기본 거래 시스템을 개선하는 작업을 합니다. 과거 데이터로 거래 전략을 테스트하고, 개선이 유의미한지 아니면 노이즈인지 평가한 뒤, 각 결과를 바탕으로 다음 실험을 선택합니다. 애덤에 따르면 이러한 작업을 통해 기본 거래 시스템이 개선되었습니다.

애덤은 GPT‑5.5 이전의 모델은 사용자가 지정한 실험만 수행할 수 있었다고 말합니다. GPT‑5.5와 GPT‑5.6부터는 Codex 하네스와 함께 작동하는 모델이 실험 결과를 바탕으로 후속 실험을 설계할 수 있게 되었습니다. 이제 GPT‑6 Astra, GPT‑6 Sol, GPT‑6.1 Sol을 통해 에이전트는 하위 에이전트와 수백 건의 실험을 병렬로 실행하며 근본 원인을 탐구할 수 있습니다.

이러한 발전 덕분에 에이전트는 연구팀이 예상하지 못한 연구 방향까지 탐색할 수 있게 되었습니다. 한 세션에서 GPT‑6.1 Sol은 비공개 거래가 거래량에서 예상외로 큰 비중을 차지하는 거래소를 분석해, 해당 거래가 미치는 영향을 파악했습니다. 애덤은 “쉽게 예상하기 어려운 결과였고, 저희 연구팀도 처음에는 고려하지 못했던 부분입니다”라고 말합니다.

Third Moment는 최적화, 머신러닝 시스템, 정량 연구 전반에 걸쳐 모델을 평가합니다. 새로 출시되는 프런티어 모델을 가장 높은 추론 설정으로 테스트하며, 리포지터리를 탐색하고 효율적인 코드를 작성하며 탐구를 지속하는 능력을 평가합니다. 현재 테스트 대상에는 GPT‑6 Luna도 포함됩니다.

한 벤치마크에서는 실시간 점수판 서비스의 출력 결과를 유지하면서 업데이트 지연 시간을 줄이도록 에이전트에 요청합니다. 연구팀은 결과의 정확성이 유지된다는 전제하에, 동일한 하드웨어에서 전문가가 만든 솔루션의 평균 실행 시간을 모델이 만든 솔루션의 평균 실행 시간으로 나누어 속도 향상 배율을 측정합니다. 애덤에 따르면 GPT‑6 Astra가 가장 큰 속도 향상을 달성했습니다.

시뮬레이션 시스템의 특정 보안 취약점을 점검하는 등 범위가 명확한 작업에는 GPT‑5.6 Terra처럼 효율성이 더 높은 모델을 사용합니다. 애덤은 심층 리서치에서는 더 강력한 추론 능력이 더 높은 비용을 감수할 만한 가치를 제공한다고 봅니다. “정량 금융 분야에서는 흥미로운 신호 하나를 찾아내는 것의 가치가 대단히 높습니다.”

에이전트 1만 개가 자율적으로 실행되는 만큼, Third Moment에는 연구 환경의 보안을 대규모로 테스트할 방법이 필요합니다. 연구팀은 Daybreak 사이버 보안 플랫폼을 사용해 시뮬레이션 시작 전 테스트를 자동화합니다.

이 테스트에서는 에이전트가 연구 환경을 벗어나 더 넓은 네트워크에 접근할 수 있는지 확인합니다. 애덤은 “Daybreak를 사용하면 에이전트가 직접 시뮬레이션에 대한 침투 테스트를 수행하고, 그 인프라와 보안을 점검하도록 할 수 있습니다”라고 말합니다.

Third Moment의 목표는 기업이 매일 수행하는 전문 업무로까지 확장됩니다. 소매업체라면 재고가 부족하거나 공급업체의 납품이 지연될 때 공급망과 관련해 더 나은 결정을 내리는 데 활용할 수 있습니다. 엔지니어링팀이라면 대규모 코드베이스에서 성능 병목 구간을 찾아내는 데 활용할 수 있습니다. 문서 작업이 많은 기업이라면 한 문서의 약속 사항이 다른 문서에 기록된 결과와 일치하지 않는 부분을 찾아내는 데 활용할 수 있습니다.

Third Moment는 GPT‑6 Astra, GPT‑6 Sol, GPT‑6.1 Sol의 추론 능력을 기반으로, 개별 탐구를 넘어 수십만 개의 하위 에이전트가 협업하는 방식으로 확장할 계획입니다. 로드맵에는 서로 의존하는 수십 건의 연속 실험을 수조 개의 토큰으로 지원하는 계획이 담겨 있습니다. 이 연구를 활용해 새로운 과제가 생길 때마다 에이전트를 자율적으로 개선하는 것이 목표입니다.

애덤은 이를 통해 사람들이 에이전트의 학습 방식과 작업 방식을 설계하는 데 더 큰 역량을 발휘할 수 있다고 봅니다. “사람은 훨씬 더 큰 영향력을 발휘하는 위치에 설 수 있습니다. 직접 연구를 수행하는 대신, 연구 방법을 고민하고 연구 자체를 최적화하는 데 집중할 수 있는 거죠.”