Cara Third Moment Research menjalankan 10.000 agen selama 36+ jam

Setiap perusahaan memiliki alur kerja, alat, kasus khusus, dan definisi keberhasilannya sendiri. ⁠(terbuka di jendela baru)Third Moment Research⁠(terbuka di jendela baru) meyakini bahwa agen terbaik harus benar-benar mahir dalam pekerjaan spesifik tersebut dan kemampuannya harus meningkat seiring penggunaannya.

Berangkat dari gagasan itu, perusahaan ini membangun sistem AI yang terus meningkatkan kemampuannya sendiri, menggunakan model terbaru OpenAI untuk memahami perilaku agen, mengidentifikasi kelemahan berulang, dan secara otomatis membuat ribuan skenario sintetis berdasarkan masalah tersebut. Tim menggunakan skenario itu untuk meningkatkan kemampuan agen dan mengulangi prosesnya saat muncul masalah baru.

Codex, GPT‑6 Astra, GPT‑6 Sol, dan GPT‑6.1 Sol mendukung pekerjaan riset dan komputasi sistem ini, sehingga Third Moment dapat menjalankan 10.000 agen sekaligus dalam penyelidikan selama 36–48 jam. Perusahaan ini juga menggunakan Daybreak untuk menguji keamanan lingkungan tempat agen bekerja.

Salah satu penerapan awal Third Moment adalah di bidang keuangan kuantitatif, karena ukuran keberhasilannya jelas. Bidang ini menyediakan konteks nyata untuk mempelajari cara agen bekerja dan kesulitan yang dihadapinya. Tim menggunakan Codex untuk menemukan dan mengatasi masalah di lingkungan riset.

Dalam satu kasus, tim menggunakan Codex dengan GPT‑5.6, model GPT terbaru saat itu, untuk menganalisis ribuan rekaman alur simulasi (tindakan agen dan respons lingkungan), beserta penanda waktu dan basis kode.

Codex menemukan hambatan kinerja: pengujian historis strategi perdagangan menggunakan data saham AS tingkat pesanan selama satu tahun memakan waktu beberapa jam. Sambil menunggu, agen berulang kali memeriksa apakah pengujian sudah selesai, sehingga memboroskan token dan memenuhi konteksnya dengan pemeriksaan status.

Setelah memprofilkan kinerja pengujian historis serta menganalisis input dan penggunaannya, Codex mengidentifikasi optimasi cache dan teknik pemadatan memori. Codex bereksperimen dengan berbagai solusi dan menerapkan perbaikannya ke lingkungan produksi, sehingga waktu pengujian historis berkurang dari sekitar 3 jam menjadi sekitar 3 hingga 5 menit. Hal ini mengurangi penggunaan token dan pencemaran konteks, sehingga lebih banyak alokasi token agen tersedia untuk eksperimen lanjutan.

Third Moment menyediakan alat, informasi, dan lingkungan yang dibutuhkan setiap agen untuk pekerjaan tertentu. Untuk riset kuantitatif, tim menjalankan harness bawaan Codex dalam lingkungan berbasis Docker. Agen menerima satu terabita data, dokumentasi, dan repositori riset dengan modul untuk rekayasa fitur, pelatihan model berbantuan GPU, strategi perdagangan, dan simulasi.

GPT‑6 Astra, GPT‑6 Sol, dan GPT‑6.1 Sol menyediakan kemampuan penalaran, sementara harness Codex membekali agen dengan alat untuk bertindak, membuat rencana, menetapkan tujuan, membuat subagen, dan memadatkan konteks seiring berjalannya pekerjaan.

Untuk menangani agen yang berhenti sebelum tugasnya selesai, Third Moment menempatkan Codex sebagai subagen dalam harness luar yang didukung GPT‑6 Sol atau GPT‑6.1 Sol. Harness luar memeriksa alur tindakan ketika tugas belum selesai dan menentukan apakah perlu mencoba lagi, menghentikan pekerjaan, atau meneruskannya untuk ditinjau manusia.

Di lingkungan riset tersebut, agen bekerja untuk meningkatkan sistem perdagangan dasar yang dibangun oleh para insinyur Third Moment. Agen menguji strategi perdagangan menggunakan data historis, menilai apakah suatu peningkatan bermakna atau sekadar variasi acak, lalu menggunakan setiap hasil untuk menentukan eksperimen berikutnya. Menurut Adam, pekerjaan agen telah meningkatkan kinerja sistem perdagangan dasar tersebut.

Sebelum GPT‑5.5, menurut Adam, model hanya bisa menjalankan eksperimen yang ditentukan pengguna. Dengan GPT‑5.5 dan GPT‑5.6, model yang bekerja menggunakan harness Codex dapat memanfaatkan hasil eksperimen untuk merancang eksperimen lanjutan. Kini, dengan GPT‑6 Astra, GPT‑6 Sol, dan GPT‑6.1 Sol, agen dapat menyelidiki akar masalah melalui ratusan eksperimen yang berjalan secara paralel dengan subagen.

Perkembangan ini membantu agen menjajaki arah riset yang belum terpikirkan oleh tim. Dalam satu sesi, GPT‑6.1 Sol mengidentifikasi dampak transaksi tersembunyi di sebuah bursa, yang ternyata menyumbang porsi volume transaksi yang jauh lebih besar dari perkiraan. “Ini hasil yang tidak mudah terlihat dan awalnya tidak dipertimbangkan oleh tim riset kami,” kata Adam.

Third Moment mengevaluasi model dalam bidang optimasi, sistem pembelajaran mesin, dan riset kuantitatif. Perusahaan ini menguji rilis model terdepan pada pengaturan penalaran tertinggi, menilai kemampuannya menelusuri repositori, menulis kode yang efisien, dan melanjutkan penyelidikan secara konsisten. Pengujian saat ini juga mencakup GPT‑6 Luna.

Salah satu tolok ukur meminta agen mengurangi latensi pembaruan layanan papan skor langsung tanpa mengubah outputnya. Tim mengukur percepatan dengan membagi rata-rata waktu eksekusi solusi buatan ahli dengan waktu eksekusi solusi model pada perangkat keras yang sama, dengan syarat hasilnya benar. Menurut Adam, GPT‑6 Astra menghasilkan percepatan terbesar.

Untuk pekerjaan yang terarah, termasuk pemeriksaan kelemahan keamanan tertentu dalam sistem simulasi, tim menggunakan model yang lebih efisien seperti GPT‑5.6 Terra. Untuk riset mendalam, Adam meyakini bahwa penalaran yang lebih kuat dapat sepadan dengan biaya yang lebih tinggi: “Di bidang keuangan kuantitatif, menemukan sinyal yang menarik memiliki nilai yang sangat tinggi.”

Dengan 10.000 agen yang berjalan secara otonom, Third Moment membutuhkan cara untuk menguji keamanan lingkungan risetnya dalam skala besar. Tim menggunakan platform keamanan siber Daybreak untuk mengotomatiskan pengujian tersebut sebelum simulasi dijalankan.

Pengujian ini memeriksa apakah agen bisa keluar dari batas lingkungan risetnya dan mengakses jaringan yang lebih luas. “Dengan Daybreak, kami bisa meminta agen sendiri melakukan pengujian penetrasi pada simulasi serta menguji infrastruktur dan keamanannya,” kata Adam.

Ambisi Third Moment juga mencakup pekerjaan khusus yang dilakukan perusahaan setiap hari. Bagi peritel, ini bisa berarti mengambil keputusan rantai pasok yang lebih baik saat stok menipis atau pasokan terlambat. Bagi tim rekayasa, ini bisa berarti menemukan hambatan kinerja dalam basis kode yang besar. Bagi bisnis yang banyak menangani dokumen, ini bisa berarti mengidentifikasi ketidaksesuaian antara komitmen dalam satu dokumen dan hasil yang tercatat di dokumen lain.

Dengan memanfaatkan kemampuan penalaran GPT‑6 Astra, GPT‑6 Sol, dan GPT‑6.1 Sol, Third Moment berencana memperluas skalanya dari penyelidikan individual menjadi ratusan ribu subagen yang saling berkolaborasi. Peta jalannya mencakup penggunaan triliunan token untuk mendukung rangkaian puluhan eksperimen yang saling bergantung, dengan tujuan memanfaatkan riset tersebut untuk meningkatkan kemampuan agen secara otonom saat muncul tantangan baru.

Bagi Adam, hal ini akan memberi manusia kapasitas lebih besar untuk membentuk cara agen belajar dan bekerja: “Manusia bisa berada dalam posisi yang jauh lebih berdampak, dengan memikirkan cara melakukan riset dan mengoptimalkan riset itu sendiri, alih-alih mengerjakan risetnya secara langsung.”