Cum rulează Third Moment Research 10.000 de agenți 36+ ore

Fiecare companie are propriile fluxuri de lucru, instrumente, situații atipice și criterii de succes. ⁠(se deschide într-o fereastră nouă)Third Moment Research⁠(se deschide într-o fereastră nouă) consideră că cei mai buni agenți ar trebui să exceleze în acele activități specifice și să își îmbunătățească capacitățile pe măsură ce sunt folosiți.

Pornind de la această idee, compania construiește un sistem de IA care se îmbunătățește singur, folosind cele mai noi modele OpenAI pentru a înțelege comportamentul agenților, a identifica punctele slabe recurente și a crea automat mii de scenarii sintetice pornind de la aceste probleme. Echipa folosește aceste scenarii pentru a îmbunătăți agenții, repetând procesul pe măsură ce apar probleme noi.

Codex, GPT‑6 Astra, GPT‑6 Sol și GPT‑6.1 Sol susțin activitățile de cercetare și de calcul ale sistemului, permițând companiei Third Moment să ruleze simultan 10.000 de agenți în investigații care durează 36–48 de ore. Compania folosește și Daybreak pentru a testa securitatea mediilor în care lucrează agenții.

Una dintre primele aplicații ale Third Moment vizează domeniul finanțelor cantitative, unde succesul poate fi măsurat clar. Acest domeniu oferă un cadru concret pentru a studia modul în care lucrează agenții și dificultățile pe care le întâmpină. Echipa folosește Codex pentru a identifica și a rezolva problemele din mediul de cercetare.

Într-un caz, a folosit Codex cu GPT‑5.6, cel mai nou model GPT la acea vreme, pentru a analiza mii de secvențe înregistrate din simulări (acțiunile agenților și răspunsurile mediului), împreună cu marcajele temporale și baza de cod.

Codex a descoperit un blocaj: testarea retrospectivă a unei strategii de tranzacționare pe un an de date despre acțiuni americane, la nivel de ordine, dura câteva ore. În așteptare, agenții verificau în mod repetat dacă testarea se încheiase, risipind tokenuri și umplându-și contextul cu verificări de stare.

După ce a realizat profilul de performanță al testării retrospective și a analizat datele de intrare și modul de utilizare, Codex a identificat o optimizare a stocării în cache și o tehnică de stocare compactă în memorie. A experimentat cu diverse soluții și a implementat remedierea în producție, reducând durata testării retrospective de la aproximativ 3 ore la aproximativ 3–5 minute. Astfel, a redus consumul de tokenuri și încărcarea contextului cu informații inutile, lăsând agenților mai multe tokenuri disponibile pentru experimente ulterioare.

Third Moment îi oferă fiecărui agent instrumentele, informațiile și mediul de care are nevoie pentru o anumită sarcină. Pentru cercetarea cantitativă, echipa rulează cadrul de testare implicit Codex într-un mediu containerizat cu Docker. Agenții primesc un terabyte de date, documentație și un depozit de cercetare cu module pentru construirea caracteristicilor, antrenarea modelelor cu suport GPU, strategii de tranzacționare și simulare.

GPT‑6 Astra, GPT‑6 Sol și GPT‑6.1 Sol asigură raţionamentul, iar cadrul de testare Codex le oferă agenților instrumente pentru a acționa, a crea planuri, a stabili obiective, a lansa subagenți și a compacta contextul pe măsură ce activitatea continuă.

Pentru a gestiona cazurile în care agenții se opresc înainte de a termina o sarcină, Third Moment tratează Codex ca pe un subagent într-un cadru de testare exterior, bazat pe GPT‑6 Sol sau GPT‑6.1 Sol. Când o sarcină rămâne neterminată, cadrul de testare exterior examinează parcursul agentului și decide dacă să reîncerce, să încheie activitatea sau să solicite o evaluare umană.

În acel mediu de cercetare, agenții lucrează la îmbunătățirea unui sistem de tranzacționare de bază, construit de inginerii Third Moment. Ei testează strategii de tranzacționare pe date istorice, evaluează dacă o îmbunătățire este semnificativă sau doar zgomot statistic și folosesc fiecare rezultat pentru a alege următorul experiment. Potrivit lui Adam, munca lor a îmbunătățit sistemul de tranzacționare de bază.

Înainte de GPT‑5.5, spune Adam, modelele puteau desfășura doar experimente indicate de un utilizator. Odată cu GPT‑5.5 și GPT‑5.6, modelele care lucrau în cadrul de testare Codex puteau folosi rezultatele pentru a concepe experimente ulterioare. Acum, cu GPT‑6 Astra, GPT‑6 Sol și GPT‑6.1 Sol, agenții pot investiga cauzele de bază prin sute de experimente desfășurate în paralel cu ajutorul subagenților.

Această evoluție i-a ajutat pe agenți să exploreze direcții de cercetare pe care echipa nu le anticipase. Într-o sesiune, GPT‑6.1 Sol a identificat impactul tranzacțiilor neafișate public la o bursă unde acestea reprezentau o parte neașteptat de mare din volumul tranzacționat. „Acesta a fost un rezultat greu de intuit, pe care echipa noastră de cercetare nu îl luase inițial în calcul”, spune Adam.

Third Moment evaluează modelele în domeniile optimizării, sistemelor de învățare automată și cercetării cantitative. Testează noile modele de vârf la cele mai înalte setări de raţionament, evaluând capacitatea lor de a naviga prin depozite, de a scrie cod eficient și de a continua o investigație pe termen lung. Testele actuale includ și GPT‑6 Luna.

Un test de referință le cere agenților să reducă latența actualizărilor unui serviciu de afișare a scorurilor în timp real, păstrând aceleași rezultate. Echipa măsoară creșterea vitezei împărțind timpul mediu de execuție al unei soluții create de un expert la cel al soluției modelului, pe același hardware, cu condiția ca rezultatele să fie corecte. Potrivit lui Adam, GPT‑6 Astra a oferit cea mai mare creștere a vitezei.

Pentru sarcini punctuale, inclusiv verificări ale unor vulnerabilități specifice din sistemul de simulare, echipa folosește modele mai eficiente, precum GPT‑5.6 Terra. Pentru cercetarea aprofundată, Adam consideră că un raţionament mai puternic poate justifica un cost mai mare: „În domeniul finanțelor cantitative, descoperirea unui semnal interesant are o valoare extrem de mare.”

Cu 10.000 de agenți care rulează autonom, Third Moment are nevoie de o modalitate de a testa securitatea mediilor sale de cercetare la scară largă. Echipa folosește platforma de securitate cibernetică Daybreak pentru a automatiza aceste teste înainte de lansarea simulărilor.

Testele verifică dacă un agent ar putea ieși din mediul său de cercetare și accesa restul rețelei. „Folosind Daybreak, putem lăsa agenții înșiși să efectueze teste de penetrare asupra simulării și să îi testeze infrastructura și securitatea”, spune Adam.

Ambiția Third Moment se extinde la activitățile specializate pe care companiile le desfășoară zilnic. Pentru un comerciant cu amănuntul, asta ar putea însemna decizii mai bune privind lanțul de aprovizionare atunci când stocurile sunt insuficiente sau un furnizor întârzie. Pentru o echipă de ingineri, ar putea însemna identificarea blocajelor de performanță într-o bază de cod de mari dimensiuni. Pentru o companie care lucrează cu multe documente, ar putea însemna identificarea neconcordanțelor dintre angajamentele dintr-un document și rezultatele consemnate în altul.

Pornind de la capacitățile de raţionament ale GPT‑6 Astra, GPT‑6 Sol și GPT‑6.1 Sol, Third Moment intenționează să treacă de la investigații individuale la sute de mii de subagenți care colaborează. Planul său de dezvoltare prevede utilizarea a bilioane de tokenuri pentru a susține serii de zeci de experimente dependente unele de altele, cu scopul de a folosi această cercetare pentru a îmbunătăți autonom agenții pe măsură ce apar noi provocări.

Pentru Adam, acest lucru le-ar oferi oamenilor mai multă influență asupra modului în care agenții învață și lucrează: „Oamenii pot avea un rol cu un impact mult mai mare, în care să se gândească la modul de desfășurare a cercetării și să optimizeze procesul în sine, în loc să facă efectiv cercetarea.”