Kako Third Moment Research vodi 10.000 agenata dulje od 36 sati
Uz GPT‑6 Astra, GPT‑6.1 Sol, Codex i Daybreak za kibersigurnost, ovaj AI laboratorij razvija agente koji danima ostaju usredotočeni i napreduju upotrebom.
10.000
Agenata koji rade istodobno
36–48
Sati po autonomnoj istraživačkoj sesiji
97 %
Skraćenje vremena testiranja na povijesnim podacima uz Codex
1
Bilijun tokena OpenAI u jednom danu
Svaka tvrtka ima vlastite radne procese, alate, rubne slučajeve i mjerila uspjeha. (otvara se u novom prozoru)Tvrtka Third Moment Research(otvara se u novom prozoru) smatra da bi najbolji agenti trebali biti izvrsni upravo u tim specifičnim poslovima te da bi se njihove sposobnosti trebale poboljšavati što ih se više upotrebljava.
Na toj ideji tvrtka gradi AI sustav koji se sam poboljšava. Najnovije modele tvrtke OpenAI upotrebljava za razumijevanje ponašanja agenata, prepoznavanje slabosti koje se ponavljaju i automatsko stvaranje tisuća sintetičkih scenarija vezanih uz te probleme. Tim te scenarije upotrebljava za poboljšavanje agenata i ponavlja postupak kako se pojavljuju novi problemi.
Codex, GPT‑6 Astra, GPT‑6 Sol i GPT‑6.1 Sol podržavaju istraživački i računalni rad sustava, što tvrtki Third Moment omogućuje istodoban rad 10.000 agenata na istraživanjima koja traju od 36 do 48 sati. Tvrtka upotrebljava i Daybreak za testiranje sigurnosti okruženja u kojima agenti rade.
„U jednoj sesiji GPT-6.1 Sol može danima održavati smislen i povezan tijek računalnog istraživanja, a da pritom ne izgubi iz vida cilj.”
Jedna od prvih primjena sustava tvrtke Third Moment jest u području kvantitativnih financija, gdje postoji jasno mjerilo uspjeha. To područje pruža konkretno okruženje za proučavanje rada agenata i poteškoća na koje nailaze. Tim upotrebljava Codex za pronalaženje i rješavanje problema u istraživačkom okruženju.
U jednom je slučaju upotrijebio Codex s modelom GPT‑5.6, tada najnovijim modelom GPT, za analizu tisuća zabilježenih tijekova simulacija (radnji agenata i odgovora okruženja), zajedno s vremenskim oznakama i bazom koda.
Codex je otkrio usko grlo: testiranje strategije trgovanja na povijesnim podacima o američkim dionicama na razini naloga za razdoblje od godinu dana trajalo je nekoliko sati. Dok su čekali, agenti su neprestano provjeravali je li testiranje dovršeno, nepotrebno trošeći tokene i puneći kontekst provjerama statusa.
Nakon profiliranja testiranja na povijesnim podacima te analize njegovih ulaznih podataka i načina upotrebe, Codex je prepoznao mogućnost optimizacije predmemorije i primjene tehnike sažetijeg rasporeda podataka u memoriji. Isprobao je rješenja i uveo ispravak u produkciju, skrativši testiranje s približno tri sata na približno tri do pet minuta. Time su smanjeni potrošnja tokena i zatrpavanje konteksta nepotrebnim podacima, pa je agentima ostalo više tokena za daljnje eksperimente.
Third Moment svakom agentu daje alate, informacije i okruženje potrebne za određeni posao. Za kvantitativna istraživanja tim pokreće zadani testni sklop Codex u okruženju temeljenom na Docker kontejnerima. Agenti dobivaju terabajt podataka, dokumentaciju i istraživački repozitorij s modulima za oblikovanje značajki, treniranje modela uz podršku GPU-a, strategije trgovanja i simulaciju.
GPT‑6 Astra, GPT‑6 Sol i GPT‑6.1 Sol omogućuju rasuđivanje, dok testni sklop Codex agentima daje alate za djelovanje, izradu planova, postavljanje ciljeva, pokretanje podagenata i sažimanje konteksta tijekom rada.
Kako bi riješio problem agenata koji se zaustavljaju prije dovršetka zadatka, Third Moment upotrebljava Codex kao podagenta unutar vanjskog testnog sklopa koji pokreće GPT‑6 Sol ili GPT‑6.1 Sol. Kad zadatak ostane nedovršen, vanjski testni sklop pregledava tijek rada i odlučuje treba li pokušati ponovno, prekinuti posao ili ga proslijediti čovjeku na pregled.
„Testni sklop Codex iznimno je svestran i omogućuje primjenu u brojnim različitim područjima.”
U tom istraživačkom okruženju agenti rade na poboljšanju početnog sustava trgovanja koji su izradili inženjeri tvrtke Third Moment. Testiraju strategije trgovanja na povijesnim podacima, procjenjuju je li poboljšanje značajno ili tek posljedica šuma te na temelju svakog rezultata odabiru sljedeći eksperiment. Prema Adamu, njihov je rad poboljšao početni sustav trgovanja.
Prije modela GPT‑5.5, kaže Adam, modeli su mogli provoditi samo eksperimente koje bi zadao korisnik. S modelima GPT‑5.5 i GPT‑5.6, koji su radili s testnim sklopom Codex, postalo je moguće upotrebljavati rezultate za osmišljavanje daljnjih eksperimenata. Sada uz GPT‑6 Astra, GPT‑6 Sol i GPT‑6.1 Sol agenti mogu istraživati temeljne uzroke kroz stotine eksperimenata koji se provode paralelno uz pomoć podagenata.
Taj je napredak pomogao agentima da istražuju smjerove koje tim nije predvidio. U jednoj je sesiji GPT‑6.1 Sol utvrdio utjecaj transakcija koje nisu javno prikazane na burzi na kojoj su činile neočekivano velik udio u ukupnom obujmu trgovanja. „To je bio neočit rezultat koji naš istraživački tim u početku nije uzeo u obzir”, kaže Adam.
Third Moment procjenjuje modele u području optimizacije, sustava strojnog učenja i kvantitativnih istraživanja. Testira izdanja graničnih modela s najvišim postavkama rasuđivanja, procjenjujući njihovu sposobnost snalaženja u repozitorijima, pisanja učinkovitog koda i ustrajnog provođenja istraživanja. Trenutačna testiranja uključuju i GPT‑6 Luna.
„GPT-6.1 Sol trenutačno je model koji najviše upotrebljavamo jer učinkovito troši tokene. Dovršava zadatke uz najmanju potrošnju tokena, a pritom postiže rezultate slične onima modela GPT-6 Astra.”
U jednom se referentnom testu od agenata traži da smanje kašnjenje ažuriranja servisa za prikaz rezultata uživo, bez promjene njegovih izlaznih podataka. Tim mjeri ubrzanje tako da prosječno vrijeme izvođenja rješenja koje je izradio stručnjak podijeli s vremenom izvođenja rješenja modela na istom hardveru, uz uvjet da su rezultati točni. Prema Adamu, GPT‑6 Astra donio je najveće ubrzanje.
Za ciljane zadatke, uključujući provjere određenih sigurnosnih slabosti u simulacijskom sustavu, tim upotrebljava učinkovitije modele poput modela GPT‑5.6 Terra. Kad je riječ o dubinskom istraživanju, Adam smatra da bolje rasuđivanje može opravdati veći trošak: „U području kvantitativnih financija pronalazak zanimljivog signala ima iznimno veliku vrijednost.”
Uz 10.000 agenata koji rade autonomno, Third Moment treba način za testiranje sigurnosti svojih istraživačkih okruženja u velikom opsegu. Tim upotrebljava platformu za kibersigurnost Daybreak kako bi automatizirao ta testiranja prije pokretanja simulacija.
Testovima se provjerava može li agent izaći iz granica svojeg istraživačkog okruženja i pristupiti široj mreži. „Uz Daybreak možemo prepustiti samim agentima da provode penetracijsko testiranje simulacije te testiraju njezinu infrastrukturu i sigurnost”, kaže Adam.
„Bez platforme Daybreak ne bismo mogli autonomno provoditi ovakva testiranja u velikom opsegu.”
Ambicije tvrtke Third Moment obuhvaćaju i specijalizirane poslove koje tvrtke svakodnevno obavljaju. Za maloprodajnu tvrtku to bi moglo značiti donošenje boljih odluka o opskrbnom lancu kad nema dovoljno zaliha ili dobavljač kasni. Za inženjerski tim to bi moglo značiti pronalaženje uskih grla koja usporavaju rad velike baze koda. Za tvrtku koja radi s mnogo dokumenata to bi moglo značiti prepoznavanje nepodudarnosti između obveza iz jednog dokumenta i ishoda zabilježenih u drugom.
Oslanjajući se na sposobnosti rasuđivanja modela GPT‑6 Astra, GPT‑6 Sol i GPT‑6.1 Sol, Third Moment planira prijeći s pojedinačnih istraživanja na stotine tisuća podagenata koji surađuju. Plan razvoja predviđa bilijune tokena za nizove desetaka međusobno ovisnih eksperimenata, s ciljem da se rezultati tih istraživanja upotrijebe za autonomno poboljšavanje agenata kako se pojavljuju novi izazovi.
Za Adama bi to značilo da ljudi mogu snažnije utjecati na način na koji agenti uče i rade: „Ljudi mogu imati mnogo veći utjecaj ako razmišljaju o tome kako provoditi istraživanje i optimizirati sam istraživački proces, umjesto da sami provode istraživanje.”
