Како Third Moment Research води 10.000 агената током 36+ сати

Свака компанија има своје радне токове, алате, граничне случајеве и мерила успеха. ⁠(отвара се у новом прозору)Компанија Third Moment Research⁠(отвара се у новом прозору) верује да најбољи агенти треба да буду заиста добри управо у тим специфичним пословима и да своје способности унапређују што се више користе.

На тој идеји компанија гради систем вештачке интелигенције који се сам унапређује. Користи најновије моделе компаније OpenAI да би разумела понашање агената, препознала слабости које се понављају и аутоматски креирала хиљаде синтетичких сценарија заснованих на тим проблемима. Тим користи те сценарије за унапређивање агената и понавља процес како се појављују нови проблеми.

Codex, GPT‑6 Astra, GPT‑6 Sol и GPT‑6.1 Sol подржавају истраживачки и рачунарски рад система, омогућавајући компанији Third Moment да истовремено ангажује 10.000 агената на истраживањима која трају 36–48 сати. Компанија користи и Daybreak за тестирање безбедности окружења у којима агенти раде.

Једна од првих примена решења компаније Third Moment је у области квантитативних финансија, јер у њој постоји јасно мерило успеха. Ова област пружа конкретно окружење за проучавање начина на који агенти раде и потешкоћа на које наилазе. Тим користи Codex за проналажење и отклањање проблема у истраживачком окружењу.

У једном случају, тим је користио Codex са моделом GPT‑5.6, тада најновијим GPT моделом, да анализира хиљаде забележених токова симулације (радње агената и одговоре окружења), заједно с временским ознакама и базом кода.

Codex је открио уско грло: тестирање стратегије трговања на историјским подацима о појединачним налозима за америчке акције за целу годину трајало је неколико сати. Док су чекали, агенти су непрестано проверавали да ли је тестирање завршено, расипајући токене и попуњавајући свој контекст проверама статуса.

Након профилисања тестирања на историјским подацима и анализе улазних података и начина коришћења, Codex је пронашао могућност за оптимизацију кеширања и технику компактног смештања података у меморију. Испробао је различита решења и применио исправку у продукцији, скративши тестирање на историјским подацима са око 3 сата на приближно 3 до 5 минута. Тиме су смањени потрошња токена и затрпавање контекста, па је агентима остало више расположивих токена за даље експерименте.

Third Moment сваком агенту обезбеђује алате, информације и окружење који су му потребни за одређени посао. За квантитативна истраживања тим покреће подразумевано окружење Codex унутар окружења у Docker контејнеру. Агенти добијају терабајт података, документацију и истраживачки депо са модулима за конструисање обележја, обучавање модела уз подршку GPU-а, стратегије трговања и симулацију.

GPT‑6 Astra, GPT‑6 Sol и GPT‑6.1 Sol обезбеђују резоновање, док окружење Codex агентима даје алате за деловање, прављење планова, постављање циљева, покретање подагената и сажимање контекста током рада.

Да би решио проблем агената који стају пре него што заврше задатак, Third Moment користи Codex као подагента унутар спољног окружења које покреће GPT‑6 Sol или GPT‑6.1 Sol. Када задатак остане недовршен, спољно окружење испитује ток извршавања и одлучује да ли да покуша поново, обустави посао или га проследи човеку на проверу.

У том истраживачком окружењу агенти раде на унапређивању почетног система за трговање који су изградили инжењери компаније Third Moment. Они тестирају стратегије трговања на историјским подацима, процењују да ли је побољшање значајно или је само шум и на основу сваког резултата бирају следећи експеримент. Према Адамовим речима, њихов рад је унапредио почетни систем за трговање.

Пре модела GPT‑5.5, каже Адам, модели су могли да спроводе само експерименте које би задао корисник. Са појавом модела GPT‑5.5 и GPT‑5.6, модели који раде у окружењу Codex могли су да користе резултате за осмишљавање наредних експеримената. Сада, уз GPT‑6 Astra, GPT‑6 Sol и GPT‑6.1 Sol, агенти могу да истражују основне узроке кроз стотине експеримената који се паралелно извршавају уз подагенте.

Тај напредак је помогао агентима да истраже правце које тим није предвидео. У једној сесији, GPT‑6.1 Sol је утврдио утицај трансакција по скривеним налозима на берзи на којој су оне чиниле неочекивано велики удео у обиму трговања. „То је био налаз који није био очигледан и који наш истраживачки тим у почетку није узео у обзир“, каже Адам.

Third Moment оцењује моделе у областима оптимизације, система машинског учења и квантитативних истраживања. Тестира издања граничних модела на највишим подешавањима резоновања, процењујући њихову способност да се сналазе у депоима, пишу ефикасан код и истрају у истраживању. Тренутна тестирања обухватају и GPT‑6 Luna.

У једном референтном тесту од агената се тражи да смање кашњење при ажурирању сервиса за приказ резултата уживо, а да његови излазни подаци остану исти. Тим мери убрзање тако што просечно време извршавања решења које је израдио стручњак дели просечним временом извршавања решења модела на истом хардверу, уз услов да је решење исправно. Према Адамовим речима, GPT‑6 Astra је постигао највеће убрзање.

За циљане задатке, укључујући проверу конкретних безбедносних слабости у систему за симулацију, тим користи ефикасније моделе попут GPT‑5.6 Terra. Када је реч о дубоком истраживању, Адам сматра да снажније резоновање може да оправда вишу цену: „У области квантитативних финансија, проналажење неког занимљивог сигнала има изузетно велику вредност.“

Са 10.000 агената који раде аутономно, компанији Third Moment потребан је начин да у великом обиму тестира безбедност својих истраживачких окружења. Тим користи платформу за сајбер безбедност Daybreak како би аутоматизовао та тестирања пре покретања симулација.

Тестовима се проверава да ли би агент могао да изађе из свог истраживачког окружења и приступи широј мрежи. „Уз Daybreak можемо да препустимо самим агентима да спроводе пенетрационо тестирање симулације и тестирају њену инфраструктуру и безбедност“, каже Адам.

Амбиције компаније Third Moment обухватају и специјализоване послове које компаније обављају свакодневно. За малопродавца то може да значи боље одлуке о ланцу снабдевања када су залихе мале или добављач касни. За инжењерски тим то може да значи проналажење уских грла у перформансама у великој бази кода. За предузеће које ради са обимном документацијом то може да значи откривање случајева у којима обавезе из једног документа не одговарају исходима забележеним у другом.

Ослањајући се на способности резоновања модела GPT‑6 Astra, GPT‑6 Sol и GPT‑6.1 Sol, Third Moment планира да пређе са појединачних истраживања на стотине хиљада подагената који сарађују. План развоја предвиђа билионе токена за подршку низовима од више десетина међузависних експеримената, с циљем да се та истраживања користе за аутономно унапређивање агената како се појављују нови изазови.

За Адама би то људима пружило више простора да обликују начин на који агенти уче и раде: „Људи могу да имају много већи утицај ако размишљају о томе како спроводити истраживања и унапредити сам истраживачки процес, уместо да истраживања обављају сами.“