Како Third Moment Research користи 10.000 агенти над 36 часа

Секоја компанија има свои работни процеси, алатки, специфични случаи и мерила за успех. ⁠(се отвора во нов прозорец)Third Moment Research⁠(се отвора во нов прозорец) верува дека најдобрите агенти треба да бидат навистина добри во таа конкретна работа и да ги подобруваат своите способности колку повеќе се користат.

Врз таа идеја, компанијата гради систем со ВИ што сам се подобрува. Ги користи најновите модели на OpenAI за да го разбере однесувањето на агентите, да ги открие слабостите што се повторуваат и автоматски да создаде илјадници синтетички сценарија засновани на тие проблеми. Тимот ги користи тие сценарија за да ги подобри агентите и го повторува процесот кога ќе се појават нови проблеми.

Codex, GPT‑6 Astra, GPT‑6 Sol и GPT‑6.1 Sol ја поддржуваат истражувачката и пресметковната работа на системот, овозможувајќи му на Third Moment истовремено да користи 10.000 агенти за истражувања што траат 36–48 часа. Компанијата го користи и Daybreak за да ја тестира безбедноста на средините во кои работат агентите.

Една од раните примени на технологијата на Third Moment е во областа на квантитативните финансии, каде што постои јасно мерило за успех. Оваа област нуди конкретни услови за проучување на начинот на кој работат агентите и на тешкотиите со кои се соочуваат. Тимот го користи Codex за да открива и решава проблеми во истражувачката средина.

Во еден случај, тимот го користеше Codex со GPT‑5.6, тогаш најновиот модел GPT, за да анализира илјадници записи за текот на симулациите — дејствата на агентите и реакциите на средината — заедно со временските ознаки и базата на код.

Codex откри тесно грло: тестирањето на стратегија за тргување врз едногодишни историски податоци за американски акции, на ниво на налози, траеше неколку часа. Додека чекаа, агентите постојано проверуваа дали тестирањето е завршено, трошејќи токени залудно и полнејќи го својот контекст со проверки на статусот.

Откако ги профилираше перформансите на тестирањето врз историски податоци и ги анализираше влезните податоци и начинот на употреба, Codex идентификуваше оптимизација на кеширањето и техника за покомпактно сместување на податоците во меморијата. Експериментираше со решенија и ја воведе исправката во продукциската средина, скратувајќи го тестирањето од приближно 3 часа на приближно 3 до 5 минути. Со тоа се намалија потрошувачката на токени и затрупувањето на контекстот со непотребни информации, па на агентите им останаа повеќе токени за понатамошни експерименти.

Third Moment му ги обезбедува на секој агент алатките, информациите и средината што му се потребни за конкретна работа. За квантитативно истражување, тимот ја извршува стандардната рамка на Codex во средина со Docker-контејнери. Агентите добиваат терабајт податоци, документација и истражувачки репозиториум со модули за инженерство на карактеристики, тренирање модели со поддршка од GPU, стратегии за тргување и симулација.

GPT‑6 Astra, GPT‑6 Sol и GPT‑6.1 Sol го обезбедуваат расудувањето, додека рамката на Codex им дава на агентите алатки за да дејствуваат, да создаваат планови, да поставуваат цели, да покренуваат подагенти и да го скратуваат контекстот како што напредува работата.

За да се справи со агентите што запираат пред да ја завршат задачата, Third Moment го користи Codex како подагент во надворешна рамка управувана од GPT‑6 Sol или GPT‑6.1 Sol. Кога некоја задача останува недовршена, надворешната рамка го испитува текот на извршувањето и одлучува дали да се обиде повторно, да ја прекине работата или да ја упати на човечка проверка.

Во таа истражувачка средина, агентите работат на подобрување на основниот систем за тргување изграден од инженерите на Third Moment. Тие тестираат стратегии за тргување врз историски податоци, проценуваат дали подобрувањето е значајно или само случајна варијација и го користат секој резултат за да го изберат следниот експеримент. Според Адам, нивната работа го подобрила основниот систем за тргување.

Адам вели дека пред GPT‑5.5, моделите можеле да изведуваат само експерименти зададени од корисник. Со GPT‑5.5 и GPT‑5.6, моделите што работеа со рамката на Codex можеа да ги користат резултатите за да осмислат последователни експерименти. Сега, со GPT‑6 Astra, GPT‑6 Sol и GPT‑6.1 Sol, агентите можат да ги истражуваат основните причини преку стотици експерименти што се извршуваат паралелно со подагенти.

Тој напредок им помогна на агентите да истражуваат насоки што тимот не ги предвидел. Во една сесија, GPT‑6.1 Sol го утврди влијанието на трансакциите без јавно прикажани налози на една берза, каде што тие сочинуваа неочекувано голем дел од обемот на тргување. „Ова беше резултат што не беше очигледен и што нашиот истражувачки тим првично не го земаше предвид“, вели Адам.

Third Moment ги оценува моделите во областите на оптимизацијата, системите за машинско учење и квантитативното истражување. Ги тестира изданијата на граничните модели со највисоките поставки за расудување, оценувајќи ја нивната способност да се снаоѓаат во репозиториуми, да пишуваат ефикасен код и да го одржуваат текот на истражувањето. Тековните тестирања го вклучуваат и GPT‑6 Luna.

Во еден референтен тест, од агентите се бара да го намалат доцнењето при ажурирање на услуга за приказ на резултати во живо, без да ги променат нејзините излезни резултати. Тимот го мери забрзувањето така што го дели просечното време на извршување на решение изработено од експерт со времето на решението на моделот на истиот хардвер, под услов резултатите да се точни. Според Адам, GPT‑6 Astra го постигна најголемото забрзување.

За тесно насочени задачи, вклучително и проверки за конкретни безбедносни слабости во симулацискиот систем, тимот користи поефикасни модели како GPT‑5.6 Terra. За длабоко истражување, Адам смета дека посилното расудување може да ја оправда повисоката цена: „Во областа на квантитативните финансии, пронаоѓањето интересен сигнал има исклучително голема вредност.“

Со 10.000 агенти што работат автономно, на Third Moment му е потребен начин да ја тестира безбедноста на своите истражувачки средини во голем обем. Тимот ја користи платформата за сајбербезбедност Daybreak за да го автоматизира тоа тестирање пред да започнат симулациите.

Тестовите проверуваат дали некој агент би можел да излезе од својата изолирана истражувачка средина и да пристапи до пошироката мрежа. „Со Daybreak можеме да им овозможиме на самите агенти да вршат пенетрациско тестирање на симулацијата и да ги тестираат нејзината инфраструктура и безбедност“, вели Адам.

Амбицијата на Third Moment ја опфаќа и специјализираната работа што компаниите ја извршуваат секојдневно. За трговец на мало, тоа би можело да значи носење подобри одлуки за синџирот на снабдување кога залихите се недоволни или добавувачот доцни. За инженерски тим, тоа би можело да значи откривање тесни грла во перформансите на голема база на код. За компанија што работи со обемна документација, тоа би можело да значи откривање каде преземените обврски во еден документ не се совпаѓаат со резултатите забележани во друг.

Потпирајќи се на способностите за расудување на GPT‑6 Astra, GPT‑6 Sol и GPT‑6.1 Sol, Third Moment планира да премине од поединечни истражувања кон стотици илјади подагенти што соработуваат. Развојниот план предвидува билиони токени за поддршка на низи од десетици меѓусебно зависни експерименти, со цел тие истражувања да се користат за автономно подобрување на агентите при појава на нови предизвици.

За Адам, ова би им дало на луѓето повеќе можности да го обликуваат начинот на кој агентите учат и работат: „Луѓето можат да имаат многу поголемо влијание ако размислуваат како да се спроведе истражувањето и како да го оптимизираат самиот процес, наместо самите да го спроведуваат.“