Как Third Moment Research използва 10 000 агента над 36 часа

Всяка компания има свои работни процеси, инструменти, нетипични казуси и критерии за успех. ⁠(отваря се в нов прозорец)Third Moment Research⁠(отваря се в нов прозорец) вярва, че най-добрите агенти трябва да се справят отлично с тази специфична работа и да усъвършенстват способностите си, колкото повече се използват.

Компанията изгражда самоусъвършенстваща се AI система, основана на тази идея. Тя използва най-новите модели на OpenAI, за да разбира поведението на агентите, да открива повтарящи се слабости и автоматично да създава хиляди синтетични сценарии, свързани с тези проблеми. Екипът използва тези сценарии, за да подобрява агентите, и повтаря процеса при появата на нови проблеми.

Codex, GPT‑6 Astra, GPT‑6 Sol и GPT‑6.1 Sol подпомагат изследователската и изчислителната работа на системата, като позволяват на Third Moment да използва едновременно 10 000 агента за проучвания с продължителност 36–48 часа. Компанията използва и Daybreak, за да тества сигурността на средите, в които работят агентите.

Едно от първите приложения на Third Moment е в областта на количествените финанси заради ясния критерий за успех. Тази област осигурява конкретна среда за изследване на начина, по който работят агентите, и на трудностите, които срещат. Екипът използва Codex, за да открива и отстранява проблеми в изследователската среда.

В един от случаите екипът използва Codex с GPT‑5.6 — най-новия GPT модел по онова време — за анализ на хиляди записани последователности от симулации (действията на агентите и реакциите на средата), заедно с времевите маркери и кодовата база.

Codex открива пречка пред производителността: тестването на търговска стратегия върху едногодишни исторически данни за американски акции на ниво отделни поръчки отнема няколко часа. Докато чакат, агентите многократно проверяват дали тестът е приключил, като хабят токени и запълват контекста си с проверки на състоянието.

След като профилира теста върху исторически данни и анализира входните му данни и начина му на използване, Codex открива възможност за оптимизиране на кеширането и техника за компактно разполагане на данните в паметта. Той експериментира с решения и внедрява корекцията в продукционната среда, като съкращава времето за теста от около 3 часа на около 3 до 5 минути. Това намалява използваните токени и ненужната информация в контекста, като освобождава повече от бюджета за токени на агентите за допълнителни експерименти.

Third Moment предоставя на всеки агент инструментите, информацията и средата, необходими за конкретната му работа. За количествените изследвания екипът изпълнява стандартната рамка на Codex в среда с Docker контейнери. Агентите получават терабайт данни, документация и изследователско хранилище с модули за създаване на признаци, обучение на модели с помощта на графични процесори, търговски стратегии и симулации.

GPT‑6 Astra, GPT‑6 Sol и GPT‑6.1 Sol осигуряват структурираното анализиране, а рамката на Codex дава на агентите инструменти да действат, да създават планове, да поставят цели, да стартират подагенти и да съкращават контекста в хода на работата.

За да се справи с агентите, които спират, преди да завършат задачата, Third Moment използва Codex като подагент във външна рамка, управлявана от GPT‑6 Sol или GPT‑6.1 Sol. Когато задача остане незавършена, външната рамка преглежда последователността от действия и решава дали да опита отново, да прекрати работата или да я предаде за преглед от човек.

В тази изследователска среда агентите работят за подобряване на базова система за търговия, създадена от инженерите на Third Moment. Те тестват търговски стратегии върху исторически данни, преценяват дали дадено подобрение е значимо, или е просто шум, и използват всеки резултат, за да изберат следващия експеримент. Според Адам работата им е подобрила базовата система за търговия.

Според Адам преди GPT‑5.5 моделите са можели да изпълняват само експерименти, зададени от потребител. С GPT‑5.5 и GPT‑5.6 моделите, работещи с рамката на Codex, вече са можели да използват резултатите, за да планират последващи експерименти. Сега с GPT‑6 Astra, GPT‑6 Sol и GPT‑6.1 Sol агентите могат да изследват първопричините чрез стотици паралелни експерименти с подагенти.

Този напредък помага на агентите да проучват изследователски посоки, които екипът не е предвидил. В една сесия GPT‑6.1 Sol установява влиянието на сделките по скрити поръчки на борса, където тези сделки представляват неочаквано голям дял от обема. „Това беше неочевиден резултат, който изследователският ни екип първоначално не беше взел предвид“, казва Адам.

Third Moment оценява моделите в областите на оптимизацията, системите за машинно обучение и количествените изследвания. Компанията тества авангардните версии при най-високите им настройки за структурирано анализиране, като оценява способността им да се ориентират в хранилища, да пишат ефективен код и да водят продължително проучване. Текущите тестове включват и GPT‑6 Luna.

Един сравнителен тест изисква от агентите да намалят забавянето при актуализиране на услуга за резултати в реално време, без да променят изходните ѝ данни. Екипът измерва ускорението, като разделя средното време за изпълнение на решение, създадено от експерт, на това на решението на модела при един и същ хардуер и при условие че резултатите са правилни. Според Адам GPT‑6 Astra постига най-голямото ускорение.

За тясно насочени задачи, включително проверки за конкретни уязвимости в сигурността на симулационната система, екипът използва по-ефективни модели като GPT‑5.6 Terra. За дълбоко проучване Адам смята, че по-доброто структурирано анализиране може да оправдае по-високата цена: „В областта на количествените финанси откриването на интересен сигнал има изключително висока стойност.“

При 10 000 автономно работещи агента Third Moment се нуждае от начин да тества мащабно сигурността на изследователските си среди. Екипът използва платформата за киберсигурност Daybreak, за да автоматизира тези тестове преди стартирането на симулациите.

Тестовете проверяват дали агент може да излезе извън изследователската си среда и да получи достъп до останалата част от мрежата. „С Daybreak можем да накараме самите агенти да провеждат тестове за проникване в симулацията и да тестват инфраструктурата и сигурността ѝ“, казва Адам.

Амбициите на Third Moment обхващат и специализираната работа, която компаниите извършват всеки ден. За търговец на дребно това може да означава по-добри решения за веригата на доставки при недостиг на наличности или забавяне от доставчик. За инженерен екип това може да означава откриване на пречки пред производителността в голяма кодова база. За бизнес с голям документооборот това може да означава откриване на несъответствия между ангажиментите в един документ и резултатите, отчетени в друг.

Въз основа на способностите за структурирано анализиране на GPT‑6 Astra, GPT‑6 Sol и GPT‑6.1 Sol Third Moment планира да премине от отделни проучвания към стотици хиляди сътрудничещи си подагенти. Планът за развитие предвижда хиляди милиарди токени за поредици от десетки взаимозависими експерименти. Целта е тези изследвания да се използват за автономно усъвършенстване на агентите при появата на нови предизвикателства.

Според Адам това би дало на хората повече възможности да определят как агентите учат и работят: „Хората могат да имат много по-голямо въздействие, като обмислят как да се провеждат изследванията и оптимизират самия изследователски процес, вместо да извършват изследванията лично.“