Third Moment Research: 10 000 ügynök több mint 36 órán át

Minden vállalatnak megvannak a saját munkafolyamatai, eszközei és kivételes esetei, és mindegyik mást tekint sikernek. ⁠(új ablakban nyílik meg)A Third Moment Research⁠(új ablakban nyílik meg) szerint a legjobb ügynököknek az adott munkában kell igazán jeleskedniük, és képességeiknek a használat során folyamatosan fejlődniük kell.

A vállalat erre az elképzelésre építve fejleszt önmagát javító AI-rendszert. Az OpenAI legújabb modelljeivel elemzi az ügynökök viselkedését, azonosítja visszatérő gyengeségeiket, és automatikusan több ezer szintetikus forgatókönyvet készít ezekre a problémákra. A csapat ezekkel a forgatókönyvekkel fejleszti az ügynököket, és új problémák felmerülésekor megismétli a folyamatot.

A Codex, a GPT‑6 Astra, a GPT‑6 Sol és a GPT‑6.1 Sol támogatja a rendszer kutatási és számítási munkáját, így a Third Moment egyszerre 10 000 ügynököt futtathat 36–48 órás vizsgálatokon. A vállalat a Daybreak segítségével teszteli azoknak a környezeteknek a biztonságát is, amelyekben az ügynökök dolgoznak.

A Third Moment egyik korai alkalmazási területe a kvantitatív pénzügy, ahol egyértelműen mérhető a siker. Ez a terület konkrét keretet ad annak vizsgálatához, hogyan dolgoznak az ügynökök, és hol ütköznek nehézségekbe. A csapat a Codex segítségével tárja fel és oldja meg a kutatási környezet problémáit.

Egy alkalommal a Codexet az akkori legújabb GPT‑modellel, a GPT‑5.6‑tal használva több ezer rögzített szimulációs lefutást – az ügynökök műveleteit és a környezet válaszait – elemzett az időbélyegekkel és a kódbázissal együtt.

A Codex feltárt egy szűk keresztmetszetet: egy kereskedési stratégia visszatesztelése egyévnyi, megbízásszintű amerikai részvénypiaci adaton több órát vett igénybe. Várakozás közben az ügynökök újra meg újra lekérdezték, befejeződött-e a teszt, ezzel tokeneket pazaroltak, és állapotellenőrzésekkel töltötték meg a kontextusukat.

A visszateszt teljesítményprofiljának, bemeneteinek és használatának elemzése után a Codex azonosított egy gyorsítótár-optimalizálási lehetőséget és egy eljárást az adatok tömörebb memóriaelrendezésére. Különböző megoldásokkal kísérletezett, majd éles környezetben is bevezette a javítást, amellyel a visszateszt ideje körülbelül 3 óráról 3–5 percre csökkent. Így kevesebb token fogyott, és kevesebb felesleges információ került a kontextusba, ezért az ügynökök tokenkeretéből több maradt további kísérletekre.

A Third Moment minden ügynöknek biztosítja az adott feladathoz szükséges eszközöket, információkat és környezetet. A kvantitatív kutatáshoz a csapat Docker-környezetben futtatja a Codex alapértelmezett végrehajtási környezetét. Az ügynökök egy terabájtnyi adatot, dokumentációt és egy kutatási adattárat kapnak, amely jellemzők kialakítására, GPU-val támogatott modelltanításra, kereskedési stratégiákra és szimulációra szolgáló modulokat tartalmaz.

Az érvelést a GPT‑6 Astra, a GPT‑6 Sol és a GPT‑6.1 Sol biztosítja, míg a Codex végrehajtási környezete eszközöket ad az ügynököknek a cselekvéshez, a tervezéshez, a célok kitűzéséhez, alügynökök létrehozásához és a kontextus tömörítéséhez a munka során.

A feladat befejezése előtt leálló ügynökök problémáját a Third Moment úgy kezeli, hogy a Codexet alügynökként használja egy GPT‑6 Sol vagy GPT‑6.1 Sol által vezérelt külső végrehajtási környezetben. Ha egy feladat befejezetlen marad, a külső végrehajtási környezet megvizsgálja az addigi lépéseket, és eldönti, hogy újrapróbálkozzon, leállítsa a munkát, vagy emberi felülvizsgálatot kérjen.

Ebben a kutatási környezetben az ügynökök a Third Moment mérnökei által létrehozott kiindulási kereskedési rendszer fejlesztésén dolgoznak. Múltbeli adatokon tesztelnek kereskedési stratégiákat, felmérik, hogy egy javulás érdemi-e, vagy csupán zaj, majd az eredmények alapján választják ki a következő kísérletet. Adam szerint a munkájuk javított a kiindulási kereskedési rendszeren.

Adam szerint a GPT‑5.5 előtt a modellek csak a felhasználó által előírt kísérleteket tudták végrehajtani. A GPT‑5.5 és a GPT‑5.6 megjelenésével a Codex végrehajtási környezetében dolgozó modellek már az eredmények alapján is meg tudták tervezni a következő kísérleteket. Most a GPT‑6 Astra, a GPT‑6 Sol és a GPT‑6.1 Sol révén az ügynökök alügynökökkel párhuzamosan végzett kísérletek százain keresztül tárhatják fel a kiváltó okokat.

Ez a fejlődés lehetővé tette, hogy az ügynökök olyan kutatási irányokat is feltárjanak, amelyekre a csapat nem számított. Egy munkamenet során a GPT‑6.1 Sol feltárta a nem nyilvános ajánlatokból létrejövő kötések hatását egy olyan tőzsdén, ahol ezek a vártnál jóval nagyobb részét tették ki a forgalomnak. „Ez nem volt magától értetődő eredmény, kutatócsapatunk kezdetben nem is számolt vele” – mondja Adam.

A Third Moment az optimalizálás, a gépi tanulási rendszerek és a kvantitatív kutatás területén értékeli a modelleket. Az élvonalbeli modellek új kiadásait a legmagasabb érvelési beállításokkal teszteli, és felméri, mennyire képesek eligazodni az adattárakban, hatékony kódot írni és kitartóan végigvinni egy vizsgálatot. A jelenlegi tesztek a GPT‑6 Lunára is kiterjednek.

Az egyik teljesítménytesztben az ügynököknek egy élő eredménykövető szolgáltatás frissítési késleltetését kell csökkenteniük úgy, hogy a kimenetei ne változzanak. A csapat a gyorsulást úgy méri, hogy egy szakértő által készített megoldás átlagos futásidejét elosztja a modell megoldásának ugyanazon a hardveren mért átlagos futásidejével, feltéve, hogy az eredmény helyes. Adam szerint a GPT‑6 Astra érte el a legnagyobb gyorsulást.

A célzott feladatokhoz – például a szimulációs rendszer bizonyos biztonsági gyengeségeinek ellenőrzéséhez – a csapat erőforrás-hatékonyabb modelleket használ, például a GPT‑5.6 Terrát. A mély kutatás esetében Adam úgy véli, a fejlettebb érvelés indokolhatja a magasabb költséget: „A kvantitatív pénzügy területén rendkívül nagy értéke van egy-egy érdekes jel felfedezésének.”

Mivel 10 000 ügynök fut önállóan, a Third Momentnek olyan megoldásra van szüksége, amellyel nagy léptékben tesztelheti kutatási környezetei biztonságát. A csapat a Daybreak kiberbiztonsági platformmal automatizálja ezt a tesztelést a szimulációk elindítása előtt.

A tesztek azt ellenőrzik, hogy egy ügynök ki tudna-e törni a kutatási környezetéből, és hozzá tudna-e férni az azon kívüli hálózathoz. „A Daybreak segítségével magukkal az ügynökökkel végeztethetünk behatolási teszteket a szimuláción, és teszteltethetjük annak infrastruktúráját és biztonságát” – mondja Adam.

A Third Moment céljai a vállalatok mindennapi, speciális szaktudást igénylő munkájára is kiterjednek. Egy kiskereskedőnél ez jobb ellátásilánc-döntéseket jelenthet készlethiány vagy beszállítói késés esetén. Egy mérnökcsapatnál azt jelentheti, hogy feltárják a teljesítményt korlátozó szűk keresztmetszeteket egy nagy kódbázisban. Egy sok dokumentummal dolgozó vállalkozásnál pedig azt, hogy azonosítják, hol térnek el az egyik dokumentumban vállalt kötelezettségek a másikban rögzített eredményektől.

A GPT‑6 Astra, a GPT‑6 Sol és a GPT‑6.1 Sol érvelési képességeire építve a Third Moment az egyedi vizsgálatoktól több százezer együttműködő alügynökig tervezi bővíteni a rendszerét. Fejlesztési ütemtervében több billió token támogatná az egymásra épülő kísérletek tucatjaiból álló láncolatokat. A cél az, hogy e kutatások révén az új kihívások felmerülésekor önállóan fejlődjenek az ügynökök.

Adam szerint ez több lehetőséget adna az embereknek arra, hogy alakítsák az ügynökök tanulását és munkáját: „Az emberek sokkal nagyobb hatást gyakorolhatnak: a kutatás tényleges elvégzése helyett azon gondolkodhatnak, hogyan érdemes kutatni, és miként lehet magát a kutatást optimalizálni.”