Third Moment Research: 10 000 agenttia, yli 36 tuntia

Jokaisella yrityksellä on omat työnkulkunsa, työkalunsa, poikkeustapauksensa ja onnistumisen mittarinsa. ⁠(avautuu uudessa ikkunassa)Third Moment Research⁠(avautuu uudessa ikkunassa) uskoo, että parhaiden agenttien pitäisi olla todella hyviä juuri yrityksen omissa tehtävissä ja kehittyä sitä mukaa kuin niitä käytetään.

Yritys rakentaa tämän ajatuksen pohjalta itseään kehittävää tekoälyjärjestelmää. Se käyttää OpenAI:n uusimpia malleja agenttien toiminnan ymmärtämiseen, toistuvien heikkouksien tunnistamiseen ja tuhansien näihin ongelmiin liittyvien synteettisten skenaarioiden automaattiseen luomiseen. Tiimi kehittää agentteja näiden skenaarioiden avulla ja toistaa prosessin aina uusien ongelmien ilmaantuessa.

Codex, GPT‑6 Astra, GPT‑6 Sol ja GPT‑6.1 Sol tukevat järjestelmän tutkimus- ja laskentatyötä. Niiden avulla Third Moment voi käyttää samanaikaisesti 10 000:ta agenttia 36–48 tuntia kestävissä tutkimuksissa. Yritys käyttää myös Daybreakia agenttien työskentely-ympäristöjen tietoturvan testaamiseen.

Yksi Third Momentin ensimmäisistä sovelluskohteista on kvantitatiivinen rahoitus, jossa onnistumista voidaan mitata selkeästi. Ala tarjoaa konkreettisen ympäristön sen tutkimiseen, miten agentit toimivat ja missä niillä on vaikeuksia. Tiimi käyttää Codexia tutkimusympäristön ongelmien löytämiseen ja korjaamiseen.

Eräässä tapauksessa tiimi käytti Codexia ja silloista uusinta GPT‑mallia GPT‑5.6:ta analysoidakseen tuhansia tallennettuja simulaatioiden tapahtumaketjuja eli agenttien toimia ja ympäristön reaktioita sekä aikaleimoja ja koodipohjaa.

Codex löysi pullonkaulan: kaupankäyntistrategian jälkitestaus vuoden kattavalla toimeksiantokohtaisella Yhdysvaltain osakemarkkinadatalla kesti useita tunteja. Odottaessaan agentit kyselivät toistuvasti, oliko testi valmis. Tämä tuhlasi tokeneita ja täytti niiden kontekstin tilatarkistuksilla.

Profiloituaan jälkitestin ja analysoituaan sen syötteet ja käytön Codex tunnisti mahdollisuuden optimoida välimuistin käyttöä ja hyödyntää muistin pakkaustekniikkaa. Se kokeili ratkaisuja ja otti korjauksen käyttöön tuotannossa. Näin jälkitestin kesto lyheni noin kolmesta tunnista noin 3–5 minuuttiin. Tämä vähensi tokenien kulutusta ja kontekstiin kertyvää turhaa sisältöä, jolloin agenttien tokenbudjetista jäi enemmän tilaa uusille kokeille.

Third Moment antaa kullekin agentille juuri sen tehtävään tarvittavat työkalut, tiedot ja ympäristön. Kvantitatiivisessa tutkimuksessa tiimi käyttää Codexin oletusarviointikehystä Docker-konttiympäristössä. Agentit saavat käyttöönsä teratavun dataa, dokumentaatiota sekä tutkimusrepositorion, joka sisältää moduulit piirteiden muodostamiseen, GPU-tuettuun mallien koulutukseen, kaupankäyntistrategioihin ja simulointiin.

GPT‑6 Astra, GPT‑6 Sol ja GPT‑6.1 Sol vastaavat päättelystä. Codex-arviointikehys puolestaan antaa agenteille työkalut toimintaan, suunnitteluun, tavoitteiden asettamiseen, aliagenttien luomiseen ja kontekstin tiivistämiseen työn edetessä.

Jotta agentit eivät lopettaisi ennen tehtävän valmistumista, Third Moment käyttää Codexia aliagenttina ulommassa arviointikehyksessä, jonka toimintaa ohjaa GPT‑6 Sol tai GPT‑6.1 Sol. Jos tehtävä jää kesken, ulompi arviointikehys tarkastelee tapahtumaketjua ja päättää, yritetäänkö uudelleen, lopetetaanko tehtävä vai siirretäänkö se ihmisen tarkistettavaksi.

Tässä tutkimusympäristössä agentit kehittävät Third Momentin insinöörien rakentamaa kaupankäyntijärjestelmän perusversiota. Ne testaavat kaupankäyntistrategioita historiadatalla, arvioivat, onko parannus merkityksellinen vai pelkkää kohinaa, ja valitsevat seuraavan kokeen kunkin tuloksen perusteella. Adamin mukaan agenttien työ on parantanut kaupankäyntijärjestelmän perusversiota.

Adamin mukaan mallit pystyivät ennen GPT‑5.5:tä tekemään vain käyttäjän määrittelemiä kokeita. GPT‑5.5 ja GPT‑5.6 pystyivät Codex-arviointikehyksessä hyödyntämään tuloksia jatkokokeiden suunnittelussa. Nyt GPT‑6 Astran, GPT‑6 Solin ja GPT‑6.1 Solin avulla agentit voivat selvittää juurisyitä sadoissa kokeissa, joita tehdään rinnakkain aliagenttien kanssa.

Tämän kehityksen myötä agentit ovat voineet edetä tutkimussuuntiin, joita tiimi ei ollut osannut ennakoida. Eräässä istunnossa GPT‑6.1 Sol tunnisti vaikutuksen, joka julkisessa tarjouskirjassa näkymättömillä kaupoilla oli pörssissä, jossa niiden osuus kaupankäyntivolyymista oli odottamattoman suuri. ”Tulos ei ollut ilmeinen, eikä tutkimustiimimme aluksi tullut ajatelleeksi sitä”, Adam sanoo.

Third Moment arvioi malleja optimoinnissa, koneoppimisjärjestelmissä ja kvantitatiivisessa tutkimuksessa. Se testaa edistyneitä mallijulkaisuja niiden korkeimmilla päättelyasetuksilla ja arvioi niiden kykyä löytää tarvitsemansa repositorioista, kirjoittaa tehokasta koodia ja jatkaa tutkimusta pitkäjänteisesti. Tällä hetkellä testeissä on mukana myös GPT‑6 Luna.

Yhdessä vertailutestissä agenttien tehtävänä on lyhentää reaaliaikaisen tulostaulupalvelun päivitysviivettä muuttamatta sen tuottamia tuloksia. Tiimi mittaa nopeutusta jakamalla asiantuntijan laatiman ratkaisun keskimääräisen suoritusajan mallin ratkaisun vastaavalla ajalla samalla laitteistolla. Edellytyksenä on, että ratkaisu tuottaa oikeat tulokset. Adamin mukaan GPT‑6 Astra saavutti suurimman nopeutuksen.

Rajatuissa tehtävissä, kuten simulaatiojärjestelmän tiettyjen tietoturvaheikkouksien tarkistamisessa, tiimi käyttää vähemmän resursseja kuluttavia malleja, kuten GPT‑5.6 Terraa. Syvätutkimuksessa parempi päättelykyky voi Adamin mielestä perustella korkeammat kustannukset: ”Kvantitatiivisessa rahoituksessa kiinnostavan signaalin löytäminen on erittäin arvokasta.”

Kun 10 000 agenttia toimii autonomisesti, Third Moment tarvitsee keinon testata tutkimusympäristöjensä tietoturvaa laajassa mittakaavassa. Tiimi automatisoi testauksen Daybreak-kyberturva-alustan avulla ennen simulaatioiden käynnistämistä.

Testeissä tarkistetaan, voisiko agentti murtautua ulos tutkimusympäristöstään ja päästä laajempaan verkkoon. ”Daybreakin avulla voimme antaa agenttien itsensä tehdä simulaatioon tunkeutumistestejä sekä testata sen infrastruktuuria ja tietoturvaa”, Adam sanoo.

Third Momentin tavoitteet ulottuvat yritysten päivittäiseen, erikoisosaamista vaativaan työhön. Vähittäiskauppiaalle tämä voisi tarkoittaa parempia toimitusketjupäätöksiä silloin, kun varastot käyvät vähiin tai toimittajan toimitus viivästyy. Ohjelmistokehitystiimille se voisi tarkoittaa suorituskyvyn pullonkaulojen löytämistä laajasta koodipohjasta. Paljon asiakirjoja käsittelevässä yrityksessä se voisi tarkoittaa sellaisten kohtien tunnistamista, joissa yhden asiakirjan sitoumukset eivät vastaa toiseen kirjattuja toteutuneita tuloksia.

Third Moment aikoo hyödyntää GPT‑6 Astran, GPT‑6 Solin ja GPT‑6.1 Solin päättelykykyä ja laajentaa toimintaansa yksittäisistä tutkimuksista satoihintuhansiin yhteistyötä tekeviin aliagentteihin. Yrityksen etenemissuunnitelmassa biljoonilla tokeneilla tuetaan kymmenien toisistaan riippuvaisten kokeiden ketjuja. Tavoitteena on hyödyntää tätä tutkimusta agenttien autonomisessa kehittämisessä uusien haasteiden ilmaantuessa.

Adamin mielestä tämä antaisi ihmisille enemmän mahdollisuuksia ohjata agenttien oppimista ja työskentelyä: ”Ihmiset voivat saada työlleen paljon suuremman vaikutuksen, kun he voivat itse tutkimuksen tekemisen sijaan pohtia, miten tutkimusta kannattaa tehdä ja miten tutkimusprosessia voi optimoida.”