Si Third Moment Research përdor 10 000 agjentë për mbi 36 orë

Çdo kompani ka proceset e veta të punës, mjetet, rastet e veçanta dhe kriteret e suksesit. ⁠(hapet në një dritare të re)Third Moment Research⁠(hapet në një dritare të re) beson se agjentët më të mirë duhet ta kryejnë shumë mirë atë punë specifike dhe t’i përmirësojnë aftësitë e tyre sa më shumë të përdoren.

Mbi këtë ide, kompania po ndërton një sistem IA-je që vetëpërmirësohet, duke përdorur modelet më të fundit të OpenAI për të kuptuar sjelljen e agjentëve, për të identifikuar dobësitë e përsëritura dhe për të krijuar automatikisht mijëra skenarë sintetikë rreth këtyre problemeve. Ekipi i përdor këta skenarë për të përmirësuar agjentët, duke e përsëritur procesin sa herë shfaqen probleme të reja.

Codex, GPT‑6 Astra, GPT‑6 Sol dhe GPT‑6.1 Sol mbështesin punën kërkimore dhe llogaritëse të sistemit, duke i mundësuar Third Moment të vërë në punë 10 000 agjentë njëherësh në hulumtime që zgjasin 36–48 orë. Kompania përdor gjithashtu Daybreak për të testuar sigurinë e mjediseve ku punojnë agjentët.

Një nga zbatimet e para të Third Moment është në fushën e financës sasiore, ku suksesi mund të matet qartë. Kjo fushë ofron një mjedis konkret për të studiuar si punojnë agjentët dhe ku hasin vështirësi. Ekipi përdor Codex për të gjetur dhe zgjidhur problemet në mjedisin kërkimor.

Në një rast, përdori Codex me GPT‑5.6, modelin më të fundit GPT në atë kohë, për të analizuar mijëra rrjedha të regjistruara simulimi (veprimet e agjentëve dhe përgjigjet e mjedisit), bashkë me shënimet kohore dhe bazën e kodit.

Codex zbuloi një pengesë që ngadalësonte punën: testimi i një strategjie tregtimi me të dhëna historike të një viti për aksionet amerikane, në nivel urdhrash tregtimi, zgjaste disa orë. Gjatë pritjes, agjentët kontrollonin vazhdimisht nëse testimi kishte përfunduar, duke shpërdoruar tokenë dhe duke e mbushur kontekstin e tyre me kontrolle statusi.

Pasi analizoi performancën e testimit me të dhëna historike, të dhënat hyrëse dhe përdorimin e tij, Codex identifikoi një optimizim të ruajtjes në memorien cache dhe një teknikë paketimi të të dhënave në memorie. Eksperimentoi me zgjidhje dhe e zbatoi korrigjimin në mjedisin e prodhimit, duke e ulur kohën e testimit nga rreth 3 orë në rreth 3 deri në 5 minuta. Kjo uli përdorimin e tokenëve dhe ngarkimin e kontekstit me informacion të panevojshëm, duke u lënë agjentëve më shumë nga buxheti i tokenëve për eksperimente të mëtejshme.

Third Moment i jep çdo agjenti mjetet, informacionin dhe mjedisin që i nevojiten për një punë specifike. Për kërkimin sasior, ekipi e ekzekuton strukturën standarde të Codex brenda një mjedisi të kontejnerizuar me Docker. Agjentët marrin një terabajt të dhëna, dokumentacion dhe një depo kërkimore me module për krijimin dhe përpunimin e veçorive, trajnimin e modeleve me mbështetje GPU, strategjitë e tregtimit dhe simulimin.

GPT‑6 Astra, GPT‑6 Sol dhe GPT‑6.1 Sol ofrojnë arsyetimin, ndërsa struktura e Codex u jep agjentëve mjete për të vepruar, për të krijuar plane, për të vendosur objektiva, për të krijuar nënagjentë dhe për të përmbledhur kontekstin gjatë punës.

Për të trajtuar rastet kur agjentët ndalen pa e përfunduar detyrën, Third Moment e përdor Codex si nënagjent brenda një strukture të jashtme që funksionon me GPT‑6 Sol ose GPT‑6.1 Sol. Kur një detyrë mbetet e papërfunduar, struktura e jashtme shqyrton rrjedhën e veprimeve dhe vendos nëse duhet provuar sërish, nëse duhet ndërprerë puna apo nëse rasti duhet kaluar për shqyrtim nga një njeri.

Në atë mjedis kërkimor, agjentët punojnë për të përmirësuar një sistem bazë tregtimi të ndërtuar nga inxhinierët e Third Moment. Ata testojnë strategji tregtimi me të dhëna historike, vlerësojnë nëse një përmirësim është domethënës apo thjesht zhurmë statistikore dhe përdorin çdo rezultat për të zgjedhur eksperimentin e radhës. Sipas Adam, puna e tyre e ka përmirësuar sistemin bazë të tregtimit.

Adam thotë se, para GPT‑5.5, modelet mund të kryenin vetëm eksperimente të përcaktuara nga një përdorues. Me GPT‑5.5 dhe GPT‑5.6, modelet që punonin me strukturën e Codex mund t’i përdornin rezultatet për të hartuar eksperimente pasuese. Tani, me GPT‑6 Astra, GPT‑6 Sol dhe GPT‑6.1 Sol, agjentët mund të hulumtojnë shkaqet themelore përmes qindra eksperimenteve që kryhen paralelisht me nënagjentë.

Ky përparim i ka ndihmuar agjentët të eksplorojnë drejtime kërkimi që ekipi nuk i kishte parashikuar. Në një seancë, GPT‑6.1 Sol identifikoi ndikimin e transaksioneve të pashfaqura publikisht në një bursë ku ato përbënin një pjesë papritur të madhe të vëllimit të tregtimit. “Ky ishte një rezultat jo i dukshëm, që ekipi ynë kërkimor nuk e kishte marrë parasysh fillimisht”, thotë Adam.

Third Moment i vlerëson modelet në optimizim, sisteme të të mësuarit automatik dhe kërkim sasior. Kompania teston modelet e reja avangardë me cilësimet më të larta të arsyetimit, duke vlerësuar aftësinë e tyre për t’u orientuar në depo, për të shkruar kod efikas dhe për të vazhduar një hulumtim. Testimet aktuale përfshijnë edhe GPT‑6 Luna.

Një test krahasues u kërkon agjentëve të ulin vonesën e përditësimit të një shërbimi që shfaq rezultatet në kohë reale, pa ndryshuar të dhënat që ai jep. Ekipi e mat rritjen e shpejtësisë duke pjesëtuar kohën mesatare të ekzekutimit të një zgjidhjeje të hartuar nga ekspertë me atë të zgjidhjes së modelit në të njëjtin harduer, me kusht që rezultatet të jenë të sakta. Sipas Adam, GPT‑6 Astra solli rritjen më të madhe të shpejtësisë.

Për punë të fokusuara, përfshirë kontrollet për dobësi specifike sigurie në sistemin e simulimit, ekipi përdor modele më efikase si GPT‑5.6 Terra. Për kërkim të thelluar, Adam beson se arsyetimi më i fuqishëm mund të justifikojë një kosto më të lartë: “Në fushën e financës sasiore, gjetja e një sinjali interesant ka vlerë jashtëzakonisht të lartë.”

Me 10 000 agjentë që punojnë në mënyrë autonome, Third Moment ka nevojë për një mënyrë për të testuar në shkallë të gjerë sigurinë e mjediseve të veta kërkimore. Ekipi përdor platformën e sigurisë kibernetike Daybreak për ta automatizuar këtë testim përpara nisjes së simulimeve.

Testet kontrollojnë nëse një agjent mund të dalë jashtë mjedisit të tij kërkimor dhe të fitojë qasje në rrjetin më të gjerë. “Duke përdorur Daybreak, mund të bëjmë që vetë agjentët të kryejnë teste depërtimi në simulim dhe të testojnë infrastrukturën dhe sigurinë e tij”, thotë Adam.

Ambicia e Third Moment përfshin edhe punën e specializuar që kompanitë kryejnë çdo ditë. Për një shitës me pakicë, kjo mund të nënkuptojë vendime më të mira për zinxhirin e furnizimit kur ka mungesa në stok ose kur një furnitor vonohet. Për një ekip inxhinierik, mund të nënkuptojë gjetjen e pikave që ngadalësojnë performancën në një bazë të madhe kodi. Për një biznes që punon me shumë dokumente, mund të nënkuptojë identifikimin e rasteve kur angazhimet në një dokument nuk përputhen me rezultatet e regjistruara në një tjetër.

Duke u mbështetur në aftësitë e arsyetimit të GPT‑6 Astra, GPT‑6 Sol dhe GPT‑6.1 Sol, Third Moment planifikon të kalojë nga hulumtimet individuale te qindra mijëra nënagjentë që bashkëpunojnë. Plani i zhvillimit parashikon mijëra miliardë tokenë për të mbështetur vargje me dhjetëra eksperimente që varen nga njëri-tjetri, me synimin që ky kërkim të përdoret për t’i përmirësuar agjentët në mënyrë autonome sa herë shfaqen sfida të reja.

Për Adam, kjo do t’u jepte njerëzve më shumë mundësi për të përcaktuar si mësojnë dhe punojnë agjentët: “Njerëzit mund të kenë ndikim shumë më të madh, duke menduar se si duhet kryer kërkimi dhe duke optimizuar vetë procesin, në vend që ta kryejnë kërkimin vetë.”