Πώς η Third Moment Research τρέχει 10.000 πράκτορες για 36+ ώρες
Με τα GPT‑6 Astra, GPT‑6.1 Sol, Codex και το Daybreak για την κυβερνοασφάλεια, αυτό το εργαστήριο AI αναπτύσσει πράκτορες που παραμένουν προσηλωμένοι για μέρες και βελτιώνονται με τη χρήση.
10.000
Πράκτορες που εκτελούνται ταυτόχρονα
36–48
Ώρες ανά αυτόνομη ερευνητική συνεδρία
97%
Μείωση του χρόνου αναδρομικού ελέγχου με το Codex
1
Τρισεκατομμύριο token της OpenAI σε μία μόνο ημέρα
Κάθε εταιρεία έχει τις δικές της ροές εργασίας, εργαλεία, οριακές περιπτώσεις και κριτήρια επιτυχίας. (ανοίγει σε νέο παράθυρο)Η Third Moment Research(ανοίγει σε νέο παράθυρο) πιστεύει ότι οι καλύτεροι πράκτορες πρέπει να διαπρέπουν στη συγκεκριμένη δουλειά και να βελτιώνουν τις δυνατότητές τους όσο περισσότερο χρησιμοποιούνται.
Με βάση αυτή την ιδέα, η εταιρεία αναπτύσσει ένα αυτοβελτιούμενο σύστημα AI, χρησιμοποιώντας τα πιο πρόσφατα μοντέλα της OpenAI για να κατανοεί τη συμπεριφορά των πρακτόρων, να εντοπίζει επαναλαμβανόμενες αδυναμίες και να δημιουργεί αυτόματα χιλιάδες συνθετικά σενάρια γύρω από αυτά τα προβλήματα. Η ομάδα χρησιμοποιεί αυτά τα σενάρια για να βελτιώνει τους πράκτορες, επαναλαμβάνοντας τη διαδικασία καθώς προκύπτουν νέα ζητήματα.
Τα Codex, GPT‑6 Astra, GPT‑6 Sol και GPT‑6.1 Sol υποστηρίζουν το ερευνητικό και υπολογιστικό έργο του συστήματος, επιτρέποντας στην Third Moment να εκτελεί ταυτόχρονα 10.000 πράκτορες σε έρευνες διάρκειας 36–48 ωρών. Η εταιρεία χρησιμοποιεί επίσης το Daybreak για να ελέγχει την ασφάλεια των περιβαλλόντων στα οποία εργάζονται οι πράκτορες.
«Σε μία μόνο συνεδρία, το GPT-6.1 Sol μπορεί να διατηρεί τη συνοχή μιας υπολογιστικής έρευνας για μέρες υπολογισμών, χωρίς να χάνει τον στόχο του.»
Μία από τις πρώτες εφαρμογές της Third Moment αφορά τον τομέα της ποσοτικής χρηματοοικονομικής, όπου η επιτυχία μπορεί να μετρηθεί με σαφήνεια. Ο τομέας αυτός προσφέρει ένα συγκεκριμένο πλαίσιο για τη μελέτη του τρόπου λειτουργίας των πρακτόρων και των σημείων στα οποία δυσκολεύονται. Η ομάδα χρησιμοποιεί το Codex για να εντοπίζει και να αντιμετωπίζει προβλήματα στο ερευνητικό περιβάλλον.
Σε μία περίπτωση, χρησιμοποίησε το Codex με το GPT‑5.6, το πιο πρόσφατο μοντέλο GPT εκείνη την εποχή, για να αναλύσει χιλιάδες καταγεγραμμένες ακολουθίες προσομοίωσης —τις ενέργειες των πρακτόρων και τις αποκρίσεις του περιβάλλοντος— μαζί με τις χρονικές σημάνσεις και τη βάση κώδικα.
Το Codex εντόπισε ένα σημείο συμφόρησης: ο αναδρομικός έλεγχος μιας στρατηγικής συναλλαγών σε δεδομένα αμερικανικών μετοχών ενός έτους, με ανάλυση σε επίπεδο εντολής, διαρκούσε αρκετές ώρες. Όσο περίμεναν, οι πράκτορες έλεγχαν επανειλημμένα αν είχε ολοκληρωθεί η διαδικασία, σπαταλώντας token και γεμίζοντας το πλαίσιο συμφραζομένων τους με ελέγχους κατάστασης.
Αφού κατέγραψε το προφίλ απόδοσης του αναδρομικού ελέγχου και ανέλυσε τα δεδομένα εισόδου και τη χρήση του, το Codex εντόπισε μια βελτιστοποίηση της προσωρινής αποθήκευσης και μια τεχνική συμπαγούς διάταξης δεδομένων στη μνήμη. Πειραματίστηκε με λύσεις και εφάρμοσε τη διόρθωση στο περιβάλλον παραγωγής, μειώνοντας τη διάρκεια του αναδρομικού ελέγχου από περίπου 3 ώρες σε περίπου 3 έως 5 λεπτά. Έτσι μειώθηκαν η χρήση token και η επιβάρυνση του πλαισίου συμφραζομένων με περιττές πληροφορίες, αφήνοντας στους πράκτορες περισσότερα διαθέσιμα token για περαιτέρω πειράματα.
Η Third Moment παρέχει σε κάθε πράκτορα τα εργαλεία, τις πληροφορίες και το περιβάλλον που χρειάζεται για μια συγκεκριμένη δουλειά. Για την ποσοτική έρευνα, η ομάδα εκτελεί τον προεπιλεγμένο μηχανισμό του Codex μέσα σε περιβάλλον Docker. Οι πράκτορες λαμβάνουν ένα terabyte δεδομένων, τεκμηρίωση και ένα ερευνητικό αποθετήριο με μονάδες για τη μηχανική χαρακτηριστικών, την εκπαίδευση μοντέλων με υποστήριξη GPU, τις στρατηγικές συναλλαγών και την προσομοίωση.
Τα GPT‑6 Astra, GPT‑6 Sol και GPT‑6.1 Sol παρέχουν τη συλλογιστική, ενώ ο μηχανισμός του Codex δίνει στους πράκτορες εργαλεία για να ενεργούν, να καταρτίζουν σχέδια, να θέτουν στόχους, να δημιουργούν υποπράκτορες και να συμπτύσσουν το πλαίσιο συμφραζομένων καθώς προχωρά η εργασία.
Για να αντιμετωπίσει το πρόβλημα των πρακτόρων που σταματούν πριν ολοκληρώσουν μια εργασία, η Third Moment χρησιμοποιεί το Codex ως υποπράκτορα μέσα σε έναν εξωτερικό μηχανισμό που λειτουργεί με το GPT‑6 Sol ή το GPT‑6.1 Sol. Όταν μια εργασία μένει ημιτελής, ο εξωτερικός μηχανισμός εξετάζει την ακολουθία ενεργειών και αποφασίζει αν θα γίνει νέα προσπάθεια, αν θα τερματιστεί η εργασία ή αν θα παραπεμφθεί για έλεγχο από άνθρωπο.
«Ο μηχανισμός του Codex είναι εξαιρετικά ευέλικτος και επιτρέπει τη χρήση του σε πολλούς διαφορετικούς τομείς.»
Σε αυτό το ερευνητικό περιβάλλον, οι πράκτορες εργάζονται για να βελτιώσουν ένα βασικό σύστημα συναλλαγών που έχουν αναπτύξει οι μηχανικοί της Third Moment. Δοκιμάζουν στρατηγικές συναλλαγών σε ιστορικά δεδομένα, αξιολογούν αν μια βελτίωση είναι ουσιαστική ή οφείλεται σε θόρυβο και χρησιμοποιούν κάθε αποτέλεσμα για να επιλέξουν το επόμενο πείραμα. Σύμφωνα με τον Adam, η δουλειά τους έχει βελτιώσει το βασικό σύστημα συναλλαγών.
Πριν από το GPT‑5.5, λέει ο Adam, τα μοντέλα μπορούσαν να εκτελούν μόνο πειράματα που όριζε ο χρήστης. Με τα GPT‑5.5 και GPT‑5.6, τα μοντέλα που λειτουργούσαν με τον μηχανισμό του Codex μπορούσαν να αξιοποιούν τα αποτελέσματα για να σχεδιάζουν επόμενα πειράματα. Τώρα, με τα GPT‑6 Astra, GPT‑6 Sol και GPT‑6.1 Sol, οι πράκτορες μπορούν να διερευνούν τα βαθύτερα αίτια μέσα από εκατοντάδες πειράματα που εκτελούνται παράλληλα με υποπράκτορες.
Αυτή η εξέλιξη έχει βοηθήσει τους πράκτορες να εξερευνούν ερευνητικές κατευθύνσεις που η ομάδα δεν είχε προβλέψει. Σε μία συνεδρία, το GPT‑6.1 Sol εντόπισε την επίδραση συναλλαγών από μη εμφανιζόμενες εντολές σε ένα χρηματιστήριο, όπου οι συναλλαγές αυτές αντιπροσώπευαν ένα απροσδόκητα μεγάλο μερίδιο του όγκου συναλλαγών. «Αυτό ήταν ένα μη προφανές αποτέλεσμα, που η ερευνητική μας ομάδα δεν είχε εξετάσει αρχικά», λέει ο Adam.
Η Third Moment αξιολογεί μοντέλα στη βελτιστοποίηση, στα συστήματα μηχανικής μάθησης και στην ποσοτική έρευνα. Δοκιμάζει τις εκδόσεις κορυφαίων μοντέλων στις υψηλότερες ρυθμίσεις συλλογιστικής, αξιολογώντας την ικανότητά τους να πλοηγούνται σε αποθετήρια, να γράφουν αποδοτικό κώδικα και να συνεχίζουν μια έρευνα σε βάθος χρόνου. Οι τρέχουσες δοκιμές περιλαμβάνουν επίσης το GPT‑6 Luna.
«Το GPT-6.1 Sol είναι αυτή τη στιγμή το μοντέλο που χρησιμοποιούμε περισσότερο, χάρη στην αποδοτική χρήση των token. Ολοκληρώνει εργασίες με τα λιγότερα token, προσφέροντας παράλληλα απόδοση παρόμοια με του GPT-6 Astra.»
Μία δοκιμή αναφοράς ζητά από τους πράκτορες να μειώσουν την καθυστέρηση ενημέρωσης μιας υπηρεσίας ζωντανής προβολής σκορ, διατηρώντας αμετάβλητα τα αποτελέσματά της. Η ομάδα μετρά την επιτάχυνση διαιρώντας τον μέσο χρόνο εκτέλεσης μιας λύσης που έχει δημιουργήσει ειδικός με τον αντίστοιχο χρόνο της λύσης του μοντέλου στο ίδιο υλικό, με την προϋπόθεση ότι τα αποτελέσματα είναι σωστά. Το GPT‑6 Astra πέτυχε τη μεγαλύτερη επιτάχυνση, σύμφωνα με τον Adam.
Για στοχευμένες εργασίες, όπως ο έλεγχος συγκεκριμένων αδυναμιών ασφαλείας στο σύστημα προσομοίωσης, η ομάδα χρησιμοποιεί πιο αποδοτικά μοντέλα, όπως το GPT‑5.6 Terra. Για έρευνα σε βάθος, ο Adam πιστεύει ότι η ισχυρότερη συλλογιστική μπορεί να δικαιολογήσει το υψηλότερο κόστος: «Στον χώρο της ποσοτικής χρηματοοικονομικής, η εύρεση ενός ενδιαφέροντος σήματος έχει εξαιρετικά μεγάλη αξία.»
Με 10.000 πράκτορες να λειτουργούν αυτόνομα, η Third Moment χρειάζεται έναν τρόπο να ελέγχει την ασφάλεια των ερευνητικών της περιβαλλόντων σε μεγάλη κλίμακα. Η ομάδα χρησιμοποιεί την πλατφόρμα κυβερνοασφάλειας Daybreak για να αυτοματοποιεί αυτούς τους ελέγχους πριν ξεκινήσουν οι προσομοιώσεις.
Οι δοκιμές ελέγχουν αν ένας πράκτορας θα μπορούσε να βγει από το ερευνητικό του περιβάλλον και να αποκτήσει πρόσβαση στο ευρύτερο δίκτυο. «Με το Daybreak, μπορούμε να αναθέτουμε στους ίδιους τους πράκτορες να κάνουν δοκιμές διείσδυσης στην προσομοίωση και να ελέγχουν την υποδομή και την ασφάλειά της», λέει ο Adam.
«Χωρίς το Daybreak, δεν θα μπορούσαμε να κάνουμε αυτόν τον έλεγχο αυτόνομα σε μεγάλη κλίμακα.»
Η φιλοδοξία της Third Moment επεκτείνεται στις εξειδικευμένες εργασίες που εκτελούν καθημερινά οι εταιρείες. Για μια επιχείρηση λιανικής, αυτό θα μπορούσε να σημαίνει καλύτερες αποφάσεις για την εφοδιαστική αλυσίδα όταν τα αποθέματα είναι περιορισμένα ή ένας προμηθευτής καθυστερεί. Για μια ομάδα μηχανικών, θα μπορούσε να σημαίνει τον εντοπισμό σημείων συμφόρησης που περιορίζουν την απόδοση σε μια μεγάλη βάση κώδικα. Για μια επιχείρηση που διαχειρίζεται μεγάλο όγκο εγγράφων, θα μπορούσε να σημαίνει τον εντοπισμό σημείων όπου οι δεσμεύσεις σε ένα έγγραφο δεν αντιστοιχούν στα αποτελέσματα που καταγράφονται σε κάποιο άλλο.
Αξιοποιώντας τις δυνατότητες συλλογιστικής των GPT‑6 Astra, GPT‑6 Sol και GPT‑6.1 Sol, η Third Moment σχεδιάζει να περάσει από τις μεμονωμένες έρευνες σε εκατοντάδες χιλιάδες συνεργαζόμενους υποπράκτορες. Το σχέδιο ανάπτυξής της προβλέπει τη χρήση τρισεκατομμυρίων token για την υποστήριξη αλυσίδων δεκάδων αλληλεξαρτώμενων πειραμάτων, με στόχο η έρευνα αυτή να αξιοποιείται για την αυτόνομη βελτίωση των πρακτόρων καθώς προκύπτουν νέες προκλήσεις.
Για τον Adam, αυτό θα έδινε στους ανθρώπους μεγαλύτερη δυνατότητα να διαμορφώνουν τον τρόπο με τον οποίο οι πράκτορες μαθαίνουν και εργάζονται: «Οι άνθρωποι μπορούν να έχουν πολύ μεγαλύτερη επιρροή, εστιάζοντας στο πώς πρέπει να γίνεται η έρευνα και στη βελτιστοποίηση της ίδιας της ερευνητικής διαδικασίας, αντί να εκτελούν οι ίδιοι την έρευνα.»
