Επιτάχυνση της έρευνας: Μια ματιά στο εσωτερικό της OpenAI

Πιστεύουμε ότι, για να ωφελήσει όλη την ανθρωπότητα, η AGI χρειάζεται δημοκρατική διακυβέρνηση. Αυτό απαιτεί τεκμηριωμένο δημόσιο διάλογο για τις δυνατότητες, τους κινδύνους και τις δικλίδες ασφαλείας των ισχυρών συστημάτων ΤΝ. Οι άνθρωποι παντού πρέπει να κατανοούν την πιθανή πορεία της κορυφαίας ΤΝ, ώστε να έχουν ουσιαστικό λόγο στην εξέλιξή της.

Η διαφάνεια για συγκεκριμένους κινδύνους, περιστατικά και δικλίδες είναι αναγκαία, αλλά δεν αρκεί. Πιστεύουμε ότι το κοινό πρέπει επίσης να κατανοεί πώς εξελίσσονται τα πιο ικανά συστήματα και πώς προάγουν την έρευνα στα κορυφαία εργαστήρια.

Στόχος μας είναι να δημιουργήσουμε με ασφάλεια έναν αυτοματοποιημένο ερευνητή ΤΝ που, υπό ανθρώπινη εποπτεία, θα προάγει τη βαθιά μάθηση και την ευθυγράμμιση, επιτρέποντας διαδοχικές βελτιώσεις. Σύμφωνα με τις μετρήσεις μας, πετύχαμε τον στόχο που ανακοινώσαμε⁠(ανοίγει σε νέο παράθυρο) πέρυσι το φθινόπωρο: έναν αυτοματοποιημένο ασκούμενο ερευνητή έως τον φετινό Σεπτέμβριο. Ως «ασκούμενο ερευνητή» εννοούμε σύστημα που εκτελεί σαφώς ορισμένες ερευνητικές εργασίες υπό ανθρώπινη καθοδήγηση, ακόμη κι αν απαιτούν λίγες ημέρες από έναν ικανό ερευνητή. Σημειώνουμε σημαντική πρόοδο στην προσπάθειά μας να δημιουργήσουμε έναν αυτοματοποιημένο ερευνητή ΤΝ έως τον Μάρτιο του 2028.

Φέτος, η καθημερινή εργασία των ερευνητών της OpenAI άλλαξε ουσιαστικά. Χρησιμοποιούν πράκτορες προγραμματισμού όλη μέρα, συχνά σε παράλληλες συνεδρίες. Η συνολική χρήση αυξάνεται ραγδαία, ταχύτερα από ό,τι σε άλλες ομάδες της OpenAI. Οι ερευνητές συνεισφέρουν κώδικα ταχύτερα και εκτελούν περισσότερα πειράματα. Αλλάζει και ο τρόπος χρήσης των πρακτόρων: αναλαμβάνουν πιο σύνθετες εργασίες και επιτυγχάνουν συχνότερα. Η έρευνα ΤΝ είναι σύνθετη, με πολλά πιθανά σημεία συμφόρησης. Έτσι, η συνολική πρόοδος μάλλον δεν θα συμβαδίσει με αυτούς τους επιμέρους δείκτες. Συνολικά, όμως, τα ευρήματα συνάδουν με την ευρύτερη εντύπωση πολλών μελών της ομάδας μας ότι τα εργαλεία με πράκτορες επιταχύνουν ουσιαστικά την έρευνα. Οι άνθρωποι εξακολουθούν να θέτουν προτεραιότητες, να κρίνουν ποιες ιδέες και ποια αποτελέσματα θα διερευνήσουν περαιτέρω και να αποφασίζουν για κλιμάκωση, παύση ή διάθεση συστημάτων.

Πιστεύουμε ότι η υπεύθυνη αυτοματοποιημένη έρευνα ΤΝ θα δώσει μοντέλα που ενισχύουν άμεσα την ανθρώπινη ευημερία και προωθούν την αποστολή της OpenAI. Μπορεί να μειώσει το κόστος της προηγμένης νοημοσύνης, προς όφελος των ανθρώπων παγκοσμίως. Ένας λόγος που την επιδιώκουμε είναι ότι μπορεί να βοηθήσει στην επίλυση της ευθυγράμμισης και στην ανάπτυξη αμυντικών μηχανισμών απέναντι σε όλο και πιο ικανή ΤΝ. Ένας αυτοματοποιημένος ερευνητής ΤΝ μπορεί επίσης να ερευνά την ασφάλεια ή την ευθυγράμμιση. Ικανότερα, ευθυγραμμισμένα συστήματα θα μπορούσαν να προστατεύουν κρίσιμες υποδομές, να αποκρούουν επικίνδυνους πράκτορες ΤΝ και να αναπτύσσουν νέα μέτρα προστασίας.

Αυτοί είναι λόγοι ανάπτυξης χρήσιμης αυτοματοποιημένης έρευνας, όχι όμως κατ’ ανάγκη επιδίωξης ταχείας RSI. Το αν και πώς θα προχωρήσουμε πρέπει να εξαρτάται από την ικανότητά μας να διατηρούμε τον ανθρώπινο έλεγχο και από τεκμηριωμένες δημοκρατικές επιλογές για οφέλη και κινδύνους.

Δεν γνωρίζουμε ακόμη πώς θα φτάσουμε με ασφάλεια σε πλήρη, ευθυγραμμισμένη RSI. Εργαζόμαστε για την κλιμάκωση της ευθυγράμμισης και των μέτρων ασφάλειας παράλληλα με τις δυνατότητες. Δεν μπορούμε όμως να θεωρούμε δεδομένο ότι θα συμβαδίσουν, ενώ τα ικανότερα συστήματα μπορεί να παρακολουθούνται δυσκολότερα. Στο επίκεντρο αυτής της προσπάθειας βρίσκεται η προσεκτική εργασία για την ευθυγράμμιση και την ασφάλεια, η οποία ξεκινά από τη μέτρηση και τον μετριασμό των σημερινών προβλημάτων ασφάλειας στα συστήματα προγραμματισμού με πράκτορες. Όποτε η συνέχιση ενέχει απαράδεκτο κίνδυνο ασφάλειας, θα αντιδρούμε κατάλληλα, ακόμη και επιβραδύνοντας ή σταματώντας την ανάπτυξη ή διάθεση συστημάτων που δεν μπορούμε να διασφαλίσουμε επαρκώς.

Μετά το περιστατικό Hugging Face, κάναμε πράξη τη δέσμευση⁠: παύσαμε την ενισχυτική μάθηση (RL) των νεότερων μοντέλων προς διάθεση, ενισχύσαμε και ελέγξαμε με προσομοιωμένες επιθέσεις τα ερευνητικά περιβάλλοντα και επεκτείναμε την παρακολούθηση. Δεν σταμάτησε όλη η έρευνα: ορισμένοι φόρτοι επανεκκίνησαν με ισχυρότερους ελέγχους, ενώ άλλοι παρέμειναν σε παύση. Αυξήσαμε τα πρότυπα ασφάλειας και ευθυγράμμισης και ενσωματώσαμε σε μεγαλύτερο βαθμό τις εργασίες για την ασφάλεια στον κύκλο ζωής των μοντέλων, απαιτώντας ισχυρότερες ενδείξεις ευθυγραμμισμένης συμπεριφοράς σε όλη την εκπαίδευση.

Σήμερα παρουσιάζουμε αναλυτικά πώς τα συστήματα με πράκτορες συνέβαλαν στην πρόοδό μας προς την RSI τους τελευταίους μήνες. Τα συστήματα με πράκτορες είναι νέα και αλλάζουν γρήγορα. Οι μετρήσεις μας παραμένουν προκαταρκτικές. Δημοσιεύουμε αυτά τα πρώτα αποτελέσματα και τις μεθόδους μας για να ενημερώσουμε το κοινό, να ενθαρρύνουμε την καθιέρωση της δημοσιοποίησης ως κοινής πρακτικής και να προωθήσουμε κοινά πρότυπα μέτρησης.

Όπως γράψαμε στο σχέδιο πολιτικής για την κορυφαία ΤΝ⁠, πιστεύουμε ότι εμείς και οι άλλες εταιρείες πρέπει να υποχρεούμαστε να καταγράφουμε δημόσια την πρόοδο προς την RSI. Ακόμη και χωρίς τέτοια υποχρέωση, σκοπεύουμε να συνεχίσουμε με διαφάνεια για την πρόοδό μας προς την RSI. Θα εξελίσσουμε την προσέγγισή μας ως προς τη διαφάνεια καθώς βελτιώνονται οι μετρήσεις και η κατανόησή μας, προστατεύοντας παράλληλα την ασφάλεια και τις ιδιόκτητες πληροφορίες.

Στις αρχές του έτους, ο ερευνητής στη διάμεσο της κατάταξης χρήσης πρακτόρων στην OpenAI τους χρησιμοποιούσε περιορισμένα. Στα μέσα Αυγούστου, τους ενσωμάτωνε καθημερινά στην εργασία του, με χρήση εξαγωγής συμπερασμάτων άνω των 600 δολαρίων ημερησίως σε τιμές API. Ο χρήστης στο 90ό εκατοστημόριο του ερευνητικού τμήματος χρησιμοποιεί πλέον token αξίας άνω των 7.000 δολαρίων ημερησίως.

Πριν τον Ιούνιο του 2026, ο συνολικός χρόνος εκτέλεσης πρακτόρων στο ερευνητικό τμήμα ήταν ακόμη μικρότερος από τη συνολική ανθρώπινη εργασία. Αυτό πλέον άλλαξε. Με βάση το οκτάωρο, στα μέσα Αυγούστου το ερευνητικό τμήμα χρησιμοποιούσε συνολικά 3,1 εργάσιμες ημέρες πρακτόρων ανά ημέρα ανθρώπινης εργασίας.

Μια άλλη προσέγγιση είναι να εξετάσουμε πόσοι ερευνητές χρησιμοποιούν έντονα παράλληλες ροές εργασίας, π.χ. 4 ή περισσότερους πράκτορες ταυτόχρονα. Όπως φαίνεται παρακάτω, ο αριθμός αυξάνεται. Τα στοιχεία περιλαμβάνουν τις ημερήσιες αιχμές τόσο των πρακτόρων που ξεκινά ο χρήστης όσο και των υποπρακτόρων που προκύπτουν στη συνέχεια από τους πράκτορες που ξεκίνησε απευθείας ο χρήστης.

Μεγάλο μέρος της έρευνας ΤΝ είναι μια διαδικασία που απαιτεί πολλή ανθρώπινη εργασία, με στόχο την ενσωμάτωση βελτιώσεων ευφυΐας ή επιδόσεων σε ένα από τα βασικά μας μοντέλα. Η πρόοδος απαιτεί να πετύχουν όλα τα βήματα μαζί: σχεδιασμός βελτιώσεων, δημιουργία αξιολογήσεων για τη μέτρηση των επιδόσεων του μοντέλου, ανάπτυξη υποδομών για τη δοκιμή αυτών των βελτιώσεων σε μεγάλη κλίμακα, εντοπισμός σφαλμάτων και μη ασφαλούς ή μη ευθυγραμμισμένης συμπεριφοράς στην εκπαίδευση και ενσωμάτωση των επιτυχημένων ιδεών σε βασική εκτέλεση εκπαίδευσης. Μια αποτυχία σε οποιοδήποτε στάδιο μπορεί να περιορίσει ολόκληρο τον ερευνητικό κύκλο.

Η συγγραφή κώδικα και η εκτέλεση πειραμάτων είναι δύο κύριες δραστηριότητες των ερευνητών, και βλέπουμε ενδείξεις επιτάχυνσής τους.

Αυτά τα μεγέθη μετρώνται σχετικά εύκολα, αλλά ερμηνεύονται δύσκολα. Καθώς προχωρά η αυτοματοποίηση, οι λιγότερο αυτοματοποιήσιμες εργασίες θα απορροφούν περισσότερη ερευνητική προσπάθεια και θα γίνουν κρίσιμα σημεία συμφόρησης. Οι υπολογιστικοί πόροι επίσης περιορίζουν την πρόοδο και ίσως αποκτήσουν μεγαλύτερη σημασία καθώς μειώνονται άλλα εμπόδια.

Το 2026 αυξήθηκαν τα πειράματα ανά ενεργό πειραματιστή. Ο Αύγουστος σημείωσε ρεκόρ από την έναρξη καταγραφής τον Ιανουάριο του 2025. Αυτό συσχετίζεται με την ευρύτερη υιοθέτηση του Codex, αλλά και οι διαθέσιμοι υπολογιστικοί πόροι αυξήθηκαν σημαντικά από το 2025.

Ποιοτικές εντυπώσεις και εσωτερικά δεδομένα δείχνουν αλλαγή στις αναθέσεις σε πράκτορες προγραμματισμού, με συχνότερες εργασίες υψηλότερου επιπέδου και μεγαλύτερου χρονικού ορίζοντα.

Για να κατανοήσουμε καλύτερα αυτή την τάση, αναλύσαμε την πρόσφατη χρήση στο ερευνητικό τμήμα με μια πρόσφατα δημοσιευμένη ταξινομία⁠(ανοίγει σε νέο παράθυρο) της Epoch AI για τις εργασίες του κύκλου έρευνας και ανάπτυξης ΤΝ. Εμπνευσμένη από το καθιερωμένο σύστημα ταξινόμησης εργασιών O*NET, αφορά ειδικά την έρευνα και ανάπτυξη κορυφαίας ΤΝ και ορίζει έξι φάσεις:

1. Λήψη αποφάσεων: αντικείμενο εργασίας, συνέχιση, κατανομή πόρων

2. Σχεδιασμός: ερευνητικές ιδέες και τεχνικές προδιαγραφές

3. Υλοποίηση: κώδικας και σύνολα δεδομένων

4. Εκτέλεση: εκπαίδευση/αξιολόγηση, υλικό, εξυπηρέτηση

5. Ανάλυση: πειράματα, μοντέλα, διάθεση, εξωτερική εργασία

6. Επικοινωνία: ευρήματα, σχόλια, πρόοδος, αποφάσεις

Παρακάτω ταξινομούμε τα token των πρακτόρων προγραμματισμού με αυτή την ταξινομία.

Όλες οι κατηγορίες αυξήθηκαν από τον Ιανουάριο έως τον Αύγουστο του 2026. Τον Ιανουάριο κυριαρχούσε ο κώδικας έρευνας και υποδομών. Η κατηγορία αυτή διευρύνθηκε, αλλά αυξήθηκαν αισθητά και άλλες, ιδίως η τεχνική βοήθεια και η παρακολούθηση εκτελέσεων. Ο σχεδιασμός υψηλού επιπέδου παραμένει ελάχιστο ποσοστό των token εξόδου των πρακτόρων.

Συνάδελφοι αναφέρουν ανεπίσημα ότι οι πράκτορες προγραμματισμού διαπρέπουν στην αντιμετώπιση προβλημάτων εσωτερικών ερευνητικών υποδομών, περιορίζοντας ένα σημαντικό εμπόδιο στην πρόοδο. Ομάδες που πρόσφεραν ώρες υποστήριξης για προβλήματα πειραμάτων παρατήρησαν μειωμένη προσέλευση το 2026. Μία τις διέκοψε εντελώς, εστιάζοντας σε άλλες βελτιώσεις συστημάτων.

Εδώ απεικονίζουμε τις αρχικές αναρτήσεις ανά ημέρα σε βασικό εσωτερικό κανάλι όπου οι ερευνητές ζητούν τεχνική υποστήριξη από άλλες ομάδες. Απ’ όσο γνωρίζουμε, η μειωμένη δραστηριότητα δεν αντισταθμίστηκε από μεταφορά ερωτημάτων σε άλλο κανάλι ανθρώπινης τεχνικής υποστήριξης. Η μειωμένη κίνηση συνάδει με αυτή την ευρύτερη μεταβολή.

Μπορούμε επίσης να εξετάσουμε αν οι πράκτορες προγραμματισμού πετυχαίνουν στις εργασίες των ερευνητών. Με ταξινομητή βάσει πράκτορα, βρίσκουμε γενική αύξηση των ποσοστών επιτυχίας από Ιανουάριο έως Ιούλιο σε διάφορες βαθμίδες δυσκολίας, με βάση τον εκτιμώμενο χρόνο που θα χρειαζόταν ένα άτομο για να ολοκληρώσει την εργασία, για εργασίες με εξακριβώσιμη έκβαση. Οι πράκτορες όμως χρειάζονται ακόμη σημαντική ανθρώπινη καθοδήγηση, ιδίως όσο αυξάνεται η πολυπλοκότητα. Το τελευταίο εξάμηνο, πάνω από τις μισές επιτυχημένες εργασίες 4–8 ωρών χρειάστηκαν τουλάχιστον μία παρέμβαση.

Η πρόοδος προς συστήματα με μεγαλύτερες δυνατότητες για ασφαλή και ευεργετική AGI θα εξαρτηθεί επίσης από τις δικλείδες ασφαλείας που απαιτούνται για τέτοιο έργο. Η αξιολόγησή μας για τα απαραίτητα μέτρα προστασίας ενδέχεται να αλλάξει καθώς μαθαίνουμε περισσότερα σχετικά με τους κινδύνους.

Όπως έχουμε περιγράψει,⁠ ενημερώσαμε πρόσφατα τα πρότυπά μας για την παρακολούθηση, την ευθυγράμμιση και την ασφάλεια. Εδώ, παρουσιάζουμε πώς οι πρόσφατοι περιορισμοί έχουν επηρεάσει μία πτυχή της ερευνητικής δραστηριότητας.

Στις 20 Ιουλίου, μετά την ανακάλυψη ότι πράκτορες είχαν παραβιάσει την ερευνητική μας υποδομή, διακόψαμε προσωρινά τη λειτουργία της υπηρεσίας κοντέινερ που χρησιμοποιείται για την εκπαίδευση και στη συνέχεια την επαναφέραμε με σημαντικούς πρόσθετους περιορισμούς.

Αυτό οδήγησε σε απότομη μείωση της υπολογιστικής ισχύος για την ενισχυτική μάθηση (RL), ενώ οι ομάδες αναδιαμόρφωναν τις ροές εργασίας τους ώστε να λειτουργούν εντός του θωρακισμένου ερευνητικού περιβάλλοντος. Το διάγραμμα παραπάνω περιλαμβάνει την παύση δύο εβδομάδων στην ενισχυτική μάθηση για τα πιο πρόσφατα μοντέλα μας που προορίζονται για διάθεση. Τα πειράματα RL κλάσης Astra μεταξύ της 20ής Ιουλίου και της 6ης Αυγούστου περιλαμβάνουν πλειονότητα εκτελέσεων (με βάση την κατανομή GPU) που προορίζονται για τη δοκιμή της υλοποίησης βελτιώσεων ασφάλειας και προστασίας.

Στις 7 Αυγούστου, προκαταρκτικά στοιχεία ότι το Astra ενδέχεται να διαθέτει κρίσιμες δυνατότητες κυβερνοασφάλειας⁠ βάσει του Πλαισίου ετοιμότητας⁠(ανοίγει σε νέο παράθυρο) μας οδήγησαν σε πρόσθετους περιορισμούς ασφαλείας ειδικά για το μοντέλο, οι οποίοι απαιτούσαν το μοντέλο Astra να εκτελείται σε ερευνητικά περιβάλλοντα υψηλότερης ασφάλειας. Την επόμενη εβδομάδα, η κατανομή GPU κατηγορίας Astra μειώθηκε περαιτέρω κατά 59,2%, αλλά η κατανομή σε άλλες κατηγορίες μοντέλων αυξήθηκε κατά 17,2%. Αυτή η αύξηση αντιστάθμισε περίπου το 85% της μείωσης της κατανομής για την κατηγορία Astra, αφήνοντας τη συνολική κατανομή στους αναλυθέντες φόρτους εργασίας RL σε μεγάλο βαθμό αμετάβλητη. Αυτό το μοτίβο συνάδει με τη μεταφορά μέρους της εκπαίδευσης και του πειραματισμού σε μοντέλα μη Astra, ενώ οι εργασίες που αφορούσαν το Astra ήταν περιορισμένες, και συμφωνεί με ανεπίσημες αναφορές ερευνητών που βρήκαν άλλες χρήσεις για υπολογιστικούς πόρους, οι οποίοι δεν μπορούσαν πλέον να αξιοποιηθούν για φόρτους εργασίας που καλύπτονταν από τους νέους περιορισμούς.

Τα δεδομένα αυτά παρέχουν ένα χρήσιμο σήμα για τις εν εξελίξει συζητήσεις σχετικά με την εκπαίδευση και την ασφάλεια: Όταν εισάγονται νέα μέτρα ελέγχου, η υπολογιστική ισχύς παραμένει πολύτιμη και ευέλικτη και φυσικά θα διοχετεύεται σε εναλλακτικές χρήσεις εντός του ερευνητικού οικοσυστήματος. Μακροπρόθεσμα, οι συζητήσεις σχετικά με τον ρυθμό προόδου της τεχνητής νοημοσύνης θα πρέπει επίσης να επεκταθούν στο ζήτημα του πώς μπορούν να αξιοποιηθούν με τον καλύτερο τρόπο οι υπολογιστικοί πόροι που υπόκεινται σε νέους ή προτεινόμενους ελέγχους.

Η επίτευξη και η κατανόηση της προόδου προς μια ευθυγραμμισμένη RSI είναι σημαντικές για την αποστολή μας. Θα συνεχίσουμε να βελτιώνουμε τις μεθόδους μας, να ενημερώνουμε για την εξελισσόμενη κατανόησή μας και να εργαζόμαστε για έναν ενημερωμένο δημόσιο διάλογο και ουσιαστική δημοκρατική διακυβέρνηση των κορυφαίων συστημάτων.

Η έρευνα τεχνητής νοημοσύνης που βασίζεται σε πράκτορες είναι ακόμη νέα και εξακολουθούμε να μαθαίνουμε πώς να την αξιολογούμε. Ορισμένοι δείκτες, όπως ο όγκος κώδικα που παράγουν οι ερευνητικές μας ομάδες, είναι σχετικά εύκολο να συλλεχθούν, αλλά δύσκολο να ερμηνευθούν, επειδή η σχέση τους με την πρόοδο της έρευνας είναι αβέβαιη. Μετρήσεις που εστιάζουν πιο άμεσα στην πρόοδο της έρευνας — όπως το πόσο συχνά οι πράκτορες επιτυγχάνουν στις εργασίες που τους αναθέτουν οι ερευνητές — θα μπορούσαν να είναι πιο χρήσιμες, αλλά είναι σύνθετες στην ανάπτυξη και την επικύρωσή τους. Επιτείνοντας τη δυσκολία, τα εργαλεία και τα συστήματα στα οποία βασίζονται οι ερευνητές εξελίσσονται ραγδαία. Η εμβάθυνση της κατανόησής μας σχετικά με την επιτάχυνση της έρευνας αποτελεί σημαντικό τομέα εστίασης σε ολόκληρη την OpenAI.

Σε όλες αυτές τις αναλύσεις, εκτός εάν αναφέρεται διαφορετικά:

• Ο όρος «Ερευνητής» είναι ευρύς και αναφέρεται σε οποιοδήποτε μέλος του ερευνητικού μας οργανισμού, συμπεριλαμβανομένων ορισμένων ατόμων που δημιουργούν ερευνητικές υποδομές, διαχειρίζονται ερευνητικά έργα ή υποστηρίζουν με άλλον τρόπο το εγχείρημα.

• Οι μετρήσεις της χρήσης πρακτόρων κωδικοποίησης καλύπτουν το μεγαλύτερο μέρος, αλλά όχι το σύνολο, της χρήσης, λόγω της ταχείας εξέλιξης των εργαλείων και των συστημάτων στα οποία βασίζονται οι ερευνητές.