Ανταπόκριση στη νέα εποχή των κρίσιμων κυβερνοϊκανοτήτων

Η κυβερνοασφάλεια αλλάζει ραγδαία, καθώς τα μοντέλα αποκτούν πιο προηγμένες δυνατότητες, οι οποίες μπορούν τόσο να ενισχύσουν την κυβερνοάμυνα όσο και να επιτρέψουν επιθέσεις πρωτοφανούς ταχύτητας και κλίμακας.

Οι τελευταίες εσωτερικές αξιολογήσεις του Astra, ενός από τα επερχόμενα μοντέλα μας, τις τελευταίες ημέρες δείχνουν σημαντική πρόοδο στον προγραμματισμό βάσει πράκτορα και στην κυβερνοασφάλεια. Αυτά τα αποτελέσματα, σε συνδυασμό με αξιολογήσεις ειδικών, μας οδήγησαν χθες το βράδυ στο συμπέρασμα ότι δεν μπορούμε να αποκλείσουμε την ύπαρξη κρίσιμων κυβερνοϊκανοτήτων βάσει του Πλαισίου Ετοιμότητας⁠(ανοίγει σε νέο παράθυρο).

Δημοσιοποιούμε αυτές τις πληροφορίες επειδή θεωρούμε σημαντικό να είμαστε διαφανείς απέναντι στο κοινό και στις κοινότητες ασφάλειας και προστασίας σχετικά με αυτή την πιθανή μεταβολή των δυνατοτήτων.

Δημοσιεύσαμε για πρώτη φορά το Πλαίσιο Ετοιμότητας τον Δεκέμβριο του 2023, πολύ πριν τα μοντέλα πλησιάσουν σε αυτό το επίπεδο δυνατοτήτων στη βιολογία, τη χημεία, την κυβερνοασφάλεια και την αυτοβελτίωση της ΤΝ. Το δημιουργήσαμε ως οδηγό για τον εντοπισμό της προόδου στις δυνατότητες και για τον σχεδιασμό των ενεργειών της εταιρείας μας καθώς αυτές θα αναδύονται. Προηγούμενα μοντέλα, συμπεριλαμβανομένου του GPT‑5.6‑Sol, αξιολογήθηκαν ως προς κορυφαίες κυβερνοϊκανότητες και κατατάχθηκαν στο όριο «Υψηλό» και όχι «Κρίσιμο».

Βάσει του Πλαισίου Ετοιμότητας, ένα μοντέλο φτάνει στο Κρίσιμο όριο κυβερνοασφάλειας εάν μπορεί, χωρίς ανθρώπινη παρέμβαση, να εντοπίζει και να αναπτύσσει λειτουργικά εργαλεία εκμετάλλευσης ευπαθειών μηδενικής ημέρας κάθε βαθμού σοβαρότητας σε πολλά θωρακισμένα κρίσιμα συστήματα του πραγματικού κόσμου ή να σχεδιάζει και να εκτελεί από την αρχή έως το τέλος πρωτότυπες στρατηγικές κυβερνοεπιθέσεων εναντίον θωρακισμένων στόχων, έχοντας λάβει μόνο έναν γενικό στόχο.

Παρότι συνεχίζουμε τις συγκριτικές δοκιμές και την αξιολόγηση αυτού του μοντέλου, τα προκαταρκτικά αποτελέσματα δείχνουν αρκετά ισχυρές επιδόσεις ώστε, προς το παρόν, να μην μπορούμε να αποκλείσουμε το Κρίσιμο επίπεδο δυνατοτήτων. Το Astra είναι ένα επερχόμενο μοντέλο και δεν συμμετείχε στην παραβίαση του Hugging Face.

Κατά συνέπεια, ενισχύσαμε τις δοκιμές ανθεκτικότητας των δικλίδων προστασίας και των ελέγχων ασφαλείας μας, ώστε να είναι κατάλληλοι για τη διάθεση μοντέλων με αυτές τις δυνατότητες. Έχουμε επίσης λάβει εσωτερικά τα ακόλουθα μέτρα, ώστε η περαιτέρω ανάπτυξη αυτού του μοντέλου να γίνει με ασφάλεια:

• Εφαρμόζουμε αυστηρότερους ελέγχους ασφαλείας για μοντέλα με πιο προηγμένες δυνατότητες και τις σχετικές δραστηριότητες, όπως απομονωμένα περιβάλλοντα δοκιμών, περιορισμένη πρόσβαση σε δίκτυα και εργαλεία, ενισχυμένη προστασία και κρυπτογράφηση των βαρών των μοντέλων, πρόσθετες δυνατότητες παρακολούθησης και ανίχνευσης, καθώς και εκτέλεση σε περιβάλλον sandbox.
• Αναστέλλουμε τις εσωτερικές δραστηριότητες που αφορούν το Astra και δεν πληρούν ακόμη αυτές τις ενισχυμένες απαιτήσεις ελέγχου ασφαλείας.
• Έχουμε εφαρμόσει καθολική παρακολούθηση για επικίνδυνες ενέργειες και έλλειψη ευθυγράμμισης σε όλες τις εφαρμογές του Astra που βασίζονται σε πράκτορες, συμπεριλαμβανομένης της εκπαίδευσης και της αξιολόγησης. Οι μηχανισμοί παρακολούθησης αξιολογούν την αλληλουχία σκέψεων του μοντέλου και ενεργοποιούν διαδικασία ασφαλείας για τον έλεγχο και τη διακοπή δραστηριοτήτων υψηλού κινδύνου.
• Θα συνεργαστούμε με τις αρμόδιες κρατικές υπηρεσίες και επιλεγμένους οργανισμούς ασφάλειας της ΤΝ για να δοκιμάσουμε τις δυνατότητες αυτού του μοντέλου.
• Θα παρέχουμε στους εξωτερικούς συνεργάτες δοκιμών προτεινόμενους ελέγχους ασφαλείας, ώστε να εκτελούν με ασφάλεια αξιολογήσεις και φόρτους εργασίας υψηλότερου κινδύνου.

Το πλαίσιο μάς έχει ήδη καθοδηγήσει σε άλλες μεταβάσεις δυνατοτήτων. Τον Ιούνιο του 2025, καθώς τα μοντέλα μας πλησίαζαν το υψηλό όριο βιολογικών δυνατοτήτων βάσει του Πλαισίου Ετοιμότητας, παρουσιάσαμε τα μέτρα που λαμβάναμε για την ενίσχυση των δικλίδων προστασίας, τη διεύρυνση των δοκιμών, τη συνεργασία με εξωτερικούς ειδικούς και την εφαρμογή πρόσθετων ελέγχων ασφαλείας. Εφαρμόζουμε την ίδια αρχή και εδώ.

Πιστεύουμε ότι τα μοντέλα με προηγμένες κυβερνοϊκανότητες θα πρέπει να βοηθούν τους υπερασπιστές να εντοπίζουν και να αντιμετωπίζουν ευπάθειες πριν από τους επιτιθέμενους. Δεσμευόμαστε να συνεργαστούμε με κυβερνήσεις, ινστιτούτα ασφάλειας και την κοινωνία των πολιτών, ώστε οι κορυφαίες δυνατότητες μοντέλων όπως το Astra, αλλά και όσων ακολουθήσουν, να αξιοποιούνται υπεύθυνα και ευρέως προς όφελος ολόκληρης της ανθρωπότητας.