Πώς η Block ενισχύει την ασφάλεια με την τεχνολογία ΤΝ της OpenAI

Στην Block, την εταιρεία πίσω από τα Square, Cash App και Afterpay, η ομάδα ασφάλειας αξιοποιεί το OpenAI Defense Factory: η ΤΝ αναλαμβάνει την εύρεση ευπαθειών, την ανίχνευση και την απόκριση σε κλίμακα που καμία ανθρώπινη ομάδα δεν θα μπορούσε να διαχειριστεί. Με συστήματα ΤΝ όπως το OpenAI Daybreak, η Block ολοκληρώνει σε λίγες ώρες εργασίες που παλαιότερα απαιτούσαν εβδομάδες.

Η ομάδα ασφάλειας της Block έχει επικεντρωθεί στην υπεύθυνη υιοθέτηση της ΤΝ σε όλες τις ροές εργασίας, από την παραγωγή κώδικα έως τις επιχειρήσεις ασφάλειας. «Στην ουσία, αποκτάς ένα νέο μέλος στην ομάδα, που σου επιτρέπει να ανταποκρίνεσαι σε όλο και μεγαλύτερο όγκο εργασίας», λέει ο James Nettesheim, διευθυντής Ασφάλειας Πληροφοριών. «Δεν είναι σαν την παραδοσιακή αυτοματοποίηση, όπου έπρεπε να ορίσεις κάθε βήμα. Μπορείς να του θέσεις ένα αρκετά ιδιαίτερο και ασαφές πρόβλημα και να δουλέψετε μαζί για να το λύσετε».

Εργασίες όπως η εξέταση ενός σφάλματος λογισμικού ή η ανάλυση ενός αρχείου καταγραφής απαιτούσαν ημέρες ή εβδομάδες. Πλέον η ομάδα τις ολοκληρώνει σε πολύ λιγότερο χρόνο, ενώ κάθε αποτέλεσμα εξακολουθεί να ελέγχεται από άνθρωπο.

Για παράδειγμα, για τη βελτιστοποίηση της ανίχνευσης, κάθε διερεύνηση αποθηκεύει τα πρωτογενή στοιχεία από τα ερωτήματά της. Έτσι, η ομάδα μπορεί πλέον να δοκιμάσει αναδρομικά μια προτεινόμενη αλλαγή στην ανίχνευση σε δεδομένα τηλεμετρίας επτά μηνών από το περιβάλλον παραγωγής, σε λιγότερο από μία ώρα. Παλαιότερα, αυτό απαιτούσε τη χειροκίνητη επανεκτέλεση ερωτημάτων για εκατοντάδες παλιές υποθέσεις και σπάνια γινόταν στην πράξη, επειδή ήταν τόσο χρονοβόρο.

Η ομάδα επιλέγει πλέον πιο προσεκτικά ποιο μοντέλο χρησιμοποιεί για κάθε εργασία. «Παλαιότερα χρησιμοποιούσαμε το πιο πρόσφατο μοντέλο, αλλά πλέον αυτό δεν είναι απαραίτητο», λέει. «Μάθαμε στην πράξη να επιλέγουμε διαφορετικά μοντέλα για διαφορετικές εργασίες». Ο μηχανισμός ασφάλειας της Block έχει δημιουργηθεί πάνω στο Daybreak για να βοηθά στην ανάθεση εργασιών στο κατάλληλο μοντέλο. Περιλαμβάνει επίσης σημεία παρέμβασης, ώστε άνθρωποι να μπορούν να αναλαμβάνουν εργασίες ή πράκτορες να επαληθεύουν ο ένας τη δουλειά του άλλου. Η ομάδα αξιολογεί διαρκώς αυτά τα συστήματα με εσωτερικές δοκιμές αναφοράς και με βάση τις επιδόσεις τους σε πραγματικές συνθήκες. Προσαρμόζει την προσέγγισή της όπου χρειάζεται και παραπέμπει εργασίες για ανθρώπινο έλεγχο όταν αυτό επιβάλλει η υπεύθυνη διαχείρισή τους.

Το αυτοματοποιημένο σύστημα αρχικής αξιολόγησης και ιεράρχησης επιτρέπει να ολοκληρώνεται περισσότερη δουλειά, ταχύτερα. Η ομάδα ασφάλειας της Block έχει δει αύξηση 50% στη ρυθμαπόδοση της αρχικής αξιολόγησης και ιεράρχησης, αύξηση 50% στη συλλογή πληροφοριών και στις διερευνήσεις, καθώς και μια εντελώς νέα δυνατότητα αυτόνομης αναζήτησης απειλών. Ο Nettesheim λέει: «Το σύστημα εκτελεί έργο διερεύνησης που αντιστοιχεί σε περίπου 1.100 ώρες εργασίας αναλυτών ανά τρίμηνο, επειδή πλέον κάθε ειδοποίηση διερευνάται πλήρως και σε βάθος, σε όλα τα στοιχεία που αφορά. Το σύστημά μας εξετάζει κάθε ειδοποίηση σαν να είναι η μοναδική που έχουμε λάβει εκείνη την ημέρα».

Τα παραδοσιακά εργαλεία σάρωσης επισημαίνουν μεμονωμένες ευπάθειες, αλλά με το Daybreak η ομάδα ασφάλειας της Block μπορεί να προχωρήσει πολύ περισσότερο. Το μοντέλο βοηθά στη διατύπωση υποθέσεων για μοτίβα επιθέσεων και στη σύνδεση μιας σειράς επιθέσεων σε μια ολοκληρωμένη διαδρομή παραβίασης, αναδεικνύοντας ευπάθειες που μπορεί να υπήρχαν για χρόνια.

Σε μία περίπτωση, μια ειδοποίηση σε έναν φορητό υπολογιστή, από μόνη της, φαινόταν να αφορά μια μικρή παράβαση πολιτικής. Ωστόσο, κατά τον έλεγχο από δεύτερο αξιολογητή, το μοντέλο ακολούθησε μια ένδειξη που εμφανιζόταν μόνο παρεμπιπτόντως στα στοιχεία, τη διασταύρωσε με τα αρχεία καταγραφής ταυτοτήτων της Block και αποκάλυψε ένα πολύ μεγαλύτερο σύνολο προβλημάτων. «Μια συνηθισμένη ειδοποίηση από μια τερματική συσκευή οδήγησε στην εξάρθρωση μιας ολόκληρης εκστρατείας επιθέσεων. Κανένα εργαλείο δεν κάνει μόνο του αυτή τη συσχέτιση. Η ένδειξη προκύπτει μόνο από τον συνδυασμό των αρχείων καταγραφής δύο προϊόντων», λέει ο James.

Ένα ακόμη παράδειγμα της συμβολής του Daybreak ήταν μια πρόσφατη άσκηση αντιπαραθετικού ελέγχου ασφαλείας (red teaming). Το μοντέλο έλαβε μερικά στοιχεία για ένα εσωτερικό σύστημα και, μέσα σε περίπου δύο ώρες, συνέθεσε μια πλήρη διαδρομή επίθεσης: έγχυση SQL, κλιμάκωση προνομίων, εξασφάλιση πρόσβασης, απαρίθμηση διαπιστευτηρίων και επέκταση σε άλλα συστήματα. Ένας ειδικός στον αντιπαραθετικό έλεγχο ασφαλείας (red teaming) θα χρειαζόταν συνήθως αρκετές ημέρες για την ίδια εργασία. Σε πρόσφατες ασκήσεις αντιπαραθετικού ελέγχου ασφαλείας (red teaming), ο χρόνος από την υποβολή γενικής περιγραφής μιας ευπάθειας έως την αυτόματη πρόταση διόρθωσης ήταν 18 λεπτά.

Ο εντοπισμός ευπαθειών έχει αξία μόνο εφόσον υπάρχει και η δυνατότητα διόρθωσής τους. Ο Nettesheim περιγράφει τη διαδικασία που ακολουθεί η ομάδα του για κάθε εύρημα: εντοπίζει πού βρίσκεται το πρόβλημα στον κώδικα και ποιος είναι υπεύθυνος γι’ αυτόν και, στη συνέχεια, προχωρά στην αποκατάσταση. «Προτείνεις μια διόρθωση, επιβεβαιώνεις ότι η ευπάθεια μπορεί να αξιοποιηθεί και μετά επαληθεύεις ότι την έχεις διορθώσει, με έναν άνθρωπο να καθοδηγεί τη διαδικασία και να εφαρμόζει τις αλλαγές στον κώδικα».

Παρότι οι πράκτορες διαθέτουν τις τεχνικές ικανότητες, δεν γνωρίζουν το πλαίσιο λειτουργίας ενός οργανισμού ούτε το σκεπτικό πίσω από προηγούμενες αποφάσεις. Αυτό το πλαίσιο και τη στρατηγική τα προσφέρει ο άνθρωπος, και εδώ παρεμβαίνει η ομάδα του, προσθέτοντας ένα επίπεδο ανθρώπινου ελέγχου. Καθώς η κρίση της ΤΝ αποδεικνύει την αξία της στην πράξη, ο Nettesheim λέει: «θα αυξάνουμε σταδιακά το επίπεδο κινδύνου που αναλαμβάνουμε, ώστε να τη χρησιμοποιούμε σε πιο ευαίσθητα συστήματα».

• Λιγότερο από μία ώρα για την αναδρομική δοκιμή μιας προτεινόμενης αλλαγής στην ανίχνευση σε δεδομένα τηλεμετρίας επτά μηνών.

• 18 λεπτά από την υποβολή γενικής περιγραφής μιας ευπάθειας έως την αυτόματη πρόταση διόρθωσης, σε πρόσφατες ασκήσεις αντιπαραθετικού ελέγχου ασφαλείας (red teaming).

• Εξοικονόμηση περίπου 600 ωρών εργασίας αναλυτών ανά τρίμηνο από την αξιολόγηση ψευδώς θετικών ειδοποιήσεων.

• Ολοκλήρωση διερευνήσεων που αντιστοιχούν σε περίπου 1.100 ώρες εργασίας αναλυτών ανά τρίμηνο.

• Αύξηση 50% στη ρυθμαπόδοση της αρχικής αξιολόγησης και ιεράρχησης.

• Αύξηση 50% στη συλλογή πληροφοριών και στις διερευνήσεις.

Οι εργασίες ανίχνευσης και απόκρισης από μόνες τους έχουν εξοικονομήσει περίπου 600 ώρες εργασίας αναλυτών ανά τρίμηνο, που παλαιότερα αφιερώνονταν στην αξιολόγηση ψευδώς θετικών ειδοποιήσεων. Χάρη στον χρόνο που εξοικονομεί, η ομάδα αφιερώνει πλέον περισσότερο χρόνο σε πιο εμπεριστατωμένες διερευνήσεις και στην υπεύθυνη ανάπτυξη περισσότερων αυτοματισμών.

Καθώς οι επιθέσεις πυκνώνουν και τα μοντέλα ΤΝ συνεχίζουν να εξελίσσονται, ο Nettesheim διακρίνει μια ευκαιρία να μειωθούν οι ευπάθειες ήδη από τη στιγμή της δημιουργίας τους. Έτσι, οι ομάδες ασφάλειας θα μπορούσαν να αφιερώνουν λιγότερο χρόνο σε διορθώσεις και περισσότερο σε προληπτικές εργασίες στρατηγικής σημασίας.

«Η OpenAI μεταφέρει το πλεονέκτημα στις ομάδες άμυνας, δίνοντας σε όλους πρόσβαση σε αυτές τις προηγμένες δυνατότητες», λέει. «Μέχρι τώρα, τις διέθεταν κατά κανόνα μόνο πολύ προβεβλημένες εταιρείες τεχνολογίας και κυβερνητικοί φορείς. Πλέον όμως όλοι, από τους φορείς κρίσιμων υποδομών έως τα σχολεία και τις μικρές επιχειρήσεις, μπορούν να αρχίσουν να αξιοποιούν αυτή την τεχνολογία για να προστατεύουν τα δίκτυά τους».