Παρουσίαση της Λειτουργίας κλείδωμα και των συνεπών ετικετών Αυξημένου κινδύνου στο ChatGPT

Καθώς τα συστήματα τεχνητής νοημοσύνης αναλαμβάνουν πιο σύνθετες εργασίες—ειδικά εκείνες που περιλαμβάνουν το διαδίκτυο και συνδεδεμένες εφαρμογές—οι προκλήσεις ασφάλειας μεταβάλλονται.

Ένας αναδυόμενος κίνδυνος έχει γίνει ιδιαίτερα σημαντικός: επίθεση μέσω έγχυσης προτροπών⁠. Σε αυτές τις επιθέσεις, ένα τρίτο μέρος επιχειρεί να παραπλανήσει ένα σύστημα τεχνητής νοημοσύνης μέσω συνομιλίας, ώστε να ακολουθήσει κακόβουλες οδηγίες ή να αποκαλύψει ευαίσθητες πληροφορίες.

Σήμερα, παρουσιάζουμε δύο νέες προστασίες που έχουν σχεδιαστεί για να βοηθούν τους χρήστες και τους οργανισμούς να μετριάζουν τις επιθέσεις μέσω έγχυσης προτροπών, με σαφέστερη ορατότητα στον κίνδυνο και ισχυρότερους ελέγχους:

• Λειτουργία κλειδώματος στο ChatGPT, μια προηγμένη, προαιρετική ρύθμιση ασφάλειας για χρήστες υψηλότερου κινδύνου
• Ετικέτες «Αυξημένου κινδύνου» για ορισμένες δυνατότητες που ενδέχεται να εισάγουν πρόσθετο κίνδυνο σε ChatGPT, ChatGPT Atlas και Codex

Αυτές οι προσθήκες βασίζονται στις υπάρχουσες προστασίες μας σε όλα τα επίπεδα μοντέλου, προϊόντος και συστήματος. Αυτό περιλαμβάνει δημιουργία περιβάλλοντος δοκιμών, προστασίες κατά της εξαγωγής δεδομένων μέσω URL⁠, παρακολούθηση και επιβολή, και επιχειρησιακούς ελέγχους⁠ όπως έλεγχοι πρόσβασης βάσει ρόλων και αρχεία καταγραφής ελέγχου.

Η Λειτουργία κλειδώματος είναι μια προαιρετική, προηγμένη ρύθμιση ασφάλειας η οποία έχει σχεδιαστεί για ένα μικρό σύνολο χρηστών που ενδιαφέρονται ιδιαίτερα για την ασφάλεια — όπως στελέχη ή ομάδες ασφάλειας σε εξέχοντες οργανισμούς — οι οποίοι χρειάζονται αυξημένη προστασία από προηγμένες απειλές. Δεν είναι απαραίτητη για τους περισσότερους χρήστες. Η Λειτουργία κλειδώματος περιορίζει αυστηρά τον τρόπο με τον οποίον μπορεί το ChatGPT να αλληλεπιδράσει με εξωτερικά συστήματα, με σκοπό τη μείωση του κινδύνου εξαγωγής δεδομένων μέσω άμεσης εισαγωγής.

Η Λειτουργία κλειδώματος απενεργοποιεί ντετερμινιστικά ορισμένα εργαλεία και δυνατότητες στο ChatGPT που ένας κακόβουλος θα μπορούσε να επιχειρήσει να εκμεταλλευτεί για να αποσπάσει ευαίσθητα δεδομένα από τις συνομιλίες των χρηστών ή τις συνδεδεμένες εφαρμογές μέσω επιθέσεων όπως οι προτροπές εισροής.

Για παράδειγμα, η περιήγηση στον ιστό σε Λειτουργία κλειδώματος περιορίζεται σε περιεχόμενο που είναι αποθηκευμένο στην προσωρινή μνήμη, επομένως κανένα ζωντανό αίτημα δικτύου δεν εγκαταλείπει το ελεγχόμενο δίκτυο του OpenAI. Αυτός ο περιορισμός έχει σχεδιαστεί για να αποτρέπει την εξαγωγή ευαίσθητων δεδομένων σε έναν επιτιθέμενο μέσω περιήγησης. Ορισμένες λειτουργίες απενεργοποιούνται πλήρως όταν δεν μπορούμε να παρέχουμε ισχυρές καθοριστικές εγγυήσεις για την ασφάλεια των δεδομένων.

Τα επιχειρηματικά σχέδια του ChatGPT παρέχουν ήδη ασφάλεια δεδομένων εταιρικού επιπέδου⁠. Η Λειτουργία κλειδώματος βασίζεται σε αυτές τις προστασίες και είναι διαθέσιμη για τα ChatGPT Enterprise, ChatGPT Edu, ChatGPT for Healthcare και ChatGPT for Teachers. Οι διαχειριστές μπορούν να το ενεργοποιήσουν στις Ρυθμίσεις χώρου εργασίας⁠(ανοίγει σε νέο παράθυρο) δημιουργώντας έναν νέο ρόλο⁠(ανοίγει σε νέο παράθυρο). Όταν ενεργοποιηθεί, η Λειτουργία κλειδώματος προσθέτει επιπλέον περιορισμούς στις υπάρχουσες ρυθμίσεις διαχειριστή.

Μάθετε περισσότερα για τη Λειτουργία κλειδώματος στο Κέντρο Βοήθειάς⁠(ανοίγει σε νέο παράθυρο) μας.

Επειδή ορισμένες κρίσιμες ροές εργασιών βασίζονται σε εφαρμογές, οι διαχειριστές του χώρου εργασίας διατηρούν πιο λεπτομερείς ελέγχους. Μπορούν να επιλέξουν ακριβώς ποιες εφαρμογές—και ποιες συγκεκριμένες ενέργειες μέσα σε αυτές τις εφαρμογές—είναι διαθέσιμες στους χρήστες στη Λειτουργία κλειδώματος. Επιπλέον, και ανεξάρτητα από τη Λειτουργία κλειδώματος, η Πλατφόρμα αρχείων καταγραφής συμμόρφωσης API⁠(ανοίγει σε νέο παράθυρο) παρέχει λεπτομερή ορατότητα στη χρήση εφαρμογών, στα κοινόχρηστα δεδομένα και στις συνδεδεμένες πηγές, βοηθώντας τους διαχειριστές να διατηρούν την εποπτεία.

Σκοπεύουμε να διαθέσουμε τη Λειτουργία κλειδώματος στους καταναλωτές τους επόμενους μήνες.

Τα προϊόντα τεχνητής νοημοσύνης μπορούν να είναι πιο χρήσιμα όταν συνδέονται με τις εφαρμογές σας και το διαδίκτυο, και έχουμε επενδύσει σημαντικά στο να διατηρούμε τα συνδεδεμένα δεδομένα ασφαλή⁠. Ταυτόχρονα, ορισμένες δυνατότητες που σχετίζονται με το δίκτυο εισάγουν νέους κινδύνους που δεν έχουν ακόμη αντιμετωπιστεί πλήρως από τα μέτρα ασφάλειας και προστασίας του κλάδου. Ορισμένοι χρήστες μπορεί να αισθάνονται άνετα να αναλαμβάνουν αυτούς τους κινδύνους και πιστεύουμε ότι είναι σημαντικό να έχουν τη δυνατότητα να αποφασίζουν εάν και πώς θα τους χρησιμοποιούν, ειδικά όταν εργάζονται με τα προσωπικά δεδομένα τους.

Η προσέγγισή μας ήταν να παρέχουμε καθοδήγηση μέσα στο προϊόν για λειτουργίες που μπορεί να εισάγουν επιπλέον κίνδυνο. Για να το κάνουμε πιο σαφές και συνεπές, τυποποιούμε τον τρόπο με τον οποίον επισημαίνουμε μια σύντομη λίστα από υπάρχουσες δυνατότητες. Αυτές οι λειτουργίες θα χρησιμοποιούν πλέον μια συνεπή ετικέτα «Αυξημένος κίνδυνος» σε όλο το ChatGPT, το ChatGPT Atlas και το Codex, ώστε οι χρήστες να λαμβάνουν την ίδια καθοδήγηση όπου κι αν τις συναντούν.

Για παράδειγμα, στο Codex, τον βοηθό προγραμματισμού μας, οι προγραμματιστές μπορούν να παραχωρήσουν στο Codex πρόσβαση στο δίκτυο, ώστε να μπορεί να εκτελεί ενέργειες στο διαδίκτυο, όπως η αναζήτηση τεκμηρίωσης. Η σχετική οθόνη ρυθμίσεων περιλαμβάνει την ετικέτα «Αυξημένος κίνδυνος», μαζί με μια σαφή εξήγηση για τις αλλαγές, τους κινδύνους που ενδέχεται να εισαχθούν και πότε είναι κατάλληλη η πρόσβαση.

Συνεχίζουμε να επενδύουμε σε ενίσχυση των μέτρων ασφάλειας και προστασίας μας, ειδικά για νέους, αναδυόμενους ή αυξανόμενους κινδύνους. Καθώς ενισχύουμε τα μέτρα ασφάλειας γι' αυτές τις δυνατότητες, θα αφαιρέσουμε την ετικέτα «Αυξημένος κίνδυνος» μόλις διαπιστώσουμε ότι οι εξελίξεις στην ασφάλεια έχουν μετριάσει επαρκώς αυτούς τους κινδύνους για γενική χρήση. Θα συνεχίσουμε επίσης να ενημερώνουμε ποιες λειτουργίες φέρουν αυτήν την ετικέτα με την πάροδο του χρόνου, ώστε να επικοινωνούμε τον κίνδυνο στους χρήστες με τον καλύτερο δυνατό τρόπο.