Μη διατήρηση δεδομένων για κορυφαία μοντέλα

Η Μη διατήρηση δεδομένων προσφέρει στους επιλέξιμους πελάτες API μια σαφή δέσμευση: η OpenAI δεν διατηρεί τα μηνύματα προτροπής ή τις αποκρίσεις του μοντέλου μετά την επεξεργασία ενός αιτήματος. Το περιεχόμενο των πελατών δεν είναι διαθέσιμο για έλεγχο από το προσωπικό της OpenAI¹ και τα δεδομένα των εταιρικών πελατών δεν χρησιμοποιούνται για εκπαίδευση των μοντέλων μας, εκτός αν οι πελάτες επιλέξουν ρητά να συμμετάσχουν.

Καθώς τα μοντέλα αναλαμβάνουν μεγαλύτερης διάρκειας και πιο σύνθετες εργασίες, ορισμένοι σοβαροί κίνδυνοι μπορεί να γίνονται αντιληπτοί μόνο μέσα από πολλαπλές αλληλεπιδράσεις. Τα υφιστάμενα συστήματα ασφάλειας που είναι συμβατά με το ZDR αξιολογούν κάθε αλληλεπίδραση ξεχωριστά. Σήμερα παρουσιάζουμε σε προεπισκόπηση την Ιδιωτική επεξεργασία ασφάλειας, η οποία έχει σχεδιαστεί ώστε να εντοπίζει μοτίβα σε συναφείς αλληλεπιδράσεις, χωρίς να παρέχει στο προσωπικό της OpenAI πρόσβαση στο υποκείμενο περιεχόμενο.

Στις υλοποιήσεις ZDR, το περιεχόμενο των πελατών παραμένει σε υποδομή που ελέγχει ο πελάτης. Αναπτύσσουμε επίσης μια επιλογή με την οποία το περιεχόμενο αποθηκεύεται σε υποδομή της OpenAI και κρυπτογραφείται με κλειδιά που ελέγχει ο πελάτης. Και στις δύο περιπτώσεις, τα αυτοματοποιημένα συστήματα μπορούν να εντοπίζουν πιθανή κατάχρηση και να επιστρέφουν περιορισμένα σήματα ασφάλειας, χωρίς να εκθέτουν τα υποκείμενα μηνύματα προτροπής ή τις αποκρίσεις στο προσωπικό της OpenAI.

Οι σοβαρότεροι κίνδυνοι ασφάλειας της ΤΝ δεν είναι πάντοτε ορατοί σε μία μόνο αλληλεπίδραση. Συχνά, οι δυνητικά επιβλαβείς προθέσεις γίνονται σαφείς μόνο όταν εξετάζονται μαζί πολλαπλές αλληλεπιδράσεις. Παρόμοιοι κίνδυνοι μπορεί να προκύψουν όταν κακόβουλοι παράγοντες δοκιμάζουν επανειλημμένα τα μέτρα προστασίας, συντονίζονται μέσω πολλών λογαριασμών ή συγκαλύπτουν απειλές ως συνήθη έρευνα. Κίνδυνοι μπορούν επίσης να εμφανιστούν κατά την εκτέλεση μιας εργασίας από πράκτορα —για παράδειγμα, αν ένα σύστημα πάψει να ευθυγραμμίζεται με την πρόθεση του χρήστη, συνεχίζοντας να ενεργεί αφού του ζητηθεί να σταματήσει.

Καθώς τα συστήματα ΤΝ αναλαμβάνουν μεγαλύτερης διάρκειας και πιο σύνθετες εργασίες, αυτό το ευρύτερο πλαίσιο αποκτά ολοένα μεγαλύτερη σημασία για διάκριση της θεμιτής δραστηριότητας από την κατάχρηση και για διασφάλιση ότι οι πράκτορες ΤΝ παραμένουν εντός των ορίων της προβλεπόμενης εξουσιοδότησής τους.

Ορισμένες πρόσφατες υλοποιήσεις κορυφαίων μοντέλων απαιτούσαν από τους πελάτες να επιτρέπουν στον πάροχο ΤΝ να διατηρεί ευαίσθητο περιεχόμενο για παρακολούθηση της ασφάλειας. Για πολλούς οργανισμούς, τέτοιες απαιτήσεις συγκρούονται με τις υποχρεώσεις ασφαλείας τους ή με τις δεσμεύσεις τους απέναντι στους ανθρώπους που εξυπηρετούν.

Η Ιδιωτική επεξεργασία ασφάλειας έχει σχεδιαστεί ώστε να μπορούμε να συνεχίσουμε να προσφέρουμε ZDR.

Η Ιδιωτική επεξεργασία ασφάλειας βασίζεται στις αυτοματοποιημένες δικλίδες προστασίας που χρησιμοποιούνται ήδη στο ZDR και σε άλλες υλοποιήσεις. Τα υφιστάμενα συστήματα ασφάλειας που είναι συμβατά με το ZDR αξιολογούν τις αλληλεπιδράσεις ξεχωριστά. Η Ιδιωτική επεξεργασία ασφάλειας επεκτείνει αυτές τις δικλίδες προστασίας σε συναφείς αλληλεπιδράσεις, επιτρέποντας στα αυτοματοποιημένα συστήματα να εντοπίζουν μοτίβα χωρίς το προσωπικό της OpenAI να έχει πρόσβαση σε διατηρούμενο περιεχόμενο πελατών.

Η Ιδιωτική επεξεργασία ασφάλειας αξιοποιεί το περιεχόμενο των πελατών ανεξάρτητα από το πού αποθηκεύεται —είτε σε υποδομή που ελέγχουν οι πελάτες (υλοποιήσεις ZDR) είτε σε χώρο αποθήκευσης που παρέχει η OpenAI. Στον χώρο αποθήκευσης που παρέχει η OpenAI, το περιεχόμενο των πελατών κρυπτογραφείται με κλειδιά που ελέγχει ο πελάτης. Το προσωπικό της OpenAI δεν διαθέτει αντίγραφο αυτών των κλειδιών και επομένως δεν μπορεί να αποκτήσει πρόσβαση στο υποκείμενο περιεχόμενο.

Όταν εντοπίζεται ένας κίνδυνος, η OpenAI λαμβάνει ένα αυστηρά καθορισμένο σήμα που υποδεικνύει το είδος της σχετικής δραστηριότητας, όπως συμβαίνει σήμερα με τα υφιστάμενα συστήματα ασφάλειάς μας. Αυτό το σήμα μπορεί να χρησιμοποιηθεί για να κριθεί αν απαιτείται λήψη μέτρων. Το προσωπικό της OpenAI δεν αποκτά πρόσβαση στο περιεχόμενο των πελατών, ακόμη και όταν αυτό επισημαίνεται.

Οι πελάτες μπορούν να διερευνούν ειδοποιήσεις και αποφάσεις επιβολής μέτρων χρησιμοποιώντας πληροφορίες που είναι διαθέσιμες στα δικά τους συστήματα. Αν θέλουν να υποβάλουν ένσταση, να διευκρινίσουν ότι μια δραστηριότητα είναι θεμιτή ή να υποστηρίξουν μια έρευνα για επιβεβαιωμένη κατάχρηση, μπορούν να επιλέξουν να κοινοποιήσουν σχετικές πληροφορίες στην OpenAI.

Η Ιδιωτική επεξεργασία ασφάλειας δοκιμάζεται επί του παρόντος με τους πρώτους πελάτες. Παρουσιάζουμε αυτήν την προεπισκόπηση τώρα, επειδή οι πελάτες μας έχουν καταστήσει απολύτως σαφές ότι χρειάζονται προβλεψιμότητα ως προς τον τρόπο προστασίας του περιεχομένου τους, καθώς τα συστήματα ΤΝ αποκτούν περισσότερες δυνατότητες.

Αποστολή μας είναι να διασφαλίσουμε ότι η τεχνητή γενική νοημοσύνη ωφελεί ολόκληρη την ανθρωπότητα. Η συνεργασία με πελάτες και εταίρους είναι καθοριστική για τον τρόπο με τον οποίον αναπτύσσουμε αποτελεσματικά μέτρα προστασίας. Όπως καθιστούν σαφές οι αρχές μας, κανένα εργαστήριο ΤΝ δεν μπορεί να αντιμετωπίσει μόνο του τους αναδυόμενους κινδύνους. Η Ιδιωτική επεξεργασία ασφάλειας αντικατοπτρίζει αυτή την προσέγγιση και διαμορφώνεται με τη συμβολή πελατών από διαφορετικούς κλάδους, περιοχές και μεγέθη επιχειρήσεων.

Οι οργανισμοί με τους οποίους συνεργαζόμαστε διαχειρίζονται ορισμένες από τις πιο ευαίσθητες πληροφορίες στους κλάδους τους, όπως οικονομικά αρχεία, δεδομένα υγείας, εμπιστευτικά επιχειρηματικά σχέδια και ιδιόκτητη έρευνα. Η προστασία αυτών των πληροφοριών είναι απαραίτητη για εκπλήρωση των κανονιστικών υποχρεώσεων, διατήρηση της εμπιστοσύνης των πελατών και διαφύλαξη του ανταγωνιστικού τους πλεονεκτήματος.

Τα σχόλιά τους μάς βοηθούν να αναπτύσσουμε ισχυρότερα μέτρα προστασίας, διατηρώντας παράλληλα τις πληροφορίες τους υπό τον έλεγχό τους.

Θα συνεχίσουμε να συνεργαζόμαστε με τους πελάτες για τις τεχνικές και λειτουργικές λεπτομέρειες της προσέγγισής μας. Σχεδιάζουμε να ξεκινήσουμε τη σταδιακή διάθεση της Ιδιωτικής επεξεργασίας ασφάλειας και να δημοσιεύσουμε μια τεχνική λευκή βίβλο τον Σεπτέμβριο. Θα ενημερώνουμε τους πελάτες σε κάθε βήμα, κοινοποιώντας έγκαιρα τις εξελίξεις, εξηγώντας τι σημαίνουν για τις υφιστάμενες δεσμεύσεις και παρέχοντας τον χρόνο και την υποστήριξη που χρειάζονται για να προγραμματίσουν εγκαίρως.