Δίκτυο αντιπαραθετικού ελέγχου ασφαλείας (red teaming) της OpenAI

Ανακοινώνουμε ανοιχτή πρόσκληση συμμετοχής στο Δίκτυο αντιπαραθετικού ελέγχου ασφαλείας (red teaming) της OpenAI και καλούμε ειδικούς που ενδιαφέρονται να βελτιώσουν την ασφάλεια των μοντέλων της OpenAI να συμβάλουν στις προσπάθειές μας. Αναζητούμε ειδικούς από διάφορους τομείς για να συνεργαστούν μαζί μας στην αυστηρή αξιολόγηση και στον αντιπαραθετικό έλεγχο ασφαλείας (red teaming) των μοντέλων τεχνητής νοημοσύνης μας.

Ο αντιπαραθετικός έλεγχος ασφαλείας (red teaming)^A αποτελεί αναπόσπαστο μέρος της διαδικασίας επαναληπτικής διάθεσης⁠ των συστημάτων μας. Τα τελευταία χρόνια, οι προσπάθειές μας στον αντιπαραθετικό έλεγχο ασφαλείας (red teaming) έχουν επεκταθεί: από την έμφαση σε εσωτερικές δοκιμές με προσομοίωση επιθέσεων στην OpenAI, περάσαμε στη συνεργασία με μια ομάδα εξωτερικών ειδικών^B, οι οποίοι βοηθούν στην ανάπτυξη ταξινομήσεων κινδύνων ανά τομέα και στην αξιολόγηση δυνητικά επιβλαβών δυνατοτήτων νέων συστημάτων. Μπορείτε να διαβάσετε περισσότερα για τις προηγούμενες προσπάθειές μας στον αντιπαραθετικό έλεγχο ασφαλείας (red teaming), συμπεριλαμβανομένης της συνεργασίας μας με εξωτερικούς ειδικούς, σε μοντέλα όπως το DALL·E 2⁠(ανοίγει σε νέο παράθυρο) και το GPT‑4⁠(ανοίγει σε νέο παράθυρο).^C

Σήμερα ξεκινάμε μια πιο οργανωμένη προσπάθεια, βασισμένη σε όσα έχουμε ήδη πετύχει, για να εμβαθύνουμε και να διευρύνουμε τις συνεργασίες μας με εξωτερικούς ειδικούς και να κάνουμε τα μοντέλα μας ασφαλέστερα. Η συνεργασία με μεμονωμένους ειδικούς, ερευνητικά ιδρύματα και οργανώσεις της κοινωνίας των πολιτών αποτελεί σημαντικό μέρος της διαδικασίας μας. Θεωρούμε ότι αυτή η προσπάθεια συμπληρώνει τις πρακτικές διακυβέρνησης που καθορίζονται από εξωτερικούς φορείς, όπως οι έλεγχοι από τρίτους.

Το Δίκτυο αντιπαραθετικού ελέγχου ασφαλείας (red teaming) της OpenAI είναι μια κοινότητα αξιόπιστων και έμπειρων ειδικών που μπορούν να συμβάλουν ευρύτερα στις προσπάθειές μας για αξιολόγηση και μετριασμό των κινδύνων, πέρα από τις μεμονωμένες συνεργασίες και τις διαδικασίες επιλογής πριν από σημαντικές κυκλοφορίες μοντέλων. Τα μέλη του δικτύου θα καλούνται, ανάλογα με την εξειδίκευσή τους, να βοηθήσουν στη διεξαγωγή αντιπαραθετικού ελέγχου ασφαλείας σε διάφορα στάδια του κύκλου ανάπτυξης μοντέλων και προϊόντων. Δεν θα συμμετέχουν όλα τα μέλη σε κάθε νέο μοντέλο ή προϊόν. Ο χρόνος που θα διαθέτει κάθε μέλος θα συμφωνείται ξεχωριστά και μπορεί να είναι μόλις 5–10 ώρες τον χρόνο.

Πέρα από τους κύκλους αντιπαραθετικού ελέγχου ασφαλείας (red teaming) που αναθέτει η OpenAI, τα μέλη θα έχουν την ευκαιρία να ανταλλάσσουν απόψεις μεταξύ τους για γενικές πρακτικές και ευρήματα αντιπαραθετικού ελέγχου ασφαλείας (red teaming). Στόχος είναι να εξασφαλίσουμε πιο ποικίλες και συνεχείς συνεισφορές και να καταστήσουμε τον αντιπαραθετικό έλεγχο ασφαλείας (red teaming) μια διαδικασία με περισσότερους επαναληπτικούς κύκλους. Αυτό το δίκτυο συμπληρώνει άλλες ευκαιρίες συνεργασίας για την ασφάλεια της τεχνητής νοημοσύνης, όπως το Πρόγραμμα πρόσβασης ερευνητών⁠ και οι αξιολογήσεις ανοιχτού κώδικα⁠(ανοίγει σε νέο παράθυρο) που προσφέρουμε.

Αυτό το δίκτυο προσφέρει μια μοναδική ευκαιρία να συμβάλετε στη διαμόρφωση ασφαλέστερων τεχνολογιών και πολιτικών τεχνητής νοημοσύνης, καθώς και του αντίκτυπου που μπορεί να έχει η τεχνητή νοημοσύνη στον τρόπο με τον οποίο ζούμε, εργαζόμαστε και αλληλεπιδρούμε. Με τη συμμετοχή σας στο δίκτυο, θα ενταχθείτε στην ομάδα ειδικών μας, οι οποίοι μπορεί να κληθούν να αξιολογήσουν τα μοντέλα και τα συστήματά μας σε διάφορα στάδια της διάθεσής τους.

Η αξιολόγηση των συστημάτων τεχνητής νοημοσύνης απαιτεί κατανόηση πολλών διαφορετικών τομέων, ποικίλων οπτικών και προσωπικών βιωμάτων. Καλούμε ειδικούς από όλο τον κόσμο να υποβάλουν αίτηση και, κατά τη διαδικασία επιλογής, δίνουμε προτεραιότητα στην εκπροσώπηση διαφορετικών γεωγραφικών περιοχών και τομέων εξειδίκευσης. 

Ενδεικτικά, ορισμένοι από τους τομείς που μας ενδιαφέρουν είναι οι εξής:

Δεν απαιτείται προηγούμενη εμπειρία με συστήματα τεχνητής νοημοσύνης ή γλωσσικά μοντέλα, αλλά μπορεί να φανεί χρήσιμη. Αυτό που εκτιμούμε περισσότερο είναι η προθυμία σας να συμμετάσχετε και να συνεισφέρετε τη δική σας οπτική στον τρόπο με τον οποίο αξιολογούμε τις επιπτώσεις των συστημάτων τεχνητής νοημοσύνης.

Όλα τα μέλη του Δικτύου αντιπαραθετικού ελέγχου ασφαλείας (red teaming) της OpenAI θα αμείβονται για τη συνεισφορά τους όταν συμμετέχουν σε έργο αντιπαραθετικού ελέγχου ασφαλείας (red teaming). Η συμμετοχή σε αυτό το δίκτυο δεν θα σας εμποδίζει να δημοσιεύετε την έρευνά σας ή να αξιοποιείτε άλλες ευκαιρίες. Ωστόσο, θα πρέπει να λάβετε υπόψη ότι η συμμετοχή σε έργα αντιπαραθετικού ελέγχου ασφαλείας (red teaming) και σε άλλα έργα συχνά διέπεται από συμφωνίες εμπιστευτικότητας (NDA) ή παραμένει εμπιστευτική για αόριστο χρονικό διάστημα.

Η υποβολή αιτήσεων έχει πλέον ολοκληρωθεί.

Ε: Τι συνεπάγεται η συμμετοχή στο δίκτυο;

Α: Ως μέλος του δικτύου, ενδέχεται να επικοινωνήσουμε μαζί σας για ευκαιρίες δοκιμής ενός νέου μοντέλου ή διερεύνησης ενός τομέα ενδιαφέροντος σε μοντέλο που έχει ήδη διατεθεί. Οι εργασίες στο πλαίσιο του δικτύου διέπονται από συμφωνία εμπιστευτικότητας (NDA), αν και στο παρελθόν έχουμε δημοσιεύσει πολλά από τα ευρήματα του αντιπαραθετικού ελέγχου ασφαλείας (red teaming) σε κάρτες συστήματος και αναρτήσεις ιστολογίου. Θα αμείβεστε για τον χρόνο που αφιερώνετε σε έργα αντιπαραθετικού ελέγχου ασφαλείας (red teaming).

Ε: Πόσο χρόνο αναμένεται να αφιερώνω ως μέλος του δικτύου; 

Α: Ο χρόνος που επιλέγετε να διαθέσετε μπορεί να προσαρμόζεται στο πρόγραμμά σας. Σημειώστε ότι δεν θα καλούνται όλα τα μέλη του δικτύου για κάθε ευκαιρία συνεργασίας. Η OpenAI θα επιλέγει τα καταλληλότερα άτομα για κάθε έργο αντιπαραθετικού ελέγχου ασφαλείας (red teaming), δίνοντας έμφαση σε νέες οπτικές στους επόμενους κύκλους αντιπαραθετικού ελέγχου ασφαλείας (red teaming). Ακόμη και μόλις 5 ώρες τον χρόνο θα ήταν πολύτιμες για εμάς, γι’ αυτό μη διστάσετε να υποβάλετε αίτηση αν ενδιαφέρεστε αλλά έχετε περιορισμένο χρόνο.

Ε: Πότε θα ενημερωθούν οι υποψήφιοι για την αποδοχή τους;

Α: Η OpenAI θα επιλέγει μέλη για το δίκτυο σε συνεχή βάση και μπορείτε να υποβάλετε αίτηση έως την 1η Δεκεμβρίου 2023. Μετά τη λήξη αυτής της περιόδου αιτήσεων, θα επανεξετάσουμε το ενδεχόμενο να ανοίξουμε νέους κύκλους υποβολής αιτήσεων.

Ε: Η συμμετοχή μου στο δίκτυο σημαίνει ότι θα μου ζητείται να διεξάγω αντιπαραθετικό έλεγχο ασφαλείας σε κάθε νέο μοντέλο;

Α: Όχι. Η OpenAI θα επιλέγει τα καταλληλότερα άτομα για κάθε έργο αντιπαραθετικού ελέγχου ασφαλείας (red teaming), επομένως δεν θα πρέπει να αναμένετε ότι θα δοκιμάζετε κάθε νέο μοντέλο.

Ε: Ποια είναι μερικά από τα κριτήρια που αναζητάτε στα μέλη του δικτύου;

Α: Μερικά από τα κριτήριά μας είναι τα εξής:

• Αποδεδειγμένη εξειδίκευση ή εμπειρία σε συγκεκριμένο τομέα σχετικό με τον αντιπαραθετικό έλεγχο ασφαλείας (red teaming)

• Έντονο ενδιαφέρον για τη βελτίωση της ασφάλειας της τεχνητής νοημοσύνης

• Απουσία συγκρούσεων συμφερόντων

• Εκπροσώπηση διαφορετικών υποβάθρων και παραδοσιακά υποεκπροσωπούμενων ομάδων

• Εκπροσώπηση διαφορετικών γεωγραφικών περιοχών 

• Ευχέρεια σε περισσότερες από μία γλώσσες

• Τεχνικές δεξιότητες (δεν απαιτούνται)

Ε: Ποιες άλλες ευκαιρίες συνεργασίας υπάρχουν στον τομέα της ασφάλειας;

Α: Πέρα από τη συμμετοχή στο δίκτυο, υπάρχουν και άλλες ευκαιρίες συνεργασίας για να συμβάλετε στην ασφάλεια της τεχνητής νοημοσύνης. Για παράδειγμα, μπορείτε να σχεδιάσετε ή να διεξαγάγετε αξιολογήσεις ασφάλειας σε συστήματα τεχνητής νοημοσύνης και να αναλύσετε τα αποτελέσματα.

Το αποθετήριο ανοιχτού κώδικα Evals⁠(ανοίγει σε νέο παράθυρο) της OpenAI (που δημοσιεύτηκε στο πλαίσιο της κυκλοφορίας του GPT‑4⁠) προσφέρει εύχρηστα πρότυπα και ενδεικτικές μεθόδους για να ξεκινήσετε αυτή τη διαδικασία.

Οι αξιολογήσεις μπορεί να κυμαίνονται από απλές δοκιμές ερωτήσεων και απαντήσεων έως πιο σύνθετες προσομοιώσεις. Ακολουθούν συγκεκριμένα παραδείγματα αξιολογήσεων που ανέπτυξε η OpenAI για να εξετάσει τη συμπεριφορά της τεχνητής νοημοσύνης από διάφορες οπτικές:

Πειθώ

• MakeMeSay⁠(ανοίγει σε νέο παράθυρο): Πόσο καλά μπορεί ένα σύστημα τεχνητής νοημοσύνης να ξεγελάσει ένα άλλο ώστε να πει μια μυστική λέξη;

• MakeMePay⁠(ανοίγει σε νέο παράθυρο): Πόσο καλά μπορεί ένα σύστημα τεχνητής νοημοσύνης να πείσει ένα άλλο να δωρίσει χρήματα;

• Πρόταση προς ψηφοφορία⁠(ανοίγει σε νέο παράθυρο): Πόσο καλά μπορεί ένα σύστημα τεχνητής νοημοσύνης να επηρεάσει την υποστήριξη ενός άλλου συστήματος σε μια πολιτική πρόταση;

Στεγανογραφία (κρυφά μηνύματα)

• Στεγανογραφία⁠(ανοίγει σε νέο παράθυρο): Πόσο καλά μπορεί ένα σύστημα τεχνητής νοημοσύνης να μεταδίδει μυστικά μηνύματα χωρίς να το αντιληφθεί ένα άλλο σύστημα τεχνητής νοημοσύνης;

• Συμπίεση κειμένου⁠(ανοίγει σε νέο παράθυρο): Πόσο καλά μπορεί ένα σύστημα τεχνητής νοημοσύνης να συμπιέζει και να αποσυμπιέζει μηνύματα, ώστε να επιτρέπει την απόκρυψη μυστικών μηνυμάτων;

• Σημείο Schelling⁠(ανοίγει σε νέο παράθυρο): Πόσο καλά μπορεί ένα σύστημα τεχνητής νοημοσύνης να συντονίζεται με ένα άλλο χωρίς άμεση επικοινωνία;

Ενθαρρύνουμε τη δημιουργικότητα και τον πειραματισμό στην αξιολόγηση των συστημάτων τεχνητής νοημοσύνης. Μόλις ολοκληρώσετε την αξιολόγησή σας, σας προσκαλούμε να τη συνεισφέρετε στο αποθετήριο ανοιχτού κώδικα Evals⁠(ανοίγει σε νέο παράθυρο), ώστε να μπορεί να χρησιμοποιηθεί από την ευρύτερη κοινότητα τεχνητής νοημοσύνης.

Μπορείτε επίσης να υποβάλετε αίτηση στο Πρόγραμμα πρόσβασης ερευνητών⁠, το οποίο παρέχει μονάδες για τη στήριξη ερευνητών που χρησιμοποιούν τα προϊόντα μας για να μελετήσουν θέματα σχετικά με την υπεύθυνη διάθεση της τεχνητής νοημοσύνης και τον μετριασμό των σχετικών κινδύνων.