Συμβολή στη δημιουργία κοινών προτύπων για προηγμένη TN
Τα ολοένα ικανότερα μοντέλα μπορούν να ενισχύσουν την κυβερνοάμυνα, να επιταχύνουν την επιστημονική ανακάλυψη και να διευρύνουν την πρόσβαση σε τεχνογνωσία. Μπορούν όμως επίσης να δημιουργήσουν κινδύνους ασφάλειας και προστασίας, αν οι δυνατότητές τους παρερμηνευθούν, αν οι δικλίδες ασφαλείας τους είναι ανεπαρκείς ή αν οι κυβερνήσεις δεν διαθέτουν τις πληροφορίες που χρειάζονται για να ανταποκριθούν. Για να αξιοποιηθούν τα οφέλη με ασφάλεια και αυτοπεποίθηση, οι κοινωνίες θα χρειαστούν θεσμούς με την τεχνική ικανότητα και την ικανότητα διακυβέρνησης που απαιτούνται για την αξιολόγηση, την ασφάλιση και τη διακυβέρνηση ολοένα ικανότερων συστημάτων.
Αυτός είναι ένας από τους λόγους για τους οποίους η OpenAI βοήθησε στην ίδρυση του Ιδρύματος Appia(ανοίγει σε νέο παράθυρο), το οποίο φιλοξενείται από το Linux Foundation. Η Appia θα αναπτύξει ανοικτές, αρθρωτές προδιαγραφές που αποσκοπούν στη μετατροπή διεθνών προτύπων και καθιερωμένων πλαισίων σε πρακτικά κριτήρια αξιολόγησης σε όλη την αλυσίδα αξίας της TN. Το έργο της μπορεί να βοηθήσει στην ανάπτυξη ενός κρίσιμου, ελλείποντος επιπέδου εμπιστοσύνης, μέσω του οποίου τρίτοι ελέγχουν τη συμμόρφωση με πρότυπα, παράγοντας σαφέστερα και πιο επαναχρησιμοποιήσιμα τεκμήρια όταν μοντέλα, υποδομές και εφαρμογές αναπτύσσονται από διαφορετικούς οργανισμούς. Μέσα από αυτό το έργο, η Appia θα συμβάλει στη δημιουργία μιας κοινής τεχνικής γλώσσας που θα επιτρέπει σε εθνικούς και διεθνείς θεσμούς να εμπιστεύονται το έργο ο ένας του άλλου.
Θεωρούμε αυτή την προσπάθεια σημαντικό επόμενο βήμα σε ένα ευρύτερο σύνολο εργασιών για την ενίσχυση των θεσμών, των προτύπων και των πρακτικών αξιολόγησης που απαιτούνται για προηγμένα συστήματα TN.
Το πρόσφατο σχέδιό μας για τη δημοκρατική διακυβέρνηση της TN αιχμής προσφέρει έναν οδικό χάρτη για αυτό το έργο. Ζητά ένα ανθεκτικό πλαίσιο στις ΗΠΑ, ένα ενισχυμένο Κέντρο Προτύπων και Καινοτομίας TN (CAISI) και μια ευρύτερη στρατηγική ανθεκτικότητας σε ολόκληρη την κυβέρνηση. Αναγνωρίζει επίσης ότι οι κορυφαίοι κίνδυνοι έχουν διεθνή εμβέλεια. Τα κράτη θα πρέπει να συνεργαστούν για την ανάπτυξη συμβατών πλαισίων ασφάλειας, αξιόπιστων διαύλων ανταλλαγής ευρημάτων κινδύνου και συντονισμένων αποκρίσεων σε περιστατικά.
Η εθνική ικανότητα και η διεθνής συνεργασία θα πρέπει να αλληλοενισχύονται. Ισχυροί θεσμοί όπως το CAISI μπορούν να αναπτύσσουν τεχνική τεχνογνωσία, να αξιολογούν συστήματα αιχμής και να στηρίζουν ένα οικοσύστημα ανεξάρτητης αξιολόγησης. Ένα δίκτυο ικανών εθνικών θεσμών μπορεί στη συνέχεια να καθιερώσει κοινές μεθόδους, να αναγνωρίσει αξιόπιστα τεκμήρια και να δώσει στις κυβερνήσεις την κοινή τεχνική κατανόηση που χρειάζονται για να δράσουν από κοινού.
Τα πρότυπα βρίσκονται στο επίκεντρο αυτής της προσπάθειας και πρέπει να βασίζονται σε αξιόπιστη πρακτική αξιολόγησης και τεχνική αυστηρότητα. Στο κοινό μας εγχειρίδιο για αξιόπιστες αξιολογήσεις από τρίτους, περιγράφουμε τι χρειάζεται ολοένα περισσότερο να γνωστοποιούν οι αξιολογήσεις αιχμής: το σύστημα που δοκιμάστηκε, την πρόσβασή του σε εργαλεία και το περιβάλλον αξιολόγησης, τις μεθόδους που χρησιμοποιήθηκαν για την ανάδειξη δυνατοτήτων, τους διαθέσιμους πόρους και τους ελέγχους που πραγματοποιήθηκαν για την επικύρωση των αποτελεσμάτων. Έχουμε επίσης εφαρμόσει αυτές τις αρχές στην πράξη μέσω συνεργασιών δοκιμών με το US CAISI και το UK AISI, των οποίων το έργο στις αξιολογήσεις δυνατοτήτων αιχμής και στις δικλίδες προστασίας από βιολογική κατάχρηση οδήγησε σε συγκεκριμένες βελτιώσεις στα συστήματά μας. Το έργο αυτό επιτελεί σημαντική λειτουργία: δημιουργεί τη βάση για πρακτικές που μπορούν να τυποποιηθούν ώστε να ελέγχουν την απόδοση με συγκρίσιμο τρόπο.
Οι πρακτικές αυτές συμπληρώνουν την ευρύτερη υποδομή ασφάλειας της OpenAI. Το Preparedness Framework μας αποτελεί τη βάση για το πώς ορίζουμε και εφαρμόζουμε στην πράξη την προσέγγισή μας στη διαχείριση των σοβαρότερων κινδύνων από προηγμένα συστήματα TN, συμπεριλαμβανομένων των εσωτερικών μας πρακτικών. Το Πλαίσιο Διακυβέρνησης Συστημάτων Αιχμής μας μεταφέρει συναφή μέρη αυτής της προσέγγισης σε ένα δημόσιο έγγραφο διακυβέρνησης που εστιάζει σε συγκεκριμένες κανονιστικές υποχρεώσεις, όπως η αξιολόγηση κινδύνων, η αναφορά μοντέλων, οι έλεγχοι ασφάλειας, η απόκριση σε περιστατικά και η ενσωμάτωση συμβολής από εξωτερικούς ειδικούς. Συνολικά, αυτά τα τεκμήρια βοηθούν να μετατρέπονται οι ευρείες δεσμεύσεις σε επιχειρησιακές πρακτικές που μπορούν να επικυρώνονται και να βελτιώνονται.
Το έργο της Appia στοχεύει στην επόμενη πρόκληση: να καταστήσει αυτές τις πρακτικές διαλειτουργικές μεταξύ οργανισμών, δικαιοδοσιών και της εφοδιαστικής αλυσίδας.
Η OpenAI συμβάλλει ήδη σε ένα ευρύτερο οικοσύστημα προτύπων και προσπαθειών προτυποποίησης που προηγούνται των επίσημων προτύπων. Συμμετέχουμε στη Μικτή Τεχνική Επιτροπή 1, Υποεπιτροπή 42 για την Τεχνητή Νοημοσύνη, του Διεθνούς Οργανισμού Τυποποίησης και της Διεθνούς Ηλεκτροτεχνικής Επιτροπής(ανοίγει σε νέο παράθυρο) και στην Κοινοπραξία Τεχνητής Νοημοσύνης υπό την ηγεσία του Εθνικού Ινστιτούτου Προτύπων και Τεχνολογίας(ανοίγει σε νέο παράθυρο). Συμβάλαμε στην ίδρυση του Φόρουμ Frontier Model και του Ιδρύματος Πρακτορικής Τεχνητής Νοημοσύνης(ανοίγει σε νέο παράθυρο) του Linux Foundation. Συμμετέχουμε στη Συμμαχία για Ασφαλή Τεχνητή Νοημοσύνη(ανοίγει σε νέο παράθυρο), μετέχουμε στη συντονιστική επιτροπή της Συμμαχίας για την Προέλευση και την Αυθεντικότητα Περιεχομένου(ανοίγει σε νέο παράθυρο) και συμμετέχουμε σε διαδικασίες της Ομάδας Εργασίας Μηχανικής του Διαδικτύου(ανοίγει σε νέο παράθυρο) και της Συμμαχίας Fast Identity Online(ανοίγει σε νέο παράθυρο), με στόχο την προώθηση διαλειτουργικών τεχνικών προτύπων.
Σε όλα αυτά τα φόρουμ, και πλέον μέσω της Appia, στόχος μας είναι να μετατρέπουμε τα διδάγματα από την ανάπτυξη συστημάτων αιχμής σε ανοικτές, τεχνικά τεκμηριωμένες πρακτικές που μπορούν να χρησιμοποιούν κυβερνήσεις, εταιρείες και ανεξάρτητοι αξιολογητές σε διαφορετικές δικαιοδοσίες.
