Ενίσχυση του δημοκρατικού ελέγχου στην εθνική ασφάλεια

Η ΤΝ αλλάζει τον τρόπο με τον οποίο οι δημοκρατικές κυβερνήσεις προστατεύουν τους πολίτες τους. Μπορεί να συμβάλει στην αποτροπή κυβερνοεπιθέσεων, στην προστασία κρίσιμων υποδομών, στον έγκαιρο εντοπισμό απειλών και στην καλύτερη ενημέρωση των δημόσιων λειτουργών σε περιόδους κρίσης. Όταν χρησιμοποιούνται σωστά, αυτά τα εργαλεία μπορούν να ενισχύσουν την εθνική ασφάλεια.

Ο δημοκρατικός έλεγχος συμβάλλει ώστε η άσκηση δημόσιας εξουσίας να παραμένει υπόλογη στους πολίτες τους οποίους υπηρετεί. Καθώς η ΤΝ επιταχύνει και ενισχύει το έργο στον τομέα της εθνικής ασφάλειας, οι θεσμοί που είναι αρμόδιοι για τον έλεγχό του πρέπει επίσης να συμβαδίζουν με τις εξελίξεις. Η ΤΝ μπορεί να ενεργεί γρήγορα και σε μεγάλη κλίμακα βάσει ελλιπών ή παρωχημένων δεδομένων πλαισίου, εσφαλμένα διαμορφωμένων στόχων ή ασύμβατων παραδοχών, με αποτέλεσμα να είναι δυσκολότερος ο μη αυτόματος εντοπισμός λαθών προτού αυτά εξαπλωθούν. Ο έλεγχος είναι ιδιαίτερα σημαντικός όταν η ΤΝ χρησιμοποιείται για την εθνική ασφάλεια, επειδή οι αποφάσεις ενδέχεται αναγκαστικά να καλύπτονται από απόρρητο και να έχουν εξαιρετικά σοβαρές συνέπειες.

Με γνώμονα τις Αρχές μας για την Εθνική Ασφάλεια, προσεγγίζουμε τις εφαρμογές στον τομέα της εθνικής ασφάλειας με δικλίδες προστασίας, ουσιαστική ανθρώπινη κρίση και κατάλληλο έλεγχο, ιδίως σε περιβάλλοντα υψηλού διακυβεύματος. Οι αρχές αυτές θέτουν επίσης ως προτεραιότητα να βοηθήσουμε τους αρμόδιους θεσμούς να αναπτύξουν την ικανότητα ελέγχου της χρήσης ΤΝ με την απαιτούμενη ταχύτητα και σε μεγάλη κλίμακα.

Οι κυβερνητικοί θεσμοί διαθέτουν ήδη καθιερωμένες αρμοδιότητες και ευθύνες για τον έλεγχο των δραστηριοτήτων εθνικής ασφάλειας. Όταν η ΤΝ συμβάλλει σε αυτές τις δραστηριότητες, ο έλεγχος ίσως χρειαστεί να εξελιχθεί. Ο παραδοσιακός έλεγχος απαιτεί πολλή ανθρώπινη εργασία και γίνεται σχεδόν αδύνατος όταν μικρές ομάδες, που χρησιμοποιούν μεθόδους της εποχής του χαρτιού, καλούνται να ελέγξουν συστήματα τα οποία λειτουργούν με ταχύτητα μηχανής.

Η OpenAI πιστεύει ότι τα πιο ικανά συστήματα απαιτούν ισχυρότερο έλεγχο και εφαρμόζουμε αυτή την αρχή και στους εαυτούς μας. Στο πλαίσιο του Πλαισίου Ετοιμότητας, τα προηγμένα μοντέλα υποβάλλονται σε αυστηρό έλεγχο πριν από τη διάθεσή τους, ώστε να κατανοούμε τις δυνατότητές τους και να κρίνουμε εάν οι δικλίδες προστασίας επαρκούν. Αυτός ο ενδελεχής έλεγχος συνεχίζεται και μετά τη διάθεση, μέσω διαρκούς παρακολούθησης και διερεύνησης περιστατικών, ενώ όσα μαθαίνουμε αξιοποιούνται για ισχυρότερες δικλίδες προστασίας και για τη μελλοντική ανάπτυξη μοντέλων.

Η OpenAI δεν ασκεί εποπτικό ρόλο επί της κυβέρνησης, ούτε θα έπρεπε να το κάνει. Η ευθύνη αυτή ανήκει στους αιρετούς αξιωματούχους και στους δημόσιους θεσμούς που έχουν συσταθεί για αυτόν τον σκοπό. Αντίθετα, μπορούμε να υποστηρίζουμε τους εποπτικούς θεσμούς με την τεχνολογία μας κατά την άσκηση των υφιστάμενων αρμοδιοτήτων τους.

Τρεις αρχές θα καθοδηγούν αυτό το έργο.

Πρώτον, η ΤΝ πρέπει να ενισχύει, όχι να υποκαθιστά, την ανθρώπινη και θεσμική κρίση. Οι αποφάσεις σχετικά με το αν η κυβερνητική δράση είναι νόμιμη, ενδεδειγμένη και σύμφωνη με τους ισχύοντες κανόνες και τις πολιτικές ανήκουν στις εξουσιοδοτημένες υπηρεσίες και στα νομίμως συσταθέντα εποπτικά όργανα.

Δεύτερον, η κυβερνητική χρήση της ΤΝ πρέπει να είναι ανιχνεύσιμη και κατανοητή από τους εξουσιοδοτημένους εποπτικούς φορείς. Οι ελεγκτές πρέπει να μπορούν να κατανοούν πώς συνέβαλε η ΤΝ σε μια απόφαση, με παράλληλη προστασία των διαβαθμισμένων, ιδιωτικών και ευαίσθητων για την ασφάλεια πληροφοριών.

Τρίτον, η ΤΝ πρέπει να χρησιμοποιείται για την ενδυνάμωση των θεσμών δημοκρατικού ελέγχου. Ο μη αυτόματος έλεγχος της χρήσης ΤΝ στην κυβέρνηση δεν μπορεί να επεκταθεί στην απαιτούμενη κλίμακα. Καθώς η ΤΝ υιοθετείται στην εθνική ασφάλεια και σε άλλους τομείς κυβερνητικού έργου υψηλού διακυβεύματος, πρέπει επίσης να χρησιμοποιείται από τα εποπτικά όργανα με υπεύθυνο και κατανοητό τρόπο, σύμφωνα με τις αρμοδιότητές τους.

Κατά το επόμενο έτος, σχεδιάζουμε να προωθήσουμε αυτή την πρωτοβουλία με τους εξής τρόπους:

• Θα συνεργαστούμε με εξουσιοδοτημένους αξιωματούχους για να εντοπίσουμε πρακτικές ευκαιρίες όπου τα εργαλεία ΤΝ ή η τεχνική υποστήριξη μπορούν να καταστήσουν τον έλεγχο αποτελεσματικότερο.

• Θα διαθέσουμε 5 εκατομμύρια δολάρια σε εκπαίδευση, τεχνική υποστήριξη και μονάδες OpenAI σε όργανα δημοκρατικού ελέγχου κυβερνήσεων, ώστε να υποστηρίξουμε την υπεύθυνη υιοθέτηση και αξιολόγηση εργαλείων ΤΝ.

• Θα συνεργαστούμε με εποπτικούς θεσμούς για την πιλοτική εφαρμογή εργαλείων που θα βοηθούν τους εξουσιοδοτημένους ελεγκτές να εξετάζουν τα αρχεία που αφορούν κυβερνητικές αποφάσεις υποβοηθούμενες από ΤΝ, συμπεριλαμβανομένων των σχετικών εισόδων, εξόδων και της χρήσης εργαλείων, ώστε να κατανοούν καλύτερα πώς η ΤΝ επηρέασε τα αποτελέσματα. Όπου είναι εφικτό, τα εργαλεία θα είναι διαλειτουργικά ή ανεξάρτητα από συγκεκριμένο μοντέλο. Οι συμμετέχοντες θεσμοί, και όχι η OpenAI, θα διατηρούν τον έλεγχο των αποδεικτικών στοιχείων, των αποτελεσμάτων και των ευρημάτων, τα οποία θα παραμένουν διαθέσιμα μόνο σε εξουσιοδοτημένους κυβερνητικούς αξιωματούχους.

• Θα συνεργαστούμε με την κοινωνία των πολιτών και με τεχνικούς εμπειρογνώμονες, ώστε οι απόψεις τους να λαμβάνονται υπόψη στον τρόπο με τον οποίο η OpenAI αναπτύσσει αυτά τα εργαλεία και αντιμετωπίζει τις ευθύνες που τα συνοδεύουν.

Η ΤΝ μπορεί να συγκεντρώσει την εξουσία ή να βοηθήσει τους δημοκρατικούς θεσμούς να την ασκούν και να την ελέγχουν αποτελεσματικότερα. Η τεχνολογία από μόνη της δεν θα καθορίσει ποιο μέλλον θα έχουμε· θα το καθορίσουν όμως οι επιλογές που κάνουν σήμερα οι ανθρώπινοι θεσμοί και οι εταιρείες.

Θα αξιολογούμε την πρόοδο αυτής της πρωτοβουλίας με βάση το κατά πόσο οι εξουσιοδοτημένοι ελεγκτές μπορούν να εκπληρώνουν καλύτερα τις υποχρεώσεις τους και το κοινό έχει ισχυρότερους λόγους να εμπιστεύεται ότι τα κυβερνητικά συστήματα ΤΝ χρησιμοποιούνται όπως προβλέπεται.

Καθώς εξελίσσεται η κυβερνητική χρήση της ΤΝ, η OpenAI θα συνεχίσει να υποστηρίζει τους θεσμούς που είναι αρμόδιοι για τον έλεγχό της.