Η συμφωνία μας με το Υπουργείο Πολέμου
Ενημέρωση 2ας Μαρτίου 2026
Καθ’ όλη τη διάρκεια των συζητήσεών μας, το Υπουργείο κατέστησε σαφές ότι συμμερίζεται τη δέσμευσή μας να διασφαλίσουμε ότι τα εργαλεία μας δεν θα χρησιμοποιηθούν για εγχώρια επιτήρηση. Για να καταστήσουμε τις αρχές μας όσο το δυνατόν πιο σαφείς, συνεργαστήκαμε ώστε να προστεθεί επιπλέον διατύπωση στη συμφωνία μας.
Η διατύπωση αυτή καθιστά ρητό ότι τα εργαλεία μας δεν θα χρησιμοποιηθούν για τη διενέργεια εγχώριας επιτήρησης προσώπων στις ΗΠΑ, συμπεριλαμβανομένης της προμήθειας ή χρήσης προσωπικών ή ταυτοποιήσιμων πληροφοριών που έχουν αποκτηθεί εμπορικά. Το Υπουργείο επιβεβαίωσε επίσης ότι οι υπηρεσίες μας δεν θα χρησιμοποιηθούν από υπηρεσίες πληροφοριών του Υπουργείου Πολέμου, όπως η NSA. Οποιαδήποτε παροχή υπηρεσιών προς τις υπηρεσίες αυτές θα απαιτούσε νέα συμφωνία.
Η νέα διατύπωση έχει ως εξής:
- Σύμφωνα με την ισχύουσα νομοθεσία, συμπεριλαμβανομένων της Τέταρτης Τροποποίησης του Συντάγματος των Ηνωμένων Πολιτειών, του Νόμου Εθνικής Ασφάλειας του 1947 και του Νόμου FISA του 1978, το σύστημα ΤΝ δεν θα χρησιμοποιείται σκόπιμα για εγχώρια επιτήρηση προσώπων ή υπηκόων των ΗΠΑ.
- Προς αποφυγή κάθε αμφιβολίας, το Υπουργείο αντιλαμβάνεται ότι ο περιορισμός αυτός απαγορεύει τη σκόπιμη παρακολούθηση, επιτήρηση ή επιτήρηση δραστηριότητας προσώπων ή υπηκόων των ΗΠΑ, συμπεριλαμβανομένης της προμήθειας ή χρήσης προσωπικών ή ταυτοποιήσιμων πληροφοριών που έχουν αποκτηθεί εμπορικά.
Το Υπουργείο Πολέμου σχεδιάζει να συγκαλέσει μια ομάδα εργασίας αποτελούμενη από ηγετικά στελέχη από τα κορυφαία εργαστήρια ΤΝ, παρόχους cloud και τις κοινότητες πολιτικής και επιχειρησιακής λειτουργίας του Υπουργείου. Η OpenAI θα συμμετάσχει και αναμένουμε ότι αυτό θα αποτελέσει ένα σημαντικό φόρουμ για συνεχή διάλογο σχετικά με τις αναδυόμενες δυνατότητες της ΤΝ, το απόρρητο και τις προκλήσεις εθνικής ασφάλειας στο μέλλον.
Οι ενημερώσεις αυτές βασίζονται στο πλαίσιο που ανακοινώσαμε την περασμένη εβδομάδα και ελπίζουμε ότι θα συμβάλουν στη δημιουργία μιας πορείας ώστε και άλλα εργαστήρια να συνεργαστούν με το Υπουργείο στο μέλλον.
Χθες καταλήξαμε σε συμφωνία με το Πεντάγωνο για την ανάπτυξη προηγμένων συστημάτων ΤΝ σε διαβαθμισμένα περιβάλλοντα, την οποία ζητήσαμε επίσης να καταστεί διαθέσιμη σε όλες τις εταιρείες ΤΝ.
Πιστεύουμε ότι η συμφωνία μας περιλαμβάνει περισσότερες δικλείδες ασφαλείας από οποιαδήποτε προηγούμενη συμφωνία για διαβαθμισμένες αναπτύξεις ΤΝ, συμπεριλαμβανομένης και της Anthropic. Δείτε γιατί.
Έχουμε τρεις βασικές κόκκινες γραμμές που καθοδηγούν τη συνεργασία μας με το Υπουργείο Πολέμου, οι οποίες σε γενικές γραμμές συμμερίζονται και αρκετά άλλα κορυφαία εργαστήρια ΤΝ:
- Καμία χρήση της τεχνολογίας της OpenAI για μαζική εγχώρια επιτήρηση.
- Καμία χρήση της τεχνολογίας της OpenAI για την καθοδήγηση αυτόνομων οπλικών συστημάτων.
- Καμία χρήση της τεχνολογίας της OpenAI για αυτοματοποιημένες αποφάσεις υψηλού κινδύνου (π.χ. συστήματα όπως το «social credit»).
Άλλα εργαστήρια ΤΝ έχουν μειώσει ή αφαιρέσει τις δικλείδες ασφαλείας τους και βασίζονται κυρίως σε πολιτικές χρήσης ως βασικές δικλίδες προστασίας στις αναπτύξεις εθνικής ασφάλειας. Πιστεύουμε ότι η δική μας προσέγγιση προστατεύει καλύτερα από μη αποδεκτή χρήση.
Στη συμφωνία μας προστατεύουμε τις κόκκινες γραμμές μας μέσω μιας πιο εκτεταμένης, πολυεπίπεδης προσέγγισης. Διατηρούμε πλήρη διακριτική ευχέρεια ως προς το σύστημα ασφάλειας μας, αναπτύσσουμε μέσω cloud, εξουσιοδοτημένο προσωπικό της OpenAI συμμετέχει στη διαδικασία και διαθέτουμε ισχυρές συμβατικές προστασίες. Όλα αυτά έρχονται επιπλέον των ισχυρών υφιστάμενων προστασιών στο αμερικανικό δίκαιο.
Πιστεύουμε βαθιά στη δημοκρατία. Δεδομένης της σημασίας αυτής της τεχνολογίας, πιστεύουμε ότι ο μόνος σωστός δρόμος προς τα εμπρός απαιτεί στενή συνεργασία μεταξύ των προσπαθειών για ΤΝ και της δημοκρατικής διαδικασίας. Πιστεύουμε επίσης ότι η τεχνολογία μας θα εισαγάγει νέους κινδύνους στον κόσμο και θέλουμε οι άνθρωποι που υπερασπίζονται τις Ηνωμένες Πολιτείες να έχουν τα καλύτερα εργαλεία.
Η συμφωνία μας περιλαμβάνει:
1. Αρχιτεκτονική ανάπτυξης. Πρόκειται για ανάπτυξη αποκλειστικά μέσω cloud, με ένα σύστημα ασφάλειας που λειτουργούμε εμείς και το οποίο περιλαμβάνει αυτές τις αρχές και άλλες. Δεν παρέχουμε στο Υπουργείο Πολέμου μοντέλα «χωρίς δικλείδες ασφαλείας» ή μοντέλα που δεν έχουν εκπαιδευτεί ως προς την ασφάλεια, ούτε αναπτύσσουμε τα μοντέλα μας σε συσκευές edge (όπου θα μπορούσε να υπάρξει πιθανότητα χρήσης για αυτόνομα θανατηφόρα όπλα).
Η αρχιτεκτονική ανάπτυξης θα μας επιτρέπει να επαληθεύουμε ανεξάρτητα ότι αυτές οι κόκκινες γραμμές δεν παραβιάζονται, συμπεριλαμβανομένης της εκτέλεσης και ενημέρωσης εργαλείων ταξινόμησης.
2. Η σύμβασή μας. Ακολουθεί η σχετική διατύπωση:
Το Υπουργείο Πολέμου μπορεί να χρησιμοποιεί το Σύστημα ΤΝ για κάθε νόμιμο σκοπό, σύμφωνα με το ισχύον δίκαιο, τις επιχειρησιακές απαιτήσεις και τα καθιερωμένα πρωτόκολλα ασφάλειας και εποπτείας. Το Σύστημα ΤΝ δεν θα χρησιμοποιείται για να κατευθύνει αυτόνομα οπλικά συστήματα σε οποιαδήποτε περίπτωση όπου ο νόμος, οι κανονισμοί ή η πολιτική του Υπουργείου απαιτούν ανθρώπινο έλεγχο, ούτε θα χρησιμοποιείται για να αναλαμβάνει άλλες αποφάσεις υψηλού κινδύνου που απαιτούν έγκριση από ανθρώπινο υπεύθυνο λήψης αποφάσεων βάσει των ίδιων εξουσιών. Σύμφωνα με την Οδηγία του Υπουργείου Άμυνας 3000.09 (ημερ. 25 Ιανουαρίου 2023), κάθε χρήση ΤΝ σε αυτόνομα και ημιαυτόνομα συστήματα πρέπει να υποβάλλεται σε αυστηρή επαλήθευση, επικύρωση και δοκιμές ώστε να διασφαλίζεται ότι λειτουργεί όπως προβλέπεται σε ρεαλιστικά περιβάλλοντα πριν από την ανάπτυξη.
Για δραστηριότητες πληροφοριών, οποιαδήποτε διαχείριση ιδιωτικών πληροφοριών θα συμμορφώνεται με την Τέταρτη Τροπολογία, τον Νόμο Εθνικής Ασφάλειας του 1947 και τον Νόμο περί Ξένων Πληροφοριών και Επιτήρησης του 1978, το Εκτελεστικό Διάταγμα 12333 και τις σχετικές οδηγίες του Υπουργείου Άμυνας που απαιτούν καθορισμένο σκοπό ξένων πληροφοριών. Το Σύστημα ΤΝ δεν θα χρησιμοποιείται για ανεξέλεγκτη παρακολούθηση ιδιωτικών πληροφοριών προσώπων στις Ηνωμένες Πολιτείες, σύμφωνα με τις εν λόγω εξουσιοδοτήσεις. Το σύστημα επίσης δεν θα χρησιμοποιείται για δραστηριότητες εγχώριας επιβολής του νόμου, εκτός εάν επιτρέπεται από τον Νόμο Posse Comitatus και άλλη σχετική νομοθεσία.
3. Συμμετοχή ειδικών στην ΤΝ. Θα έχουμε εξουσιοδοτημένους μηχανικούς της OpenAI σε προωθημένη ανάπτυξη να υποστηρίζουν την κυβέρνηση, με εξουσιοδοτημένους ερευνητές ασφάλειας και ευθυγράμμισης στο πλαίσιο της διαδικασίας.
Γιατί το κάνετε αυτό;
Πρώτον, πιστεύουμε ότι ο αμερικανικός στρατός χρειάζεται οπωσδήποτε ισχυρά μοντέλα ΤΝ για να υποστηρίξει την αποστολή του, ιδιαίτερα απέναντι στις αυξανόμενες απειλές από πιθανούς αντιπάλους που ενσωματώνουν ολοένα και περισσότερο τεχνολογίες ΤΝ στα συστήματά τους. Αρχικά δεν προχωρήσαμε σε σύμβαση για διαβαθμισμένη ανάπτυξη, καθώς δεν θεωρούσαμε ότι οι δικλείδες ασφαλείας και τα συστήματά μας ήταν έτοιμα, και έκτοτε εργαζόμαστε εντατικά ώστε μια τέτοια ανάπτυξη να μπορεί να γίνει με εγγυήσεις ότι οι κόκκινες γραμμές δεν θα παραβιαστούν.
Ήμασταν —και παραμένουμε— απρόθυμοι να αφαιρέσουμε βασικές τεχνικές δικλείδες ασφαλείας για να βελτιώσουμε τις επιδόσεις σε έργα εθνικής ασφάλειας. Δεν θεωρούμε ότι αυτή είναι η σωστή προσέγγιση για την υποστήριξη του αμερικανικού στρατού.
Δεύτερον, θέλαμε επίσης να αποκλιμακώσουμε την ένταση μεταξύ του Υπουργείου Πολέμου και των αμερικανικών εργαστηρίων ΤΝ. Ένα θετικό μέλλον θα απαιτήσει πραγματική και βαθιά συνεργασία μεταξύ της κυβέρνησης και των εργαστηρίων ΤΝ. Στο πλαίσιο της συμφωνίας μας ζητήσαμε οι ίδιοι όροι να είναι διαθέσιμοι σε όλα τα εργαστήρια ΤΝ και συγκεκριμένα να προσπαθήσει η κυβέρνηση να επιλύσει την κατάσταση με την Anthropic. Η τρέχουσα κατάσταση είναι ένας πολύ κακός τρόπος για να ξεκινήσει αυτή η επόμενη φάση συνεργασίας μεταξύ κυβέρνησης και εργαστηρίων ΤΝ.
Γιατί μπορέσατε να καταλήξετε σε συμφωνία ενώ η Anthropic όχι; Υπογράψατε τη συμφωνία που εκείνοι δεν δέχτηκαν;
Με βάση όσα γνωρίζουμε, πιστεύουμε ότι η σύμβασή μας παρέχει καλύτερες εγγυήσεις και πιο υπεύθυνες δικλείδες ασφαλείας από προηγούμενες συμφωνίες, συμπεριλαμβανομένης της αρχικής σύμβασης της Anthropic. Πιστεύουμε ότι οι κόκκινες γραμμές μας είναι πιο εφαρμόσιμες εδώ επειδή η ανάπτυξη περιορίζεται αποκλειστικά σε cloud (όχι στο edge), διατηρεί το σύστημα ασφάλειας μας να λειτουργεί με τον τρόπο που θεωρούμε καλύτερο και κρατά εξουσιοδοτημένο προσωπικό της OpenAI στο πλαίσιο της διαδικασίας.
Δεν γνωρίζουμε γιατί η Anthropic δεν μπόρεσε να καταλήξει σε αυτή τη συμφωνία και ελπίζουμε ότι εκείνοι, και περισσότερα εργαστήρια, θα την εξετάσουν.
Πιστεύετε ότι η Anthropic θα πρέπει να χαρακτηριστεί ως «επικίνδυνη για την εφοδιαστική αλυσίδα»;
Όχι και έχουμε καταστήσει σαφή τη θέση μας αυτή στην κυβέρνηση.
Θα επιτρέψει αυτή η συμφωνία στο Υπουργείο Πολέμου να χρησιμοποιεί μοντέλα της OpenAI για τη λειτουργία αυτόνομων όπλων;
Όχι. Με βάση το σύστημα ασφάλειας μας, την ανάπτυξη αποκλειστικά μέσω cloud, τη διατύπωση της σύμβασης και την ισχύουσα νομοθεσία, τους κανονισμούς και τις πολιτικές, είμαστε βέβαιοι ότι αυτό δεν μπορεί να συμβεί. Θα υπάρχει επίσης προσωπικό της OpenAI στο πλαίσιο της διαδικασίας για πρόσθετη διασφάλιση.
Θα επιτρέψει αυτή η συμφωνία στο Υπουργείο Πολέμου να χρησιμοποιεί τα μοντέλα OpenAI για να διεξάγει μαζική επιτήρηση σε πρόσωπα στις ΗΠΑ;
Όχι. Με βάση το σύστημα ασφάλειας μας, τη διατύπωση της σύμβασης και τους ισχύοντες νόμους που περιορίζουν αυστηρά το Υπουργείο Πολέμου από την εγχώρια επιτήρηση, είμαστε βέβαιοι ότι αυτό δεν μπορεί να συμβεί. Θα υπάρχει επίσης προσωπικό της OpenAI στο πλαίσιο της διαδικασίας για πρόσθετη διασφάλιση.
Πρέπει να αναπτύξετε μοντέλα χωρίς σύστημα ασφάλειας;
Όχι. Διατηρούμε πλήρη έλεγχο του συστήματος ασφάλειας που αναπτύσσουμε και δεν θα αναπτύξουμε μοντέλα χωρίς δικλείδες ασφαλείας. Επιπλέον, οι ερευνητές ασφάλειας και ευθυγράμμισής μας θα συμμετέχουν στη διαδικασία και θα βοηθούν στη βελτίωση των συστημάτων με την πάροδο του χρόνου. Γνωρίζουμε ότι άλλα εργαστήρια ΤΝ έχουν μειώσει τις δικλείδες ασφαλείας των μοντέλων και βασίζονται στις πολιτικές χρήσης ως κύρια προστασία, όμως πιστεύουμε ότι η πολυεπίπεδη προσέγγισή μας προστατεύει καλύτερα από μη αποδεκτή χρήση.
Τι συμβαίνει αν η κυβέρνηση παραβιάσει τους όρους της σύμβασης;
Όπως σε κάθε σύμβαση, θα μπορούσαμε να την καταγγείλουμε αν το άλλο μέρος παραβιάσει τους όρους. Δεν αναμένουμε να συμβεί κάτι τέτοιο.
Τι γίνεται αν η κυβέρνηση απλώς αλλάξει τον νόμο ή τις υφιστάμενες πολιτικές του Υπουργείου Πολέμου;
Η σύμβασή μας αναφέρεται ρητά στους νόμους και τις πολιτικές για την επιτήρηση και τα αυτόνομα όπλα όπως ισχύουν σήμερα, ώστε ακόμη και αν αυτοί αλλάξουν στο μέλλον, η χρήση των συστημάτων μας να πρέπει να παραμένει ευθυγραμμισμένη με τα τρέχοντα πρότυπα που αντικατοπτρίζονται στη συμφωνία.
Πώς απαντάτε στα επιχειρήματα που διατύπωσε (ανοίγει σε νέο παράθυρο) η Anthropic στην ανάρτηση στο ιστολόγιο της σχετικά με τις συζητήσεις της με το Υπουργείο Πολέμου;
Στην ανάρτησή της η Anthropic αναφέρει δύο από τις κόκκινες γραμμές της (έχουμε τις ίδιες δύο, συν μια τρίτη: αυτοματοποιημένη λήψη αποφάσεων υψηλού κινδύνου) και τους λόγους για τους οποίους θεωρούσε ότι αυτές οι κόκκινες γραμμές δεν θα τηρούνταν στις συμβάσεις που είχε δει τότε από το Υπουργείο Πολέμου. Παρακάτω εξηγούμε γιατί πιστεύουμε ότι αυτές οι ίδιες κόκκινες γραμμές θα τηρούνται στη δική μας σύμβαση:
- Μαζική εγχώρια επιτήρηση. Από τη μεταξύ μας επικοινωνία ήταν σαφές ότι το Υπουργείο Πολέμου θεωρεί τη μαζική εγχώρια επιτήρηση παράνομη και δεν σχεδίαζε να χρησιμοποιήσει τα συστήματα για αυτόν τον σκοπό. Διασφαλίσαμε ότι το γεγονός πως δεν καλύπτεται από τη νόμιμη χρήση αποτυπώνεται ρητά στη σύμβασή μας.
- Πλήρως αυτόνομα όπλα. Το πεδίο ανάπτυξης μέσω cloud που καλύπτεται στη σύμβασή μας δεν θα επέτρεπε την υποστήριξη πλήρως αυτόνομων όπλων, καθώς κάτι τέτοιο θα απαιτούσε ανάπτυξη στο edge.
Επιπλέον αυτών των προστασιών, η σύμβασή μας προσφέρει πρόσθετες πολυεπίπεδες δικλείδες ασφαλείας, συμπεριλαμβανομένου του συστήματος ασφάλειας μας και της συμμετοχής τεχνικών ειδικών της OpenAI στη διαδικασία.
