Πρότυπα για την επόμενη φάση της ΤΝ
Αποστολή μας είναι να διασφαλίσουμε ότι η τεχνητή γενική νοημοσύνη ωφελεί ολόκληρη την ανθρωπότητα. Όπως περιέγραψε πρόσφατα ο Sam Altman μαζί με τον Jakub Pachocki, ιεραρχούμε τις εργασίες μας για την επίτευξη αυτής της αποστολής βάσει τριών κύριων στόχων:
Να διαχειριστούμε την επόμενη περίοδο προόδου της ΤΝ, δημιουργώντας έναν αυτοματοποιημένο ερευνητή ΤΝ, συνεργαζόμενοι μαζί του επαναληπτικά για την επίλυση του προβλήματος της ευθυγράμμισης και βρίσκοντας τρόπους ώστε οι άνθρωποι να παραμείνουν μέρος του κύκλου αυτοβελτίωσης.
Να προσφέρουμε τα οφέλη της επιστημονικής προόδου και της οικονομικής ανάπτυξης που καθιστούν δυνατά οι εξαιρετικά ευφυείς μηχανές.
Να ενδυναμώσουμε κάθε άνθρωπο ξεχωριστά με μια προσωπική AGI.
Η ΤΝ επιταχύνει τη δική μας έρευνα και μηχανική, ενώ η έρευνα με τη βοήθεια της ΤΝ έχει οδηγήσει σε προόδους στα μαθηματικά, μεταξύ άλλων στο Πρόβλημα της Χιλιετίας Navier-Stokes. Αυτή η πρόοδος δημιουργεί μεγάλες προσδοκίες για τους άλλους δύο στόχους μας, οι οποίοι θα μπορούσαν να οδηγήσουν σε σημαντικές ανακαλύψεις στην ιατρική, σε ευρέως προσβάσιμη υγειονομική περίθαλψη και στην οικονομική ενδυνάμωση μικρών επιχειρήσεων και μεμονωμένων επιχειρηματιών παντού.
Η ΤΝ εξελίσσεται σε πολλές εταιρείες και χώρες, ενώ η πρόοδος σε ολόκληρο τον κλάδο μεταβάλλει τις ευκαιρίες και τις προκλήσεις που αντιμετωπίζουν όλοι. Παράλληλα με τα άλλα οφέλη της, μια ικανή και ευθυγραμμισμένη ΤΝ θα διαδραματίσει σημαντικό ρόλο στη διαχείριση αυτής της μετάβασης, ενισχύοντας την άμυνα, προωθώντας την έρευνα για την ευθυγράμμιση και βοηθώντας τους ανθρώπους να κατανοήσουν και να καθοδηγήσουν τα επόμενα στάδια ανάπτυξης της ΤΝ.
Η ασφαλής διαχείριση αυτής της μετάβασης απαιτεί η έρευνα για την ευθυγράμμιση να συμβαδίζει με αυτές τις δυνατότητες, ώστε τα συστήματα που δημιουργούμε εμείς και άλλοι να παραμένουν ευθυγραμμισμένα με τις ανθρώπινες αξίες και υπό ανθρώπινο έλεγχο. Αυτό αποκτά ολοένα μεγαλύτερη σημασία καθώς τα συστήματα ΤΝ γίνονται ικανότερα και πιο αυτόνομα, μεταξύ άλλων αναλαμβάνοντας μεγαλύτερο μέρος της ίδιας της έρευνας και ανάπτυξης της ΤΝ. Για να παραμείνει η πρόοδος της ΤΝ ασφαλής και επωφελής, θα απαιτηθούν τόσο εξελίξεις στην έρευνα για την ευθυγράμμιση όσο και κοινά πρότυπα που θα καθοδηγούν την ανάπτυξη σε εργαστήρια και χώρες.
Η αυτοματοποιημένη έρευνα ΤΝ μπορεί να περιλαμβάνει διαφορετικούς βαθμούς ανθρώπινης εποπτείας. Καθώς τα συστήματα ΤΝ αναλαμβάνουν μεγαλύτερο μέρος της ανάπτυξης διαδοχικών γενεών ΤΝ, μπορούν να προωθούν ολοένα περισσότερο μια διαδικασία αναδρομικής αυτοβελτίωσης (RSI), ακόμη και με τη συμμετοχή ανθρώπων. Καθώς αυτή η διαδικασία αυτοματοποιείται περισσότερο, ο ρυθμός προόδου της ΤΝ θα μπορούσε να επιταχυνθεί ραγδαία.
Πιστεύουμε ότι η αυτοματοποιημένη έρευνα ΤΝ θα αποφέρει μοντέλα που βελτιώνουν άμεσα τη ζωή των ανθρώπων. Μπορεί να μειώσει το κόστος της προηγμένης νοημοσύνης, ώστε να επωφεληθούν άνθρωποι σε όλο τον κόσμο. Η αυτοματοποιημένη έρευνα θα μπορούσε επίσης να μας βοηθήσει να βελτιώσουμε ουσιαστικά την ευθυγράμμιση και να δημιουργήσουμε άμυνες απέναντι σε ολοένα ικανότερη ΤΝ — ένας αυτοματοποιημένος ερευνητής ΤΝ μπορεί να είναι και αυτοματοποιημένος ερευνητής της ασφάλειας της ΤΝ. Ικανότερα και ευθυγραμμισμένα συστήματα θα μπορούσαν να συμβάλουν στην προστασία κρίσιμων υποδομών, στην άμυνα απέναντι σε επικίνδυνους πράκτορες ΤΝ και στην ανάπτυξη νέων μέτρων προστασίας.
Η πλήρως αυτόνομη RSI δεν συμβαίνει σήμερα και δεν πρέπει να την επιδιώξουμε παρά μόνο εάν και όταν μπορεί να πραγματοποιηθεί με ασφάλεια. Η απόφαση για το αν και πώς θα προχωρήσουμε πρέπει να εξαρτάται από την ικανότητά μας να διατηρήσουμε τον ανθρώπινο έλεγχο και από ενημερωμένες δημοκρατικές επιλογές(ανοίγει σε νέο παράθυρο) σχετικά με τα οφέλη και τους κινδύνους. Αν πραγματοποιηθεί χωρίς την κατάλληλη επιμέλεια και προσοχή, η RSI θα μπορούσε να οδηγήσει σε απώλεια του ουσιαστικού ανθρώπινου ελέγχου επί της ανάπτυξης της ΤΝ, καθώς οι άνθρωποι δεν θα μπορούν να εποπτεύουν ερευνητικές διαδικασίες που πλέον δεν κατανοούν. Από εκεί και πέρα, η ΤΝ θα μπορούσε να γίνει πιο επικίνδυνη, λιγότερο ευθυγραμμισμένη και, συνολικά, να αποτελέσει κίνδυνο για τους ανθρώπους. Το περιστατικό στο Hugging Face που γνωστοποιήσαμε, παρότι δεν ήταν άμεσο αποτέλεσμα της RSI, αποτελεί μια πρώτη εικόνα των κινδύνων που θα μπορούσαν να γίνουν πολύ σοβαρότεροι χωρίς ισχυρές δικλίδες ασφαλείας και ευθυγράμμιση.
Τα διεθνή πρότυπα για πρακτικές ασφάλειας και προστασίας κατά την ανάπτυξη κορυφαίας ΤΝ ενδέχεται να είναι εξίσου σημαντικά για τη ρύθμιση του ρυθμού προόδου της όσο και η ίδια η έρευνα για την ευθυγράμμιση. Τα πρότυπα μπορούν να διαμορφώσουν κοινούς ορισμούς για τα αποδεικτικά στοιχεία υψηλής ποιότητας και συμφωνημένες βάσεις αναφοράς για την αυστηρότητα των τεχνικών δικλίδων ασφαλείας. Με λίγα λόγια, μας βοηθούν να απαντήσουμε στο ερώτημα: «Πώς μοιάζει η ορθή αντιμετώπιση του καταστροφικού κινδύνου από την ΤΝ;»
Υφιστάμενοι δημοκρατικοί θεσμοί, όπως το Center for AI Standards and Innovation (CAISI), οι πολιτειακοί νόμοι και ένα ομοσπονδιακό πλαίσιο για την ΤΝ, μπορούν να συμβάλουν σε αυτό, όπως και νέες μορφές συμπράξεων δημόσιου και ιδιωτικού τομέα(ανοίγει σε νέο παράθυρο). Ωστόσο, η ανάπτυξη και η εφαρμογή της ΤΝ πραγματοποιούνται σε πολλές χώρες, η υιοθέτησή της είναι παγκόσμια και οι επιπτώσεις της πιθανότατα θα γίνουν αισθητές από όλους, με κάποιον τρόπο και σε κάποια χρονική στιγμή.
Επομένως, απαιτούνται διεθνείς προσπάθειες ανάπτυξης προτύπων για την αντιμετώπιση ορισμένων βασικών προκλήσεων:
Κατακερματισμός — Οι αξιολογήσεις, οι απαιτήσεις υποβολής αναφορών και οι ορισμοί περιστατικών από διαφορετικά κράτη ενδέχεται να συγκρούονται, δυσχεραίνοντας τη σύγκριση στοιχείων, την κατανόηση αναδυόμενων δυνατοτήτων και την αντιμετώπιση διασυνοριακών κινδύνων.
Συλλογική δράση — Όταν κάθε κράτος ενεργεί ανεξάρτητα, μπορεί να προκύψουν αποτελέσματα που κανένα κράτος δεν επιθυμεί. Η RSI μπορεί να επιταχύνει την ίδια την έρευνα για την ΤΝ, ενδεχομένως πέρα από τη συλλογική μας ικανότητα να κατανοούμε την πρόοδο, να αξιολογούμε τους κινδύνους και να διατηρούμε ουσιαστική ανθρώπινη εποπτεία.
Άνιση δυναμικότητα — Η ανάπτυξη κορυφαίας ΤΝ και η σχετική τεχνογνωσία δεν κατανέμονται ομοιόμορφα σε όλο τον κόσμο. Αυτό οξύνει και τα δύο παραπάνω προβλήματα.
Αυτές οι προκλήσεις αφορούν τόσο τα ανοικτά όσο και τα κλειστά μοντέλα.
Για να είμαστε σαφείς, κάθε εργαστήριο ΤΝ που επιδιώκει αυτοματοποιημένη έρευνα ΤΝ ή άλλες προηγμένες δυνατότητες πρέπει να αναλαμβάνει την ευθύνη για την ασφαλή υλοποίησή τους, σύμφωνα με βασικές αρχές ατομικής ευθύνης και την ισχύουσα νομοθεσία. Το σκεπτικό μας υπέρ των προτύπων βασίζεται στην αποφυγή της συγκέντρωσης εξουσίας και στην επίτευξη καλύτερων πρακτικών αποτελεσμάτων. Τα πρότυπα επιτρέπουν σε περισσότερα ενδιαφερόμενα μέρη εκτός των εργαστηρίων να έχουν λόγο στον τρόπο εξέλιξης αυτής της τεχνολογίας και παρέχουν ένα ορατό σύνολο αρχών στο οποίο μπορεί κανείς να βασίζεται, ανεξάρτητα από τις επιμέρους πρακτικές οποιουδήποτε εργαστηρίου. Και πιθανότατα θα πετύχουμε καλύτερα αποτελέσματα, αν τα εμπλεκόμενα μέρη συνεργαστούν για την αντιμετώπιση των παραπάνω προκλήσεων.
Γι’ αυτό πιστεύουμε ότι οι Ηνωμένες Πολιτείες πρέπει να ηγηθούν μιας προσπάθειας συνεργασίας με χώρες από όλο τον κόσμο για την ανάπτυξη παγκόσμιων τεχνικών προτύπων για την κορυφαία ΤΝ, συμπεριλαμβανομένης της RSI.
Παρότι αναμένουμε ότι αυτή η ιδέα θα εξελιχθεί σημαντικά με την πάροδο του χρόνου, δύο πτυχές θα είναι ουσιώδεις.
Ένας τρόπος επίτευξης αυτού του στόχου θα ήταν η αξιοποίηση του αναδυόμενου δικτύου ινστιτούτων ασφάλειας της ΤΝ —όπως εκείνων που έχουν ήδη ιδρυθεί στην Αυστραλία, τον Καναδά, τη Γερμανία, τη Γαλλία, την Κένυα, την Ιαπωνία, την Κορέα, τη Σιγκαπούρη, την Ινδία και το Ηνωμένο Βασίλειο— για τη διευκόλυνση της θέσπισης προτύπων μέσω του CAISI και εθνικών κλαδικών φορέων, με ιδιαίτερη έμφαση: (1) στα μοντέλα και στους φορείς ανάπτυξης κορυφαίας ΤΝ, βάσει δεικτών αναφοράς δυνατοτήτων· και (2) στη διαχείριση οφέλους-κινδύνου για την αυτοματοποιημένη έρευνα ΤΝ, συμπεριλαμβανομένης της RSI. Οι Ηνωμένες Πολιτείες μπορούν να αξιοποιήσουν ως βάση τη δημιουργία από το CAISI του Διεθνούς Δικτύου Μέτρησης, Αξιολόγησης και Επιστήμης Προηγμένης ΤΝ(ανοίγει σε νέο παράθυρο) το 2024, το οποίο έφερε κοντά δημόσιους φορείς για συνεργασία στη μέτρηση, την αξιολόγηση και την επιστήμη της ΤΝ.
Τα πρότυπα που θα αναπτυχθούν μέσω αυτής της προσπάθειας θα παρέχουν μια κοινή τεχνική βάση για τη μέτρηση και την αξιολόγηση δυνατοτήτων, την εκτίμηση κινδύνων και την επάρκεια των δικλίδων ασφαλείας. Αυτά τα τεχνικά πρότυπα δεν θα αποτελούν άδειες, υποχρεωτικούς ελέγχους πριν από την κυκλοφορία ή απαιτήσεις έγκρισης για μοντέλα ΤΝ. Οι εθνικές κυβερνήσεις θα αποφασίζουν αν και πώς θα ενσωματώνουν αυτά τα πρότυπα στα νομικά τους συστήματα.
Αυτή η εργασία θα πρέπει επίσης να στηρίζει ένα ανταγωνιστικό οικοσύστημα ΤΝ, μέσω διαβούλευσης με φορείς ανάπτυξης ανοικτών και κλειστών μοντέλων, ανεξάρτητους τεχνικούς εμπειρογνώμονες και την ακαδημαϊκή κοινότητα. Τα κοινά πρότυπα πρέπει να αναπτύσσονται με διαφάνεια και να σχεδιάζονται έτσι ώστε να μην ευνοούν συγκεκριμένες εταιρείες, χώρες ή επιχειρηματικά μοντέλα, μεταξύ άλλων δυσχεραίνοντας τον ανταγωνισμό για νεοεισερχόμενους ή φορείς ανάπτυξης μοντέλων ανοικτών βαρών.
Όπως έχουμε προτείνει(ανοίγει σε νέο παράθυρο), αυτή η προσέγγιση μπορεί να αντλήσει διδάγματα από τομείς όπως η αεροπορία και η χρηματοπιστωτική σταθερότητα, όπου οι χώρες έχουν αναπτύξει κοινά τεχνικά πρότυπα και αξιόπιστους διαύλους συνεργασίας χωρίς να εκχωρούν την εθνική τους αρμοδιότητα. Θα πρέπει επίσης να συνεργάζεται στενά με καθιερωμένους και νεότερους οργανισμούς προτύπων, όπως ο ISO(ανοίγει σε νέο παράθυρο), το Frontier Model Forum(ανοίγει σε νέο παράθυρο), το Agentic AI Foundation(ανοίγει σε νέο παράθυρο) και το Open Secure AI Alliance(ανοίγει σε νέο παράθυρο), καθώς και με οργανισμούς που εστιάζουν στην εφαρμογή, όπως το Appia Foundation, το οποίο αναπτύσσει πρακτικές προδιαγραφές που συνδέουν τα διεθνή πρότυπα με πραγματικές αξιολογήσεις ΤΝ.
Τα διεθνή πρότυπα ΤΝ θα είναι ιδιαίτερα κρίσιμα για τη διαχείριση της αυξανόμενης αυτονομίας στην έρευνα ΤΝ και της αναδρομικής αυτοβελτίωσης. Συγκεκριμένα, θα μπορούσαν να περιλαμβάνουν πρότυπα για:
Την αξιολόγηση της προόδου της ΤΝ που σχετίζεται με την RSI και της έκτασης της αυτόνομης έρευνας που διεξάγεται εντός μιας εταιρείας ΤΝ. Η πρόσφατη έκθεσή μας σχετικά με την επιτάχυνση της έρευνας αποτελεί μια πρώτη συμβολή σε αυτή την προσπάθεια.
Την ανθρώπινη εποπτεία της αυτοματοποιημένης έρευνας ΤΝ, συμπεριλαμβανομένου του ποια είδη αυτοματοποιημένων ερευνητικών διαδικασιών ΤΝ πρέπει να ενεργοποιούν άμεσο ανθρώπινο έλεγχο.
Την ταξινόμηση, την παρακολούθηση, την αναφορά και την αντιμετώπιση περιστατικών που αφορούν ζητήματα ευθυγράμμισης και αυτοματοποιημένης έρευνας ΤΝ, όπως κοινά επίπεδα σοβαρότητας περιστατικών και όρια υποχρεωτικής αναφοράς. Το πλαίσιό μας για την αναφορά περιπτώσεων εσφαλμένης ευθυγράμμισης αποτελεί μια πρώτη συμβολή.
Πέρα από αυτά τα πρότυπα, πιστεύουμε ότι είναι σημαντικό οι φορείς εκμετάλλευσης κρίσιμων υποδομών και οι κυβερνήσεις παγκοσμίως να δημιουργήσουν ασφαλείς διαύλους επικοινωνίας, ώστε να ανταλλάσσουν προβληματισμούς εθνικής ασφάλειας, αναδυόμενες ευπάθειες και απειλές, καθώς και βέλτιστες πρακτικές στον ταχέως εξελισσόμενο τομέα της ασφάλειας κορυφαίας ΤΝ. Ο διάλογος μεταξύ των Ηνωμένων Πολιτειών και της Κίνας σε αυτούς τους τομείς θα αποτελούσε θετικό βήμα, ενώ οι επικείμενες συνομιλίες πραγματοποιούνται σε κατάλληλη χρονική συγκυρία.
Η ρύθμιση του ρυθμού ανάπτυξης της ΤΝ δεν σημαίνει διατήρηση μιας προκαθορισμένης ταχύτητας. Σε τεχνικό επίπεδο, σημαίνει να διασφαλίζεται ότι η έρευνα για την ευθυγράμμιση και η εφαρμογή των αποτελεσμάτων της προηγούνται των δυνατοτήτων. Σε κοινωνικό επίπεδο, σημαίνει αξιοποίηση προτύπων, θεσμών και συνεργασιών για την ενίσχυση δικτύων του κλάδου, κοινωνικών σχέσεων και δυνάμεων της αγοράς, ώστε να προκύπτουν αποτελέσματα αμοιβαίου οφέλους. Η πρόσφατη έκκληση για συλλογική δράση στην κυβερνοάμυνα αποτελεί παράδειγμα του δεύτερου.
Οι Ηνωμένες Πολιτείες βρίσκονται σε καλή θέση για να ηγηθούν, επειδή ο κλάδος της ΤΝ στη χώρα βρίσκεται στην κορυφή της τεχνολογικής προόδου και η χώρα εξακολουθεί να κατέχει προνομιακή θέση στο παγκόσμιο δίκτυο κρίσιμων τομέων, όπως τα χρηματοοικονομικά, το εμπόριο, η άμυνα, η τεχνολογία και τα συστήματα πληροφοριών. Η ανάληψη ηγετικού ρόλου τώρα θα καθορίσει αν οι Ηνωμένες Πολιτείες θα διαμορφώσουν το παγκόσμιο πλαίσιο για την ΤΝ ή θα παρακολουθούν ένα κατακερματισμένο, άνισο και συγκρουσιακό σύστημα να εδραιώνεται γύρω τους. Αυτό θα καθορίσει επίσης αν η προηγμένη ΤΝ θα ενισχύσει τα υφιστάμενα δίκτυα των Ηνωμένων Πολιτειών και των συμμάχων τους· η αποτυχία ανάληψης ηγετικού ρόλου ενδέχεται να τα αποδυναμώσει.
Ο γεωπολιτικός ανταγωνισμός δεν θα αφορά μόνο το ποιος προηγείται τεχνολογικά, αλλά και την υιοθέτηση και τη διάδοση της ΤΝ. Η διάδοση ενδέχεται ολοένα και περισσότερο να καθορίζεται από εκείνον που προωθεί ρεαλιστική συνεργασία και λογικούς κανόνες, τους οποίους θα επιζητούν οι επιχειρήσεις και οι κοινωνίες παντού, εφόσον πρόκειται να εμπιστευτούν το μέλλον τους σε αυτή την τεχνολογία.
Η ισχυρή εθνική διακυβέρνηση, συνδεδεμένη μέσω πρακτικής διεθνούς συνεργασίας, προσφέρει μια πορεία προς ισχυρότερες δικλίδες ασφαλείας, συνεχή καινοτομία και ευρεία πρόσβαση στα οφέλη της ΤΝ.
