Προώθηση ανεξάρτητης έρευνας για την ευθυγράμμιση της τεχνητής νοημοσύνης

Καθώς τα συστήματα ΤΝ γίνονται πιο ικανά και πιο αυτόνομα, η έρευνα για την ευθυγράμμιση πρέπει να συμβαδίζει και να επεκτείνει την ποικιλομορφία. Στην OpenAI, επενδύουμε σημαντικά στην κορυφαία έρευνα για την ευθυγράμμιση και την ασφάλεια, καθώς είναι κρίσιμη για την αποστολή μας. Πιστεύουμε επίσης ότι η διασφάλιση ότι η Τεχνητή Γενική Νοημοσύνη (AGI) είναι ασφαλής και ωφέλιμη για όλους δεν μπορεί να επιτευχθεί από έναν μόνο οργανισμό και θέλουμε να υποστηρίξουμε ανεξάρτητη έρευνα και εννοιολογικές προσεγγίσεις που μπορούν να επιδιωχθούν εκτός των κορυφαίων εργαστηρίων. Πιστεύουμε ότι το μέλλον της Τεχνητής Νοημοσύνης δεν θα εξελιχθεί ακριβώς όπως το προβλέπει κανείς και ότι πολύ περισσότεροι άνθρωποι θα πρέπει να έχουν λόγο στη διαμόρφωση του αποτελέσματος.

Σήμερα, ανακοινώνουμε μια επιχορήγηση ύψους 7,5 εκατ. δολαρίων στο The Alignment Project⁠(ανοίγει σε νέο παράθυρο), ένα παγκόσμιο ταμείο για ανεξάρτητη έρευνα ευθυγράμμισης που δημιουργήθηκε από το Ινστιτούτο Ασφάλειας ΤΝ του Ηνωμένου Βασιλείου (UK AISI). Η Renaissance Philanthropy υποστηρίζει τη διαχείριση της επιχορήγησης. Αυτή η συνεισφορά βοηθά να καταστεί το The Alignment Project μία από τις μεγαλύτερες αποκλειστικές χρηματοδοτικές προσπάθειες για ανεξάρτητη έρευνα ευθυγράμμισης μέχρι σήμερα και ενισχύει το ευρύτερο, ανεξάρτητο οικοσύστημα.

Κορυφαία εργαστήρια όπως η OpenAI βρίσκονται σε μια μοναδική θέση να επιδιώξουν έρευνα ευθυγράμμισης που εξαρτάται από την πρόσβαση σε κορυφαία μοντέλα και σημαντική υπολογιστική ισχύ —εργασία που συχνά είναι δύσκολο να διερευνήσουν ανεξάρτητοι ερευνητές. Αφιερώνουμε μεγάλο μέρος της εσωτερικής μας προσπάθειας ευθυγράμμισης στην ανάπτυξη κλιμακούμενων μεθόδων, ώστε η πρόοδος της ευθυγράμμισης να συμβαδίζει με την πρόοδο των δυνατοτήτων. Πιστεύουμε στην επαναληπτική υλοποίηση, με σταδιακή αύξηση των δυνατοτήτων και ενίσχυση των δικλείδων ασφαλείας, η οποία βοηθά να εντοπίζονται τα προβλήματα νωρίς και μας παρέχει συγκεκριμένα στοιχεία για το τι λειτουργεί στην πράξη. Επιπλέον, η υπεύθυνη ανάπτυξη απαιτεί σημαντική εργασία ευθυγράμμισης και ασφάλειας, στενά ενσωματωμένη με την ανάπτυξη και την υλοποίηση του μοντέλου.

Παράλληλα, ο τομέας επωφελείται από τη συνεχή επένδυση σε ανεξάρτητη, διερευνητικού τύπου έρευνα, η οποία μπορεί να διευρύνει τον χώρο των ιδεών και να αποκαλύψει νέες κατευθύνσεις. Η ανεξάρτητη έρευνα παραμένει ουσιώδης. Σε πολλά είδη χρήσιμης διερεύνησης, τα εργαστήρια δεν διατηρούν συγκριτικό πλεονέκτημα. Ένα υγιές οικοσύστημα ευθυγράμμισης εξαρτάται από ανεξάρτητες ομάδες που δοκιμάζουν ποικίλες παραδοχές, αναπτύσσουν εναλλακτικά πλαίσια και διερευνούν εννοιολογικές, θεωρητικές και βασικές ιδέες που μπορεί να μην ευθυγραμμίζονται εύκολα με τον οδικό χάρτη οποιουδήποτε οργανισμού.

Και επειδή η πρόοδος προς την Τεχνητή Γενική Νοημοσύνη (AGI) μπορεί τελικά να εξαρτηθεί από θεμελιώδεις ανακαλύψεις που αλλάζουν τη μορφή του προβλήματος της ευθυγράμμισης και τις προσεγγίσεις που είναι πιο χρήσιμες, είναι σημαντικό να υποστηρίζουμε έρευνα που θα είχε σημασία ακόμη και αν οι κυρίαρχες μέθοδοι του σήμερα αποδειχθούν ότι δεν κλιμακώνονται με τον τρόπο που περιμένουμε. Σε αυτούς τους κόσμους, είναι ιδιαίτερα σημαντικό να υπάρχει ένα ισχυρό εξωτερικό οικοσύστημα που να εκτελεί θεμελιώδη, εννοιολογική και μη συσχετισμένη εργασία. Το πρόβλημα της ευθυγράμμισης και της ασφάλειας της τεχνητής νοημοσύνης είναι εξαιρετικής σημασίας, και χρειαζόμαστε τη συμβολή όλων, καθώς δεν γνωρίζουμε ακόμη ποιες προσεγγίσεις θα αποδειχθούν πιο ανθεκτικές καθώς οι δυνατότητες συνεχίζουν να εξελίσσονται.

Η επιχορήγησή μας —περίπου 5,6 εκατομμύρια λίρες Αγγλίας με τις τρέχουσες συναλλαγματικές ισοτιμίες— θα συγχρηματοδοτήσει το The Alignment Project⁠(ανοίγει σε νέο παράθυρο) από κοινού με άλλους δημόσιους, φιλανθρωπικούς και βιομηχανικούς υποστηρικτές. Το συνολικό ταμείο υπερβαίνει τα 27 εκατομμύρια λίρες Αγγλίας και έχει σχεδιαστεί για να υποστηρίξει ένα ευρύ χαρτοφυλάκιο ερευνητικών έργων ευθυγράμμισης παγκοσμίως, καλύπτοντας θέματα τόσο διαφορετικά όσο η θεωρία υπολογιστικής πολυπλοκότητας, η οικονομική θεωρία και η θεωρία παιγνίων, η γνωσιακή επιστήμη, καθώς και η θεωρία πληροφορίας και η κρυπτογραφία. Τα μεμονωμένα έργα χρηματοδοτούνται συνήθως με 50.000 έως 1 εκατομμύριο λίρες Αγγλίας και ενδέχεται επίσης να λάβουν προαιρετική πρόσβαση σε υπολογιστικούς πόρους και υποστήριξη από ειδικούς.

Η χρηματοδότησή μας δεν δημιουργεί νέο πρόγραμμα ή διαδικασία επιλογής, ούτε επηρεάζει την υπάρχουσα διαδικασία, αλλά αυξάνει τον αριθμό των ήδη αξιολογημένων, υψηλής ποιότητας έργων⁠(ανοίγει σε νέο παράθυρο) που μπορούν να χρηματοδοτηθούν στον τρέχοντα γύρο.

Το UK AISI είναι σε καλή θέση να κατευθύνει τη χρηματοδότηση ευθυγράμμισης σε αυτή την κλίμακα και το εύρος. Φέρνει έναν καθιερωμένο διατομεακό συνασπισμό που εκτείνεται στην κυβέρνηση, τον ακαδημαϊκό χώρο, τη φιλανθρωπία και τη βιομηχανία, μαζί με έναν αγωγό επιχορηγήσεων που βρίσκεται ήδη σε εξέλιξη και μια μεγάλη δεξαμενή προτάσεων που έχουν υποβληθεί σε αξιολόγηση από ειδικούς. Ως ερευνητικός οργανισμός της κυβέρνησης του Ηνωμένου Βασιλείου εντός του Υπουργείου Επιστήμης, Καινοτομίας και Τεχνολογίας (DSIT), έχει επίσης εντολή να επικεντρώνεται στους σοβαρούς κινδύνους της τεχνητής νοημοσύνης και διαθέτει εμπειρία στη διαχείριση χρηματοδοτικών προγραμμάτων έρευνας.

Επειδή το μέλλον της ΤΝ δεν θα εξελιχθεί ακριβώς όπως το προβλέπει κανείς —και μπορεί να προχωρήσει πολύ γρήγορα— πιστεύουμε ότι ο εκδημοκρατισμός, η «ανθεκτικότητα στην ΤΝ» και η επαναληπτική ανάπτυξη είναι απαραίτητες. Ενώ συνεχίζουμε να προωθούμε την κορυφαία έρευνα μας για την ευθυγράμμιση και την ασφάλεια στην OpenAI, η πρόοδος θα ωφεληθεί από ένα ισχυρό, ποικιλόμορφο και ανεξάρτητο οικοσύστημα που επιδιώκει συμπληρωματικές προσεγγίσεις καθώς οι δυνατότητες εξελίσσονται. Αυτή η επιχορήγηση είναι ένα βήμα προς την επίτευξη αυτού του στόχου. Ανυπομονούμε να συνεχίσουμε τη συνεργασία με την ευρύτερη ερευνητική κοινότητα καθώς ο τομέας προοδεύει.