Ο Paul Christiano εντάσσεται στο ΔΣ του OpenAI Foundation
Ο Paul Christiano θα ενταχθεί επίσης στην Επιτροπή Ασφάλειας και Προστασίας του OpenAI Foundation.
Ανακοινώνουμε τον διορισμό του Paul Christiano στο Διοικητικό Συμβούλιο του OpenAI Foundation. Θα συμμετέχει ως παρατηρητής χωρίς δικαίωμα ψήφου στο Διοικητικό Συμβούλιο της OpenAI Group PBC.
Ο Paul θα ενταχθεί επίσης στην Επιτροπή Ασφάλειας και Προστασίας (SSC) του Διοικητικού Συμβουλίου του OpenAI Foundation, συνεργαζόμενος με τον πρόεδρό της, Zico Kolter. Η Επιτροπή Ασφάλειας και Προστασίας εποπτεύει τις πρακτικές ασφάλειας και προστασίας σε ολόκληρη την OpenAI, συμπεριλαμβανομένης της OpenAI Group PBC.
Ο Paul διαθέτει κυβερνητική εμπειρία από δύο διαδοχικές κυβερνήσεις, χάρη στο έργο του στο Κέντρο Προτύπων και Καινοτομίας για την ΤΝ(ανοίγει σε νέο παράθυρο) (CAISI) του Εθνικού Ινστιτούτου Προτύπων και Τεχνολογίας (NIST), μιας υπηρεσίας του αμερικανικού Υπουργείου Εμπορίου, όπου υπηρετεί ως Ανώτερος Τεχνικός Σύμβουλος1. Κατά τη θητεία του στο CAISI και στον προκάτοχό του, το αμερικανικό Ινστιτούτο Ασφάλειας της ΤΝ, ο Paul εργάστηκε στην αξιολόγηση κορυφαίων μοντέλων ΤΝ, μεταξύ άλλων ως προς δυνατότητες με επιπτώσεις στην εθνική ασφάλεια, καθώς και σε προσεγγίσεις για τον περιορισμό των σχετικών κινδύνων ασφάλειας και προστασίας.
Ο Paul είναι επίσης ιδρυτής του Κέντρου Έρευνας για την Ευθυγράμμιση(ανοίγει σε νέο παράθυρο) (ARC), ενός μη κερδοσκοπικού ερευνητικού οργανισμού που εστιάζει στην ευθυγράμμιση προηγμένων συστημάτων ΤΝ με τα ανθρώπινα συμφέροντα. Από το 2017 έως το 2021, ο Paul ηγήθηκε της έρευνας ευθυγράμμισης στην OpenAI και συνέβαλε σε θεμελιώδες έργο για την ενισχυτική μάθηση από σχόλια ανθρώπου (RLHF). Στον νέο αυτό ρόλο, ο Paul προσφέρει μια ξεχωριστή και τεχνικά τεκμηριωμένη οπτική στις αποφάσεις διακυβέρνησης της OpenAI. Αποστολή μας είναι να διασφαλίσουμε ότι η τεχνητή γενική νοημοσύνη ωφελεί ολόκληρη την ανθρωπότητα.
“Ο Paul έχει συμβάλει καθοριστικά στη διαμόρφωση του πεδίου της ευθυγράμμισης της ΤΝ, με έργο αυστηρά τεκμηριωμένο και εστιασμένο στα δυσκολότερα ερωτήματα που θέτουν τα ολοένα ικανότερα συστήματα. Η εμπειρία του στην κυβέρνηση σε θέματα ασφάλειας και προτύπων για κορυφαία συστήματα ΤΝ, σε συνδυασμό με την τεχνική του κρίση, θα ενισχύσει την εποπτεία του Διοικητικού Συμβουλίου και το έργο της Επιτροπής Ασφάλειας και Προστασίας, καθώς η OpenAI συνεχίζει να αναπτύσσει και να διαθέτει κορυφαία συστήματα ΤΝ.”
“Οι δυνατότητες της ΤΝ εξελίχθηκαν πολύ γρήγορα τον τελευταίο χρόνο, ενώ η ευθυγράμμιση παραμένει ένα δύσκολο τεχνικό πρόβλημα, καθιστώντας την ευθύνη της Επιτροπής Ασφάλειας και Προστασίας σημαντικότερη και πιο απαιτητική από ποτέ. Χαίρομαι που εντάσσομαι στην ομάδα για να βοηθήσω.”
Η ΤΝ εισέρχεται σε μια νέα εποχή δυνατοτήτων, γεγονός που καθιστά ολοένα σημαντικότερο η εξέλιξη αυτών των συστημάτων να συνοδεύεται από ισχυρές δικλίδες ασφάλειας, προστασίας, ευθυγράμμισης και διακυβέρνησης. Σε όλη τη σταδιοδρομία του στην έρευνα για την ευθυγράμμιση της ΤΝ, ο Paul αντιμετωπίζει με τη δέουσα σοβαρότητα το ενδεχόμενο η προηγμένη ΤΝ να εγκυμονεί καταστροφικούς κινδύνους και την ανάγκη οι φορείς ανάπτυξης να προετοιμαστούν προτού τα συστήματα φτάσουν σε πιο επικίνδυνα επίπεδα δυνατοτήτων. Έχει εκφράσει ανεξάρτητη άποψη σχετικά με το κατά πόσο οι δικλίδες προστασίας του κλάδου είναι επαρκείς. Πιστεύουμε ότι η διακυβέρνηση του OpenAI Foundation ενισχύεται από ανθρώπους πρόθυμους να αμφισβητούν τις επικρατούσες παραδοχές και να συμβάλλουν στη βελτίωση της τεκμηρίωσης, των δικλίδων προστασίας και της λογοδοσίας στις οποίες βασίζονται κρίσιμες αποφάσεις.
Ο διορισμός του Paul βασίζεται στη δομή διακυβέρνησης που θεσπίστηκε μέσω της ανακεφαλαιοποίησης της OpenAI τον Οκτώβριο του 2025, συμπεριλαμβανομένων των δεσμεύσεων που αναλήφθηκαν σε σχέση με τους ελέγχους διάρκειας ενός έτους από τον Γενικό Εισαγγελέα της Καλιφόρνιας(ανοίγει σε νέο παράθυρο) και τον Γενικό Εισαγγελέα του Ντέλαγουερ(ανοίγει σε νέο παράθυρο). Η συμβολή τους βοήθησε στην ενίσχυση του πλαισίου διακυβέρνησης.
Σχετικά με το OpenAI Foundation
Το OpenAI Foundation είναι ένας φιλανθρωπικός οργανισμός που έχει ως στόχο να διασφαλίσει ότι η ΤΝ ωφελεί ολόκληρη την ανθρωπότητα. Ως ανεξάρτητος μη κερδοσκοπικός οργανισμός, το OpenAI Foundation ασκεί τη δική του φιλανθρωπική δραστηριότητα, ενώ διατηρεί τον έλεγχο της OpenAI Group PBC και κατέχει σημαντικό μετοχικό ποσοστό σε αυτήν. Το OpenAI Foundation υποστηρίζει πρωτοβουλίες που προωθούν την επιστημονική ανακάλυψη, ενισχύουν την κοινωνία των πολιτών και οικοδομούν ανθεκτικότητα μέσω της υπεύθυνης ΤΝ. Μέσω επιχορηγήσεων, συνεργασιών και άλλων φιλανθρωπικών πρωτοβουλιών, το OpenAI Foundation συμβάλλει στην επιτάχυνση έργων που δημιουργούν διαρκές δημόσιο όφελος και διευρύνουν την πρόσβαση στις μετασχηματιστικές δυνατότητες της ΤΝ.
Το OpenAI Foundation ελέγχει την OpenAI Group PBC, ενώ η Επιτροπή Ασφάλειας και Προστασίας αποτελεί επιτροπή του Διοικητικού Συμβουλίου του. Μάθετε περισσότερα στο www.openaifoundation.org(ανοίγει σε νέο παράθυρο).
