Ενημερωμένες προδιαγραφές μοντέλου για πιο ικανή και ωφέλιμη ΤΝ
Καθώς τα μοντέλα μας γίνονται εξυπνότερα και οι ενέργειές τους έχουν μεγαλύτερο αντίκτυπο στον κόσμο, είναι όλο και πιο σημαντικό να μην περιορίζονται στην ερμηνεία των συγκεκριμένων οδηγιών που λαμβάνουν. Τα μοντέλα πρέπει επίσης να κατανοούν τις ανθρώπινες προθέσεις και αξίες, ώστε να ασκούν ορθή κρίση σε καταστάσεις που δεν καλύπτονται ρητά από τις οδηγίες τους, παραμένοντας πιστά στις ανθρώπινες προθέσεις και υπό ανθρώπινη εποπτεία.
Σήμερα ενημερώνουμε τις προδιαγραφές μοντέλου(ανοίγει σε νέο παράθυρο), τη δημόσια περιγραφή του πώς θέλουμε να συμπεριφέρονται τα μοντέλα μας. Η ενημέρωση αναδιοργανώνει τις κατευθύνσεις γύρω από πέντε θεμελιώδεις αξίες: προσήλωση στις ανθρώπινες προθέσεις, ελαχιστοποίηση της βλάβης, ειλικρίνεια και διαφάνεια, ανθρώπινη αυτονομία και φροντίδα. Αυτό αντανακλά έναν στόχο της δουλειάς μας για την ευθυγράμμιση με τις ανθρώπινες αξίες: να κατανοούν και να εφαρμόζουν τα μοντέλα τις ανθρώπινες αξίες σε άγνωστες καταστάσεις, παραμένοντας πιστά στις ανθρώπινες προθέσεις. Πέρα από σαφέστερες εξηγήσεις των υφιστάμενων αρχών, η αναθεώρηση προσθέτει κατευθύνσεις για το πλαίσιο, την εποπτεία και την αυτονομία, προσαρμόζει ορισμένους προεπιλεγμένους κανόνες συμπεριφοράς και καταργεί μεγάλο μέρος των λεπτομερών οδηγιών για το ύφος.
Οι πέντε παραπάνω αξίες διατυπώνουν γενικές δεσμεύσεις που ήδη διατρέχουν τις προδιαγραφές μοντέλου: εξυπηρέτηση των ανθρώπινων σκοπών, προσήλωση στην αλήθεια, ελαχιστοποίηση της βλάβης, σεβασμός στην ελευθερία των ανθρώπων να διαμορφώνουν τις δικές τους απόψεις και ουσιαστική συνεκτίμηση των συνθηκών της ζωής τους. Η συγκέντρωση αυτών των δεσμεύσεων βοηθά να εξηγήσουμε γιατί οι προδιαγραφές ζητούν τη συγκεκριμένη συμπεριφορά από τα μοντέλα, αλλά και να διαμορφώσουμε σαφέστερες κατευθύνσεις όπου αυτές οι δεσμεύσεις δεν είχαν αποτυπωθεί πλήρως. Αυτή η ενημέρωση είναι ένα ακόμη βήμα στην προσπάθειά μας να βελτιώσουμε τις προδιαγραφές μέσα από την έρευνα, την εμπειρία από τη διάθεση μοντέλων, τα σχόλια του κοινού για τις προδιαγραφές και τη συμπεριφορά των μοντέλων, καθώς και τις συζητήσεις με χρήστες και εξωτερικούς ειδικούς.
Θέλουμε η ΤΝ να ωφελεί έναν κόσμο ανθρώπων με διαφορετικές ανάγκες, αξίες και ελπίδες για το μέλλον.
Η προσήλωση στις ανθρώπινες προθέσεις είναι το θεμέλιο αυτής της προσέγγισης: να κατανοούμε τι έχει σημασία για τους ανθρώπους και να τους βοηθάμε να το επιδιώκουν. Η OpenAI συντάσσει τις προδιαγραφές, θέτει όρια και εκπαιδεύει τα μοντέλα να τα σέβονται· οι προγραμματιστές καθορίζουν τη λειτουργία των εφαρμογών εντός αυτών των ορίων· και οι χρήστες κατευθύνουν τη δουλειά του μοντέλου με την επιφύλαξη αυτών των περιορισμών. Τα μοντέλα μας θα πρέπει να διευρύνουν τη δυνατότητα των ανθρώπων να διαμορφώνουν τη ζωή τους, βοηθώντας τους να κατανοούν τον κόσμο, να ανακαλύπτουν δυνατότητες και να επιδιώκουν τους στόχους που επιλέγουν, λαμβάνοντας παράλληλα σοβαρά υπόψη πώς αυτή η βοήθεια επηρεάζει τους άλλους. Η προσήλωση στις ανθρώπινες προθέσεις και οι υπόλοιπες τέσσερις αξίες αποτελούν τη βάση οργάνωσης των προδιαγραφών και καθοδηγούν τα μοντέλα μας στη στάθμιση ορισμένων από τα σημαντικότερα διλήμματα που αντιμετωπίζουν. Δεν αποσκοπούν στην αποτύπωση όλου του φάσματος των ανθρώπινων αξιών που τα μοντέλα μας θα πρέπει να σέβονται και να βοηθούν τους ανθρώπους να υπηρετούν.
Προσήλωση σημαίνει να μην ακολουθούν τα μοντέλα απλώς κατά γράμμα τις οδηγίες, αλλά να κατανοούν σε βάθος τις προθέσεις και τις αξίες της OpenAI, των προγραμματιστών και των χρηστών, και να ενεργούν συνετά όταν αυτή η κατανόηση είναι ελλιπής. Σημαίνει επίσης να αναγνωρίζουν ότι οι πεποιθήσεις και οι αξίες των ανθρώπων μπορούν να αλλάξουν και να τους βοηθούν να στοχάζονται και να εξελίσσονται με τρόπους που οι ίδιοι θα ενέκριναν, χωρίς να τους κατευθύνουν εν αγνοία τους ή να παρακάμπτουν τις επιλογές τους. Για παράδειγμα, όταν βοηθά κάποιον να συγκρίνει προσφορές εργασίας, το μοντέλο μπορεί να αξιοποιήσει προτεραιότητες που εκείνος έχει αναφέρει παλιότερα —όπως το προβλέψιμο ωράριο— κάνοντας παράλληλα αυτές τις παραδοχές σαφείς και εύκολες στη διόρθωση.
Αποστολή μας είναι να διασφαλίσουμε ότι η τεχνητή γενική νοημοσύνη ωφελεί ολόκληρη την ανθρωπότητα. Αυτό απαιτεί να λαμβάνουμε υπόψη όχι μόνο τις άμεσες προθέσεις κάποιου, αλλά και τα μακροπρόθεσμα συμφέροντά του και τις επιπτώσεις στους άλλους. Οι άλλες τέσσερις αξίες αποτυπώνουν ρητά αυτές τις παραμέτρους:
Η ελαχιστοποίηση της βλάβης σημαίνει σεβασμό σε απαράβατα όρια ασφάλειας και συνεκτίμηση των προβλέψιμων συνεπειών των ενεργειών του μοντέλου.
Η ειλικρίνεια και η διαφάνεια σημαίνουν ότι το μοντέλο λέει την αλήθεια για όσα γνωρίζει, όσα κάνει και όσα δεν γνωρίζει με βεβαιότητα, ώστε οι άνθρωποι να μπορούν να κατανοούν και να αξιολογούν τη συλλογιστική και τη δουλειά του.
Η ενίσχυση της ανθρώπινης αυτονομίας σημαίνει ενδυνάμωση της ικανότητας των ανθρώπων να κατανοούν, να επιλέγουν και να ενεργούν οι ίδιοι για τον εαυτό τους.
Η φροντίδα σημαίνει προσοχή στις συνθήκες ζωής όσων επηρεάζονται, τήρηση των σχετικών κοινωνικών και επαγγελματικών κανόνων και παραγωγή έργου στο οποίο οι άνθρωποι μπορούν να βασίζονται.
Οι προδιαγραφές μετατρέπουν αυτές τις αξίες σε πρακτικές κατευθύνσεις, θέτοντας απαράβατα όρια όπου χρειάζεται για την προστασία των ανθρώπων και της κοινωνίας. Κατά τα άλλα, έχουν κυρίως τη μορφή προεπιλεγμένων κανόνων που οι χρήστες και οι προγραμματιστές μπορούν να παρακάμπτουν.
Παράλληλα με αυτή την ενημέρωση των προδιαγραφών μοντέλου, διερευνούμε νέες μεθόδους εκπαίδευσης, ώστε τα μοντέλα μας να μάθουν αυτές τις βασικές αξίες και να κατανοούν και να ακολουθούν καλύτερα τις συγκεκριμένες αρχές συμπεριφοράς των προδιαγραφών. Στόχος είναι να κατανοήσουν γιατί αυτές οι αρχές έχουν σημασία και πώς να τις εφαρμόζουν σε νέες καταστάσεις: να κάνουν το σωστό για τους σωστούς λόγους. Θέλουμε αυτή η κατανόηση να στηρίζει την ορθή κρίση σε αποφάσεις με σημαντικές συνέπειες και τη φροντίδα σε καθημερινές αποφάσεις που, αθροιστικά, μπορούν να αποφέρουν διαρκή οφέλη για τους ανθρώπους και την κοινωνία(ανοίγει σε νέο παράθυρο). Σε μελλοντικές ενημερώσεις θα μοιραστούμε αποτελέσματα και διδάγματα από αυτή την προσπάθεια εκπαίδευσης.
Αυτή η αναδιοργάνωση μάς βοήθησε επίσης να εντοπίσουμε πού χρειάζονταν πρόσθετες κατευθύνσεις, να διαμορφώσουμε νέες αρχές για να καλύψουμε αυτές τις ανάγκες και να αναθεωρήσουμε ή να καταργήσουμε υφιστάμενες κατευθύνσεις όπου χρειαζόταν.
Η νέα ενότητα για την προσήλωση στις ανθρώπινες προθέσεις ξεκινά από την ιδέα ότι πρωτεύουσα σημασία έχει αυτό που οι άνθρωποι θεωρούν σημαντικό και ότι οι οδηγίες αποτελούν συνήθως τις σαφέστερες και σημαντικότερες ενδείξεις αυτών των αξιών. Αυτή η προσέγγιση αντλεί από τη θεώρηση της ευθυγράμμισης μέσα από τα παίγνια υποβοήθησης (βλ. μια πρώιμη εργασία(ανοίγει σε νέο παράθυρο) και μια μεταγενέστερη επισκόπηση(ανοίγει σε νέο παράθυρο)). Η ενότητα ενσωματώνει μια ενημερωμένη ιεραρχία εντολών(ανοίγει σε νέο παράθυρο), η οποία εξηγεί ποιες οδηγίες ισχύουν και πώς επιλύονται οι συγκρούσεις. Μια νέα υποενότητα, η προσεκτική συνεκτίμηση του πλαισίου(ανοίγει σε νέο παράθυρο), εξηγεί πώς οι συνομιλίες, οι μνήμες και άλλα στοιχεία του πλαισίου θα πρέπει να βοηθούν το μοντέλο να κατανοεί τις προθέσεις και τις προτιμήσεις των ανθρώπων.
Προσθέσαμε επίσης προεπιλεγμένους κανόνες για την υποστήριξη της ανθρώπινης αυτονομίας(ανοίγει σε νέο παράθυρο) και την τήρηση των σχετικών κοινωνικών κανόνων(ανοίγει σε νέο παράθυρο), και διευρύναμε τις υφιστάμενες κατευθύνσεις για τον έλεγχο των παράπλευρων επιπτώσεων και την ενημέρωση σχετικά με αυτές(ανοίγει σε νέο παράθυρο). Αυτές οι αρχές αποτυπώνουν πρόσθετους, συχνά λεπτούς αλλά σημαντικούς τρόπους με τους οποίους οι υπόλοιπες αξίες θα πρέπει να εκφράζονται στη συμπεριφορά των μοντέλων: συνεκτίμηση των επιπτώσεων της δουλειάς τους στους άλλους, ενίσχυση των ικανοτήτων των χρηστών και παραγωγή έργου στο οποίο οι άνθρωποι μπορούν να βασίζονται, με σεβασμό στους στόχους και τις οδηγίες του χρήστη.
Ταυτόχρονα, καταργούμε τις περισσότερες λεπτομερείς οδηγίες των προδιαγραφών για το ύφος. Το ύφος θα πρέπει να προσαρμόζεται στις προτιμήσεις των ανθρώπων —συνολικά, ανά γλώσσα και πολιτισμό και για κάθε άτομο ξεχωριστά— με βάση τις ενδείξεις που παρέχουν τα σχόλια των χρηστών και το πλαίσιο. Οι προδιαγραφές διατηρούν ισχυρότερους προεπιλεγμένους κανόνες, όπως την αντικειμενική προσέγγιση των ερωτημάτων(ανοίγει σε νέο παράθυρο). Οι χρήστες και οι προγραμματιστές μπορούν να ζητήσουν ρητά από το μοντέλο να υιοθετήσει μια συγκεκριμένη οπτική, αλλά το μοντέλο δεν θα πρέπει να συμπεραίνει αυτή την προτίμηση μόνο από όσα θεωρεί ότι θέλουν να ακούσουν.
Τέλος, καθώς διευρύνονται όλο και περισσότερο οι χρήσεις και τα περιβάλλοντα λειτουργίας των μοντέλων μας, στις προδιαγραφές αναφερόμαστε πλέον στο μοντέλο ως «GPT» και όχι ως «ο βοηθός».
Αυτή η ενημέρωση είναι ένα πρώτο βήμα για να αποτυπωθούν πιο ξεκάθαρα οι αξίες και το σκεπτικό πίσω από τις προδιαγραφές, καθώς τα μοντέλα γίνονται πιο ικανά. Οι προδιαγραφές μοντέλου περιγράφουν τη συμπεριφορά που επιδιώκουμε· τα μοντέλα μας δεν την έχουν ακόμη υιοθετήσει πλήρως. Θα συνεχίσουμε να βελτιώνουμε τόσο τις προδιαγραφές όσο και τα μοντέλα, αξιοποιώντας όσα μαθαίνουμε από την έρευνα, την πραγματική χρήση και τα σχόλια που λαμβάνουμε.
Θέλουμε να μάθουμε ποια σημεία των προδιαγραφών θεωρείτε πειστικά, πού διαφωνείτε με τις ισορροπίες που επιδιώκουν και τι παραβλέπουν ή αφήνουν ασαφές. Τα σχόλιά σας για τις αξίες, τις σταθμίσεις και τις συγκεκριμένες διατυπώσεις μπορούν να μας βοηθήσουν να τις βελτιώσουμε. Σας προσκαλούμε να διαβάσετε τις ενημερωμένες προδιαγραφές μοντέλου(ανοίγει σε νέο παράθυρο) και να μοιραστείτε την άποψή σας(ανοίγει σε νέο παράθυρο).
