OpenAI API

Παρουσιάζουμε ένα API για πρόσβαση σε νέα μοντέλα ΤΝ που αναπτύχθηκαν από την OpenAI. Σε αντίθεση με τα περισσότερα συστήματα ΤΝ που έχουν σχεδιαστεί για ένα μόνο σενάριο χρήσης, το API σήμερα παρέχει ένα περιβάλλον χρήστη γενικής χρήσης (τύπου «εισαγωγή κειμένου, εξαγωγή κειμένου»), επιτρέποντας στους χρήστες να το δοκιμάσουν σε σχεδόν οποιαδήποτε εργασία στα αγγλικά. Μπορείτε πλέον να ζητήσετε πρόσβαση για να ενσωματώσετε το API στο προϊόν σας, να αναπτύξετε μια εντελώς νέα εφαρμογή ή να μας βοηθήσετε να εξερευνήσουμε τα πλεονεκτήματα και τα όρια αυτής της τεχνολογίας.

Έχοντας στη διάθεσή του οποιαδήποτε προτροπή κειμένου, το API απαντά με κείμενο, προσπαθώντας να ταιριάξει το μοτίβο που του δίνετε. Μπορείτε να το «προγραμματίσετε», δείχνοντάς του μόνο μερικά παραδείγματα για το τι θα θέλατε να κάνει. Το πόσο αποτελεσματικό θα είναι εξαρτάται από την πολυπλοκότητα της εργασίας. Επίσης, το API επιτρέπει στον χρήστη να βελτιώσει την απόδοση σε συγκεκριμένες εργασίες, χρησιμοποιώντας για εκπαίδευση ένα σύνολο δεδομένων (μικρό ή μεγάλο) από παραδείγματα που του δίνει ή από τα ανθρώπινα σχόλια που δίνει ο χρήστης ή τα εργαλεία τοποθέτησης ετικετών.

Σχεδιάσαμε το API με γνώμονα την απλότητα, ώστε να μπορεί να το χρησιμοποιήσει οποιοσδήποτε, αλλά και με γνώμονα την ευελιξία, ώστε να καταστήσει πιο παραγωγικές τις ομάδες μηχανικής μάθησης. Στην πραγματικότητα, πολλές από τις ομάδες μας χρησιμοποιούν πλέον το API, ώστε να μπορούν να εστιάσουν περισσότερο στην έρευνα μηχανικής μάθησης και όχι στα προβλήματα κατανεμημένων συστημάτων. Σήμερα, το API τρέχει μοντέλα με στάθμιση από την οικογένεια GPT‑3⁠(ανοίγει σε νέο παράθυρο) με πολλές βελτιώσεις στην ταχύτητα και την απόδοση. Η μηχανική μάθηση εξελίσσεται πολύ γρήγορα, και αναβαθμίζουμε διαρκώς την τεχνολογία μας, ώστε οι χρήστες μας να παραμένουν ενημερωμένοι.

Ο ρυθμός προόδου του τομέα συνεπάγεται ότι υπάρχουν συχνά εκπληκτικές νέες εφαρμογές της ΤΝ, τόσο θετικές όσο και αρνητικές. Θα διακόψουμε την πρόσβαση στο API σε εμφανώς επιβλαβείς περιπτώσεις χρήσης, όπως παρενόχληση, ανεπιθύμητη αλληλογραφία, η ριζοσπαστικοποίηση ή τεχνητή κοινωνική στήριξη. Ωστόσο, γνωρίζουμε ότι δεν μπορούμε να προβλέψουμε όλες τις πιθανές συνέπειες αυτής της τεχνολογίας. Γι' αυτό ξεκινάμε σήμερα τη διάθεση σε ιδιωτική έκδοση beta και όχι σε γενική διαθεσιμότητα, δημιουργώντας εργαλεία για να βοηθήσουμε τους χρήστες να ελέγχουν καλύτερα το περιεχόμενο που δίνει το API μας και ερευνώντας πτυχές της γλωσσικής τεχνολογίας που σχετίζονται με την ασφάλεια (όπως είναι η ανάλυση, ο περιορισμός και η παρέμβαση σε επιβλαβείς προκαταλήψεις). Θα μοιραζόμαστε τα διδάγματά μας, ώστε οι χρήστες μας και η ευρύτερη κοινότητα να μπορούν να δημιουργήσουν πιο ανθρωποκεντρικά συστήματα ΤΝ.

Εκτός του ότι αποτελεί πηγή εσόδων που μας βοηθά να καλύπτουμε τα έξοδα⁠ για την επίτευξη της αποστολής μας⁠, το API μάς ώθησε να εντείνουμε την έρευνά μας για την ΤΝ γενικής χρήσης — προάγοντας την τεχνολογία, καθιστώντας την εύχρηστη και λαμβάνοντας υπόψη τον αντίκτυπο που θα έχει στον πραγματικό κόσμο. Ελπίζουμε ότι το API θα περιορίσει σημαντικά τους φραγμούς⁠(ανοίγει σε νέο παράθυρο) της παραγωγής ωφέλιμων προϊόντων που βασίζονται σε ΤΝ, με αποτέλεσμα να αποκτήσουμε εργαλεία και υπηρεσίες που δύσκολα φανταζόμαστε σήμερα.

Θέλετε να ανακαλύψετε το API; Ακολουθήστε το παράδειγμα εταιρειών όπως η Algolia⁠(ανοίγει σε νέο παράθυρο), η Quizlet⁠(ανοίγει σε νέο παράθυρο) και το Reddit⁠(ανοίγει σε νέο παράθυρο), και ερευνητών σε ιδρύματα όπως το Middlebury Institute⁠(ανοίγει σε νέο παράθυρο) που ήδη χρησιμοποιούν την ιδιωτική έκδοση beta⁠(ανοίγει σε νέο παράθυρο).

Σε τελική ανάλυση, αυτό που μας ενδιαφέρει περισσότερο⁠ είναι να διασφαλίσουμε ότι η τεχνητή γενική νοημοσύνη ωφελεί όλη την ανθρωπότητα. Για εμάς, η ανάπτυξη εμπορικών προϊόντων είναι ένας από τους τρόπους για να εξασφαλίσουμε επαρκή χρηματοδότηση για να πετύχουμε τους στόχους μας.

Πιστεύουμε επίσης ότι η ασφαλής ανάπτυξη ισχυρών συστημάτων ΤΝ στον πραγματικό κόσμο θα αποτελεί δύσκολη υπόθεση. Κατά την κυκλοφορία του API, συνεργαζόμαστε στενά με τους εταίρους μας για να διαπιστώσουμε τι προβλήματα προκύπτουν όταν τα συστήματα ΤΝ χρησιμοποιούνται στον πραγματικό κόσμο. Έτσι, θα μπορέσουμε να κατανοήσουμε πώς θα εξελιχθεί η ανάπτυξη μελλοντικών συστημάτων ΤΝ και τι πρέπει να κάνουμε για να είναι ασφαλή και ωφέλιμα για όλους.

Υπάρχουν τρεις κύριοι λόγοι που έγινε αυτό. Πρώτον, η εμπορευματοποίηση της τεχνολογίας μάς βοηθά να χρηματοδοτήσουμε τις συνεχιζόμενες προσπάθειες έρευνας, ασφάλειας και πολιτικής για την ΤΝ.

Δεύτερον, πολλά από τα μοντέλα στα οποία βασίζεται το API είναι πολύ μεγάλα και απαιτούν πολλή τεχνογνωσία για την ανάπτυξη και την εγκατάστασή τους, γεγονός που τα καθιστά ιδιαίτερα ακριβά στη λειτουργία τους. Έτσι, είναι δύσκολο για όλους, πέρα από τις μεγαλύτερες εταιρείες, να επωφεληθούν από την υποκείμενη τεχνολογία. Πιστεύουμε ότι το API θα καταστήσει τα ισχυρά συστήματα ΤΝ πιο προσιτά για τις μικρότερες επιχειρήσεις και οργανισμούς.

Τρίτον, το μοντέλο API μάς επιτρέπει να ανταποκρινόμαστε πιο εύκολα σε σενάρια κακής χρήσης της τεχνολογίας. Επειδή είναι δύσκολο να προβλέψουμε τα μελλοντικά σενάρια χρήσης των μοντέλων μας, είναι πιο ασφαλές να τα διαθέσουμε μέσω ενός API και να διευρύνουμε την πρόσβαση με τον καιρό, παρά να κυκλοφορήσουμε ένα μοντέλο ανοιχτού κώδικα που δεν επιτρέπει την προσαρμογή της πρόσβασης σε περίπτωση που προκύψουν επιβλαβείς εφαρμογές.

Με το GPT‑2, ένας από τους βασικούς προβληματισμούς μας ήταν η κακόβουλη χρήση του μοντέλου (π.χ. για παραπληροφόρηση), κάτι που είναι δύσκολο να αποτραπεί όταν ένα μοντέλο είναι ανοιχτού κώδικα. Για το API, η κακή χρήση μπορεί να αποτραπεί πιο εύκολα, με περιορισμό της πρόσβασης σε εγκεκριμένους πελάτες και σενάρια χρήσης. Έχουμε εφαρμόσει μια υποχρεωτική διαδικασία ελέγχου της παραγωγής πριν διατεθούν σε κυκλοφορία οι προτεινόμενες εφαρμογές. Στις αξιολογήσεις παραγωγής, αξιολογούμε τις εφαρμογές με βάση διάφορους άξονες, θέτοντας ερωτήματα όπως: Πρόκειται για ένα σενάριο χρήσης που υποστηρίζεται αυτήν τη στιγμή;, Πόσο ανοιχτή είναι η εφαρμογή;, Πόσο επικίνδυνη είναι η εφαρμογή;, Πώς σκοπεύετε να αντιμετωπίσετε ενδεχόμενα ζητήματα κακής χρήσης; και Ποιοι είναι οι τελικοί χρήστες της εφαρμογής σας;.

Διακόπτουμε την πρόσβαση στο API σε σενάρια χρήσης τα οποία προκαλούν διαπιστωμένα (ή προορίζονται να προκαλέσουν) σωματική, συναισθηματική ή ψυχολογική βλάβη σε άτομα, όπως είναι η παρενόχληση, η εκούσια εξαπάτηση, η ριζοσπαστικοποίηση, η τεχνητή κοινωνική στήριξη ή η ανεπιθύμητη αλληλογραφία, καθώς και σε εφαρμογές που δεν διαθέτουν επαρκή μέτρα προστασίας για τον περιορισμό της κακής χρήσης από τους τελικούς χρήστες. Καθώς αποκτούμε περισσότερη εμπειρία στη λειτουργία του API, θα βελτιώνουμε συνεχώς τις κατηγορίες χρήσης που μπορούμε να υποστηρίξουμε, τόσο για να διευρύνουμε το φάσμα των εφαρμογών που στηρίζουμε όσο και για να δημιουργήσουμε πιο λεπτομερείς κατηγορίες για όσες έχουμε λόγο να πιστεύουμε ότι θα χρησιμοποιηθούν κακόβουλα.

Ένας βασικός παράγοντας που λαμβάνουμε υπόψη κατά την έγκριση χρήσεων για το API, είναι το κατά πόσο η εφαρμογή παρουσιάζει ανοιχτή έναντι συγκρατημένης συμπεριφοράς όσον αφορά τις υποκείμενες δημιουργικές δυνατότητες του συστήματος. Οι εφαρμογές ανοιχτού τύπου του API (δηλαδή, αυτές που επιτρέπουν αβίαστη δημιουργία μεγάλων όγκων προσαρμόσιμου κειμένου μέσω αυθαίρετων προτροπών) είναι ιδιαίτερα επιρρεπείς σε κακή χρήση. Στους περιορισμούς που συμβάλλουν στην ασφάλεια των παραγωγικών σεναρίων χρήσης περιλαμβάνεται ο σχεδιασμός συστημάτων που διατηρούν ενημερωμένο τον ανθρώπινο παράγοντα, οι περιορισμοί πρόσβασης τελικών χρηστών, η μετεπεξεργασία αποτελεσμάτων, το φιλτράρισμα περιεχομένου, οι περιορισμοί μεγέθους μηνυμάτων εισαγωγής/αποτελεσμάτων, η ενεργή παρακολούθηση και οι περιορισμοί βάσει θεματολογίας.

Επίσης, συνεχίζουμε να διεξάγουμε έρευνες για τις πιθανές κακές χρήσεις των μοντέλων που παρέχονται από το API, σε συνεργασία με τρίτους μέσω του ακαδημαϊκού προγράμματος πρόσβασης⁠(ανοίγει σε νέο παράθυρο). Ξεκινάμε, προς το παρόν, με έναν πολύ περιορισμένο αριθμό ερευνητών και έχουμε ήδη κάποια αποτελέσματα από τους ακαδημαϊκούς μας εταίρους στο Ινστιτούτο Middlebury⁠(ανοίγει σε νέο παράθυρο), το Πανεπιστήμιο της Ουάσινγκτον και το Ινστιτούτο Allen για την ΤΝ⁠(ανοίγει σε νέο παράθυρο). Έχουμε ήδη λάβει δεκάδες χιλιάδες αιτήσεις για αυτό το πρόγραμμα και, προς το παρόν, δίνουμε προτεραιότητα στις εφαρμογές που επικεντρώνονται στην έρευνα για τη δικαιοσύνη και την εκπροσώπηση.

Ο περιορισμός των αρνητικών επιπτώσεων, όπως των επιβλαβών προκαταλήψεων, αποτελεί ένα δύσκολο ζήτημα που αφορά ολόκληρο τον κλάδο και έχει εξαιρετική σημασία. Όπως αναφέρουμε στη μελέτη για το GPT‑3⁠(ανοίγει σε νέο παράθυρο) και στην κάρτα μοντέλου⁠(ανοίγει σε νέο παράθυρο), τα μοντέλα API μας παρουσιάζουν μεροληπτικές συμπεριφορές που αποτυπώνονται στο παραγόμενο κείμενο. Ακολουθούν ορισμένες προσεγγίσεις μας για την αντιμετώπιση του ζητήματος:

• Δημιουργήσαμε κατευθυντήριες γραμμές που βοηθούν τους προγραμματιστές να κατανοήσουν και να αντιμετωπίσουν πιθανά ζητήματα ασφαλείας.
• Συνεργαζόμαστε στενά με τους χρήστες με σκοπό να κατανοήσουμε τα σενάρια χρήσης τους και να δημιουργήσουμε εργαλεία που να τα αναδεικνύουν, ώστε να μπορούν από πλευράς τους να παρεμβαίνουν για να περιορίζουν τις επιβλαβείς μεροληπτικές συμπεριφορές.
• Διεξάγουμε δική μας έρευνα για τις εκδηλώσεις επιβλαβών προκαταλήψεων και ευρύτερα ζητήματα δικαιοσύνης και εκπροσώπησης, που θα βοηθήσουν να ενημερώσουμε το έργο μας μέσω βελτιωμένης τεκμηρίωσης των υφιστάμενων μοντέλων και διάφορων βελτιώσεων σε μελλοντικά μοντέλα.
• Αναγνωρίζουμε ότι η μεροληψία είναι ένα πρόβλημα που εντοπίζεται όταν ένα σύστημα συνδυάζεται με ένα συγκεκριμένο θεματικό πλαίσιο. Οι εφαρμογές που δημιουργούνται με την τεχνολογία μας είναι κοινωνικοτεχνικά συστήματα, επομένως συνεργαζόμαστε με τους προγραμματιστές μας για να διασφαλίσουμε ότι εφαρμόζουν τις κατάλληλες διαδικασίες και τα κατάλληλα συστήματα ανθρώπινης παρέμβασης για την παρακολούθηση τυχόν ανεπιθύμητης συμπεριφοράς.

Στόχος μας είναι να συνεχίσουμε να προσπαθούμε να κατανοήσουμε τις πιθανές βλάβες του API σε κάθε θεματικό πλαίσιο και να βελτιώνουμε συνεχώς τα εργαλεία και τις διαδικασίες μας ώστε να συμβάλλουμε στην ελαχιστοποίηση ενδεχόμενων ζητημάτων.

Ενημέρωση 18ης Σεπτεμβρίου 2020