Η OpenAI στηρίζει το νομοσχέδιο της Καλιφόρνιας για την ασφαλή χρήση της ΤΝ από τους νέους
Της Ann O’Leary, Αντιπροέδρου Παγκόσμιας Πολιτικής
Η OpenAI στηρίζει το νομοσχέδιο 1119 της Γερουσίας της Καλιφόρνιας, το οποίο θεσπίζει ουσιαστικές δικλίδες ασφαλείας για τη χρήση της ΤΝ από νέους, διατηρώντας παράλληλα την πρόσβασή τους σε εργαλεία που μπορούν να τους βοηθήσουν να μάθουν, να δημιουργήσουν και να προετοιμαστούν για το μέλλον. Η στήριξη αυτή βασίζεται στη δέσμευση που ανέλαβε πέρυσι ο Sam Altman, συνιδρυτής και διευθύνων σύμβουλος της OpenAI, όταν παρουσίασε τις αρχές της εταιρείας για τους εφήβους.
Ελλείψει ομοσπονδιακής δράσης, η Καλιφόρνια έχει την ευκαιρία να θέσει ένα αυστηρό πρότυπο για την ασφαλή χρήση της ΤΝ από τους νέους.
Στην επιστολή μας προς τον Κυβερνήτη Newsom(ανοίγει σε νέο παράθυρο), επαινούμε τον ίδιο, τον Γερουσιαστή Steve Padilla, τα μέλη της Συνέλευσης Buffy Wicks και Rebecca Bauer-Kahan, καθώς και το Νομοθετικό Σώμα της Καλιφόρνιας για την ηγετική τους στάση σε αυτό το σημαντικό ζήτημα. Το SB 1119 βασίζεται σε μέτρα για την ασφάλεια των νέων που έχει στηρίξει η OpenAI μέσω των προϊόντων μας, των παγκόσμιων αρχών πολιτικής μας, της συνηγορίας μας στην Καλιφόρνια και του έργου μας σχετικά με τον Νόμο για την ασφαλή ΤΝ για γονείς και παιδιά. Παροτρύνουμε τον Κυβερνήτη Newsom να υπογράψει το νομοσχέδιο ώστε να γίνει νόμος.
Οι σημερινοί έφηβοι είναι η πρώτη γενιά που μεγαλώνει με την ΤΝ. Σχεδόν εννέα στους δέκα εφήβους που χρησιμοποιούν το ChatGPT καταφεύγουν σε αυτό για μάθηση, ενημέρωση, ανάπτυξη δεξιοτήτων ή παραγωγικότητα μέσα σε μια δεδομένη εβδομάδα. Αυτή η ευκαιρία συνοδεύεται από μια σαφή ευθύνη: οι εμπειρίες των εφήβων πρέπει να σχεδιάζονται με βάση τις ιδιαίτερες αναπτυξιακές ανάγκες τους, με ισχυρές προεπιλεγμένες δικλίδες προστασίας και κατάλληλες ευκαιρίες για μάθηση, δημιουργία και εξερεύνηση.
Το νέο ChatGPT για Εφήβους που παρουσιάσαμε ακολουθεί αυτή την προσέγγιση. Έχει σχεδιαστεί για να βοηθά τους χρήστες κάτω των 18 ετών να μαθαίνουν, να σκέφτονται κριτικά και να δημιουργούν, προάγοντας παράλληλα την υγιή χρήση, παρέχοντας ενσωματωμένες δικλίδες ασφαλείας και προσφέροντας στους γονείς πρόσθετους ελέγχους. Αν το σύστημά μας εκτιμήσει ότι κάποιος είναι κάτω των 18 ετών ή αν ο ίδιος δηλώσει ότι είναι μεταξύ 13 και 17 ετών, εντάσσεται αυτόματα στο ChatGPT για Εφήβους. Αυτές οι δικλίδες προστασίας αποτελούν μέρος της βασικής εμπειρίας και όχι προαιρετικές ρυθμίσεις που μπορούν να απενεργοποιήσουν οι χρήστες.
Γενικότερα, πιστεύουμε ότι οι έφηβοι μπορούν να επωφεληθούν από την ΤΝ χωρίς συμβιβασμούς στην ασφάλεια, έναν στόχο που βρίσκεται στον πυρήνα του SB 1119.
Το SB 1119 συνδυάζει ισχυρές δικλίδες προστασίας με συνεχή πρόσβαση σε χρήσιμα εργαλεία ΤΝ. Στηρίζουμε θερμά τις εξής βασικές απαιτήσεις:
- Προσδιορισμός της ηλικίας του χρήστη·
- Εντοπισμός και αντιμετώπιση των κινδύνων ασφαλείας πριν από τη διάθεση ενός προϊόντος σε νέους·
- Διενέργεια ανεξάρτητων ελέγχων·
- Προστασία των νέων από επιβλαβές περιεχόμενο, όπως περιεχόμενο αυτοτραυματισμού ή σεξουαλικής εκμετάλλευσης, και από άλλες αλληλεπιδράσεις υψηλού κινδύνου·
- Παροχή εργαλείων στους γονείς για την καθοδήγηση και τον περιορισμό της χρήσης από τα παιδιά τους·
- Σύνδεση των νέων με υπηρεσίες υποστήριξης σε καταστάσεις κρίσης όταν προκύπτουν σοβαροί κίνδυνοι ασφαλείας· και
- Περιορισμός της στοχευμένης διαφήμισης και προστασία των προσωπικών δεδομένων των νέων.
Για τους χρήστες που προσδιορίζεται ότι είναι 13 έως 17 ετών, αυτές οι δικλίδες προστασίας θα πρέπει να εφαρμόζονται αυτόματα. Η νομοθεσία αυτή θα συνδύαζε την ουσιαστική λογοδοσία με δικλίδες ασφαλείας που θα συνέβαλλαν στην προστασία των νέων κατά τη χρήση της ΤΝ.
Το SB 1119 αναγνωρίζει επίσης ορθά ότι η ΤΝ δεν είναι μέσο κοινωνικής δικτύωσης. Το νομοσχέδιο θεσπίζει ειδικά προσαρμοσμένες δικλίδες προστασίας, ώστε οι νέοι να χρησιμοποιούν την ΤΝ για μάθηση, δημιουργία και εξερεύνηση. Κατά την ανάπτυξη αυτού του πλαισίου, οι υπεύθυνοι χάραξης πολιτικής επιδίωξαν να διατηρήσουν την πρόσβαση σε εκπαιδευτικές λειτουργίες και λειτουργίες κρίσιμες για την ασφάλεια, συμπεριλαμβανομένων των υπεύθυνων χρήσεων της λειτουργίας μνήμης του ChatGPT, προάγοντας παράλληλα ασφαλέστερες και ηλικιακά κατάλληλες εμπειρίες για τους εφήβους.
Το ChatGPT για Εφήβους περιλαμβάνει μια σειρά λειτουργιών ειδικά προσαρμοσμένων για να βοηθούν τους εφήβους να μαθαίνουν, όπως Κουίζ, Οπτικοποιήσεις Μάθησης και η Λειτουργία Μελέτης, που αναπτύχθηκαν σε συνεργασία με εκπαιδευτικούς και ειδικούς στη μάθηση για να καθοδηγούν τους μαθητές βήμα προς βήμα στην επίλυση προβλημάτων. Αυτά τα εργαλεία αποσκοπούν στην εμβάθυνση της κατανόησης και στην καλλιέργεια αποτελεσματικότερων μαθησιακών συνηθειών. Οι λειτουργίες που αξιοποιούν το πλαίσιο προηγούμενων συνομιλιών, συμπεριλαμβανομένης της μνήμης, συμβάλλουν στη συνεπή εφαρμογή των δικλίδων ασφαλείας, στην αναγνώριση ανησυχητικών μοτίβων και στην παροχή χρησιμότερης μαθησιακής υποστήριξης με την πάροδο του χρόνου.
Το πλαίσιο βοηθά επίσης αυτά τα εργαλεία ασφάλειας και μάθησης να λειτουργούν πιο σταθερά με την πάροδο του χρόνου. Μέσω λειτουργιών όπως η μνήμη, το ChatGPT μπορεί να διατηρεί σχετικές πληροφορίες και προτιμήσεις από προηγούμενες συνομιλίες, επιτρέποντας στους εφήβους να συνεχίζουν πιο μακροπρόθεσμα μαθησιακά έργα χωρίς να ξεκινούν από την αρχή. Αυτή η συνέχεια μπορεί επίσης να συμβάλει στην αποφυγή ενίσχυσης επιβλαβών μοτίβων και στην αποτελεσματικότερη ανταπόκριση όταν ένας νέος ενδέχεται να χρειάζεται πρόσθετη βοήθεια ή πόρους.
Η εξισορρόπηση ασφάλειας και μάθησης δεν είναι κάτι νέο για εμάς. Τον τελευταίο χρόνο προσθέσαμε γονικούς ελέγχους, πρόβλεψη ηλικίας, το Πλαίσιο Ασφάλειας Εφήβων και τις Αρχές για άτομα κάτω των 18 στις προδιαγραφές μοντέλου —τους κανόνες που καθορίζουν την επιδιωκόμενη συμπεριφορά των μοντέλων μας— ώστε να θέσουμε νέα πρότυπα για τον τρόπο με τον οποίο πρέπει να αλληλεπιδρούν με τους νέους. Οι κανόνες απαγορεύουν τις ρομαντικές σχέσεις, την ενθάρρυνση συναισθηματικής εξάρτησης και τους ισχυρισμούς ότι το ChatGPT είναι άνθρωπος ή έχει συνείδηση. Προσφέρουμε επίσης γονικούς ελέγχους που επιτρέπουν στις οικογένειες να διαχειρίζονται βασικές ρυθμίσεις για τους εφήβους τους και να λαμβάνουν ειδοποιήσεις σε καταστάσεις υψηλού κινδύνου.
Το SB 1119 θεσπίζει ένα ισχυρό πλαίσιο για την ασφαλή χρήση της ΤΝ από τους νέους στην Καλιφόρνια. Η συνεχής μελέτη και συνεργασία κατά την εφαρμογή μπορούν να συμβάλουν στη βελτίωση βασικών διατάξεων και να διατηρήσουν το πλαίσιο αποτελεσματικό καθώς εξελίσσεται η τεχνολογία. Η OpenAI προσβλέπει στη στήριξη αυτού του έργου και στη συνέχιση της δημιουργίας εμπειριών ΤΝ που αντιμετωπίζουν τους εφήβους σύμφωνα με την ηλικία τους, με ισχυρότερες, αυτόματες δικλίδες προστασίας και ουσιαστικές ευκαιρίες μάθησης και ανάπτυξης.
