Προώθηση της προέλευσης περιεχομένου για ένα ασφαλέστερο, πιο διαφανές οικοσύστημα ΤΝ

Οι άνθρωποι χρησιμοποιούν καθημερινά τα εργαλεία της OpenAI για να δημιουργούν και να επεξεργάζονται εικόνες και ήχο με τρόπους που κάνουν την επικοινωνία πιο εκφραστική, χρήσιμη και προσβάσιμη. Καθώς αυτά τα εργαλεία γίνονται μέρος του τρόπου με τον οποίο οι άνθρωποι δημιουργούν, φαντάζονται και μοιράζονται, είναι σημαντικό να μπορούν να κατανοούν και να επαληθεύουν από πού προέρχονται τα μέσα, ώστε να τα ερμηνεύουν με μεγαλύτερη βεβαιότητα. Τα σήματα προέλευσης μπορούν να βοηθήσουν παρέχοντας στους ανθρώπους πλαίσιο για το από πού προήλθε το περιεχόμενο, πώς δημιουργήθηκε ή υπεβλήθη σε επεξεργασία και αν είναι αυτό που ισχυρίζεται ότι είναι.

Σήμερα ενισχύουμε την προσέγγισή μας στην προέλευση περιεχομένου με ένα πολυεπίπεδο μοντέλο, καθοδηγούμενο από το οικοσύστημα, για την οικοδόμηση εμπιστοσύνης στο διαδίκτυο. Κάνουμε τα σήματα προέλευσής μας ευκολότερα αναγνωρίσιμα από άλλα εργαλεία και πλατφόρμες μέσω συμμόρφωσης με το C2PA, προσθέτουμε ανθεκτική διαπλατφορμική υδατογράφηση SynthID στις εικόνες μέσω συνεργασίας με την Google και μοιραζόμαστε μια προεπισκόπηση ενός εργαλείου που μπορεί να χρησιμοποιήσει το κοινό για να επαληθεύει αν οι εικόνες προήλθαν από την OpenAI.

Μαζί, αυτές οι ενημερώσεις βασίζονται στο προηγούμενο έργο μας⁠ για την υποστήριξη ανοιχτών προτύπων, τη διευκόλυνση της αναγνώρισης περιεχομένου που δημιουργείται από την OpenAI και τη συνεργασία σε όλο τον κλάδο για την υποστήριξη ενός πιο αξιόπιστου οικοσυστήματος πληροφόρησης.

Η OpenAI συμμετέχει στην ανάπτυξη και υιοθέτηση προτύπων προέλευσης από το 2024, όταν αρχίσαμε να προσθέτουμε Content Credentials σε εικόνες που δημιουργούνται από το DALL·E 3⁠(ανοίγει σε νέο παράθυρο) και αργότερα στα ImageGen⁠(ανοίγει σε νέο παράθυρο) και Sora⁠(ανοίγει σε νέο παράθυρο). Ενταχθήκαμε επίσης στη Διοικούσα Επιτροπή του Coalition for Content Provenance and Authenticity (C2PA), της διακλαδικής ομάδας πίσω από το ανοιχτό τεχνικό πρότυπο για την προέλευση περιεχομένου. Η τεχνική προσέγγιση του C2PA χρησιμοποιεί μεταδεδομένα και κρυπτογραφικές υπογραφές για να βοηθά τις πληροφορίες σχετικά με ένα μέσο να συνοδεύουν με ασφάλεια το ίδιο το περιεχόμενο. Αυτές οι πληροφορίες περιλαμβάνουν πλαίσιο που βοηθά δημοσιογράφους που αξιολογούν μια πηγή, πλατφόρμες που λαμβάνουν αποφάσεις ακεραιότητας και ανθρώπους που προσπαθούν να κατανοήσουν τι βλέπουν στο διαδίκτυο.

Πρόσφατα κάναμε το βήμα να καταστήσουμε την OpenAI Προϊόν Δημιουργίας Περιεχομένου με Συμμόρφωση με C2PA⁠(ανοίγει σε νέο παράθυρο). Με το να συμμορφωνόμαστε με το C2PA, δίνουμε στις πλατφόρμες έναν αξιόπιστο τρόπο να διαβάζουν, να διατηρούν και να μεταφέρουν τις πληροφορίες προέλευσης που επισυνάπτουμε στο περιεχόμενό μας. Αυτό έχει σημασία, επειδή η προέλευση λειτουργεί μόνο αν επιβιώνει πέρα από την πρώτη πλατφόρμα όπου δημιουργείται το περιεχόμενο, και η συμμόρφωση το καθιστά δυνατό.

Τα μεταδεδομένα C2PA αποτελούν σημαντική βάση για την προέλευση. Βοηθούν το περιεχόμενο να μεταφέρει πληροφορίες για το από πού προήλθε, πώς δημιουργήθηκε ή υπεβλήθη σε επεξεργασία και ποιος υπέγραψε αυτές τις πληροφορίες. Αλλά τα μεταδεδομένα δεν είναι αλάνθαστα. Μπορούν να αφαιρεθούν, να χαθούν κατά τις μεταφορτώσεις και λήψεις ή να αλλοιωθούν από μετασχηματισμούς όπως αλλαγές μορφής αρχείου, αλλαγή μεγέθους ή στιγμιότυπα οθόνης.

Για να κάνουμε την προέλευση πιο ανθεκτική, ακολουθούμε μια πολυεπίπεδη προσέγγιση και ενσωματώνουμε υδατογράφηση μέσω του SynthID της Google DeepMind⁠(ανοίγει σε νέο παράθυρο), ξεκινώντας με εικόνες που δημιουργούνται μέσω ChatGPT⁠, Codex ή του OpenAI API. Το SynthID ενσωματώνει ένα αόρατο επίπεδο υδατογράφησης που συμπληρώνει τις προσεγγίσεις που βασίζονται σε μεταδεδομένα C2PA.

Εργαζόμαστε προς αυτή την κατεύθυνση εδώ και καιρό. Έχουμε χρησιμοποιήσει ορατά υδατογραφήματα⁠ στο Sora και ένα ηχητικό υδατογράφημα⁠ στο Voice Engine, και συνεχίσαμε να δοκιμάζουμε και να ερευνούμε την ακρίβεια και την αξιοπιστία με την πάροδο του χρόνου μέσω της ανάπτυξης.

Αυτά τα δύο συστήματα ενισχύουν το ένα το άλλο. Το C2PA βοηθά το περιεχόμενο να μεταφέρει λεπτομερές πλαίσιο· το SynthID βοηθά να διατηρείται ένα σήμα όταν τα μεταδεδομένα δεν επιβιώνουν. Η υδατογράφηση μπορεί να είναι πιο ανθεκτική σε μετασχηματισμούς όπως τα στιγμιότυπα οθόνης, ενώ τα μεταδεδομένα μπορούν να παρέχουν περισσότερες πληροφορίες από ένα υδατογράφημα μόνο του. Μαζί, καθιστούν την προέλευση πιο ανθεκτική απ’ ό,τι θα ήταν κάθε επίπεδο από μόνο του.

Αξιόπιστα μεταδεδομένα και υδατογραφήματα που αντέχουν στις περισσότερες τροποποιήσεις μπορούν να κάνουν τα σήματα προέλευσης πιο ανθεκτικά. Αλλά οι άνθρωποι χρειάζονται έναν τρόπο να ανιχνεύουν αυτά τα σήματα. Παρουσιάζουμε τώρα σε προεπισκόπηση ένα δημόσιο εργαλείο επαλήθευσης⁠ που θα βοηθά τους ανθρώπους να επαληθεύουν αν μια εικόνα που μεταφορτώθηκε δημιουργήθηκε στο ChatGPT, στο OpenAI API ή στο Codex, ελέγχοντας αν περιέχει σήματα προέλευσης, συμπεριλαμβανομένων των Content Credentials και του SynthID.

Πιστεύουμε ότι θα πρέπει να είναι ευκολότερο για τους ανθρώπους να επαληθεύουν και να ερμηνεύουν την προέλευση, και ότι το εργαλείο μας μπορεί να τους βοηθήσει να συμβάλουν στην απάντηση του ερωτήματος «Δημιουργήθηκε αυτό με ΤΝ;», ενσωματώνοντας πολλαπλά σήματα. Αυτό βασίζεται στα διδάγματα από την αρχική ερευνητική προεπισκόπηση του εργαλείου ταξινόμησης ανίχνευσης εικόνων⁠ μας το 2024 και επιτρέπει στους χρήστες να ανιχνεύουν αξιόπιστα αν υπάρχει στο μέσο ένα υδατογράφημα SynthID που προέρχεται από την OpenAI, καθώς και να εμφανίζουν μεταδεδομένα C2PA όταν εντοπίζονται.

Καμία μέθοδος ανίχνευσης δεν είναι αλάνθαστη, γι’ αυτό ακολουθούμε μια προσεκτική προσέγγιση στις περιπτώσεις όπου η ανίχνευση αποτυγχάνει. Αν, για παράδειγμα, δεν εντοπιστούν μεταδεδομένα ή υδατογράφημα, το εργαλείο δεν θα καταλήγει σε οριστικό συμπέρασμα για το αν η εικόνα δημιουργήθηκε με εργαλεία της OpenAI, καθώς τα σήματα προέλευσης μπορούν σε ορισμένες περιπτώσεις να αφαιρεθούν.

Κατά την κυκλοφορία, το εργαλείο περιορίζεται σε περιεχόμενο που δημιουργείται από την OpenAI. Τους επόμενους μήνες, στόχος μας είναι να υποστηρίξουμε διακλαδικές προσπάθειες ώστε να καταστεί δυνατή η επαλήθευση σε όλες τις πλατφόρμες. Με την πάροδο του χρόνου, αναμένουμε επίσης να υποστηρίξουμε περισσότερους τύπους περιεχομένου που μπορεί να συναντούν οι άνθρωποι στο διαδίκτυο.

Καμία μεμονωμένη τεχνική προέλευσης δεν επαρκεί από μόνη της. Πιστεύουμε ότι μια ισχυρή προσέγγιση συνδυάζει κοινά πρότυπα, ανθεκτικά σήματα υδατογράφησης και δημόσια επαλήθευση. Βασιζόμενοι στη μακροχρόνια υποστήριξή μας στα Content Credentials, στη συμμόρφωσή μας με το C2PA, στην υιοθέτηση του SynthID και στην προεπισκόπηση δημόσιων εργαλείων επαλήθευσης, ελπίζουμε να συμβάλουμε μακροπρόθεσμα σε ένα πιο διαλειτουργικό οικοσύστημα προέλευσης.