Memajukan asal usul kandungan untuk ekosistem AI yang lebih selamat dan telus

Orang ramai menggunakan alat OpenAI setiap hari untuk mencipta dan mengedit imej serta audio dengan cara yang menjadikan komunikasi lebih ekspresif, berguna dan mudah diakses. Apabila alat ini menjadi sebahagian daripada cara orang membina, membayangkan dan berkongsi, adalah penting untuk mereka memahami dan mengesahkan dari mana media itu datang supaya mereka dapat mentafsirkannya dengan lebih yakin. Isyarat asal usul boleh membantu dengan memberi orang konteks tentang dari mana kandungan datang, bagaimana ia dicipta atau diedit, dan sama ada ia benar seperti yang didakwanya.

Hari ini kami memperkukuh pendekatan kami terhadap asal usul kandungan dengan model berlapis yang dipacu ekosistem untuk membina kepercayaan dalam talian. Kami memudahkan isyarat asal usul kami dikenali oleh alat dan platform lain melalui pematuhan C2PA, menambah tera air SynthID rentas platform yang tahan lama pada imej melalui kerjasama dengan Google, dan berkongsi pratonton alat yang boleh digunakan orang ramai untuk mengesahkan sama ada imej datang daripada OpenAI.

Bersama-sama, kemas kini ini dibina atas usaha terdahulu⁠ kami untuk menyokong standard terbuka, memudahkan kandungan yang dijana OpenAI dikenal pasti, dan bekerjasama merentas industri untuk menyokong ekosistem maklumat yang lebih boleh dipercayai.

OpenAI telah terlibat dalam pembangunan dan penggunaan standard asal usul sejak tahun 2024, apabila kami mula menambah Content Credentials pada imej yang dijana oleh DALL·E 3⁠(dibuka dalam tetingkap baru) dan kemudian pada ImageGen⁠(dibuka dalam tetingkap baru) serta Sora⁠(dibuka dalam tetingkap baru). Kami juga menyertai Jawatankuasa Pemandu Coalition for Content Provenance and Authenticity (C2PA), kumpulan rentas industri di sebalik standard teknikal terbuka untuk asal usul kandungan. Pendekatan teknikal C2PA menggunakan metadata dan tandatangan kriptografi untuk membantu maklumat tentang sesuatu media bergerak dengan selamat bersama kandungan itu sendiri. Maklumat ini merangkumi konteks yang membantu wartawan menilai sumber, platform membuat keputusan integriti, dan orang ramai yang cuba memahami apa yang mereka lihat dalam talian.

Baru-baru ini kami mengambil langkah menjadikan OpenAI sebagai Produk Penjana Mematuhi C2PA⁠(dibuka dalam tetingkap baru). Dengan menjadi mematuhi C2PA, kami memberi platform cara yang dipercayai untuk membaca, mengekalkan dan menyampaikan maklumat asal usul yang kami lampirkan pada kandungan kami. Ini penting kerana asal usul hanya berfungsi jika ia kekal melangkaui platform pertama tempat kandungan dicipta, dan pematuhan memungkinkan hal itu.

Metadata C2PA ialah asas penting untuk asal usul. Ia membantu kandungan membawa maklumat tentang dari mana ia datang, bagaimana ia dicipta atau diedit, dan siapa yang menandatangani maklumat itu. Namun metadata tidak kalis kesilapan. Ia boleh dibuang, hilang semasa muat naik dan muat turun, atau rosak akibat transformasi seperti perubahan format fail, pengubahan saiz atau tangkapan skrin.

Untuk menjadikan asal usul lebih berdaya tahan, kami mengambil pendekatan berlapis dan menggabungkan tera air melalui SynthID Google DeepMind⁠(dibuka dalam tetingkap baru), bermula dengan imej yang dijana melalui ChatGPT⁠, Codex atau OpenAI API. SynthID membenamkan lapisan tera air halimunan yang melengkapi pendekatan berasaskan metadata C2PA.

Kami telah lama membina ke arah ini. Kami telah menggunakan tera air yang kelihatan⁠ dalam Sora dan tera air audio⁠ dalam Voice Engine, serta terus menguji dan mengkaji ketepatan dan kebolehpercayaan dari semasa ke semasa. melalui pelaksanaan.

Kedua-dua sistem ini saling mengukuhkan. C2PA membantu kandungan membawa konteks terperinci; SynthID membantu mengekalkan isyarat apabila metadata tidak kekal. Tera air boleh lebih tahan melalui transformasi seperti tangkapan skrin, manakala metadata boleh memberikan lebih banyak maklumat berbanding tera air sahaja. Bersama-sama, kedua-duanya menjadikan asal usul lebih tahan berbanding jika mana-mana satu lapisan berdiri sendiri.

Metadata yang dipercayai dan tera air yang tahan terhadap kebanyakan pengubahsuaian boleh menjadikan isyarat asal usul lebih tahan lama. Tetapi orang ramai memerlukan cara untuk mengesan isyarat ini. Kami kini memperlihatkan pratonton alat pengesahan awam⁠ yang akan membantu orang ramai mengesahkan sama ada imej yang dimuat naik dijana di ChatGPT, OpenAI API atau Codex, dengan memeriksa sama ada ia mengandungi isyarat asal usul, termasuk Content Credentials dan SynthID.

Kami percaya asal usul sepatutnya lebih mudah untuk disahkan dan ditafsir oleh orang ramai, dan alat kami boleh membantu mereka memainkan peranan dalam menjawab soalan, “Adakah ini dijana dengan AI?” dengan menggabungkan pelbagai isyarat. Ini dibina berdasarkan pembelajaran daripada pratonton penyelidikan awal pengelas pengesanan imej⁠ kami pada 2024 dan membolehkan orang ramai mengesan dengan andal sama ada tera air SynthID yang berasal daripada OpenAI wujud dalam media, serta memaparkan metadata C2PA apabila ia ditemui.

Tiada kaedah pengesanan yang kalis kesilapan, jadi kami mengambil pendekatan berhati-hati dalam kes apabila pengesanan gagal. Jika tiada metadata atau tera air dikesan, contohnya, alat itu tidak akan membuat kesimpulan muktamad tentang sama ada imej itu dijana dengan alat OpenAI kerana isyarat asal usul dalam sesetengah kes boleh dibuang.

Pada pelancaran, alat ini terhad kepada kandungan yang dijana oleh OpenAI. Dalam beberapa bulan akan datang, kami menyasarkan untuk menyokong usaha rentas industri bagi membolehkan pengesahan merentas platform. Dari semasa ke semasa, kami juga menjangka akan menyokong lebih banyak jenis kandungan yang mungkin ditemui orang ramai dalam talian.

Tiada satu teknik asal usul pun mencukupi dengan sendirinya. Kami percaya pendekatan yang kukuh menggabungkan standard bersama, isyarat tera air yang tahan lama dan pengesahan awam. Dengan membina atas sokongan lama kami terhadap Content Credentials, menjadi mematuhi C2PA, mengguna pakai SynthID dan memperlihatkan pratonton alat pengesahan awam, kami berharap dapat menyumbang dalam jangka panjang kepada ekosistem asal usul yang lebih saling kendali.