Memajukan provenans konten untuk ekosistem AI yang lebih aman dan transparan

Orang-orang menggunakan alat OpenAI setiap hari untuk membuat dan mengedit gambar serta audio dengan cara yang membuat komunikasi lebih ekspresif, berguna, dan mudah diakses. Seiring alat-alat ini menjadi bagian dari cara orang membuat, membayangkan, dan berbagi, penting agar orang dapat memahami dan memverifikasi dari mana media berasal sehingga mereka dapat menafsirkannya dengan lebih yakin. Sinyal provenans dapat membantu dengan memberi orang konteks tentang dari mana konten berasal, bagaimana konten dibuat atau diedit, dan apakah konten tersebut benar seperti yang diklaim.

Hari ini kami memperkuat pendekatan kami terhadap provenans konten dengan model berlapis yang digerakkan ekosistem untuk membangun kepercayaan online. Kami mempermudah sinyal provenans kami dikenali oleh alat dan platform lain melalui kesesuaian C2PA, menambahkan watermark SynthID lintas platform yang tahan lama ke gambar melalui kemitraan dengan Google, dan membagikan pratinjau alat yang dapat digunakan publik untuk memverifikasi apakah gambar berasal dari OpenAI.

Bersama-sama, pembaruan ini melanjutkan upaya kami sebelumnya⁠ untuk mendukung standar terbuka, membuat konten buatan OpenAI lebih mudah dikenali, dan berkolaborasi di seluruh industri guna mendukung ekosistem informasi yang lebih tepercaya.

OpenAI telah terlibat dalam pengembangan dan adopsi standar provenans sejak 2024, ketika kami mulai menambahkan Content Credentials ke gambar yang dihasilkan oleh DALL·E 3⁠(terbuka di jendela baru) dan kemudian ke ImageGen⁠(terbuka di jendela baru) dan Sora⁠(terbuka di jendela baru). Kami juga bergabung dengan Steering Committee dari Coalition for Content Provenance and Authenticity (C2PA), kelompok lintas industri di balik standar teknis terbuka untuk provenans konten. Pendekatan teknis C2PA menggunakan metadata dan tanda tangan kriptografis untuk membantu informasi tentang suatu media ikut berpindah dengan aman bersama konten itu sendiri. Informasi ini mencakup konteks yang membantu jurnalis mengevaluasi sumber, platform membuat keputusan integritas, dan orang-orang yang mencoba memahami apa yang mereka lihat online.

Baru-baru ini kami mengambil langkah menjadikan OpenAI sebagai Produk Generator yang Sesuai C2PA⁠(terbuka di jendela baru).in Dengan menjadi sesuai C2PA, kami memberi platform cara tepercaya untuk membaca, mempertahankan, dan meneruskan informasi provenans yang kami lampirkan pada konten kami. Ini penting karena provenans hanya berfungsi jika tetap bertahan melampaui platform pertama tempat konten dibuat, dan kesesuaian memungkinkan hal itu.

Metadata C2PA adalah fondasi penting bagi provenans. Ini membantu konten membawa informasi tentang dari mana asalnya, bagaimana konten dibuat atau diedit, dan siapa yang menandatangani informasi tersebut. Namun metadata tidak sepenuhnya aman. Metadata dapat dihapus, hilang saat unggah dan unduh, atau rusak oleh transformasi seperti perubahan format file, pengubahan ukuran, atau tangkapan layar.

Untuk membuat provenans lebih tangguh, kami mengambil pendekatan berlapis dan menerapkan proses pemberian watermark melalui SynthID dari Google DeepMind⁠(terbuka di jendela baru), dimulai dengan gambar yang dihasilkan melalui ChatGPT⁠, Codex, atau OpenAI API. SynthID menyematkan lapisan watermark tak terlihat yang melengkapi pendekatan berbasis metadata C2PA.

Kami telah membangun dengan cara ini selama beberapa waktu. Kami telah menggunakan watermark yang terlihat⁠ di Sora dan watermark audio⁠ di Voice Engine, serta terus menguji dan meneliti akurasi dan keandalan dari waktu ke waktu melalui penerapan.

Kedua sistem ini saling memperkuat. C2PA membantu konten membawa konteks terperinci; SynthID membantu mempertahankan sinyal saat metadata tidak bertahan. Watermarking dapat lebih tahan terhadap transformasi seperti tangkapan layar, sementara metadata dapat memberikan lebih banyak informasi daripada watermark saja. Bersama-sama, keduanya membuat provenans lebih tangguh daripada jika hanya mengandalkan salah satu lapisan saja.

Metadata tepercaya dan watermark yang tahan terhadap sebagian besar modifikasi dapat membuat sinyal provenans lebih tahan lama. Namun orang memerlukan cara untuk mendeteksi sinyal-sinyal ini. Kini kami menampilkan pratinjau alat verifikasi publik⁠ yang akan membantu orang memverifikasi apakah gambar yang diunggah dibuat di ChatGPT, OpenAI API, atau Codex, dengan memeriksa apakah gambar tersebut mengandung sinyal provenans, termasuk Content Credentials dan SynthID.

Kami percaya provenans harus lebih mudah diverifikasi dan ditafsirkan oleh orang, dan bahwa alat kami dapat membantu orang berperan dalam menjawab pertanyaan, “Apakah ini dibuat dengan AI?” dengan mengintegrasikan beberapa sinyal. Ini dibangun dari pembelajaran pratinjau riset awal pengklasifikasi deteksi gambar⁠ kami pada 2024 dan memungkinkan orang mendeteksi secara andal apakah watermark SynthID yang berasal dari OpenAI ada dalam media, sekaligus menampilkan metadata C2PA saat ditemukan.

Tidak ada metode deteksi yang sepenuhnya aman, jadi kami mengambil pendekatan hati-hati dalam kasus ketika deteksi gagal. Jika tidak ada metadata atau watermark yang terdeteksi, misalnya, alat ini tidak akan membuat kesimpulan pasti tentang apakah gambar dibuat dengan alat OpenAI karena sinyal provenans dalam beberapa kasus dapat dihapus.

Saat peluncuran, alat ini terbatas pada konten yang dihasilkan oleh OpenAI. Dalam beberapa bulan mendatang, kami bertujuan mendukung upaya lintas industri untuk memungkinkan verifikasi di berbagai platform. Seiring waktu, kami juga berharap dapat mendukung lebih banyak jenis konten yang mungkin ditemui orang secara online.

Tidak ada satu teknik provenans pun yang cukup jika berdiri sendiri. Kami percaya pendekatan yang kuat menggabungkan standar bersama, sinyal watermark yang tahan lama, dan verifikasi publik. Dengan membangun di atas dukungan lama kami untuk Content Credentials, menjadi sesuai dengan C2PA, mengadopsi SynthID, dan menampilkan pratinjau alat verifikasi publik, kami berharap dapat berkontribusi dalam jangka panjang pada ekosistem provenans yang lebih interoperabel.