Ningkatake asal-usul konten kanggo ekosistem AI sing luwih aman lan luwih transparan

Wong-wong nggunakake piranti OpenAI saben dina kanggo nggawe lan nyunting gambar lan audio kanthi cara sing ndadekake komunikasi luwih ekspresif, migunani, lan gampang diakses. Nalika piranti-piranti iki dadi pérangan saka carané wong mbangun, mbayangaké, lan mbagèkaké, penting supaya wong bisa mangertèni lan mriksa saka ngendi asalé média kasebut, supaya bisa napsiraké kanthi luwih yakin. Sinyal asal-usul bisa mbantu kanthi menehi konteks marang wong-wong babagan saka ngendi asalé konten, kepiye konten kuwi digawe utawa disunting, lan apa konten kuwi pancen kaya sing diklaim.

Dina iki, kita nguwatake pendekatan kita marang asal-usul konten kanthi model pirang-pirang lapisan sing didorong ekosistem kanggo mbangun kapercayan online. Kita nggawe sinyal asal-usul kita luwih gampang dikenali dening piranti lan platform liyane liwat kepatuhan C2PA, nambah watermarking SynthID lintas-platform sing tahan lama menyang gambar liwat kemitraan karo Google, lan nuduhake pratinjau piranti sing bisa digunakake masyarakat umum kanggo verifikasi apa gambar kasebut asalé saka OpenAI.

Bebarengan, pembaruan iki mbangun adhedhasar pakaryan kita sadurungé⁠ kanggo ndhukung standar terbuka, nggawe kontèn sing digawé OpenAI luwih gampang diidentifikasi, lan makarya bebarengan ing saindhenging industri kanggo ndhukung ekosistem informasi sing luwih bisa dipercaya.

OpenAI wis melu aktif ngembangaké lan nerapaké standar provenans wiwit 2024, nalika kita wiwit nambahaké Content Credentials menyang gambar sing digawé déning DALL·E 3⁠(mbukak ing jendhela anyar), lan sawisé iku menyang ImageGen⁠(mbukak ing jendhela anyar) lan Sora⁠(mbukak ing jendhela anyar). Kita uga gabung dadi anggota Komite Pengarah Coalition for Content Provenance and Authenticity (C2PA), klompok lintas-industri sing ana ing mburi standar teknis terbuka kanggo asal-usul konten. Pendekatan teknis C2PA nggunakake metadata lan tandha tangan kriptografis kanggo mbantu informasi babagan sawijining item media supaya bisa kabawa kanthi aman bebarengan karo kontèn kasebut. Informasi iki nyakup konteks sing mbantu jurnalis nalika ngevaluasi sumber, platform nalika nggawe kaputusan babagan integritas, lan wong-wong sing nyoba mangerteni apa sing lagi dideleng kanthi online.

Kita bubar iki nindakake langkah kanggo ndadekake OpenAI minangka Produk Generator sing Selaras karo C2PA⁠(mbukak ing jendhela anyar). Kanthi dadi tundhuk marang C2PA, kita menehi platform cara sing dipercaya kanggo maca, njaga, lan nerusake informasi asal-usul sing kita gandhengake karo konten kita. Bab iki penting amarga asal-usul konten mung bisa migunani yen tetep kajaga nganti ngluwihi platform pisanan ing ngendi konten digawe, lan kesesuaian marang standar ndadekake kuwi bisa kelakon.

Metadata C2PA minangka landhesan penting kanggo asal-usul. Iki mbantu konten ngemot informasi babagan saka ngendi asalé, kepiye konten kuwi digawe utawa diowahi, lan sapa sing nandatangani informasi kasebut. Nanging, metadata ora sakabehé bisa dipercaya. Iki bisa dibusak, ilang liwat proses unggah lan undhuh, utawa rusak amarga transformasi kaya pangowahan format berkas, pangowahan ukuran, utawa tangkapan layar.

Kanggo ndadekake asal-usul konten luwih tangguh, kita nggunakake pendekatan pirang-pirang lapisan lan nggabungake tandha banyu digital liwat SynthID saka Google DeepMind⁠(mbukak ing jendhela anyar), diwiwiti saka gambar sing digawe liwat ChatGPT⁠, Codex, utawa OpenAI API. SynthID nyisipake lapisan watermark sing ora kasat mata sing nglengkapi pendekatan adhedhasar metadata C2PA.

Kita wis sawetara wektu nyiapake supaya tekan titik iki. Kita wis nggunakake watermark sing katon⁠ ing Sora lan watermark audio⁠ ing Voice Engine, lan terus nguji lan nliti akurasi lan kaandalané saka wektu menyang wektu. nganti penerapan.

Loro sistem iki padha nguwataké siji lan sijiné. C2PA mbantu konten nggawa konteks sing rinci; SynthID mbantu njaga sinyal nalika metadata ora tetep lestari. Panyematan watermark bisa luwih tahan marang owah-owahan kayata tangkapan layar, dene metadata bisa nyedhiyakake informasi luwih akeh tinimbang mung watermark. Bebarengan, kalorone ndadekake riwayat asal-usul luwih tangguh tinimbang yen salah siji lapisan iku madeg dhewe.

Metadata sing dipercaya lan watermark sing tahan marang akèh-akèhé pangowahan bisa nggawe sinyal asal-usul luwih awet. Nanging, wong-wong mbutuhake cara kanggo ndeteksi sinyal-sinyal iki. Saiki, kita lagi nampilake pratinjau piranti verifikasi publik⁠ sing bakal mbantu wong-wong verifikasi apa gambar sing diunggah digawe ing ChatGPT, OpenAI API, utawa Codex, kanthi mriksa apa gambar kuwi ngemot sinyal asal-usul, kalebu Content Credentials lan SynthID.

Kita percaya manawa asal-usul kuduné luwih gampang dipriksa lan ditafsiraké déning wong-wong, lan piranti kita bisa mbantu wong-wong nduwèni peran kanggo njawab pitakon, “Apa iki diasilaké nganggo AI?” kanthi nggabungaké pirang-pirang sinyal. Iki dibangun adhedhasar piwulang saka pratinjau riset wiwitan kanggo klasifikator deteksi gambar⁠ kita ing taun 2024 lan mbisakake wong ndeteksi kanthi andal apa tandha banyu SynthID sing asalé saka OpenAI ana ing media, uga nampilake metadata C2PA nalika ditemokake.

Ora ana metode deteksi sing bisa dijamin mesthi bener, mula kita nggunakake pendekatan sing ngati-ati nalika deteksi gagal. Yen ora ana metadata utawa watermark sing kadeteksi, umpamane, piranti iki ora bakal nggawe kesimpulan sing mesthi babagan apa gambar kasebut digawe nganggo piranti OpenAI, amarga sinyal asal-usul ing sawetara kasus bisa dibusak.

Ing tahap peluncuran, piranti iki mung diwatesi kanggo kontèn sing diasilaké déning OpenAI. Ing sasi-sasi sing bakal teka, kita nduwé tujuan kanggo nyengkuyung upaya lintas industri supaya verifikasi bisa ditindakake ing macem-macem platform. Suwe-suwe, kita uga ngarep-arep bisa ndhukung luwih akeh jinis konten sing bisa ditemoni wong-wong ing online.

Ora ana siji wae teknik provenans sing cukup yen mung digunakake dhewe. Kita yakin manawa pendekatan sing kuwat nggabungake standar sing dienggo bareng, sinyal watermarking sing awet, lan verifikasi publik. Kanthi adhedhasar dhukungan jangka dawa kita kanggo Content Credentials, dadi selaras karo C2PA, nganggo SynthID, lan nyedhiyakake pratinjau piranti verifikasi publik, kita ngarep-arep bisa menehi kontribusi ing jangka panjang kanggo ekosistem asal-usul konten sing luwih bisa saling dioperasikake.