Pagsulong ng content provenance para sa mas ligtas at mas transparent na AI ecosystem

Ginagamit ng mga tao ang mga tool ng OpenAI araw-araw para gumawa at mag-edit ng mga larawan at audio sa mga paraang ginagawang mas mapagpahayag, kapaki-pakinabang, at naa-access ang komunikasyon. Habang nagiging bahagi ang mga tool na ito ng paraan ng pagbuo, pag-iisip, at pagbabahagi ng mga tao, mahalagang maunawaan at mapatunayan nila kung saan nanggaling ang media para mas may kumpiyansa nila itong mabigyang-kahulugan. Makakatulong ang mga provenance signal sa pagbibigay sa mga tao ng konteksto tungkol sa pinagmulan ng content, kung paano ito ginawa o inedit, at kung ito ba ay tunay na gaya ng inaangkin nito.

Ngayon, pinapalakas namin ang aming diskarte sa content provenance sa pamamagitan ng isang multi-layered, ecosystem-driven na modelo para sa pagbuo ng tiwala online. Pinapadali namin para sa ibang mga tool at platform na makilala ang aming mga provenance signal sa pamamagitan ng C2PA conformance, nagdaragdag ng matibay na cross-platform na SynthID watermarking sa mga larawan sa pakikipagtulungan sa Google, at nagbabahagi ng preview ng isang tool na magagamit ng publiko para mapatunayan kung ang mga larawan ay mula sa OpenAI.

Sama-sama, pinalalawak ng mga update na ito ang aming naunang gawain⁠ upang suportahan ang mga bukas na pamantayan, gawing mas madaling matukoy ang content na ginawa ng OpenAI, at makipagtulungan sa buong industriya para suportahan ang isang mas mapagkakatiwalaang ekosistema ng impormasyon.

Nakikilahok ang OpenAI sa pagbuo at paggamit ng mga pamantayan sa patunay ng pinagmulan mula pa noong 2024, nang magsimula kaming magdagdag ng Content Credentials sa mga larawang ginawa ng DALL·E 3⁠(magbubukas sa bagong window) at kalaunan sa ImageGen⁠(magbubukas sa bagong window) at Sora⁠(magbubukas sa bagong window). Sumali rin kami sa Steering Committee ng Coalition for Content Provenance and Authenticity (C2PA), ang cross-industry na grupong nasa likod ng bukas na teknikal na pamantayan para sa papatunay ng pinagmulan ng content. Gumagamit ang teknikal na diskarte ng C2PA ng metadata at mga kriptographikong lagda upang matulungan ang impormasyon tungkol sa kapirasong media na ligtas na sumama sa mismong content. Kasama sa impormasyong ito ang kontekstong tumutulong sa mga mamamahayag na nagsusuri ng pinagmulan, mga platform na gumagawa ng mga desisyon sa integridad, at mga taong nagsisikap unawain ang nakikita nila online.

Kamakailan, ginawa naming C2PA Conforming Generator Product⁠(magbubukas sa bagong window) ang OpenAI. Dahil nakakasunod ito sa C2PA, binibigyan namin ang mga platform ng mapagkakatiwalaang paraan para basahin, panatilihin, at ipasa ang impormasyong ukol sa patunay ng pinagmulan na ikinakabit namin sa aming content. Mahalaga ito dahil gumagana lang ang patunay ng pinagmulan kung makakapanatili ito pagkatapos ng unang platform kung saan nilikha ang content, at ginagawang posible iyon ng pagsunod.

Mahalagang pundasyon ng provenance ang C2PA metadata. Tinutulungan nito ang content na magdala ng impormasyon tungkol sa pinagmulan nito, kung paano ito ginawa o inedit, at kung sino ang lumagda sa impormasyong iyon. Pero hindi perpekto ang metadata. Maaari itong matanggal, mawala sa mga upload at download, o masira dahil sa mga pagbabagong tulad ng pagpapalit ng file format, pag-resize, o mga screenshot.

Para gawing mas matatag ang patunay ng pinagmulan, gumagamit kami ng maraming magkakaugnay na diskarte at isinasama ang paglalagay ng watermark sa pamamagitan ng SynthID ng Google DeepMind⁠(magbubukas sa bagong window), mula sa mga larawang ginawa sa pamamagitan ng ChatGPT⁠, Codex, o OpenAI API. Naglalagay ang SynthID ng hindi nakikitang patong ng watermark na umaakma sa mga paraang nakabatay sa C2PA metadata.

Matagal na naming itong pinaghahandaan. Gumamit kami ng nakikitang mga watermark⁠ sa Sora at audio watermark⁠ sa Voice Engine, at patuloy kaming nagsusuri at nagsasaliksik ng katumpakan at pagiging maaasahan sa paglipas ng panahon. sa pamamagitan ng pag-deploy.

Pinatitibay ng dalawang sistemang ito ang isa’t isa. Tinutulungan ng C2PA ang content na magdala ng detalyadong konteksto; tumutulong ang SynthID na mapanatili ang signal kapag hindi nananatili ang metadata. Maaaring mas tumagal ang watermarking sa mga pagbabagong tulad ng mga screenshot, habang makapagbibigay ang metadata ng mas maraming impormasyon kaysa sa watermark lamang. Magkasama, ginagawa nilang mas matatag ang provenance kaysa kung alinman sa dalawang layer ang gagamitin nang mag-isa.

Ang mapagkakatiwalaang metadata at mga watermark na lumalaban sa karamihan ng pagbabago ay magpapatatag sa tibay ng mga senyales ng patunay ng pinagmulan. Pero kailangan ng mga tao ng paraan para matukoy ang mga senyales na ito. Nagpapakita kami ngayon ng preview ng tool sa pampublikong beripikasyon⁠ na tutulong sa mga tao na mapatunayan kung ang in-upload na larawan ay ginawa sa ChatGPT, OpenAI API, o Codex, sa pamamagitan ng pagtingin kung naglalaman ito ng mga senyales ng patunay ng pinagmulan kabilang ang Content Credentials at SynthID.

Naniniwala kami na dapat mas madaling mapatunayan at mabigyang-kahulugan ng mga tao ang patunay ng pinagmulan, at na makakatulong ang aming tool para magkaroon sila ng papel sa pagsagot sa tanong na, “Ginawa ba ito gamit ang AI?” sa pamamagitan ng pagsasama-sama ng maraming senyales. Nakabatay ito sa mga natutunan mula sa unang preview ng pananaliksik ng aming pang-uri ng pagtukoy ng larawan⁠ noong 2024 at nagbibigay-daan sa mga tao na mapagkakatiwalaang matukoy kung may SynthID watermark na nagmula sa OpenAI sa media, pati na rin maipakita ang C2PA metadata kapag ito ay nakita.

Walang detection method ang perpekto, kaya maingat ang aming diskarte sa mga kasong pumapalya ang detection. Kung walang matukoy na metadata o watermark, halimbawa, hindi gagawa ang tool ng tiyak na konklusyon kung ang larawan ay ginawa gamit ang mga tool ng OpenAI dahil maaaring matanggal ang mga provenance signal sa ilang kaso.

Sa paglulunsad, limitado ang tool sa content na ginawa ng OpenAI. Sa mga susunod na buwan, layunin naming suportahan ang mga pagsisikap sa buong industriya para gawing posible ang verification sa iba’t ibang platform. Sa paglipas ng panahon, inaasahan din naming suportahan ang mas marami pang uri ng content na maaaring makita ng mga tao online.

Walang iisang provenance technique ang sapat sa sarili nito. Naniniwala kami na pinagsasama ng isang matibay na diskarte ang magkakatulad na pamantayan, matitibay na watermarking signal, at pampublikong verification. Sa pagpapatibay ng aming matagal nang suporta sa Content Credentials, pagiging conformant sa C2PA, paggamit ng SynthID, at pagpapakita ng preview ng mga pampublikong verification tool, umaasa kaming makapag-ambag sa pangmatagalan sa isang mas interoperable na provenance ecosystem.