Sisällön alkuperän edistäminen turvallisemman ja läpinäkyvämmän tekoälyekosysteemin puolesta

Ihmiset käyttävät OpenAI:n työkaluja päivittäin kuvien ja äänen luomiseen ja muokkaamiseen tavoilla, jotka tekevät viestinnästä ilmeikkäämpää, hyödyllisempää ja saavutettavampaa. Kun näistä työkaluista tulee osa sitä, miten ihmiset rakentavat, kuvittelevat ja jakavat, on tärkeää, että ihmiset voivat ymmärtää ja varmistaa, mistä media on peräisin, jotta he voivat tulkita sitä varmemmin. Alkuperäsignaalit voivat auttaa antamalla ihmisille kontekstia siitä, mistä sisältö on peräisin, miten se on luotu tai muokattu ja onko se sitä, mitä se väittää olevansa.

Tänään vahvistamme lähestymistapaamme sisällön alkuperään monikerroksisella, ekosysteemivetoisella mallilla luottamuksen rakentamiseksi verkossa. Teemme alkuperäsignaaleistamme helpommin muiden työkalujen ja alustojen tunnistettavia C2PA-yhdenmukaisuuden avulla, lisäämme kuviin kestävän alustojen välisen SynthID-vesileimauksen yhteistyössä Googlen kanssa ja esittelemme ennakkoversion työkalusta, jolla yleisö voi varmistaa, ovatko kuvat peräisin OpenAI:lta.

Yhdessä nämä päivitykset rakentuvat aiemman työmme⁠ varaan tukemaan avoimia standardeja, tekemään OpenAI:n luomasta sisällöstä helpommin tunnistettavaa ja edistämään yhteistyötä koko toimialalla luotettavamman tietoekosysteemin tukemiseksi.

OpenAI on osallistunut alkuperästandardien kehittämiseen ja käyttöönottoon vuodesta 2024 lähtien, jolloin aloimme lisätä Content Credentials -tietoja DALL·E 3:n⁠(avautuu uudessa ikkunassa) luomiin kuviin ja myöhemmin ImageGeniin⁠(avautuu uudessa ikkunassa) ja Soraan⁠(avautuu uudessa ikkunassa). Liityimme myös Coalition for Content Provenance and Authenticityn (C2PA) ohjauskomiteaan. Kyseessä on toimialojen välinen ryhmä avoimen teknisen sisältöjen alkuperästandardin takana. C2PA:n tekninen lähestymistapa käyttää metadataa ja kryptografisia allekirjoituksia auttaakseen mediatiedostoa koskevia tietoja kulkemaan turvallisesti itse sisällön mukana. Nämä tiedot sisältävät kontekstia, joka auttaa lähdettä arvioivia toimittajia, eheyttä koskevia päätöksiä tekeviä alustoja ja ihmisiä, jotka yrittävät ymmärtää, mitä he näkevät verkossa.

Olemme äskettäin ottaneet askeleen kohti OpenAI:n muuttamista C2PA-vaatimusten mukaiseksi tuotantogeneraattoriksi⁠(avautuu uudessa ikkunassa). Ottamalla käyttöön C2PA-standardin tarjoamme alustoille luotettavan tavan lukea, säilyttää ja välittää sisältöömme liitettyjä alkuperätietoja. Tämä on tärkeää, koska alkuperä toimii vain, jos se säilyy sen ensimmäisen alustan ulkopuolella, jolla sisältö luodaan, ja yhdenmukaisuus tekee tämän mahdolliseksi.

C2PA-metadata on tärkeä perusta alkuperälle. Se auttaa sisältöä kuljettamaan tietoa siitä, mistä se on peräisin, miten se on luotu tai muokattu ja kuka on allekirjoittanut nämä tiedot. Metadata ei kuitenkaan ole erehtymätöntä. Se voidaan poistaa, se voi kadota latausten ja siirtojen aikana tai rikkoutua muunnoksissa, kuten tiedostomuodon vaihdossa, koon muuttamisessa tai kuvakaappauksissa.

Jotta alkuperä olisi kestävämpi, omaksumme monikerroksisen lähestymistavan ja lisäämme vesileimauksen Google DeepMindin SynthID:n⁠(avautuu uudessa ikkunassa) avulla alkaen kuvista, jotka on luotu ChatGPT:llä⁠, Codexilla tai OpenAI API:n kautta. SynthID upottaa näkymättömän vesileimauskerroksen, joka täydentää C2PA-metadatan varaan rakentuvia lähestymistapoja.

Olemme valmistelleet tätä jo jonkin aikaa. Olemme käyttäneet näkyviä vesileimoja⁠ Sorassa ja äänivesileimaa⁠ Voice Enginessä sekä jatkaneet tarkkuuden ja luotettavuuden testaamista ja tutkimista ajan mittaan. käyttöönoton kautta.

Nämä kaksi järjestelmää vahvistavat toisiaan. C2PA auttaa sisältöä kuljettamaan yksityiskohtaista kontekstia; SynthID auttaa säilyttämään signaalin, kun metadata ei säily. Vesileimaus voi kestää paremmin muunnoksia, kuten kuvakaappauksia, kun taas metadata voi tarjota enemmän tietoa kuin pelkkä vesileima. Yhdessä ne tekevät alkuperästä kestävämmän kuin kumpikaan kerros yksinään.

Luotettava metadata ja useimpia muokkauksia kestävät vesileimat voivat tehdä alkuperäsignaaleista kestävämpiä. Mutta ihmiset tarvitsevat keinon havaita nämä signaalit. Esittelemme nyt ennakkoversion julkisesta varmennustyökalusta⁠, jonka avulla käyttäjät voivat tarkistaa, onko ladattu kuva luotu ChatGPT:llä, OpenAI:n sovellusliittymällä vai Codexilla. Työkalu tarkistaa, sisältääkö kuva alkuperätietoja, kuten Content Credentials- ja SynthID-tunnisteita.

Uskomme, että alkuperän pitäisi olla helpompi todentaa ja tulkita, ja että työkalumme voi auttaa ihmisiä vastaamaan kysymykseen ”Onko tämä luotu tekoälyn avulla?” yhdistämällä useita eri viitteitä. Tämä perustuu vuonna 2024 julkaistun kuvantunnistusluokittelijamme⁠ alustavan tutkimusesittelyn tuloksiin ja antaa käyttäjille mahdollisuuden tunnistaa luotettavasti, onko mediassa OpenAI:n tuottamaa SynthID-vesileimaa, sekä tuoda esiin C2PA-metatiedot, kun sellainen löytyy.

Mikään havaitsemismenetelmä ei ole erehtymätön, joten noudatamme varovaista lähestymistapaa tapauksissa, joissa havaitseminen epäonnistuu. Jos metadataa tai vesileimaa ei esimerkiksi havaita, työkalu ei tee lopullista johtopäätöstä siitä, onko kuva luotu OpenAI:n työkaluilla, koska alkuperäsignaalit voidaan joissain tapauksissa poistaa.

Julkaisun yhteydessä työkalu on rajattu OpenAI:n luomaan sisältöön. Tulevien kuukausien aikana tavoitteenamme on tukea toimialojen välisiä pyrkimyksiä tehdä varmennuksesta mahdollista eri alustoilla. Ajan myötä odotamme tukevamme myös useampia sisältötyyppejä, joihin ihmiset voivat törmätä verkossa.

Mikään yksittäinen alkuperätekniikka ei yksin riitä. Uskomme, että vahva lähestymistapa yhdistää yhteiset standardit, kestävät vesileimaussignaalit ja julkisen varmennuksen. Rakentamalla pitkäaikaisen Content Credentials -tukemme varaan, tulemalla C2PA-yhdenmukaisiksi, ottamalla SynthID:n käyttöön ja esittelemällä julkisia varmennustyökaluja toivomme voivamme pitkällä aikavälillä edistää yhteentoimivampaa alkuperäekosysteemiä.