Efling uppruna efnis fyrir öruggara og gagnsærra vistkerfi gervigreindar

Fólk notar verkfæri OpenAI á hverjum degi til að búa til og breyta myndum og hljóði á þann hátt að samskipti verði tjáningarríkari, gagnlegri og aðgengilegri. Eftir því sem þessi verkfæri verða hluti af því hvernig fólk skapar, ímyndar sér og deilir, er mikilvægt að fólk geti skilið og sannreynt hvaðan efnið kemur svo það geti túlkað það af meira öryggi. Upprunamerki geta hjálpað með því að gefa fólki samhengi um hvaðan efni kemur, hvernig það var búið til eða því breytt, og hvort það sé það sem það segist vera.

Í dag erum við að styrkja nálgun okkar að upprunaefni með marglaga, vistkerfisknúnu líkani til að byggja upp traust á netinu. Við erum að gera upprunamerki okkar auðveldari fyrir önnur verkfæri og kerfi að þekkja með C2PA-samræmi, bæta við endingargóðri SynthID-vatnsmerkingu þvert á kerfi fyrir myndir í samstarfi við Google og deila forsýn af tóli sem almenningur getur notað til að sannreyna hvort myndir komi frá OpenAI.

Saman byggja þessar uppfærslur á fyrri vinnu okkar⁠ til að styðja opin viðmið, gera efni frá OpenAI auðþekkjanlegra og vinna með greininni að traustara upplýsingavistkerfi.

OpenAI hefur tekið þátt í þróun og innleiðingu upprunastaðla síðan 2024, þegar við fórum að bæta Content Credentials við myndir sem voru búnar til með DALL·E 3⁠(opnast í nýjum glugga) og síðar við ImageGen⁠(opnast í nýjum glugga) og Sora⁠(opnast í nýjum glugga). Við gengum einnig í stýrinefnd Coalition for Content Provenance and Authenticity (C2PA), þverfaglega hópsins á bak við opna tæknistaðalinn fyrir uppruna efnis. Tæknileg nálgun C2PA notar lýsigögn og dulritaðar undirskriftir til að hjálpa upplýsingum um tiltekið miðlaefni að ferðast örugglega með efninu sjálfu. Þessar upplýsingar fela í sér samhengi sem hjálpar blaðamönnum að meta heimild, kerfum að taka ákvarðanir um áreiðanleika og fólki að skilja það sem það sér á netinu.

Við tókum nýlega það skref að gera OpenAI að C2PA-samræmdri framleiðsluvöru⁠(opnast í nýjum glugga). Með því að verða í samræmi við C2PA gefum við kerfum trausta leið til að lesa, varðveita og miðla áfram upprunaupplýsingunum sem við tengjum við efnið okkar. Þetta skiptir máli vegna þess að uppruni virkar aðeins ef hann lifir af út fyrir fyrsta kerfið þar sem efni er búið til, og samræmi gerir það mögulegt.

C2PA-lýsigögn eru mikilvægur grunnur fyrir uppruna. Þau hjálpa efni að bera upplýsingar um hvaðan það kemur, hvernig það var búið til eða því breytt og hver undirritaði þær upplýsingar. En lýsigögn eru ekki óskeikul. Þau geta verið fjarlægð, tapast við upphal og niðurhal eða skemmst við umbreytingar eins og breytingar á skráarsniði, stærðarbreytingar eða skjáskot.

Til að gera uppruna þolnari erum við að taka upp marglaga nálgun og innleiða vatnsmerkingu með SynthID frá Google DeepMind⁠(opnast í nýjum glugga), fyrst fyrir myndir sem eru búnar til í ChatGPT⁠, Codex eða OpenAI API. SynthID bætir við ósýnilegu vatnsmerkingarlagi sem styður við nálganir C2PA sem byggja á lýsigögnum.

Við höfum unnið að þessu um nokkurt skeið. Við höfum notað sýnilegar vatnsmerkingar⁠ í Sora og hljóðvatnsmerki⁠ í Voice Engine og höfum haldið áfram að prófa og rannsaka nákvæmni og áreiðanleika yfir tíma. í gegnum innleiðingu.

Þessi tvö kerfi styrkja hvort annað. C2PA hjálpar efni að bera ítarlegt samhengi; SynthID hjálpar til við að varðveita merki þegar lýsigögn lifa ekki af. Vatnsmerking getur verið endingarbetri í gegnum umbreytingar eins og skjáskot, á meðan lýsigögn geta veitt meiri upplýsingar en vatnsmerki eitt og sér. Saman gera þau uppruna þolnari en hvort lag fyrir sig gæti gert eitt og sér.

Traust lýsigögn og vatnsmerki sem standast flestar breytingar geta gert upprunamerki endingarbetri. En fólk þarf leið til að greina þessi merki. Við erum nú að sýna forsýn af opinberu sannprófunartóli⁠ sem mun hjálpa fólki að sannreyna hvort upphlaðin mynd hafi verið búin til í ChatGPT, OpenAI API eða Codex með því að athuga hvort hún innihaldi upprunamerki, þar á meðal Content Credentials og SynthID.

Við teljum að það eigi að vera auðveldara fyrir fólk að sannreyna og túlka uppruna og að tólið okkar geti hjálpað fólki að taka þátt í að svara spurningunni: „Var þetta búið til með gervigreind?“ með því að samþætta margvíslegar vísbendingar. Þetta byggir á lærdómi úr fyrstu rannsóknarforsýninni af myndgreiningarflokkara⁠ okkar árið 2024 og gerir fólki kleift að greina á áreiðanlegan hátt hvort SynthID-vatnsmerki frá OpenAI sé til staðar í miðlaefninu, auk þess að birta C2PA-lýsigögn þegar þau finnast.

Engin greiningaraðferð er óskeikul, svo við förum varlega þegar greining mistekst. Ef engin lýsigögn eða vatnsmerki greinast mun tólið til dæmis ekki draga endanlega ályktun um hvort myndin hafi verið búin til með verkfærum OpenAI, þar sem upprunamerki geta í sumum tilvikum verið fjarlægð.

Við útgáfu er tólið takmarkað við efni sem OpenAI hefur búið til. Á næstu mánuðum stefnum við að því að styðja þverfaglegt samstarf til að gera sannprófun mögulega þvert á kerfi. Með tímanum gerum við einnig ráð fyrir að styðja fleiri tegundir efnis sem fólk gæti rekist á á netinu.

Engin ein upprunatækni nægir ein og sér. Við teljum að sterk nálgun sameini sameiginleg viðmið, endingargóð vatnsmerkingarmerki og opinbera sannprófun. Með því að byggja á langvarandi stuðningi okkar við Content Credentials, verða í samræmi við C2PA, taka upp SynthID og sýna forsýn af opinberum sannprófunarverkfærum vonumst við til að leggja til langs tíma af mörkum til samhæfðara vistkerfis fyrir uppruna.