Унапредување на потеклото на содржината за побезбеден и потранспарентен ВИ екосистем

Луѓето секојдневно ги користат алатките на OpenAI за да создаваат и уредуваат слики и аудио на начини што ја прават комуникацијата поизразна, покорисна и попристапна. Како што овие алатки стануваат дел од начинот на кој луѓето создаваат, замислуваат и споделуваат, важно е да можат да разберат и потврдат од каде потекнува медиумот за да го толкуваат со поголема сигурност. Сигналите за потекло можат да помогнат така што им даваат контекст на луѓето за тоа од каде доаѓа содржината, како е создадена или уредена и дали е тоа што тврди дека е.

Денес го зајакнуваме нашиот пристап кон потеклото на содржината со повеќеслоен модел, воден од екосистемот, за градење доверба онлајн. Ги правиме нашите сигнали за потекло полесни за препознавање од други алатки и платформи преку усогласеност со C2PA, додаваме издржливо меѓуплатформско водено жигосување SynthID на слики преку партнерство со Google и споделуваме преглед на алатка што јавноста може да ја користи за да потврди дали сликите потекнуваат од OpenAI.

Заедно, овие ажурирања се надоврзуваат на нашата претходна работа⁠ за поддршка на отворени стандарди, полесно препознавање на содржина генерирана од OpenAI и соработка низ индустријата за поддршка на посигурен информативен екосистем.

OpenAI е вклучен во развојот и усвојувањето на стандарди за потекло уште од 2024 година, кога почнавме да додаваме Content Credentials на слики генерирани од DALL·E 3⁠(се отвора во нов прозорец), а подоцна и на ImageGen⁠(се отвора во нов прозорец) и Sora⁠(се отвора во нов прозорец). Исто така, се приклучивме на Управниот комитет на Coalition for Content Provenance and Authenticity (C2PA), меѓуиндустриската група што стои зад отворениот технички стандард за потекло на содржина. Техничкиот пристап на C2PA користи метаподатоци и криптографски потписи за да помогне информациите за одреден медиум безбедно да патуваат заедно со самата содржина. Овие информации вклучуваат контекст што им помага на новинарите кои оценуваат извор, на платформите што носат одлуки за интегритет и на луѓето што се обидуваат да разберат што гледаат онлајн.

Неодамна го направивме чекорот OpenAI да стане C2PA Conforming Generator Product⁠(се отвора во нов прозорец). Со тоа што станавме усогласени со C2PA, им даваме на платформите доверлив начин да ги читаат, зачуваат и пренесуваат информациите за потекло што ги прикачуваме на нашата содржина. Ова е важно затоа што потеклото функционира само ако опстане и надвор од првата платформа каде што е создадена содржината, а усогласеноста го овозможува тоа.

Метаподатоците на C2PA се важна основа за потеклото. Тие ѝ помагаат на содржината да носи информации за тоа од каде потекнува, како е создадена или уредена и кој ги потпишал тие информации. Но метаподатоците не се непогрешливи. Тие може да бидат отстранети, изгубени при прикачувања и преземања или нарушени од трансформации како промени на форматот на датотека, промена на големина или слики од екранот.

За да го направиме потеклото поотпорно, применуваме повеќеслоен пристап и вклучуваме водено жигосување преку SynthID на Google DeepMind⁠(се отвора во нов прозорец), почнувајќи со слики генерирани преку ChatGPT⁠, Codex или OpenAI API. SynthID вградува невидлив слој на водено жигосување што ги надополнува пристапите засновани на метаподатоци на C2PA.

Веќе извесно време работиме кон ова. Користевме видливи водени жигови⁠ во Sora и аудио воден жиг⁠ во Voice Engine, и продолживме со тестирање и истражување на точноста и доверливоста со текот на времето. преку примена.

Овие два системи меѓусебно се зајакнуваат. C2PA ѝ помага на содржината да носи детален контекст; SynthID помага да се зачува сигнал кога метаподатоците не опстојуваат. Воденото жигосување може да биде поиздржливо при трансформации како слики од екранот, додека метаподатоците можат да обезбедат повеќе информации отколку само воден жиг. Заедно, тие го прават потеклото поотпорно отколку што би бил секој слој сам по себе.

Доверливите метаподатоци и водени жигови што се спротивставуваат на повеќето измени можат да ги направат сигналите за потекло поиздржливи. Но на луѓето им е потребен начин да ги откријат овие сигнали. Сега прикажуваме преглед на јавна алатка за верификација⁠ што ќе им помогне на луѓето да потврдат дали прикачена слика е генерирана на ChatGPT, OpenAI API или Codex, со проверка дали содржи сигнали за потекло, вклучувајќи Content Credentials и SynthID.

Веруваме дека потеклото треба да биде полесно за луѓето да го потврдат и толкуваат, и дека нашата алатка може да им помогне да имаат улога во одговарањето на прашањето: „Дали ова е генерирано со ВИ?“ со интегрирање на повеќе сигнали. Ова се надоврзува на сознанијата од почетниот истражувачки преглед на нашиот класификатор за откривање слики⁠ во 2024 година и им овозможува на луѓето сигурно да откријат дали во медиумот е присутен воден жиг SynthID што потекнува од OpenAI, како и да ги прикажат метаподатоците на C2PA кога ќе бидат пронајдени.

Ниту еден метод за откривање не е непогрешлив, па затоа применуваме претпазлив пристап во случаи кога откривањето не успева. Ако, на пример, не се откријат метаподатоци или воден жиг, алатката нема да донесе конечен заклучок за тоа дали сликата е генерирана со алатки на OpenAI, бидејќи сигналите за потекло во некои случаи може да бидат отстранети.

При лансирањето, алатката е ограничена на содржина генерирана од OpenAI. Во наредните месеци, целиме да ги поддржиме меѓуиндустриските напори за да овозможиме верификација низ платформи. Со текот на времето, очекуваме да поддржиме и повеќе видови содржина со кои луѓето може да се сретнат онлајн.

Ниту една поединечна техника за потекло не е доволна сама по себе. Веруваме дека силен пристап комбинира заеднички стандарди, издржливи сигнали од водено жигосување и јавна верификација. Надоврзувајќи се на нашата долгогодишна поддршка за Content Credentials, усогласувањето со C2PA, усвојувањето на SynthID и прегледот на јавни алатки за верификација, се надеваме дека долгорочно ќе придонесеме кон поинтероперабилен екосистем за потекло.