Náš přístup k pravidlům EU pro označování původu textu

Informace o původu obsahu pomáhají lidem pochopit, odkud obsah pochází, jak vznikl nebo byl upraven a zda obsahuje signály spojené s našimi modely. Již jsme veřejně zpřístupnili nástroje pro rozpoznávání obrázků a zvuku vygenerovaných našimi modely. Dnes představujeme náš přístup k vodoznakům v textu v reakci na akt EU o umělé inteligenci a vysvětlujeme, jak zapadá do naší širší práce.

Akt EU o umělé inteligenci vyžaduje, aby poskytovatelé generativní AI umožnili rozpoznání vygenerovaného textu strojově čitelným způsobem. Vkládání vodoznaků do textu a jejich detekce jsou stále technologie v rané fázi vývoje s významnými omezeními. Názory na jejich přínosy a odpovědné využití se teprve utvářejí. Náš postupný přístup zohledňuje jak požadavky aktu EU o umělé inteligenci, tak omezení této technologie. Klademe přitom důraz na otevřenost ohledně toho, co textový vodoznak lidem může a nemůže sdělit:

• Ode dneška si zákazníci API po celém světě mohou u vybraných modelů zapnout vodoznaky v textu. Ve výchozím nastavení API zůstanou vodoznaky v textu vypnuté.

• V nadcházejících týdnech začneme v Evropské unii přidávat neviditelný vodoznak do příslušných textových výstupů ChatGPT a Codexu.

• Zahajujeme příjem žádostí o přístup k našemu detektoru textových vodoznaků. Přístup bude zpočátku omezen na schválené výzkumníky a odborné organizace, které nám mohou pomoci tuto technologii vyhodnocovat a zlepšovat.

  • Výše uvedené se týká pouze určování původu textu. Naše nástroje pro ověřování zvuku a obrázků, včetně webového nástroje openai.com/verify⁠ a rozhraní Content Provenance API⁠(otevře se v novém okně), zůstanou veřejně přístupné organizacím, které chtějí zjistit, zda obrázek nebo zvukový soubor vygeneroval některý z našich systémů.

Naše technologie textových vodoznaků textGrain vnáší do výběru slov modelem neviditelný statistický signál. Náš detektor tento signál hledá, aby posoudil, zda úryvek obsahuje vodoznak OpenAI. Další podrobnosti o fungování technologie textGrain najdete v naší technické zprávě⁠(otevře se v novém okně), kterou v nadcházejících týdnech doplníme o další informace. Plánujeme také zveřejnit zdrojový kód této technologie, aby na ní mohli stavět i ostatní.

V našich hodnoceních dosáhla technologie textGrain stejných nebo lepších výsledků než ostatní testované přístupy, včetně SynthID pro text. Ani dobré výsledky za ideálních podmínek však nezaručují spolehlivou detekci při běžném používání.

Detektory se mohou dopustit dvou druhů chyb: mohou nahlásit vodoznak tam, kde žádný není – falešně pozitivní výsledek – nebo přehlédnout přítomný vodoznak – falešně negativní výsledek. Níže uvedená hodnocení ilustrují některé z těchto problémů:

• V kratším textu nebo v textu s omezenější volbou slov se vodoznak detekuje hůře. Při cílové míře falešně pozitivních výsledků 1 % náš detektor rozpoznal vodoznaky přibližně v 80 % úryvků o délce 200 tokenů oproti přibližně 95 % úryvků o délce 400 tokenů, a to u obsahu například z oblasti psychologie. Míra detekce byla podstatně nižší u obsahu například z oblasti matematiky, kde je menší volnost při výběru slov.

• Vodoznak mohou oslabit úpravy textu. Při hodnocení úryvků o délce 400 tokenů snížilo nahrazení 10 % slov synonymy míru detekce přibližně z 92 % na 66 %. Nahrazení 25 % slov ji snížilo na 17 %.

I kvůli těmto omezením jsme se rozhodli detektor zpočátku zpřístupnit pouze schváleným výzkumníkům a odborným organizacím, které nám mohou pomoci vyhodnocovat jeho spolehlivost a možnosti odpovědného využití.

V benchmarcích, které používáme k hodnocení našeho nejnovějšího průkopnického modelu Astra, nepozorujeme významné rozdíly ve výsledcích s vodoznaky a bez nich.

Textové vodoznaky poskytují jen omezený signál o tom, jakou roli naše systémy při tvorbě úryvku hrály. Je důležité vědět, co lze a nelze z výsledku detekce vyvodit.

• Vodoznak neměří podíl lidské práce. Může naznačovat, že systém OpenAI vygeneroval nebo zpracoval část úryvku, ale neukazuje, kolik lidského úsudku, úprav nebo tvořivosti do něj bylo vloženo.

• Vodoznak neurčuje vlastnictví ani odpovědnost. Neurčuje, kdo text vlastní, zda bylo jeho použití zákonné, zda bylo nutné přiznat použití AI ani kdo za text odpovídá.

• Vodoznak neidentifikuje uživatele. Nespojuje text s konkrétní osobou, organizací, účtem, promptem ani konverzací.

• Vodoznak neověřuje správnost. Neřekne vám, zda je úryvek pravdivý, zavádějící, škodlivý nebo zasazený do správného kontextu.

• Pokud se vodoznak nenajde, neprokazuje to lidské autorství. Text vygenerovaný pomocí nástrojů OpenAI může být příliš krátký, upravený nebo přeložený, takže detekce nemusí fungovat spolehlivě. Může také pocházet z nepodporovaného modelu, vzniknout před zavedením vodoznaků nebo být vygenerován nástroji jiné společnosti.

• Zavádění vodoznaků v textu v EU. V nadcházejících týdnech zavedeme textové vodoznaky pro příslušné uživatele ChatGPT a Codexu, ve všech tarifech, výhradně v EU. Při spuštění nebudou textové vodoznaky celosvětově zapnuté ve výchozím nastavení. Tento regionální přístup nám dává prostor poučit se z reálného používání a zpětné vazby.

• Možnost zapnout vodoznaky pro zákazníky API. Ode dneška si zákazníci API po celém světě mohou u vybraných modelů zapnout textové výstupy s vodoznakem. Zákazníci tak mohou sami rozhodnout, jak vodoznaky zapadají do jejich povinností v oblasti transparentnosti a do služeb, které nabízejí uživatelům. Spolupracujeme také s cloudovými partnery, abychom v nadcházejících týdnech zpřístupnili vodoznaky pro výstupy modelů OpenAI dostupné prostřednictvím jejich služeb.

• Zpřístupnění detektoru výzkumníkům a odborným organizacím. Schválení výzkumníci a odborné organizace mohou ode dneška podat žádost. V souladu s etickým kodexem⁠(otevře se v novém okně) bude přístup zpočátku udělován individuálně s cílem podpořit vyhodnocování a zlepšování určování původu textu. Nástroj oznámí, zda detekuje vodoznak OpenAI, aniž by identifikoval uživatele nebo odhalil jeho prompty či konverzace. Vzhledem k riziku přehlédnutých vodoznaků a falešně pozitivních výsledků jej při spuštění nezpřístupňujeme veřejně.

S vývojem technologií, standardů a poznatků hodláme jednotlivé části tohoto přístupu přehodnocovat.

Žádná technika určování původu sama o sobě nestačí. Proto uplatňujeme vícevrstvý přístup, který kombinuje otevřené standardy, odolné vodoznaky a ověřovací nástroje.

K podporovaným obrazovým výstupům přidáváme údaje Content Credentials, splňujeme standard C2PA⁠(otevře se v novém okně), do podporovaných obrázků a zvuku vkládáme neviditelné vodoznaky SynthID⁠(otevře se v novém okně) a nabízíme ověřování obrázků a zvuku prostřednictvím openai.com/verify⁠ a našeho rozhraní Content Provenance API⁠(otevře se v novém okně). Tyto techniky se navzájem doplňují: Content Credentials ukládají původ a historii souboru, zatímco neviditelné vodoznaky mohou zachovat signál i po odstranění metadat.

Jak jsme popsali v rámci naší práce na ochraně voleb, informace o původu mohou lidem i platformám pomoci posoudit potenciálně zavádějící obsah vygenerovaný AI, včetně deepfake obsahu. Tyto signály propojujeme s pravidly, odhalováním zneužití, hlášením, šetřením a vymáháním pravidel. Spolupracujeme s výzkumníky, standardizačními orgány, platformami a občanskou společností, aby informace o původu byly užitečné v celém ekosystému.

Při rozšiřování značení původu i na text je třeba zohlednit, jak snadno jej lze přepsat, přeložit nebo upravit. Jak jsme uvedli v červnu, náš přístup musí odrážet praktická omezení současných technologií. Budeme nadále zlepšovat detekci, zkoumat odolnost vodoznaků vůči úpravám a překladům a hledat způsoby, jak lépe rozlišovat mezi pomocí od AI a přímým autorstvím AI. Náš přístup budeme přizpůsobovat vývoji poznatků, standardů a regulatorních požadavků. Přístup k detektoru rozšíříme, až budeme přesvědčeni, že jeho výsledky lze interpretovat odpovědně.

Další informace najdete v našem článku v centru nápovědy⁠(otevře se v novém okně).