Podpora európskej práce na dôveryhodnom ekosystéme AI

Ľudia používajú AI na tvorbu a úpravu obsahu novými spôsobmi. Keď sa tieto nástroje stávajú schopnejšími a rozšírenejšími, ľudia by mali mať kontext k obsahu, ktorý vidia online.

Dnes, po zverejnení Kódexu postupov Európskej komisie o transparentnosti obsahu generovaného AI, OpenAI oznamuje podporu tomuto kódexu aj ambícii, ktorá za ním stojí. Kódex je dôležitým krokom pri implementácii aktu EÚ o AI a budovaní transparentnejšieho digitálneho ekosystému.

Táto podpora nadväzuje na roky interného výskumu, vývoja produktov a spolupráce so širším ekosystémom s cieľom posilniť pôvod obsahu generovaného AI. OpenAI od roku 2024 vyvíja a prijíma štandardy pôvodu, keď sme začali pridávať metadáta C2PA do nášho nástroja DALL-E 3 na generovanie obrázkov. Odvtedy ďalej posilňujeme pôvod pomocou lepších metód označovania a detekcie, nového výskumu a vydania nášho prvého verejného overovacieho nástroja. Na základe rokov skúseností sme spolu so stovkami ďalších zainteresovaných strán prispeli k vývoju tohto kódexu, aby sme pomohli zabezpečiť dôveryhodný ekosystém AI.  

Nadväzuje to na náš širší prístup k riadeniu AI v Európe. V roku 2025 bola OpenAI prvou americkou spoločnosťou, ktorá podpísala Kódex postupov EÚ pre všeobecnú AI, čo odráža naše presvedčenie, že jasné a uskutočniteľné pravidlá môžu pomôcť zodpovednému rozvoju AI a zároveň dať firmám istotu pokračovať vo vývoji. Tento nový kódex podporujeme v rovnakom duchu. Posilňovanie transparentnosti obsahu generovaného AI je úsilím celého ekosystému a vyžaduje príspevok aktérov v celom hodnotovom reťazci. Akt EÚ o AI aj kódex to uznávajú a my sa zaväzujeme plniť svoju úlohu dodržiavaním požiadaviek vzťahujúcich sa na naše relevantné produkty.  

Keď sa nástroje AI stávajú súčasťou toho, ako ľudia tvoria, predstavujú si a zdieľajú, je dôležité, aby vedeli pochopiť, odkiaľ obsah pochádza, a vykladať ho s dôverou. Signály pôvodu môžu pomôcť tým, že ľuďom poskytnú kontext o zdroji obsahu, o tom, ako bol vytvorený alebo upravený, a či je tým, za čo sa vydáva. Pôvod môže tiež chrániť digitálny ekosystém tým, že uľahčí odhaľovanie dezinformačných kampaní a podporu integrity volieb.  

Účinné, spoľahlivé a robustné metódy pôvodu by sa mali budovať spoločne a fungovať naprieč ekosystémom. Preto spolupracujeme s koalíciami ako C2PA, ktorá spája spravodajské organizácie, výrobcov zariadení, online platformy a poskytovateľov AI na rozvoji interoperabilných štandardov. Metadáta C2PA sú dôležitým základom pôvodu. Pomáhajú obsahu niesť informácie o tom, odkiaľ pochádza, ako bol vytvorený alebo upravený a kto tieto informácie podpísal. Metadáta však nie sú neomylné. Môžu byť odstránené, stratiť sa pri nahrávaní a sťahovaní alebo sa porušiť zmenami, ako je zmena formátu súboru, veľkosti či snímky obrazovky. Aby bol pôvod odolnejší, používame viacvrstvový prístup, ktorý v našich nástrojoch kombinuje viacero signálov a produktových ochrán. 

V posledných rokoch sme vybudovali viacvrstvový model riadený ekosystémom, ktorým v našom prístupe k pôvodu obsahu budujeme dôveru online. Naša súčasná práca zahŕňa:

• Content Credentials C2PA⁠(otvorí sa v novom okne) pre obrázky: Začali sme pridávať metadáta C2PA do obrázkov vytvorených a upravených nástrojom DALL·E 3 v ChatGPT a OpenAI API a ďalej rozširujeme signály pôvodu v obrázkoch generovaných OpenAI.
• Viaceré signály pre obrázky generované OpenAI: Obrázky generované pomocou ChatGPT, Codex a OpenAI API obsahujú metadáta C2PA aj vodoznaky SynthID. Metadáta môžu niesť bohatšie informácie, zatiaľ čo vodoznaky môžu pomôcť zachovať signál v rôznych kontextoch.
• Verejná overovacia skúsenosť: openai.com/verify umožňuje ľuďom overiť, či podporované obrázky obsahujú signály pôvodu spojené s obrázkami generovanými OpenAI.
• Príspevky k otvoreným štandardom. V roku 2024 sa OpenAI pripojila k riadiacemu výboru C2PA, medzisektorovému úsiliu zahŕňajúcemu softvérové spoločnosti, výrobcov kamier, mediálne organizácie a online platformy.
• Produktové ochrany: Pôvod dopĺňa zásady, klasifikátory, kanály hlásenia a procesy vynucovania, ktoré znižujú klamlivé používanie obsahu generovaného AI vrátane zneužitia podoby a klamania súvisiaceho s voľbami.

Hoci je pôvod užitočný, stále ide o začínajúcu oblasť. Signály sa môžu pri pohybe obsahu online stratiť: metadáta možno odstrániť, vodoznaky môžu degradovať a štítky pomáhajú len tam, kde sa ľudia s obsahom stretnú. Zlepšenie spoľahlivosti, robustnosti a interoperability techník pôvodu si stále vyžaduje značnú prácu a spoluprácu v ekosystéme.

Kódex postupov udáva správny smer: vysokú mieru ambícií pri rozvoji techník pôvodu. Pri jeho zavádzaní by mal zostať ukotvený v metódach, ktoré fungujú v praxi, a dostatočne flexibilný, aby odrážal obmedzenia súčasných techník.

OpenAI bude naďalej posilňovať transparentnosť obsahu naprieč našimi produktmi, prispievať k vývoju interoperabilných štandardov a zlepšovať overovacie nástroje. Tešíme sa na spoluprácu s Úradom pre AI, členskými štátmi a širšou komunitou AI pri budovaní bezpečnejšieho a transparentnejšieho ekosystému AI.