Insaħħu l-provenjenza tal-kontenut għal ekosistema tal-IA aktar sigura u aktar trasparenti

Aġġornament tal-5 ta’ Ottubru 2026: Qed nestendu din il-ħidma għat-test fl-UE, biex inkunu konformi mal-Att tal-UE dwar l-IA. Sir af aktar.

Aġġornament tal-31 ta’ Lulju 2026: Qed nestendu din il-ħidma lil hinn mill-immaġnijiet. L-awdjo appoġġjat iġġenerat bl-għodod ta’ OpenAI, inkluż permezz ta’ ChatGPT u tal-API ta’ OpenAI, issa jinkludi marki tal-ilma ta’ SynthID. L-għodda pubblika tagħna ta’ verifika issa se tippermetti l-verifika ta’ fajls awdjo appoġġjati minbarra l-immaġnijiet. Qed nintroduċu wkoll aċċess permezz tal-API għall-verifika, sabiex l-iżviluppaturi u l-organizzazzjonijiet ikunu jistgħu jinkorporaw kontrolli tal-provenjenza fil-flussi tax-xogħol tagħhom stess. Flimkien, dawn l-aġġornamenti jkomplu jibnu fuq l-approċċ b’diversi saffi deskritt hawn taħt: ngħaqqdu standards miftuħa bħas-C2PA, sinjali durabbli ta’ marki tal-ilma bħal SynthID, u għodod ta’ verifika biex il-provenjenza tkun aktar faċli biex tinstab u tintuża f’aktar tipi ta’ kontenut iġġenerat minn OpenAI.

In-nies qed jużaw l-għodod ta’ OpenAI kuljum biex joħolqu u jeditjaw immaġnijiet u awdjo b’modi li jagħmlu l-komunikazzjoni aktar espressiva, utli u aċċessibbli. Hekk kif dawn l-għodod isiru parti mill-mod kif in-nies joħolqu, jimmaġinaw u jaqsmu l-kontenut, huwa importanti li n-nies ikunu jistgħu jifhmu u jivverifikaw minn fejn ġej il-kontenut medjatiku biex ikunu jistgħu jinterpretawh b’aktar fiduċja. Is-sinjali tal-provenjenza jistgħu jgħinu billi jagħtu lin-nies kuntest dwar minn fejn ġie l-kontenut, kif inħoloq jew ġie editjat, u jekk huwiex dak li jippretendi li hu.

Illum qed insaħħu l-approċċ tagħna għall-provenjenza tal-kontenut b’qafas b’diversi saffi, immexxi mill-ekosistema, biex nibnu l-fiduċja online. Qed nagħmluha aktar faċli għal għodod u pjattaformi oħra biex jagħrfu s-sinjali tal-provenjenza tagħna permezz tal-konformità mas-C2PA, inżidu marki tal-ilma durabbli ta’ SynthID fl-immaġnijiet li jaħdmu fuq pjattaformi differenti permezz ta’ sħubija ma’ Google, u naqsmu verżjoni preliminari ta’ għodda li l-pubbliku jista’ juża biex jivverifika jekk l-immaġnijiet ġewx minn OpenAI.

Flimkien, dawn l-aġġornamenti jkomplu jibnu fuq il-ħidma preċedenti tagħna⁠ biex nappoġġjaw standards miftuħa, nagħmluha aktar faċli li jiġi identifikat kontenut iġġenerat minn OpenAI, u nikkollaboraw mal-industrija kollha biex nappoġġjaw ekosistema tal-informazzjoni aktar affidabbli.

OpenAI ilha involuta fl-iżvilupp u l-adozzjoni ta’ standards tal-provenjenza mill-2024, meta bdejna nżidu Content Credentials mal-immaġnijiet iġġenerati minn DALL·E 3⁠(jinfetaħ f’tieqa ġdida) u aktar tard ma’ dawk iġġenerati minn ImageGen⁠(jinfetaħ f’tieqa ġdida) u Sora⁠(jinfetaħ f’tieqa ġdida). Ingħaqadna wkoll mal-Kumitat ta’ Tmexxija tal-Koalizzjoni għall-Provenjenza u l-Awtentiċità tal-Kontenut (C2PA), il-grupp li jiġbor flimkien industriji differenti u li huwa wara l-istandard tekniku miftuħ għall-provenjenza tal-kontenut. L-approċċ tekniku tas-C2PA juża metadata u firem kriptografiċi biex jgħin lill-informazzjoni dwar kontenut medjatiku tibqa’ takkumpanja l-kontenut innifsu b’mod sigur. Din l-informazzjoni tinkludi kuntest li jgħin lill-ġurnalisti li jevalwaw sors, lill-pjattaformi li jieħdu deċiżjonijiet dwar l-integrità, u lin-nies li jippruvaw jifhmu dak li qed jaraw online.

Dan l-aħħar ħadna l-pass li nagħmlu lil OpenAI Prodott ta’ Ġenerazzjoni Konformi mas-C2PA⁠(jinfetaħ f’tieqa ġdida). Billi nsiru konformi mas-C2PA, qed nagħtu lill-pjattaformi mod affidabbli biex jaqraw, jippreservaw u jgħaddu l-informazzjoni dwar il-provenjenza li nehmżu mal-kontenut tagħna. Dan huwa importanti għax l-informazzjoni dwar il-provenjenza tkun utli biss jekk tibqa’ teżisti lil hinn mill-ewwel pjattaforma fejn jinħoloq il-kontenut, u l-konformità tagħmel dan possibbli.

Il-metadata tas-C2PA hija pedament importanti għall-provenjenza. Tgħin biex il-kontenut ikollu miegħu informazzjoni dwar minn fejn ġie, kif inħoloq jew ġie editjat, u min iffirma dik l-informazzjoni. Iżda l-metadata mhijiex infallibbli. Tista’ titneħħa, tintilef waqt it-tlugħ u t-tniżżil ta’ fajls, jew ma tibqax valida wara trasformazzjonijiet bħal tibdil fil-format tal-fajl, tibdil fid-daqs, jew qbid tal-iskrin.

Biex nagħmlu l-provenjenza aktar reżiljenti, qed nadottaw approċċ b’diversi saffi u ninkorporaw marki tal-ilma permezz ta’ SynthID ta’ Google DeepMind⁠(jinfetaħ f’tieqa ġdida), billi nibdew bl-immaġnijiet iġġenerati permezz ta’ ChatGPT⁠, Codex, jew l-API ta’ OpenAI. SynthID jinkorpora saff inviżibbli ta’ marki tal-ilma li jikkumplimenta l-approċċi bbażati fuq il-metadata tas-C2PA.

Ilna naħdmu lejn dan għal xi żmien. Użajna marki tal-ilma viżibbli⁠ f’Sora u marka tal-ilma fl-awdjo⁠ f’Voice Engine, u maż-żmien komplejna nittestjaw u nirriċerkaw l-eżattezza u l-affidabbiltà. permezz tal-użu fil-prattika.

Dawn iż-żewġ sistemi jsaħħu lil xulxin. Is-C2PA tgħin biex il-kontenut ikollu miegħu kuntest dettaljat; SynthID jgħin biex jiġi ppreservat sinjal meta l-metadata tintilef. Il-marki tal-ilma jistgħu jkunu aktar durabbli quddiem trasformazzjonijiet bħall-qbid tal-iskrin, filwaqt li l-metadata tista’ tipprovdi aktar informazzjoni minn marka tal-ilma waħedha. Flimkien, jagħmlu l-provenjenza aktar reżiljenti milli kieku jintuża saff wieħed biss.

Metadata affidabbli u marki tal-ilma li jirreżistu l-biċċa l-kbira tal-modifiki jistgħu jagħmlu s-sinjali tal-provenjenza aktar durabbli. Iżda n-nies jeħtieġu mod kif jidentifikaw dawn is-sinjali. Issa qed nippreżentaw verżjoni preliminari ta’ għodda pubblika ta’ verifika⁠ li se tgħin lin-nies jivverifikaw jekk immaġni mtellgħa ġietx iġġenerata fuq ChatGPT, l-API ta’ OpenAI, jew Codex, billi tivverifika jekk tinkludix sinjali tal-provenjenza, fosthom Content Credentials u SynthID.

Nemmnu li għandu jkun aktar faċli għan-nies li jivverifikaw u jinterpretaw il-provenjenza, u li l-għodda tagħna tista’ tgħinhom ikollhom sehem fit-tweġiba għall-mistoqsija, “Dan ġie ġġenerat bl-IA?” billi tintegra diversi sinjali. Dan jibni fuq dak li tgħallimna mill-verżjoni preliminari inizjali għar-riċerka tal-klassifikatur tagħna għall-identifikazzjoni tal-immaġnijiet⁠ fl-2024 u jippermetti lin-nies jidentifikaw b’mod affidabbli jekk hemmx marka tal-ilma ta’ SynthID li toriġina minn OpenAI fil-kontenut medjatiku, kif ukoll juri l-metadata tas-C2PA meta tinstab.

L-ebda metodu ta’ identifikazzjoni mhu infallibbli, għalhekk nadottaw approċċ kawt f’każijiet fejn l-identifikazzjoni tfalli. Jekk ma tinstab l-ebda metadata jew marka tal-ilma, pereżempju, l-għodda mhux se tasal għal konklużjoni definittiva dwar jekk l-immaġni ġietx iġġenerata bl-għodod ta’ OpenAI, peress li s-sinjali tal-provenjenza jistgħu f’ċerti każijiet jitneħħew.

Mat-tnedija, l-għodda hija limitata għal kontenut iġġenerat minn OpenAI. Fix-xhur li ġejjin, għandna l-għan li nappoġġjaw sforzi fl-industrija kollha biex il-verifika tkun possibbli fuq pjattaformi differenti. Maż-żmien, nistennew ukoll li nappoġġjaw aktar tipi ta’ kontenut li n-nies jistgħu jiltaqgħu miegħu online.

L-ebda teknika waħda ta’ provenjenza ma hija biżżejjed waħedha. Nemmnu li approċċ b’saħħtu jgħaqqad standards komuni, sinjali durabbli ta’ marki tal-ilma, u verifika pubblika. Billi nkomplu nibnu fuq l-appoġġ li ilna nagħtu lil Content Credentials, insiru konformi mas-C2PA, nadottaw SynthID, u nippreżentaw verżjonijiet preliminari ta’ għodod pubbliċi ta’ verifika, nittamaw li fuq medda twila ta’ żmien nikkontribwixxu għal ekosistema tal-provenjenza aktar interoperabbli.