Kuendeleza asili ya maudhui kwa mfumo wa AI ulio salama zaidi na wazi zaidi

Watu wanatumia zana za OpenAI kila siku kuunda na kuhariri picha na sauti kwa njia zinazofanya mawasiliano yawe ya kujieleza zaidi, yenye manufaa zaidi, na yanayofikika zaidi. Kadri zana hizi zinavyokuwa sehemu ya jinsi watu wanavyojenga, kuwaza, na kushiriki, ni muhimu watu waweze kuelewa na kuthibitisha media inatoka wapi ili waweze kuitafsiri kwa uhakika zaidi. Ishara za asili ya maudhui zinaweza kusaidia kwa kuwapa watu muktadha kuhusu maudhui yalipotoka, jinsi yalivyoundwa au kuhaririwa, na kama ni yale yanayodaiwa kuwa.

Leo tunaimarisha mbinu yetu ya asili ya maudhui kwa muundo wa tabaka nyingi unaoendeshwa na mfumo mpana wa ikolojia ili kujenga uaminifu mtandaoni. Tunafanya ishara zetu za asili ya maudhui zitambulike kwa urahisi zaidi na zana na majukwaa mengine kupitia ulinganifu wa C2PA, tunaongeza uwekaji alama wa SynthID wa kudumu katika picha kwenye majukwaa mbalimbali kupitia ushirikiano na Google, na tunashiriki mwoneko wa awali wa zana ambayo umma unaweza kutumia kuthibitisha kama picha zimetoka OpenAI.

Kwa pamoja masasisho haya yanajenga juu ya kazi yetu ya awali⁠ kusaidia viwango vya wazi, kufanya maudhui yanayozalishwa na OpenAI yatambulike kwa urahisi zaidi, na kushirikiana katika sekta nzima kusaidia mfumo wa taarifa unaoaminika zaidi.

OpenAI imehusika katika maendeleo na upokeaji wa viwango vya asili ya maudhui tangu 2024, tulipoanza kuongeza Content Credentials kwenye picha zilizozalishwa na DALL·E 3⁠(fungua katika dirisha jipya) na baadaye kwenye ImageGen⁠(fungua katika dirisha jipya) na Sora⁠(fungua katika dirisha jipya). Pia tulijiunga na Kamati Elekezi ya Coalition for Content Provenance and Authenticity (C2PA), kundi la sekta mbalimbali lililo nyuma ya kiwango cha wazi cha kiufundi cha asili ya maudhui. Mbinu ya kiufundi ya C2PA hutumia metadata na saini za kriptografia kusaidia taarifa kuhusu kipande cha media kusafiri kwa usalama pamoja na maudhui yenyewe. Taarifa hii inajumuisha muktadha unaowasaidia wanahabari wanaotathmini chanzo, majukwaa yanayofanya maamuzi ya uadilifu, na watu wanaojaribu kuelewa wanachokiona mtandaoni.

Hivi karibuni tulichukua hatua ya kuifanya OpenAI kuwa Bidhaa ya Kizalishaji Inayolingana na C2PA⁠(fungua katika dirisha jipya). Kwa kuwa linganifu na C2PA, tunapa majukwaa njia ya kuaminika ya kusoma, kuhifadhi, na kupitisha taarifa ya asili ya maudhui tunayounganisha na maudhui yetu. Hili ni muhimu kwa sababu asili ya maudhui hufanya kazi tu ikiwa itaendelea kuwepo zaidi ya jukwaa la kwanza ambako maudhui yanaundwa, na ulinganifu hufanya hilo liwezekane.

Metadata ya C2PA ni msingi muhimu wa asili ya maudhui. Husaidia maudhui kubeba taarifa kuhusu yalipotoka, jinsi yalivyoundwa au kuhaririwa, na nani aliyetia saini taarifa hiyo. Lakini metadata si kamilifu. Inaweza kuondolewa, kupotea wakati wa kupakia na kupakua, au kuharibika kwa mabadiliko kama kubadilisha fomati ya faili, kubadili ukubwa, au picha za skrini.

Ili kufanya asili ya maudhui iwe imara zaidi, tunachukua mbinu ya tabaka nyingi na kujumuisha uwekaji alama kupitia SynthID ya Google DeepMind⁠(fungua katika dirisha jipya), tukianza na picha zinazozalishwa kupitia ChatGPT⁠, Codex, au OpenAI API. SynthID hujumuisha tabaka lisiloonekana la uwekaji alama linalokamilisha mbinu za C2PA zinazotegemea metadata.

Tumekuwa tukijenga kuelekea hili kwa muda. Tumetumia alama za maji zinazoonekana⁠ katika Sora na alama ya maji ya sauti⁠ katika Voice Engine, na tumeendelea kupima na kutafiti usahihi na utegemevu kadri muda ulivyopita. kupitia utekelezaji.

Mifumo hii miwili huimarishana. C2PA husaidia maudhui kubeba muktadha wa kina; SynthID husaidia kuhifadhi ishara wakati metadata haidumu. Uwekaji alama unaweza kudumu zaidi kupitia mabadiliko kama picha za skrini, huku metadata inaweza kutoa taarifa zaidi kuliko alama pekee. Kwa pamoja, hufanya asili ya maudhui iwe imara zaidi kuliko tabaka lolote lingekuwa peke yake.

Metadata ya kuaminika na alama za maji zinazostahimili mabadiliko mengi zinaweza kufanya ishara za asili ya maudhui zidumu zaidi. Lakini watu wanahitaji njia ya kugundua ishara hizi. Sasa tunaonyesha mwoneko wa awali wa zana ya umma ya uthibitishaji⁠ itakayosaidia watu kuthibitisha kama picha iliyopakiwa ilizalishwa kwenye ChatGPT, OpenAI API, au Codex, kwa kuangalia kama ina ishara za asili ya maudhui, ikiwemo Content Credentials na SynthID.

Tunaamini asili ya maudhui inapaswa kuwa rahisi zaidi kwa watu kuthibitisha na kutafsiri, na kwamba zana yetu inaweza kusaidia watu kushiriki katika kujibu swali, “Je, hii ilizalishwa kwa AI?” kwa kuunganisha viashiria vingi. Hili linajenga juu ya mafunzo kutoka mwoneko wa awali wa utafiti wa kikadiriaji cha utambuzi wa picha⁠ wetu mwaka 2024 na kuwawezesha watu kugundua kwa uhakika kama alama ya SynthID inayotoka OpenAI ipo kwenye media, pamoja na kuonyesha metadata ya C2PA inapopatikana.

Hakuna mbinu ya ugunduzi iliyo kamilifu, kwa hivyo tunachukua tahadhari katika hali ambapo ugunduzi unashindwa. Kwa mfano, ikiwa hakuna metadata au alama ya maji inayogunduliwa, zana haitatoa hitimisho la mwisho kuhusu kama picha ilizalishwa kwa zana za OpenAI kwa kuwa ishara za asili ya maudhui zinaweza wakati mwingine kuondolewa.

Wakati wa uzinduzi, zana hii imewekewa kikomo kwa maudhui yanayozalishwa na OpenAI. Katika miezi ijayo, tunalenga kusaidia juhudi za sekta mbalimbali kufanya uthibitishaji uwezekane kwenye majukwaa yote. Kadri muda unavyopita, pia tunatarajia kusaidia aina zaidi za maudhui ambazo watu wanaweza kukutana nazo mtandaoni.

Hakuna mbinu moja ya asili ya maudhui inayotosha peke yake. Tunaamini mbinu imara huunganisha viwango vya pamoja, ishara za uwekaji alama za kudumu, na uthibitishaji wa umma. Kwa kujenga juu ya uungaji mkono wetu wa muda mrefu kwa Content Credentials, kuwa linganifu na C2PA, kupokea SynthID, na kuonyesha mwoneko wa awali wa zana za umma za uthibitishaji, tunatumaini kuchangia kwa muda mrefu katika mfumo wa asili ya maudhui unaoweza kufanya kazi pamoja kwa urahisi zaidi.