Mtazamo wetu kuhusu kanuni za EU za asili ya maandishi

Asili ya maudhui huwasaidia watu kuelewa maudhui yalitoka wapi, yalitengenezwa au kuhaririwa vipi, na kama yana viashiria vinavyohusishwa na miundo yetu. Tayari tumetoa zana kwa umma za kutambua picha na sauti zilizozalishwa na miundo yetu. Leo, tunaeleza mbinu yetu ya kuweka taswira fifi kwenye maandishi ili kukidhi Sheria ya AI ya EU, na jinsi inavyohusiana na kazi yetu pana.

Sheria ya AI ya EU inawataka watoa huduma za AI zalishi kuhakikisha maandishi yanayozalishwa yanatambulika kwa njia inayoweza kusomwa na mashine. Uwekaji na ugunduzi wa taswira fifi kwenye maandishi bado ni teknolojia changa zenye mapungufu makubwa, na mitazamo kuhusu manufaa na matumizi yake ya kuwajibika bado inakua. Mpango wetu wa hatua kwa hatua unazingatia matakwa ya Sheria ya AI ya EU pamoja na mapungufu ya teknolojia hii, huku tukisisitiza uwazi kuhusu yale ambayo taswira fifi kwenye maandishi inaweza na haiwezi kuwaambia watu:

• Kuanzia leo, wateja wa API duniani kote wataweza kuchagua kuwezesha uwekaji wa taswira fifi kwenye maandishi kwa miundo teule. Uwekaji wa taswira fifi kwenye maandishi utaendelea kuwa umezimwa kwa chaguomsingi katika API.

• Katika wiki zijazo, tutaongeza taswira fifi isiyoonekana kwenye maandishi yanayostahiki yanayozalishwa na ChatGPT na Codex katika Umoja wa Ulaya.

• Tunafungua maombi ya kupata idhini ya kutumia kigunduzi chetu cha taswira fifi kwenye maandishi. Mwanzoni, matumizi yataruhusiwa kwa watafiti na mashirika ya kitaalamu yaliyoidhinishwa pekee, yanayoweza kutusaidia kutathmini na kuboresha teknolojia hii.

  • Yaliyoelezwa hapo juu yanahusu asili ya maandishi pekee—zana zetu za uthibitishaji wa sauti na picha, zikiwemo zana yetu ya wavuti ya openai.com/verify⁠ na API ya Asili ya Maudhui⁠(fungua katika dirisha jipya), zitaendelea kupatikana kwa umma kwa mashirika yanayotaka kujua ikiwa faili ya picha au sauti ilizalishwa na mojawapo ya mifumo yetu.

Teknolojia yetu ya kuweka taswira fifi kwenye maandishi, textGrain, huongeza kiashiria cha kitakwimu kisichoonekana katika uteuzi wa maneno wa muundo. Kigunduzi chetu hutafuta kiashiria hicho ili kutathmini kama kifungu cha maandishi kina taswira fifi ya OpenAI. Maelezo zaidi kuhusu jinsi textGrain inavyofanya kazi yanapatikana katika ripoti yetu ya kiufundi⁠(fungua katika dirisha jipya), ambayo itaongezewa maelezo katika wiki zijazo. Pia tunapanga kutoa teknolojia hii kama programu huria ili wengine waweze kuijenga zaidi.

Katika tathmini zetu, textGrain ililingana na au kuzidi utendaji wa mbinu nyingine tulizojaribu, ikiwemo SynthID ya maandishi. Hata hivyo, utendaji mzuri katika hali bora hauhakikishi ugunduzi wa kuaminika katika matumizi ya kila siku.

Vigunduzi vinaweza kufanya makosa ya aina mbili: vinaweza kuripoti kuwepo kwa taswira fifi ambayo haipo, au kushindwa kugundua taswira fifi iliyopo. Tathmini zetu hapa chini zinaonyesha baadhi ya changamoto hizi:

• Ni vigumu zaidi kugundua alama kwenye maandishi mafupi au yenye uchaguzi finyu wa maneno. Kwa kulenga kiwango cha 1% cha kuripoti kimakosa taswira fifi zisizopo, kigunduzi chetu kilitambua taswira fifi katika takriban 80% ya vifungu vya tokeni 200, ikilinganishwa na takriban 95% ya vifungu vya tokeni 400, kwa maudhui kama ya saikolojia. Viwango vya ugunduzi vilikuwa chini zaidi kwa maudhui kama ya hisabati, ambako kuna uhuru mdogo wa kuchagua maneno.

• Uhariri unaweza kudhoofisha taswira fifi. Katika tathmini ya vifungu vya tokeni 400, kubadilisha 10% ya maneno kwa kutumia visawe kulipunguza kiwango cha ugunduzi kutoka takriban 92% hadi 66%. Kubadilisha 25% ya maneno kulikipunguza hadi 17%.

Mapungufu haya yanachangia uamuzi wetu wa kuruhusu matumizi ya kigunduzi mwanzoni kwa watafiti na mashirika ya kitaalamu yaliyoidhinishwa pekee, yanayoweza kutusaidia kutathmini uaminifu wake na matumizi ya kuwajibika.

Katika vipimo tunavyotumia kutathmini Astra, muundo wetu mpya zaidi wa kiwango cha juu, hatuoni tofauti kubwa za utendaji kati ya matokeo yenye taswira fifi na yale yasiyo nazo.

Taswira fifi kwenye maandishi hutoa kiashiria chenye mipaka kuhusu mchango wa mifumo yetu katika kifungu cha maandishi. Ni muhimu kuelewa hitimisho linaloweza na lisiloweza kufikiwa kutokana na matokeo ya ugunduzi.

• Taswira fifi haipimi mchango wa binadamu. Inaweza kuonyesha kuwa mfumo wa OpenAI ulizalisha au kuchakata sehemu ya kifungu, lakini si kiwango cha maamuzi, uhariri au ubunifu wa binadamu kilichochangia kifungu hicho.

• Taswira fifi haithibitishi umiliki wala wajibu. Haiamui ni nani anayemiliki maandishi, ikiwa matumizi yake yalikuwa halali, ikiwa ilihitajika kufichua matumizi ya AI, au ni nani anayewajibika kwa maandishi hayo.

• Taswira fifi haitambui mtumiaji. Haihusishi mtu, shirika, akaunti, dokezo au mazungumzo na maandishi hayo.

• Taswira fifi haithibitishi usahihi. Haikuambii kama kifungu kina ukweli, kinapotosha, kina madhara au kimewasilishwa katika muktadha unaofaa.

• Kutogunduliwa kwa taswira fifi hakuthibitishi kuwa maandishi yaliandikwa na binadamu. Maandishi yaliyozalishwa kwa zana za OpenAI yanaweza kuwa mafupi sana, yamehaririwa au yametafsiriwa kiasi cha kuzuia ugunduzi wa kuaminika. Pia yanaweza kutoka kwa muundo usiotumika na teknolojia hii, kuwa yalizalishwa kabla ya kuanza kuweka taswira fifi, au kuwa yalizalishwa kwa zana za kampuni nyingine.

• Kuanzisha uwekaji wa taswira fifi kwenye maandishi katika EU. Katika wiki zijazo, tutaanzisha uwekaji wa taswira fifii kwenye maandishi kwa watumiaji wanaostahiki wa ChatGPT na Codex kwenye mipango yote katika EU pekee. Wakati wa uzinduzi, hatutawezesha uwekaji wa taswira fifi kwenye maandishi kwa chaguomsingi duniani kote. Mpango huu wa kikanda unatupa nafasi ya kujifunza kutokana na matumizi halisi na maoni.

• Kuwezesha wateja wa API kuchagua kutumia taswira fifi. Kuanzia leo, wateja wa API duniani kote wataweza kuchagua kupata maandishi yenye taswira fifi kutoka kwa miundo teule. Hili linawaruhusu wateja kuamua jinsi uwekaji wa taswira fifi unavyolingana na wajibu wao wa uwazi na huduma wanazowapa watumiaji. Pia tunashirikiana na washirika wa huduma za wingu ili kuwezesha uwekaji wa taswira fifi kwenye matokeo ya miundo ya OpenAI yanayopatikana kupitia huduma zao katika wiki zijazo.

• Kuwapa watafiti na mashirika ya kitaalamu idhini ya kutumia kigunduzi. Watafiti na mashirika ya kitaalamu yaliyoidhinishwa yanaweza kutuma maombi kuanzia leo. Kwa mujibu wa Kanuni za Utendaji⁠(fungua katika dirisha jipya), mwanzoni idhini itatolewa kwa kuzingatia kila ombi kivyake ili kusaidia kutathmini na kuboresha ufuatiliaji wa asili ya maandishi. Zana itaripoti kama inagundua taswira fifi ya OpenAI, bila kumtambulisha mtumiaji wala kufichua madokezo au mazungumzo yake. Kwa kuzingatia hatari ya kushindwa kugundua taswira fifi zilizopo na kuripoti kimakosa taswira fifi zisizopo, hatutaitoa kwa umma wakati wa uzinduzi.

Tunatarajia kupitia upya kila sehemu ya mpango huu kadiri teknolojia, viwango na ushahidi vinavyoendelea kubadilika.

Hakuna mbinu moja ya kufuatilia asili inayotosha peke yake, hivyo tunatumia mbinu yenye tabaka kadhaa inayochanganya viwango wazi, taswira fifi zinazodumu na zana za uthibitishaji.

Tunaongeza Vitambulisho vya Maudhui kwenye picha zinazozalishwa zinazotumia kipengele hiki, tunazingatia viwango vya C2PA⁠(fungua katika dirisha jipya), tunapachika taswira fifi zisizoonekana za SynthID⁠(fungua katika dirisha jipya) kwenye picha na sauti zinazotumia kipengele hiki, na tunatoa uthibitishaji wa picha na sauti kupitia openai.com/verify⁠ na API yetu ya Asili ya Maudhui⁠(fungua katika dirisha jipya). Mbinu hizi zinakamilishana: Vitambulisho vya Maudhui zinaweza kurekodi asili na historia ya faili, huku taswira fifi zisizoonekana zikiweza kuhifadhi kiashiria metadata inapoondolewa.

Kama tulivyoeleza katika kazi yetu ya kulinda uchaguzi, taarifa za asili zinaweza kusaidia watu na majukwaa kutathmini maudhui yaliyozalishwa na AI ambayo yanaweza kupotosha, yakiwemo yale bandia yanayoiga watu au matukio halisi. Tunaunganisha viashiria hivi na sera, ugunduzi wa matumizi mabaya, utoaji wa ripoti, uchunguzi na utekelezaji wa kanuni. Pia tunashirikiana na watafiti, mashirika ya viwango, majukwaa na asasi za kiraia ili taarifa za asili ziwe na manufaa katika mfumo mzima wa maudhui.

Kupanua ufuatiliaji wa asili hadi kwenye maandishi kunahitaji kuzingatia jinsi yanavyoweza kuandikwa upya, kutafsiriwa au kuhaririwa kwa urahisi. Kama tulivyojadili mwezi Juni, mbinu yetu lazima izingatie mipaka halisi ya teknolojia ya sasa. Tutaendelea kuboresha ugunduzi, kuchunguza jinsi taswira fifi zinavyostahimili uhariri na tafsiri, na kutafuta njia bora zaidi za kutofautisha maandishi yaliyotungwa kwa msaada wa AI na yale yaliyotungwa na AI. Tutarekebisha mbinu yetu kadiri ushahidi, viwango na matakwa ya udhibiti yanavyobadilika, na kupanua ufikiaji wa kigunduzi tunapoamini kuwa matokeo yanaweza kutafsiriwa kwa uwajibikaji.

Kwa maelezo zaidi, tafadhali soma makala yetu ya kituo cha usaidizi⁠(fungua katika dirisha jipya).