Բովանդակության ծագման զարգացում՝ ավելի անվտանգ, ավելի թափանցիկ AI էկոհամակարգի համար

Մարդիկ ամեն օր օգտագործում են OpenAI-ի գործիքները՝ պատկերներ և աուդիո ստեղծելու ու խմբագրելու համար՝ հաղորդակցությունն ավելի արտահայտիչ, օգտակար և հասանելի դարձնող ձևերով։ Քանի որ այս գործիքները դառնում են մարդկանց կողմից ստեղծելու, պատկերացնելու և կիսվելու գործընթացի մի մասը, կարևոր է, որ մարդիկ կարողանան հասկանալ և ստուգել, թե որտեղից է ծագում այդ բովանդակությունը, որպեսզի այն ընկալեն ավելի մեծ վստահությամբ։ Ծագման ազդանշանները կարող են օգնել՝ մարդկանց տրամադրելով համատեքստ այն մասին, թե որտեղից է եկել բովանդակությունը, ինչպես է այն ստեղծվել կամ խմբագրվել, և արդյոք այն իսկապես այն է, ինչ պնդում է լինել։

Այսօր մենք ամրապնդում ենք բովանդակության ծագման նկատմամբ մեր մոտեցումը՝ առցանց վստահություն ձևավորելու համար կիրառելով բազմաշերտ, էկոհամակարգով առաջնորդվող մոդել։ Մենք մեր ծագման ազդանշաններն ավելի հեշտ ճանաչելի ենք դարձնում այլ գործիքների և հարթակների համար C2PA համապատասխանության միջոցով, Google-ի հետ գործընկերության շնորհիվ պատկերներին ավելացնում ենք դիմացկուն, միջհարթակային SynthID ջրանշում, և ներկայացնում ենք գործիքի նախադիտում, որով հանրությունը կարող է ստուգել՝ արդյոք պատկերները եկել են OpenAI-ից։

Միասին այս թարմացումները զարգացնում են մեր նախորդ աշխատանքը⁠՝ բաց ստանդարտներին աջակցելու, OpenAI-ի կողմից ստեղծված բովանդակությունն ավելի հեշտ ճանաչելի դարձնելու և ավելի վստահելի տեղեկատվական էկոհամակարգին աջակցելու նպատակով ոլորտում համագործակցելու ուղղությամբ։

OpenAI-ը 2024 թվականից ներգրավված է ծագման ստանդարտների մշակման և ընդունման գործընթացում, երբ մենք սկսեցինք Content Credentials ավելացնել DALL·E 3⁠(բացվում է նոր պատուհանում)-ի կողմից ստեղծված պատկերներին, իսկ ավելի ուշ նաև ImageGen⁠(բացվում է նոր պատուհանում)-ին և Sora⁠(բացվում է նոր պատուհանում)-ին։ Մենք նաև միացանք Coalition for Content Provenance and Authenticity (C2PA)-ի Ղեկավար կոմիտեին՝ միջոլորտային այն խմբին, որը կանգնած է բովանդակության ծագման բաց տեխնիկական ստանդարտի հետևում։ C2PA-ի տեխնիկական մոտեցումն օգտագործում է մետատվյալներ և կրիպտոգրաֆիկ ստորագրություններ, որպեսզի մեդիայի միավորի մասին տեղեկությունն անվտանգ կերպով ուղեկցի հենց բովանդակությանը։ Այս տեղեկությունը ներառում է համատեքստ, որն օգնում է աղբյուրը գնահատող լրագրողներին, ամբողջականության վերաբերյալ որոշումներ կայացնող հարթակներին և այն մարդկանց, որոնք փորձում են հասկանալ, թե ինչ են տեսնում առցանց։

Վերջերս մենք OpenAI-ը C2PA Conforming Generator Product⁠(բացվում է նոր պատուհանում) դարձնելու քայլ արեցինք։ Համապատասխանելով C2PA ստանդարտին՝ մենք հարթակներին տրամադրում ենք վստահելի եղանակ՝ կարդալու, պահպանելու և փոխանցելու այն ծագման տեղեկությունը, որը կցում ենք մեր բովանդակությանը։ Սա կարևոր է, որովհետև ծագումն աշխատում է միայն այն դեպքում, եթե պահպանվում է նաև այն առաջին հարթակից դուրս, որտեղ ստեղծվել է բովանդակությունը, իսկ համապատասխանությունը դա հնարավոր է դարձնում։

C2PA մետատվյալները ծագման համար կարևոր հիմք են։ Դրանք օգնում են, որ բովանդակությունը կրի տեղեկություն այն մասին, թե որտեղից է այն եկել, ինչպես է ստեղծվել կամ խմբագրվել, և ով է ստորագրել այդ տեղեկությունը։ Բայց մետատվյալներն անսխալական չեն։ Դրանք կարող են հեռացվել, կորչել վերբեռնումների և ներբեռնումների ընթացքում կամ վնասվել այնպիսի փոխակերպումներից, ինչպիսիք են ֆայլի ձևաչափի փոփոխությունը, չափափոխումը կամ սքրինշոթերը։

Ծագումն ավելի դիմացկուն դարձնելու համար մենք որդեգրում ենք բազմաշերտ մոտեցում և ներառում ջրանշում Google DeepMind-ի SynthID⁠(բացվում է նոր պատուհանում)-ի միջոցով՝ սկսելով ChatGPT⁠-ի, Codex-ի կամ OpenAI API-ի միջոցով ստեղծված պատկերներից։ SynthID-ն ներդնում է անտեսանելի ջրանշման շերտ, որը համալրում է C2PA մետատվյալների վրա հիմնված մոտեցումները։

Մենք արդեն որոշ ժամանակ է՝ շարժվում էինք այս ուղղությամբ։ Մենք օգտագործել ենք տեսանելի ջրանշաններ⁠ Sora-ում և աուդիո ջրանշան⁠ Voice Engine-ում և ժամանակի ընթացքում շարունակել ենք փորձարկել ու հետազոտել ճշգրտությունն ու հուսալիությունը։ ներդրման ընթացքում։

Այս երկու համակարգերը փոխադարձաբար ուժեղացնում են միմյանց։ C2PA-ն օգնում է, որ բովանդակությունը կրի մանրամասն համատեքստ, իսկ SynthID-ը օգնում է պահպանել ազդանշանը, երբ մետատվյալները չեն պահպանվում։ Ջրանշումը կարող է ավելի դիմացկուն լինել այնպիսի փոխակերպումների դեպքում, ինչպիսիք են սքրինշոթերը, մինչդեռ մետատվյալները կարող են ավելի շատ տեղեկություն տալ, քան միայն ջրանշանը։ Միասին դրանք ծագումն ավելի դիմացկուն են դարձնում, քան այդ շերտերից յուրաքանչյուրն առանձին վերցրած։

Վստահելի մետատվյալներն ու ջրանշանները, որոնք դիմադրում են փոփոխությունների մեծ մասին, կարող են ծագման ազդանշաններն ավելի դիմացկուն դարձնել։ Բայց մարդկանց պետք է միջոց այս ազդանշանները հայտնաբերելու համար։ Այժմ մենք ներկայացնում ենք հանրային ստուգման գործիքի⁠ նախադիտում, որը կօգնի մարդկանց ստուգել՝ արդյոք վերբեռնված պատկերը ստեղծվել է ChatGPT‑ով, OpenAI API-ով կամ Codex-ով՝ ստուգելով, թե արդյոք այն պարունակում է ծագման ազդանշաններ՝ ներառյալ Content Credentials-ը և SynthID-ը։

Մենք կարծում ենք, որ մարդկանց համար պետք է ավելի հեշտ լինի ստուգել և մեկնաբանել ծագումը, և որ մեր գործիքը, բազմաթիվ ազդանշաններ ինտեգրելով, կարող է օգնել մարդկանց իրենց լուման ունենալ հետևյալ հարցին պատասխանելիս՝ «Սա ստեղծվե՞լ է AI-ով»։ Սա հիմնվում է 2024 թվականին մեր պատկերների հայտնաբերման դասակարգչի⁠ նախնական հետազոտական տարբերակից քաղած փորձի վրա և մարդկանց հնարավորություն է տալիս հուսալիորեն հայտնաբերել՝ արդյոք մեդիայում առկա է OpenAI-ից ծագող SynthID ջրանշան, ինչպես նաև ցուցադրել C2PA մետատվյալները, երբ դրանք հայտնաբերվում են։

Հայտնաբերման ոչ մի մեթոդ անսխալական չէ, ուստի մենք զգուշավոր մոտեցում ենք ցուցաբերում այն դեպքերում, երբ հայտնաբերումը ձախողվում է։ Եթե, օրինակ, մետատվյալ կամ ջրանշան չի հայտնաբերվում, գործիքը վերջնական եզրակացություն չի անի այն մասին, թե արդյոք պատկերը ստեղծվել է OpenAI-ի գործիքներով, քանի որ որոշ դեպքերում ծագման ազդանշանները կարող են հեռացվել։

Մեկնարկի պահին գործիքը սահմանափակված է OpenAI-ի կողմից ստեղծված բովանդակությամբ։ Առաջիկա ամիսներին մենք նպատակ ունենք աջակցել միջոլորտային ջանքերին, որպեսզի ստուգումը հնարավոր դառնա տարբեր հարթակներում։ Ժամանակի ընթացքում մենք նաև ակնկալում ենք աջակցել բովանդակության ավելի շատ տեսակների, որոնց մարդիկ կարող են հանդիպել առցանց։

Ծագման ոչ մի առանձին տեխնիկա ինքն իրենով բավարար չէ։ Մենք կարծում ենք, որ ուժեղ մոտեցումը միավորում է ընդհանուր ստանդարտներ, դիմացկուն ջրանշման ազդանշաններ և հանրային ստուգում։ Հենվելով Content Credentials-ին մեր երկարամյա աջակցության վրա, համապատասխանելով C2PA-ին, ընդունելով SynthID-ը և ներկայացնելով հանրային ստուգման գործիքների նախադիտում՝ մենք հույս ունենք երկարաժամկետ հեռանկարում նպաստել ավելի փոխգործունակ բովանդակության ծագման համակարգի ձևավորմանը։