Илүү аюулгүй, илүү ил тод хиймэл оюун ухааны экосистемийн хувьд контентын гарал үүслийг сайжруулах
Контент итгэмжлэл, SynthID болон олон нийтийн эрт баталгаажуулалтын хэрэгслээр дамжуулан хүмүүст хиймэл оюун ухаанаар үүсгэгдсэн контентын гарал үүслийг ойлгоход нь туслах.
Хүмүүс харилцаа холбоог илүү илэрхийлэлтэй, ашигтай, хүртээмжтэй болгохын тулд зураг, аудио үүсгэх, засварлахын тулд өдөр бүр OpenAI-ийн хэрэгслүүдийг ашиглаж байна. Эдгээр хэрэгслүүд нь хүмүүсийн бүтээх, төсөөлөх, хуваалцах арга замын нэг хэсэг болж байгаа тул хүмүүс хэвлэл мэдээллийн хэрэгсэл хаанаас ирснийг ойлгож, баталгаажуулж, илүү итгэлтэйгээр тайлбарлах боломжтой байх нь чухал юм. Гарал үүслийн дохио нь хүмүүст контент хаанаас ирсэн, хэрхэн бүтээгдсэн эсвэл засварлагдсан, мөн энэ нь юу гэж мэдэгдэж байгаа эсэх талаар мэдээлэл өгснөөр тусалж чадна.
Өнөөдөр бид контентын гарал үүслийн баталгаажуулалтыг олон давхаргатай, экосистемд суурилсан загвар ашиглан онлайнаар итгэлцлийг бий болгох аргачлалаа бэхжүүлж байна. Бид гарал үүслийн дохионуудаа бусад хэрэгсэл болон платформуудад C2PA нийцлийн тусламжтайгаар танихад хялбар болгож, Google-тэй түншлэлийн хүрээнд зураг дээр бат бөх платформ хоорондын SynthID усны тэмдэглэгээг нэмж, олон нийт зураг OpenAI-аас ирсэн эсэхийг баталгаажуулахад ашиглаж болох хэрэгслийн урьдчилсан тоймыг хуваалцаж байна.
Эдгээр шинэчлэлтүүд нь нээлттэй стандартыг дэмжих, OpenAI-ээр үүсгэгдсэн контентыг тодорхойлоход хялбар болгох, илүү найдвартай мэдээллийн экосистемийг дэмжихийн тулд салбарын хэмжээнд хамтран ажиллах бидний өмнөх ажлуудыг үндэслэж байна.
OpenAI нь 2024 оноос хойш гарал үүслийн стандартыг боловсруулж, нэвтрүүлэх ажилд оролцож байгаа бөгөөд бид DALL·E 3(шинэ цонхонд нээгдэнэ) болон түүнээс хойш ImageGen(шинэ цонхонд нээгдэнэ) болон Sora(шинэ цонхонд нээгдэнэ) дээр үүсгэсэн зургуудад контентын итгэмжлэл нэмж эхэлсэн. Мөн бид контентын гарал үүслийн нээлттэй техникийн стандартын ард байгаа салбар дундын бүлэг болох Контент гарал үүсэл ба жинхэнэ байдлын эвслийн (C2PA) Удирдах хороонд нэгдсэн. C2PA-ийн техникийн арга нь мэдээллийн хэрэгслийн талаарх мэдээллийг агуулгатай нь аюулгүйгээр тээвэрлэхэд туслахын тулд мета өгөгдөл болон криптографийн гарын үсгийг ашигладаг. Энэ мэдээлэлд сэтгүүлчдэд эх сурвалжийг үнэлэхэд туслах нөхцөл байдал, шударга шийдвэр гаргадаг платформууд, онлайнаар юу харж байгаагаа ойлгохыг хичээж буй хүмүүс багтана.
Бид саяхан OpenAI-г C2PA-д нийцсэн генераторын бүтээгдэхүүн(шинэ цонхонд нээгдэнэ) болгох алхам хийсэн. Бид C2PA стандартыг дагаж мөрддөг болсноор платформуудад контентдоо хавсаргасан гарал үүслийн мэдээллийг унших, хадгалах, дамжуулах найдвартай аргыг олгож байна. Энэ нь чухал, учир нь гарал үүсэл нь контент бүтээгдсэн анхны платформоос цааш оршин тогтнож байгаа тохиолдолд л ажилладаг бөгөөд тохиролцооны ачаар үүнийг боломжтой болгодог.
C2PA мета өгөгдөл нь гарал үүслийн чухал үндэс суурь юм. Энэ нь контентыг хаанаас ирсэн, хэрхэн бүтээгдсэн эсвэл засварлагдсан, мөн хэн гарын үсэг зурсан талаарх мэдээллийг хадгалахад тусалдаг. Гэхдээ мета өгөгдөл нь төгс төгөлдөр биш юм. Үүнийг хуулж авах, байршуулах болон татан авалт хийх явцад алга болох, эсвэл файлын форматын өөрчлөлт, хэмжээг өөрчлөх, эсвэл дэлгэцийн агшин авах зэрэг өөрчлөлтүүдээр эвдэж болно.
Гарал үүслийн мэдээллийг илүү тэсвэртэй болгохын тулд бид олон давхаргат арга барил хэрэгжүүлж, Google DeepMind-ийн SynthID(шинэ цонхонд нээгдэнэ)-ээр дамжуулан усан тэмдэглэгээг нэвтрүүлж байна. Энэ нь ChatGPT, Codex эсвэл OpenAI API-аар үүсгэсэн зургаас эхэлнэ. SynthID нь C2PA мета өгөгдөлд суурилсан аргуудыг нөхдөг үл үзэгдэх усны тэмдэглэгээний давхаргыг агуулдаг.
Бид энэ чиглэлд хэсэг хугацаанд ажиллаж байна. Бид Sora дээр харагдахуйц усны тэмдэг , Voice Engine дээр аудио усны тэмдэг ашигласан бөгөөд цаг хугацааны явцад нарийвчлал, найдвартай байдлыг туршиж, судалсаар ирсэн. байршуулалт хүртэл.
Эдгээр хоёр систем нь бие биенээ бэхжүүлдэг. C2PA нь контентыг дэлгэрэнгүй контексттэй байлгахад тусалдаг; SynthID нь мета өгөгдөл хадгалагдахгүй үед дохиог хадгалахад тусалдаг. Watermarking нь дэлгэцийн агшинтай адил хувиргалтаар дамжуулан илүү бат бөх байж болох юм бол мета өгөгдөл нь дангаараа усан тэмдгээс илүү их мэдээлэл өгч чадна. Эдгээр нь хамтдаа гарал үүслийг аль ч давхарга дангаараа байхаас илүү уян хатан болгодог.
Ихэнх өөрчлөлтийг тэсвэрлэдэг найдвартай мета өгөгдөл болон усны тэмдэг нь гарал үүслийн дохиог илүү бат бөх болгож чадна. Гэхдээ хүмүүст эдгээр дохиог илрүүлэх арга хэрэгтэй. Бид одоо байршуулсан зургийг ChatGPT, OpenAI API эсвэл Codex дээр үүсгэсэн эсэхийг Content Credentials болон SynthID зэрэг гарал үүслийн дохио агуулсан эсэхийг шалгах замаар баталгаажуулахад туслах олон нийтийн баталгаажуулалтын хэрэгслийг урьдчилан харж байна.
Бид гарал үүсэл нь хүмүүсийг баталгаажуулах, тайлбарлахад илүү хялбар байх ёстой гэж үздэг бөгөөд манай хэрэгсэл олон дохиог нэгтгэснээр "Энэ нь AI-ээр үүссэн үү?" гэсэн асуултад хариулахад туслах боломжтой гэж үздэг. Энэ нь 2024 онд бидний дүрс илрүүлэх ангилагчийн анхны судалгааны урьдчилсан тоймоос авсан сургамж дээр үндэслэсэн бөгөөд хүмүүст OpenAI-аас гаралтай SynthID усны тэмдэг нь медиад байгаа эсэхийг, мөн гадаргуугийн C2PA мета өгөгдлийг олдсон үед нь найдвартай илрүүлэх боломжийг олгодог.
Илрүүлэх ямар ч арга төгс байдаггүй тул илрүүлэлт амжилтгүй болсон тохиолдолд бид болгоомжтой ханддаг. Жишээлбэл, хэрэв мета өгөгдөл эсвэл усны тэмдэг илрээгүй бол хэрэгсэл нь зургийг OpenAI хэрэгслээр үүсгэсэн эсэх талаар тодорхой дүгнэлт гаргахгүй, учир нь зарим тохиолдолд гарал үүслийн дохиог устгах боломжтой.
Эхлүүлэх үед уг хэрэгсэл нь OpenAI-ийн үүсгэсэн контентоор хязгаарлагддаг. Ирэх саруудад бид платформ даяар баталгаажуулалтыг боломжтой болгохын тулд салбар дундын хүчин чармайлтыг дэмжих зорилготой. Цаг хугацаа өнгөрөхөд бид хүмүүсийн онлайнаар тааралдаж болох илүү олон төрлийн контентыг дэмжих болно гэж найдаж байна.
Ганц гарал үүслийн арга техник дангаараа хангалттай биш. Бид хүчтэй арга барил нь хуваалцсан стандартууд, бат бөх усны тэмдэглэгээний дохионууд болон олон нийтийн баталгаажуулалтыг хослуулсан гэдэгт итгэдэг. Бид Контентийн итгэмжлэлийг удаан хугацаанд дэмжиж, C2PA-тай нийцэж, SynthID-ийг нэвтрүүлж, олон нийтийн баталгаажуулалтын хэрэгслийг урьдчилан харах замаар урт хугацаанд илүү харилцан ажиллах боломжтой гарал үүслийн экосистемд хувь нэмэр оруулна гэж найдаж байна.
