ЕХ-ны текстийн гарал үүслийн дүрэмд хандах бидний арга барил

Контентын гарал үүсэл нь хүмүүст контент хаанаас үүссэн, хэрхэн бүтээгдсэн эсвэл засварлагдсан, мөн манай загваруудтай холбоотой тэмдэглэгээ агуулсан эсэхийг ойлгоход тусалдаг. Бид манай загваруудаар үүсгэсэн зураг, аудиог таних хэрэгслүүдийг аль хэдийн нийтэд нээлттэй болгосон. Өнөөдөр бид Европын Холбооны хиймэл оюун ухааны тухай хуультай холбогдуулан текстэд усан тэмдэг оруулах арга барилаа болон энэ нь бидний өргөн хүрээний ажилтай хэрхэн уялдаж байгааг танилцуулж байна.

ЕХ-ны AI хууль нь үүсгэгч AI нийлүүлэгчдээс үүсгэсэн текстийг машинд уншигдах хэлбэрээр таних боломжтой болгохыг шаарддаг. Текстэд усан тэмдэг оруулах болон илрүүлэх технологиуд хөгжлийн эхэн шатандаа байгаа бөгөөд ихээхэн хязгаарлалттай. Тэдгээрийн үр өгөөж, хариуцлагатай хэрэглээний талаарх үзэл бодол ч бүрэлдэн хөгжсөөр байна. Бидний үе шаттай арга барил нь ЕХ-ны AI хуулийн шаардлага болон технологийн хязгаарлалтыг хоёуланг нь харгалзан үзэж, текстийн усан тэмдэг хүмүүст ямар мэдээлэл өгч чадах, ямар мэдээлэл өгч чадахгүйг ил тод тайлбарлахад онцгой анхаардаг:

• Өнөөдрөөс эхлэн дэлхий даяарх API хэрэглэгчид сонгосон загваруудад текстийн усан тэмдэглэгээг идэвхжүүлэхээр сонгох боломжтой болно. API-д текстийн усан тэмдэглэгээ өгөгдмөлөөр унтраалттай хэвээр байна.

• Ирэх долоо хоногуудад Европын Холбоонд шаардлага хангасан ChatGPT болон Codex-ийн текстэн гаралтад үл үзэгдэх усан тэмдэглэгээ нэмнэ.

• Бид текстийн усан тэмдгийг илрүүлэгчдээ хандах хүсэлтийг хүлээн авч эхэлж байна. Эхний ээлжид технологийг үнэлж, сайжруулахад бидэнд тусалж чадах зөвшөөрөгдсөн судлаачид болон мэргэжлийн байгууллагуудад хандалтыг хязгаарлана.

  • Дээрх зүйл зөвхөн текстийн гарал үүсэлд хамаарна—аудио болон зурагт зориулсан баталгаажуулалтын хэрэгслүүд, үүнд манай openai.com/verify⁠ вэб хэрэгсэл болон манай Контентын гарал үүслийн API⁠(шинэ цонхонд нээгдэнэ) багтана, зураг эсвэл аудио файлыг манай системүүдийн аль нэгээр үүсгэсэн эсэхийг мэдэхийг хүсэж буй байгууллагуудад нийтэд нээлттэй хэвээр байх болно.

Манай текстийн усан тэмдэглэгээний textGrain технологи нь загварын үгийн сонголтод нүдэнд үл үзэгдэх статистик дохио нэмдэг. Манай илрүүлэгч тухайн хэсэгт OpenAI-ийн усан тэмдэг байгаа эсэхийг үнэлэхийн тулд уг дохиог хайдаг. textGrain хэрхэн ажилладаг талаар дэлгэрэнгүй мэдээллийг манай техникийн тайлангаас⁠(шинэ цонхонд нээгдэнэ) авах боломжтой бөгөөд уг тайланг ирэх хэдэн долоо хоногт нэмэлт мэдээллээр шинэчилнэ. Мөн бусад хүмүүс үүнд тулгуурлан хөгжүүлэлт хийх боломжтой болгохын тулд уг технологийг нээлттэй эх болгон гаргахаар төлөвлөж байна.

Бидний үнэлгээнүүдэд textGrain нь текстэд зориулсан SynthID зэрэг бидний туршсан бусад аргуудтай ижил эсвэл илүү сайн гүйцэтгэл үзүүлсэн. Гэсэн хэдий ч хамгийн тохиромжтой нөхцөлд өндөр гүйцэтгэл үзүүлсэн нь өдөр тутмын хэрэглээнд найдвартай илрүүлнэ гэсэн баталгаа болохгүй.

Илрүүлэгчид хоёр төрлийн алдаа гаргаж болно: тэдгээр нь усны тэмдэг байхгүй үед худал эерэг буюу усны тэмдэг илэрсэн тухай мэдээлэх эсвэл худал сөрөг буюу усны тэмдэг илэрсэн тухай мэдээлэх боломжтой. Бидний доорх үнэлгээнүүд зарим хүндрэлийг харуулж байна:

• Илүү богино эсвэл илүү хязгаарлагдмал текстийг илрүүлэхэд илүү хэцүү. Худал эерэгийн зорилтот түвшин 1% байхад манай илрүүлэгч сэтгэл судлал зэрэг агуулгатай 200 токентой хэсгүүдийн ойролцоогоор 80%-д усан тэмдэг илрүүлсэн бол 400 токентой хэсгүүдийн ойролцоогоор 95%-д илрүүлжээ. Үг сонгох уян хатан байдал багатай математик зэрэг агуулгын хувьд илрүүлэлтийн түвшин мэдэгдэхүйц доогуур байв.

• Засварлах нь усан тэмдгийг сулруулж болзошгүй. 400 токентой хэсгүүдэд хийсэн үнэлгээгээр, үгсийн 10%-ийг ижил утгатай үгээр сольсноор илрүүлэлт ойролцоогоор 92%-аас 66% болж буурсан. Үгсийн 25%-ийг сольсноор энэ үзүүлэлт 17% болж буурсан.

Эдгээр хязгаарлалтууд нь найдвартай байдал, хариуцлагатай хэрэглээг үнэлэхэд бидэнд тусалж чадах баталгаажсан судлаачид болон мэргэжлийн байгууллагуудад л анхны илрүүлэгчийн хандалтыг олгох шийдвэрт маань хувь нэмэр оруулж байна.

Astra буюу манай хамгийн сүүлийн үеийн хил хязгаарын загварыг үнэлэхэд ашигладаг бүх жишиг сорилын хүрээнд усан тэмдэглэгээ ашигласан болон ашиглаагүй үед гүйцэтгэлийн мэдэгдэхүйц ялгаа ажиглагдахгүй байна.

Текстэн усан тэмдэг нь тухайн хэсэгт манай системүүд ямар үүрэг гүйцэтгэсэн талаар хязгаарлагдмал мэдээлэл өгдөг. Илрүүлэлтийн үр дүнгээс юу дүгнэж болох, болохгүйг ойлгох нь чухал.

• Усны тэмдэг хүний оруулсан хувь нэмрийг хэмждэггүй. Энэ нь OpenAI систем бичвэрийн хэсгийг үүсгэсэн эсвэл боловсруулсныг илтгэж болох ч, түүнд хүний хэр хэмжээний шүүлт, засвар, бүтээлч байдал шингэснийг хэмждэггүй.

• Усан тэмдэг нь өмчлөх эрх эсвэл хариуцлагыг тогтоохгүй. Энэ нь текстийг хэн эзэмшдэг, түүнийг ашигласан нь хууль ёсны байсан эсэх, ил тод мэдээлэх шаардлагатай байсан эсэх эсвэл үүнийг хэн хариуцахыг тодорхойлохгүй.

• Усан тэмдэг нь хэрэглэгчийг танихгүй. Энэ нь текстийг хүн, байгууллага, бүртгэл, команд эсвэл харилцан яриатай холбодоггүй.

• Усан тэмдэг нь үнэн зөв байдлыг баталгаажуулдаггүй. Энэ нь текстийн хэсэг үнэн, төөрөгдүүлсэн, хор хөнөөлтэй эсвэл зөв контекстэд танилцуулагдсан эсэхийг хэлэхгүй.

• Усан тэмдэг илрээгүй нь текстийг хүн бичсэнийг нотлохгүй. OpenAI-ийн хэрэгслээр үүсгэсэн текст хэт богино, засварласан эсвэл орчуулсан байж болох тул найдвартай илрүүлэх боломжгүй байж болно. Мөн энэ нь дэмжигддэггүй загвараас гаралтай, усан тэмдэг нэвтрүүлэхээс өмнө үүссэн эсвэл өөр компанийн хэрэгслээр үүсгэгдсэн байж болно.

• Европын Холбоонд текстийн усан тэмдэглэгээг нэвтрүүлэх нь. Ирэх хэдэн долоо хоногт бид зөвхөн Европын Холбоонд багцын төрлөөс үл хамааран шаардлага хангасан ChatGPT болон Codex хэрэглэгчдэд текстийн усан тэмдэглэгээг нэвтрүүлнэ. Нэвтрүүлж эхлэхдээ бид текстийн усан тэмдэглэгээг дэлхий даяар анхдагч тохиргоо болгохгүй. Бүс нутгаар нь нэвтрүүлэх энэхүү арга барил нь бодит хэрэглээ болон санал хүсэлтээс суралцах боломжийг бидэнд олгоно.

• API харилцагчдад усан тэмдэглэгээг өөрийн сонголтоор ашиглах боломж олгож байна. Өнөөдрөөс эхлэн дэлхий даяарх API харилцагчид тодорхой загваруудын текстэн гаралтыг усан тэмдэглэгээтэй авах сонголтыг идэвхжүүлэх боломжтой болно. Ингэснээр харилцагчид усан тэмдэглэгээг ил тод байдлыг хангах үүрэг болон хэрэглэгчдэдээ санал болгож буй хэрэглээний туршлагад хэрхэн нийцүүлэхээ шийдэх боломжтой. Мөн бид үүлэн үйлчилгээний түншүүдтэйгээ хамтран ажиллаж, тэдний үйлчилгээгээр дамжуулан хандах OpenAI загваруудын гаралтад усан тэмдэглэгээ ашиглах боломжийг ирэх долоо хоногуудад нэвтрүүлэхээр ажиллаж байна.

• Судлаачид болон мэргэжлийн байгууллагуудад илрүүлэгч ашиглах эрх олгох. Зөвшөөрөгдсөн судлаачид болон мэргэжлийн байгууллагууд өнөөдрөөс эхлэн хүсэлт гаргах боломжтой. Үйл ажиллагааны дүрэмд⁠(шинэ цонхонд нээгдэнэ) нийцүүлэн, текстийн гарал үүслийн үнэлгээ, сайжруулалтыг дэмжих зорилгоор эхний ээлжинд хүсэлт бүрийг тусад нь авч үзэн ашиглах эрх олгоно. Энэ хэрэгсэл нь хэрэглэгчийн хэн болохыг тогтоохгүй, команд болон харилцан яриаг нь задруулахгүйгээр OpenAI-ийн усан тэмдэг илэрсэн эсэхийг мэдээлнэ. Усан тэмдгийг илрүүлж чадахгүй байх болон буруу эерэг үр дүн гарах эрсдэлийг харгалзан, бид уг хэрэгслийг нэвтрүүлэх үедээ нийтэд нээлттэй болгохгүй.

Технологи, стандарт, нотолгоо хөгжихийн хэрээр энэхүү арга барилын хэсэг бүрийг дахин авч үзнэ гэж бид үзэж байна.

Ганц гарал үүслийн арга техник дангаараа хангалттай биш тул бид нээлттэй стандартууд, бат бөх усны тэмдэглэгээ болон баталгаажуулах хэрэгслүүдийг хослуулсан олон давхаргат арга барилыг ашигладаг.

Бид дэмжигдсэн гаралтын зурагт Content Credentials нэмдэг, C2PA стандартад нийцдэг⁠(шинэ цонхонд нээгдэнэ), дэмжигдсэн зураг болон аудиод үл үзэгдэх SynthID⁠(шинэ цонхонд нээгдэнэ) усан тэмдэг суулгадаг бөгөөд openai.com/verify⁠ болон манай Content Provenance API⁠(шинэ цонхонд нээгдэнэ)-аар дамжуулан зураг болон аудиог шалгах боломж олгодог. Эдгээр арга нь бие биеэ нөхдөг: Content Credentials нь файлын гарал үүсэл, түүхийг бүртгэж чаддаг бол үл үзэгдэх усан тэмдэг нь мета өгөгдлийг устгасан үед дохиог хадгалж чадна.

Бидний сонгуулийн хамгаалалтын ажил-д дурдсанчлан, гарал үүсэл нь deepfake зэрэг хиймэл оюунаар үүсгэсэн, төөрөгдүүлж болзошгүй контентыг хүмүүс болон платформуудад үнэлэхэд тусалж чадна. Бид эдгээр дохиог бодлого, зүй бус хэрэглээг илрүүлэх, мэдээлэх, мөрдөн шалгах болон хэрэгжүүлэх арга хэмжээтэй хослуулж, гарал үүслийг өргөн хүрээний экосистемд үр өгөөжтэй болгохын тулд судлаачид, стандартын байгууллагууд, платформууд болон иргэний нийгэмтэй хамтран ажилладаг.

Гарал үүслийг тогтоох аргыг текстэд хэрэглэхдээ текстийг дахин найруулах, орчуулах эсвэл засварлахад хэр хялбар болохыг харгалзан үзэх шаардлагатай. Бид 6-р сард хэлэлцсэнчлэн, бидний арга барил өнөөгийн технологийн бодит хязгаарлалтыг тусгах ёстой. Бид илрүүлэлтийг сайжруулах, усан тэмдэг засварлах болон орчуулах явцад хэр хадгалагддагийг судлах, AI-ийн тусламжтай бүтээсэн текстийг AI өөрөө зохиосон текстээс илүү утга учиртайгаар ялгах арга замыг эрэлхийлэх ажлаа үргэлжлүүлнэ. Нотолгоо, стандарт болон зохицуулалтын шаардлагууд өөрчлөгдөхийн хэрээр бид арга барилаа тохируулж, үр дүнг хариуцлагатайгаар тайлбарлах боломжтой гэж үзсэн үедээ илрүүлэх хэрэгслийн хүртээмжийг өргөжүүлнэ.

Дэлгэрэнгүй мэдээлэл авахыг хүсвэл манай тусламжийн төвийн нийтлэлийг⁠(шинэ цонхонд нээгдэнэ) үзнэ үү.