Нашият подход към правилата на ЕС за произхода на текстове
Насърчаваме прозрачността в рамките на днешните технологични възможности.
Проследяването на произхода на съдържанието помага на хората да разберат откъде идва то, как е създадено или редактирано и дали съдържа сигнали, свързани с нашите модели. Вече предоставихме публично достъпни инструменти за разпознаване на изображения и аудио, генерирани от нашите модели. Днес споделяме подхода си към поставянето на водни знаци в текст съгласно Акта на ЕС за изкуствения интелект и как той се вписва в по-широката ни работа.
Актът на ЕС за изкуствения интелект изисква от доставчиците на генеративен ИИ да направят генерирания текст разпознаваем по машинночетим начин. Поставянето и откриването на водни знаци в текст все още са технологии в ранен етап на развитие със значителни ограничения, а възгледите за ползите и отговорното им използване продължават да се оформят. Поетапният ни подход отчита както изискванията на Акта на ЕС за изкуствения интелект, така и ограниченията на технологията, с акцент върху прозрачността за това какво може и какво не може да покаже един воден знак в текст:
От днес клиентите на API по целия свят ще могат по свое желание да включват водни знаци в текст за избрани модели. Поставянето на водни знаци в текст ще остане изключено по подразбиране в API.
През следващите седмици ще добавим невидим воден знак към текстовете, генерирани от ChatGPT и Codex в Европейския съюз, които отговарят на съответните условия.
Отваряме приема на заявления за достъп до нашия детектор за водни знаци в текст. Първоначално достъпът ще бъде ограничен до одобрени изследователи и експертни организации, които могат да ни помогнат да оценим и подобрим технологията.
Горното се отнася само за произхода на текстове — нашите инструменти за проверка на аудио и изображения, включително уеб инструментът openai.com/verify и нашият API за произхода на съдържанието(отваря се в нов прозорец), ще останат публично достъпни за организации, които искат да разберат дали дадено изображение или аудиофайл е генериран от някоя от нашите системи.
Нашата технология за водни знаци в текст, textGrain, добавя невидим статистически сигнал в избора на думи от модела. Нашият детектор търси този сигнал, за да прецени дали даден откъс съдържа воден знак на OpenAI. Повече подробности за работата на textGrain ще намерите в нашия технически доклад(отваря се в нов прозорец), който ще бъде допълнен през следващите седмици. Планираме също да предоставим технологията с отворен код, за да могат и други да я надграждат.
При нашите оценки textGrain постигна резултати, които са равни на или по-добри от резултатите на другите тествани подходи, включително SynthID за текст. Въпреки това добрите резултати при идеални условия не гарантират надеждно откриване при ежедневна употреба.
Детекторите могат да допускат два вида грешки: да отчитат воден знак там, където няма такъв — фалшиво положителен резултат, или да пропускат съществуващ воден знак — фалшиво отрицателен резултат. Оценките ни по-долу илюстрират някои от предизвикателствата:
Водните знаци се откриват по-трудно в кратки текстове или в текстове с по-ограничен избор на думи. При целеви дял на фалшиво положителните резултати от 1% нашият детектор откри водни знаци в около 80% от откъсите с дължина 200 токена спрямо около 95% от откъсите с дължина 400 токена за съдържание в области като психологията. Успеваемостта при откриване беше значително по-ниска за съдържание в области като математиката, където има по-малко свобода при избора на думи.
Редактирането може да отслаби водния знак. При оценка на откъси с дължина 400 токена замяната на 10% от думите със синоними намали успеваемостта при откриване от около 92% на 66%. Замяната на 25% от думите я намали до 17%.
Тези ограничения са сред причините за решението ни първоначално да предоставим достъп до детектора само на одобрени изследователи и експертни организации, които могат да ни помогнат да оценим надеждността и отговорните начини на използване.
Тази диаграма показва резултатите за отговори с водни знаци на въпроси по математика и психология от набора от данни ELI5(отваря се в нов прозорец) при целеви дял на фалшиво положителните резултати от 1%. Успеваемостта при откриване се подобрява с дължината на текста, но като цяло е значително по-ниска за съдържание с по-малко свобода при избора на думи, например в областта на математиката.
Редактирането може значително да отслаби сигнала на водния знак. Тази диаграма показва как замяната на 10% или 25% от думите в даден откъс влияе върху откриването. Резултатите се основават на отговори на английски език с водни знаци на въпроси от ELI5(отваря се в нов прозорец).
В сравнителните тестове, с които оценяваме Astra, нашия най-нов авангарден модел, не наблюдаваме съществени разлики в резултатите със и без водни знаци.
Сравнителен тест | Текст без воден знак (Astra, Max) | Текст с воден знак (Astra, Max) |
|---|---|---|
Индекс за интелигентност на Artificial Analysis | 49,57 точки | 49,76 точки |
AutomationBench | 34,09% | 34,86% |
DeepSWE v1.1 | 72,80% | 71,68% |
Terminal-Bench 4.0 | 53,90% | 56,06% |
Terminal-Bench Science 0.1 | 56,90% | 60,00% |
BrowseComp | 87,92% | 87,35% |
HealthBench Professional | 64,27% | 64,60% |
GPQA Diamond | 94,44% | 93,94% |
Водните знаци в текст дават ограничена информация за ролята на нашите системи в създаването или обработката на даден откъс. Важно е да се разбира какви изводи могат и не могат да се направят от резултата от проверката.
Водният знак не измерва човешкия принос. Той може да покаже, че система на OpenAI е генерирала или обработила част от даден откъс, но не и колко човешка преценка, редактиране или творчество са вложени в него.
Водният знак не установява собственост или отговорност. Той не определя кой притежава текста, дали използването му е било законно, дали е било необходимо оповестяване, или кой носи отговорност за него.
Водният знак не идентифицира потребителя. Той не свързва текста с човек, организация, акаунт, подкана или разговор.
Водният знак не потвърждава достоверността. Той не показва дали даден откъс е верен, подвеждащ, вреден или представен в правилния контекст.
Липсата на открит воден знак не доказва човешко авторство. Текстът, генериран с инструменти на OpenAI, може да е твърде кратък, редактиран или преведен, което пречи на надеждното откриване. Той може също да е създаден от неподдържан модел, да предхожда въвеждането на водните знаци или да е генериран с инструменти на друга компания.
Въвеждане на водни знаци в текст в ЕС. През следващите седмици ще въведем водни знаци в текст за потребителите на ChatGPT и Codex, които отговарят на съответните условия, във всички планове, но само в ЕС. При пускането няма да включим водните знаци в текст по подразбиране в световен мащаб. Този регионален подход ни дава възможност да се учим от реалната употреба и обратната връзка.
Възможност за включване на водни знаци по желание на клиентите на API. От днес клиентите на API по целия свят ще могат по свое желание да включват водни знаци в текстовете, генерирани от избрани модели. Така клиентите могат да решат как водните знаци се вписват в задълженията им за прозрачност и в услугите, които предоставят на потребителите. Работим и с партньори, предоставящи облачни услуги, за да осигурим през следващите седмици възможност за водни знаци в съдържанието, генерирано от модели на OpenAI чрез техните услуги.
Предоставяне на достъп до детектора на изследователи и експертни организации. Одобрените изследователи и експертни организации могат да кандидатстват от днес. В съответствие с Кодекса за поведение(отваря се в нов прозорец) първоначално достъпът ще се предоставя след индивидуална преценка, за да се подпомогнат оценката и подобряването на проследимостта на произхода на текстове. Инструментът ще отчита дали открива воден знак на OpenAI, без да идентифицира потребителя или да разкрива неговите подкани или разговори. Предвид риска от пропуснати водни знаци и фалшиво положителни резултати няма да го направим публично достъпен при пускането.
Очакваме да преразглеждаме всяка част от този подход с развитието на технологията и стандартите и натрупването на данни.
Нито един метод за проследяване на произхода не е достатъчен сам по себе си, затова прилагаме многослоен подход, съчетаващ отворени стандарти, устойчиви водни знаци и инструменти за проверка.
Добавяме Content Credentials към поддържаните генерирани изображения, отговаряме на изискванията на C2PA(отваря се в нов прозорец), вграждаме невидими водни знаци SynthID(отваря се в нов прозорец) в поддържаните изображения и аудио и предоставяме възможност за проверката им чрез openai.com/verify и нашия API за произхода на съдържанието(отваря се в нов прозорец). Тези методи се допълват взаимно: Content Credentials могат да записват произхода и историята на даден файл, а невидимите водни знаци могат да запазят сигнал, когато метаданните бъдат премахнати.
Както описахме в нашата работа по мерките за защита на изборите, информацията за произхода може да помогне на хората и платформите да оценяват потенциално подвеждащо съдържание, генерирано от ИИ, включително дълбоки фалшификати. Съчетаваме тези сигнали с политики, откриване на злоупотреби, подаване на сигнали, разследвания и мерки при нарушения. Работим с изследователи, органи по стандартизация, платформи и гражданското общество, за да направим информацията за произхода полезна в цялата екосистема.
За да обхванем и текста с проследяване на произхода, трябва да отчетем колко лесно той може да бъде пренаписан, преведен или редактиран. Както обсъдихме през юни, подходът ни трябва да отчита практическите ограничения на съвременните технологии. Ще продължим да подобряваме откриването, да проучваме устойчивостта на водните знаци при редактиране и превод и да търсим начини за по-съдържателно разграничаване между помощта от ИИ и авторството на ИИ. Ще адаптираме подхода си с натрупването на данни и развитието на стандартите и регулаторните изисквания и ще разширим достъпа до детектора, когато сметнем, че резултатите могат да се тълкуват отговорно.
За повече информация прочетете нашата статия в помощния център(отваря се в нов прозорец).
