Abordarea noastră privind normele UE privind proveniența textelor

Proveniența conținutului ajută utilizatorii să înțeleagă de unde provine conținutul, cum a fost creat sau editat și dacă include semnale asociate modelelor noastre. Am pus deja la dispoziția publicului instrumente pentru identificarea imaginilor și conținutului audio generate de modelele noastre. Astăzi prezentăm abordarea noastră privind marcarea textelor cu filigrane ca răspuns la Regulamentul UE privind IA și modul în care aceasta se încadrează în eforturile noastre mai ample.

Regulamentul UE privind IA le impune furnizorilor de IA generativă să permită identificarea textelor generate într-un format care poate fi citit automat. Marcarea textelor cu filigrane și detectarea acestora sunt încă tehnologii incipiente, cu limitări semnificative, iar opiniile privind beneficiile și utilizările lor responsabile continuă să evolueze. Abordarea noastră etapizată reflectă atât cerințele Regulamentului UE privind IA, cât și limitările tehnologiei, punând accent pe transparență cu privire la ceea ce un filigran de text le poate (sau nu) dezvălui cititorilor:

• Începând de astăzi, clienții API din întreaga lume vor putea opta pentru marcarea textelor cu filigrane pentru anumite modele. Marcarea textelor cu filigrane va rămâne dezactivată în mod implicit în API.

• În următoarele săptămâni, vom adăuga un filigran invizibil textelor eligibile generate de ChatGPT și Codex în Uniunea Europeană.

• Deschidem înscrierile pentru acces la detectorul nostru de filigrane de text. Inițial, accesul va fi limitat la cercetători și organizații de specialitate aprobate, care ne pot ajuta să evaluăm și să îmbunătățim tehnologia.

  • Cele de mai sus se aplică doar provenienței textelor. Instrumentele noastre de verificare pentru conținut audio și imagini, inclusiv instrumentul web openai.com/verify⁠ și API-ul pentru proveniența conținutului⁠(se deschide într-o fereastră nouă), vor rămâne accesibile public organizațiilor care vor să afle dacă o imagine sau un fișier audio a fost generat de unul dintre sistemele noastre.

Tehnologia noastră de marcare a textelor cu filigrane, textGrain, adaugă un semnal statistic invizibil în modul în care modelul alege cuvintele. Detectorul nostru caută acest semnal pentru a evalua dacă un pasaj conține un filigran OpenAI. Mai multe detalii despre funcționarea textGrain se găsesc în raportul nostru tehnic⁠(se deschide într-o fereastră nouă), care va fi actualizat cu informații suplimentare în următoarele săptămâni. De asemenea, intenționăm să punem tehnologia la dispoziție cu sursă deschisă, pentru ca și alții să poată dezvolta soluții pe baza sa.

În evaluările noastre, textGrain a egalat sau depășit performanța altor abordări testate, inclusiv SynthID pentru text. Chiar și așa, performanța ridicată în condiții ideale nu garantează o detectare fiabilă în utilizarea de zi cu zi.

Detectoarele pot face două tipuri de erori: pot semnala un filigran acolo unde nu există, adică un rezultat fals pozitiv sau pot rata un filigran existent, adică un rezultat fals negativ. Evaluările noastre de mai jos ilustrează câteva dintre dificultăți:

• Filigranele sunt mai greu de detectat în texte scurte sau supuse mai multor constrângeri. La o rată-țintă de rezultate fals pozitive de 1%, detectorul nostru a identificat filigrane în aproximativ 80% dintre pasajele de 200 de tokenuri, față de aproximativ 95% dintre pasajele de 400 de tokenuri, pentru conținut din domenii precum psihologia. Ratele de detectare au fost considerabil mai mici pentru conținut din domenii precum matematica, unde alegerea cuvintelor permite mai puțină flexibilitate.

• Editarea poate slăbi semnalul filigranului. Într-o evaluare a unor pasaje de 400 de tokenuri, înlocuirea a 10% dintre cuvinte cu sinonime a redus rata de detectare de la aproximativ 92% la 66%. Înlocuirea a 25% dintre cuvinte a redus-o la 17%.

Aceste limitări contribuie la decizia noastră de a le oferi inițial acces la detector doar cercetătorilor și organizațiilor de specialitate aprobate, care ne pot ajuta să evaluăm fiabilitatea și utilizările responsabile.

În benchmarkurile pe care le folosim pentru a evalua Astra, cel mai recent model de vârf al nostru, nu observăm diferențe semnificative de performanță între utilizarea cu și fără filigrane.

Filigranele de text oferă un indiciu limitat despre rolul pe care sistemele noastre l-au avut în realizarea unui pasaj. Este important să înțelegi ce concluzii se pot și nu se pot trage dintr-un rezultat al detectării.

• Un filigran nu măsoară contribuția umană. Poate indica faptul că un sistem OpenAI a generat sau prelucrat o parte dintr-un pasaj, dar nu și în ce măsură au existat contribuții umane prin judecată, editare sau creativitate.

• Un filigran nu stabilește dreptul de proprietate sau responsabilitatea. Nu stabilește cui îi aparține textul, dacă utilizarea sa a fost legală, dacă exista o obligație de informare sau cine este responsabil pentru el.

• Un filigran nu identifică utilizatorul. Nu asociază textul cu o persoană, o organizație, un cont, o solicitare sau o conversație.

• Un filigran nu verifică exactitatea. Nu îți spune dacă un pasaj este adevărat, înșelător, dăunător sau prezentat în contextul potrivit.

• Absența unui filigran detectat nu dovedește că textul a fost scris de un om. Un text generat cu instrumente OpenAI poate fi prea scurt și poate fi editat sau tradus, astfel încât detectarea să nu funcționeze fiabil. De asemenea, poate proveni de la un model care nu acceptă filigrane, poate fi anterior introducerii lor sau poate fi generat cu instrumentele altei companii.

• Introducerea treptată a filigranelor de text în UE. În următoarele săptămâni, vom introduce marcarea textelor cu filigrane pentru utilizatorii eligibili de ChatGPT și Codex, pentru toate planurile, exclusiv în UE. La lansare, marcarea textelor cu filigrane nu va fi activată implicit la nivel global. Această abordare regională ne oferă posibilitatea de a învăța din utilizarea în condiții reale și din feedback.

• Oferirea opțiunii de marcare cu filigrane pentru clienții API. Începând de astăzi, clienții API din întreaga lume vor putea opta pentru texte generate cu filigrane de anumite modele. Astfel, clienții pot decide cum se încadrează marcarea cu filigrane în obligațiile lor de transparență și în experiențele pe care le oferă utilizatorilor. De asemenea, colaborăm cu partenerii din domeniul cloud pentru a oferi, în următoarele săptămâni, marcarea cu filigrane a rezultatelor modelelor OpenAI accesate prin serviciile lor.

• Oferirea accesului la detector pentru cercetători și organizații de specialitate. Cercetătorii și organizațiile de specialitate aprobate pot solicita acces începând de astăzi. În conformitate cu Codul de bune practici⁠(se deschide într-o fereastră nouă), accesul va fi acordat inițial de la caz la caz, pentru a sprijini evaluarea și îmbunătățirea tehnologiilor de stabilire a provenienței textelor. Instrumentul va indica dacă detectează un filigran OpenAI, fără a identifica utilizatorul sau a-i dezvălui solicitările sau conversațiile. Având în vedere riscul de a rata filigrane și de a produce rezultate fals pozitive, nu îl vom pune la dispoziția publicului la lansare.

Ne așteptăm să reevaluăm fiecare componentă a acestei abordări pe măsură ce tehnologia, standardele și dovezile evoluează.

Nicio tehnică de stabilire a provenienței nu este suficientă de una singură, așa că folosim o abordare pe mai multe niveluri, care combină standarde deschise, filigrane rezistente și instrumente de verificare.

Adăugăm Content Credentials imaginilor generate compatibile, respectăm standardele C2PA⁠(se deschide într-o fereastră nouă), încorporăm filigrane invizibile SynthID⁠(se deschide într-o fereastră nouă) în imaginile și conținutul audio compatibile și oferim verificarea imaginilor și a conținutului audio prin openai.com/verify⁠ și API-ul pentru proveniența conținutului⁠(se deschide într-o fereastră nouă). Aceste tehnici se completează reciproc: Content Credentials pot înregistra originea și istoricul unui fișier, în timp ce filigranele invizibile pot păstra un semnal atunci când metadatele sunt eliminate.

Așa cum am explicat în prezentarea eforturilor noastre de protejare a alegerilor, proveniența poate ajuta utilizatorii și platformele să evalueze conținutul potențial înșelător generat de IA, inclusiv deepfake-urile. Combinăm aceste semnale cu politici, detectarea abuzurilor, raportare, investigații și măsuri de aplicare a regulilor și colaborăm cu cercetători, organisme de standardizare, platforme și societatea civilă pentru a face proveniența utilă în întregul ecosistem.

Extinderea tehnicilor de stabilire a provenienței la text presupune să ținem cont de cât de ușor poate fi rescris, tradus sau editat. Așa cum am discutat în iunie, abordarea noastră trebuie să reflecte limitele practice ale tehnologiei actuale. Vom continua să îmbunătățim detectarea, să studiem rezistența filigranelor la editare și traducere și să explorăm modalități mai relevante de a distinge între contribuția IA ca asistent și crearea textului de către IA. Ne vom adapta abordarea pe măsură ce dovezile, standardele și cerințele de reglementare evoluează și vom extinde accesul la detector atunci când considerăm că rezultatele pot fi interpretate responsabil.

Pentru mai multe informații, consultă articolul din centrul nostru de ajutor⁠(se deschide într-o fereastră nouă).