Meie lähenemisviis ELi teksti päritolu reeglitele

Sisu päritolu aitab inimestel mõista, kust sisu pärineb, kuidas seda loodi või redigeeriti ning kas see sisaldab meie mudelitega seotud signaale. Oleme juba teinud avalikult kättesaadavaks tööriistad meie mudelite loodud piltide ja heli tuvastamiseks. Täna jagame vastuseks ELi tehisintellekti aktile oma lähenemisviisi teksti vesimärgistamisele ja seda, kuidas see sobitub meie laiemasse tegevusse.

ELi tehisintellekti aktis nõutakse, et generatiivse tehisintellekti pakkujad muudaksid genereeritud teksti masinloetaval viisil tuvastatavaks. Teksti vesimärgistamine ja tuvastamine on endiselt varajased tehnoloogiad, millel on olulised piirangud, ning seisukohad nende eeliste ja vastutustundliku kasutamise osas on alles kujunemas. Meie etapiviisiline lähenemine peegeldab nii ELi tehisintellekti akti nõudeid kui ka tehnoloogia piiranguid, pannes rõhku läbipaistvusele selles osas, mida teksti vesimärk suudab ja mida ei suuda inimestele öelda:

• Alates tänasest saavad API kliendid kogu maailmas teatud mudelite puhul teksti vesimärgistamise sisse lülitada. API-s jääb teksti vesimärgistamine vaikimisi väljalülitatuks.

• Lähinädalatel lisame Euroopa Liidus sobivale ChatGPT ja Codexi tekstiväljundile nähtamatu vesimärgi.

• Avame kandideerimise meie teksti vesimärgi tuvastajale juurdepääsu saamiseks. Juurdepääs on esialgu piiratud heakskiidetud teadlaste ja ekspertorganisatsioonidega, kes saavad meid aidata tehnoloogia hindamisel ja täiustamisel.

  • Eelnev kehtib ainult teksti päritolu kohta—meie heli ja piltide kinnitamise tööriistad, sealhulgas meie veebitööriist openai.com/verify⁠ ja meie Content Provenance API⁠(avaneb uues aknas), jäävad avalikult kättesaadavaks organisatsioonidele, kes soovivad mõista, kas pildi- või helifail on loodud mõne meie süsteemi poolt.

Meie teksti vesimärgistamise tehnoloogia textGrain lisab mudeli sõnavalikutele nähtamatu statistilise signaali. Meie tuvastaja otsib seda signaali, et hinnata, kas tekstilõik sisaldab OpenAI vesimärki. Lisateavet textGraini toimimise kohta leiab meie tehnilisest aruandest⁠(avaneb uues aknas), mida täiendatakse lähinädalatel lisaandmetega. Samuti plaanime teha tehnoloogia avatud lähtekoodiga kättesaadavaks, et teised saaksid sellele tugineda.

Meie hindamiste käigus saavutas textGrain sama või parema tulemuse kui teised meie testitud lähenemisviisid, sealhulgas SynthID teksti jaoks. Sellegipoolest ei taga hea jõudlus ideaaltingimustes usaldusväärset tuvastamist igapäevases kasutuses.

Tuvastajad võivad teha kahte tüüpi vigu: nad võivad teavitada vesimärgist seal, kus seda pole—valepositiivne—või jätta märkamata vesimärgi, mis on olemas—valenegatiivne. Meie alltoodud hindamised illustreerivad mõningaid väljakutseid:

• Lühikest või piiratumat teksti on raskem tuvastada. 1% siht-valepositiivse määra juures tuvastas meie tuvastaja vesimärke umbes 80%-s 200 tokeni pikkustest tekstilõikudest, võrreldes umbes 95%-ga 400 tokeni pikkustest tekstilõikudest sellise sisu puhul nagu psühholoogia. Tuvastusmäärad olid oluliselt madalamad sellise sisu puhul nagu matemaatika, kus sõnavalikus on vähem paindlikkust.

• Redigeerimine võib vesimärki nõrgendada. 400 tokeni pikkuste tekstilõikude hindamisel vähendas 10% sõnade asendamine sünonüümidega tuvastamist umbes 92%-lt 66%-le. 25% sõnade asendamine vähendas seda 17%-le.

Need piirangud aitavad kaasa meie otsusele pakkuda algset juurdepääsu tuvastajale ainult heakskiidetud teadlastele ja ekspertorganisatsioonidele, kes saavad meid aidata usaldusväärsuse ja vastutustundliku kasutuse hindamisel.

Meie uusima tipptasemel mudeli Astra hindamiseks kasutatavate võrdlustestide lõikes ei näe me vesimärgistamisega ja ilma selleta sisulisi jõudluse erinevusi.

Teksti vesimärgid annavad piiratud signaali selle kohta, millist rolli meie süsteemid tekstilõigus mängisid. Oluline on mõista, mida saab ja mida ei saa tuvastustulemusest järeldada.

• Vesimärk ei mõõda inimese panust. See võib viidata sellele, et OpenAI süsteem genereeris või töötles osa tekstilõigust, kuid mitte seda, kui palju inimlikku otsustusvõimet, redigeerimist või loovust sellesse panustati.

• Vesimärk ei tuvasta omandiõigust ega vastutust. See ei määra, kellele tekst kuulub, kas selle kasutamine oli seaduslik, kas avalikustamine oli nõutav või kes selle eest vastutab.

• Vesimärk ei tuvasta kasutajat. See ei seosta tekstiga ühtegi inimest, organisatsiooni, kontot, viipa ega vestlust.

• Vesimärk ei kinnita täpsust. See ei ütle sulle, kas tekstilõik on tõene, eksitav, kahjulik või õiges kontekstis esitatud.

• Tuvastatud vesimärgi puudumine ei tõesta, et teksti autor on inimene. OpenAI tööriistadega genereeritud tekst võib olla usaldusväärseks tuvastamiseks liiga lühike, redigeeritud või tõlgitud. See võib pärineda ka toetamata mudelist, olla loodud enne vesimärgistamist või olla genereeritud teise ettevõtte tööriistadega.

• Teksti vesimärgistamise kasutuselevõtt ELis. Lähinädalatel tutvustame teksti vesimärgistamist sobivatele ChatGPT ja Codexi kasutajatele kõikides pakettides ainult ELis. Me ei tee turuletoomisel teksti vesimärgistamist globaalseks vaikeväärtuseks. See piirkondlik lähenemisviis annab meile ruumi õppida reaalsest kasutusest ja tagasisidest.

• Valikulise vesimärgistamise võimaldamine API klientidele. Alates tänasest saavad API kliendid üle maailma teatud mudelite puhul vesimärgiga tekstiväljundeid sisse lülitada. See võimaldab klientidel otsustada, kuidas vesimärgistamine sobitub nende läbipaistvuskohustuste ja kasutajatele pakutavate kogemustega. Samuti teeme koostööd pilvepartneritega, et teha vesimärgistamine lähinädalatel kättesaadavaks OpenAI mudelite väljunditele, millele pääseb juurde nende teenuste kaudu.

• Tuvastajale juurdepääsu tagamine teadlastele ja ekspertorganisatsioonidele. Heakskiidetud teadlased ja ekspertorganisatsioonid saavad kandideerida alates tänasest. Tegevusjuhendi⁠(avaneb uues aknas) kohaselt antakse juurdepääs esialgu juhtumipõhiselt, et toetada teksti päritolu hindamist ja täiustamist. Tööriist annab teada, kas see tuvastab OpenAI vesimärgi, tuvastamata kasutajat või paljastamata tema viipasid või vestlusi. Arvestades vesimärkide märkamata jätmise ja valepositiivsete tulemuste riski, ei tee me seda turuletoomisel avalikult kättesaadavaks.

Eeldame, et vaatame selle lähenemisviisi iga osa üle, kui tehnoloogia, standardid ja tõendid arenevad.

Ükski päritolutehnika ei ole iseenesest piisav, seega kasutame mitmekihilist lähenemisviisi, mis ühendab avatud standardid, vastupidava vesimärgistamise ja kinnitamise tööriistad.

Lisame toetatud pildiväljunditele sisumandaadid, vastame C2PA nõuetele⁠(avaneb uues aknas), manustame toetatud piltidesse ja helisse nähtamatuid SynthID⁠(avaneb uues aknas) vesimärke ning teeme piltide ja heli kinnitamise kättesaadavaks openai.com/verify⁠ ja meie Content Provenance API⁠(avaneb uues aknas) kaudu. Need tehnikad täiendavad üksteist: sisumandaadid saavad salvestada faili päritolu ja ajaloo, samas kui nähtamatud vesimärgid suudavad säilitada signaali ka metaandmete eemaldamisel.

Nagu me kirjeldasime oma valimiste kaitsemeetmete töös, võib päritolu aidata inimestel ja platvormidel hinnata potentsiaalselt eksitavat tehisintellekti loodud sisu, sealhulgas süvavõltsinguid. Ühendame need signaalid eeskirjade, väärkasutuse tuvastamise, aruandluse, uurimiste ja jõustamisega ning teeme koostööd teadlaste, standardiasutuste, platvormide ja kodanikuühiskonnaga, et muuta päritolu kasulikuks laiemas ökosüsteemis.

Päritolu laiendamine tekstile nõuab arvestamist sellega, kui hõlpsasti saab seda ümber kirjutada, tõlkida või redigeerida. Nagu me juunis arutasime, peab meie lähenemisviis peegeldama praeguse tehnoloogia praktilisi piire. Jätkame tuvastamise täiustamist, uurides, kuidas vesimärgid peavad vastu redigeerimisele ja tõlkimisele, ning otsides viise, kuidas sisukamalt eristada tehisintellekti abi tehisintellekti autorsusest. Kohandame oma lähenemisviisi, kui tõendid, standardid ja regulatiivsed nõuded arenevad, ning laiendame juurdepääsu tuvastajale, kui usume, et tulemusi on võimalik vastutustundlikult tõlgendada.

Lisateabe saamiseks külasta meie abikeskuse artiklit⁠(avaneb uues aknas).