Qasja jonë ndaj rregullave të BE-së për prejardhjen e tekstit

Prejardhja e përmbajtjes i ndihmon njerëzit të kuptojnë nga vjen përmbajtja, si është krijuar ose redaktuar dhe nëse përmban sinjale që lidhen me modelet tona. Tashmë kemi vënë në dispozicion të publikut mjete për të identifikuar imazhet dhe audion e gjeneruar nga modelet tona. Sot po prezantojmë qasjen tonë ndaj vendosjes së filigranëve në tekst në përgjigje të Aktit të BE-së për IA-në dhe mënyrën si kjo përfshihet në punën tonë më të gjerë.

Akti i BE-së për IA-në kërkon që ofruesit e IA-së gjeneruese ta bëjnë tekstin e gjeneruar të identifikueshëm në një mënyrë të lexueshme nga makinat. Vendosja dhe zbulimi i filigranëve në tekst mbeten teknologji në fazë të hershme, me kufizime të konsiderueshme, ndërsa pikëpamjet mbi përfitimet dhe përdorimin e tyre të përgjegjshëm janë ende në zhvillim. Qasja jonë me faza pasqyron si kërkesat e Aktit të BE-së për IA-në, ashtu edhe kufizimet e teknologjisë, duke theksuar transparencën mbi atë që një filigran në tekst mund dhe nuk mund t’u tregojë njerëzve:

• Duke filluar nga sot, klientët e API-së në mbarë botën do të mund të zgjedhin të aktivizojnë vendosjen e filigranëve në tekst për modele të përzgjedhura. Vendosja e filigranëve në tekst do të mbetet e çaktivizuar si parazgjedhje në API.

• Gjatë javëve në vijim, do të shtojmë një filigran të padukshëm në tekstet e gjeneruara nga ChatGPT dhe Codex në Bashkimin Evropian që plotësojnë kushtet për këtë.

• Po hapim aplikimet për qasje në mjetin tonë të zbulimit të filigranëve në tekst. Fillimisht, qasja do të kufizohet te studiuesit dhe organizatat e specializuara të miratuara, që mund të na ndihmojnë ta vlerësojmë dhe përmirësojmë teknologjinë.

  • Sa më sipër vlen vetëm për prejardhjen e tekstit. Mjetet tona të verifikimit të audios dhe imazheve, përfshirë mjetin në ueb openai.com/verify⁠ dhe API-në e prejardhjes së përmbajtjes⁠(hapet në një dritare të re), do të mbeten të hapura për organizatat që duan të kuptojnë nëse një imazh ose skedar audio është gjeneruar nga një prej sistemeve tona.

Teknologjia jonë për vendosjen e filigranëve në tekst, textGrain, shton një sinjal statistikor të padukshëm në zgjedhjet e fjalëve nga modeli. Mjeti ynë i zbulimit kërkon këtë sinjal për të vlerësuar nëse një fragment teksti përmban një filigran të OpenAI. Më shumë hollësi për funksionimin e textGrain mund të gjenden në raportin tonë teknik⁠(hapet në një dritare të re), i cili do të përditësohet me hollësi shtesë gjatë javëve në vijim. Gjithashtu, planifikojmë ta vëmë teknologjinë në dispozicion me kod të hapur, që të tjerët të mund të ndërtojnë mbi të.

Në vlerësimet tona, textGrain arriti ose tejkaloi performancën e qasjeve të tjera që testuam, përfshirë SynthID për tekst. Megjithatë, performanca e lartë në kushte ideale nuk garanton zbulim të besueshëm në përdorimin e përditshëm.

Mjetet e zbulimit mund të bëjnë dy lloje gabimesh: të raportojnë një filigran kur ai nuk është i pranishëm — rezultat pozitiv i rremë — ose të mos zbulojnë një filigran të pranishëm — rezultat negativ i rremë. Vlerësimet tona më poshtë ilustrojnë disa nga sfidat:

• Filigranët zbulohen më vështirë në tekste më të shkurtra ose me zgjedhje më të kufizuar fjalësh. Me një normë të synuar prej 1% për rezultatet pozitive të rreme, mjeti ynë identifikoi filigranë në rreth 80% të fragmenteve me 200 token, krahasuar me rreth 95% të fragmenteve me 400 token, për përmbajtje nga fusha si psikologjia. Shkalla e zbulimit ishte dukshëm më e ulët për përmbajtje nga fusha si matematika, ku ka më pak fleksibilitet në zgjedhjen e fjalëve.

• Redaktimi mund ta dobësojë filigranin. Në një vlerësim të fragmenteve me 400 token, zëvendësimi i 10% të fjalëve me sinonime e uli shkallën e zbulimit nga rreth 92% në 66%. Zëvendësimi i 25% të fjalëve e uli atë në 17%.

Këto kufizime janë një nga arsyet e vendimit tonë për t’ua ofruar qasjen fillestare në mjetin e zbulimit vetëm studiuesve dhe organizatave të specializuara të miratuara, që mund të na ndihmojnë të vlerësojmë besueshmërinë dhe përdorimet e përgjegjshme.

Në testet krahasuese që përdorim për të vlerësuar Astra, modelin tonë më të fundit avangardë, nuk vërejmë dallime domethënëse në performancë me dhe pa filigranë.

Filigranët në tekst japin një sinjal të kufizuar për rolin që kanë luajtur sistemet tona në një fragment teksti. Është e rëndësishme të kuptohet se çfarë përfundimesh mund dhe nuk mund të nxirren nga një rezultat zbulimi.

• Filigrani nuk mat kontributin njerëzor. Ai mund të tregojë se një sistem i OpenAI ka gjeneruar ose përpunuar një pjesë të tekstit, por jo sa gjykim, redaktim apo krijimtari njerëzore është përfshirë në të.

• Filigrani nuk përcakton pronësinë apo përgjegjësinë. Ai nuk përcakton kujt i përket teksti, nëse përdorimi i tij ishte i ligjshëm, nëse kërkohej deklarimi i përdorimit të IA-së apo kush mban përgjegjësi për të.

• Filigrani nuk identifikon përdoruesin. Ai nuk lidh me tekstin asnjë person, organizatë, llogari, kërkesë apo bisedë.

• Filigrani nuk verifikon saktësinë. Ai nuk ju tregon nëse një fragment teksti është i vërtetë, çorientues, i dëmshëm apo i paraqitur në kontekstin e duhur.

• Moszbulimi i një filigrani nuk provon se autori është njeri. Teksti i gjeneruar me mjetet e OpenAI mund të jetë tepër i shkurtër, i redaktuar ose i përkthyer, duke penguar zbulimin e besueshëm. Ai mund të vijë edhe nga një model që nuk e mbështet këtë teknologji, të jetë krijuar para futjes së filigranëve ose të jetë gjeneruar nga mjetet e një kompanie tjetër.

• Fillimi i vendosjes së filigranëve në tekst në BE. Gjatë javëve në vijim, do të fillojmë vendosjen e filigranëve në tekst për përdoruesit e ChatGPT dhe Codex që plotësojnë kushtet, në të gjitha planet, vetëm në BE. Në lançim, nuk po e aktivizojmë vendosjen e filigranëve në tekst si parazgjedhje në të gjithë botën. Kjo qasje rajonale na jep mundësi të mësojmë nga përdorimi në praktikë dhe nga komentet që marrim.

• Aktivizimi me zgjedhje i filigranëve për klientët e API-së. Duke filluar nga sot, klientët e API-së në mbarë botën do të mund të zgjedhin të marrin tekste të gjeneruara me filigran nga modele të përzgjedhura. Kjo u mundëson klientëve të vendosin se si përshtatet vendosja e filigranëve me detyrimet e tyre për transparencë dhe me përvojat që u ofrojnë përdoruesve. Po punojmë gjithashtu me partnerët tanë të shërbimeve cloud që, gjatë javëve në vijim, vendosja e filigranëve të ofrohet edhe për tekstet e gjeneruara nga modelet e OpenAI përmes shërbimeve të tyre.

• Ofrimi i qasjes në mjetin e zbulimit për studiues dhe organizata të specializuara. Studiuesit dhe organizatat e specializuara të miratuara mund të aplikojnë duke filluar nga sot. Në përputhje me Kodin e praktikës⁠(hapet në një dritare të re), qasja fillimisht do të jepet rast pas rasti, për të mbështetur vlerësimin dhe përmirësimin e teknologjisë së prejardhjes së tekstit. Mjeti do të raportojë nëse zbulon një filigran të OpenAI, pa identifikuar përdoruesin apo zbuluar kërkesat ose bisedat e tij. Duke pasur parasysh rrezikun e moszbulimit të filigranëve dhe të rezultateve pozitive të rreme, nuk po e vëmë mjetin në dispozicion të publikut që në lançim.

Presim të rishqyrtojmë çdo pjesë të kësaj qasjeje teksa zhvillohen teknologjia, standardet dhe provat e disponueshme.

Asnjë teknikë për përcaktimin e prejardhjes nuk mjafton më vete, ndaj ndjekim një qasje me disa shtresa që ndërthur standardet e hapura, filigranët e qëndrueshëm dhe mjetet e verifikimit.

U shtojmë Content Credentials imazheve të gjeneruara që e mbështesin këtë funksion, jemi në përputhje me C2PA⁠(hapet në një dritare të re), integrojmë filigranë të padukshëm SynthID⁠(hapet në një dritare të re) në imazhet dhe audion e mbështetur dhe ofrojmë verifikimin e imazheve dhe audios përmes openai.com/verify⁠ dhe API-së sonë të prejardhjes së përmbajtjes⁠(hapet në një dritare të re). Këto teknika plotësojnë njëra-tjetrën: Content Credentials mund të regjistrojë origjinën dhe historikun e një skedari, ndërsa filigranët e padukshëm mund të ruajnë një sinjal kur hiqen metatëdhënat.

Siç e kemi përshkruar në punën tonë për mbrojtjen e zgjedhjeve, të dhënat për prejardhjen mund t’i ndihmojnë njerëzit dhe platformat të vlerësojnë përmbajtjet potencialisht çorientuese të gjeneruara nga IA-ja, përfshirë falsifikimet e thella. Këto sinjale i ndërthurim me politika, zbulim abuzimesh, raportim, hetime dhe masa për zbatimin e rregullave. Gjithashtu, punojmë me studiues, organe standardizimi, platforma dhe shoqërinë civile që të dhënat për prejardhjen të jenë të dobishme në të gjithë ekosistemin.

Zgjerimi i teknologjive të prejardhjes edhe te teksti kërkon të merret parasysh sa lehtë mund të rishkruhet, përkthehet apo redaktohet ai. Siç diskutuam në qershor, qasja jonë duhet të pasqyrojë kufijtë praktikë të teknologjisë së sotme. Do të vazhdojmë të përmirësojmë zbulimin, të studiojmë qëndrueshmërinë e filigranëve ndaj redaktimit dhe përkthimit dhe të eksplorojmë mënyra për të dalluar më qartë ndihmën e IA-së nga autorësia e saj. Do ta përshtatim qasjen tonë teksa zhvillohen provat e disponueshme, standardet dhe kërkesat rregullatore, dhe do ta zgjerojmë qasjen në mjetin e zbulimit kur të besojmë se rezultatet mund të interpretohen me përgjegjësi.

Për më shumë informacion, vizito artikullin në qendrën tonë të ndihmës⁠(hapet në një dritare të re).