Cara kita ngetrapake aturan Uni Eropa bab asal-usul teks
Nyengkuyung transparansi sajrone watesan teknologi saiki.
Asal-usul konten mbantu wong ngerti saka ngendi asale konten, kepiye konten digawe utawa disunting, lan apa konten kasebut ngemot sinyal sing gegandhengan karo model kita. Kita wis nyedhiyakake piranti kanggo umum sing bisa ngenali gambar lan audio sing digawe dening model kita. Dina iki, kita nuduhake cara kita menehi tandha banyu ing teks kanggo nanggapi Undhang-Undhang AI Uni Eropa, lan kepiye cara iki dadi bagean saka upaya kita sing luwih jembar.
Undhang-Undhang AI Uni Eropa mbutuhake panyedhiya AI generatif supaya teks sing digawe bisa diidentifikasi kanthi cara sing bisa diwaca mesin. Teknologi tandha banyu lan deteksi teks isih ana ing tahap wiwitan lan nduweni watesan sing gedhe. Pandhangan bab paedah lan panganggone kanthi tanggung jawab uga isih ngrembaka. Cara kita sing ditindakake kanthi bertahap iki nggatekake syarat Undhang-Undhang AI Uni Eropa lan watesane teknologi, kanthi ngutamakake katrangan sing cetha bab informasi apa sing bisa lan ora bisa diwenehake dening tandha banyu teks:
Wiwit dina iki, pelanggan API ing saindenging donya bisa milih ngaktifake tandha banyu teks kanggo model tartamtu. Tandha banyu teks ing API tetep dipateni minangka setelan gawan.
Ing sawetara minggu ngarep, kita bakal nambahake tandha banyu sing ora katon ing asil teks ChatGPT lan Codex sing nyukupi syarat ing Uni Eropa.
Kita mbukak pendaftaran kanggo ngakses detektor tandha banyu teks kita. Ing tahap wiwitan, akses diwatesi kanggo panaliti lan organisasi ahli sing wis disetujoni, sing bisa mbantu kita ngevaluasi lan ningkatake teknologi iki.
Bab kasebut ing ndhuwur mung ditrapake kanggo asal-usul teks—piranti verifikasi audio lan gambar kita, kalebu piranti web openai.com/verify lan API Asal-Usul Konten(mbukak ing jendhela anyar), tetep bisa diakses umum dening organisasi sing kepengin ngerti apa sawijining gambar utawa file audio digawe dening salah siji sistem kita.
Teknologi tandha banyu teks kita, textGrain, nambahake sinyal statistik sing ora katon ing pilihan tembung model. Detektor kita nggoleki sinyal kasebut kanggo netepake apa sawijining pethikan ngemot tandha banyu OpenAI. Katrangan luwih rinci bab cara kerja textGrain bisa diwaca ing laporan teknis(mbukak ing jendhela anyar) kita, sing bakal dianyari kanthi rincian tambahan ing sawetara minggu ngarep. Kita uga ngrancang nyedhiyakake teknologi iki kanthi kode sumber terbuka supaya pihak liya bisa ngembangake saka teknologi iki.
Ing evaluasi kita, kinerja textGrain padha karo utawa ngluwihi cara liya sing kita uji, kalebu SynthID kanggo teks. Sanajan mangkono, kinerja sing apik ing kahanan ideal ora njamin deteksi sing bisa diandelake ing panganggone saben dina.
Detektor bisa nggawe rong jinis kesalahan: nglaporake anane tandha banyu sanajan sejatine ora ana—positif palsu—utawa ora ndeteksi tandha banyu sing sejatine ana—negatif palsu. Evaluasi kita ing ngisor iki nuduhake sawetara tantangan kasebut:
Teks sing luwih cekak utawa luwih winates pilihan tembunge luwih angel dideteksi. Kanthi target tingkat positif palsu 1%, detektor kita ngenali tandha banyu ing watara 80% pethikan 200 token, dibandhingake karo watara 95% pethikan 400 token, kanggo konten kayata psikologi. Tingkat deteksi luwih asor banget kanggo konten kayata matematika, sing pilihan tembunge luwih winates.
Panyuntingan bisa nglemahake tandha banyu. Ing evaluasi pethikan 400 token, ngganti 10% tembung nganggo sinonim ngedhunake tingkat deteksi saka watara 92% dadi 66%. Ngganti 25% tembung ngedhunake tingkat kasebut dadi 17%.
Watesan iki dadi salah siji dhasar keputusan kita kanggo menehi akses detektor ing tahap wiwitan mung marang panaliti lan organisasi ahli sing wis disetujoni, sing bisa mbantu kita ngevaluasi kapercayan asil lan panganggone kanthi tanggung jawab.
Grafik iki nuduhake asil kanggo wangsulan kanthi tandha banyu tumrap pitakonan matematika lan psikologi saka kumpulan data ELI5(mbukak ing jendhela anyar) kanthi target tingkat positif palsu 1%. Deteksi saya apik nalika teks saya dawa, nanging sacara sakabehe luwih asor banget kanggo konten sing pilihan tembunge luwih winates, kayata matematika.
Panyuntingan bisa nglemahake sinyal tandha banyu kanthi gedhe. Grafik iki nuduhake pangaribawane ngganti 10% utawa 25% tembung ing sawijining pethikan marang deteksi. Asil iki adhedhasar wangsulan basa Inggris kanthi tandha banyu tumrap pitakonan saka ELI5(mbukak ing jendhela anyar).
Ing kabeh tolok ukur sing kita gunakake kanggo ngevaluasi Astra, model tercanggih kita sing paling anyar, kita ora nemokake prabédan kinerja sing ateges antarane panganggone nganggo lan tanpa tandha banyu.
Tolok ukur | Teks tanpa tandha banyu (Astra, Dipikir Maksimal) | Teks kanthi tandha banyu (Astra, Dipikir Maksimal) |
|---|---|---|
Artificial Analysis Intelligence Index | 49,57 poin | 49,76 poin |
AutomationBench | 34,09% | 34,86% |
DeepSWE v1.1 | 72,80% | 71,68% |
Terminal-Bench 4.0 | 53,90% | 56,06% |
Terminal-Bench Science 0.1 | 56,90% | 60,00% |
BrowseComp | 87,92% | 87,35% |
HealthBench Professional | 64,27% | 64,60% |
GPQA Diamond | 94,44% | 93,94% |
Tandha banyu teks menehi sinyal winates bab peran sistem kita ing sawijining pethikan. Penting kanggo mangerteni bab apa sing bisa lan ora bisa didudut saka asil deteksi.
Tandha banyu ora ngukur sumbangsih manungsa. Tandha iki bisa nuduhake yen sistem OpenAI nggawe utawa ngolah sapérangan pethikan, nanging ora nuduhake sepira gedhene tetimbangan, panyuntingan, utawa kreativitas manungsa ing pethikan kasebut.
Tandha banyu ora netepake kepemilikan utawa tanggung jawab. Tandha iki ora nemtokake sapa sing nduweni teks, apa panganggone sah miturut hukum, apa ana kewajiban menehi katrangan marang umum, utawa sapa sing tanggung jawab.
Tandha banyu ora ngenali pangguna. Tandha iki ora nggandhengake wong, organisasi, akun, prompt, utawa pacelathon karo teks kasebut.
Tandha banyu ora verifikasi akurasi. Tandha iki ora nuduhake apa sawijining pethikan bener, nyasarke, mbebayani, utawa diwenehake ing konteks sing trep.
Ora anane tandha banyu sing dideteksi ora mbuktekake yen teks ditulis manungsa. Teks sing digawe nganggo piranti OpenAI bisa uga cekak banget, wis disunting, utawa diterjemahake, saengga deteksi ora bisa diandelake. Teks kasebut uga bisa asale saka model sing ora didhukung, digawe sadurunge tandha banyu ditrapake, utawa digawe nganggo piranti saka perusahaan liya.
Ngetrapake tandha banyu teks ing Uni Eropa. Ing sawetara minggu ngarep, kita bakal ngenalake tandha banyu teks kanggo pangguna ChatGPT lan Codex sing nyukupi syarat ing kabeh paket, mung ing Uni Eropa. Nalika diluncurake, kita ora ndadekake tandha banyu teks minangka setelan gawan ing saindenging donya. Cara sing diwatesi miturut wilayah iki menehi kita kalodhangan kanggo sinau saka panganggone nyata lan tanggapan pangguna.
Menehi pilihan ngaktifake tandha banyu kanggo pelanggan API. Wiwit dina iki, pelanggan API ing saindenging donya bisa milih asil teks kanthi tandha banyu kanggo model tartamtu. Kanthi iki, pelanggan bisa nemtokake panganggone tandha banyu sing cocog karo kewajiban transparansi lan pengalaman sing diwenehake marang pangguna. Kita uga kerja bareng karo mitra cloud supaya tandha banyu kasedhiya kanggo asil model OpenAI sing diakses liwat layanane ing sawetara minggu ngarep.
Nyedhiyakake akses detektor kanggo panaliti lan organisasi ahli. Panaliti lan organisasi ahli sing wis disetujoni bisa ndhaptar wiwit dina iki. Manut Pedoman Praktik(mbukak ing jendhela anyar), ing tahap wiwitan akses bakal diwenehake kanthi nimbang saben kasus kanggo nyengkuyung evaluasi lan pangapikan teknologi asal-usul teks. Piranti iki bakal nglaporake apa tandha banyu OpenAI dideteksi, tanpa ngenali pangguna utawa mbukak prompt utawa pacelathone. Amarga ana risiko tandha banyu ora kadeteksi lan asil positif palsu, kita ora nyedhiyakake piranti iki kanggo umum nalika diluncurake.
Kita ngarepake bakal nliti maneh saben bagean saka cara iki salaras karo pangrembakane teknologi, standar, lan bukti.
Ora ana siji teknik asal-usul konten sing cukup yen digunakake dhewe, mula kita nggunakake cara kanthi pirang-pirang lapisan sing nggabungake standar terbuka, tandha banyu sing tahan owah-owahan, lan piranti verifikasi.
Kita nambahake Kredensial Konten ing asil gambar sing didhukung, nyukupi standar C2PA(mbukak ing jendhela anyar), nyisipake tandha banyu SynthID(mbukak ing jendhela anyar) sing ora katon ing gambar lan audio sing didhukung, lan nyedhiyakake verifikasi gambar lan audio liwat openai.com/verify lan API Asal-Usul Konten(mbukak ing jendhela anyar) kita. Teknik-teknik iki padha nglengkapi: Kredensial Konten bisa nyathet asal-usul lan riwayat file, dene tandha banyu sing ora katon bisa njaga sinyal nalika metadata dibusak.
Kaya sing kita jlentrehake ing upaya pengamanan pemilu kita, asal-usul konten bisa mbantu wong lan platform ngevaluasi konten gaweyane AI sing bisa nyasarke, kalebu deepfake. Kita nggabungake sinyal kasebut karo kabijakan, deteksi penyalahgunaan, pelaporan, penyelidikan, lan penegakan aturan, uga kerja bareng karo panaliti, lembaga standar, platform, lan masyarakat sipil supaya asal-usul konten migunani ing ekosistem sing luwih jembar.
Panganggone teknologi asal-usul konten kanggo teks kudu nggatekake gampange teks ditulis maneh, diterjemahake, utawa disunting. Kaya sing kita rembug ing Juni, cara kita kudu nggatekake watesan praktis teknologi saiki. Kita bakal terus ningkatake deteksi, nyinaoni sepira tandha banyu bisa tahan panyuntingan lan terjemahan, sarta njajagi cara kanggo mbedakake tulisan sing dibantu AI lan tulisan gaweyane AI kanthi luwih ateges. Kita bakal nyelarasake cara kita karo pangrembakane bukti, standar, lan syarat peraturan, sarta nggedhekake akses detektor nalika kita yakin asile bisa ditegesi kanthi tanggung jawab.
Kanggo informasi luwih lengkap, waca artikel pusat pitulungan(mbukak ing jendhela anyar) kita.
