Menyokong usaha Eropah memastikan ekosistem AI yang dipercayai

Orang ramai menggunakan AI untuk mencipta dan menyunting kandungan dengan cara baharu. Apabila alat ini menjadi lebih berupaya dan digunakan dengan lebih meluas, orang ramai harus mempunyai konteks tentang kandungan yang mereka lihat dalam talian.

Hari ini, susulan penerbitan Tataamalan Suruhanjaya Eropah tentang Ketelusan kandungan yang dijana oleh AI, OpenAI mengumumkan sokongannya terhadap Tataamalan tersebut dan cita-cita di sebaliknya. Tataamalan ini merupakan langkah penting dalam melaksanakan Akta AI EU dan membina ekosistem digital yang lebih telus.

Sokongan itu dibina atas penyelidikan dalaman, pembangunan produk dan kerjasama selama bertahun-tahun dengan ekosistem yang lebih luas untuk mengukuhkan asal-usul kandungan yang dijana oleh AI. OpenAI telah membangunkan dan mengguna pakai piawaian asal-usul sejak 2024, apabila kami mula menambahkan metadata C2PA pada alat penjanaan imej DALL-E 3 kami. Sejak itu, kami terus mengukuhkan asal-usul melalui kaedah penandaan dan pengesanan yang dipertingkat, penyelidikan baharu, serta pelancaran alat pengesahan awam pertama kami. Berdasarkan kepakaran selama bertahun-tahun, kami menyumbang kepada pembangunan Tataamalan ini bersama ratusan pihak berkepentingan lain untuk bantu memastikan ekosistem AI yang boleh dipercayai.  

Ini dibina atas pendekatan kami yang lebih luas terhadap tadbir urus AI di Eropah. Pada 2025, OpenAI menjadi syarikat AS pertama yang menandatangani Tataamalan AI Tujuan Umum EU, mencerminkan kepercayaan kami bahawa peraturan yang jelas dan boleh dilaksanakan dapat membantu AI berkembang secara bertanggungjawab sambil memberikan syarikat kepastian untuk terus membina. Kami menyokong Tataamalan baharu ini dengan semangat yang sama. Memajukan Ketelusan kandungan yang dijana oleh AI ialah usaha seluruh ekosistem, yang memerlukan sumbangan daripada pelaku di sepanjang rantaian nilai. Akta AI EU dan Tataamalan ini mengiktiraf perkara tersebut, dan kami komited untuk memainkan peranan kami dengan mematuhi keperluan yang terpakai kepada produk kami yang relevan.  

Apabila alat AI menjadi sebahagian daripada cara orang membina, membayangkan dan berkongsi, penting untuk orang memahami dari mana kandungan berasal dan mentafsirkannya dengan yakin. Isyarat asal-usul boleh membantu dengan memberi orang konteks tentang sumber kandungan, cara ia dicipta atau disunting, dan sama ada ia benar seperti yang didakwa. Asal-usul juga boleh bantu melindungi ekosistem digital dengan memudahkan pengesanan kempen maklumat palsu dan menyokong integriti pilihan raya.  

Kaedah asal-usul yang berkesan, boleh dipercayai dan kukuh harus dibina secara kolektif serta berfungsi merentas ekosistem. Itulah sebabnya kami bekerjasama dengan gabungan seperti C2PA, yang menghimpunkan organisasi berita, pengeluar peranti, platform dalam talian dan penyedia AI untuk memajukan piawaian yang saling kendali. Metadata C2PA ialah asas penting bagi asal-usul. Ia membantu kandungan membawa maklumat tentang dari mana ia berasal, cara ia dicipta atau disunting, dan siapa yang menandatangani maklumat itu. Namun metadata bukanlah kalis segala-galanya. Ia boleh dibuang, hilang melalui muat naik dan muat turun, atau rosak akibat transformasi seperti perubahan format fail, pengubahan saiz atau tangkapan skrin. Untuk menjadikan asal-usul lebih berdaya tahan, kami menggunakan pendekatan berbilang lapisan yang menggabungkan pelbagai isyarat dan perlindungan produk merentas alat kami. 

Dalam beberapa tahun kebelakangan ini, kami telah membina model berbilang lapisan yang dipacu ekosistem untuk membina kepercayaan dalam talian melalui pendekatan kami terhadap asal-usul kandungan. Kerja semasa kami termasuk:

• C2PA Content Credentials⁠(dibuka dalam tetingkap baru) untuk imej: Kami mula menambahkan metadata C2PA pada imej yang dicipta dan disunting oleh DALL·E 3 dalam ChatGPT dan OpenAI API, dan terus memperluas isyarat asal-usul merentas imej yang dijana oleh OpenAI.
• Pelbagai isyarat untuk imej yang dijana oleh OpenAI: Imej yang dijana dengan ChatGPT, Codex dan OpenAI API termasuk metadata C2PA serta tera air SynthID. Metadata boleh membawa maklumat yang lebih kaya, manakala tera air boleh bantu mengekalkan isyarat merentas konteks.
• Pengalaman pengesahan awam: openai.com/verify membolehkan orang menyemak sama ada imej yang disokong mengandungi isyarat asal-usul yang dikaitkan dengan imej yang dijana oleh OpenAI.
• Sumbangan kepada piawaian terbuka. Pada 2024, OpenAI menyertai Jawatankuasa Pemandu C2PA, satu usaha rentas industri yang melibatkan syarikat perisian, pengeluar kamera, organisasi media dan platform dalam talian.
• Perlindungan produk: Asal-usul melengkapi dasar, pengelas, saluran pelaporan dan proses penguatkuasaan yang mengurangkan penggunaan menipu kandungan yang dijana oleh AI, termasuk penyalahgunaan rupa dan penipuan berkaitan pilihan raya.

Walaupun asal-usul berguna, bidang ini masih baharu. Isyarat boleh hilang apabila kandungan bergerak dalam talian: metadata boleh dialih keluar, tera air boleh merosot, dan label hanya membantu di tempat orang menemui kandungan. Memajukan kebolehpercayaan, kekukuhan dan kesalingkendalian teknik asal-usul masih memerlukan kerja serta kerjasama yang besar dalam ekosistem.

Tataamalan menetapkan hala tuju yang betul: tahap cita-cita yang tinggi untuk memajukan teknik asal-usul. Semasa dilaksanakan, ia harus kekal berasaskan kaedah yang berfungsi dalam amalan dan cukup fleksibel untuk mencerminkan batasan teknik semasa.

OpenAI akan terus mengukuhkan ketelusan kandungan merentas produk kami, menyumbang kepada pembangunan piawaian yang saling kendali, dan menambah baik alat pengesahan. Kami berharap dapat bekerjasama dengan Pejabat AI, Negara Anggota dan komuniti AI yang lebih luas untuk membina ekosistem AI yang lebih selamat dan lebih telus.