A Primer on the EU AI Act

Kemas kini bertarikh 11 Julai 2025: Susulan penerbitan teks akhir Tataamalan bagi AI untuk Tujuan Umum, kami berkongsi gambaran keseluruhan tentang pendekatan kami terhadap kebolehkuatkuasaan peruntukan yang terpakai kepada Model AI untuk Tujuan Umum pada 2 Ogos 2025. 

Pada tahun lepas, kami menerbitkan panduan asas ini tentang Akta AI EU bagi menggariskan cerapan awal tentang cara kami bersiap sedia untuk pelaksanaan keperluan undang-undang baharu ini. 

Sejak itu, kami telah terlibat secara aktif dalam pelaksanaan teks tersebut dengan mengambil bahagian dalam penerangan Tataamalan bagi AI untuk Tujuan Umum, iaitu rangka kerja untuk penyedia AI mematuhi Akta AI EU. Selepas usaha kolektif bersama pakar, masyarakat sivil dan industri selama berbulan-bulan, Kod muktamad telah diterbitkan. Hari ini, kami mengumumkan keputusan kami untuk menandatangani Tataamalan dan menggunakannya untuk menunjukkan pematuhan terhadap kewajipan berkaitan kami di bawah Akta AI EU.  

Dengan menandatangani Tataamalan ini, kami mengambil langkah spesifik dalam pelan pematuhan kami yang lebih luas terhadap Akta AI EU. Ia menggambarkan komitmen kami untuk memastikan kesinambungan, kebolehpercayaan dan kepercayaan apabila peraturan berkuat kuasa, sambil terus bekerjasama dengan perniagaan dan rakyat Eropah, menyediakan mereka dengan model AI yang semakin berkeupayaan, selamat dan terjamin untuk meraih manfaat revolusi AI.

Penandatanganan Kod ini mengukuhkan banyak langkah keselamatan dan ketelusan terkemuka dalam industri yang telah kami pelopori sejak beberapa tahun kebelakangan ini. Kami merupakan salah satu syarikat pertama yang menerbitkan protokol keselamatan dan perlindungan yang komprehensif, Rangka Kerja Kesediaan (2023) kami, yang menggariskan pendekatan kami terhadap penggunaan model AI perbatasan dengan selamat. 

Selaras dengan komitmen kami untuk terus menyemak dan menambah baik rangka kerja akauntabiliti dan tadbir urus dalaman, kami menerbitkan⁠ Rangka Kerja Kesediaan yang dikemas kini pada April 2025.

Sambil kami terus membangun dan melaksanakan teknologi yang semakin berkeupayaan, kami secara aktif memantau dan mengurangkan pelbagai risiko baharu serta kebimbangan keselamatan dalam dunia sebenar bagi memastikan model kami kekal boleh dipercayai dan selamat. Dan kami sentiasa memperhalusi dan menambah baik proses-proses ini. 

• Sejak sekian lama, kami telah menerbitkan Kad Sistem dan dokumentasi teknikal yang terperinci bersama keluaran utama kami, yang menggariskan perkara yang boleh dan tidak boleh dilakukan oleh model kami, risiko yang telah kami uji, serta perkara yang masih kami pelajari. 
• Hab Keselamatan menyediakan akses umum kepada hasil penilaian keselamatan untuk model kami.
• Rangkaian Proses Penyerang kami membawa masuk pakar luaran untuk menguji ketahanan model kami
• Spesifikasi Model memberikan gambaran tentang cara kami membentuk tingkah laku model agar mencerminkan nilai kemanusiaan dan norma demokrasi.

Bersama-sama, usaha ini telah memainkan peranan yang penting dalam menetapkan piawaian perlindungan dan keselamatan dalam industri serta memberikan panduan kepada pembangunan Tataamalan yang boleh dilaksanakan berdasarkan amalan terbaik industri. Pembangunan AI yang selamat dan bertanggungjawab tidak pernah selesai. Kami akan terus menambah baik pendekatan kami terhadap keselamatan secara berperingkat untuk membantu memastikan teknologi kami digunakan secara bertanggungjawab demi manfaat semua orang, di mana sahaja mereka berada di dunia ini.

Kami akan bekerjasama rapat dengan Pejabat AI EU, pihak berkuasa berkaitan dan pelanggan kami apabila Akta AI dilaksanakan dalam beberapa bulan dan tahun akan datang, supaya kita dapat bersama-sama memastikan manfaat AI sampai kepada masyarakat dan ekonomi Eropah. 

Kemas kini: Pada 25 September 2024, kami telah menandatangani tiga komitmen teras dalam Pakatan AI EU.

1. Menerima pakai strategi tadbir urus AI untuk menggalakkan penerimagunaan AI dalam organisasi dan berusaha ke arah pematuhan masa hadapan terhadap Akta AI;
2. melaksanakan, setakat yang boleh, pemetaan sistem AI yang disediakan atau digunakan dalam bidang yang akan dianggap berisiko tinggi di bawah Akta AI;
3. menggalakkan kesedaran dan literasi AI dalam kalangan kakitangan mereka dan orang lain yang berurusan dengan sistem AI bagi pihak mereka, dengan mengambil kira pengetahuan teknikal, pengalaman, pendidikan dan latihan mereka serta konteks di mana sistem AI tersebut akan digunakan, dan mempertimbangkan individu atau kumpulan individu yang terjejas akibat penggunaan sistem AI tersebut.

Kami percaya bahawa fokus teras Pakatan AI terhadap literasi, penerimagunaan dan tadbir urus AI menyasarkan keutamaan yang tepat bagi memastikan manfaat AI tersebar secara meluas. Selain itu, ia selaras dengan misi kami untuk menyediakan teknologi yang selamat dan termaju yang memberi manfaat kepada semua orang.

Akta AI EU⁠(dibuka dalam tetingkap baru) adalah rangka kerja pengawalseliaan penting yang direka untuk mengurus pembangunan, pelaksanaan, dan penggunaan AI di seluruh Eropah. Ia memberikan tumpuan yang besar terhadap keselamatan untuk menggalakkan penerimagunaan AI yang boleh dipercayai di Eropah sambil melindungi kesihatan, keselamatan, dan hak asasi. Ia memperkenalkan keperluan baharu berdasarkan risiko yang dikaitkan dengan sistem AI, dengan tumpuan khusus pada kes penggunaan berisiko tinggi dan yang tidak boleh diterima, serta kewajipan khusus bagi sistem dan model AI untuk tujuan umum (GPAI). 

Walaupun proses perundangan telah selesai dan undang-undang tersebut akan mula berkuat kuasa pada Ogos 2024, panduan lanjut dan pelaksanaan perundangan masih diperlukan untuk mentakrifkan skop undang-undang tersebut, terutamanya yang berkaitan dengan model GPAI seperti milik OpenAI. 

Di OpenAI, kami komited untuk mematuhi Akta tersebut, bukan sahaja kerana ini merupakan kewajipan undang-undang, tetapi juga kerana matlamat undang-undang itu selaras dengan misi kami untuk membangunkan dan melaksanakan AI yang selamat demi manfaat seluruh manusia. Kami berbangga melancarkan model yang menerajui industri dari segi keupayaan dan keselamatan. Kami percaya akan pendekatan yang seimbang dan saintifik, di mana langkah-langkah keselamatan⁠ diintegrasikan ke dalam proses pembangunan sejak awal lagi. Pasukan kami meliputi spektrum luas usaha teknikal yang menangani cabaran keselamatan AI, antara lainnya termasuk penilaian model di bawah Rangka Kerja Kesediaan⁠ kami sebelum pelaksanaannya, proses penyerang⁠ dalaman dan luaran, pemantauan⁠ selepas pelaksanaan bagi mengesan penyalahgunaan, Program Ganjaran Pepijat⁠ dan Geran Keselamatan Siber⁠, serta sumbangan kepada piawaian ketulenan⁠. 

Kami akan bekerjasama rapat dengan Pejabat AI EU dan pihak berkuasa berkaitan yang lain apabila undang-undang baharu ini dilaksanakan dalam beberapa bulan akan datang, dan kami berharap kepakaran yang telah kami bina akan membantu memajukan objektif Akta ini dalam melaksanakan AI yang selamat dan bermanfaat.  

Dalam siaran ini, kami menyediakan gambaran keseluruhan tentang beberapa topik utama dalam Akta AI, dengan tumpuan khusus pada kes penggunaan yang dilarang dan berisiko tinggi.

Akta AI akan berkuat kuasa pada 1 Ogos 2024, 20 hari selepas diterbitkan dalam Jurnal Rasmi EU. Walaupun kebanyakan daripada peruntukan Akta ini tidak akan berkuat kuasa sehingga 24 bulan selepas Akta ini mula berkuat kuasa, terdapat beberapa tarikh akhir penting yang perlu diberi perhatian: 

• Sekatan terhadap amalan yang dilarang akan berkuat kuasa 6 bulan selepas tarikh kuat kuasa (Februari 2025) 
• Tataamalan, yang akan meliputi banyak butiran pelaksanaan yang diperlukan bagi mematuhi Akta tersebut, akan perlu dimuktamadkan dalam tempoh 9 bulan selepas berkuat kuasa (Mei 2025) 
• Kebanyakan kewajipan AI tujuan umum akan mula terpakai 12 bulan selepas mula berkuat kuasa (Ogos 2025). 
• Kewajipan bagi kebanyakan sistem AI berisiko tinggi terpakai 24 bulan selepas mula berkuat kuasa (Ogos 2026). 

Sistem GPAI sedia ada yang belum tertakluk kepada pengubahsuaian ketara, dan sistem AI tertentu yang merupakan komponen sistem IT berskala besar yang dikenal pasti dalam Lampiran X Akta AI, akan mempunyai tarikh akhir pelaksanaan yang lebih lama iaitu 36 bulan (Ogos 2027).

Akta AI pada dasarnya terpakai kepada “sistem AI,” yang ditakrifkan oleh Akta tersebut sebagai “sistem berasaskan‑mesin yang direka bentuk untuk beroperasi dengan tahap autonomi yang berbeza-beza, yang mungkin menunjukkan keupayaan menyesuaikan diri selepas pelaksanaan dan yang, bagi objektif yang tersurat atau tersirat, menilai, daripada input yang diterimanya, tentang cara menjana output seperti ramalan, kandungan, cadangan, atau keputusan yang boleh mempengaruhi persekitaran fizikal atau maya.”  Definisi ini secara umumnya selaras dengan definisi OECD bagi “sistem AI” yang dikeluarkan pada tahun 2023 dan definisi yang digunakan dalam Perintah Eksekutif 14110 Pentadbiran Biden mengenai Pembangunan dan Penggunaan Kecerdasan Buatan yang Selamat, Terjamin dan Boleh Dipercayai.  

Yang penting, Akta AI membezakan antara penyedia dengan pelaksana sistem AI. Penyedia ialah entiti, seperti OpenAI, yang membangunkan sistem AI atau model AI untuk tujuan umum. Ia juga meliputi entiti yang yang membangun dan melancarkan sistem AI atau model AI untuk tujuan umum ke pasaran atau yang menjadikan sistem AI itu beroperasi di bawah nama atau tanda dagangannya sendiri, sama ada dengan bayaran atau secara percuma. 

Pelaksana ialah pelanggan atau rakan kongsi yang menggunakan sistem atau model ini dalam aplikasi mereka sendiri, seperti mengintegrasikan GPT‑4o ke dalam kes penggunaan tertentu. Walaupun sebahagian besar daripada kewajipan di bawah Akta AI terletak pada penyedia berbanding pelaksana, penting untuk diperhatikan bahawa pelaksana yang mengintegrasikan model AI ke dalam sistem AI mereka sendiri boleh menjadi penyedia di bawah Akta tersebut, contohnya dengan menggunakan tanda dagangan mereka sendiri pada sistem AI atau mengubah suai sistem AI dengan cara yang tidak dimaksudkan oleh penyedia.

Organisasi di luar EU masih perlu mematuhi Akta AI di bawah pelbagai syarat dengan jangkauan yang agak luas.  Sebagai contoh, Akta ini terpakai jika: 

• Penyedia melancarkan sistem AI atau model GPAI ke pasaran EU, tanpa mengira sama ada syarikat itu ditubuhkan di EU atau negara lain; 
• Tempat penubuhan atau lokasi pelaksana sistem AI berada di dalam EU; 
• Penubuhan atau lokasi penyedia dan pelaksana sistem AI berada di dalam negara ketiga, tetapi output yang dihasilkan oleh sistem AI digunakan di dalam EU.

Jangkauan luar wilayah Akta AI yang meluas bermakna syarikat bukan Eropah akan perlu mematuhi Akta tersebut untuk menyediakan perkhidmatan kepada pelanggan EU, tanpa mengira sama ada mereka berpangkalan di dalam EU.

Akta AI dibina berasaskan rangka kerja berdasarkan risiko, dengan keperluan khusus untuk sistem AI berisiko tinggi dan risiko tidak boleh diterima. Akta tersebut menghendaki syarikat untuk mengklasifikasikan tahap risiko sistem AI mereka bagi menentukan kewajipan pengawalseliaan yang sepadan, dan menetapkan pelbagai kategori atau peringkat sistem AI yang masing-masing membawa kewajipan yang berbeza.

Amalan AI tertentu yang dianggap menimbulkan risiko yang tidak boleh diterima terhadap hak individu adalah dilarang sama sekali. Amalan ini termasuk:   

• Melaksanakan teknik terselindung, manipulatif, atau memperdaya untuk memutarbelitkan tingkah laku dan menjejaskan pembuatan keputusan termaklum, sehingga menyebabkan kemudaratan yang ketara. 
• Mengeksploitasi kerentanan yang berkaitan dengan umur, ketidakupayaan, atau keadaan sosioekonomi untuk memutarbelitkan tingkah laku, sehingga menyebabkan kemudaratan yang ketara. 
• Sistem pengkategorian biometrik yang menilai atribut sensitif seperti kaum, pandangan politik, keahlian kesatuan sekerja, kepercayaan agama atau falsafah, kehidupan seks, atau orientasi seksual (dengan pengecualian terhad terhadap pelabelan atau penapisan set data yang diperoleh secara sah dan untuk kegunaan penguatkuasaan undang-undang) 
• Sistem penskoran sosial, seperti sistem yang menilai atau mengklasifikasikan individu atau kumpulan berdasarkan tingkah laku sosial atau sifat peribadi, sehingga menyebabkan kemudaratan kepada mereka. 
• Menilai risiko seseorang individu melakukan kesalahan jenayah berdasarkan pemprofilan atau sifat keperibadian semata-mata (dengan pengecualian terhad) 
• Menghimpunkan pangkalan data pengecaman wajah melalui pengikisan tanpa sasaran imej wajah daripada internet atau rakaman CCTV
• Menilai emosi di tempat kerja atau institusi pendidikan 
• Pengenalpastian biometrik jarak jauh masa nyata di tempat awam untuk penguatkuasaan undang-undang (dengan pengecualian tertentu).

Akta tersebut mengenakan kewajipan yang ketat terhadap sistem yang ditentukannya sebagai menimbulkan ancaman besar terhadap kesihatan, keselamatan, atau hak asasi individu, yang dikategorikan sebagai AI Berisiko Tinggi (HRAI). Ini antara lainnya termasuk: a) sistem yang merupakan komponen keselamatan bagi produk yang tertakluk kepada undang-undang EU yang lain, dan b) kes penggunaan khusus, seperti sistem yang bertujuan untuk menentukan akses atau kemasukan ke institusi pendidikan, untuk merekrut, memilih pekerja atau memantau prestasi pekerja, untuk menentukan kelayakan bagi bantuan awam, menentukan kelayakan kredit, menilai kelayakan dan penetapan harga bagi insurans kesihatan.  

Sistem HRAI mesti mematuhi kewajipan pengawalseliaan yang ketat, seperti mewujudkan sistem pengurusan risiko bagi menilai risiko dan strategi mitigasi secara berterusan sepanjang kitaran hayat sistem HRAI, langkah tadbir urus data yang komprehensif untuk menguji dan menilai risiko berat sebelah, menyediakan dokumentasi teknikal yang terperinci sebelum sistem dilancarkan ke pasaran, serta kewajipan pemantauan yang berterusan. 

Sistem AI lain yang tidak menimbulkan risiko tinggi atau yang tidak boleh diterima hanya tertakluk kepada keperluan yang terhad, seperti kewajipan ketelusan. Sebagai contoh, Akta tersebut menyatakan bahawa individu harus dimaklumkan apabila mereka sedang berinteraksi dengan sistem AI seperti bot sembang, dan bahawa kandungan imej, audio atau video yang dimanipulasi secara buatan perlu dilabelkan dengan jelas. Kebanyakan sistem AI di pasaran berkemungkinan termasuk dalam kategori ini.

Keperluan khas terpakai kepada penyedia model dan sistem AI untuk tujuan umum, seperti OpenAI, yang akan diwajibkan untuk: 

• Membangunkan dokumentasi teknikal terperinci tentang model tersebut dan menyerahkannya kepada Pejabat AI apabila diminta
• Mencipta dokumentasi untuk pelaksana yang menggunakan model GPAI untuk membangunkan sistem AI mereka sendiri
• Melaksanakan dasar yang bertujuan untuk mematuhi undang-undang hak cipta EU
• Sediakan ringkasan kandungan yang digunakan untuk melatih model GPAI 

Di samping itu, penyedia model GPAI dengan keupayaan berimpak tinggi yang dianggap menimbulkan “risiko sistemik” (cth., model yang dilatih menggunakan sejumlah besar kuasa pengkomputeran, yang ditakrifkan secara teknikal sebagai 10^25 FLOP), akan diwajibkan untuk: 

• Melakukan penilaian model bagi mengenal pasti dan mengurangkan risiko sistemik, serta menilai dan mengurangkan risiko yang timbul secara berterusan
• Memaklumkan kepada Suruhanjaya EU tentang model yang memenuhi kriteria kategori ini
• Memantau dan melaporkan insiden serius 
• Melaksanakan langkah-langkah keselamatan siber yang bersesuaian untuk model dan infrastruktur fizikalnya

Penyedia model GPAI akan dapat bergantung pada tataamalan untuk menunjukkan pematuhan terhadap keperluan Akta AI. Tataamalan ini berkemungkinan akan meletakkan asas bagi butiran khusus untuk melaksanakan kewajipan ini, dan kami berharap dapat bekerjasama dengan Pejabat AI EU apabila kod tersebut dibangunkan dalam tempoh 9 bulan akan datang. 

OpenAI komited untuk mematuhi Akta AI EU dan kami akan bekerjasama rapat dengan Pejabat AI EU yang baharu apabila undang-undang tersebut dilaksanakan. Dalam beberapa bulan akan datang, kami akan terus menyediakan dokumentasi teknikal dan panduan lain untuk penyedia hiliran dan pelaksana model GPAI kami, sambil memperkukuh perlindungan dan keselamatan model yang kami sediakan di pasaran Eropah dan pasaran lain.   

Jika organisasi anda cuba menentukan cara untuk mematuhi Akta AI, anda harus terlebih dahulu cuba mengklasifikasikan mana-mana sistem AI yang terlibat. Kenal pasti GPAI dan sistem AI lain yang anda gunakan, tentukan cara sistem tersebut diklasifikasikan, dan pertimbangkan kewajipan yang muncul daripada kes penggunaan anda. Anda juga perlu menentukan sama ada anda merupakan penyedia atau pelaksana berhubung dengan mana-mana sistem AI yang terlibat. Isu-isu ini boleh menjadi rumit, jadi anda harus berunding dengan penasihat undang-undang jika anda mempunyai soalan.