A Primer on the EU AI Act

Ažuriranje od 11. srpnja 2025.: Nakon objave konačnog teksta Kodeksa prakse za umjetnu inteligenciju opće namjene donosimo pregled svojeg pristupa stupanju na snagu odredbi koje se 2. kolovoza 2025. počinju primjenjivati na modele umjetne inteligencije opće namjene. 

Prošle smo godine objavili ovaj uvod u Akt EU-a o umjetnoj inteligenciji kako bismo pružili prve uvide u svoje pripreme za provedbu tih novih zakonskih zahtjeva. 

Otad aktivno sudjelujemo u provedbi teksta, među ostalim u izradi Kodeksa prakse za umjetnu inteligenciju opće namjene, okvira koji pružateljima umjetne inteligencije omogućuje usklađivanje s Aktom EU-a o umjetnoj inteligenciji. Nakon višemjesečnih zajedničkih napora sa stručnjacima, civilnim društvom i industrijom objavljen je konačni Kodeks. Danas objavljujemo odluku da ćemo potpisati Kodeks prakse i njime dokazati usklađenost sa svojim relevantnim obvezama iz Akta EU-a o umjetnoj inteligenciji.  

Potpisivanjem Kodeksa poduzimamo konkretan korak u širem planu usklađivanja s Aktom EU-a o umjetnoj inteligenciji. Time potvrđujemo svoju predanost osiguravanju kontinuiteta, pouzdanosti i povjerenja pri stupanju propisa na snagu, dok nastavljamo surađivati s europskim poduzećima i građanima te im pružati sve sposobnije, sigurnije i zaštićenije modele umjetne inteligencije kako bi iskoristili prednosti revolucije umjetne inteligencije.

Potpisivanje Kodeksa dodatno učvršćuje brojne vodeće mjere sigurnosti i transparentnosti koje smo tijekom proteklih godina prvi uveli u industriji. Bili smo među prvim tvrtkama koje su objavile sveobuhvatan protokol zaštite i sigurnosti — naš Okvir pripravnosti (2023.), koji opisuje naš pristup sigurnom uvođenju graničnih modela umjetne inteligencije. 

U skladu sa svojom predanošću stalnom preispitivanju i poboljšavanju internih okvira odgovornosti i upravljanja, u travnju 2025. objavili smo⁠ ažurirani Okvir pripravnosti. 

Dok nastavljamo razvijati i uvoditi sve sposobniju tehnologiju, aktivno pratimo i ublažavamo širok raspon novih rizika i stvarnih sigurnosnih pitanja kako bi naši modeli ostali pouzdani i zaštićeni. Te procese neprestano dorađujemo i poboljšavamo. 

• Uz svoja velika izdanja već dugo objavljujemo detaljne kartice sustava i tehničku dokumentaciju u kojima navodimo što naši modeli mogu, a što ne mogu učiniti, koje smo rizike ispitali i o čemu još učimo. 
• Centar za sigurnost pruža javni pristup rezultatima sigurnosnih evaluacija naših modela.
• Naša Mreža za red-team testiranje okuplja vanjske stručnjake kako bi naše modele podvrgnuli testiranju pod opterećenjem
• Specifikacija modela pruža uvid u to kako oblikujemo ponašanje modela da bi odražavalo ljudske vrijednosti i demokratske norme.

Sav je taj rad bio ključan za postavljanje industrijskih standarda zaštite i sigurnosti te za izradu provedivog Kodeksa prakse utemeljenog na najboljim praksama industrije. Razvoj sigurne i odgovorne umjetne inteligencije nikad nije dovršen. Nastavit ćemo postupno poboljšavati svoj pristup sigurnosti kako bismo pomogli osigurati da se naša tehnologija odgovorno upotrebljava na dobrobit svih ljudi, ma gdje se nalazili.

Blisko ćemo surađivati s Uredom EU-a za umjetnu inteligenciju, nadležnim tijelima i svojim korisnicima tijekom provedbe Akta o umjetnoj inteligenciji u nadolazećim mjesecima i godinama kako bismo zajednički osigurali koristi umjetne inteligencije za europsko društvo i gospodarstvo. 

Ažuriranje: 25. rujna 2024. prihvatili smo tri temeljne obveze iz Pakta EU-a o umjetnoj inteligenciji.

1. Usvojiti strategiju upravljanja umjetnom inteligencijom radi poticanja njezina prihvaćanja u organizaciji i rada na budućoj usklađenosti s Aktom o umjetnoj inteligenciji;
2. u izvedivoj mjeri evidentirati sustave umjetne inteligencije koji se pružaju ili uvode u područjima koja bi se prema Aktu o umjetnoj inteligenciji smatrala visokorizičnima;
3. poticati osviještenost i pismenost u području umjetne inteligencije među svojim osobljem i drugim osobama koje u njihovo ime rade sa sustavima umjetne inteligencije, uzimajući u obzir njihovo tehničko znanje, iskustvo, obrazovanje i osposobljavanje, kontekst uporabe tih sustava te osobe ili skupine na koje njihova uporaba utječe.

Vjerujemo da temeljna usmjerenost Pakta o umjetnoj inteligenciji na pismenost, prihvaćanje i upravljanje u tom području obuhvaća prave prioritete kako bi se koristi umjetne inteligencije široko raspodijelile. Ti su prioriteti usto usklađeni s našom misijom pružanja sigurnih, vrhunskih tehnologija koje koriste svima.

Akt EU-a o umjetnoj inteligenciji⁠(otvara se u novom prozoru) važan je regulatorni okvir namijenjen upravljanju razvojem, uvođenjem i uporabom umjetne inteligencije diljem Europe. Snažno je usmjeren na sigurnost kako bi se u Europi poticalo prihvaćanje pouzdane umjetne inteligencije, uz zaštitu zdravlja, sigurnosti i temeljnih prava. Uvodi nove zahtjeve utemeljene na rizicima povezanima sa sustavima umjetne inteligencije, s posebnim naglaskom na visokorizične i neprihvatljive slučajeve uporabe te posebne obveze za modele i sustave umjetne inteligencije opće namjene (GPAI). 

Iako je zakonodavni postupak dovršen i zakon stupa na snagu u kolovozu 2024., za utvrđivanje njegova područja primjene bit će potrebne dodatne smjernice i provedbeni propisi, osobito u pogledu modela GPAI poput onih koje pruža OpenAI. 

OpenAI se obvezuje poštovati Akt, ne samo zato što je to zakonska obveza nego i zato što je cilj tog zakona usklađen s našom misijom razvoja i uvođenja sigurne umjetne inteligencije na dobrobit cijelog čovječanstva. Ponosni smo što objavljujemo modele koji predvode industriju i po sposobnostima i po sigurnosti. Vjerujemo u uravnotežen, znanstveni pristup u kojem su sigurnosne mjere⁠ od samog početka ugrađene u razvojni proces. Naši timovi provode širok raspon tehničkih aktivnosti za rješavanje sigurnosnih izazova umjetne inteligencije, među kojima su evaluacije modela prema našem Okviru pripravnosti⁠ prije njihova uvođenja, interno i vanjsko red-team testiranje⁠, praćenje⁠ zlouporabe nakon uvođenja, programi nagrađivanja za otkrivanje pogrešaka⁠ i potpora za kibersigurnost⁠ te doprinos standardima autentičnosti⁠. 

Blisko ćemo surađivati s Uredom EU-a za umjetnu inteligenciju i drugim nadležnim tijelima tijekom provedbe novog zakona u nadolazećim mjesecima te se nadamo da će naše stručno znanje pomoći ostvarivanju ciljeva Akta u pogledu uvođenja sigurne i korisne umjetne inteligencije.  

U ovoj objavi donosimo pregled nekih ključnih tema iz Akta o umjetnoj inteligenciji, s posebnim naglaskom na zabranjene i visokorizične slučajeve uporabe.

Akt o umjetnoj inteligenciji stupa na snagu 1. kolovoza 2024., 20 dana nakon objave u Službenom listu EU-a. Iako se većina odredbi Akta neće početi primjenjivati prije isteka 24 mjeseca od njegova stupanja na snagu, treba imati na umu nekoliko važnih rokova: 

• Zabrane nedopuštenih praksi počet će se primjenjivati 6 mjeseci nakon stupanja na snagu (veljača 2025.). 
• Kodeksi prakse, koji će obuhvatiti brojne provedbene pojedinosti potrebne za usklađivanje s Aktom, morat će biti dovršeni u roku od 9 mjeseci od stupanja na snagu (svibanj 2025.). 
• Većina obveza povezanih s umjetnom inteligencijom opće namjene počet će se primjenjivati 12 mjeseci nakon stupanja na snagu (kolovoz 2025.). 
• Obveze za većinu visokorizičnih sustava umjetne inteligencije primjenjuju se 24 mjeseca nakon stupanja na snagu (kolovoz 2026.). 

Za postojeće sustave GPAI koji nisu znatno izmijenjeni i određene sustave umjetne inteligencije koji su sastavnice velikih informatičkih sustava navedenih u Prilogu X. Aktu o umjetnoj inteligenciji vrijedit će dulji rok provedbe od 36 mjeseci (kolovoz 2027.).

Akt o umjetnoj inteligenciji ponajprije se primjenjuje na „sustave umjetne inteligencije”, koje definira kao „strojni sustav osmišljen za rad s različitim razinama autonomije, koji nakon uvođenja može pokazati prilagodljivost te koji radi postizanja izričitih ili prešutnih ciljeva iz primljenih ulaznih podataka zaključuje kako generirati izlazne rezultate, kao što su predviđanja, sadržaj, preporuke ili odluke koje mogu utjecati na fizička ili virtualna okruženja”.  Ta je definicija uglavnom usklađena s definicijom „sustava umjetne inteligencije” koju je OECD objavio 2023. i definicijom iz Izvršne uredbe br. 14110 Bidenove administracije o sigurnom, zaštićenom i pouzdanom razvoju i uporabi umjetne inteligencije.  

Važno je da Akt o umjetnoj inteligenciji razlikuje pružatelje od subjekata koji uvode sustave umjetne inteligencije. Pružatelji su subjekti poput OpenAI-ja koji razvijaju sustav umjetne inteligencije ili model umjetne inteligencije opće namjene. To uključuje i subjekte za koje je razvijen sustav umjetne inteligencije ili model umjetne inteligencije opće namjene i koji ga stavljaju na tržište ili sustav stavljaju u uporabu pod svojim imenom ili žigom, uz naknadu ili besplatno. 

Subjekti koji uvode sustave korisnici su ili partneri koji te sustave ili modele upotrebljavaju u vlastitim aplikacijama, primjerice integriranjem modela GPT‑4o u određeni slučaj uporabe. Iako većina obveza iz Akta o umjetnoj inteligenciji vrijedi za pružatelje, a ne za subjekte koji uvode sustave, važno je napomenuti da subjekt koji integrira model umjetne inteligencije u vlastiti sustav prema Aktu može postati pružatelj, primjerice ako sustav označi vlastitim žigom ili ga izmijeni na način koji pružatelj nije predvidio.

Organizacije izvan EU-a ipak će morati poštovati Akt o umjetnoj inteligenciji u raznim okolnostima koje mogu imati vrlo širok doseg.  Primjerice, Akt se primjenjuje ako: 

• pružatelj stavlja sustav umjetne inteligencije ili model GPAI na tržište EU-a, bez obzira na to ima li tvrtka poslovni nastan u EU-u ili drugoj zemlji; 
• subjekti koji uvode sustav umjetne inteligencije imaju poslovni nastan ili se nalaze u EU-u; 
• pružatelji i subjekti koji uvode sustave umjetne inteligencije imaju poslovni nastan ili se nalaze u trećoj zemlji, ali se izlazni rezultat sustava upotrebljava u EU-u.

Zbog širokog izvanteritorijalnog dosega Akta o umjetnoj inteligenciji neeuropske će se tvrtke morati uskladiti s Aktom kako bi pružale usluge korisnicima iz EU-a, bez obzira na to imaju li sjedište u EU-u.

Akt o umjetnoj inteligenciji temelji se na okviru utemeljenom na riziku, s posebnim zahtjevima za visokorizične sustave i sustave s neprihvatljivim rizikom. Akt od tvrtki zahtijeva da klasificiraju razinu rizika svojih sustava umjetne inteligencije kako bi utvrdile odgovarajuće regulatorne obveze te određuje različite kategorije ili razine sustava, od kojih svaka podliježe drukčijim obvezama.

Određene prakse umjetne inteligencije za koje se smatra da predstavljaju neprihvatljiv rizik za prava pojedinaca u potpunosti su zabranjene. Te prakse obuhvaćaju:   

• Primjenu subliminalnih, manipulativnih ili obmanjujućih tehnika radi utjecaja na ponašanje i narušavanja sposobnosti donošenja informiranih odluka, čime nastaje znatna šteta. 
• Iskorištavanje ranjivosti povezanih s dobi, invaliditetom ili društveno-ekonomskim okolnostima radi utjecaja na ponašanje, čime nastaje znatna šteta. 
• Sustave biometrijske kategorizacije koji izvode zaključke o osjetljivim osobinama poput rase, političkih stavova, članstva u sindikatu, vjerskih ili filozofskih uvjerenja, spolnog života ili seksualne orijentacije (uz ograničene iznimke za označivanje ili filtriranje zakonito pribavljenih skupova podataka i uporabu u tijelima kaznenog progona) 
• Sustave društvenog bodovanja, primjerice sustave koji procjenjuju ili klasificiraju pojedince ili skupine prema društvenom ponašanju ili osobnim osobinama i time im nanose štetu. 
• Procjenjivanje rizika da će pojedinac počiniti kazneno djelo isključivo na temelju profiliranja ili osobina ličnosti (uz ograničene iznimke) 
• Izradu baza podataka za prepoznavanje lica neselektivnim prikupljanjem slika lica s interneta ili snimki videonadzora
• Zaključivanje o emocijama na radnim mjestima ili u obrazovnim ustanovama 
• Daljinsku biometrijsku identifikaciju u stvarnom vremenu na javnim mjestima za potrebe kaznenog progona (uz određene iznimke).

Akt nameće stroge obveze sustavima za koje je utvrđeno da predstavljaju znatnu prijetnju zdravlju, sigurnosti ili temeljnim pravima pojedinaca, a svrstani su u visokorizičnu umjetnu inteligenciju (HRAI). To obuhvaća: a) sustave koji su sigurnosne sastavnice proizvoda uređenih drugim propisima EU-a i b) posebne slučajeve uporabe, primjerice sustave namijenjene odlučivanju o pristupu obrazovnim ustanovama ili upisu u njih, zapošljavanju ili odabiru radnika i praćenju njihova rada, utvrđivanju prava na javnu pomoć i kreditne sposobnosti te procjeni prava na zdravstveno osiguranje i određivanju njegove cijene.  

Sustavi HRAI moraju ispunjavati stroge regulatorne obveze, među kojima su uspostava sustava upravljanja rizicima radi stalne procjene rizika i strategija njihova ublažavanja tijekom cijelog životnog ciklusa sustava HRAI, sveobuhvatne mjere upravljanja podacima za ispitivanje i procjenu rizika od pristranosti, izrada detaljne tehničke dokumentacije prije stavljanja sustava na tržište te trajno praćenje. 

Na ostale sustave umjetne inteligencije koji ne predstavljaju neprihvatljiv ili visok rizik primjenjuju se samo ograničeni zahtjevi, poput obveza transparentnosti. Primjerice, Akt propisuje da pojedince treba obavijestiti kada komuniciraju sa sustavom umjetne inteligencije, poput chatbota, te da umjetno izmijenjene slike, audiosadržaji i videosadržaji moraju biti jasno označeni. Većina sustava umjetne inteligencije na tržištu vjerojatno će pripadati toj kategoriji.

Posebni zahtjevi primjenjuju se na pružatelje modela i sustava umjetne inteligencije opće namjene, poput OpenAI-ja, koji će morati: 

• Izraditi detaljnu tehničku dokumentaciju modela i na zahtjev je dostaviti Uredu za umjetnu inteligenciju
• Izraditi dokumentaciju za subjekte koji model GPAI upotrebljavaju za razvoj vlastitih sustava umjetne inteligencije
• Provesti politike namijenjene poštovanju prava EU-a o autorskom pravu
• Pružiti sažetak sadržaja upotrijebljenog za treniranje modela GPAI 

Osim toga, pružatelji modela GPAI sa sposobnostima visokog učinka za koje se smatra da predstavljaju „sistemske rizike” (npr. modeli trenirani uz veliku količinu računalnih resursa, tehnički definiranu kao 10^25 FLOP-ova) morat će: 

• Provoditi evaluacije modela radi utvrđivanja i ublažavanja sistemskih rizika te ih kontinuirano procjenjivati i ublažavati
• Obavijestiti Europsku komisiju o modelima koji ispunjavaju kriterije te kategorije
• Pratiti i prijavljivati ozbiljne incidente 
• Provesti odgovarajuće kibersigurnosne mjere za model i njegovu fizičku infrastrukturu

Pružatelji modela GPAI moći će se osloniti na kodeks prakse kako bi dokazali usklađenost sa zahtjevima Akta o umjetnoj inteligenciji. Ti će kodeksi prakse vjerojatno postaviti temelje za konkretne pojedinosti provedbe tih obveza te se veselimo suradnji s Uredom EU-a za umjetnu inteligenciju tijekom njihove izrade u sljedećih devet mjeseci. 

OpenAI se obvezuje poštovati Akt EU-a o umjetnoj inteligenciji te će tijekom njegove provedbe blisko surađivati s novim Uredom EU-a za umjetnu inteligenciju. U nadolazećim mjesecima nastavit ćemo pripremati tehničku dokumentaciju i druge smjernice za pružatelje i subjekte koji uvode naše modele GPAI u daljnje sustave, istodobno unapređujući zaštitu i sigurnost modela koje pružamo na europskom tržištu i izvan njega.   

Ako vaša organizacija pokušava utvrditi kako se uskladiti s Aktom o umjetnoj inteligenciji, najprije biste trebali klasificirati sve obuhvaćene sustave umjetne inteligencije. Utvrdite koje sustave GPAI i druge sustave umjetne inteligencije upotrebljavate, odredite kako su klasificirani i razmotrite koje obveze proizlaze iz vaših slučajeva uporabe. Trebali biste utvrditi i jeste li u odnosu na neki obuhvaćeni sustav umjetne inteligencije pružatelj ili subjekt koji ga uvodi. Ta pitanja mogu biti složena pa se, ako imate pitanja, obratite pravnom savjetniku.