A Primer on the EU AI Act

Ažurirano 11. jula 2025.: Nakon objavljivanja konačnog teksta Kodeksa prakse za umjetnu inteligenciju opće namjene, donosimo pregled našeg pristupa stupanju na snagu odredbi koje se primjenjuju na modele umjetne inteligencije opće namjene 2. augusta 2025. 

Prošle godine objavili smo ovaj uvod u Akt EU o umjetnoj inteligenciji kako bismo pružili početni uvid u naše pripreme za primjenu ovih novih pravnih zahtjeva. 

Otad aktivno učestvujemo u primjeni teksta kroz izradu Kodeksa prakse za umjetnu inteligenciju opće namjene, okvira koji pružateljima umjetne inteligencije omogućava usklađivanje s Aktom EU o umjetnoj inteligenciji. Nakon višemjesečnih zajedničkih napora sa stručnjacima, civilnim društvom i industrijom objavljen je konačni Kodeks. Danas objavljujemo odluku da potpišemo Kodeks prakse i njime dokažemo usklađenost s relevantnim obavezama iz Akta EU o umjetnoj inteligenciji.

Potpisivanjem Kodeksa poduzimamo konkretan korak u okviru šireg plana usklađivanja s Aktom EU o umjetnoj inteligenciji. Time potvrđujemo opredijeljenost za kontinuitet, pouzdanost i povjerenje tokom stupanja propisa na snagu, uz nastavak saradnje s evropskim preduzećima i građanima kojima pružamo sve sposobnije, sigurnije i zaštićenije modele umjetne inteligencije kako bi iskoristili prednosti revolucije umjetne inteligencije.

Potpisivanje Kodeksa dodatno učvršćuje brojne vodeće mjere sigurnosti i transparentnosti koje smo uveli u industriju tokom proteklih nekoliko godina. Bili smo među prvim kompanijama koje su objavile sveobuhvatan protokol sigurnosti i zaštite, naš Okvir pripravnosti (2023), koji opisuje naš pristup sigurnom uvođenju graničnih modela umjetne inteligencije.

U skladu s našom obavezom da stalno preispitujemo i unapređujemo interne okvire odgovornosti i upravljanja, u aprilu 2025. objavili smo⁠ ažurirani Okvir pripravnosti. 

Dok nastavljamo razvijati i uvoditi sve sposobniju tehnologiju, aktivno pratimo i ublažavamo širok raspon novih rizika i stvarnih sigurnosnih problema kako bi naši modeli ostali pouzdani i zaštićeni. Te procese stalno usavršavamo i unapređujemo.

• Već dugo uz naša značajna izdanja objavljujemo detaljne kartice sistema i tehničku dokumentaciju, u kojima navodimo šta naši modeli mogu i ne mogu učiniti, koje smo rizike ispitali i o čemu još učimo. 
• Centar za sigurnost pruža javni pristup rezultatima procjena sigurnosti naših modela.
• Naša mreža za red teaming uključuje vanjske stručnjake koji naše modele podvrgavaju testiranju pod opterećenjem
• Specifikacija modela pruža uvid u to kako oblikujemo ponašanje modela da bi odražavalo ljudske vrijednosti i demokratske norme.

Svi ovi napori bili su ključni za postavljanje industrijskih standarda zaštite i sigurnosti te za izradu primjenjivog Kodeksa prakse zasnovanog na najboljim praksama u industriji. Izgradnja sigurne i odgovorne umjetne inteligencije nikada nije završena. Nastavit ćemo postepeno unapređivati svoj pristup sigurnosti kako bismo doprinijeli tome da se naša tehnologija odgovorno koristi u korist svih ljudi, gdje god se nalazili.

Blisko ćemo sarađivati s Uredom EU za umjetnu inteligenciju, nadležnim organima i našim korisnicima tokom primjene Akta o umjetnoj inteligenciji u narednim mjesecima i godinama kako bismo zajednički osigurali koristi umjetne inteligencije za evropsko društvo i privredu. 

Ažuriranje: Dana 25. septembra 2024. prihvatili smo tri osnovne obaveze iz Pakta EU o umjetnoj inteligenciji.

1. Usvojiti strategiju upravljanja umjetnom inteligencijom radi poticanja njene primjene u organizaciji i rada na budućem usklađivanju s Aktom o umjetnoj inteligenciji;
2. u mjeri u kojoj je to izvedivo, mapirati sisteme umjetne inteligencije koji se pružaju ili primjenjuju u oblastima koje bi se prema Aktu o umjetnoj inteligenciji smatrale visokorizičnim;
3. unapređivati svijest i pismenost u području umjetne inteligencije među svojim osobljem i drugim osobama koje u njihovo ime rade sa sistemima umjetne inteligencije, uzimajući u obzir njihovo tehničko znanje, iskustvo, obrazovanje i obuku, kontekst u kojem će se sistemi koristiti te osobe ili grupe na koje njihova upotreba utječe.

Vjerujemo da usmjerenost Pakta o umjetnoj inteligenciji na pismenost, primjenu i upravljanje umjetnom inteligencijom obuhvata prave prioritete za široku raspodjelu njenih koristi. Osim toga, ti su prioriteti usklađeni s našom misijom pružanja sigurnih, najsavremenijih tehnologija koje koriste svima.

Akt EU o umjetnoj inteligenciji⁠(otvara se u novom prozoru) značajan je regulatorni okvir namijenjen upravljanju razvojem, uvođenjem i upotrebom umjetne inteligencije širom Evrope. Značajno je usmjeren na sigurnost kako bi potaknuo pouzdanu primjenu umjetne inteligencije u Evropi, istovremeno štiteći zdravlje, sigurnost i temeljna prava. Uvodi nove zahtjeve zasnovane na rizicima povezanim sa sistemima umjetne inteligencije, s posebnim naglaskom na visokorizične i neprihvatljive slučajeve upotrebe te posebne obaveze za modele i sisteme umjetne inteligencije opće namjene (GPAI). 

Iako je zakonodavni postupak završen i zakon će stupiti na snagu u augustu 2024, bit će potrebne dodatne smjernice i provedbeni propisi kako bi se odredio njegov opseg, posebno u pogledu primjene na GPAI modele poput modela kompanije OpenAI. 

OpenAI je posvećen usklađivanju s Aktom, ne samo zato što je to zakonska obaveza nego i zato što je cilj zakona usklađen s našom misijom razvoja i uvođenja sigurne umjetne inteligencije na dobrobit cijelog čovječanstva. Ponosni smo što objavljujemo modele koji su vodeći u industriji i po sposobnostima i po sigurnosti. Vjerujemo u uravnotežen, naučni pristup u kojem su sigurnosne mjere⁠ od samog početka sastavni dio razvojnog procesa. Naši timovi provode širok raspon tehničkih aktivnosti usmjerenih na sigurnosne izazove umjetne inteligencije, uključujući procjene modela prema našem Okviru pripravnosti⁠ prije njihovog uvođenja, interni i vanjski red teaming⁠, praćenje⁠ zloupotrebe nakon uvođenja, programe nagrađivanja za otkrivene greške⁠ i grantova za kibernetičku sigurnost⁠ te doprinos standardima autentičnosti⁠, između ostalog. 

Blisko ćemo sarađivati s Uredom EU za umjetnu inteligenciju i drugim nadležnim organima tokom primjene novog zakona u narednim mjesecima te se nadamo da će stručnost koju smo stekli doprinijeti ostvarivanju ciljeva Akta u pogledu uvođenja sigurne i korisne umjetne inteligencije.  

U ovoj objavi donosimo pregled nekih ključnih tema Akta o umjetnoj inteligenciji, s posebnim naglaskom na zabranjene i visokorizične slučajeve upotrebe.

Akt o umjetnoj inteligenciji stupit će na snagu 1. augusta 2024, 20 dana nakon objavljivanja u Službenom listu EU. Iako se većina odredbi Akta neće početi primjenjivati prije isteka 24 mjeseca od stupanja na snagu, treba imati na umu nekoliko važnih rokova: 

• Zabrane nedopuštenih praksi počet će se primjenjivati 6 mjeseci nakon stupanja na snagu (februar 2025). 
• Kodeksi prakse, koji će obuhvatiti mnoge provedbene pojedinosti potrebne za usklađivanje s Aktom, morat će biti dovršeni u roku od 9 mjeseci od stupanja na snagu (maj 2025). 
• Većina obaveza za umjetnu inteligenciju opće namjene počet će se primjenjivati 12 mjeseci nakon stupanja na snagu (august 2025). 
• Obaveze za većinu visokorizičnih sistema umjetne inteligencije primjenjuju se 24 mjeseca nakon stupanja na snagu (august 2026). 

Za postojeće GPAI sisteme koji nisu znatno izmijenjeni i određene sisteme umjetne inteligencije koji su dijelovi velikih IT sistema navedenih u Prilogu X Aktu o umjetnoj inteligenciji važit će duži rok za primjenu od 36 mjeseci (august 2027).

Akt o umjetnoj inteligenciji prvenstveno se primjenjuje na „sisteme umjetne inteligencije“, koje definira kao „mašinski sistem osmišljen za rad s različitim nivoima autonomije, koji može pokazivati prilagodljivost nakon uvođenja i koji, radi eksplicitnih ili implicitnih ciljeva, na osnovu primljenih ulaznih podataka zaključuje kako proizvesti rezultate poput predviđanja, sadržaja, preporuka ili odluka koje mogu utjecati na fizička ili virtualna okruženja“. Ova je definicija uglavnom usklađena s definicijom „sistema umjetne inteligencije“ koju je OECD objavio 2023. i definicijom iz Izvršne uredbe 14110 Bidenove administracije o sigurnom, zaštićenom i pouzdanom razvoju i korištenju umjetne inteligencije.  

Važno je da Akt o umjetnoj inteligenciji razlikuje pružatelje i subjekte koji primjenjuju sisteme umjetne inteligencije. Pružatelji su subjekti poput kompanije OpenAI koji razvijaju sistem umjetne inteligencije ili model umjetne inteligencije opće namjene. To obuhvata i subjekte za koje je razvijen sistem umjetne inteligencije ili model umjetne inteligencije opće namjene i koji ga stavljaju na tržište ili sistem puštaju u rad pod vlastitim imenom ili zaštitnim znakom, uz naknadu ili besplatno. 

Subjekti koji primjenjuju sisteme korisnici su ili partneri koji te sisteme ili modele koriste u vlastitim aplikacijama, naprimjer integriranjem GPT‑4o u određeni slučaj upotrebe. Iako većina obaveza iz Akta o umjetnoj inteligenciji tereti pružatelje, a ne subjekte koji primjenjuju sisteme, važno je napomenuti da subjekt koji model umjetne inteligencije integrira u vlastiti sistem može prema Aktu postati pružatelj, naprimjer ako sistem označi vlastitim zaštitnim znakom ili ga izmijeni na način koji pružatelj nije predvidio.

Organizacije izvan EU i dalje će morati poštovati Akt o umjetnoj inteligenciji pod različitim uslovima koji mogu imati vrlo širok doseg.  Naprimjer, Akt se primjenjuje ako: 

• pružatelj stavlja sistem umjetne inteligencije ili GPAI model na tržište EU, bez obzira na to je li kompanija osnovana u EU ili drugoj zemlji; 
• subjekti koji primjenjuju sistem umjetne inteligencije imaju sjedište ili se nalaze u EU; 
• pružatelji i subjekti koji primjenjuju sisteme umjetne inteligencije imaju sjedište ili se nalaze u trećoj zemlji, ali se rezultati sistema koriste u EU.

Širok izvanteritorijalni doseg Akta o umjetnoj inteligenciji znači da će se neevropske kompanije morati uskladiti s Aktom kako bi pružale usluge korisnicima iz EU, bez obzira na to imaju li sjedište u EU.

Akt o umjetnoj inteligenciji zasniva se na okviru utemeljenom na riziku, s posebnim zahtjevima za sisteme umjetne inteligencije visokog i neprihvatljivog rizika. Akt zahtijeva da kompanije klasificiraju nivo rizika svojih sistema umjetne inteligencije kako bi utvrdile odgovarajuće regulatorne obaveze te određuje različite kategorije ili nivoe sistema, od kojih svaki podliježe različitim obavezama.

Određene prakse umjetne inteligencije za koje se smatra da predstavljaju neprihvatljiv rizik za prava pojedinaca potpuno su zabranjene. Te prakse uključuju:   

• Primjenu subliminalnih, manipulativnih ili obmanjujućih tehnika radi mijenjanja ponašanja i narušavanja sposobnosti donošenja informiranih odluka, čime se uzrokuje znatna šteta. 
• Iskorištavanje ranjivosti povezanih s dobi, invaliditetom ili socioekonomskim okolnostima radi mijenjanja ponašanja, čime se uzrokuje znatna šteta. 
• Sisteme biometrijske kategorizacije koji izvode zaključke o osjetljivim osobinama poput rase, političkih stavova, članstva u sindikatu, vjerskih ili filozofskih uvjerenja, seksualnog života ili seksualne orijentacije (uz ograničene izuzetke za označavanje ili filtriranje zakonito pribavljenih skupova podataka i upotrebu u provedbi zakona) 
• Sisteme društvenog bodovanja, poput sistema koji procjenjuju ili klasificiraju pojedince ili grupe na osnovu društvenog ponašanja ili ličnih osobina i time im nanose štetu. 
• Procjenjivanje rizika da će pojedinac počiniti krivično djelo isključivo na osnovu profiliranja ili osobina ličnosti (uz ograničene izuzetke) 
• Izradu baza podataka za prepoznavanje lica neselektivnim prikupljanjem snimaka lica s interneta ili snimaka videonadzora
• Prepoznavanje emocija na radnim mjestima ili u obrazovnim ustanovama 
• Daljinsku biometrijsku identifikaciju u stvarnom vremenu na javnim mjestima radi provedbe zakona (uz određene izuzetke).

Akt nameće stroge obaveze za sisteme za koje je utvrđeno da predstavljaju znatnu prijetnju zdravlju, sigurnosti ili temeljnim pravima pojedinaca, a koji su kategorizirani kao visokorizična umjetna inteligencija (HRAI). To uključuje: a) sisteme koji su sigurnosne komponente proizvoda na koje se primjenjuju drugi propisi EU i b) posebne slučajeve upotrebe, poput sistema namijenjenih odlučivanju o pristupu ili prijemu u obrazovne ustanove, zapošljavanju ili odabiru radnika ili praćenju njihovog učinka, utvrđivanju prava na javnu pomoć i kreditne sposobnosti te procjeni prava na zdravstveno osiguranje i određivanju njegove cijene, između ostalog.  

HRAI sistemi moraju ispunjavati stroge regulatorne obaveze, poput uspostavljanja sistema upravljanja rizicima radi stalne procjene rizika i strategija njihovog ublažavanja tokom cijelog životnog ciklusa HRAI sistema, uvođenja sveobuhvatnih mjera upravljanja podacima radi testiranja i procjene rizika od pristrasnosti, pripreme detaljne tehničke dokumentacije prije stavljanja sistema na tržište te stalnog praćenja. 

Na druge sisteme umjetne inteligencije koji ne predstavljaju neprihvatljiv ili visok rizik primjenjuju se samo ograničeni zahtjevi, poput obaveze transparentnosti. Naprimjer, Akt propisuje da pojedinci trebaju biti obaviješteni kada komuniciraju sa sistemom umjetne inteligencije, poput bota za razgovor, te da umjetno izmijenjene slike, zvučni ili videosadržaji moraju biti jasno označeni. Većina sistema umjetne inteligencije na tržištu vjerovatno će pripadati ovoj kategoriji.

Posebni zahtjevi primjenjuju se na pružatelje modela i sistema umjetne inteligencije opće namjene, poput kompanije OpenAI, koji će morati: 

• Izraditi detaljnu tehničku dokumentaciju modela i na zahtjev je dostaviti Uredu za umjetnu inteligenciju
• Izraditi dokumentaciju za subjekte koji koriste GPAI model radi razvoja vlastitih sistema umjetne inteligencije
• Provoditi politike namijenjene poštovanju propisa EU o autorskim pravima
• Pružiti sažetak sadržaja korištenog za obuku GPAI modela 

Osim toga, pružatelji GPAI modela sa sposobnostima velikog utjecaja za koje se smatra da predstavljaju „sistemske rizike“ (npr. modeli obučeni uz veliku količinu računskih resursa, tehnički definiranu kao 10^25 FLOP-ova) morat će: 

• Provoditi procjene modela radi utvrđivanja i ublažavanja sistemskih rizika te stalno procjenjivati i ublažavati prisutne rizike
• Obavijestiti Evropsku komisiju o modelima koji ispunjavaju kriterije ove kategorije
• Pratiti i prijavljivati ozbiljne incidente 
• Provesti odgovarajuće mjere kibernetičke sigurnosti za model i njegovu fizičku infrastrukturu

Pružatelji GPAI modela moći će se osloniti na kodeks prakse kako bi dokazali usklađenost sa zahtjevima Akta o umjetnoj inteligenciji. Ovi kodeksi prakse vjerovatno će postaviti temelje za konkretne pojedinosti o provedbi tih obaveza, a radujemo se saradnji s Uredom EU za umjetnu inteligenciju tokom njihove izrade u narednih devet mjeseci. 

OpenAI je posvećen usklađivanju s Aktom EU o umjetnoj inteligenciji i blisko ćemo sarađivati s novim Uredom EU za umjetnu inteligenciju tokom primjene zakona. U narednim mjesecima nastavit ćemo pripremati tehničku dokumentaciju i druge smjernice za pružatelje i subjekte koji primjenjuju naše GPAI modele u nastavku lanca, uz unapređivanje zaštite i sigurnosti modela koje pružamo na evropskom tržištu i šire.   

Ako vaša organizacija pokušava utvrditi kako se uskladiti s Aktom o umjetnoj inteligenciji, najprije trebate pokušati klasificirati sve sisteme umjetne inteligencije obuhvaćene Aktom. Utvrdite koje GPAI i druge sisteme umjetne inteligencije koristite, kako su klasificirani i koje obaveze proizlaze iz vaših slučajeva upotrebe. Također trebate utvrditi jeste li pružatelj ili subjekt koji primjenjuje neki od sistema umjetne inteligencije obuhvaćenih Aktom. Ova pitanja mogu biti složena pa se u slučaju nedoumica trebate posavjetovati s pravnim stručnjakom.