A Primer on the EU AI Act

Posodobitev z dne 11. julija 2025: Po objavi končnega besedila kodeksa ravnanja za umetno inteligenco za splošne namene predstavljamo pregled svojega pristopa k začetku veljavnosti določb, ki se bodo 2. avgusta 2025 začele uporabljati za modele umetne inteligence za splošne namene. 

Lani smo objavili ta uvod v Akt EU o umetni inteligenci, v katerem smo predstavili prve informacije o svojih pripravah na izvajanje teh novih pravnih zahtev. 

Od takrat dejavno sodelujemo pri izvajanju besedila, med drugim pri pripravi kodeksa ravnanja za umetno inteligenco za splošne namene, ki ponudnikom umetne inteligence omogoča izpolnjevanje zahtev Akta EU o umetni inteligenci. Po več mesecih skupnih prizadevanj s strokovnjaki, civilno družbo in panogo je bil objavljen končni kodeks. Danes sporočamo, da smo se odločili podpisati kodeks ravnanja in z njim dokazovati izpolnjevanje svojih obveznosti iz Akta EU o umetni inteligenci.  

S podpisom kodeksa smo naredili konkreten korak v okviru širšega načrta za izpolnjevanje zahtev Akta EU o umetni inteligenci. Ta korak odraža našo zavezanost zagotavljanju neprekinjenega, zanesljivega in zaupanja vrednega delovanja ob začetku uporabe predpisov. Hkrati bomo še naprej sodelovali z evropskimi podjetji in državljani ter jim zagotavljali vse zmogljivejše, varne in zaščitene modele umetne inteligence, da bodo lahko izkoristili prednosti revolucije umetne inteligence.

Podpis kodeksa utrjuje številne vodilne ukrepe za varnost in preglednost, ki smo jih v panogi uvedli v zadnjih letih. Bili smo med prvimi podjetji, ki so objavila celovit protokol za varnost in zaščito – naš Okvir pripravljenosti (2023), ki opisuje naš pristop k varni uvedbi prelomnih modelov umetne inteligence. 

V skladu z zavezo, da bomo nenehno pregledovali in izboljševali svoje okvire notranje odgovornosti in upravljanja, smo aprila 2025 objavili⁠ posodobljen Okvir pripravljenosti. 

Ob nadaljnjem razvoju in uvajanju vse zmogljivejše tehnologije dejavno spremljamo in zmanjšujemo najrazličnejša nova tveganja ter varnostne pomisleke iz resničnega sveta, da bi naši modeli ostali zanesljivi in varni. Te postopke tudi nenehno izpopolnjujemo in izboljšujemo. 

• Ob večjih izdajah že dolgo objavljamo podrobne sistemske kartice in tehnično dokumentacijo, ki pojasnjujejo, kaj naši modeli zmorejo in česa ne, za katera tveganja smo jih preizkusili ter na katerih področjih še vedno pridobivamo nova spoznanja. 
• Središče za varnost javnosti omogoča dostop do rezultatov ocenjevanja varnosti naših modelov.
• Naša mreža za simulirano iskanje šibkih točk v nadzorovanem okolju vključuje zunanje strokovnjake, ki naše modele izpostavljajo obremenitvenim preizkusom.
• Specifikacije modela ponujajo vpogled v to, kako oblikujemo vedenje modelov, da odraža človeške vrednote in demokratične norme.

Vsa ta prizadevanja so bila ključna pri določanju standardov zaščite in varnosti v panogi ter pripravi izvedljivega kodeksa ravnanja, ki temelji na najboljših praksah panoge. Razvoj varne in odgovorne umetne inteligence se nikoli ne konča. Še naprej bomo postopno izboljševali svoj pristop k varnosti ter tako pomagali zagotoviti, da se bo naša tehnologija povsod po svetu uporabljala odgovorno in v korist vseh.

Ob izvajanju Akta o umetni inteligenci v prihodnjih mesecih in letih bomo tesno sodelovali z Uradom EU za umetno inteligenco, pristojnimi organi in svojimi strankami, da bomo lahko skupaj zagotovili koristi umetne inteligence za evropsko družbo in gospodarstvo. 

Posodobitev: 25. septembra 2024 smo pristopili k trem temeljnim zavezam Pakta EU za umetno inteligenco.

1. Sprejeti strategijo upravljanja umetne inteligence, ki bo spodbujala njeno uporabo v organizaciji in prizadevanja za prihodnjo skladnost z Aktom o umetni inteligenci;
2. kolikor je izvedljivo, popisati sisteme umetne inteligence, ki se zagotavljajo ali uporabljajo na področjih, ki bi se po Aktu o umetni inteligenci štela za visokotvegana;
3. spodbujati ozaveščenost in pismenost na področju umetne inteligence med zaposlenimi in drugimi osebami, ki v njihovem imenu delajo s sistemi umetne inteligence, pri čemer je treba upoštevati njihovo tehnično znanje, izkušnje, izobrazbo in usposabljanje, okoliščine uporabe sistemov umetne inteligence ter osebe ali skupine oseb, na katere njihova uporaba vpliva.

Menimo, da osredotočenost Pakta za umetno inteligenco na pismenost, uvajanje in upravljanje umetne inteligence ustrezno naslavlja prednostne naloge, potrebne za široko porazdelitev njenih koristi. Te zaveze so obenem usklajene z našim poslanstvom zagotavljanja varnih, najsodobnejših tehnologij, ki koristijo vsem.

Akt EU o umetni inteligenci⁠(odpre se v novem oknu) je pomemben regulativni okvir za upravljanje razvoja, uvajanja in uporabe umetne inteligence po vsej Evropi. Velik poudarek namenja varnosti, da bi v Evropi spodbujal uvajanje zaupanja vredne umetne inteligence ter hkrati varoval zdravje, varnost in temeljne pravice. Uvaja nove zahteve glede na tveganja, povezana s sistemi umetne inteligence, pri čemer se posebej osredotoča na visokotvegane in nesprejemljive načine uporabe ter določa posebne obveznosti za modele in sisteme umetne inteligence za splošne namene (GPAI). 

Čeprav je zakonodajni postopek končan in bo zakon začel veljati avgusta 2024, bodo za opredelitev njegovega področja uporabe potrebne dodatne smernice in izvedbena zakonodaja, zlasti glede uporabe za modele GPAI, kot so modeli OpenAI. 

V podjetju OpenAI smo zavezani spoštovanju Akta, ne le zato, ker je to naša pravna obveznost, temveč tudi zato, ker je njegov cilj skladen z našim poslanstvom razvijati in uvajati varno umetno inteligenco v korist vsega človeštva. Ponosni smo, da izdajamo modele, ki so vodilni v panogi tako po zmogljivostih kot po varnosti. Zavzemamo se za uravnotežen in znanstven pristop, pri katerem so varnostni ukrepi⁠ že od začetka vključeni v razvojni proces. Naše ekipe izvajajo širok nabor tehničnih dejavnosti za obravnavanje izzivov varnosti umetne inteligence. Mednje sodijo ocenjevanje modelov v skladu z našim Okvirom pripravljenosti⁠ pred uvedbo, notranje in zunanje simulirano iskanje šibkih točk v nadzorovanem okolju⁠, spremljanje⁠ zlorab po uvedbi, programa nagrad za odkrite napake⁠ in nepovratnih sredstev za kibernetsko varnost⁠ ter prispevanje k standardom pristnosti⁠. 

Ob izvajanju novega zakona v prihodnjih mesecih bomo tesno sodelovali z Uradom EU za umetno inteligenco in drugimi pristojnimi organi. Upamo, da bo naše pridobljeno strokovno znanje pomagalo uresničevati cilje Akta na področju uvajanja varne in koristne umetne inteligence.  

V tem prispevku predstavljamo pregled nekaterih ključnih tem Akta o umetni inteligenci, s posebnim poudarkom na prepovedanih in visokotveganih načinih uporabe.

Akt o umetni inteligenci bo začel veljati 1. avgusta 2024, 20 dni po objavi v Uradnem listu EU. Čeprav se večina določb Akta ne bo začela uporabljati še 24 mesecev po začetku njegove veljavnosti, je treba upoštevati več pomembnih rokov: 

• Prepovedi nedovoljenih praks se bodo začele uporabljati 6 mesecev po začetku veljavnosti (februarja 2025). 
• Kodeksi ravnanja, ki bodo urejali številne izvedbene podrobnosti, potrebne za izpolnjevanje zahtev Akta, bodo morali biti dokončani v 9 mesecih po začetku veljavnosti (maja 2025). 
• Večina obveznosti glede umetne inteligence za splošne namene se bo začela uporabljati 12 mesecev po začetku veljavnosti (avgusta 2025). 
• Obveznosti za večino visokotveganih sistemov umetne inteligence se bodo začele uporabljati 24 mesecev po začetku veljavnosti (avgusta 2026). 

Za obstoječe sisteme GPAI, ki niso bili bistveno spremenjeni, in nekatere sisteme umetne inteligence, ki so sestavni deli obsežnih informacijskih sistemov iz Priloge X k Aktu o umetni inteligenci, bo veljal daljši rok za izvedbo, in sicer 36 mesecev (do avgusta 2027).

Akt o umetni inteligenci se uporablja predvsem za »sisteme umetne inteligence«, ki jih opredeljuje kot »strojne sisteme, zasnovane za delovanje z različnimi stopnjami avtonomije, ki lahko po uvedbi izkazujejo prilagodljivost ter za izrecne ali implicitne cilje iz prejetih vhodnih podatkov sklepajo, kako ustvariti rezultate, kot so napovedi, vsebine, priporočila ali odločitve, ki lahko vplivajo na fizična ali virtualna okolja«.  Ta opredelitev je večinoma skladna z opredelitvijo »sistemov umetne inteligence«, ki jo je OECD izdal leta 2023, in opredelitvijo iz izvršnega odloka Bidnove administracije št. 14110 o varnem, zaščitenem in zaupanja vrednem razvoju ter uporabi umetne inteligence.  

Pomembno je, da Akt o umetni inteligenci razlikuje med ponudniki in uvajalci sistemov umetne inteligence. Ponudniki so subjekti, kot je OpenAI, ki razvijajo sistem umetne inteligence ali model umetne inteligence za splošne namene. Med ponudnike sodijo tudi subjekti, za katere je bil razvit sistem umetne inteligence ali model umetne inteligence za splošne namene in ki ga dajo na trg ali v uporabo pod svojim imenom ali blagovno znamko, proti plačilu ali brezplačno. 

Uvajalci so stranke ali partnerji, ki te sisteme ali modele uporabljajo v svojih aplikacijah, na primer tako, da GPT‑4o vključijo v določen način uporabe. Čeprav večina obveznosti iz Akta o umetni inteligenci velja za ponudnike in ne za uvajalce, je pomembno vedeti, da lahko uvajalec, ki model umetne inteligence vključi v svoj sistem umetne inteligence, po Aktu postane ponudnik. To se lahko na primer zgodi, če za sistem umetne inteligence uporablja svojo blagovno znamko ali ga spremeni na način, ki ga ponudnik ni predvidel.

Organizacije zunaj EU bodo morale Akt o umetni inteligenci spoštovati v različnih okoliščinah, katerih področje uporabe je lahko zelo široko.  Akt se na primer uporablja, če: 

• ponudnik da sistem umetne inteligence ali model GPAI na trg EU, ne glede na to, ali ima podjetje sedež v EU ali drugi državi; 
• imajo uvajalci sistema umetne inteligence sedež v EU ali so v njej; 
• imajo ponudniki in uvajalci sistemov umetne inteligence sedež v tretji državi ali so tam, vendar se rezultati sistema umetne inteligence uporabljajo v EU.

Širok ekstrateritorialni doseg Akta o umetni inteligenci pomeni, da ga bodo morala neevropska podjetja spoštovati, če želijo zagotavljati storitve strankam v EU, ne glede na to, ali imajo sedež v EU.

Akt o umetni inteligenci temelji na okviru, ki upošteva tveganja, ter določa posebne zahteve za visokotvegane sisteme umetne inteligence in sisteme z nesprejemljivim tveganjem. Akt od podjetij zahteva, da razvrstijo stopnjo tveganja svojih sistemov umetne inteligence in tako določijo ustrezne regulativne obveznosti. Opredeljuje tudi različne kategorije oziroma ravni sistemov umetne inteligence, za katere veljajo različne obveznosti.

Nekatere prakse umetne inteligence, za katere velja, da pomenijo nesprejemljivo tveganje za pravice posameznikov, so v celoti prepovedane. Med te prakse sodijo:   

• Uporaba subliminalnih, manipulativnih ali zavajajočih tehnik, ki izkrivljajo vedenje in ovirajo sprejemanje premišljenih odločitev ter povzročijo znatno škodo. 
• Izkoriščanje ranljivosti, povezanih s starostjo, invalidnostjo ali socialno-ekonomskimi razmerami, za izkrivljanje vedenja, ki povzroči znatno škodo. 
• Sistemi biometričnega razvrščanja, ki sklepajo o občutljivih lastnostih, kot so rasa, politična prepričanja, članstvo v sindikatu, verska ali filozofska prepričanja, spolno življenje ali spolna usmerjenost (z omejenimi izjemami za označevanje ali filtriranje zakonito pridobljenih podatkovnih zbirk in za uporabo organov pregona). 
• Sistemi družbenega točkovanja, na primer sistemi, ki ocenjujejo ali razvrščajo posameznike oziroma skupine na podlagi družbenega vedenja ali osebnih lastnosti in jim s tem povzročajo škodo. 
• Ocenjevanje tveganja, da bo posameznik storil kaznivo dejanje, izključno na podlagi profiliranja ali osebnostnih lastnosti (z omejenimi izjemami). 
• Ustvarjanje podatkovnih zbirk za prepoznavanje obrazov z neselektivnim pridobivanjem podob obrazov s spleta ali posnetkov videonadzornih kamer.
• Sklepanje o čustvih na delovnih mestih ali v izobraževalnih ustanovah. 
• Biometrična identifikacija na daljavo v realnem času na javnih krajih za namene kazenskega pregona (z nekaterimi izjemami).

Akt nalaga stroge obveznosti za sisteme, za katere je bilo ugotovljeno, da pomenijo precejšnjo grožnjo zdravju, varnosti ali temeljnim pravicam posameznikov in so zato razvrščeni kot visokotvegana umetna inteligenca (HRAI). Mednje spadajo: a) sistemi, ki so varnostni sestavni deli izdelkov, za katere velja druga zakonodaja EU, ter b) posebni načini uporabe, na primer sistemi za odločanje o dostopu ali sprejemu v izobraževalne ustanove, zaposlovanje ali izbiro delavcev oziroma spremljanje njihove uspešnosti, ugotavljanje upravičenosti do javne pomoči ali kreditne sposobnosti ter ocenjevanje upravičenosti do zdravstvenega zavarovanja in določanje njegove cene.  

Sistemi HRAI morajo izpolnjevati stroge regulativne obveznosti. Mednje sodijo vzpostavitev sistema obvladovanja tveganj za stalno ocenjevanje tveganj in strategij njihovega zmanjševanja v celotnem življenjskem ciklu sistema HRAI, celoviti ukrepi upravljanja podatkov za preizkušanje in ocenjevanje tveganj pristranskosti, priprava podrobne tehnične dokumentacije pred dajanjem sistema na trg ter obveznost stalnega spremljanja. 

Za druge sisteme umetne inteligence, ki ne pomenijo nesprejemljivega ali visokega tveganja, veljajo le omejene zahteve, kot so obveznosti glede preglednosti. Akt na primer določa, da je treba posameznike obvestiti, kadar komunicirajo s sistemom umetne inteligence, kot je klepetalni robot, ter da morajo biti umetno prirejene slike, zvočni ali videoposnetki jasno označeni. V to kategorijo bo verjetno spadala večina sistemov umetne inteligence na trgu.

Za ponudnike modelov in sistemov umetne inteligence za splošne namene, kot je OpenAI, veljajo posebne zahteve. Morali bodo: 

• Pripraviti podrobno tehnično dokumentacijo modela in jo na zahtevo predložiti Uradu za umetno inteligenco.
• Pripraviti dokumentacijo za uvajalce, ki model GPAI uporabljajo za razvoj lastnih sistemov umetne inteligence.
• Uvesti pravilnike za spoštovanje avtorskega prava EU.
• Predložiti povzetek vsebin, uporabljenih za učenje modela GPAI. 

Poleg tega bodo morali ponudniki modelov GPAI z zmogljivostmi velikega učinka, za katere velja, da pomenijo »sistemska tveganja« (npr. modeli, naučeni z veliko računsko zmogljivostjo, ki je tehnično opredeljena kot 10^25 FLOP), izpolnjevati naslednje zahteve: 

• Ocenjevati modele, da bi prepoznali in zmanjšali sistemska tveganja, ter predstavljena tveganja nenehno ocenjevati in zmanjševati.
• Evropsko komisijo obvestiti o modelih, ki izpolnjujejo merila te kategorije.
• Spremljati resne incidente in poročati o njih. 
• Uvesti ustrezne ukrepe kibernetske varnosti za model in njegovo fizično infrastrukturo.

Ponudniki modelov GPAI se bodo lahko pri dokazovanju skladnosti z zahtevami Akta o umetni inteligenci oprli na kodeks ravnanja. Ti kodeksi ravnanja bodo verjetno postavili temelje za podrobno izvajanje obveznosti. Veselimo se sodelovanja z Uradom EU za umetno inteligenco pri njihovi pripravi v naslednjih 9 mesecih. 

OpenAI je zavezan spoštovanju Akta EU o umetni inteligenci in bo pri njegovem izvajanju tesno sodeloval z novim Uradom EU za umetno inteligenco. V prihodnjih mesecih bomo še naprej pripravljali tehnično dokumentacijo in druge smernice za nadaljnje ponudnike in uvajalce naših modelov GPAI, hkrati pa izboljševali zaščito in varnost modelov, ki jih ponujamo na evropskem trgu in drugod.   

Če želi vaša organizacija ugotoviti, kako izpolniti zahteve Akta o umetni inteligenci, naj najprej poskusi razvrstiti vse sisteme umetne inteligence, ki spadajo na njegovo področje uporabe. Ugotovite, katere modele GPAI in druge sisteme umetne inteligence uporabljate, kako so razvrščeni ter katere obveznosti izhajajo iz vaših načinov uporabe. Ugotoviti morate tudi, ali ste pri katerem od zadevnih sistemov umetne inteligence ponudnik ali uvajalec. Ta vprašanja so lahko zapletena, zato se v primeru nejasnosti posvetujte s pravnim svetovalcem.