A Primer on the EU AI Act

Aktualizácia z 11. júla 2025: Po zverejnení konečného znenia Kódexu postupov pre umelú inteligenciu na všeobecné účely prinášame prehľad nášho prístupu k nadobudnutiu účinnosti ustanovení vzťahujúcich sa na modely AI na všeobecné účely 2. augusta 2025. 

Minulý rok sme zverejnili tento úvod do aktu EÚ o AI, v ktorom sme načrtli, ako sa pripravujeme na uplatňovanie týchto nových právnych požiadaviek. 

Odvtedy sa aktívne zapájame do vykonávania aktu účasťou na tvorbe Kódexu postupov pre umelú inteligenciu na všeobecné účely, ktorý poskytovateľom AI pomáha dodržiavať akt EÚ o AI. Po mesiacoch spoločného úsilia s odborníkmi, občianskou spoločnosťou a priemyslom bolo zverejnené konečné znenie kódexu. Dnes oznamujeme, že kódex podpíšeme a využijeme ho na preukázanie súladu s našimi príslušnými povinnosťami podľa aktu EÚ o AI.  

Podpisom kódexu robíme konkrétny krok v rámci nášho širšieho plánu na dosiahnutie súladu s aktom EÚ o AI. Odráža náš záväzok zabezpečiť kontinuitu, spoľahlivosť a dôveru pri nadobúdaní účinnosti predpisov. Zároveň budeme naďalej spolupracovať s európskymi podnikmi a občanmi a prinášať im čoraz výkonnejšie, bezpečnejšie a lepšie chránené modely AI, aby mohli využívať prínosy revolúcie AI.

Podpis kódexu posilňuje mnohé špičkové opatrenia v oblasti bezpečnosti a transparentnosti, ktoré sme v odvetví v uplynulých rokoch zaviedli ako prví. Boli sme jednou z prvých spoločností, ktoré zverejnili komplexný protokol bezpečnosti a ochrany – náš Rámec pripravenosti (2023), ktorý opisuje náš prístup k bezpečnému nasadzovaniu prelomových modelov AI. 

V súlade so záväzkom neustále preverovať a zlepšovať interné rámce zodpovednosti a riadenia sme v apríli 2025 zverejnili⁠ aktualizovaný Rámec pripravenosti. 

Pri ďalšom vývoji a nasadzovaní čoraz výkonnejších technológií aktívne monitorujeme a zmierňujeme širokú škálu nových rizík a reálnych bezpečnostných hrozieb, aby naše modely zostali spoľahlivé a chránené. Tieto procesy zároveň neustále zdokonaľujeme. 

• Pri významných vydaniach už dlho zverejňujeme podrobné systémové karty a technickú dokumentáciu, ktoré vysvetľujú, čo naše modely dokážu a nedokážu, aké riziká sme testovali a v ktorých oblastiach sa ešte učíme. 
• Centrum bezpečnosti poskytuje verejný prístup k výsledkom hodnotení bezpečnosti našich modelov.
• Naša sieť pre red teaming zapája externých odborníkov, ktorí naše modely podrobujú záťažovým skúškam
• Špecifikácia modelu približuje, ako formujeme správanie modelov tak, aby odrážalo ľudské hodnoty a demokratické normy.

Táto práca ako celok zohrala zásadnú úlohu pri stanovovaní noriem ochrany a bezpečnosti v odvetví a prispela k vytvoreniu praktického Kódexu postupov založeného na najlepších postupoch odvetvia. Budovanie bezpečnej a zodpovednej AI sa nikdy nekončí. Náš prístup k bezpečnosti budeme naďalej postupne zlepšovať, aby sa naše technológie zodpovedne využívali v prospech všetkých ľudí bez ohľadu na to, kde vo svete žijú.

Počas uplatňovania aktu o AI v nasledujúcich mesiacoch a rokoch budeme úzko spolupracovať s Úradom EÚ pre AI, príslušnými orgánmi a našimi zákazníkmi, aby sme spoločne zabezpečili prínosy AI pre európsku spoločnosť a hospodárstvo. 

Aktualizácia: 25. septembra 2024 sme sa zaviazali dodržiavať tri hlavné záväzky Paktu EÚ o AI.

1. Prijať stratégiu riadenia AI, ktorá podporí zavádzanie AI v organizácii a postupné dosiahnutie súladu s aktom o AI;
2. v uskutočniteľnom rozsahu zmapovať poskytované alebo nasadené systémy AI v oblastiach, ktoré by sa podľa aktu o AI považovali za vysokorizikové;
3. zvyšovať povedomie a gramotnosť v oblasti AI medzi zamestnancami a ďalšími osobami, ktoré v ich mene pracujú so systémami AI, s prihliadnutím na ich technické znalosti, skúsenosti, vzdelanie a odbornú prípravu, na kontext používania systémov AI a na osoby či skupiny osôb dotknuté ich používaním.

Sme presvedčení, že hlavné zameranie Paktu o AI na gramotnosť v oblasti AI, jej zavádzanie a riadenie určuje správne priority, aby sa prínosy AI rozdelili čo najširšie. Tieto priority sú navyše v súlade s naším poslaním poskytovať bezpečné, špičkové technológie prospešné pre všetkých.

Akt EÚ o AI⁠(otvorí sa v novom okne) je významný regulačný rámec určený na riadenie vývoja, nasadzovania a používania AI v celej Európe. Výrazne sa zameriava na bezpečnosť, aby podporil zavádzanie dôveryhodnej AI v Európe a zároveň chránil zdravie, bezpečnosť a základné práva. Zavádza nové požiadavky založené na rizikách spojených so systémami AI, pričom sa osobitne zameriava na vysokorizikové a neprijateľné prípady použitia, ako aj na osobitné povinnosti pre modely a systémy AI na všeobecné účely (GPAI). 

Hoci je legislatívny proces ukončený a akt nadobudne účinnosť v auguste 2024, na vymedzenie jeho rozsahu budú potrebné ďalšie usmernenia a vykonávacie právne predpisy, najmä pokiaľ ide o modely GPAI, ako sú modely OpenAI. 

V OpenAI sme odhodlaní dodržiavať tento akt nielen preto, že ide o právnu povinnosť, ale aj preto, že jeho cieľ je v súlade s naším poslaním vyvíjať a nasadzovať bezpečnú AI v prospech celého ľudstva. Sme hrdí, že vydávame modely, ktoré patria k špičke odvetvia svojimi schopnosťami aj bezpečnosťou. Veríme vo vyvážený, vedecký prístup, pri ktorom sú bezpečnostné opatrenia⁠ začlenené do procesu vývoja od samého začiatku. Naše tímy sa venujú širokému spektru technických činností zameraných na bezpečnosť AI. Patria medzi ne hodnotenia modelov podľa nášho Rámca pripravenosti⁠ pred ich nasadením, interný a externý red teaming⁠, monitorovanie⁠ zneužívania po nasadení, programy odmien za odhalenie chýb⁠ a grantov na kybernetickú bezpečnosť⁠ či príspevky k normám autenticity⁠. 

Počas uplatňovania nového aktu v nasledujúcich mesiacoch budeme úzko spolupracovať s Úradom EÚ pre AI a ďalšími príslušnými orgánmi. Dúfame, že naše odborné znalosti pomôžu napĺňať ciele aktu pri nasadzovaní bezpečnej a prospešnej AI.  

V tomto príspevku prinášame prehľad niektorých kľúčových tém aktu o AI, pričom sa osobitne zameriavame na zakázané a vysokorizikové prípady použitia.

Akt o AI nadobudne účinnosť 1. augusta 2024, teda 20 dní po uverejnení v Úradnom vestníku EÚ. Hoci väčšina ustanovení aktu začne platiť až 24 mesiacov po nadobudnutí účinnosti, treba pamätať na niekoľko dôležitých termínov: 

• Zákazy nedovolených praktík začnú platiť 6 mesiacov po nadobudnutí účinnosti (február 2025). 
• Kódexy postupov, ktoré upravia mnohé podrobnosti vykonávania potrebné na dodržanie aktu, sa musia dokončiť do 9 mesiacov od nadobudnutia účinnosti (máj 2025). 
• Väčšina povinností týkajúcich sa AI na všeobecné účely začne platiť 12 mesiacov po nadobudnutí účinnosti (august 2025). 
• Povinnosti pre väčšinu vysokorizikových systémov AI začnú platiť 24 mesiacov po nadobudnutí účinnosti (august 2026). 

Na existujúce systémy GPAI, ktoré neprešli podstatnou úpravou, a na určité systémy AI, ktoré sú súčasťou rozsiahlych informačných systémov uvedených v prílohe X aktu o AI, sa bude vzťahovať dlhšia lehota na implementáciu v trvaní 36 mesiacov (august 2027).

Akt o AI sa uplatňuje najmä na „systémy AI“, ktoré vymedzuje ako „strojový systém navrhnutý na fungovanie s rôznymi úrovňami autonómie, ktorý môže po nasadení vykazovať adaptabilitu a ktorý na dosiahnutie výslovných alebo implicitných cieľov z prijatých vstupov odvodzuje, ako vytvárať výstupy, napríklad predpovede, obsah, odporúčania alebo rozhodnutia, ktoré môžu ovplyvniť fyzické alebo virtuálne prostredie“. Toto vymedzenie je vo všeobecnosti v súlade s definíciou „systémov AI“, ktorú OECD vydala v roku 2023, aj s definíciou použitou vo výkonnom nariadení Bidenovej administratívy č. 14110 o bezpečnom, chránenom a dôveryhodnom vývoji a používaní umelej inteligencie.  

Akt o AI pritom rozlišuje medzi poskytovateľmi a prevádzkovateľmi systémov AI. Poskytovatelia sú subjekty, ako je OpenAI, ktoré vyvíjajú systém AI alebo model AI na všeobecné účely. Patria sem aj subjekty, ktoré si nechajú vyvinúť systém AI alebo model AI na všeobecné účely a uvedú ho na trh, prípadne uvedú systém AI do prevádzky pod vlastným názvom alebo ochrannou známkou, či už za odplatu, alebo bezplatne. 

Prevádzkovatelia sú zákazníci alebo partneri, ktorí tieto systémy či modely používajú vo vlastných aplikáciách, napríklad začlenením GPT‑4o do konkrétneho prípadu použitia. Hoci väčšina povinností podľa aktu o AI pripadá na poskytovateľov, nie na prevádzkovateľov, treba upozorniť, že prevádzkovateľ, ktorý začlení model AI do vlastného systému AI, sa môže podľa aktu stať poskytovateľom. Môže sa tak stať napríklad vtedy, keď systém AI označí vlastnou ochrannou známkou alebo ho upraví spôsobom, ktorý pôvodný poskytovateľ nezamýšľal.

Organizácie mimo EÚ budú musieť akt o AI dodržiavať za rôznych podmienok, ktorých dosah môže byť veľmi široký.  Akt sa napríklad uplatňuje, ak: 

• poskytovateľ uvedie systém AI alebo model GPAI na trh EÚ bez ohľadu na to, či je spoločnosť usadená v EÚ alebo v inej krajine; 
• majú prevádzkovatelia systému AI miesto usadenia alebo sa nachádzajú v EÚ; 
• sú poskytovatelia a prevádzkovatelia systémov AI usadení alebo sa nachádzajú v tretej krajine, ale výstup vytvorený systémom AI sa používa v EÚ.

Široká extrateritoriálna pôsobnosť aktu o AI znamená, že mimoeurópske spoločnosti ho budú musieť dodržiavať, ak chcú poskytovať služby zákazníkom v EÚ, bez ohľadu na to, či majú sídlo v EÚ.

Akt o AI je založený na rámci podľa miery rizika a stanovuje osobitné požiadavky na vysokorizikové systémy AI a systémy s neprijateľným rizikom. Akt vyžaduje, aby spoločnosti klasifikovali úroveň rizika svojich systémov AI a určili tak príslušné regulačné povinnosti. Zároveň vymedzuje rôzne kategórie alebo úrovne systémov AI, s ktorými sa spájajú odlišné povinnosti.

Niektoré postupy v oblasti AI, ktoré sa považujú za neprijateľné riziko pre práva jednotlivcov, sú úplne zakázané. Medzi tieto postupy patria:   

• Používanie podprahových, manipulatívnych alebo klamlivých techník na ovplyvňovanie správania a narušenie informovaného rozhodovania, ktoré spôsobí závažnú ujmu. 
• Zneužívanie zraniteľnosti súvisiacej s vekom, zdravotným postihnutím alebo sociálno-ekonomickou situáciou na ovplyvňovanie správania, ktoré spôsobí závažnú ujmu. 
• Systémy biometrickej kategorizácie, ktoré odvodzujú citlivé charakteristiky, ako sú rasa, politické názory, členstvo v odboroch, náboženské alebo filozofické presvedčenie, sexuálny život či sexuálna orientácia (s obmedzenými výnimkami na označovanie alebo filtrovanie zákonne získaných súborov údajov a na použitie orgánmi presadzovania práva). 
• Systémy sociálneho hodnotenia, napríklad systémy, ktoré hodnotia alebo klasifikujú jednotlivcov či skupiny podľa sociálneho správania alebo osobných vlastností a spôsobujú im ujmu. 
• Posudzovanie rizika, že jednotlivec spácha trestný čin, výlučne na základe profilovania alebo osobnostných čŕt (s obmedzenými výnimkami). 
• Vytváranie databáz na rozpoznávanie tváre necieleným získavaním snímok tvárí z internetu alebo kamerových záznamov.
• Odvodzovanie emócií na pracoviskách alebo vo vzdelávacích inštitúciách. 
• Biometrická identifikácia na diaľku v reálnom čase na verejných miestach na účely presadzovania práva (s určitými výnimkami).

Akt ukladá prísne povinnosti systémom, ktoré podľa neho predstavujú závažnú hrozbu pre zdravie, bezpečnosť alebo základné práva jednotlivcov a sú zaradené medzi vysokorizikové systémy AI (HRAI). Patria sem: a) systémy, ktoré sú bezpečnostnými komponentmi výrobku podliehajúceho iným právnym predpisom EÚ, a b) konkrétne prípady použitia, napríklad systémy určené na rozhodovanie o prístupe do vzdelávacích inštitúcií alebo prijatí do nich, na nábor či výber pracovníkov alebo monitorovanie ich výkonu, na rozhodovanie o nároku na verejnú pomoc či posúdenie úverovej bonity alebo nároku na zdravotné poistenie a stanovenie jeho ceny.  

Systémy HRAI musia spĺňať prísne regulačné povinnosti. Patrí medzi ne zavedenie systému riadenia rizík na nepretržité hodnotenie rizík a stratégií ich zmierňovania počas celého životného cyklu systému HRAI, komplexné riadenie údajov na testovanie a hodnotenie rizika zaujatosti, vypracovanie podrobnej technickej dokumentácie pred uvedením systému na trh a priebežné monitorovanie. 

Na ostatné systémy AI, ktoré nepredstavujú neprijateľné ani vysoké riziko, sa vzťahujú iba obmedzené požiadavky, napríklad povinnosti týkajúce sa transparentnosti. Akt napríklad stanovuje, že ľudia musia byť informovaní, keď komunikujú so systémom AI, ako je chatbot, a že umelo pozmenené obrázky, zvukový či obrazový obsah musia byť jasne označené. Do tejto kategórie bude pravdepodobne patriť väčšina systémov AI na trhu.

Na poskytovateľov modelov a systémov AI na všeobecné účely, ako je OpenAI, sa vzťahujú osobitné požiadavky. Budú musieť: 

• Vypracovať podrobnú technickú dokumentáciu modelu a na požiadanie ju poskytnúť Úradu pre AI.
• Vytvoriť dokumentáciu pre prevádzkovateľov, ktorí používajú model GPAI na vývoj vlastných systémov AI.
• Zaviesť pravidlá zamerané na dodržiavanie autorského práva EÚ.
• Poskytnúť súhrn obsahu použitého na trénovanie modelu GPAI. 

Poskytovatelia modelov GPAI so schopnosťami s veľkým dosahom, pri ktorých sa predpokladá „systémové riziko“ (napríklad modely trénované s veľkým výpočtovým výkonom, technicky vymedzeným ako 10^25 FLOP), budú navyše musieť: 

• Vykonávať hodnotenia modelu s cieľom identifikovať a zmierňovať systémové riziká a nepretržite posudzovať a zmierňovať vznikajúce riziká.
• Oznamovať Európskej komisii modely, ktoré spĺňajú kritériá tejto kategórie.
• Monitorovať a hlásiť závažné incidenty. 
• Zaviesť primerané opatrenia kybernetickej bezpečnosti pre model a jeho fyzickú infraštruktúru.

Poskytovatelia modelov GPAI budú môcť preukázať súlad s požiadavkami aktu o AI prostredníctvom kódexu postupov. Tieto kódexy postupov pravdepodobne vytvoria základ pre konkrétne podrobnosti plnenia týchto povinností. Tešíme sa na spoluprácu s Úradom EÚ pre AI pri ich tvorbe počas nasledujúcich 9 mesiacov. 

OpenAI je odhodlaná dodržiavať akt EÚ o AI a počas jeho uplatňovania bude úzko spolupracovať s novým Úradom EÚ pre AI. V nasledujúcich mesiacoch budeme pokračovať v príprave technickej dokumentácie a ďalších usmernení pre nadväzujúcich poskytovateľov a prevádzkovateľov našich modelov GPAI. Zároveň budeme zvyšovať ochranu a bezpečnosť modelov, ktoré poskytujeme na európskom trhu aj mimo neho.   

Ak sa vaša organizácia snaží určiť, ako dosiahnuť súlad s aktom o AI, mala by najprv klasifikovať všetky systémy AI, ktoré patria do jeho pôsobnosti. Zistite, ktoré systémy GPAI a ďalšie systémy AI používate, určte ich klasifikáciu a zvážte, aké povinnosti vyplývajú z vašich prípadov použitia. Mali by ste tiež určiť, či ste vo vzťahu k systémom AI patriacim do pôsobnosti aktu poskytovateľom alebo prevádzkovateľom. Tieto otázky môžu byť zložité, preto sa v prípade nejasností poraďte s právnikom.