A Primer on the EU AI Act

Atjauninājums 2025. gada 11. jūlijā: pēc Vispārīga lietojuma MI prakses kodeksa galīgā teksta publicēšanas sniedzam pārskatu par mūsu gatavošanos tam, ka 2025. gada 2. augustā stāsies spēkā noteikumi, kas piemērojami vispārīga lietojuma MI modeļiem. 

Pērn publicējām šo ievadu ES MI aktā, lai sniegtu sākotnēju ieskatu, kā gatavojāmies šo jauno juridisko prasību īstenošanai. 

Kopš tā laika esam aktīvi iesaistījušies akta īstenošanā, piedaloties Vispārīga lietojuma MI prakses kodeksa izstrādē. Tas ir satvars, kas palīdz MI nodrošinātājiem ievērot ES MI aktu. Pēc vairākus mēnešus ilga kopīga darba ar ekspertiem, pilsonisko sabiedrību un nozares pārstāvjiem ir publicēts galīgais kodekss. Šodien paziņojam par lēmumu parakstīt Prakses kodeksu un izmantot to, lai apliecinātu atbilstību attiecīgajiem ES MI aktā noteiktajiem pienākumiem.

Parakstot kodeksu, speram konkrētu soli plašākajā plānā, lai nodrošinātu atbilstību ES MI aktam. Tas apliecina mūsu apņemšanos, regulējumam stājoties spēkā, nodrošināt nepārtrauktību, uzticamību un paļāvību, vienlaikus turpinot sadarboties ar Eiropas uzņēmumiem un iedzīvotājiem un piedāvājot arvien spējīgākus, drošākus un aizsargātākus MI modeļus, lai viņi varētu izmantot MI revolūcijas sniegtās priekšrocības.

Kodeksa parakstīšana nostiprina daudzus mūsu pēdējos gados ieviestos drošības un pārredzamības pasākumus, kas ir vieni no vadošajiem nozarē. Bijām viens no pirmajiem uzņēmumiem, kas publicēja visaptverošu drošuma un drošības protokolu — mūsu Sagatavotības satvaru (2023), kurā izklāstīta mūsu pieeja robežšķirtnes MI modeļu drošai ieviešanai.

Ievērojot apņemšanos pastāvīgi pārskatīt un pilnveidot iekšējās pārskatatbildības un pārvaldības satvarus, 2025. gada aprīlī publicējām⁠ atjauninātu Sagatavotības satvaru. 

Turpinot izstrādāt un ieviest arvien spējīgākas tehnoloģijas, mēs aktīvi uzraugām un mazinām plašu jaunu risku un reālās pasaules drošības problēmu klāstu, lai mūsu modeļi būtu uzticami un droši. Šos procesus pastāvīgi precizējam un pilnveidojam.

• Jau ilgstoši līdz ar nozīmīgākajiem laidieniem publicējam detalizētas sistēmu kartītes un tehnisko dokumentāciju, kurā skaidrots, ko mūsu modeļi spēj un nespēj, kādus riskus esam pārbaudījuši un kurās jomās vēl turpinām mācīties. 
• Drošības centrā sabiedrībai ir pieejami mūsu modeļu drošības novērtējumu rezultāti.
• Mūsu imitētu uzbrukumu tīkls piesaista ārējos ekspertus, lai rūpīgi pārbaudītu mūsu modeļus.
• Modeļa specifikācija ļauj ielūkoties, kā veidojam modeļu darbību, lai tā atspoguļotu cilvēciskās vērtības un demokrātiskās normas.

Šis darbs kopumā ir būtiski palīdzējis noteikt nozares drošuma un drošības standartus un izstrādāt praktiski īstenojamu Prakses kodeksu, kura pamatā ir nozares paraugprakse. Droša un atbildīga MI izstrāde nekad nav pabeigta. Mēs turpināsim pakāpeniski pilnveidot savu pieeju drošībai, lai mūsu tehnoloģija atbildīgi sniegtu labumu ikvienam neatkarīgi no atrašanās vietas.

Turpmākajos mēnešos un gados, īstenojot MI aktu, cieši sadarbosimies ar ES MI biroju, attiecīgajām iestādēm un klientiem, lai kopīgi nodrošinātu MI sniegtos ieguvumus Eiropas sabiedrībai un ekonomikai. 

Atjauninājums: 2024. gada 25. septembrī mēs pievienojāmies trim galvenajām ES MI pakta saistībām.

1. Pieņemt MI pārvaldības stratēģiju, lai veicinātu MI ieviešanu organizācijā un strādātu pie turpmākas atbilstības MI aktam;
2. ciktāl iespējams, apzināt nodrošinātās vai ieviestās MI sistēmas jomās, kas saskaņā ar MI aktu tiktu uzskatītas par augsta riska jomām;
3. veicināt darbinieku un citu personu, kuras to vārdā strādā ar MI sistēmām, informētību un MI lietotprasmi, ņemot vērā šo personu tehniskās zināšanas, pieredzi, izglītību un apmācību, MI sistēmu izmantošanas kontekstu, kā arī personas vai personu grupas, kuras ietekmē šo sistēmu izmantošana.

Uzskatām, ka MI pakta galvenā uzmanība MI lietotprasmei, ieviešanai un pārvaldībai ir vērsta uz pareizajām prioritātēm, lai MI sniegtie ieguvumi būtu plaši pieejami. Turklāt tās atbilst mūsu misijai nodrošināt drošas, progresīvas tehnoloģijas, kas sniedz labumu ikvienam.

ES MI akts⁠(atveras jaunā logā) ir nozīmīgs tiesiskais regulējums, kas paredzēts MI izstrādes, ieviešanas un izmantošanas pārvaldībai visā Eiropā. Tajā liela uzmanība pievērsta drošībai, lai Eiropā veicinātu uzticama MI ieviešanu, vienlaikus aizsargājot veselību, drošību un pamattiesības. Ar to ievieš jaunas prasības atkarībā no MI sistēmu radītajiem riskiem, īpašu uzmanību pievēršot augsta riska un nepieņemamas izmantošanas gadījumiem, kā arī nosakot īpašus pienākumus vispārīga lietojuma MI (GPAI) modeļiem un sistēmām. 

Lai gan likumdošanas process ir pabeigts un akts stāsies spēkā 2024. gada augustā, būs vajadzīgas papildu vadlīnijas un īstenošanas tiesību akti, lai noteiktu tā tvērumu, jo īpaši attiecībā uz tādiem GPAI modeļiem kā OpenAI modeļi. 

OpenAI ir apņēmies ievērot šo aktu ne tikai tāpēc, ka tas ir juridisks pienākums, bet arī tāpēc, ka akta mērķis atbilst mūsu misijai izstrādāt un ieviest drošu MI visas cilvēces labā. Lepojamies, ka izlaižam modeļus, kuri ir nozares līderi gan spēju, gan drošības ziņā. Mēs atbalstām līdzsvarotu, zinātnisku pieeju, kurā drošības pasākumi⁠ jau no paša sākuma ir integrēti izstrādes procesā. Mūsu komandas īsteno plašu tehnisko pasākumu klāstu MI drošības problēmu risināšanai, tostarp pirms ieviešanas novērtē modeļus saskaņā ar mūsu Sagatavotības satvaru⁠, veic iekšējus un ārējus imitētus uzbrukumus⁠, pēc ieviešanas veic ļaunprātīgas izmantošanas uzraudzību⁠, īsteno programmas Bug Bounty⁠ un Cybersecurity Grant⁠, kā arī palīdz izstrādāt autentiskuma standartus⁠ un veic citus pasākumus. 

Turpmākajos mēnešos, īstenojot jauno aktu, mēs cieši sadarbosimies ar ES MI biroju un citām attiecīgajām iestādēm. Ceram, ka mūsu uzkrātās zināšanas palīdzēs sasniegt akta mērķus attiecībā uz droša un sabiedrībai noderīga MI ieviešanu.  

Šajā rakstā sniedzam pārskatu par dažiem galvenajiem MI akta jautājumiem, īpašu uzmanību pievēršot aizliegtajiem un augsta riska izmantošanas gadījumiem.

MI akts stāsies spēkā 2024. gada 1. augustā — 20 dienas pēc tā publicēšanas ES Oficiālajā Vēstnesī. Lai gan vairums akta noteikumu kļūs piemērojami tikai 24 mēnešus pēc tā stāšanās spēkā, jāņem vērā vairāki svarīgi termiņi: 

• Aizliegtās prakses aizliegumi kļūs piemērojami 6 mēnešus pēc akta stāšanās spēkā (2025. gada februārī). 
• Prakses kodeksi, kuros tiks aplūkotas daudzas akta ievērošanai nepieciešamās īstenošanas nianses, būs jāpabeidz 9 mēnešu laikā pēc akta stāšanās spēkā (līdz 2025. gada maijam). 
• Vairums ar vispārīga lietojuma MI saistīto pienākumu kļūs piemērojami 12 mēnešus pēc akta stāšanās spēkā (2025. gada augustā). 
• Pienākumi attiecībā uz vairumu augsta riska MI sistēmu kļūs piemērojami 24 mēnešus pēc akta stāšanās spēkā (2026. gada augustā). 

Jau pastāvošām GPAI sistēmām, kurās nav veiktas būtiskas izmaiņas, un noteiktām MI sistēmām, kas ir MI akta X pielikumā norādīto liela mēroga IT sistēmu sastāvdaļas, būs ilgāks īstenošanas termiņš — 36 mēneši (līdz 2027. gada augustam).

MI akts galvenokārt attiecas uz “MI sistēmām”, kas aktā definētas kā “mašinizēta sistēma, kura projektēta darboties ar dažādiem autonomijas līmeņiem, pēc ieviešanas var būt adaptīva un kura skaidri noteiktu vai implicītu mērķu sasniegšanai no saņemtajiem ievaddatiem secina, kā ģenerēt iznākumus, piemēram, prognozes, saturu, ieteikumus vai lēmumus, kas var ietekmēt fizisko vai virtuālo vidi”. Šī definīcija kopumā atbilst ESAO 2023. gadā publicētajai “MI sistēmu” definīcijai un definīcijai, kas izmantota Baidena administrācijas izpildrīkojumā Nr. 14110 par drošu, aizsargātu un uzticamu mākslīgā intelekta izstrādi un izmantošanu.  

Būtiski, ka MI aktā ir nošķirti MI sistēmu nodrošinātāji un ieviesēji. Nodrošinātāji ir tādas struktūras kā OpenAI, kas izstrādā MI sistēmu vai vispārīga lietojuma MI modeli. Tie ir arī subjekti, kuri pasūta MI sistēmas vai vispārīga lietojuma MI modeļa izstrādi un laiž to tirgū vai nodod MI sistēmu ekspluatācijā ar savu nosaukumu vai preču zīmi par maksu vai bez maksas. 

Ieviesēji ir klienti vai partneri, kas šīs sistēmas vai modeļus izmanto savās lietotnēs, piemēram, integrē GPT‑4o konkrētam izmantošanas gadījumam. Lai gan vairums MI aktā paredzēto pienākumu attiecas uz nodrošinātājiem, nevis ieviesējiem, jāņem vērā, ka ieviesējs, kurš integrē MI modeli savā MI sistēmā, saskaņā ar aktu var kļūt par nodrošinātāju, piemēram, ja tas MI sistēmai izmanto savu preču zīmi vai pārveido sistēmu nodrošinātāja neparedzētā veidā.

Arī organizācijām ārpus ES MI akts būs jāievēro dažādos apstākļos, kuriem var būt visai plašs tvērums.  Piemēram, aktu piemēro, ja: 

• nodrošinātājs laiž ES tirgū MI sistēmu vai GPAI modeli neatkarīgi no tā, vai uzņēmums ir iedibināts ES vai citā valstī; 
• MI sistēmas ieviesēji ir iedibināti vai atrodas ES; 
• MI sistēmu nodrošinātāji un ieviesēji ir iedibināti vai atrodas trešā valstī, taču MI sistēmas radītais iznākums tiek izmantots ES.

MI akta plašā eksteritoriālā piemērojamība nozīmē, ka uzņēmumiem ārpus Eiropas tas būs jāievēro, lai apkalpotu ES klientus, neatkarīgi no tā, vai uzņēmumi atrodas ES.

MI akta pamatā ir uz risku balstīts satvars ar īpašām prasībām augsta un nepieņemama riska MI sistēmām. Akts nosaka uzņēmumiem pienākumu klasificēt savu MI sistēmu riska līmeni, lai noteiktu attiecīgos normatīvos pienākumus, un paredz vairākas MI sistēmu kategorijas jeb līmeņus, kam piemēro atšķirīgus pienākumus.

Noteikta MI prakse, kas tiek uzskatīta par nepieņemamu risku personu tiesībām, ir pilnībā aizliegta. Šāda prakse ietver:   

• Zemapziņu ietekmējošu, manipulatīvu vai maldinošu paņēmienu izmantošanu, lai mainītu uzvedību un traucētu pieņemt informētus lēmumus, tādējādi radot būtisku kaitējumu. 
• Ar vecumu, invaliditāti vai sociālekonomiskajiem apstākļiem saistītas neaizsargātības izmantošanu, lai mainītu uzvedību, tādējādi radot būtisku kaitējumu. 
• Biometriskās kategorizācijas sistēmas, kas izsecina sensitīvus atribūtus, piemēram, rasi, politiskos uzskatus, dalību arodbiedrībā, reliģisko vai filozofisko pārliecību, dzimumdzīvi vai seksuālo orientāciju (ar ierobežotiem izņēmumiem likumīgi iegūtu datu kopu marķēšanai vai filtrēšanai un izmantošanai tiesībaizsardzībā). 
• Sociālās vērtēšanas sistēmas, piemēram, sistēmas, kas izvērtē vai klasificē personas vai grupas pēc sociālās uzvedības vai personiskajām īpašībām, tādējādi nodarot tām kaitējumu. 
• Riska, ka persona izdarīs noziedzīgu nodarījumu, novērtēšanu, pamatojoties tikai uz profilēšanu vai personības iezīmēm (ar ierobežotiem izņēmumiem). 
• Sejas atpazīšanas datubāzu veidošanu, mērķtiecīgi neatlasot un automatizēti iegūstot seju attēlus no interneta vai videonovērošanas ierakstiem.
• Emociju izsecināšanu darbavietās vai izglītības iestādēs. 
• Attālinātu biometrisko identifikāciju reāllaikā publiskās vietās tiesībaizsardzības nolūkos (ar noteiktiem izņēmumiem).

Akts nosaka stingrus pienākumus sistēmām, kuras saskaņā ar tajā noteikto rada būtisku apdraudējumu veselībai, drošībai vai personu pamattiesībām un tiek klasificētas kā augsta riska MI (HRAI). Tās ietver: a) sistēmas, kas ir saskaņā ar citiem ES tiesību aktiem regulēta produkta drošības sastāvdaļas, un b) konkrētus izmantošanas gadījumus, piemēram, sistēmas, ar kurām nosaka piekļuvi izglītības iestādēm vai uzņemšanu tajās, pieņem darbā vai atlasa darbiniekus, uzrauga darbinieku sniegumu, nosaka tiesības uz valsts palīdzību vai kredītspēju, kā arī izvērtē tiesības saņemt veselības apdrošināšanu un nosaka tās cenu.  

HRAI sistēmām jāievēro stingri normatīvie pienākumi, tostarp jāizveido riska pārvaldības sistēma, lai visā HRAI sistēmas dzīves ciklā pastāvīgi izvērtētu riskus un to mazināšanas stratēģijas, jāīsteno visaptveroši datu pārvaldības pasākumi neobjektivitātes risku pārbaudei un izvērtēšanai, pirms sistēmas laišanas tirgū jāsagatavo detalizēta tehniskā dokumentācija un jāveic pastāvīga uzraudzība. 

Citām MI sistēmām, kas nerada nepieņemamu vai augstu risku, piemēro tikai ierobežotas prasības, piemēram, pārredzamības pienākumus. Piemēram, aktā noteikts, ka cilvēki ir jāinformē, kad viņi mijiedarbojas ar MI sistēmu, piemēram, tērzēšanas robotu, un ka ar mākslīgiem līdzekļiem pārveidoti attēli, audio vai video saturs ir skaidri jāmarķē. Vairums tirgū pieejamo MI sistēmu, visticamāk, ietilps šajā kategorijā.

Tādiem vispārīga lietojuma MI modeļu un sistēmu nodrošinātājiem kā OpenAI piemēro īpašas prasības, saskaņā ar kurām tiem būs: 

• Jāizstrādā detalizēta modeļa tehniskā dokumentācija un pēc pieprasījuma jāiesniedz tā MI birojam.
• Jāizveido dokumentācija ieviesējiem, kuri izmanto GPAI modeli savu MI sistēmu izstrādei.
• Jāīsteno politika, kuras mērķis ir ievērot ES autortiesību aktus.
• Jāsniedz GPAI modeļa apmācībā izmantotā satura kopsavilkums. 

Turklāt GPAI modeļu ar lielas ietekmes spējām, kuri tiek uzskatīti par “sistēmisku risku” radošiem (piemēram, modeļi, kuru apmācībai izmantots liels skaitļošanas jaudas apjoms, ko tehniski definē kā 10^25 FLOP), nodrošinātājiem būs: 

• Jāveic modeļu novērtēšana, lai identificētu un mazinātu sistēmiskos riskus, kā arī pastāvīgi jāizvērtē un jāmazina radītie riski.
• Jāpaziņo Eiropas Komisijai par modeļiem, kas atbilst šīs kategorijas kritērijiem.
• Jāuzrauga nopietni incidenti un jāziņo par tiem. 
• Jāievieš atbilstoši kiberdrošības pasākumi modelim un tā fiziskajai infrastruktūrai.

Lai apliecinātu atbilstību MI akta prasībām, GPAI modeļu nodrošinātāji varēs izmantot prakses kodeksu. Šie prakses kodeksi, visticamāk, noteiks pamatu konkrētām šo pienākumu īstenošanas prasībām, un ceram nākamo deviņu mēnešu laikā sadarboties ar ES MI biroju to izstrādē. 

OpenAI ir apņēmies ievērot ES MI aktu, un tā īstenošanas laikā mēs cieši sadarbosimies ar jauno ES MI biroju. Turpmākajos mēnešos turpināsim gatavot tehnisko dokumentāciju un citus norādījumus mūsu GPAI modeļu pakārtotajiem nodrošinātājiem un ieviesējiem, vienlaikus uzlabojot Eiropas tirgū un citviet piedāvāto modeļu drošumu un drošību.   

Ja jūsu organizācija vēlas noskaidrot, kā ievērot MI aktu, vispirms jāmēģina klasificēt visas tā tvērumā esošās MI sistēmas. Apziniet izmantotās GPAI un citas MI sistēmas, nosakiet to klasifikāciju un izvērtējiet, kādi pienākumi izriet no jūsu izmantošanas gadījumiem. Jums arī jānosaka, vai attiecībā uz kādu akta tvērumā esošu MI sistēmu esat nodrošinātājs vai ieviesējs. Šie jautājumi var būt sarežģīti, tādēļ neskaidrību gadījumā konsultējieties ar juristu.