A Primer on the EU AI Act

2025 оны 7-р сарын 11-ний шинэчлэлт: Ерөнхий зориулалтын AI-ийн Ёс зүйн дүрмийн эцсийн текст нийтлэгдсэний дараа 2025 оны 8-р сарын 2-ноос Ерөнхий зориулалтын AI загварт хамаарах заалтууд хүчин төгөлдөр болохтой холбоотойгоор бид хэрхэн хандаж буйгаа тоймлон хуваалцаж байна. 

Өнгөрсөн жил бид ЕХ-ны AI хуулийн талаар энэхүү танилцуулгыг нийтэлж, эдгээр шинэ хууль эрх зүйн шаардлагыг хэрэгжүүлэхэд хэрхэн бэлтгэж байгаагаа урьдчилсан байдлаар тайлбарласан. 

Түүнээс хойш бид AI нийлүүлэгчид ЕХ-ны AI хуулийг дагаж мөрдөх хүрээ болох Ерөнхий зориулалтын AI-ийн Ёс зүйн дүрмийг боловсруулахад оролцсоноор текстийн хэрэгжилтэд идэвхтэй оролцож ирсэн. Мэргэжилтнүүд, иргэний нийгэм, салбарынхантай хамтран хэдэн сарын турш хамтын хүчин чармайлт гаргасны эцэст эцсийн Дүрэм нийтлэгдлээ. Өнөөдөр бид Ёс зүйн дүрэмд гарын үсэг зурж, ЕХ-ны AI хуулийн хүрээнд хамаарах үүргээ биелүүлж байгаагаа харуулахад үүнийг ашиглах шийдвэрээ зарлаж байна.  

Дүрэмд гарын үсэг зурснаар бид ЕХ-ны AI хуулийг дагаж мөрдөх өргөн хүрээний төлөвлөгөөндөө бодит алхам хийж байна. Энэ нь зохицуулалтууд хүчин төгөлдөр болохын хэрээр тасралтгүй байдал, найдвартай байдал, итгэлийг хангах гэсэн бидний амлалтыг илэрхийлэхийн зэрэгцээ Европын бизнесүүд болон иргэдтэй хамтран ажиллаж, AI хувьсгалын үр ашгийг хүртэхэд нь улам чадварлаг, аюулгүй, найдвартай AI загваруудыг хүргэсээр байхыг харуулж байна.

Дүрэмд гарын үсэг зурах нь бидний сүүлийн хэдэн жилд анхлан нэвтрүүлсэн салбартаа тэргүүлэх аюулгүй байдал, ил тод байдлын олон арга хэмжээг бататгаж байна. Бид хил хязгаар AI загваруудыг аюулгүй нэвтрүүлэх арга барилаа тодорхойлсон иж бүрэн аюулгүй байдал, хамгаалалтын протокол болох Preparedness Framework (2023)-ийг нийтэлсэн анхны компаниудын нэг байсан. 

Дотоод хариуцлага ба засаглалын хүрээгээ тасралтгүй хянаж, сайжруулах амлалтаа баримтлан бид 2025 оны 4-р сард шинэчилсэн нийтэлсэн⁠ Preparedness Framework-ийг танилцуулсан. 

Бид улам чадварлаг технологийг үргэлжлүүлэн хөгжүүлж, нэвтрүүлэхийн хэрээр загваруудаа найдвартай, аюулгүй байлгахын тулд өргөн хүрээний шинэ эрсдэл болон бодит ертөнцийн аюулгүй байдлын асуудлуудыг идэвхтэй хянаж, бууруулдаг. Мөн бид эдгээр үйл явцыг байнга нарийвчилж, сайжруулсаар байна. 

• Бид томоохон хувилбар бүртэйгээ хамт загварууд маань юу хийж чаддаг, юу хийж чаддаггүй, ямар эрсдэлийг туршсан, мөн хаана бид одоо ч суралцаж байгааг тайлбарласан дэлгэрэнгүй системийн картууд болон техникийн баримт бичгийг удаан хугацаанд нийтэлж ирсэн. 
• Safety Hub нь манай загваруудын аюулгүй байдлын үнэлгээний үр дүнд олон нийтээр хандах боломж олгодог.
• Манай Улаан багийн сүлжээ нь гаднын мэргэжилтнүүдийг оролцуулж, манай загваруудыг өндөр дарамтаар шалгадаг
• Загварын тодорхойлолт нь хүний үнэт зүйлс болон ардчилсан хэм хэмжээг тусгахын тулд загварын зан төлөвийг хэрхэн бүрдүүлдгийг харах боломж олгодог.

Эдгээр ажлууд нийлээд салбар дахь хамгаалалт, аюулгүй байдлын стандартыг тогтооход болон салбарын шилдэг туршлагад суурилсан хэрэгжих боломжтой Ёс зүйн дүрмийг боловсруулахад чухал үүрэг гүйцэтгэсэн. Аюулгүй, хариуцлагатай AI бүтээнэ гэдэг хэзээ ч дуусдаггүй ажил. Дэлхийн хаана ч байсан манай технологийг хүн бүрийн ашиг тусын төлөө хариуцлагатай ашиглуулахад туслахын тулд бид аюулгүй байдлын арга барилаа давтан сайжруулсаар байх болно.

Ирэх сар, жилүүдэд AI хуулийг хэрэгжүүлэх явцад бид ЕХ-ны AI Office, холбогдох байгууллагууд болон хэрэглэгчидтэйгээ нягт хамтран ажиллаж, AI-ийн өгөөжийг Европын нийгэм, эдийн засагт хамтдаа баталгаажуулах болно. 

Шинэчлэлт: 2024 оны 9-р сарын 25-нд бид ЕХ-ны AI Pact-ийн үндсэн гурван амлалтад нэгдэн орсон.

1. Байгууллагад AI-ийн нэвтрэлтийг дэмжих, AI хуулийг ирээдүйд дагаж мөрдөхөд чиглэх AI засаглалын стратеги хэрэгжүүлэх;
2. боломжтой хэмжээнд AI хуулийн дагуу өндөр эрсдэлтэйд тооцогдох салбаруудад нийлүүлсэн эсвэл нэвтрүүлсэн AI системүүдийн зураглалыг гаргах;
3. өөрсдийн техникийн мэдлэг, туршлага, боловсрол, сургалт болон AI системийг ашиглах нөхцөл байдлыг харгалзан, мөн AI системийн хэрэглээнд өртөх хүмүүс эсвэл бүлгүүдийг тооцон, өөрсдийн ажилтнууд болон тэдний нэрийн өмнөөс AI системтэй ажилладаг бусад хүмүүсийн AI-ийн талаарх мэдлэг, ойлголтыг дэмжих.

AI Pact-ийн AI-ийн мэдлэг, нэвтрэлт, засаглалд чиглэсэн үндсэн анхаарал нь AI-ийн өгөөжийг өргөн хүрээнд хүртээмжтэй түгээх зөв тэргүүлэх чиглэлүүдийг оновчтой тодорхойлж байна гэж бид үздэг. Цаашлаад энэ нь хүн бүрт ашиг тустай, аюулгүй, хамгийн сүүлийн үеийн технологи хүргэх бидний зорилготой нийцэж байна.

ЕХ-ны AI хууль⁠(шинэ цонхонд нээгдэнэ) нь Европ даяар AI-г хөгжүүлэх, нэвтрүүлэх, ашиглахыг зохицуулахад зориулагдсан чухал зохицуулалтын хүрээ юм. Энэ нь Европт итгэлтэйгээр AI нэвтрүүлэхийг дэмжихийн зэрэгцээ эрүүл мэнд, аюулгүй байдал, суурь эрхийг хамгаалахын тулд аюулгүй байдалд ихээхэн төвлөрдөг. Энэ нь AI системтэй холбоотой эрсдэлд үндэслэн шинэ шаардлагуудыг нэвтрүүлж, ялангуяа өндөр эрсдэлтэй болон хүлээн зөвшөөрөх боломжгүй хэрэглээний тохиолдлууд, мөн ерөнхий зориулалтын AI (GPAI) загварууд ба системүүдэд зориулсан тусгай үүргүүдэд онцгой анхаардаг. 

Хууль тогтоох үйл явц дуусч, хууль 2024 оны 8-р сард хүчин төгөлдөр болох боловч хуулийн хүрээг, ялангуяа OpenAI-ийнх шиг GPAI загваруудад хэрхэн үйлчлэхийг тодорхойлохын тулд нэмэлт заавар, хэрэгжүүлэх хууль тогтоомж шаардлагатай болно. 

OpenAI-д бид уг хуулийг дагаж мөрдөх үүрэгтэйдээ үнэнч байна. Энэ нь зөвхөн хууль эрх зүйн үүрэг учраас биш, харин хуулийн зорилго нь бүх хүн төрөлхтний ашиг тусын төлөө аюулгүй AI-г хөгжүүлж, нэвтрүүлэх бидний зорилготой нийцдэг учраас юм. Бид чадамж болон аюулгүй байдлын аль алинаар нь салбартаа тэргүүлэх загваруудыг гаргаж байгаадаа бахархдаг. Бид аюулгүй байдлын арга хэмжээг⁠ хөгжүүлэлтийн үйл явцад эхнээс нь нэгтгэдэг тэнцвэртэй, шинжлэх ухаанч хандлагад итгэдэг. Манай багууд AI аюулгүй байдлын сорилтуудыг шийдвэрлэх өргөн хүрээний техникийн ажлуудыг хамардаг. Үүнд загваруудыг нэвтрүүлэхээс өмнө манай Preparedness Framework⁠-ийн хүрээнд үнэлэх, дотоод болон гадаад улаан баг⁠, нэвтрүүлсний дараах буруугаар ашиглалтыг хянах⁠, Bug Bounty⁠ болон Cybersecurity Grant⁠ хөтөлбөрүүд, мөн жинхэнэ байдлын стандартууд⁠-д оруулж буй хувь нэмэр зэрэг багтана. 

Шинэ хуулийг ирэх саруудад хэрэгжүүлэх явцад бид ЕХ-ны AI Office болон бусад холбогдох байгууллагуудтай нягт хамтран ажиллах бөгөөд аюулгүй, ашиг тустай AI-г нэвтрүүлэхтэй холбоотойгоор бидний хуримтлуулсан туршлага хуулийн зорилтуудыг ахиулахад тусална гэж найдаж байна.  

Энэ нийтлэлд бид AI хуулийн зарим гол сэдвийн тоймыг, ялангуяа хориглосон болон өндөр эрсдэлтэй хэрэглээний тохиолдлуудад онцгойлон анхаарч танилцуулж байна.

AI хууль нь ЕХ-ны Албан ёсны сэтгүүлд нийтлэгдсэнээс хойш 20 хоногийн дараа буюу 2024 оны 8-р сарын 1-нд хүчин төгөлдөр болно. Хуулийн ихэнх заалт хүчин төгөлдөр болсноос хойш 24 сарын дараа хэрэгжиж эхлэх ч дараах хэд хэдэн чухал хугацааг анхаарах хэрэгтэй: 

• Хориглосон практикуудын хориг хүчин төгөлдөр болсноос 6 сарын дараа (2025 оны 2-р сар) хэрэгжиж эхэлнэ 
• Хуулийг дагаж мөрдөхөд шаардлагатай хэрэгжилтийн олон нарийвчилсан асуудлыг хамрах ёс зүйн дүрмүүдийг хүчин төгөлдөр болсноос 9 сарын дотор (2025 оны 5-р сар) эцэслэх шаардлагатай 
• Ерөнхий зориулалтын AI-тай холбоотой ихэнх үүргүүд хүчин төгөлдөр болсноос 12 сарын дараа (2025 оны 8-р сар) хэрэгжиж эхэлнэ. 
• Ихэнх өндөр эрсдэлтэй AI системүүдийн үүргүүд хүчин төгөлдөр болсноос 24 сарын дараа (2026 оны 8-р сар) үйлчилнэ. 

Ихээхэн өөрчлөлтөд ороогүй урьдчилан оршин байсан GPAI системүүд болон AI хуулийн Хавсралт X-д тодорхойлсон томоохон хэмжээний IT системүүдийн бүрэлдэхүүн хэсэг болох зарим AI системүүдэд хэрэгжүүлэх илүү урт хугацаа буюу 36 сар (2027 оны 8-р сар) олгогдоно.

AI хууль нь үндсэндээ “AI систем”-д үйлчилдэг бөгөөд хууль үүнийг “өөр өөр түвшний бие даасан ажиллагаатай ажиллахаар бүтээгдсэн, нэвтрүүлсний дараа дасан зохицох шинж илэрч болох, мөн ил тод эсвэл далд зорилгын үүднээс хүлээн авсан оролтоосоо таамаглал, контент, зөвлөмж, эсвэл физик эсвэл виртуал орчинд нөлөөлж болох шийдвэр зэрэг гаралтыг хэрхэн үүсгэхийг таамагладаг машинд суурилсан систем” гэж тодорхойлдог.  Энэ тодорхойлолт нь OECD-ээс 2023 онд гаргасан “AI систем”-ийн тодорхойлолт болон Байдены засаг захиргааны Аюулгүй, Найдвартай, Итгэл төрүүлэхүйц Хиймэл оюуныг хөгжүүлэх ба ашиглах тухай 14110 дугаар Гүйцэтгэх захирамжид ашигласан тодорхойлолттой ерөнхийдөө нийцдэг.  

Чухал нь, AI хууль нь AI системийн нийлүүлэгч болон нэвтрүүлэгч-ийг ялгаж үздэг. Нийлүүлэгч гэдэг нь OpenAI шиг AI систем эсвэл ерөнхий зориулалтын AI загвар боловсруулдаг этгээдүүд юм. Үүнд мөн AI систем эсвэл ерөнхий зориулалтын AI загвар боловсруулуулж, түүнийг төлбөртэй эсвэл үнэ төлбөргүйгээр өөрийн нэр эсвэл барааны тэмдгээр зах зээлд гаргадаг, эсвэл AI системийг үйлчилгээ болгон ашиглалтад оруулдаг этгээдүүд багтана. 

Нэвтрүүлэгчид гэдэг нь GPT‑4o‑г тодорхой хэрэглээний тохиолдолд нэгтгэх зэрэг эдгээр систем эсвэл загваруудыг өөрсдийн аппликейшнд ашигладаг хэрэглэгчид эсвэл түншүүд юм. AI хуулийн дагуух ихэнх үүрэг нэвтрүүлэгчдээс илүү нийлүүлэгчдэд ногддог боловч AI загварыг өөрийн AI системд нэгтгэсэн нэвтрүүлэгч нь AI систем дээр өөрийн барааны тэмдэг ашиглах, эсвэл нийлүүлэгчийн зориулаагүй байдлаар AI системийг өөрчлөх зэргээр хуулийн дагуу нийлүүлэгч болж хувирч болдгийг анхаарах нь чухал.

ЕХ-ноос гадуурх байгууллагууд ч өргөн хүрээтэй байж болох олон нөхцөлийн дагуу AI хуулийг мөрдөх шаардлагатай хэвээр байна. Жишээлбэл, дараах тохиолдолд хууль үйлчилнэ: 

• Компани ЕХ эсвэл өөр улсад байгуулагдсан эсэхээс үл хамааран нийлүүлэгч AI систем эсвэл GPAI загварыг ЕХ-ны зах зээлд гаргасан бол; 
• AI систем нэвтрүүлэгчид ЕХ-нд байгууллагын байршилтай эсвэл ЕХ-ны нутаг дэвсгэрт байрладаг бол; 
• AI системийн нийлүүлэгчид болон нэвтрүүлэгчид гуравдагч улсад байгуулагдсан эсвэл байрладаг боловч AI системийн гаргасан үр дүн ЕХ-нд ашиглагддаг бол.

AI хуулийн нутаг дэвсгэрээс давсан өргөн хүрээтэй үйлчлэл нь Европын бус компаниуд ЕХ-ны дотор байрладаг эсэхээс үл хамааран ЕХ-ны хэрэглэгчдэд үйлчлэхийн тулд хуулийг мөрдөх шаардлагатай гэсэн үг юм.

AI хууль нь эрсдэлд суурилсан хүрээнд тулгуурладаг бөгөөд өндөр эрсдэлтэй болон хүлээн зөвшөөрөх боломжгүй эрсдэлтэй AI системүүдэд тусгай шаардлага тавьдаг. Хууль нь компаниудаас тохирох зохицуулалтын үүргийг тодорхойлохын тулд AI системийнхээ эрсдэлийн түвшинг ангилахыг шаарддаг бөгөөд тус бүр нь өөр өөр үүрэг дагуулдаг AI системүүдийн янз бүрийн ангилал буюу түвшнийг тогтоодог.

Хувь хүмүүсийн эрхэд хүлээн зөвшөөрөх боломжгүй эрсдэл учруулна гэж үзсэн зарим AI практикуудыг бүрэн хориглоно. Эдгээрт дараах практикууд орно:   

• Зан төлөвийг гажуудуулж, мэдээлэлтэй шийдвэр гаргах чадварыг алдагдуулан ноцтой хохирол учруулах далд, манипуляцийн эсвэл хуурамч арга техникийг нэвтрүүлэх. 
• Нас, хөгжлийн бэрхшээл, эсвэл нийгэм-эдийн засгийн нөхцөлтэй холбоотой эмзэг байдлыг ашиглан зан төлөвийг гажуудуулж, ноцтой хохирол учруулах. 
• Арьс өнгө, улс төрийн үзэл бодол, үйлдвэрчний эвлэлийн гишүүнчлэл, шашны эсвэл философийн итгэл үнэмшил, бэлгийн амьдрал, эсвэл бэлгийн чиг баримжаа зэрэг мэдрэмтгий шинжүүдийг таамагладаг биометрийн ангиллын системүүд (хууль ёсоор олж авсан өгөгдлийн багцыг шошголох эсвэл шүүх, мөн хууль сахиулахад ашиглах хязгаарлагдмал үл хамаарах тохиолдлуудтай) 
• Нийгмийн оноолтын системүүд, тухайлбал хувь хүн эсвэл бүлгийг нийгмийн зан төлөв эсвэл хувийн шинжээр нь үнэлэх, ангилах замаар тэдэнд хохирол учруулдаг системүүд. 
• Профайлчилал эсвэл зан чанарын шинжид тулгуурлан ганцааранг нь ашиглаж хувь хүн эрүүгийн гэмт хэрэг үйлдэх эрсдэлийг үнэлэх (хязгаарлагдмал үл хамаарах тохиолдолтой) 
• Интернет эсвэл CCTV бичлэгээс нүүрний зургийг чиглэлгүйгээр хусаж авч нүүр таних мэдээллийн сан бүрдүүлэх
• Ажлын байр эсвэл боловсролын байгууллагад сэтгэл хөдлөлийг таамаглах 
• Олон нийтийн газар хууль сахиулах зорилгоор алсаас бодит цагийн биометрийн таних ажиллагаа явуулах (тодорхой үл хамаарах тохиолдолтой).

Хууль нь хувь хүмүүсийн эрүүл мэнд, аюулгүй байдал, эсвэл суурь эрхэд ноцтой аюул учруулна гэж үзсэн, Өндөр эрсдэлтэй AI (HRAI) гэж ангилагдсан системүүдэд хатуу үүрэг ногдуулдаг. Үүнд: a) ЕХ-ны бусад хуулинд хамрагдах бүтээгдэхүүний аюулгүй ажиллагааны бүрэлдэхүүн хэсэг болох системүүд, мөн b) боловсролын байгууллагад нэвтрэх эсвэл элсэх эрх тогтоох, ажилтан авах эсвэл сонгох, ажилтны гүйцэтгэлийг хянах, төрийн дэмжлэг авах эрх, зээлийн чадвар, эрүүл мэндийн даатгалд хамрагдах эрх болон үнийг үнэлэх зэрэг тодорхой хэрэглээний тохиолдлууд багтана.  

HRAI системүүд нь HRAI системийн амьдралын мөчлөгийн турш эрсдэл болон бууруулах стратегийг тасралтгүй үнэлэх эрсдэлийн удирдлагын тогтолцоо бий болгох, хэвийлтийн эрсдэлийг шалгах, үнэлэх иж бүрэн өгөгдлийн засаглалын арга хэмжээнүүд, системийг зах зээлд гаргахаас өмнө нарийвчилсан техникийн баримт бичиг бэлтгэх, мөн байнгын мониторингийн үүрэг зэрэг хатуу зохицуулалтын шаардлагыг хангах ёстой. 

Хүлээн зөвшөөрөх боломжгүй эсвэл өндөр эрсдэл үүсгэдэггүй бусад AI системүүдэд ил тод байдлын үүрэг зэрэг хязгаарлагдмал шаардлагууд л үйлчилнэ. Жишээлбэл, хуульд хувь хүмүүс чатбот зэрэг AI системтэй харилцаж байгаа үедээ мэдээлэлтэй байх ёстой гэж заасан бөгөөд зохиомлоор өөрчилсөн зураг, аудио эсвэл видео контентыг тодорхой шошголох шаардлагатай. Зах зээл дээрх ихэнх AI системүүд энэ ангилалд багтах магадлалтай.

OpenAI шиг ерөнхий зориулалтын AI загварууд болон системүүдийн нийлүүлэгчдэд тусгай шаардлага үйлчлэх бөгөөд тэд дараахыг хийх шаардлагатай болно: 

• Загварын дэлгэрэнгүй техникийн баримт бичиг боловсруулж, хүсэлт гаргавал AI Office-т хүргүүлэх
• GPAI загварыг ашиглан өөрсдийн AI системийг хөгжүүлдэг нэвтрүүлэгчдэд зориулсан баримт бичиг боловсруулах
• ЕХ-ны зохиогчийн эрхийн хуулийг хүндэтгэхэд чиглэсэн бодлогууд хэрэгжүүлэх
• GPAI загварыг сургахад ашигласан контентын хураангуйг гаргах 

Нэмж хэлэхэд, “системийн эрсдэл” үүсгэнэ гэж үзсэн өндөр нөлөө бүхий чадамжтай GPAI загваруудын нийлүүлэгчид (жишээ нь, техникийн хувьд 10^25 FLOPs гэж тодорхойлогдох их хэмжээний тооцооллоор сургагдсан загварууд) дараахыг хийх шаардлагатай болно: 

• Системийн эрсдэлийг илрүүлж, бууруулахын тулд загварын үнэлгээ хийж, илэрч буй эрсдэлийг тасралтгүй үнэлж, бууруулах
• Энэ ангиллын шалгуурыг хангаж буй загваруудын талаар ЕХ-ны Комисст мэдэгдэх
• Ноцтой тохиолдлуудыг хянаж, мэдээлэх 
• Загвар болон түүний физик дэд бүтцэд тохирох кибер аюулгүй байдлын арга хэмжээ хэрэгжүүлэх

GPAI загварын нийлүүлэгчид AI хуулийн шаардлагыг хангаж байгаагаа харуулахын тулд ёс зүйн дүрэмд тулгуурлах боломжтой болно. Эдгээр ёс зүйн дүрмүүд нь эдгээр үүргийг хэрэгжүүлэх нарийвчилсан асуудлуудын үндсийг тавих магадлалтай бөгөөд бид ирэх 9 сарын хугацаанд тэдгээрийг боловсруулах явцад ЕХ-ны AI Office-той хамтран ажиллахыг тэсэн ядан хүлээж байна. 

OpenAI нь ЕХ-ны AI хуулийг дагаж мөрдөх амлалттай бөгөөд хуулийг хэрэгжүүлэх явцад бид шинэ ЕХ-ны AI Office-той нягт хамтран ажиллах болно. Ирэх саруудад бид өөрсдийн GPAI загваруудын дараагийн шатны нийлүүлэгчид болон нэвтрүүлэгчдэд зориулсан техникийн баримт бичиг болон бусад зааврыг үргэлжлүүлэн бэлтгэхийн зэрэгцээ Европын зах зээл болон түүнээс цааш бидний нийлүүлж буй загваруудын хамгаалалт, аюулгүй байдлыг ахиулсаар байх болно.   

Хэрэв танай байгууллага AI хуулийг хэрхэн дагаж мөрдөхөө тодорхойлохыг оролдож байгаа бол эхлээд хамрах хүрээнд багтах AI системүүдийг ангилахыг хичээх хэрэгтэй. Та ямар GPAI болон бусад AI систем ашиглаж байгаагаа тодорхойлж, тэдгээрийг хэрхэн ангилж байгааг тогтоон, танай хэрэглээний тохиолдлоос ямар үүргүүд урган гарахыг авч үзээрэй. Мөн хамрах хүрээнд багтах аливаа AI системийн хувьд та нийлүүлэгч үү эсвэл нэвтрүүлэгч үү гэдгээ тодорхойлох хэрэгтэй. Эдгээр асуудал төвөгтэй байж болох тул асуулт байвал хууль зүйн зөвлөхтэй зөвлөлдөх хэрэгтэй.