A Primer on the EU AI Act

2025 жылғы 11 шілдедегі жаңарту: Жалпы мақсаттағы ЖИ бойынша Тәжірибе кодексінің соңғы мәтіні жарияланғаннан кейін, 2025 жылғы 2 тамызда Жалпы мақсаттағы ЖИ модельдеріне қолданылатын ережелердің күшіне енуіне қалай дайындалып жатқанымыз туралы шолуды бөлісіп отырмыз. 

Өткен жылы біз ЕО-ның ЖИ актісі туралы осы кіріспе шолуды жариялап, осы жаңа заң талаптарын енгізуге қалай дайындалып жатқанымыз жөніндегі бастапқы түсініктерімізді ұсынған едік. 

Содан бері біз ЖИ жеткізушілеріне ЕО-ның ЖИ актісіне сәйкестікті қамтамасыз етуге арналған шеңбер — Жалпы мақсаттағы ЖИ бойынша Тәжірибе кодексін әзірлеуге қатысу арқылы осы мәтінді іске асыруға белсенді түрде атсалысып келеміз. Сарапшылармен, азаматтық қоғаммен және индустриямен бірге бірнеше айлық бірлескен жұмыстан кейін Кодекстің соңғы нұсқасы жарияланды. Бүгін біз Тәжірибе кодексіне қол қою және оны ЕО-ның ЖИ актісі шеңберіндегі тиісті міндеттемелерімізге сәйкестікті көрсету үшін пайдалану туралы шешімімізді жариялаймыз.  

Кодекске қол қою арқылы біз ЕО-ның ЖИ актісіне сәйкестік жөніндегі кеңірек жоспарымыз аясында нақты қадам жасап отырмыз. Бұл реттеудің күшіне енуімен бірге сабақтастықты, сенімділікті және сенімді қамтамасыз етуге деген ұстанымымызды көрсетеді, сонымен қатар еуропалық бизнес пен азаматтармен серіктестікті жалғастырып, оларға ЖИ революциясының игілігін көру үшін барған сайын қабілетті, қауіпсіз және қорғалған ЖИ модельдерін ұсынуды жалғастырамыз.

Кодекске қол қою соңғы бірнеше жылда біз бастап берген саладағы озық қауіпсіздік пен ашықтық шараларының көбін нығайтады. Біз қауіпсіз түрде озық ЖИ модельдерін енгізуге көзқарасымызды сипаттайтын жан-жақты қауіпсіздік және қорғаныс хаттамасын — Дайындық шеңберін (2023) — жариялаған алғашқы компаниялардың бірі болдық. 

Ішкі есептілік пен басқару шеңберлерін үздіксіз қайта қарап, жетілдіруге деген міндеттемемізге сай, біз 2025 жылғы сәуірде жаңартылған жарияладық⁠ Дайындық шеңберін. 

Біз барған сайын қабілетті технологияны әзірлеуді және енгізуді жалғастыра отырып, модельдеріміздің сенімді әрі қорғалған болуын сақтау үшін жаңа тәуекелдер мен нақты әлемдегі қауіпсіздік мәселелерінің кең ауқымын белсенді түрде қадағалап, азайтамыз. Және бұл процестерді ұдайы жетілдіріп, жақсартып келеміз. 

• Біз негізгі шығарылымдарымызбен бірге модельдеріміз не істей алатынын және не істей алмайтынын, қандай тәуекелдерді сынағанымызды және қай тұстарда әлі де үйреніп жатқанымызды көрсететін егжей-тегжейлі Жүйе карталарын және техникалық құжаттаманы бұрыннан жариялап келеміз. 
• Safety Hub біздің модельдерге арналған қауіпсіздік бағалау нәтижелеріне жұртшылықтың қол жеткізуін қамтамасыз етеді.
• Біздің Red Teaming Network сыртқы сарапшыларды тартып, модельдерімізді жан-жақты сынақтан өткізеді
• Модель сипаттамасы модель мінез-құлқын адам құндылықтары мен демократиялық нормаларды бейнелейтіндей етіп қалай қалыптастыратынымызды көрсететін терезе ұсынады.

Бірлесе алғанда, бұл жұмыс салада қорғаныс пен қауіпсіздік стандарттарын орнатуда және саланың үздік тәжірибелеріне негізделген іске жарамды Тәжірибе кодексін әзірлеуді ақпараттандыруда маңызды рөл атқарды. Қауіпсіз әрі жауапты ЖИ құру ешқашан аяқталмайды. Біз технологиямыз әлемнің қай жерінде қолданылса да, баршаға жауапкершілікпен пайда әкелуіне көмектесу үшін қауіпсіздікке деген тәсілімізді кезең-кезеңімен жетілдіруді жалғастырамыз.

Алдағы айлар мен жылдары ЖИ актісі енгізілген сайын, біз ЕО-ның ЖИ кеңсесімен, тиісті органдармен және клиенттерімізбен тығыз жұмыс істейміз, сонда Еуропа қоғамы мен экономикасы үшін ЖИ артықшылықтарын бірлесіп қамтамасыз ете аламыз. 

Жаңарту: 2024 жылғы 25 қыркүйекте біз ЕО ЖИ пактіндегі үш негізгі міндеттемеге қосылдық.

1. Ұйымда ЖИ енгізуді ынталандыру және ЖИ актісіне болашақтағы сәйкестікке қарай жұмыс істеу үшін ЖИ басқару стратегиясын қабылдау;
2. мүмкін болғанынша, ЖИ актісі бойынша жоғары тәуекелді деп саналатын салаларда ұсынылған немесе енгізілген ЖИ жүйелерін картаға түсіруді жүргізу;
3. өз қызметкерлері мен олардың атынан ЖИ жүйелерімен жұмыс істейтін басқа тұлғалардың ЖИ туралы хабардарлығын және ЖИ сауаттылығын арттыру, олардың техникалық білімі, тәжірибесі, білімі мен дайындығын, сондай-ақ ЖИ жүйелері қолданылатын контексті ескере отырып және ЖИ жүйелерін пайдалану әсер ететін тұлғаларды немесе тұлғалар топтарын назарға ала отырып.

Біз ЖИ пактінің ЖИ сауаттылығына, енгізуге және басқаруға бағытталған негізгі назары ЖИ табыстарының кеңінен бөлінуін қамтамасыз ету үшін дұрыс басымдықтарды көздейді деп санаймыз. Бұдан бөлек, бұл баршаға пайда әкелетін қауіпсіз, ең озық технологияларды ұсыну жөніндегі миссиямызға сай келеді.

ЕО-ның ЖИ актісі⁠(жаңа терезеде ашылады) — Еуропа бойынша ЖИ-ді әзірлеуді, енгізуді және пайдалануды реттеуге арналған маңызды нормативтік шеңбер. Онда Еуропада сенімге лайық ЖИ енгізуді ілгерілету, сонымен бірге денсаулықты, қауіпсіздікті және негізгі құқықтарды қорғау үшін қауіпсіздікке елеулі мән беріледі. Ол ЖИ жүйелерімен байланысты тәуекелдерге негізделген жаңа талаптарды енгізеді, мұнда жоғары тәуекелді және мүлде жол берілмейтін пайдалану жағдайларына, сондай-ақ жалпы мақсаттағы ЖИ (GPAI) модельдері мен жүйелеріне арналған арнайы міндеттемелерге ерекше назар аударылады. 

Заң шығару процесі аяқталып, заң 2024 жылғы тамызда күшіне енетініне қарамастан, заңның ауқымын айқындау үшін, әсіресе оның OpenAI сияқты GPAI модельдеріне қолданылуына қатысты, қосымша нұсқаулықтар мен іске асыру жөніндегі заңнама қажет болады. 

OpenAI-де біз Актіге сәйкестікті сақтауға міндеттенеміз, мұны тек заңдық міндет болғандықтан ғана емес, заңның мақсаты бүкіл адамзат игілігі үшін қауіпсіз ЖИ әзірлеу және енгізу жөніндегі миссиямызбен үндес болғандықтан да жасаймыз. Біз мүмкіндіктері жағынан да, қауіпсіздігі жағынан да салада алдыңғы қатардағы модельдерді шығаруды мақтан тұтамыз. Біз қауіпсіздік шаралары⁠ әзірлеу процесіне басынан бастап кіріктірілетін теңгерімді, ғылыми тәсілге сенеміз. Біздің командаларымыз ЖИ қауіпсіздігі мәселелерін шешуге бағытталған техникалық жұмыстың кең ауқымын қамтиды, соның ішінде модельдерді енгізер алдындағы Дайындық шеңбері⁠ бойынша бағалау, ішкі және сыртқы редтиминг⁠, енгізілгеннен кейінгі теріс пайдалануды анықтауға арналған мониторинг⁠, Bug Bounty⁠ және Cybersecurity Grant⁠ бағдарламалары, сондай-ақ түпнұсқалық стандарттарына⁠ үлес қосу және тағы басқалары. 

Жаңа заң алдағы айларда енгізілген сайын, біз ЕО-ның ЖИ кеңсесімен және басқа да тиісті органдармен тығыз жұмыс істейміз және жинақтаған сараптамамыз қауіпсіз әрі пайдалы ЖИ енгізу тұрғысынан Актінің мақсаттарын ілгерілетуге көмектеседі деп үміттенеміз.  

Бұл жазбада біз ЖИ актісіндегі кейбір негізгі тақырыптарға шолу жасаймыз, әсіресе тыйым салынған және жоғары тәуекелді пайдалану жағдайларына ерекше назар аударамыз.

ЖИ актісі ЕО-ның Ресми журналында жарияланғаннан кейін 20 күн өткен соң, 2024 жылғы 1 тамызда күшіне енеді. Актінің ережелерінің басым бөлігі күшіне енгеннен кейін 24 ай өткен соң ғана қолданылатын болса да, есте ұстауға тиіс бірнеше маңызды мерзім бар: 

• Тыйым салынған тәжірибелерге салынатын тыйымдар күшіне енгеннен 6 айдан кейін күшіне енеді (2025 жылғы ақпан) 
• Актіге сәйкестік үшін қажет іске асырудың көптеген егжей-тегжейін қамтитын тәжірибе кодекстері күшіне енгеннен 9 ай ішінде аяқталуы тиіс (2025 жылғы мамыр) 
• Жалпы мақсаттағы ЖИ жөніндегі міндеттемелердің көбі күшіне енгеннен 12 айдан кейін қолданыла бастайды (2025 жылғы тамыз). 
• Жоғары тәуекелді ЖИ жүйелерінің көбі үшін міндеттемелер күшіне енгеннен 24 айдан кейін қолданылады (2026 жылғы тамыз). 

Елеулі өзгеріске ұшырамаған бұрыннан бар GPAI жүйелері және ЖИ актісінің X қосымшасында айқындалған ірі ауқымды IT жүйелерінің құрамдасы болып табылатын кейбір ЖИ жүйелері үшін іске асыру мерзімі ұзағырақ — 36 ай (2027 жылғы тамыз) болады.

ЖИ актісі негізінен “ЖИ жүйелеріне” қолданылады, оны Акт “әртүрлі автономия деңгейлерінде жұмыс істеуге арналған, енгізілгеннен кейін бейімделгіштік танытуы мүмкін және айқын не жасырын мақсаттар үшін алатын кіріс деректерінен болжамдар, контент, ұсынымдар немесе физикалық не виртуалды ортаға ықпал ете алатын шешімдер сияқты шығыстарды қалай жасау керегін шығаратын, машинаға негізделген жүйе” деп анықтайды.  Бұл анықтама OECD-нің 2023 жылы жарияланған “ЖИ жүйелері” анықтамасымен және Байден әкімшілігінің Жасанды интеллектіні қауіпсіз, қорғалған және сенімге лайық әзірлеу мен пайдалану туралы 14110 Атқарушы жарлығында қолданылған анықтамамен жалпы алғанда үйлеседі.  

Маңыздысы, ЖИ актісі ЖИ жүйелерінің жеткізушілері мен енгізушілерін ажыратады. Жеткізушілер — OpenAI сияқты, ЖИ жүйесін немесе жалпы мақсаттағы ЖИ моделін әзірлейтін субъектілер. Бұған сондай-ақ ЖИ жүйесін немесе жалпы мақсаттағы ЖИ моделін әзірлетіп, оны нарыққа шығаратын немесе ЖИ жүйесін өз атауымен не тауар белгісімен, ақылы не тегін түрде пайдалануға енгізетін субъектілер де кіреді. 

Енгізушілер — бұл осы жүйелерді немесе модельдерді өз қолданбаларында пайдаланатын клиенттер не серіктестер, мысалы GPT‑4o‑ны нақты бір қолдану жағдайына кіріктіру. ЖИ актісі бойынша міндеттемелердің басым бөлігі енгізушілерге емес, жеткізушілерге жүктелсе де, ЖИ моделін өз ЖИ жүйесіне кіріктіретін енгізуші Акт бойынша жеткізушіге айналуы мүмкін екенін атап өткен маңызды, мысалы, ЖИ жүйесінде өз тауар белгісін қолдану немесе ЖИ жүйесін жеткізуші көздемеген тәсілдермен өзгерту арқылы.

ЕО-дан тыс ұйымдар да бірқатар кең ауқымды болуы мүмкін шарттарда ЖИ актісіне сай болуы тиіс.  Мысалы, Акт мына жағдайларда қолданылады: 

• Жеткізуші компания ЕО-да немесе басқа елде құрылғанына қарамастан, ЖИ жүйесін немесе GPAI моделін ЕО нарығына шығарса; 
• ЖИ жүйесін енгізушілердің тіркелген орны ЕО-да болса немесе олар ЕО аумағында орналасса; 
• ЖИ жүйелерін жеткізушілер мен енгізушілер үшінші елде құрылған немесе орналасқан болса, бірақ ЖИ жүйесі шығарған нәтиже ЕО ішінде пайдаланылса.

ЖИ актісінің кең ауқымды экстерриториялық қолданылуы еуропалық емес компаниялар ЕО клиенттеріне қызмет көрсету үшін, ЕО ішінде орналасқанына қарамастан, Актіге сай болуы тиіс екенін білдіреді.

ЖИ актісі тәуекелге негізделген шеңберге құрылған, онда жоғары тәуекелді және жол берілмейтін тәуекелді ЖИ жүйелеріне арналған нақты талаптар бар. Акт компаниялардан тиісті реттеуші міндеттемелерді анықтау үшін өз ЖИ жүйелерінің тәуекел деңгейін жіктеуді талап етеді және әрқайсысына әртүрлі міндеттемелер жүктелетін ЖИ жүйелерінің әртүрлі санаттарын немесе деңгейлерін белгілейді.

Жеке тұлғалардың құқықтарына жол берілмейтін тәуекел төндіреді деп танылған кейбір ЖИ тәжірибелеріне толық тыйым салынады. Бұл тәжірибелерге мыналар жатады:   

• Мінез-құлықты бұрмалап, саналы шешім қабылдауды әлсірету үшін елеулі зиян келтіретін сублиминал, манипуляциялық немесе алдамшы тәсілдерді қолдану. 
• Жасқа, мүгедектікке немесе әлеуметтік-экономикалық жағдайларға байланысты осалдықтарды пайдаланып, мінез-құлықты бұрмалау арқылы елеулі зиян келтіру. 
• Нәсіл, саяси көзқарас, кәсіподақ мүшелігі, діни не философиялық сенім, жыныстық өмір немесе жыныстық бағдар сияқты сезімтал сипаттарды шығаратын биометриялық санаттау жүйелері (заңды түрде алынған деректер жиынтықтарын таңбалау немесе сүзгілеу және құқық қорғау мақсатында пайдалану үшін шектеулі ерекшеліктермен) 
• Әлеуметтік мінез-құлыққа немесе жеке қасиеттерге қарай адамдарды не топтарды бағалайтын немесе жіктейтін жүйелер сияқты әлеуметтік балл беру жүйелері, оларға зиян келтіретін. 
• Тек профильдеуге немесе тұлғалық қасиеттерге сүйене отырып, адамның қылмыстық құқықбұзушылық жасау тәуекелін бағалау (шектеулі ерекшеліктермен) 
• Интернеттен немесе CCTV бейнежазбаларынан бет кескіндерін нысанасыз жинау арқылы бет-әлпетті тану дерекқорларын құрастыру
• Жұмыс орындарында немесе білім беру ұйымдарында эмоцияларды анықтау 
• Құқық қорғау мақсатында қоғамдық орындарда нақты уақыттағы қашықтан биометриялық сәйкестендіру (кейбір ерекшеліктермен).

Акт денсаулыққа, қауіпсіздікке немесе адамдардың негізгі құқықтарына елеулі қауіп төндіреді деп танылған және Жоғары тәуекелді ЖИ (HRAI) ретінде санатталатын жүйелерге қатаң міндеттемелер жүктейді. Оларға мыналар жатады: a) ЕО-ның басқа заңдарына бағынатын өнімнің қауіпсіздік құрамдастары болып табылатын жүйелер және b) мысалы, білім беру ұйымдарына қолжетімділікті не қабылдауды анықтауға, қызметкерлерді іріктеуге немесе таңдауға не олардың жұмысын бақылауға, мемлекеттік көмек алуға жарамдылықты, несие қабілеттілігін, медициналық сақтандыруға жарамдылық пен бағаны бағалауға арналған нақты қолдану жағдайлары және т.б.  

HRAI жүйелері қатаң реттеуші міндеттемелерге сай болуы тиіс, мысалы, HRAI жүйесінің бүкіл өмірлік циклі бойы тәуекелдер мен оларды азайту стратегияларын үздіксіз бағалайтын тәуекелдерді басқару жүйесін құру, бұрмалау тәуекелдерін сынауға және бағалауға арналған жан-жақты деректерді басқару шаралары, жүйе нарыққа шығарылмай тұрып егжей-тегжейлі техникалық құжаттама дайындау және тұрақты мониторинг міндеттемелері. 

Жол берілмейтін немесе жоғары тәуекел тудырмайтын өзге ЖИ жүйелеріне тек шектеулі талаптар, мысалы, ашықтық міндеттемелері ғана қолданылады. Мысалы, Акт адамдар chatbot сияқты ЖИ жүйесімен өзара әрекеттесіп жатқан кезде бұл туралы хабардар болуы тиіс екенін және жасанды түрде өңделген сурет, аудио немесе бейне контент анық таңбалануы керектігін нақтылайды. Нарықтағы ЖИ жүйелерінің көбі осы санатқа жатуы мүмкін.

OpenAI сияқты жалпы мақсаттағы ЖИ модельдері мен жүйелерін жеткізушілерге арнайы талаптар қолданылады, олардан мыналар талап етіледі: 

• Модельдің егжей-тегжейлі техникалық құжаттамасын әзірлеп, сұрау бойынша оны ЖИ кеңсесіне ұсыну
• GPAI моделін өз ЖИ жүйелерін әзірлеу үшін пайдаланатын енгізушілерге арналған құжаттама жасау
• ЕО-ның авторлық құқық туралы заңнамасын құрметтеуге бағытталған саясаттарды енгізу
• GPAI моделін үйретуде пайдаланылған контенттің қысқаша мазмұнын ұсыну 

Бұған қоса, “жүйелік тәуекелдер” тудырады деп саналатын, ықпалы жоғары қабілеттері бар GPAI модельдерін жеткізушілерден (мысалы, техникалық тұрғыдан 10^25 FLOPs ретінде анықталатын, үлкен көлемдегі есептеу қуатымен үйретілген модельдер) мыналар талап етіледі: 

• Жүйелік тәуекелдерді анықтау және азайту үшін модель бағалауларын жүргізу, сондай-ақ туындайтын тәуекелдерді үздіксіз бағалау және азайту
• Осы санаттың өлшемдеріне сай келетін модельдер туралы ЕО Комиссиясын хабардар ету
• Ауыр инциденттерді бақылау және хабарлау 
• Модель мен оның физикалық инфрақұрылымы үшін тиісті киберқауіпсіздік шараларын енгізу

GPAI модельдерін жеткізушілер ЖИ актісінің талаптарына сәйкестікті көрсету үшін тәжірибе кодексіне сүйене алады. Бұл тәжірибе кодекстері осы міндеттемелерді іске асырудың нақты егжей-тегжейлеріне негіз қалау ықтимал, және алдағы 9 ай ішінде олар әзірленген кезде ЕО ЖИ кеңсесімен жұмыс істеуді асыға күтеміз. 

OpenAI ЕО-ның ЖИ актісіне сәйкестікті сақтауға міндеттенеді және заң енгізілген сайын жаңа ЕО ЖИ кеңсесімен тығыз жұмыс істейтін боламыз. Алдағы айларда біз GPAI модельдеріміздің кейінгі жеткізушілері мен енгізушілеріне арналған техникалық құжаттаманы және өзге де нұсқаулықтарды дайындауды жалғастыра отырып, Еуропа нарығында және одан тыс жерде ұсынатын модельдердің қорғанысы мен қауіпсіздігін ілгерілете береміз.   

Егер сіздің ұйымыңыз ЖИ актісіне қалай сай болуды анықтауға тырысып жатса, алдымен қамту аясына кіретін кез келген ЖИ жүйелерін жіктеуге тырысуыңыз керек. Қандай GPAI және өзге ЖИ жүйелерін пайдаланатыныңызды анықтаңыз, олардың қалай жіктелетінін белгілеңіз және қолдану жағдайларыңыздан қандай міндеттемелер туындайтынын қарастырыңыз. Сондай-ақ қамту аясына кіретін кез келген ЖИ жүйесіне қатысты жеткізуші ме, әлде енгізуші ме екеніңізді анықтауыңыз керек. Бұл мәселелер күрделі болуы мүмкін, сондықтан сұрақтарыңыз болса, заңгерлік кеңеске жүгінуіңіз қажет.