A Primer on the EU AI Act

Ажурирање од 11. јула 2025.: Након објављивања коначног текста Кодекса праксе за вештачку интелигенцију опште намене, делимо преглед нашег приступа ступању на снагу одредаба које се односе на моделе вештачке интелигенције опште намене 2. августа 2025. године. 

Прошле године смо објавили овај преглед Закона ЕУ о вештачкој интелигенцији како бисмо изложили прелиминарна сазнања о томе како смо се припремали за примену ових нових законских захтева. 

Од тада активно учествујемо у примени текста тако што смо учествовали у изради Кодекса праксе за вештачку интелигенцију опште намене, оквира који пружаоцима ВИ помаже да се ускладе са Законом ЕУ о вештачкој интелигенцији. После више месеци заједничког рада са стручњацима, цивилним друштвом и индустријом, објављен је коначни Кодекс. Данас објављујемо нашу одлуку да потпишемо Кодекс праксе и користимо га да покажемо усклађеност са нашим релевантним обавезама у складу са Законом ЕУ о вештачкој интелигенцији.  

Потписивањем Кодекса предузимамо конкретан корак у оквиру нашег ширег плана усклађености са Законом ЕУ о вештачкој интелигенцији. То одражава нашу посвећеност обезбеђивању континуитета, поузданости и поверења док прописи ступају на снагу, уз наставак сарадње са европским предузећима и грађанима, којима доносимо све способније, безбедне и сигурне AI моделе како би искористили предности AI револуције.

Потписивање Кодекса учвршћује многе водеће мере безбедности и транспарентности у индустрији које смо пионирски развијали током последњих неколико година. Били смо једна од првих компанија која је објавила свеобухватан протокол безбедности и заштите, наш Оквир спремности (2023), који описује наш приступ безбедном увођењу граничних AI модела. 

У складу са нашом посвећеношћу сталном преиспитивању и унапређивању интерних оквира одговорности и управљања, у априлу 2025. смо објавили⁠ ажурирани Оквир спремности. 

Док настављамо да развијамо и примењујемо све способнију технологију, активно пратимо и ублажавамо широк спектар нових ризика и стварних безбедносних изазова како бисмо наше моделе одржали поузданим и сигурним. И стално усавршавамо и побољшавамо ове процесе. 

• Већ дуго објављујемо детаљне системске картице и техничку документацију уз наша главна издања, у којима наводимо шта наши модели могу, а шта не могу, које смо ризике тестирали и где још увек учимо. 
• Safety Hub омогућава јавни приступ резултатима безбедносних евалуација наших модела.
• Наша мрежа за црвену команду укључује спољне стручњаке да тестирају отпорност наших модела
• Спецификације модела пружају увид у то како обликујемо понашање модела тако да одражава људске вредности и демократске норме.

Заједно, овај рад је био кључан за постављање безбедносних и сигурносних стандарда у индустрији и за обликовање применљивог Кодекса праксе заснованог на најбољим праксама у индустрији. Изградња безбедне и одговорне вештачке интелигенције никада није завршен посао. Наставићемо да поступно унапређујемо наш приступ безбедности како бисмо помогли да се наша технологија одговорно користи у корист свих, где год се налазили у свету.

Блиско ћемо сарађивати са Канцеларијом ЕУ за вештачку интелигенцију, надлежним органима и нашим клијентима током примене Закона о вештачкој интелигенцији у наредним месецима и годинама, како бисмо заједно обезбедили користи вештачке интелигенције за европско друштво и привреду. 

Ажурирање: 25. септембра 2024. приступили смо трима кључним обавезама из Пакта ЕУ о вештачкој интелигенцији.

1. Усвојити стратегију управљања вештачком интелигенцијом ради подстицања њене примене у организацији и рада на будућој усклађености са Законом о вештачкој интелигенцији;
2. спровести, у мери у којој је то изводљиво, мапирање система вештачке интелигенције који се пружају или примењују у областима које би се према Закону о вештачкој интелигенцији сматрале високоризичним;
3. унапређивати свест и AI писменост запослених и других лица која у њихово име раде са AI системима, узимајући у обзир њихово техничко знање, искуство, образовање и обуку, као и контекст у ком ће се AI системи користити, те имајући у виду лица или групе лица на које употреба AI система утиче.

Верујемо да основни фокус Пакта о вештачкој интелигенцији на AI писмености, усвајању и управљању погађа праве приоритете како би користи од AI биле широко расподељене. Поред тога, они су усклађени са нашом мисијом да обезбедимо безбедне, најсавременије технологије које користе свима.

Закон ЕУ о вештачкој интелигенцији⁠(отвара се у новом прозору) је значајан регулаторни оквир осмишљен да управља развојем, применом и употребом вештачке интелигенције широм Европе. Он у великој мери ставља акценат на безбедност како би подстакао усвајање поуздане вештачке интелигенције у Европи, уз заштиту здравља, безбедности и основних права. Уводи нове захтеве на основу ризика повезаних са AI системима, с посебним фокусом на високоризичне и неприхватљиве случајеве употребе, као и посебне обавезе за моделе и системе вештачке интелигенције опште намене (GPAI). 

Иако је законодавни процес завршен и закон ће ступити на снагу у августу 2024, биће потребна додатна упутства и спроведбени прописи како би се дефинисао обим закона, посебно у делу који се односи на GPAI моделе као што су OpenAI-јеви. 

У OpenAI-ју смо посвећени усклађености са овим законом, не само зато што је то законска обавеза, већ и зато што је циљ закона у складу са нашом мисијом да развијамо и примењујемо безбедну вештачку интелигенцију у корист целог човечанства. Поносни смо што објављујемо моделе који су водећи у индустрији и по способностима и по безбедности. Верујемо у уравнотежен, научни приступ у ком су мере безбедности⁠ интегрисане у процес развоја од самог почетка. Наши тимови обухватају широк спектар техничких напора усмерених на изазове безбедности вештачке интелигенције, укључујући евалуације модела у оквиру нашег Оквира спремности⁠ пре њихове примене, интерну и екстерну црвену команду⁠, надзор⁠ злоупотреба након примене, програме Bug Bounty⁠ и Cybersecurity Grant⁠, као и допринос стандардима аутентичности⁠, између осталог. 

Блиско ћемо сарађивати са Канцеларијом ЕУ за вештачку интелигенцију и другим релевантним органима током примене новог закона у наредним месецима, и надамо се да ће стручност коју смо изградили помоћи у остваривању циљева Закона када је реч о примени безбедне и корисне вештачке интелигенције.  

У овом тексту дајемо преглед неких кључних тема у Закону о вештачкој интелигенцији, са посебним фокусом на забрањене и високоризичне случајеве употребе.

Закон о вештачкој интелигенцији ступиће на снагу 1. августа 2024, 20 дана након објављивања у Службеном листу ЕУ. Иако већина одредаба Закона неће постати примењива 24 месеца након ступања на снагу, постоји неколико важних рокова које треба имати на уму: 

• Забране недозвољених пракси постаће примењиве 6 месеци након ступања на снагу (фебруар 2025) 
• Кодекси праксе, који ће обухватити многе детаље примене потребне за усклађеност са Законом, мораће да буду финализовани у року од 9 месеци од ступања на снагу (мај 2025) 
• Већина обавеза за вештачку интелигенцију опште намене постаће примењива 12 месеци након ступања на снагу (август 2025). 
• Обавезе за већину високоризичних AI система примењују се 24 месеца након ступања на снагу (август 2026). 

Постојећи GPAI системи који нису били предмет значајне измене, као и одређени AI системи који су компоненте великих ИТ система идентификованих у Анексу X Закона о вештачкој интелигенцији, имаће дужи рок за примену од 36 месеци (август 2027).

Закон о вештачкој интелигенцији се пре свега примењује на „AI системе“, које Закон дефинише као „систем заснован на машини, осмишљен да ради са различитим нивоима аутономије, који може испољити прилагодљивост након примене и који, ради експлицитних или имплицитних циљева, на основу улаза које прима закључује како да генерише резултате као што су предвиђања, садржај, препоруке или одлуке које могу утицати на физичка или виртуелна окружења.“  Ова дефиниција је у великој мери у складу са OECD дефиницијом „AI система“ из 2023. и дефиницијом употребљеном у Извршној уредби 14110 Бајденове администрације о безбедном, сигурном и поузданом развоју и употреби вештачке интелигенције.  

Важно је да Закон о вештачкој интелигенцији прави разлику између пружалаца и корисника AI система. Пружаоци су субјекти, као што је OpenAI, који развијају AI систем или модел вештачке интелигенције опште намене. То такође укључује субјекте који су развили AI систем или модел вештачке интелигенције опште намене и стављају га на тржиште или пуштају AI систем у употребу под сопственим именом или жигом, било уз накнаду или бесплатно. 

Корисници су клијенти или партнери који користе ове системе или моделе у сопственим апликацијама, као што је интеграција GPT‑4o у одређени случај употребе. Иако већина обавеза према Закону о вештачкој интелигенцији пада на пружаоце, а не на кориснике, важно је напоменути да корисник који интегрише AI модел у сопствени AI систем може постати пружалац у смислу Закона, на пример коришћењем сопственог жига на AI систему или изменом AI система на начине које пружалац није предвидео.

Организације ван ЕУ и даље ће морати да се ускладе са Законом о вештачкој интелигенцији под различитим условима који могу бити веома далекосежни.  На пример, Закон се примењује ако: 

• Пружалац ставља AI систем или GPAI модел на тржиште ЕУ, без обзира на то да ли је компанија основана у ЕУ или у другој земљи; 
• Корисници AI система имају седиште или се налазе унутар ЕУ; 
• Пружаоци и корисници AI система имају седиште или се налазе у трећој земљи, али се резултат који AI систем произведе користи унутар ЕУ.

Широки екстратериторијални домет Закона о вештачкој интелигенцији значи да ће и неевропске компаније морати да се ускладе са Законом како би пружале услуге клијентима у ЕУ, без обзира на то да ли се налазе унутар ЕУ.

Закон о вештачкој интелигенцији заснован је на оквиру заснованом на ризику, са посебним захтевима за високоризичне и AI системе са неприхватљивим ризиком. Закон захтева од компанија да класификују ниво ризика својих AI система како би утврдиле одговарајуће регулаторне обавезе, и утврђује различите категорије или нивое AI система, од којих сваки носи различите обавезе.

Одређене праксе вештачке интелигенције за које се сматра да представљају неприхватљив ризик по права појединаца у потпуности су забрањене. Те праксе укључују:   

• Примену подсвесних, манипулативних или обмањујућих техника ради изобличавања понашања и нарушавања информисаног одлучивања, што доводи до значајне штете. 
• Искоришћавање рањивости повезаних са узрастом, инвалидитетом или социоекономским околностима ради изобличавања понашања, што доводи до значајне штете. 
• Системе за биометријску категоризацију који изводе осетљиве атрибуте као што су раса, политичка мишљења, чланство у синдикату, верска или филозофска уверења, сексуални живот или сексуална оријентација (са ограниченим изузецима за означавање или филтрирање законито прибављених скупова података и за употребу у спровођењу закона) 
• Системе социјалног бодовања, као што су системи који оцењују или класификују појединце или групе на основу друштвеног понашања или личних особина, наносећи им штету. 
• Процену ризика да ће појединац починити кривична дела искључиво на основу профилисања или особина личности (уз ограничене изузетке) 
• Састављање база података за препознавање лица путем неселективног прикупљања слика лица са интернета или CCTV снимака
• Извођење закључака о емоцијама на радним местима или у образовним установама 
• Даљинску биометријску идентификацију у реалном времену на јавним местима у сврхе спровођења закона (уз одређене изузетке).

Закон намеће строге обавезе системима за које је утврђено да представљају значајну претњу по здравље, безбедност или основна права појединаца, а који су категорисани као високоризична вештачка интелигенција (HRAI). То укључује: а) системе који су безбедносне компоненте производа који подлежу другим законима ЕУ, и б) специфичне случајеве употребе, као што су системи намењени за утврђивање приступа или пријема у образовне установе, за запошљавање или одабир радника или праћење радног учинка, за утврђивање подобности за јавну помоћ, кредитне способности, процену подобности и цене здравственог осигурања, између осталог.  

HRAI системи морају бити у складу са строгим регулаторним обавезама, као што су успостављање система управљања ризиком ради континуиране процене ризика и стратегија ублажавања током читавог животног циклуса HRAI система, свеобухватне мере управљања подацима ради тестирања и процене ризика од пристрасности, припрема детаљне техничке документације пре стављања система на тржиште и трајне обавезе праћења. 

Други AI системи који не представљају неприхватљив или висок ризик подлежу само ограниченим захтевима, као што су обавезе транспарентности. На пример, Закон прописује да појединци треба да буду обавештени када комуницирају са AI системом као што је четбот, као и да вештачки измењене слике, аудио или видео садржај морају бити јасно означени. Већина AI система на тржишту вероватно ће спадати у ову категорију.

Посебни захтеви важе за пружаоце модела и система вештачке интелигенције опште намене, као што је OpenAI, од којих ће се захтевати да: 

• Развију детаљну техничку документацију модела и доставе је Канцеларији за AI на захтев
• Израде документацију за кориснике који користе GPAI модел да развију сопствене AI системе
• Примене политике намењене поштовању права ЕУ о ауторским правима
• Обезбеде сажетак садржаја коришћеног за обучавање GPAI модела 

Поред тога, од пружалаца GPAI модела са способностима високог утицаја за које се сматра да представљају „системске ризике“ (нпр. модели обучени на великој количини рачунарских ресурса, технички дефинисано као 10^25 FLOPs), захтеваће се да: 

• Спроводе евалуације модела ради идентификовања и ублажавања системских ризика, и континуирано процењују и ублажавају присутне ризике
• Обавесте Европску комисију о моделима који испуњавају критеријуме ове категорије
• Прате и пријављују озбиљне инциденте 
• Примене одговарајуће мере сајбер-безбедности за модел и његову физичку инфраструктуру

Пружаоци GPAI модела моћи ће да се ослоне на кодекс праксе како би показали усклађеност са захтевима Закона о вештачкој интелигенцији. Ови кодекси праксе ће вероватно поставити основу за конкретне детаље примене ових обавеза, и радујемо се сарадњи са Канцеларијом ЕУ за вештачку интелигенцију на њиховом развоју током наредних 9 месеци. 

OpenAI је посвећен усклађености са Законом ЕУ о вештачкој интелигенцији и блиско ћемо сарађивати са новом Канцеларијом ЕУ за вештачку интелигенцију током примене закона. У наредним месецима наставићемо да припремамо техничку документацију и друга упутства за даље пружаоце и кориснике наших GPAI модела, уз истовремено унапређивање сигурности и безбедности модела које пружамо на европском тржишту и шире.   

Ако ваша организација покушава да утврди како да се усклади са Законом о вештачкој интелигенцији, прво би требало да покушате да класификујете све релевантне AI системе. Идентификујте које GPAI и друге AI системе користите, утврдите како су класификовани и размотрите које обавезе произилазе из ваших случајева употребе. Такође треба да утврдите да ли сте пружалац или корисник у односу на било који обухваћени AI систем. Ова питања могу бити сложена, па би требало да се консултујете са правним саветником ако имате питања.