После тродневних 'маратонских' разговора, Председништво Савета и преговарачи Европског парламента постигли су привремени договор о предлогу усаглашених правила о вештачкој интелигенцији (АИ), такозваном акту о вештачкој интелигенцији. Нацрт уредбе има за циљ да осигура да системи вештачке интелигенције који се пласирају на европско тржиште и користе у ЕУ буду безбедни и поштују основна права и вредности ЕУ. Овај значајан предлог такође има за циљ да стимулише инвестиције и иновације у области вештачке интелигенције у Европи.
Ово је историјско достигнуће и огромна прекретница ка будућности! Данашњи споразум ефикасно се бави глобалним изазовом у технолошком окружењу које се брзо развија у кључној области за будућност наших друштава и економија. И у овом настојању, успели смо да одржимо изузетно деликатан баланс: подстичући иновације и усвајање вештачке интелигенције широм Европе уз потпуно поштовање основних права наших грађана. Карме Артигас, шпански државни секретар за дигитализацију и вештачку интелигенцију
АИ акт је а Адмиралски брод законодавна иницијатива са потенцијалом да подстакне развој и усвајање безбедне и поуздане вештачке интелигенције на јединственом тржишту ЕУ од стране приватних и јавних актера. Главна идеја је да се АИ регулише на основу способности ове друге да нанесе штету друштву након а 'засновано на ризику' приступ: што је ризик већи, то су правила строжа. Као први законодавни предлог те врсте у свету може да постави а глобални стандард за регулацију вештачке интелигенције у другим јурисдикцијама, баш као што је то урадио ГДПР, чиме се промовише европски приступ техничкој регулацији на светској сцени.
Главни елементи привременог споразума
У поређењу са почетним предлогом Комисије, главни нови елементи привременог споразума могу се сажети на следећи начин:
правила на АИ модели опште намене са високим утицајем које могу изазвати системски ризик у будућности, као и на високоризичне АИ системи
ревидирани систем од владавина са одређеним овлашћењима за спровођење на нивоу ЕУ
проширење листе забране али уз могућност коришћења даљинска биометријска идентификација од стране органа за спровођење закона у јавним просторима, подложни заштитним мерама
боља заштита права кроз обавезу за имплементаторе високоризичних АИ система да спроводе а процена утицаја на основна права пре стављања АИ система у употребу.
Конкретније речено, привремени споразум покрива следеће аспекте:
Дефиниције и обим
Да би се осигурало да дефиниција система вештачке интелигенције пружа довољно јасне критеријуме за разликовање АИ од једноставнијих софтверских система, компромисни споразум усклађује дефиницију са приступом који је предложио ОЕЦД.
Привремени споразум такође појашњава да се уредба не примењује на области ван оквира права ЕУ и да ни у ком случају не би требало да утиче на надлежности држава чланица у национална безбедност или било ког субјекта коме су поверени послови у овој области. Штавише, закон о вештачкој интелигенцији се неће примењивати на системе који се користе искључиво за војни or одбрана сврхе. Слично томе, споразум предвиђа да се уредба неће примењивати на системе вештачке интелигенције који се користе искључиво у сврху истраживање и иновације, или за људе који користе АИ из непрофесионалних разлога.
реклама
Класификација АИ система као високоризичне и забрањене АИ праксе
Компромисни споразум предвиђа а хоризонтални слој заштите, укључујући класификацију високог ризика, како би се осигурало да системи вештачке интелигенције за које није вероватно да ће изазвати озбиљна кршења основних права или друге значајне ризике не буду ухваћени. АИ системи представљају само ограничен ризик био би подложан веома светлости обавезе транспарентности, на пример, откривање да је садржај генерисан вештачком интелигенцијом како би корисници могли да донесу информисане одлуке о даљој употреби.
Широк спектар Висок ризик Системи вештачке интелигенције би били овлашћени, али подлежу низу захтева и обавеза за приступ тржишту ЕУ. Ове захтеве су сазаконодавци разјаснили и прилагодили на начин да су више технички изводљивомање оптерећујући да се заинтересоване стране придржавају, на пример у вези са квалитетом података, или у вези са техничком документацијом коју треба да саставе МСП како би показали да су њихови високоризични системи вештачке интелигенције усклађени са захтевима.
Пошто су системи вештачке интелигенције развијени и дистрибуирани кроз сложене ланце вредности, компромисни споразум укључује измене које појашњавају расподела одговорностиулоге различитих глумаца у тим ланцима, посебно добављачима и корисницима АИ система. Такође појашњава однос између одговорности према Закону о вештачкој интелигенцији и одговорности које већ постоје према другим законима, као што је релевантно законодавство ЕУ о заштити података или секторско законодавство.
За неке употребе АИ, ризик се сматра неприхватљиво и стога ће ови системи бити забрањени у ЕУ. Привремени споразум забрањује, на пример, когнитивну манипулација понашања, нециљани укидање слике лица са интернета или ЦЦТВ снимака, препознавање емоција на радном месту и образовним институцијама, социјално бодовање, биометријска категоризација да закључи осетљиве податке, као што су сексуална оријентација или верска уверења, и неки случајеви предиктивна полиција за појединце.
Изузеци за спровођење закона
С обзиром на специфичности органи за спровођење закона и потребе да очувају своју способност да користе АИ у свом виталном раду, договорено је неколико измена предлога Комисије које се односе на коришћење АИ система у сврхе спровођења закона. Подложно одговарајућим гаранције, ове промене имају за циљ да одражавају потребу да се поштује поверљивост осетљивих оперативних података у вези са њиховим активностима. На пример, уведена је хитна процедура која омогућава агенцијама за спровођење закона да примене високоризични алат АИ који није прошао оцењивање усаглашености поступак у случају хитности. Међутим, уведен је и посебан механизам да се то осигура темељна права биће довољно заштићени од било какве потенцијалне злоупотребе АИ система.
Штавише, што се тиче коришћења реалног времена даљинска биометријска идентификација система у јавно доступним просторима, привремени споразум појашњава циљеве када је таква употреба стриктно неопходна у сврхе спровођења закона и за које органима за спровођење закона би стога требало изузетно дозволити да користе такве системе. Компромисни споразум предвиђа додатне мере заштите и ограничава ове изузетке на случајеве жртава одређених злочина, спречавање стварних, садашњих или предвидивих претњи, као што су терористички напади, и потрага за особама осумњиченим за најтеже злочине.
Системи вештачке интелигенције опште намене и модели темеља
Додате су нове одредбе како би се узеле у обзир ситуације у којима се АИ системи могу користити у различите сврхе (АИ опште намене), и где је технологија вештачке интелигенције опште намене накнадно интегрисана у други систем високог ризика. Привремени споразум се такође бави специфичним случајевима АИ система опште намене (ГПАИ).
Договорена су и посебна правила за модели темеља, велики системи способни да компетентно обављају широк спектар карактеристичних задатака, као што су генерисање видео записа, текста, слика, разговор на бочном језику, рачунарство или генерисање рачунарског кода. Привремени споразум предвиђа да модели темеља морају бити у складу са специфичним обавезе транспарентности пре него што се пласирају на тржиште. Уведен је строжи режим за 'висок утицај' модели темеља. Ово су основни модели обучени са великом количином података и са напредном сложеношћу, способностима и перформансама знатно изнад просека, који могу да дистрибуирају системске ризике дуж ланца вредности.
Нова архитектура управљања
Пратећи нова правила о ГПАИ моделима и очигледну потребу за њиховом применом на нивоу ЕУ, ан АИ Оффице у оквиру Комисије је постављен задатак да надгледа ове најнапредније АИ моделе, допринесе неговању стандарда и пракси тестирања и спроводи заједничка правила у свим државама чланицама. А научни панел независних експерата ће саветовати Канцеларију за вештачку интелигенцију о ГПАИ моделима, доприносећи развоју методологија за процену могућности модела темеља, дајући савете о одређивању и настанку модела темеља са великим утицајем, као и праћење могућих ризика за безбедност материјала у вези са моделима темеља.
AI odbor, који би се састојао од представника држава чланица, остаће као платформа за координацију и саветодавно тело Комисије и даће важну улогу државама чланицама у спровођењу уредбе, укључујући дизајн кодекса праксе за моделе фондација. Коначно, ан саветодавни форум за заинтересоване стране, као што су представници индустрије, мала и средња предузећа, старт-уп предузећа, цивилно друштво и академска заједница, биће успостављена како би се пружила техничка експертиза Одбору за вештачку интелигенцију.
kazne
Новчане казне за кршење закона о вештачкој интелигенцији су одређене као проценат глобалног годишњег промета компаније прекршиоца у претходној финансијској години или унапред одређени износ, у зависности од тога који је већи. То би износило 35 милиона евра или 7% за кршење забрањених АИ апликација, 15 милиона евра или 3% за кршење обавеза закона о вештачкој интелигенцији и 7,5 милиона евра или 1,5% за давање нетачних информација. Међутим, привремени споразум предвиђа пропорционалније капе о административним казнама за мала и средња предузећа и нова предузећа у случају кршења одредби Закона о АУ.
Компромисни споразум такође јасно наводи да физичко или правно лице може да уложи жалбу релевантном орган тржишног надзора у вези са непоштовањем акта о АИ и може очекивати да ће таква жалба бити решена у складу са наменским процедурама тог органа.
Транспарентност и заштита основних права
Привремени споразум предвиђа а процена утицаја на основна права пре него што се високоризични систем вештачке интелигенције стави на тржиште од стране његових корисника. Привремени споразум такође предвиђа повећање провидност у вези са употребом високоризичних АИ система. Наиме, неке одредбе предлога Комисије су измењене како би се назначило да ће одређени корисници система вештачке интелигенције високог ризика који су јавни субјекти такође бити у обавези да се региструју у ЕУ база података за високоризичне АИ системе. Штавише, новододате одредбе стављају акценат на обавезу корисника систем за препознавање емоција да обавештавају физичка лица када су изложена таквом систему.
Мере подршке иновацијама
У циљу стварања правног оквира који је погоднији за иновације и промовисања регулаторног учења заснованог на доказима, одредбе које се односе на мере подршке иновацијама су значајно измењене у поређењу са предлогом Комисије.
Посебно је појашњено да АИ регулаторни сандбокови, који би требало да успоставе контролисано окружење за развој, тестирање и валидацију иновативних АИ система, требало би да омогуће и тестирање иновативних АИ система у условима реалног света. Штавише, додате су нове одредбе које дозвољавају тестирање система вештачке интелигенције у стварни светски услови, под одређеним условима и мерама заштите. Да би се ублажио административни терет за мање компаније, привремени споразум укључује листу радњи које треба предузети за подршку таквим оператерима и предвиђа нека ограничена и јасно одређена одступања.
Ступање у снагу
Привремени споразум предвиђа да се примењује закон о АИ две године након његовог ступања на снагу, са неким изузецима за посебне одредбе.
Следећи кораци
Након данашњег привременог споразума, рад ће се наставити на техничком нивоу у наредним недељама како би се финализирали детаљи нове уредбе. Председништво ће поднети компромисни текст представницима држава чланица (Цорепер) на усвајање када се овај посао заврши.
Цео текст ће морати да потврде обе институције и да се подвргне правно-језичкој ревизији пре формалног усвајања од стране сузаконодаваца.
Основне карактеристике
Предлог Комисије, представљен у априлу 2021. године, кључни је елемент политике ЕУ за подстицање развоја и усвајања на јединственом тржишту безбедне и законите вештачке интелигенције која поштује основна права.
Предлог прати приступ заснован на ризику и поставља јединствен, хоризонтални правни оквир за АИ који има за циљ да обезбеди правну сигурност. Нацрт уредбе има за циљ да промовише инвестиције и иновације у АИ, побољша управљање и ефикасну примену постојећег закона о основним правима и безбедности, и олакша развој јединственог тржишта за АИ апликације. То иде руку под руку са другим иницијативама, укључујући координирани план о вештачкој интелигенцији који има за циљ да убрза улагања у вештачку интелигенцију у Европи. Савет је 6. децембра 2022. постигао споразум о општем приступу (преговарачком мандату) у вези са овим досијеом и започео међуинституционалне разговоре са Европским парламентом („тријалози“) средином јуна 2023. године.
ЕУ Репортер објављује чланке из разних спољних извора који изражавају широк спектар гледишта. Ставови заузети у овим чланцима нису нужно ставови ЕУ Репортера.
