Po tridnevnih pogajanjih so pogajalci Evropskega parlamenta in Sveta EU pretekli teden sprejeli politično uskladitev glede zakona o umetni inteligenci (AI Act ). Zakon tako določa obsežna pravila za uporabo sistemov UI v okviru EU.
Začetek za A1 Act sega v april 2021, ko je Evropska komisija predlagala, da se zagotovi varna uporaba sistema UI v evropskem prostoru in da se tako zaščitijo osnovne pravice državljanov. Svet Evrope in parlament EU sta soglasno razdelila sisteme v tri rizične skupine.
Za sisteme, ocenjene za najbolj rizične, bodo v prihodnje veljala stroga pravila v zadevah rizičnega managementa, transparentnosti in spletne varnosti. Glede treniranja in testiranja modelov UI naj bi bila potrebna natančna dokumentacija, ki naj bi izkazovala upoštevanje pravil.
Za sisteme z minimalnim rizikom za varnost državljanov ( npr. video igre ) ne bo posebnih zahtev.
Same po sebi pa bodo prepovedani sistemi UI , katerih riziki bo ocenjen kot nesprejemljiv. Prepovedan bo npr. iz Kitajske poznani Social Scoring, s katerim se ocenjuje, če je oseba vredna zaupanja. Dovoljenje za biometrično identifikacijo na javnem prostoru bo podano samo v izjemnih primerih, ko bo obstajala telesna ali življenska nevarnost in če se bo iskalo točno določeno osebo.
V okviru Evropske komisije bo deloval poseben UI organ, ki bo nadziral in sprovajal predmetno zakonodajo.
UI zakonodaja je dala jasen znak za odgovorno in etično ravnanje z eno najbolj odločujočih tehnologij v tem času in je bila zato večinoma pozitivno sprejeta. Nekatere države – Francija in ZRN – so sicer kritizirale stroga pravila , ki naj bi omejevala inovacije.
V prihodnjih tednih bodo podrobno oblikovani tehnični detalji ureditve, katero morata potrditi Svet in parlament, dogovor pa je, da naj bi zakon začel veljati v dveh letih po sprejetju.