Dňa 14. júna 2023, Európsky Parlament prijal vyjednávaciu pozíciu k návrhu nariadenia Európskeho Parlamentu a Rady, ktorým sa stanovujú harmonizované pravidlá v oblasti umelej inteligencie (akt o umelej inteligencii) a menia niektoré legislatívne akty Únie, ktorý je prvým komplexným právnym predpisom týkajúcim sa umelej inteligencie (ďalej len „AI“) na svete.

Podľa návrhu, sa systémy AI, ktoré sa môžu používať v rôznych aplikáciách, analyzujú a klasifikujú podľa rizika, ktoré predstavujú pre používateľov. Rôzne úrovne rizika budú znamenať väčšiu alebo menšiu reguláciu.

Prioritou je zabezpečiť, aby systémy AI používané v EÚ boli bezpečné, transparentné, sledovateľné, nediskriminačné a šetrné k životnému prostrediu.

Nové pravidlá stanovujú povinnosti pre poskytovateľov a používateľov AI v závislosti od úrovne rizika vyplývajúceho z AI.

i) Neprijateľné riziko

Systémy AI s neprijateľným rizikom sú systémy, ktoré sa považujú za hrozbu pre ľudí a budú zakázané. Patria medzi ne napr. kognitívna manipulácia správania osôb alebo špecifických zraniteľných skupín: napríklad hlasom aktivované hračky, ktoré podporujú nebezpečné správanie detí, biometrické identifikačné systémy v reálnom čase a na diaľku, ako je napríklad rozpoznávanie tváre.

ii) Vysoké riziko

Ide o systémy AI, ktoré majú negatívny vplyv na bezpečnosť alebo základné práva, napríklad systémy určené pre biometrickú identifikáciu a kategorizáciu fyzických osôb, riadenie a prevádzku kritickej infraštruktúry, presadzovanie práva, pomoc pri právnom výklade a uplatňovaní práva, a systémy pre riadenie migrácie, azylu a kontroly hraníc.

iii) Obmedzené riziko

Systémy AI s obmedzeným rizikom by mali spĺňať minimálne požiadavky na transparentnosť, ktoré by používateľom umožnili prijímať informované rozhodnutia. Po interakcii s aplikáciami sa používateľ môže rozhodnúť, či ich chce ďalej používať. Používatelia by mali byť informovaní o tom, že prichádzajú do interakcie s AI. To zahŕňa systémy AI, ktoré generujú alebo manipulujú s obrazom, zvukom alebo video obsahom.

Generatívna AI bude musieť spĺňať požiadavky na transparentnosť, predovšetkým bude potrebné uvádzať, že obsah bol vygenerovaný AI, navrhnúť model tak, aby sa zabránilo vytváraniu nezákonného obsahu a tiež zverejňovať súhrny údajov chránených autorským právom, ktoré sa použili na tréning AI.

Cieľom je dosiahnuť dohodu o konečnej podobe predpisu medzi členskými krajinami EÚ do konca roka 2023.