AI Act: Nezmeškejte klíčové změny v regulaci umělé inteligence

Cílem Aktu o umělé inteligenci je vytvořit harmonizovaný právní rámec pro vývoj, uvádění na trh a používání AI systémů. Nařízení zároveň stanovuje zakázané postupy, pravidla pro vysokorizikové AI systémy a nové požadavky na transparentnost. Nedodržení aktem stanovených pravidel může vést k vysokým sankcím, je proto nejvyšší čas se s těmito požadavky seznámit a nadále se jimi řídit.

V přehledu níže najdete klíčové změny a povinnosti, které je nutné znát, abyste zůstali v obraze a drželi krok s novou právní regulací.

CO JE AI ACT?

• první komplexní právní rámec pro umělou inteligenci na světě
• nařízení EU stanovující harmonizovaná pravidla v oblasti AI pro členské státy
• vstoupil v platnost 1. srpna 2024
• postupná účinnost pokračuje až do srpna 2027

NA KOHO DOPADÁ AI ACT?

• na všechny právnické i fyzické osoby a orgány veřejné moci, které zejména:
• vyvíjejí a poskytují či provozují AI systémy
• dováží či distribuují AI
• používají AI v rámci profesionální činnosti
• vztahuje se na subjekty v EU i mimo EU, pokud je výstup systému AI užíván v EU

KLÍČOVÉ POVINNOSTI OD 2. ÚNORA 2025

• zajistit dostatečné proškolení zaměstnanců v oblasti AI
• školení musí zahrnovat:
• správné využívání AI systémů
• možná rizika spojená s používáním AI
• pravidla pro ochranu soukromí
• zajistit AI gramotnost zaměstnanců

DALŠÍ ZÁKAZY A POVINNOSTI PODLE AI

• od 2. února 2025 platí zákaz:
• škodlivé manipulace založené na AI - zákaz ovlivňování lidí skrytými technikami nebo zneužitím jejich slabin
• sociálního skórování
• rozpoznávání emocí na pracovištích – zákaz rozpoznávání emocí zaměstnanců s výjimkou bezpečnostních důvodů
• necíleného sběru biometrických dat (např. podle rasy, politických názorů, víry či sexuální orientace)
• povinné označování AI generovaného obsahu

SANKCE ZA PORUŠENÍ

• za nedodržení postupů stanovených v AI Actu hrozí pokuta až:
• 35 milionů eur (cca 900 milionů Kč)

NEBO

• 1-7 % ročního celosvětového obratu
• vždy se uplatní vyšší z těchto částek
• dozor zajišťují národní orgány členských států (budou určeny do 2.8.2025)

CO UDĚLAT HNED?

• prověřit využívání AI systémů ve vaší společnosti
• zavést systém řízení rizik spojených s AI
• zajistit školení zaměstnanců (podobné jako u BOZP)
• vést dostatečnou dokumentaci osvědčující provádění školení
• průběžně sledovat aktuální informace z oblasti AI

Zaujalo Vás téma? Je součástí rozšřeného konceptu firemního compliance, které v rámci právních služeb poskytujeme.  Jeho cílem je zvýšení právního a etického standardu Vaší společnosti, ochrana Vašeho týmu a zákazníků a zároveň minimalizace rizika trestní odpovědnosti.