Autor článku
Natálie Kuňáková
Od 2. února 2025 je účinná první část Nařízení Evropské unie o umělé inteligenci (AI Act), které představuje historicky první komplexní právní rámec pro regulaci AI na světové úrovni. Tento milník přináší nové povinnosti pro podniky, vývojáře a uživatele AI systémů, jejichž cílem je zajistit bezpečné, transparentní a etické využívání umělé inteligence v Evropě. AI Act se vztahuje na všechny, kdo používají umělou inteligenci ke své práci (až na úplné výjimky).
Klíčové povinnosti od února 2025
1. Zákaz nebezpečných AI praktik
Jedním z nejvýznamnějších bodů AI Actu je zákaz určitých způsobů využití umělé inteligence, které představují vysoké riziko pro základní práva a bezpečnost občanů. Mezi zakázané praktiky patří:
- Podprahová manipulace s chováním uživatelů (například skryté ovlivňování rozhodování lidí bez jejich vědomí),
- Využití AI k zneužívání zranitelných skupin (například dětí, starších osob nebo osob se zdravotním postižením),
- Využití AI k sociálnímu hodnocení jednotlivců (například bodování občanů podle jejich chování nebo osobních charakteristik),
- Biometrická identifikace, která odlišuje podle citlivých údajů jako je rasa, politické názory, sexuální orientace,
- Použití AI pro prediktivní policejní dohled, pokud je založen pouze na analýze chování jednotlivců,
- Identifikace lidí na dálku pomocí biometrických údajů v reálném čase ve veřejných prostorách (s výjimkami pro orgány činné v trestním řízení v přísně vymezených situacích),
- Databáze na rozpoznávání obličejů (například internetová databáze, která by stahovala všechny obličeje z různých webových stránek),
- Rozpoznávání lidských emocí na pracovišti a vzdělání.
Tento zákaz je účinný již od února 2025, což znamená, že firmy musí zajistit, aby jejich systémy neporušovaly tato ustanovení.
2. Povinnost školení v oblasti AI gramotnosti
Další klíčovou povinností, která platí od února 2025, je zajištění dostatečné úrovně AI gramotnosti mezi zaměstnanci, kteří pracují se systémy umělé inteligence. Podle článku 4 AI Actu mají podniky povinnost zajistit, aby jejich zaměstnanci:
- Měli dostatečné povědomí o fungování a rizicích AI systémů,
- Byli schopni činit informovaná rozhodnutí při jejich používání,
- Rozuměli technickým aspektům, včetně interpretace výstupů AI,
- Byli si vědomi dopadů AI na osoby, na které jsou systémy aplikovány.
Tato povinnost platí nejen pro velké korporace, ale i pro menší podniky, pokud využívají AI technologie. Klíčovým cílem této regulace je zabránit tomu, aby AI byla používána bez odpovídajícího porozumění jejím možnostem a limitům.
Doporučení pro firmy
Vzhledem k tomu, že první povinnosti AI Actu jsou již účinné, firmy by měly začít činit potřebné kroky bezodkladně. Mezi klíčové opatření patří:
- Provedení interního auditu AI systémů – firmy by měly identifikovat a klasifikovat své AI systémy podle rizikové kategorie stanovené v AI Actu. Měly by zjistit, jaké systémy zaměstnanci využívají.
- Zajištění školení zaměstnanců – firmy musí vyškolit své zaměstnance tak, aby rozuměli povinnostem vyplývajícím z nařízení. Zaměstnanci musí znát základní pravidla, které je třeba dodržovat při používání AI.
- Vytvoření interních pravidel pro využívání AI – definování jasných zásad a odpovědností souvisejících s AI je klíčové pro zajištění souladu s regulací. Firmy by měly zavést etické kodexy a zejména interní směrnici, kterou nastaví pravidla pro užití AI ve společnosti.
Zavedení těchto opatření nejen pomůže podnikům splnit nové právní požadavky, ale také zvýší důvěryhodnost a odpovědné využívání umělé inteligence v jejich provozu.
AI Act je začátkem nové éry regulace umělé inteligence, která si klade za cíl ochránit občany a zároveň podpořit inovace v oblasti AI. Firmy, které se na tyto změny připraví včas, budou mít výraznou konkurenční výhodu a vyhnou se případným sankcím spojeným s nesplněním nových povinností.
Autor: JUDr. Natálie Kuňáková, LL.M., advokátka