Nařízení EU o AI Annex III: průvodce systémy AI s vysokým rizikem pro malé podniky

Biometrická identifikace a kategorizace

1

Nízká — většina malých podniků neprovozuje systémy biometrické identifikace

Systémy AI používané pro biometrickou identifikaci fyzických osob na dálku v reálném čase nebo po události ve veřejně přístupných prostorách. Zahrnuje biometrické systémy pro autentizaci, pokud jsou používány pro důsledné ověřování totožnosti ve velkém měřítku.

Správa kritické infrastruktury

2

Nízká — vztahuje se na provozovatele veřejných služeb, dopravy a infrastruktury

AI určená jako bezpečnostní komponenty ve správě a provozu kritické digitální infrastruktury, silničního provozu a zásobování vodou, plynem, teplem nebo elektřinou.

Vzdělávání a odborná příprava

3

Střední — vztahuje se na poskytovatele školení využívající hodnocení AI

AI používaná k určování přístupu ke vzdělávacím institucím a institucím odborné přípravy, k hodnocení nebo klasifikaci studentů, k detekci zakázaného chování při hodnoceních a k doporučování vhodné úrovně vzdělání pro jednotlivce.

Zaměstnávání, správa pracovníků a samostatná výdělečná činnost

4

Vysoká — hojně využívána v HR a náboru malých podniků

AI používaná pro nábor nebo výběr fyzických osob (včetně prověřování životopisů, cílení pracovních míst a analýzy pohovorů), pro hodnocení výkonu, rozhodnutí o povýšení, přidělování úkolů a monitorování chování a výkonu v kontextu zaměstnávání. Jedná se o nejčastěji relevantní kategorii pro malé podniky.

Základní soukromé a veřejné služby

5

Střední — vztahuje se na finanční služby, pojišťovnictví a veřejné služby

AI používaná k hodnocení způsobilosti a přidělování veřejných dávek, k hodnocení úvěruschopnosti, k stanovení pojistného a pro dispečink záchranných služeb. Zahrnuje AI scoring úvěrů a upisování úvěrů s podporou AI.

Vymáhání práva

6

Velmi nízká — vztahuje se na policii a orgány vymáhání práva

AI používaná orgány vymáhání práva k hodnocení rizik trestné činnosti, jako polygraf, pro analýzu deepfakes v kriminálních vyšetřováních a k příbuzným účelům. Obvykle se nevztahuje na malé podniky v soukromém sektoru.

Migrace, azyl a správa hranic

7

Velmi nízká — vztahuje se na imigrační a hraniční orgány

AI používaná k hodnocení rizik nelegální migrace, k pomoci při vyřizování žádostí o víza a azyl a pro správu hranic. Vztahuje se na příslušné veřejné orgány a poskytovatele služeb ve velkém měřítku v tomto odvětví.

Správa soudnictví a demokratické procesy

8

Velmi nízká — vztahuje se na soudy a správu voleb

AI používaná k pomoci soudním orgánům při zkoumání a výkladu faktů a práva a při aplikaci práva na konkrétní skutečnosti a AI používaná k ovlivňování výsledků voleb.

Implementovat opatření pro lidský dohled

Zajistit odpovídající lidský dohled nad provozem a výstupy systému AI, včetně jasných postupů pro situace, kdy je vyžadován lidský zásah nebo přepsání.

Monitorovat provoz a hlásit incidenty

Monitorovat systém AI z hlediska rizik a v případě potřeby hlásit závažné incidenty příslušnému orgánu dozoru nad trhem.

Provést posouzení dopadu na základní práva (FRIA)

Před nasazením určitých systémů AI dle Annex III (zejména těch, které ovlivňují velké populace nebo přijímají důsledková rozhodnutí) připravte FRIA dokumentující potenciální dopad na základní práva a zavedená zmírňující opatření.

Zaregistrovat systém AI v databázi EU AI

Provozovatelé konkrétních systémů AI dle Annex III je musí před nasazením zaregistrovat v celoevropské veřejné databázi AI.

Informovat zaměstnance

Pokud systém AI ovlivňuje nebo přijímá rozhodnutí o zaměstnancích, zajistěte, aby tito zaměstnanci byli informováni, že podléhají provozu systému AI.