EU AI Act Annex III: Sprievodca systémami umelej inteligencie s vysokým rizikom pre MSP

Biometrická identifikácia a kategorizácia

1

Nízka – väčšina MSP neprevádzkuje biometrické identifikačné systémy

Systémy AI používané na biometrickú identifikáciu fyzických osôb na diaľku v reálnom čase alebo po udalostiach vo verejne prístupných priestoroch. Zahŕňa biometrické systémy na autentifikáciu, ak sa používajú na následné účely overovania identity vo veľkom meradle.

Riadenie kritickej infraštruktúry

2

Nízka – vzťahuje sa na prevádzkovateľov verejných služieb, dopravy a infraštruktúry

Umelá inteligencia určená ako bezpečnostné komponenty pri správe a prevádzke kritickej digitálnej infraštruktúry, cestnej premávky a dodávky vody, plynu, kúrenia alebo elektriny.

Vzdelávanie a odborná príprava

3

Stredná – vzťahuje sa na poskytovateľov odbornej prípravy, ktorí využívajú hodnotenie AI

Umelá inteligencia sa používa na určenie prístupu do vzdelávacích inštitúcií a inštitúcií odbornej prípravy, na hodnotenie alebo známkovanie študentov, na zisťovanie zakázaného správania počas hodnotenia a na odporúčanie úrovne vzdelania vhodnej pre jednotlivca.

Zamestnanosť, riadenie pracovníkov a samostatná zárobková činnosť

4

Vysoká — široko používané v HR a nábore pre MSP

Umelá inteligencia používaná na nábor alebo výber fyzických osôb (vrátane skríningu životopisov, zacielenia na prácu a analýzy pohovorov), na hodnotenie výkonu, rozhodnutia o povýšení, prideľovanie úloh a monitorovanie správania a výkonu v kontexte zamestnania. Toto je najbežnejšie relevantná kategória pre MSP.

Základné súkromné ​​a verejné služby

5

Stredná – vzťahuje sa na finančné služby, poistenie a verejné služby

AI sa používa na hodnotenie oprávnenosti a priznania verejných výhod, na posúdenie bonity, na stanovenie poistného a na dispečing pohotovostnej služby. Zahŕňa úverové hodnotenie AI a upisovanie pôžičiek s pomocou AI.

Presadzovanie práva

6

Veľmi nízka — týka sa polície a orgánov činných v trestnom konaní

Umelá inteligencia, ktorú používajú orgány činné v trestnom konaní na posúdenie rizika kriminality, ako polygrafy, na analýzu hlbokých falzifikátov pri vyšetrovaní trestných činov a na súvisiace účely. Zvyčajne sa nevzťahuje na MSP súkromného sektora.

Migrácia, azyl a hraničná kontrola

7

Veľmi nízka – vzťahuje sa na imigračné a pohraničné orgány

AI sa používa na hodnotenie rizík nelegálnej migrácie, na pomoc pri skúmaní žiadostí o víza a azyl a na riadenie hraníc. Platí pre príslušné verejné orgány a veľkých poskytovateľov služieb v tomto sektore.

Správa spravodlivosti a demokratické procesy

8

Veľmi nízka — týka sa súdov a volebnej správy

AI pomáhala súdnym orgánom pri skúmaní a interpretácii faktov a zákonov a pri aplikovaní práva na konkrétne skutočnosti a AI pomáhala ovplyvňovať výsledok volieb.

Zaviesť opatrenia ľudského dohľadu

Zabezpečte primeraný ľudský dohľad nad prevádzkou a výstupmi systému AI vrátane jasných postupov, kedy je potrebný ľudský zásah alebo potlačenie.

Monitorujte prevádzku a nahlasujte incidenty

Monitorovať riziká v systéme umelej inteligencie av prípade potreby hlásiť závažné incidenty príslušnému orgánu dohľadu nad trhom.

Vykonať hodnotenie vplyvu na základné práva (FRIA)

Pred nasadením určitých systémov umelej inteligencie Annex III (najmä tých, ktoré ovplyvňujú veľké populácie alebo prijímajú následné rozhodnutia), pripravte FRIA dokumentáciu potenciálneho vplyvu na základné práva a zavedené opatrenia na zmiernenie.

Zaregistrujte systém AI v databáze AI EÚ

Nasadzovatelia konkrétnych systémov umelej inteligencie Annex III ich musia pred nasadením zaregistrovať vo verejnej databáze umelej inteligencie v celej EÚ.

Informujte zamestnancov

Ak systém umelej inteligencie ovplyvňuje zamestnancov alebo o nich rozhoduje, zaistite, aby títo zamestnanci boli informovaní o tom, že sa na nich vzťahuje systém umelej inteligencie.