Akt AI UE Annex III: przewodnik po systemach AI wysokiego ryzyka dla MŚP

Identyfikacja biometryczna i kategoryzacja

1

Niska — większość MŚP nie obsługuje systemów identyfikacji biometrycznej

Systemy AI używane do zdalnej identyfikacji biometrycznej osób fizycznych w czasie rzeczywistym lub po zdarzeniu w publicznie dostępnych przestrzeniach. Obejmuje systemy biometryczne do uwierzytelniania, jeśli są używane do konsekwentnej weryfikacji tożsamości na dużą skalę.

Zarządzanie infrastrukturą krytyczną

2

Niska — dotyczy operatorów mediów, transportu i infrastruktury

AI przeznaczona jako elementy bezpieczeństwa w zarządzaniu i eksploatacji krytycznej infrastruktury cyfrowej, ruchu drogowego oraz dostaw wody, gazu, ogrzewania lub energii elektrycznej.

Edukacja i szkolenie zawodowe

3

Średnia — dotyczy dostawców szkoleń korzystających z oceny AI

AI używana do określania dostępu do placówek edukacyjnych i szkolenia zawodowego, oceniania lub klasyfikowania uczniów, wykrywania zabronionych zachowań podczas ocen i rekomendowania odpowiedniego poziomu edukacji dla danej osoby.

Zatrudnienie, zarządzanie pracownikami i samozatrudnienie

4

Wysoka — powszechnie używana w HR i rekrutacji MŚP

AI używana do rekrutacji lub selekcji osób fizycznych (w tym selekcji CV, targetowania ofert pracy i analizy rozmów kwalifikacyjnych), oceny wyników, decyzji o awansie, przydziału zadań i monitorowania zachowania i wydajności w kontekstach zatrudnienia. To najczęstsza kategoria istotna dla MŚP.

Podstawowe usługi prywatne i publiczne

5

Średnia — dotyczy usług finansowych, ubezpieczeń i mediów

AI używana do oceny uprawnień i przyznawania świadczeń publicznych, oceny zdolności kredytowej, ustalania składek ubezpieczeniowych i dyspozytorowania służb ratowniczych. Obejmuje scoring kredytowy AI i subemisję pożyczek wspomaganą AI.

Egzekwowanie prawa

6

Bardzo niska — dotyczy policji i organów ścigania

AI używana przez organy ścigania do oceny ryzyka przestępczości, jako wariografy, do analizy deepfake w dochodzeniach karnych i podobnych celów. Zazwyczaj nie dotyczy prywatnych MŚP.

Migracja, azyl i kontrola graniczna

7

Bardzo niska — dotyczy organów imigracyjnych i granicznych

AI używana do oceny ryzyka nielegalnej migracji, wspomagania rozpatrywania wniosków wizowych i azylowych oraz zarządzania granicami. Dotyczy odpowiednich władz publicznych i dużych dostawców usług w tym sektorze.

Wymiar sprawiedliwości i procesy demokratyczne

8

Bardzo niska — dotyczy sądów i administracji wyborczej

AI używana do wspomagania organów sądowych w badaniu i interpretowaniu faktów i prawa oraz stosowaniu prawa do konkretnych faktów, oraz AI używana do wpływania na wyniki wyborów.

Wdrożenia środków nadzoru ludzkiego

Zapewnienia odpowiedniego nadzoru ludzkiego nad działaniem i wynikami systemu AI, w tym jasnych procedur dotyczących tego, kiedy wymagana jest interwencja lub nadpisanie ludzkie.

Monitorowania działania i zgłaszania incydentów

Monitorowania systemu AI pod kątem ryzyk i, w stosownych przypadkach, zgłaszania poważnych incydentów właściwemu organowi nadzoru rynku.

Przeprowadzenia oceny wpływu na prawa podstawowe (FRIA)

Przed wdrożeniem określonych systemów AI z Annex III (w szczególności tych wpływających na duże populacje lub podejmujących konsekwentne decyzje) sporządzenia FRIA dokumentującej potencjalny wpływ na prawa podstawowe i wdrożone środki zaradcze.

Rejestracji systemu AI w bazie danych AI UE

Wdrażający określonych systemów AI z Annex III muszą zarejestrować je w ogólnounijnej publicznej bazie danych AI przed wdrożeniem.

Informowania pracowników

Jeśli system AI wpływa na pracowników lub podejmuje dotyczące ich decyzje, zapewnienia, że ci pracownicy są poinformowani, że podlegają działaniu systemu AI.