EU AI Act Annex III: guide till högrisk-AI-system för SMF

Biometrisk identifiering och kategorisering

1

Låg — de flesta SMF driver inte biometriska identifieringssystem

AI-system som används för realtids eller efterhandsfjärrbiometrisk identifiering av fysiska personer på allmänt tillgängliga platser. Inkluderar biometriska system för autentisering om de används för viktiga identifieringsändamål i stor skala.

Förvaltning av kritisk infrastruktur

2

Låg — gäller verksamheter inom el, transport och infrastruktur

AI avsedd som säkerhetskomponenter i förvaltningen och driften av kritisk digital infrastruktur, vägtrafik och försörjning av vatten, gas, värme eller el.

Utbildning och yrkesutbildning

3

Medel — gäller utbildningsleverantörer som använder AI-bedömning

AI som används för att avgöra tillträde till utbildnings- och yrkesutbildningsinstitutioner, för att utvärdera eller betygsätta studenter, för att upptäcka förbjudet beteende under bedömningar och för att rekommendera lämplig utbildningsnivå för en individ.

Anställning, arbetstagare och egenföretagande

4

Hög — används ofta inom SMF HR och rekrytering

AI som används för rekrytering eller urval av fysiska personer (inklusive CV-screening, jobbinriktning och intervjuanalys), för prestationsutvärdering, befordranbeslut, uppgiftstilldelning och övervakning av beteende och prestanda i anställningssammanhang. Det här är den vanligast relevanta kategorin för SMF.

Väsentliga privata och offentliga tjänster

5

Medel — gäller finansiella tjänster, försäkring och verktyg

AI som används för att bedöma rätten till och bevilja offentliga förmåner, för att bedöma kreditvärdighet, för att fastställa försäkringspremier och för nödtjänstdispatchning. Inkluderar AI-kreditbedömning och AI-assisterad låneunderwriting.

Brottsbekämpning

6

Mycket låg — gäller polis och brottsbekämpande myndigheter

AI som används av brottsbekämpande myndigheter för att bedöma brottslighetsrisk, som lögndetektor, för analys av deepfakes i brottsutredningar och relaterade ändamål. Gäller typiskt sett inte privatsektorns SMF.

Migration, asyl och gränskontroll

7

Mycket låg — gäller immigration och gränsmyndigheter

AI som används för att bedöma irreguljär migrationsrisk, för att bistå vid granskning av visum- och asylansökningar och för gränsförvaltning. Gäller relevanta offentliga myndigheter och storskaliga tjänsteleverantörer inom denna sektor.

Rättsskipning och demokratiska processer

8

Mycket låg — gäller domstolar och valmyndigheter

AI som används för att bistå rättsliga myndigheter i att undersöka och tolka fakta och lag samt tillämpa lagen på konkreta fakta, och AI som används för att påverka valresultat.

Implementerar mänskliga tillsynsåtgärder

Säkerställer lämplig mänsklig tillsyn för AI-systemets drift och utdata, inklusive tydliga rutiner för när mänsklig intervention eller åsidosättande krävs.

Övervakar driften och rapporterar incidenter

Övervakar AI-systemet för risker och, där det krävs, rapporterar allvarliga incidenter till relevant marknadskontrollsmyndighet.

Genomför en grundläggande rättighetskonsekvensanalys (FRIA)

Innan du driftsätter vissa Annex III AI-system (särskilt de som påverkar stora populationer eller fattar avgörande beslut), förbered en FRIA som dokumenterar den potentiella påverkan på grundläggande rättigheter och de begränsningsåtgärder som finns på plats.

Registrerar AI-systemet i EU AI-databasen

Användare av specifika Annex III AI-system måste registrera dem i EU-övergripande offentliga AI-databasen innan driftsättning.

Informerar anställda

Där AI-systemet påverkar eller fattar beslut om anställda, säkerställa att dessa anställda informeras om att de är föremål för AI-systemets drift.