EU AI-forordningen Annex III: vejledning til højrisiko-AI-systemer for SMV

Biometrisk identifikation og kategorisering

1

Lav — de fleste SMV driver ikke biometriske identifikationssystemer

AI-systemer brugt til realtids eller post-hændelse fjernbiometrisk identifikation af fysiske personer i offentligt tilgængelige rum. Inkluderer biometriske systemer til autentifikation, hvis de bruges til konsekvente identitetsbekræftelsesformål i stor skala.

Styring af kritisk infrastruktur

2

Lav — gælder for forsynings-, transport- og infrastrukturoperatører

AI beregnet som sikkerhedskomponenter i styringen og driften af kritisk digital infrastruktur, vejtrafik og forsyning af vand, gas, varme eller el.

Uddannelse og erhvervsuddannelse

3

Medium — gælder for uddannelsesudbydere, der bruger AI-vurdering

AI brugt til at bestemme adgang til uddannelses- og erhvervsuddannelsesinstitutioner, til at evaluere eller bedømme studerende, til at opdage forbudt adfærd under vurderinger og til at anbefale det uddannelsesniveau, der er passende for en person.

Beskæftigelse, arbejderstyring og selvbeskæftigelse

4

Høj — bredt brugt i SMV HR og rekruttering

AI brugt til rekruttering eller udvælgelse af fysiske personer (herunder CV-screening, jobannonceringsdirektionering og interviewanalyse), til præstationsevaluering, forfremmelsesbeslutninger, opgavetildeling og overvågning af adfærd og præstation i beskæftigelseskontekster. Dette er den mest almindeligt relevante kategori for SMV.

Essentielle private og offentlige tjenester

5

Medium — gælder for finansielle tjenester, forsikring og forsyningsselskaber

AI brugt til at evaluere berettigelse til og tildeling af offentlige ydelser, til at vurdere kreditværdighed, til at fastsætte forsikringspræmier og til nødtjenesteudsendelse. Inkluderer AI kreditscoring og AI-assisteret låneunderwriting.

Retshåndhævelse

6

Meget lav — gælder for politi og retshåndhævende myndigheder

AI brugt af retshåndhævende myndigheder til at vurdere kriminalitetsrisiko, som polygrafer, til analyse af deepfakes i kriminelle undersøgelser og relaterede formål. Gælder typisk ikke for private SMV.

Migration, asyl og grænseforvaltning

7

Meget lav — gælder for immigrations- og grænse myndigheder

AI brugt til at vurdere risici for uregelmæssig migration, til at assistere ved behandling af visa- og asylansøgninger og til grænseforvaltning. Gælder for relevante offentlige myndigheder og storskalatjenesteudbydere i denne sektor.

Retsforvaltning og demokratiske processer

8

Meget lav — gælder for domstole og valgadministration

AI brugt til at assistere retslige myndigheder med at undersøge og fortolke fakta og loven og til at anvende loven på konkrete fakta, og AI brugt til at påvirke resultatet af valg.

Implementér menneskelige kontrolforanstaltninger

Sørg for passende menneskelig kontrol af AI-systemets drift og output, herunder klare procedurer for, hvornår menneskelig indgriben eller tilsidesættelse er nødvendig.

Overvåg drift og rapportér hændelser

Overvåg AI-systemet for risici og rapportér, hvor det er påkrævet, alvorlige hændelser til den relevante markedsovervågningsmyndighed.

Gennemfør en grundlæggende rettighedskonsekvensanalyse (FRIA)

Inden implementering af visse Annex III-AI-systemer (særligt dem, der påvirker store befolkningsgrupper eller træffer konsekvente beslutninger), skal du udarbejde en FRIA, der dokumenterer den potentielle indvirkning på grundlæggende rettigheder og de afbødende foranstaltninger.

Registrér AI-systemet i EU's AI-database

Brugere af specifikke Annex III-AI-systemer skal registrere dem i den EU-dækkende offentlige AI-database inden implementering.

Informér medarbejdere

Hvor AI-systemet påvirker eller træffer beslutninger om medarbejdere, skal du sikre, at disse medarbejdere informeres om, at de er underlagt AI-systemets drift.