Regulamentul IA al UE Annex III: ghid sisteme IA cu risc ridicat pentru IMM-uri

Identificare și categorizare biometrică

1

Scăzută — majoritatea IMM-urilor nu operează sisteme de identificare biometrică

Sisteme IA utilizate pentru identificarea biometrică de la distanță în timp real sau post-eveniment a persoanelor fizice în spații accesibile publicului. Include sisteme biometrice pentru autentificare dacă sunt utilizate în scopuri de verificare a identității cu consecințe la scară.

Gestionarea infrastructurii critice

2

Scăzută — se aplică operatorilor de utilități, transport și infrastructură

IA destinată ca componente de siguranță în gestionarea și operarea infrastructurii digitale critice, traficului rutier și aprovizionării cu apă, gaz, căldură sau electricitate.

Educație și formare profesională

3

Medie — se aplică furnizorilor de formare care utilizează evaluare IA

IA utilizată pentru a determina accesul la instituții de educație și formare profesională, pentru a evalua sau nota studenții, pentru a detecta comportamentul interzis în cursul evaluărilor și pentru a recomanda nivelul de educație adecvat unui individ.

Ocuparea forței de muncă, gestionarea lucrătorilor și activitatea independentă

4

Ridicată — utilizată pe scară largă în HR și recrutarea IMM-urilor

IA utilizată pentru recrutarea sau selecția persoanelor fizice (inclusiv filtrarea CV-urilor, direcționarea locurilor de muncă și analiza interviurilor), pentru evaluarea performanței, decizii de promovare, alocarea sarcinilor și monitorizarea comportamentului și performanței în contexte de angajare. Aceasta este categoria cea mai frecvent relevantă pentru IMM-uri.

Servicii private și publice esențiale

5

Medie — se aplică serviciilor financiare, asigurărilor și utilităților

IA utilizată pentru a evalua eligibilitatea și acordarea prestațiilor publice, pentru a evalua bonitatea creditului, pentru a determina primele de asigurare și pentru dispecerizarea serviciilor de urgență. Include scoring de credit IA și subscrierea de împrumuturi asistată de IA.

Aplicarea legii

6

Foarte scăzută — se aplică poliției și autorităților de aplicare a legii

IA utilizată de autoritățile de aplicare a legii pentru evaluarea riscului infracțional, ca poligrafe, pentru analiza deepfake-urilor în investigații penale și scopuri conexe. De obicei nu se aplică IMM-urilor din sectorul privat.

Migrație, azil și control la frontieră

7

Foarte scăzută — se aplică autorităților de imigrare și frontieră

IA utilizată pentru evaluarea riscurilor de migrație neregulamentară, pentru asistarea în examinarea cererilor de viză și azil și pentru gestionarea frontierei. Se aplică autorităților publice relevante și furnizorilor de servicii la scară largă din acest sector.

Administrarea justiției și procesele democratice

8

Foarte scăzută — se aplică instanțelor și administrației electorale

IA utilizată pentru a asista autoritățile judiciare în cercetarea și interpretarea faptelor și a legii și în aplicarea legii la fapte concrete, și IA utilizată pentru a influența rezultatul alegerilor.

Implementezi măsuri de supraveghere umană

Asiguri supravegherea umană adecvată pentru funcționarea și rezultatele sistemului IA, inclusiv proceduri clare pentru situațiile în care este necesară intervenția sau anularea umană.

Monitorizezi funcționarea și raportezi incidentele

Monitorizezi sistemul IA pentru riscuri și, acolo unde este necesar, raportezi incidentele grave autorității de supraveghere de piață relevante.

Efectuezi o evaluare a impactului asupra drepturilor fundamentale (FRIA)

Înainte de implementarea anumitor sisteme IA Annex III (în special cele care afectează populații mari sau iau decizii cu consecințe), pregătești un FRIA care documentează impactul potențial asupra drepturilor fundamentale și măsurile de atenuare în vigoare.

Înregistrezi sistemul IA în baza de date IA a UE

Operatorii unor sisteme IA specifice din Annex III trebuie să le înregistreze în baza de date publică IA la nivel UE înainte de implementare.

Informezi angajații

Acolo unde sistemul IA afectează sau ia decizii cu privire la angajați, asiguri că acei angajați sunt informați că fac obiectul funcționării sistemului IA.