Κανονισμός ΑΙ ΕΕ Annex III: οδηγός συστημάτων ΑΙ υψηλού κινδύνου για ΜΜΕ

Βιομετρική ταυτοποίηση και κατηγοριοποίηση

1

Χαμηλή — οι περισσότερες ΜΜΕ δεν λειτουργούν συστήματα βιομετρικής ταυτοποίησης

Συστήματα ΑΙ που χρησιμοποιούνται για βιομετρική ταυτοποίηση φυσικών προσώπων σε πραγματικό χρόνο ή μετά το γεγονός σε δημόσια προσβάσιμους χώρους. Περιλαμβάνει βιομετρικά συστήματα για πιστοποίηση αν χρησιμοποιούνται για σκοπούς σημαντικής επαλήθευσης ταυτότητας σε μεγάλη κλίμακα.

Διαχείριση κρίσιμης υποδομής

2

Χαμηλή — ισχύει για φορείς κοινής ωφελείας, μεταφορών και υποδομών

ΑΙ προορισμένο ως στοιχεία ασφάλειας στη διαχείριση και λειτουργία κρίσιμης ψηφιακής υποδομής, οδικής κυκλοφορίας και της παροχής νερού, αερίου, θέρμανσης ή ηλεκτρικής ενέργειας.

Εκπαίδευση και επαγγελματική κατάρτιση

3

Μέτρια — ισχύει για παρόχους κατάρτισης που χρησιμοποιούν αξιολόγηση ΑΙ

ΑΙ που χρησιμοποιείται για τον καθορισμό πρόσβασης σε εκπαιδευτικά ιδρύματα και ιδρύματα επαγγελματικής κατάρτισης, για αξιολόγηση ή βαθμολόγηση φοιτητών, για ανίχνευση απαγορευμένης συμπεριφοράς κατά τις αξιολογήσεις και για σύσταση του κατάλληλου επιπέδου εκπαίδευσης για ένα άτομο.

Απασχόληση, διαχείριση εργαζομένων και αυτοαπασχόληση

4

Υψηλή — χρησιμοποιείται ευρέως σε HR και στρατολόγηση ΜΜΕ

ΑΙ που χρησιμοποιείται για στρατολόγηση ή επιλογή φυσικών προσώπων (συμπεριλαμβανομένης αξιολόγησης βιογραφικών, στόχευσης εργασίας και ανάλυσης συνεντεύξεων), για αξιολόγηση απόδοσης, αποφάσεις προαγωγής, κατανομή εργασιών και παρακολούθηση συμπεριφοράς και απόδοσης σε πλαίσια απασχόλησης. Αυτή είναι η πιο συνήθως σχετική κατηγορία για ΜΜΕ.

Βασικές ιδιωτικές και δημόσιες υπηρεσίες

5

Μέτρια — ισχύει για χρηματοοικονομικές υπηρεσίες, ασφάλιση και παρόχους υπηρεσιών κοινής ωφελείας

ΑΙ που χρησιμοποιείται για αξιολόγηση επιλεξιμότητας και χορήγηση δημόσιων παροχών, για αξιολόγηση πιστοληπτικής ικανότητας, για καθορισμό ασφαλίστρων και για αποστολή υπηρεσιών έκτακτης ανάγκης. Περιλαμβάνει βαθμολόγηση πίστωσης ΑΙ και ΑΙ-βοηθούμενη αναδοχή δανείων.

Επιβολή νόμου

6

Πολύ χαμηλή — ισχύει για αστυνομία και αρχές επιβολής νόμου

ΑΙ που χρησιμοποιείται από αρχές επιβολής νόμου για αξιολόγηση κινδύνου εγκλήματος, ως ανιχνευτές ψεύδους, για ανάλυση deepfakes σε ποινικές έρευνες και συναφείς σκοπούς. Δεν ισχύει συνήθως για ΜΜΕ ιδιωτικού τομέα.

Μετανάστευση, άσυλο και έλεγχος συνόρων

7

Πολύ χαμηλή — ισχύει για υπηρεσίες μετανάστευσης και αρχές συνόρων

ΑΙ που χρησιμοποιείται για αξιολόγηση κινδύνων παράτυπης μετανάστευσης, για βοήθεια στην εξέταση αιτήσεων βίζας και ασύλου και για διαχείριση συνόρων. Ισχύει για αρμόδιες δημόσιες αρχές και παρόχους υπηρεσιών μεγάλης κλίμακας σε αυτόν τον τομέα.

Απονομή δικαιοσύνης και δημοκρατικές διαδικασίες

8

Πολύ χαμηλή — ισχύει για δικαστήρια και εκλογική διοίκηση

ΑΙ που χρησιμοποιείται για βοήθεια δικαστικών αρχών στην έρευνα και ερμηνεία γεγονότων και νόμου και στην εφαρμογή νόμου σε συγκεκριμένα γεγονότα, και ΑΙ που χρησιμοποιείται για επιρροή αποτελεσμάτων εκλογών.

Εφαρμόστε μέτρα ανθρώπινης εποπτείας

Διασφαλίστε κατάλληλη ανθρώπινη εποπτεία για τη λειτουργία και τα αποτελέσματα του συστήματος ΑΙ, συμπεριλαμβανομένων σαφών διαδικασιών για πότε απαιτείται ανθρώπινη επέμβαση ή παράκαμψη.

Παρακολουθείτε τη λειτουργία και αναφέρετε περιστατικά

Παρακολουθείτε το σύστημα ΑΙ για κινδύνους και, όπου απαιτείται, αναφέρετε σοβαρά περιστατικά στην αρμόδια αρχή εποπτείας αγοράς.

Διεξάγετε εκτίμηση αντίκτυπου θεμελιωδών δικαιωμάτων (FRIA)

Πριν από την ανάπτυξη ορισμένων συστημάτων ΑΙ Annex III (ιδιαίτερα εκείνων που επηρεάζουν μεγάλους πληθυσμούς ή λαμβάνουν σημαντικές αποφάσεις), προετοιμάστε FRIA που τεκμηριώνει τον πιθανό αντίκτυπο στα θεμελιώδη δικαιώματα και τα μέτρα μετριασμού.

Εγγράψτε το σύστημα ΑΙ στη βάση δεδομένων ΑΙ της ΕΕ

Οι αναπτύσσοντες συγκεκριμένων συστημάτων ΑΙ Annex III πρέπει να τα εγγράψουν στη δημόσια βάση δεδομένων ΑΙ πανευρωπαϊκής εμβέλειας πριν από την ανάπτυξη.

Ενημερώστε εργαζομένους

Όπου το σύστημα ΑΙ επηρεάζει ή λαμβάνει αποφάσεις για εργαζομένους, διασφαλίστε ότι αυτοί οι εργαζόμενοι ενημερώνονται ότι υπόκεινται στη λειτουργία του συστήματος ΑΙ.