EU AI Act Annex III: nagy kockázatú mesterséges intelligencia rendszerek útmutatója kkv-knak

Biometrikus azonosítás és kategorizálás

1

Alacsony – a legtöbb kkv nem működtet biometrikus azonosítási rendszert

Természetes személyek valós idejű vagy esemény utáni távoli biometrikus azonosítására használt mesterséges intelligencia rendszerek nyilvánosan hozzáférhető helyeken. Tartalmazza a hitelesítéshez használt biometrikus rendszereket, ha a személyazonosság nagymértékű ellenőrzésére használják.

Kritikus infrastruktúra menedzsment

2

Alacsony – a közüzemi, közlekedési és infrastruktúra-üzemeltetőkre vonatkozik

A mesterséges intelligencia biztonsági komponensként szolgál a kritikus digitális infrastruktúra, a közúti forgalom, valamint a víz-, gáz-, fűtés- vagy villamosenergia-ellátás kezelésében és üzemeltetésében.

Oktatás és szakképzés

3

Közepes – az AI-értékelést használó oktatókra vonatkozik

A mesterséges intelligencia az oktatási és szakképző intézményekhez való hozzáférés meghatározására, a tanulók értékelésére vagy osztályozására, az értékelés során tiltott viselkedés észlelésére és az egyén számára megfelelő iskolai végzettség ajánlására szolgál.

Foglalkoztatás, munkavállalói menedzsment és önfoglalkoztatás

4

Magas – széles körben használják a SME HR-ben és toborzásban

A mesterséges intelligencia természetes személyek toborzására vagy kiválasztására (beleértve az önéletrajz-szűrést, a munkakör-meghatározást és az interjúelemzést), teljesítményértékelésre, előléptetési döntésekre, feladatkiosztásra, valamint a foglalkoztatási összefüggésekben tanúsított viselkedés és teljesítmény nyomon követésére szolgál. Ez a kkv-k számára leggyakrabban releváns kategória.

Alapvető magán- és közszolgáltatások

5

Közepes – a pénzügyi szolgáltatásokra, a biztosításra és a közművekre vonatkozik

A mesterséges intelligencia az állami juttatásokra való jogosultság és odaítélés értékelésére, a hitelképesség felmérésére, a biztosítási díjak meghatározására és a segélyszolgálatok kiküldésére szolgált. Tartalmazza az AI hitelbírálatot és a AI-assisted kölcsönjegyzést.

Bűnüldözés

6

Nagyon alacsony – a rendőrségre és a bűnüldöző hatóságokra vonatkozik

A bűnüldöző hatóságok által a bűnözés kockázatának felmérésére használt mesterséges intelligencia, mint poligráf, mély hamisítványok elemzésére a bűnügyi nyomozások során és kapcsolódó célokra. Általában nem vonatkozik a magánszektorbeli kkv-kra.

Migráció, menekültügy és határellenőrzés

7

Nagyon alacsony – a bevándorlási és határvédelmi hatóságokra vonatkozik

A mesterséges intelligencia az illegális migráció kockázatainak felmérésére, a vízum- és menedékkérelmek vizsgálatában, valamint a határigazgatásban nyújtott segítségre. Az érintett állami hatóságokra és az ágazatban működő nagy szolgáltatókra vonatkozik.

Az igazságszolgáltatás és a demokratikus folyamatok

8

Nagyon alacsony – a bíróságokra és a választási adminisztrációra vonatkozik

A mesterséges intelligencia korábban segítette az igazságügyi hatóságokat a tények és a jog kutatásában és értelmezésében, valamint a jog konkrét tényekre való alkalmazásában, az AI pedig a választások kimenetelének befolyásolására.

Emberi felügyeleti intézkedések végrehajtása

Biztosítsa az AI-rendszer működésének és kimeneteinek megfelelő emberi felügyeletét, beleértve az egyértelmű eljárásokat arra vonatkozóan, hogy mikor van szükség emberi beavatkozásra vagy felülírásra.

Kövesse nyomon a működést és jelentse az eseményeket

Figyelje a mesterséges intelligencia rendszert a kockázatok szempontjából, és szükség esetén jelentse a súlyos eseményeket az illetékes piacfelügyeleti hatóságnak.

Alapjogi hatásvizsgálat készítése (FRIA)

Mielőtt bizonyos Annex III AI-rendszereket telepítene (különösen azokat, amelyek nagy népességet érintenek vagy következményes döntéseket hoznak), készítsen egy FRIA-t, amely dokumentálja az alapvető jogokra gyakorolt ​​lehetséges hatásokat és a hatályos enyhítő intézkedéseket.

Regisztrálja a mesterséges intelligencia rendszert az EU AI adatbázisában

Az egyes Annex III AI-rendszerek telepítőinek a telepítés előtt regisztrálniuk kell azokat a EU-wide nyilvános mesterségesintelligencia-adatbázisban.

Tájékoztassa az alkalmazottakat

Ha az AI-rendszer hatással van az alkalmazottakra, vagy döntéseket hoz az alkalmazottakkal kapcsolatban, gondoskodjon arról, hogy az alkalmazottak tájékoztassák őket arról, hogy az AI-rendszer működése alá tartoznak.