EU AI Actте Annex III: високорисково ръководство за AI системи за SMEs

Биометрична идентификация и категоризация

1

Ниско — повечето SMEs не работят със системи за биометрична идентификация

AI системи, използвани за дистанционна биометрична идентификация в реално време или след събитие на физически лица в обществено достъпни пространства. Включва биометрични системи за удостоверяване, ако се използва за целите на последваща проверка на самоличността в мащаб.

Управление на критичната инфраструктура

2

Ниско — прилага се за комунални, транспортни и инфраструктурни оператори

AI предназначен като компоненти за безопасност при управлението и експлоатацията на критична цифрова инфраструктура, пътен трафик и доставка на вода, газ, отопление или електричество.

Образование и професионално обучение

3

Среден — прилага се за доставчици на обучение, използващи оценка AI

AI се използва за определяне на достъпа до институции за образование и професионално обучение, за оценяване или оценяване на ученици, за откриване на забранено поведение по време на оценяване и за препоръчване на нивото на образование, подходящо за дадено лице.

Заетост, управление на работниците и самостоятелна заетост

4

Висок — широко използван в SME HR и набиране на персонал

AI, използван за набиране или подбор на физически лица (включително проверка на CV, насочване на работа и анализ на интервю), за оценка на представянето, решения за повишение, разпределяне на задачи и наблюдение на поведението и представянето в контекста на заетостта. Това е най-често подходящата категория за SMEs.

Основни частни и обществени услуги

5

Среден — прилага се за финансови услуги, застраховки и комунални услуги

AI се използва за оценка на допустимостта и предоставянето на обществени помощи, за оценка на кредитоспособността, за определяне на застрахователни премии и за изпращане на спешни услуги. Включва AI кредитен скоринг и AI подпомогнато поемане на кредити.

Органите на реда

6

Много ниска — отнася се за полицията и правоприлагащите органи

AI, използван от правоприлагащите органи за оценка на риска от престъпления, като полиграфи, за анализ на дълбоки фалшификати в криминални разследвания и свързани цели. Обикновено не се прилага за SMEs от частния сектор.

Миграция, убежище и граничен контрол

7

Много ниско — отнася се за имиграционните и граничните власти

AI се използва за оценка на рисковете от незаконна миграция, за подпомагане при разглеждане на молби за визи и убежище и за управление на границите. Отнася се за съответните публични органи и големи доставчици на услуги в този сектор.

Правораздаване и демократични процеси

8

Много ниска — отнася се за съдилищата и изборната администрация

AI се използва за подпомагане на съдебните органи при проучване и тълкуване на факти и закон и при прилагане на закона към конкретни факти, а AI се използва за влияние върху резултата от изборите.

Приложете мерки за човешки надзор

Осигурете подходящ човешки надзор за работата и изходите на системата AI, включително ясни процедури за това, когато е необходима човешка намеса или отмяна.

Наблюдавайте работата и докладвайте за инциденти

Наблюдавайте системата AI за рискове и, когато е необходимо, докладвайте за сериозни инциденти на съответния орган за надзор на пазара.

Извършване на оценка на въздействието върху основните права (FRIA)

Преди внедряването на определени системи Annex III AI (особено тези, които засягат големи групи от населението или вземат последващи решения), изгответе FRIA, документиращ потенциалното въздействие върху основните права и въведените мерки за смекчаване.

Регистрирайте системата AI в базата данни EU AI

Внедряващите специфични системи Annex III AI трябва да ги регистрират в общата за EU публична база данни AI преди внедряването.

Информирайте служителите

Когато системата AI засяга или взема решения относно служители, уверете се, че тези служители са информирани, че са обект на работата на системата AI.