Reglamento IA de la UE Annex III: guía de sistemas de IA de alto riesgo para pymes

Identificación y categorización biométrica

1

Baja — la mayoría de las pymes no operan sistemas de identificación biométrica

Sistemas de IA utilizados para la identificación biométrica remota en tiempo real o posterior de personas físicas en espacios de acceso público. Incluye sistemas biométricos para la autenticación si se usan para fines de verificación de identidad consecuentes a escala.

Gestión de infraestructuras críticas

2

Baja — se aplica a operadores de servicios públicos, transporte e infraestructuras

IA destinada a ser componente de seguridad en la gestión y operación de infraestructuras digitales críticas, el tráfico vial y el suministro de agua, gas, calefacción o electricidad.

Educación y formación profesional

3

Media — se aplica a proveedores de formación que usan evaluación con IA

IA utilizada para determinar el acceso a instituciones educativas y de formación profesional, para evaluar o calificar a estudiantes, para detectar comportamientos prohibidos durante las evaluaciones y para recomendar el nivel educativo adecuado para una persona.

Empleo, gestión de trabajadores y autoempleo

4

Alta — ampliamente usada en RRHH y contratación de pymes

IA utilizada para la contratación o selección de personas físicas (incluido el cribado de currículums, la segmentación de empleos y el análisis de entrevistas), para la evaluación del rendimiento, las decisiones de promoción, la asignación de tareas y el seguimiento del comportamiento y el rendimiento en contextos de empleo. Esta es la categoría más comúnmente relevante para las pymes.

Servicios privados y públicos esenciales

5

Media — se aplica a servicios financieros, seguros y servicios públicos

IA utilizada para evaluar la elegibilidad y conceder prestaciones públicas, para evaluar la solvencia crediticia, para determinar las primas de seguros y para el despacho de servicios de emergencia. Incluye la puntuación crediticia con IA y la suscripción de préstamos asistida por IA.

Aplicación de la ley

6

Muy baja — se aplica a la policía y las autoridades de aplicación de la ley

IA utilizada por las autoridades de aplicación de la ley para evaluar el riesgo de delincuencia, como polígrafos, para el análisis de deepfakes en investigaciones penales y fines relacionados. Generalmente no se aplica a las pymes del sector privado.

Migración, asilo y control de fronteras

7

Muy baja — se aplica a las autoridades de inmigración y fronteras

IA utilizada para evaluar los riesgos de migración irregular, para asistir en el examen de solicitudes de visado y asilo y para la gestión de fronteras. Se aplica a las autoridades públicas pertinentes y a los grandes proveedores de servicios en este sector.

Administración de justicia y procesos democráticos

8

Muy baja — se aplica a tribunales y administración electoral

IA utilizada para asistir a las autoridades judiciales en la investigación e interpretación de los hechos y la ley y en la aplicación de la ley a hechos concretos, y IA utilizada para influir en el resultado de las elecciones.

Implementar medidas de supervisión humana

Garantizar una supervisión humana adecuada para el funcionamiento y los resultados del sistema de IA, incluidos procedimientos claros sobre cuándo se requiere intervención o anulación humana.

Monitorizar el funcionamiento e informar de incidentes

Monitorizar el sistema de IA para detectar riesgos y, cuando sea necesario, notificar los incidentes graves a la autoridad de vigilancia del mercado competente.

Realizar una evaluación de impacto sobre los derechos fundamentales (EIFDF)

Antes de desplegar determinados sistemas de IA del Annex III (especialmente los que afectan a grandes poblaciones o toman decisiones consecuentes), preparar una EIFDF que documente el impacto potencial sobre los derechos fundamentales y las medidas de mitigación establecidas.

Registrar el sistema de IA en la base de datos de IA de la UE

Los responsables del despliegue de determinados sistemas de IA del Annex III deben registrarlos en la base de datos pública de IA de la UE antes del despliegue.

Informar a los empleados

Cuando el sistema de IA afecta o toma decisiones sobre empleados, garantizar que dichos empleados sean informados de que están sujetos al funcionamiento del sistema de IA.