Sistemas de IA de alto riesgo: cómo saber si el tuyo lo es

Toda la carga de cumplimiento del Reglamento Europeo de IA depende de una única decisión previa: en qué categoría de riesgo cae tu sistema. Clasificar bien puede ahorrarte meses de trabajo innecesario. Clasificar mal puede costarte una sanción de siete cifras.

Esta guía explica las cuatro categorías con ejemplos concretos de usos empresariales, para que puedas hacer una primera clasificación de los sistemas que ya usas.

Categoría 1: riesgo inaceptable (prohibido)

Son prácticas que la Unión Europea considera incompatibles con los derechos fundamentales. No se regulan: se prohíben. Aplicables desde febrero de 2025.

Quedan prohibidos, entre otros:

• Sistemas que usan técnicas subliminales o manipuladoras para distorsionar el comportamiento de una persona causándole un perjuicio significativo.
• Sistemas que explotan vulnerabilidades de un grupo por su edad, discapacidad o situación socioeconómica.
• Puntuación social: clasificar a personas según su comportamiento social con consecuencias desfavorables en contextos no relacionados.
• Reconocimiento de emociones en el lugar de trabajo y en centros educativos. Este punto sorprende a muchas empresas: si tu herramienta de atención al cliente o de gestión de equipos infiere el estado emocional de empleados, estás en zona prohibida.
• Categorización biométrica para inferir raza, opiniones políticas, afiliación sindical, creencias religiosas, vida sexual u orientación sexual.
• Raspado masivo indiscriminado de imágenes faciales de internet o de cámaras de videovigilancia para crear bases de datos de reconocimiento facial.
• Predicción del riesgo de que una persona cometa un delito basada únicamente en perfilado o rasgos de personalidad.

Ejemplos empresariales que caen aquí: una plataforma de teletrabajo que analiza la cara de los empleados para medir su nivel de atención; una app que detecta la frustración del cliente por su voz y adapta el precio para aprovechar su estado emocional.

Categoría 2: alto riesgo

Aquí está el núcleo del reglamento y donde caen más pymes de lo que se piensa. Un sistema es de alto riesgo por dos vías.

Vía A — componente de seguridad de un producto regulado. Si tu IA es un componente de seguridad de un producto ya sujeto a normativa de seguridad de la UE (dispositivos médicos, maquinaria, ascensores, juguetes, vehículos, equipos de protección individual), es alto riesgo.

Vía B — usos del Anexo III. El reglamento lista áreas concretas:

1. Biometría: identificación biométrica remota, categorización biométrica, reconocimiento de emociones (fuera de los contextos ya prohibidos).
2. Infraestructuras críticas: gestión de tráfico, suministro de agua, gas, electricidad, calefacción.
3. Educación y formación profesional: acceso o admisión a centros, evaluación de resultados de aprendizaje, orientación del nivel educativo, vigilancia de exámenes.
4. Empleo y gestión de trabajadores: publicación selectiva de ofertas, cribado y filtrado de candidaturas, evaluación de candidatos, decisiones de promoción o despido, asignación de tareas, seguimiento y evaluación del rendimiento.
5. Acceso a servicios esenciales: evaluación de solvencia y puntuación crediticia, evaluación de riesgos y fijación de precios en seguros de vida y salud, acceso a prestaciones públicas, clasificación de llamadas de emergencia.
6. Aplicación de la ley, migración, asilo y control de fronteras.
7. Administración de justicia y procesos democráticos.

Ejemplos concretos de alto riesgo en pymes españolas

Estos casos son reales y muy frecuentes:

• Una empresa de 40 empleados que usa un software de recruiting con IA que puntúa y ordena candidaturas. Alto riesgo (Anexo III.4). Muchas pymes lo tienen contratado como un SaaS de 80 euros al mes y no lo han registrado en ningún sitio.
• Un correduría de seguros que usa IA para calcular la prima de un seguro de salud. Alto riesgo (Anexo III.5).
• Una financiera o una empresa que vende a plazos y usa scoring automático para aprobar la operación. Alto riesgo (Anexo III.5).
• Una academia que usa IA para evaluar automáticamente los ejercicios de los alumnos y decidir si pasan de nivel. Alto riesgo (Anexo III.3).
• Una empresa con control de acceso por reconocimiento facial en sus instalaciones. Alto riesgo (Anexo III.1) y con requisitos añadidos de protección de datos.
• Un software de gestión de turnos que asigna tareas y evalúa el rendimiento de los operarios. Alto riesgo (Anexo III.4).

La excepción que casi nadie aplica bien

El reglamento prevé que un sistema listado en el Anexo III no sea de alto riesgo si no plantea un riesgo significativo de perjuicio para la salud, la seguridad o los derechos fundamentales, por ejemplo porque solo realiza una tarea limitada de procedimiento, mejora el resultado de una actividad humana previa o no sustituye ni influye en la valoración humana.

Aquí está la trampa: para acogerte a esta excepción debes documentar la evaluación que te llevó a esa conclusión antes de introducir el sistema en el mercado o ponerlo en servicio, y registrarla. Además, si el sistema realiza perfilado de personas físicas, la excepción no aplica nunca. Autoexcluirse sin documentarlo no es una excepción: es un incumplimiento con apariencia de excepción.

Categoría 3: riesgo limitado (obligaciones de transparencia)

Afecta a la mayoría de los sistemas que usan las pymes:

• Sistemas que interactúan directamente con personas: hay que informar a la persona de que está interactuando con una IA, salvo que sea obvio.
• Sistemas que generan o manipulan contenido (texto, imagen, audio, vídeo): el contenido debe marcarse como generado artificialmente en un formato legible por máquina.
• Deepfakes: obligación de revelar que el contenido ha sido generado o manipulado.
• Texto generado por IA publicado para informar al público sobre asuntos de interés público: debe indicarse.

Ejemplos: el chatbot de tu web, el asistente de WhatsApp que atiende pedidos, las imágenes de producto generadas con IA, los correos de seguimiento redactados automáticamente.

Categoría 4: riesgo mínimo

Filtros antispam, motores de recomendación de productos sin perfilado sensible, optimización de rutas logísticas, previsión de demanda, detección de anomalías en mantenimiento industrial, corrección ortográfica. Sin obligaciones específicas del AI Act, aunque sigue aplicando el RGPD si hay datos personales.

Atención: "riesgo mínimo" no significa "no hay que hacer nada". Significa que debes poder demostrar que es de riesgo mínimo. Sin esa evaluación documentada, ante un supervisor no tienes un sistema de riesgo mínimo: tienes un sistema sin clasificar.

Cómo clasificar tus sistemas en la práctica

Un procedimiento que funciona:

1. Inventaria todos los sistemas de IA, incluidas funciones de IA dentro de software que usas para otra cosa (tu CRM, tu ERP, tu herramienta de RRHH).
2. Para cada uno, describe la finalidad prevista en una frase concreta. La clasificación depende de la finalidad, no de la tecnología.
3. Comprueba si esa finalidad aparece en las prohibiciones. Si aparece, hay que parar el uso.
4. Comprueba si aparece en el Anexo III o si es componente de seguridad de un producto regulado.
5. Si aplica el Anexo III, valora la excepción y documéntala si la invocas.
6. Si no es alto riesgo, comprueba si genera contenido o interactúa con personas, para las obligaciones de transparencia.
7. Determina tu rol: proveedor o responsable del despliegue. Cambia radicalmente las obligaciones.
8. Fecha y firma la evaluación. Es el documento que te va a defender.

La dificultad real no está en leer el Anexo III, está en describir con precisión qué hace técnicamente tu sistema y qué decisiones influye. Ahí es donde las clasificaciones se hacen mal, casi siempre a la baja.

En CIRCULO IA hacemos esta clasificación con criterio técnico: analizamos qué hace realmente el sistema por dentro, determinamos la categoría de riesgo y tu rol, y dejamos la evaluación documentada y defendible. Si tienes dudas sobre si alguno de tus sistemas es de alto riesgo, es exactamente el tipo de diagnóstico que hacemos.