GLOSSARY
Sistema de IA de alto riesgo
Según el EU AI Act, un sistema de IA cuyo uso previsto o contexto lo sitúa como de alto riesgo conforme al Anexo III. Los sistemas de alto riesgo conllevan obligaciones de evaluación de conformidad, documentación, supervisión y seguimiento poscomercialización.
Un sistema de IA de alto riesgo, según el EU AI Act, es aquel cuyo propósito previsto figura en el Anexo III (ocho ámbitos de alto riesgo, incluidos infraestructura crítica, empleo, servicios esenciales y aplicación de la ley) o que es un componente de seguridad de un producto regulado. Los sistemas de alto riesgo deben cumplir los Artículos 9 a 15: gestión de riesgos, gobierno de datos, documentación técnica, mantenimiento de registros, transparencia, supervisión humana, exactitud/robustez/ciberseguridad y evaluación de la conformidad antes de su puesta en el mercado.
Por qué importa
Para la IA aplicada al comercio, los sistemas usados en la puntuación de riesgo aduanero, la gestión fronteriza o las operaciones de infraestructura crítica pueden ser de alto riesgo. Esto activa la misma carga de cumplimiento que un dispositivo médico con marcado CE. Es un esfuerzo mucho mayor que un despliegue SaaS típico y una razón clave por la que la explicabilidad y la gestión del riesgo de modelos deben diseñarse desde el primer día.
Términos relacionados
- EU AI Act
- Evaluación de la conformidad
- Supervisión humana
- Anexo III