GLOSSARY
Explicabilidad
La capacidad de articular, en una forma auditable por humanos, por qué un sistema de IA produjo un determinado resultado. Para decisiones comerciales reguladas, la explicabilidad es la diferencia entre una decisión defendible y una sancionable.
Explicabilidad en IA es la propiedad de poder dar una explicación fiel y comprensible de por qué un modelo produjo su resultado. Para los operadores de comercio, "fiel" significa que la explicación realmente corresponde al proceso de decisión del modelo, no una racionalización post hoc, y "comprensible" significa que sea inteligible para un auditor aduanero, no solo para un científico de datos.
Por qué importa
La EU AI Act, las expectativas supervisoras de BIS sobre riesgo de modelos y GDPR Article 22 convergen en el mismo requisito: cuando un sistema de IA toma una decisión con efecto legal, por ejemplo resolver una coincidencia de sanciones, clasificar un código HS o rechazar una línea de crédito, debe poder explicar cómo llegó a ese resultado. Sin explicabilidad no hay defensa.
Términos relacionados
- Gestión del riesgo de modelos
- Registro de auditoría
- Sistema de IA de alto riesgo
- Humano en el bucle