GLOSSARY
可解释性
以可供人工审计的形式，清晰阐明 AI 系统为何产生某个输出的能力。对于受监管的贸易决策而言，可解释性决定了一项决策是站得住脚还是会招致罚款。
可解释性在 AI 中指: 能够对模型为何产生某个输出给出忠实且可理解的说明这一属性。对贸易运营人员而言,"忠实"意味着该解释确实对应于模型的决策过程,而不是事后合理化;"可理解"意味着对海关审计人员也清晰可懂,而非只让数据科学家看得懂。
EU AI Act、BIS 关于模型风险的监管预期以及 GDPR Article 22 在同一要求上趋同: 当 AI 系统作出具有法律效力的决定时,例如对制裁命中作出放行决定、归类 HS 编码、拒绝授信额度,你必须能够解释其达到该结论的路径。没有可解释性,就没有可辩护性。
- 模型风险管理
- 审计轨迹
- 高风险 AI 系统
- 人类在环
