GLOSSARY
Khả năng giải thích
Khả năng diễn giải, ở dạng có thể kiểm toán bởi con người, vì sao một hệ thống AI tạo ra một đầu ra cụ thể. Với các quyết định thương mại chịu điều tiết, khả năng giải thích là ranh giới giữa một quyết định có thể bảo vệ và một quyết định có thể bị phạt.
Khả năng giải thích trong AI là thuộc tính cho phép đưa ra một diễn giải trung thực và dễ hiểu về lý do một mô hình tạo ra đầu ra của nó. Với nhà vận hành thương mại, "trung thực" nghĩa là lời giải thích thực sự tương ứng với quá trình ra quyết định của mô hình, không phải hợp lý hóa hậu nghiệm, và "dễ hiểu" nghĩa là có thể hiểu được đối với kiểm toán viên hải quan chứ không chỉ nhà khoa học dữ liệu.
Vì sao điều này quan trọng
EU AI Act, các kỳ vọng giám sát của BIS về rủi ro mô hình, và GDPR Article 22 cùng hội tụ vào một yêu cầu: khi một hệ thống AI đưa ra quyết định có hiệu lực pháp lý, ví dụ xử lý một kết quả so khớp chế tài, phân loại một mã HS, từ chối một hạn mức tín dụng, bạn phải có khả năng giải thích cách hệ thống đi đến quyết định đó. Không có khả năng giải thích thì không có cơ sở bảo vệ.
Thuật ngữ liên quan
- Quản lý rủi ro mô hình
- Dấu vết kiểm toán
- Hệ thống AI rủi ro cao
- Con người trong vòng lặp