GLOSSARY
Hệ thống AI rủi ro cao
Theo EU AI Act, một hệ thống AI có mục đích sử dụng hoặc bối cảnh khiến nó thuộc diện rủi ro cao theo Phụ lục III. Các hệ thống rủi ro cao phải đáp ứng nghĩa vụ đánh giá sự phù hợp, tài liệu hóa, giám sát, và theo dõi sau lưu hành.
Một hệ thống AI rủi ro cao theo EU AI Act là hệ thống có mục đích dự kiến xuất hiện trong Phụ lục III (tám lĩnh vực rủi ro cao gồm hạ tầng trọng yếu, việc làm, dịch vụ thiết yếu và thực thi pháp luật) hoặc là thành phần an toàn của một sản phẩm thuộc diện quản lý. Các hệ thống rủi ro cao phải đáp ứng các Điều 9–15: quản lý rủi ro, quản trị dữ liệu, tài liệu kỹ thuật, lưu giữ hồ sơ, minh bạch, giám sát của con người, độ chính xác/tính vững/an ninh mạng, và đánh giá sự phù hợp trước khi đưa ra thị trường.
Tại sao điều này quan trọng
Cụ thể với AI cho thương mại, các hệ thống dùng để chấm điểm rủi ro hải quan, quản lý biên giới, hoặc vận hành hạ tầng trọng yếu có thể bị xếp vào rủi ro cao. Điều đó kéo theo gánh nặng tuân thủ tương đương với một thiết bị y tế gắn dấu CE, nặng hơn nhiều so với một triển khai SaaS thông thường, và là lý do then chốt để khả năng giải thích và quản trị rủi ro mô hình phải được thiết kế ngay từ ngày đầu.
Thuật ngữ liên quan
- EU AI Act
- Đánh giá sự phù hợp
- Giám sát của con người
- Phụ lục III