GLOSSARY
高リスクAIシステム
EU AI法において、意図された用途または文脈が付属書IIIにより高リスクと分類されるAIシステム。高リスクシステムには、適合性評価、文書化、監督、上市後監視などの義務が課される。
EU AI法における高リスクAIシステムとは、意図された目的が付属書III（重要インフラ、雇用、不可欠サービス、法執行などを含む8つの高リスク分野）に掲げられている、または規制対象製品の安全関連部品であるAIシステムを指す。高リスクシステムは第9条から第15条の要件を満たす必要がある: リスク管理、データガバナンス、技術文書、記録保持、透明性、人による監督、精度・堅牢性・サイバーセキュリティ、そして市場投入前の適合性評価。
なぜ重要か
とりわけ貿易領域におけるAIでは、税関のリスクスコアリング、国境管理、重要インフラの運用で用いられるシステムが高リスクに該当し得る。これは一般的なSaaSのデプロイより格段に重い負担である。また、説明可能性とモデルリスク管理を初期段階から設計に組み込むべき重要な理由となる。
関連用語
- EU AI法
- 適合性評価
- 人による監督
- 付属書III