Reevol

GLOSSARY

人類參與循環(Human-in-the-Loop)

一種 AI 系統設計,在預先定義的節點由人員檢視、核准或覆寫代理決策。當在高風險貿易決策中尚無法充分證成完全自主時,這是預設的控制機制。

**Human-in-the-loop(HITL,人類介入回路)**指的是任何在決策生效前,會將結果送交人員審核的 AI 工作流程。這種互動可分為:確認式(代理提出建議、操作員核准)、修正式(操作員標註代理錯誤以用於再訓練)、或基於升級機制(代理僅在自身信心低於門檻時停下詢問)。

為何重要

在高風險的貿易任務中——例如清除制裁比對、對兩用物項的 HS 分類簽核、釋放高於 AML 門檻的電匯——HITL 能使代理在 EU AI Act 第14條、OCC SR 11-7 模型風險要求及同類監管框架下具備法律可辯性。關鍵問題不是是否有人在回路中,而是哪些決策需要人介入,以及你提供給審核者的脈絡是什麼。

相關術語

  • 人為監督(Human Oversight)
  • 可解釋性(Explainability)
  • 模型風險管理(Model Risk Management)
  • 升級機制(Escalation)

延伸閱讀