GLOSSARY
휴먼 인 더 루프
정해진 지점에서 사람이 에이전트의 결정을 검토, 승인, 또는 무효화하는 AI 시스템 설계. 완전 자율이 아직 방어 가능하지 않은 고위험 무역 의사결정에서의 기본 통제 메커니즘.
**Human-in-the-loop (HITL)**는 결정이 효력을 갖기 전에 사람 검토자에게 의사결정을 전달하는 모든 AI 워크플로를 의미한다. 상호작용 유형은 다음과 같다: 확인형(에이전트가 권고하고 운영자가 승인), 교정형(운영자가 에이전트의 오류에 레이블을 부여해 재학습), 에스컬레이션 기반형(에이전트의 자체 신뢰도가 임계값 아래로 떨어질 때에만 중지해 문의).
왜 중요한가
고위험 무역 업무, 예를 들어 제재 스크리닝 적중 해제, 이중용도 물품 HS 분류 승인, AML 임계값을 초과한 전신송금 집행과 같은 경우에 HITL은 EU AI Act Article 14, OCC SR 11-7 모델 리스크 기대치 및 동등한 감독 체계 하에서 에이전트를 법적으로 방어 가능하게 만드는 장치다. 올바른 질문은 루프에 사람을 둘지 여부가 아니라 어떤 의사결정에 그것이 필요하며 검토자에게 어떤 맥락을 제공할지다.
연관 용어
- 인간 감독
- 설명가능성
- 모델 리스크 관리
- 에스컬레이션