GLOSSARY
Con người trong vòng lặp
Thiết kế hệ thống AI trong đó con người rà soát, phê duyệt hoặc ghi đè quyết định của tác nhân tại các điểm được xác định. Cơ chế kiểm soát mặc định cho các quyết định thương mại rủi ro cao khi quyền tự chủ hoàn toàn chưa thể được bảo vệ về mặt pháp lý.
Human-in-the-loop (HITL) mô tả bất kỳ quy trình làm việc AI nào chuyển các quyết định tới người rà soát trước khi có hiệu lực. Tương tác có thể mang tính xác nhận (tác nhân đề xuất, người vận hành phê duyệt), mang tính hiệu chỉnh (người vận hành gắn nhãn lỗi của tác nhân để tái huấn luyện), hoặc dựa trên cơ chế leo thang (tác nhân chỉ dừng để hỏi khi độ tự tin của chính nó giảm dưới một ngưỡng).
Tại sao quan trọng
Đối với các tác vụ thương mại rủi ro cao như giải quyết một kết quả trùng khớp trừng phạt, phê duyệt phân loại HS cho hàng lưỡng dụng, giải ngân một chuyển khoản điện vượt ngưỡng AML, HITL là cơ chế giúp tác nhân có thể được bảo vệ về mặt pháp lý theo EU AI Act Article 14, kỳ vọng về rủi ro mô hình OCC SR 11-7 và các chế độ giám sát tương đương. Câu hỏi đúng không phải là có giữ con người trong vòng lặp hay không, mà là quyết định nào cần áp dụng và bạn cung cấp ngữ cảnh nào cho người rà soát.
Thuật ngữ liên quan
- Giám sát của con người
- Khả năng giải thích
- Quản trị rủi ro mô hình
- Leo thang