אדם בלולאה

Human-in-the-loop (HITL) מתאר כל זרימת עבודה בבינה מלאכותית שמנתבת החלטות לסוקר אנושי לפני כניסתן לתוקף. האינטראקציה יכולה להיות מאשרת (הסוכן ממליץ, המפעיל מאשר), מתקנת (המפעיל מתייג את טעות הסוכן לצורך אימון מחודש), או מבוססת הסלמה (הסוכן עוצר לשאול רק כאשר רמת הביטחון שלו יורדת מתחת לסף).

למה זה חשוב

במשימות סחר עתירות סיכון: הכרעה בהתאמת סנקציות, אישור סיווג HS לטובין דו-שימושיים, שחרור העברה בנקאית מעל סף AML, HITL הוא מה שמקנה לסוכן הגנה משפטית לפי EU AI Act Article 14, ציפיות לניהול סיכוני מודלים לפי OCC SR 11-7, ומשטרי פיקוח מקבילים. השאלה הנכונה אינה האם להשאיר אדם בלולאה, אלא אילו החלטות מחייבות זאת ואיזה הקשר מספקים לסוקר.

מונחים קשורים

• פיקוח אנושי
• הסברתיות
• ניהול סיכוני מודלים
• הסלמה

קריאה נוספת

• סייגים לסוכני בינה מלאכותית למסחר