הסבריות

הסבריות בבינה מלאכותית היא היכולת לספק תיאור נאמן ומובן של הסיבה שמודל הפיק את פלטו. עבור מפעילי סחר, "נאמן" פירושו שההסבר אכן תואם את תהליך קבלת ההחלטות של המודל, ולא רציונליזציה בדיעבד, ו"מובן" פירושו שהוא נהיר למבקר מכס, לא רק למדען נתונים.

למה זה חשוב

ה-EU AI Act, ציפיות הפיקוח של BIS לגבי סיכון מודלים, ו-GDPR Article 22 מתכנסים לדרישה אחת: כאשר מערכת AI מקבלת החלטה בעלת השפעה משפטית, כגון אישור התאמה בבדיקת סנקציות, סיווג קוד HS, או דחיית קו אשראי, חייבים להיות מסוגלים להסביר כיצד היא הגיעה לתוצאה. בלי הסבריות אין הגנה.

מונחים קשורים

• ניהול סיכון מודלים
• נתיב ביקורת
• מערכת AI בסיכון גבוה
• אדם במעגל

לקריאה נוספת

• תצפיתיות סוכנים לתפעול סחר