מערכת בינה מלאכותית בסיכון גבוה

מערכת בינה מלאכותית בסיכון גבוה לפי EU AI Act היא מערכת שמטרת השימוש המיועדת שלה מופיעה ב-Annex III (שמונה תחומי סיכון גבוה, לרבות תשתיות קריטיות, תעסוקה, שירותים חיוניים ואכיפת חוק) או שהיא רכיב בטיחות במוצר מוסדר. על מערכות בסיכון גבוה לעמוד בדרישות סעיפים 9–15: ניהול סיכונים, ממשל נתונים, תיעוד טכני, שמירת רשומות, שקיפות, פיקוח אנושי, דיוק/חוסן/אבטחת סייבר, והערכת התאמה לפני הצבה בשוק.

למה זה חשוב

בפרט עבור בינה מלאכותית למסחר, מערכות המשמשות לניקוד סיכונים במכס, לניהול גבולות, או לתפעול תשתיות קריטיות עשויות להיחשב בסיכון גבוה. דבר זה מפעיל נטל ציות הדומה לזה של מכשיר רפואי בעל סימון CE, כבד בהרבה מפריסה טיפוסית של SaaS, וסיבה מרכזית לכך שהסבריות ו-ניהול סיכוני מודל צריכות להיות מתוכננות מהיום הראשון.

מונחים קשורים

• EU AI Act
• הערכת התאמה
• פיקוח אנושי
• Annex III

לקריאה נוספת

• מעקות בטיחות לסוכני בינה מלאכותית למסחר