قابلية التفسير

قابلية التفسير في الذكاء الاصطناعي هي خاصية القدرة على تقديم شرح أمين ومفهوم لسبب إنتاج النموذج لناتجه. بالنسبة لمشغّلي التجارة، تعني "أمينة" أن الشرح يطابق فعلياً عملية اتخاذ القرار في النموذج، وليس تبريراً لاحقاً، وتعني "مفهومة" أنها قابلة للفهم من قبل مدقق جمركي، لا من قبل عالم بيانات فحسب.

لماذا يهم

تتلاقى EU AI Act وتوقعات BIS الإشرافية بشأن مخاطر النماذج وGDPR المادة 22 على المتطلب نفسه: عندما يتخذ نظام ذكاء اصطناعي قراراً ذا أثر قانوني، مثل إجازة تطابق عقوبات، تصنيف HS code، أو رفض حد ائتماني، يجب أن تكون قادراً على شرح كيف توصّل إلى ذلك. من دون قابلية تفسير، لا دفاع.

مصطلحات ذات صلة

• إدارة مخاطر النماذج
• سجل التدقيق
• نظام ذكاء اصطناعي عالي المخاطر
• الإنسان في الحلقة

قراءات إضافية

• قابلية الرصد للوكلاء في عمليات التجارة