قابلية التفسير هي درجة قدرة البشر على فهم كيفية توصل نموذج الذكاء الاصطناعي إلى قراراته، من خلال فحص آلياته الداخلية وليس فقط مخرجاته. وتزداد أهميتها في السياقات عالية المخاطر: فإذا رفض نموذج بنكي منح قرض لمقاولة صغيرة في الرباط، فمن حق الجهات التنظيمية والعملاء معرفة العوامل التي رجحت القرار. ولأن الشبكات العصبية العميقة غالباً ما تكون «صناديق سوداء»، يطور الباحثون تقنيات لفحص ما يجري داخلها. قابلية التفسير تبني الثقة، وتكشف التحيزات الخفية، وتتيح إجراء تدقيقات حقيقية.