الذكاء الاصطناعي القابل للتفسير يشمل تقنيات تجعل قرارات نماذج الذكاء الاصطناعي مفهومة للبشر، مُجابهةً الطبيعة «الصندوق الأسود» للشبكات العصبية العميقة. تشمل الأساليب قيم SHAP وLIME وتصور الانتباه والتفسيرات المفاهيمية. ضروري للصناعات المنظمة: يجب لبنك مغربي أن يستطيع شرح سبب رفض قرض، ولمستشفى تبرير توصية نظام تشخيصي للطبيب المعالج.