L'interprétabilité désigne la capacité des humains à comprendre comment un modèle d'IA parvient à ses décisions, en examinant ses mécanismes internes et pas seulement ses résultats. Elle est cruciale dans les contextes à fort enjeu : si le modèle d'une banque refuse un crédit à une PME de Rabat, les régulateurs et les clients méritent de connaître les facteurs déterminants. Les réseaux de neurones profonds étant souvent des « boîtes noires », les chercheurs développent des techniques pour inspecter leur fonctionnement interne. L'interprétabilité renforce la confiance, révèle les biais cachés et rend possibles de véritables audits.