L'IA explicable regroupe des techniques qui rendent les décisions des modèles d'IA compréhensibles aux humains, répondant à la nature boîte noire des réseaux de neurones profonds. Les méthodes incluent les valeurs SHAP, LIME, la visualisation d'attention et les explications basées sur des concepts. L'XAI est essentiel pour les secteurs réglementés : une banque marocaine doit pouvoir expliquer pourquoi un crédit a été refusé, et un hôpital doit justifier la recommandation d'un IA de diagnostic auprès d'un médecin.