Le biais algorithmique survient quand un système d'IA produit des résultats systématiquement injustes pour certains groupes, généralement parce que ses données d'entraînement reflètent des inégalités historiques ou manquent de diversité. Un modèle de recrutement entraîné surtout sur des CV d'une seule ville peut pénaliser injustement les candidats des régions rurales ; un score de crédit peut désavantager les femmes entrepreneures si les données de prêts passées le faisaient. Rarement intentionnel, le biais est d'autant plus dangereux : il faut auditer les données et tester les résultats par groupe avant tout déploiement.