يحدث التحيز الخوارزمي عندما ينتج نظام ذكاء اصطناعي نتائج غير عادلة بشكل منهجي تجاه فئات معينة، غالبا لأن بيانات تدريبه تعكس تفاوتات تاريخية أو تفتقر إلى التنوع. فنموذج توظيف درب أساسا على سير ذاتية من مدينة واحدة قد يبخس ظلما مرشحي المناطق القروية، ونظام تقييم ائتماني قد يجحف بحق رائدات الأعمال إذا كانت بيانات القروض السابقة كذلك. نادرا ما يكون التحيز مقصودا، وهذا ما يجعله خطيرا: على الشركات تدقيق بياناتها واختبار النتائج حسب الفئات قبل نشر الذكاء الاصطناعي في قرارات تخص الأشخاص.