الهجوم العدائي محاولة متعمدة لخداع نظام ذكاء اصطناعي بمدخلات مصممة بعناية تبدو طبيعية للبشر لكنها تفشل النموذج. فبضعة بكسلات معدلة قد تجعل مصنف الصور يخطئ في قراءة إشارة قف، ورسائل مصاغة بمكر قد تدفع روبوت محادثة إلى تجاهل قواعد السلامة الخاصة به. وبالنسبة لبنك يواجه مرشحه المضاد للاحتيال مهاجمين محترفين، أو متجر يعتمد على التعرف الآلي على المنتجات، يصبح اختبار هذه التلاعبات، المعروف بالفريق الأحمر، ضروريا قبل النشر.