Le red teaming consiste à attaquer délibérément un système d'IA pour découvrir ses faiblesses avant que de vrais adversaires ou des accidents ne le fassent. Les testeurs essaient jailbreaks, injections de prompt, sorties biaisées, fuites de données et génération de contenus nuisibles, puis rapportent leurs trouvailles pour renforcer les défenses. Avant qu'une banque marocaine ne lance un chatbot client, une équipe rouge vérifierait s'il peut être manipulé pour révéler des données de compte.