Le jailbreaking consiste à formuler des prompts qui poussent un modèle d'IA à contourner ses règles de sécurité et à produire des contenus qu'il devrait refuser, comme des instructions dangereuses ou des données confidentielles. Les attaquants utilisent des jeux de rôle, des messages encodés ou des scénarios hypothétiques élaborés pour tromper le modèle. Pour une entreprise qui déploie un chatbot client, c'est un risque réel : un bot manipulé pourrait insulter des clients, révéler des politiques internes ou promettre des remises illégales. Le red-teaming régulier et des garde-fous en couches sont les défenses standard.