La mémoire d'agent regroupe les mécanismes permettant à un agent IA de retenir des informations au-delà d'une seule conversation : décisions passées, préférences des utilisateurs, faits appris et avancement des tâches longues. La mémoire courte réside dans la fenêtre de contexte du modèle, tandis que la mémoire longue est généralement stockée dans des fichiers ou des bases vectorielles, puis récupérée au bon moment. C'est elle qui permet à un agent de service client de se souvenir qu'un client de Fès a déjà signalé un problème de livraison le mois dernier.