L'apprentissage en contexte est la capacité d'un grand modèle de langage à apprendre une tâche à partir d'exemples placés directement dans le prompt, sans aucun réentraînement. On montre au modèle quelques paires entrée-sortie, et il déduit le schéma pour l'appliquer à de nouveaux cas. Par exemple, une équipe RH peut coller trois exemples de CV étiquetés « junior » ou « senior » et demander au modèle de classer les cent suivants de la même manière. Cela transforme un modèle généraliste en outil spécialisé en quelques secondes.