La péplexité mesure la qualité des prédictions d'un modèle de langage sur un échantillon de texte. Une péplexité plus basse signifie que le modèle est moins « surpris » par le texte, indiquant qu'il a mieux appris les motifs sous-jacents. Elle est calculée comme l'exposant de la moyenne de la log-vraisemblance négative par token. Utilisée pour comparer des modèles pendant le développement, elle ne mesure pas directement la performance ou la préférence humaine.
LLM & ModèlesPerplexity
Péplexité
Termes liés
Apprends à utiliser ces concepts en pratique.
Rejoindre la 212AY Academy →