Un modèle de base est un grand modèle de langage entraîné sur d'immenses volumes de texte pour prédire le prochain token, mais qui n'a pas encore été affiné pour des tâches spécifiques ni aligné sur les préférences humaines. C'est un talent brut : excellent pour compléter du texte mais pas encore formé à suivre des instructions poliment ou à refuser des demandes nocives. Les modèles de base servent de point de départ pour créer des chatbots et assistants via des étapes supplémentaires comme l'instruction tuning et le RLHF.