QLoRA (Quantized Low-Rank Adaptation) est une technique de fine-tuning des grands modèles de langage sur du matériel modeste. Elle compresse le modèle de base en précision 4 bits par quantization, puis entraîne uniquement de petites couches adaptatrices LoRA, réduisant fortement la mémoire nécessaire tout en gardant une qualité proche du fine-tuning complet. Grâce à QLoRA, une startup marocaine peut adapter un modèle open source aux messages clients en darija avec un seul GPU grand public, au lieu de louer un cluster coûteux.
LLM & ModèlesQLoRA
QLoRA
Termes liés
Apprends à utiliser ces concepts en pratique.
Rejoindre la 212AY Academy →