LoRA est une technique de fine-tuning économe : les poids du modèle de base sont gelés et l'on entraîne de petites matrices de rang faible ajoutées aux couches, qui représentent la modification. Elle réduit fortement la mémoire et le temps, et ces adaptateurs sont légers à stocker. PEFT désigne l'ensemble de ces méthodes économes.
Exemple
LoraConfig(r=8, lora_alpha=16, target_modules=['q_proj', 'v_proj'])