

Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.

# Fine-tune Hugging Face LLMs avec LoRa sur Deadline Cloud
<a name="examples-jb-hf-finetune-lora"></a>

Le job bundle [ hf\_finetune\_lora permet de GitHub ](https://github.com/aws-deadline/deadline-cloud-samples/tree/mainline/job_bundles/hf_finetune_lora) peaufiner un modèle de langage causal Hugging Face avec Low-Rank adaptation (LoRa) ou adaptation quantifiée (QLoRa) sur un jeu de données d'instructions personnalisé, à Low-Rank l'aide des bibliothèques transformers, PEFT et bitsandbytes. La sortie est un petit adaptateur LoRa (environ 50 à 200 Mo) que vous chargez au-dessus du modèle de base pour lui apprendre un style d'écriture, une expertise dans un domaine, un format de sortie spécifique ou des connaissances exclusives.

Pour exécuter ce bundle, vous avez besoin d'une ferme Deadline Cloud avec une GPU-enabled file d'attente (parc Linux, GPU NVIDIA avec 16 Go ou plus de RAM vidéo (VRAM)) et un jeu de données au format JSONL. Soumission avec tous les trains par défaut figurant dans les exemples de données inclus dans le bundle. Depuis le `job_bundles` répertoire du référentiel d'échantillons, soumettez la tâche :

```
deadline bundle gui-submit hf_finetune_lora
```

Pour une procédure pas à pas complète qui couvre la préparation de l'ensemble de données, les autorisations relatives aux rôles de file d'attente, le dimensionnement de la flotte et le test de l'adaptateur entraîné, consultez. [Fine-tune Hugging Face LLMs avec LoRa et QLoRa](tutorial-hf-finetune-lora.md)