Fine-tune Hugging Face LLMs avec LoRa sur Deadline Cloud

Le job bundle hf_finetune_lora permet de GitHub peaufiner un modèle de langage causal Hugging Face avec Low-Rank adaptation (LoRa) ou adaptation quantifiée (QLoRa) sur un jeu de données d'instructions personnalisé, à Low-Rank l'aide des bibliothèques transformers, PEFT et bitsandbytes. La sortie est un petit adaptateur LoRa (environ 50 à 200 Mo) que vous chargez au-dessus du modèle de base pour lui apprendre un style d'écriture, une expertise dans un domaine, un format de sortie spécifique ou des connaissances exclusives.

Pour exécuter ce bundle, vous avez besoin d'une ferme Deadline Cloud avec une GPU-enabled file d'attente (parc Linux, GPU NVIDIA avec 16 Go ou plus de RAM vidéo (VRAM)) et un jeu de données au format JSONL. Soumission avec tous les trains par défaut figurant dans les exemples de données inclus dans le bundle. Depuis le job_bundles répertoire du référentiel d'échantillons, soumettez la tâche :

deadline bundle gui-submit hf_finetune_lora

Pour une procédure pas à pas complète qui couvre la préparation de l'ensemble de données, les autorisations relatives aux rôles de file d'attente, le dimensionnement de la flotte et le test de l'adaptateur entraîné, consultez. Fine-tune Hugging Face LLMs avec LoRa et QLoRa