Fine-tune Hugging Face LLM con LoRa su Deadline Cloud

Il job bundle hf_finetune_lora su un set di dati di istruzioni personalizzato GitHub ottimizza un modello di linguaggio causale Hugging Face con Low-Rank Adaptation (LoRa) o Quantized Low-Rank Adaptation (QLoRa) su un set di dati di istruzioni personalizzato, utilizzando le librerie transformers, PEFT e bitsandbytes. L'output è un piccolo adattatore LoRa (circa 50-200 MB) che si carica sul modello base per insegnargli uno stile di scrittura, una competenza di dominio, un formato di output specifico o alcune conoscenze proprietarie.

Per eseguire questo pacchetto, è necessaria una farm Deadline Cloud con una GPU-enabled coda (flotta Linux, GPU NVIDIA con 16 GB o più di RAM video (VRAM)) e un set di dati in formato JSONL. Invio con tutti i treni predefiniti utilizzando i dati di esempio inclusi nel pacchetto. Dalla job_bundles directory del repository degli esempi, invia il lavoro:

deadline bundle gui-submit hf_finetune_lora

Per una procedura dettagliata completa che include la preparazione del set di dati, le autorizzazioni per i ruoli di coda, il dimensionamento del parco veicoli e il test dell'adattatore addestrato, consulta. Fine-tune Hugging Face LM con LoRa e QLoRa