

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

# Fine-tune Hugging Face LLM con LoRa su Deadline Cloud
<a name="examples-jb-hf-finetune-lora"></a>

Il job bundle [ hf\_finetune\_lora su un set di dati di istruzioni personalizzato GitHub ](https://github.com/aws-deadline/deadline-cloud-samples/tree/mainline/job_bundles/hf_finetune_lora) ottimizza un modello di linguaggio causale Hugging Face con Low-Rank Adaptation (LoRa) o Quantized Low-Rank Adaptation (QLoRa) su un set di dati di istruzioni personalizzato, utilizzando le librerie transformers, PEFT e bitsandbytes. L'output è un piccolo adattatore LoRa (circa 50-200 MB) che si carica sul modello base per insegnargli uno stile di scrittura, una competenza di dominio, un formato di output specifico o alcune conoscenze proprietarie.

Per eseguire questo pacchetto, è necessaria una farm Deadline Cloud con una GPU-enabled coda (flotta Linux, GPU NVIDIA con 16 GB o più di RAM video (VRAM)) e un set di dati in formato JSONL. Invio con tutti i treni predefiniti utilizzando i dati di esempio inclusi nel pacchetto. Dalla `job_bundles` directory del repository degli esempi, invia il lavoro:

```
deadline bundle gui-submit hf_finetune_lora
```

Per una procedura dettagliata completa che include la preparazione del set di dati, le autorizzazioni per i ruoli di coda, il dimensionamento del parco veicoli e il test dell'adattatore addestrato, consulta. [Fine-tune Hugging Face LM con LoRa e QLoRa](tutorial-hf-finetune-lora.md)