本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。

# 在截止日期雲端上使用 LoRA 微調 Hugging Face LLMs
<a name="examples-jb-hf-finetune-lora"></a>

GitHub 網站上的 [hf\_finetune\_lora 任務套件](https://github.com/aws-deadline/deadline-cloud-samples/tree/mainline/job_bundles/hf_finetune_lora)會使用轉換器、PEFT 和位元和位元組程式庫，在自訂指令資料集上使用低排名調適 (LoRA) 或量化低排名調適 (QLoRA) 微調 Hugging Face 因果語言模型。輸出是您在基礎模型上載入的小型 LoRA 轉接器 （約 50 到 200 MB)，以教導其撰寫風格、網域專業知識、特定輸出格式或一些專屬知識。

若要執行此套件，您需要具有已啟用 GPU 的佇列 (Linux 機群、具有 16 GB 或更多視訊 RAM (VRAM) 的 NVIDIA GPU) 的截止日期雲端陣列，以及 JSONL 格式的資料集。使用所有預設值提交套件隨附的範例資料進行訓練。從範例儲存庫的 `job_bundles`目錄中，提交任務：

```
deadline bundle gui-submit hf_finetune_lora
```

如需涵蓋資料集準備、佇列角色許可、機群大小調整和測試訓練轉接器的完整演練，請參閱 [使用 LoRA 和 QLoRA 微調 Hugging Face LLMs](tutorial-hf-finetune-lora.md)。