在截止日期雲端上使用 LoRA 微調 Hugging Face LLMs

GitHub 上的 hf_finetune_lora 任務套件會使用轉換器、PEFT 和位元和位元組程式庫，在自訂指令資料集上使用低排名調適 (LoRA) 或量化低排名調適 (QLoRA) 微調 Hugging Face 因果語言模型。輸出是小型 LoRA 轉接器 （約 50–200 MB)，您在基礎模型上載入以教導它撰寫風格、網域專業知識、特定輸出格式或一些專屬知識。

若要執行此套件，您需要具有已啟用 GPU 的佇列 (Linux 機群、具有 16 GB 或更多視訊 RAM (VRAM) 的 NVIDIA GPU) 的截止日期雲端陣列，以及 JSONL 格式的資料集。使用所有預設值提交套件隨附的範例資料進行訓練。從範例儲存庫的 job_bundles目錄中，提交任務：

deadline bundle gui-submit hf_finetune_lora

如需涵蓋資料集準備、佇列角色許可、機群大小調整和測試訓練轉接器的完整演練，請參閱 使用 LoRA 和 QLoRA 微調 Hugging Face LLMs。