Deadline Cloud で LoRA を使用して Hugging Face LLMs をファインチューニングする

GitHub の hf_finetune_lora ジョブバンドルは、トランスフォーマー、PEFT、ビットサンドバイトライブラリを使用して、カスタム命令データセットの低ランク適応 (LoRA) または Quantized Low-Rank 適応 (QLoRA) を使用して Hugging Face 因果言語モデルをファインチューニングします。出力は小さな LoRA アダプター (約 50～200 MB) で、ベースモデルの上にロードして、書き込みスタイル、ドメインの専門知識、特定の出力形式、または独自の知識を学習します。

このバンドルを実行するには、GPU 対応キュー (Linux フリート、16 GB 以上のビデオ RAM (VRAM) を搭載した NVIDIA GPU) と JSONL 形式のデータセットを備えた Deadline Cloud ファームが必要です。すべてのデフォルトを使用して送信すると、バンドルに含まれるサンプルデータに関するトレーニングが行われます。サンプルリポジトリの job_bundles ディレクトリから、ジョブを送信します。

deadline bundle gui-submit hf_finetune_lora

データセットの準備、キューロールのアクセス許可、フリートのサイズ設定、トレーニング済みアダプターのテストに関する詳細なチュートリアルについては、「」を参照してくださいLoRA と QLoRA を使用して Hugging Face LLMs をファインチューニングする。