Deadline Cloud에서 LoRA를 사용하여 Hugging Face LLMs 미세 조정

GitHub의 hf_finetune_lora 작업 번들은 변환기, PEFT 및 비트샌드바이트 라이브러리를 사용하여 사용자 지정 명령 데이터세트에서 저순위 적응(LoRA) 또는 양자화 저순위 적응(QLoRA)을 사용하여 Hugging Face 인과적 언어 모델을 미세 조정합니다. 출력은 쓰기 스타일, 도메인 전문 지식, 특정 출력 형식 또는 일부 독점 지식을 가르치기 위해 기본 모델 위에 로드하는 작은 LoRA 어댑터(약 50~200MB)입니다.

이 번들을 실행하려면 GPU 지원 대기열이 있는 Deadline Cloud 팜(Linux 플릿, 비디오 RAM(VRAM)이 16GB 이상인 NVIDIA GPU)과 JSONL 형식의 데이터 세트가 필요합니다. 모든 기본값으로 제출하면 번들에 포함된 샘플 데이터가 학습됩니다. 샘플 리포지토리의 job_bundles 디렉터리에서 작업을 제출합니다.

deadline bundle gui-submit hf_finetune_lora

데이터세트 준비, 대기열 역할 권한, 플릿 크기 조정 및 훈련된 어댑터 테스트에 대한 전체 연습은 섹션을 참조하세요LoRA 및 QLoRA를 사용하여 Hugging Face LLMs 미세 조정.