기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.
LoRA
LoRA (낮은 순위 조정)는 모든 모델 가중치가 아닌 작은 하위 순위 분해 매트릭스 세트를 훈련하여 대규모 모델을 효율적으로 조정합니다. 기본 모델 가중치는 고정된 상태로 유지되며 어댑터 가중치만 학습됩니다.
LoRA를 사용해야 하는 경우
대부분의 사용 사례 - 상당히 저렴한 비용으로 FFT에 가까운 품질 LoRA 달성
더 빠른 훈련과 더 적은 컴퓨팅 지출을 원하는 경우
지속적인 사용자 지정을 사용하여 기술을 연결해야 합니다(LoRA 필수).
더 작은 출력 아티팩트를 원하는 경우(어댑터 가중치만 해당)
단일 기본 모델에서 여러 태스크별 어댑터를 제공하려는 경우 - 융합되지 않은 어댑터는 추론 시간에 교체할 수 있으므로 여러 맞춤형 튜닝 어댑터에서 하나의 기본 모델을 재사용할 수 있습니다.
참고
출력 아티팩트는 작지만(어댑터 가중치만 해당) 어댑터에는 여전히 추론을 위한 기본 모델이 필요합니다. 어댑터를 기본 모델에 병합하지 않는 한(merge_weights아래 참조), 사용자 지정 모델을 실행하려면 기본 모델과 어댑터를 모두 로드해야 합니다.
주요 파라미터
| 파라미터 | 값 | 설명 |
|---|---|---|
lora_rank |
8, 16, 32, 64, 128 | 하위 순위 매트릭스의 차원성. 순위가 높을수록 용량이 늘어나지만 컴퓨팅이 늘어납니다. 16부터 시작합니다. |
lora_alpha |
16, 32, 64, 128, 256 | 조정 인수입니다. 효과적인 학습률은 로 조정됩니다alpha/rank. 일반적으로 순위의 2배로 설정됩니다. |
lora_dropout |
0.0~1.0 | LoRA 어댑터 계층의 드롭아웃 확률입니다. 과적합을 방지하는 데 도움이 됩니다. |
merge_weights |
true, false | 훈련 후 어댑터 가중치를 기본 모델로 다시 병합할지 여부입니다. 어댑터 오버헤드 없이 배포true하려면 로 설정합니다. |
LoRA특정 하이퍼파라미터를 포함한 전체 파라미터 참조는 각 기법 페이지 , DPO, SFT를 참조하세요RFT.
