기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.
모델 사용자 지정
Amazon SageMaker AI 모델 사용자 지정을 사용하면 데이터에 대해 훈련하여 파운데이션 모델을 특정 사용 사례에 맞게 조정할 수 있습니다. 사용자 지정 기법(모델이 학습하는 방법), 훈련 유형(업데이트할 모델의 양), 인프라 옵션(작업을 실행할 위치)을 선택합니다.
개요
사용자 지정 기법은 모델이 데이터에서 학습하는 방법을 정의합니다.
SFT(지도 미세 조정) - 레이블이 지정된 프롬프트-응답 쌍에 대해 훈련합니다. SFT을(를) 참조하세요.
DPO(Direct Preference Optimization) - 선호하는 응답 페어와 거부된 응답 페어를 훈련합니다. DPO을(를) 참조하세요.
RFT(강화 미세 조정) - 보상 신호(RLVR 또는 RLAIF)를 통해 최적화합니다. RFT을(를) 참조하세요.
MTRL(다중 회전 강화 학습) - 다단계 에이전트 작업을 위해 에이전트를 교육합니다. 멀티턴 강화 학습을(를) 참조하세요.
지속적 사용자 지정 - 기술을 순차적으로 연결합니다. 지속적인 사용자 지정을(를) 참조하세요.
훈련 유형에 따라 업데이트할 모델의 양이 결정됩니다.
인프라 옵션은 훈련 작업이 실행되는 위치를 제어합니다.
서버리스 - 완전 관리형, 인스턴스 선택 없음. 운영 오버헤드가 없는 빠른 실험 및 프로덕션 작업에 가장 적합합니다. 서버리스 모델 사용자 지정을(를) 참조하세요.
SageMaker AI 훈련 작업 - 인스턴스 유형을 선택하는 임시 작업입니다. 사전 구성된 훈련에 레시피를 사용합니다. SageMaker AI 학습 작업을(를) 참조하세요.
HyperPod - 장애 복구가 포함된 영구 클러스터입니다. EKS 또는에 대한 분산 훈련에 레시피를 사용합니다Slurm. HyperPod을(를) 참조하세요.
접근 방식 선택
미세 조정하기 전에 더 간단한 접근 방식이 요구 사항을 충족하는지 고려하세요.
- 프롬프트 엔지니어링
모델은 허용 가능한 답변을 제공하지만 더 나은 톤, 형식 또는 스타일이 필요합니다. 훈련 필요 없음 - 빠른 반복. 파운데이션 모델에 대한 프롬프트 엔지니어링을 참조하세요.
- 검색 증강 생성(RAG)
모델에 특정 도메인에 대한 지식이 부족합니다. 재학습 없이 외부 지식 소스로 보강합니다. 검색 증강 생성을 참조하세요.
- 미세 조정
모델은 새로운 행동, 스타일 또는 도메인 전문 지식을 지속적으로 학습해야 합니다. 데이터를 훈련하여 모델 가중치를 변경합니다. 이 가이드를 계속 읽어보세요.
미세 조정에 지원되는 모델
다음 모델은 서버리스, SageMaker AI 훈련 작업 및 HyperPod 인프라에서 사용자 지정할 수 있습니다.
| 제공업체 | 모델 | 모델 ID | 서버리스 | 훈련 작업 | HyperPod |
|---|---|---|---|---|---|
| 알리바바 | Qwen3.6 27B | huggingface-vlm-qwen3-6-27b | ✓ | ✓ | ✓ |
| 알리바바 | Qwen3.5 27B | huggingface-vlm-qwen3-5-27b | ✓ | ✓ | ✓ |
| 알리바바 | Qwen3.5 9B | huggingface-vlm-qwen3-5-9b | ✓ | ✓ | ✓ |
| 알리바바 | Qwen3.5 4B | huggingface-vlm-qwen3-5-4b | ✓ | ✓ | ✓ |
| 알리바바 | Qwen3 32B | huggingface-reasoning-qwen3-32b | ✓ | ✓ | ✓ |
| 알리바바 | Qwen3 14B | huggingface-reasoning-qwen3-14b | ✓ | ✓ | ✓ |
| 알리바바 | Qwen3 8B | huggingface-reasoning-qwen3-8b | ✓ | ✓ | ✓ |
| 알리바바 | Qwen3 4B | huggingface-reasoning-qwen3-4b | ✓ | ✓ | ✓ |
| 알리바바 | Qwen3 1.7B | huggingface-reasoning-qwen3-1-7b | ✓ | ✓ | ✓ |
| 알리바바 | Qwen3 0.6B | huggingface-reasoning-qwen3-06b | ✓ | ✓ | ✓ |
| 알리바바 | Qwen2.5 명령 72B | huggingface-llm-qwen2-5-72b-instruct | ✓ | ✓ | ✓ |
| 알리바바 | Qwen2.5 명령 32B | huggingface-llm-qwen2-5-32b-instruct | ✓ | ✓ | ✓ |
| 알리바바 | Qwen2.5 명령 14B | huggingface-llm-qwen2-5-14b-instruct | ✓ | ✓ | ✓ |
| 알리바바 | Qwen2.5 명령 7B | huggingface-llm-qwen2-5-7b-instruct | ✓ | ✓ | ✓ |
| DeepSeek | R1 Distill Qwen 32B | deepseek-llm-r1-distill-qwen-32b | ✓ | ✓ | ✓ |
| DeepSeek | R1 Distill Qwen 14B | deepseek-llm-r1-distill-qwen-14b | ✓ | ✓ | ✓ |
| DeepSeek | R1 Distill Qwen 7B | deepseek-llm-r1-distill-qwen-7b | ✓ | ✓ | ✓ |
| DeepSeek | R1 Distill Qwen 1.5B | deepseek-llm-r1-distill-qwen-1-5b | ✓ | ✓ | ✓ |
| DeepSeek | R1 Distill Llama 70B | deepseek-llm-r1-distill-llama-70b | ✓ | ✓ | ✓ |
| DeepSeek | R1 Distill Llama 8B | deepseek-llm-r1-distill-llama-8b | ✓ | ✓ | ✓ |
| Gemma 4 31B | huggingface-vlm-gemma-4-31b-it | ✓ | ✓ | ✓ | |
| Gemma 4 26B A4B | huggingface-vlm-gemma-4-26b-a4b-it | ✓ | ✓ | ✓ | |
| Gemma 4 E4B | huggingface-vlm-gemma-4-e4b-it | ✓ | ✓ | ✓ | |
| Meta | Llama 3.3 명령 70B | meta-textgeneration-llama-3-3-70b-instruct | ✓ | ✓ | ✓ |
| Meta | Llama 3.2 명령 3B | meta-textgeneration-llama-3-2-3b-instruct | ✓ | ✓ | ✓ |
| Meta | Llama 3.2 명령 1B | meta-textgeneration-llama-3-2-1b-instruct | ✓ | ✓ | ✓ |
| Meta | Llama 3.1 명령 8B | meta-textgeneration-llama-3-1-8b-instruct | ✓ | ✓ | ✓ |
| NVIDIA | Nemotron 3 수퍼 120B(A12B) | huggingface-llm-nvidia-nemotron-3-super-120b-a12b-bf16 | ✓ | ✓ | ✓ |
| NVIDIA | Nemotron 3 Nano 30B(A3B) | huggingface-reasoning-nvidia-nemotron-3-nano-30b-a3b-bf16 | ✓ | ✓ | ✓ |
| OpenAI | GPT OSS 120B | openai-reasoning-gpt-oss-120b | ✓ | ✓ | ✓ |
| OpenAI | GPT OSS 20B | openai-reasoning-gpt-oss-20b | ✓ | ✓ | ✓ |
Amazon Nova 모델의 경우 아래의 Nova 연습을 참조하세요서버리스 모델 사용자 지정.
