View a markdown version of this page

Kustomisasi model - Amazon SageMaker AI

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Kustomisasi model

Kustomisasi model Amazon SageMaker AI memungkinkan Anda menyesuaikan model dasar dengan kasus penggunaan spesifik Anda dengan melatihnya pada data Anda. Anda memilih teknik penyesuaian (bagaimana model belajar), jenis pelatihan (berapa banyak model yang akan diperbarui), dan opsi infrastruktur (tempat menjalankan pekerjaan).

Gambaran umum

Teknik penyesuaian menentukan bagaimana model Anda belajar dari data:

  • SFT (Diawasi Fine-Tuning) - Berlatih pada pasangan respon cepat berlabel. Lihat SFT.

  • DPO (Direct Preference Optimization) — Latih pasangan respons yang disukai vs yang ditolak. Lihat DPO.

  • RFT (Penguatan Fine-Tuning) — Optimalkan melalui sinyal hadiah (RLVR atau RLAIF). Lihat RFT.

  • MTRL (Reinfor Multi-Turn cement Learning) — Latih agen untuk tugas agen multi-langkah. Lihat Multi-turn pembelajaran penguatan.

  • Kustomisasi Ber kelanjutan - Teknik rantai secara berurutan. Lihat Kustomisasi berkelanjutan.

Jenis pelatihan menentukan berapa banyak model yang akan diperbarui:

  • LoRA(Low-Rank Adaptasi) - Melatih satu set kecil bobot adaptor. Biaya lebih rendah, pelatihan lebih cepat. Lihat LoRa.

  • FFT (Penuh Fine-Tuning) - Memperbarui semua bobot model. Komputasi yang lebih tinggi, kustomisasi yang lebih dalam. Lihat FFT.

Opsi infrastruktur mengontrol tempat pekerjaan pelatihan Anda berjalan:

  • Tanpa server - Sepenuhnya dikelola, tidak ada pemilihan instance. Terbaik untuk eksperimen cepat dan pekerjaan produksi tanpa overhead operasi. Lihat Kustomisasi model tanpa server.

  • SageMaker Pekerjaan Pelatihan AI — Pekerjaan sementara di mana Anda memilih jenis instans. Menggunakan Resep untuk pelatihan pra-konfigurasi. Lihat SageMaker Lowongan AI Training.

  • HyperPod— Cluster persisten dengan pemulihan kesalahan. Menggunakan Resep untuk pelatihan terdistribusi di EKS atauSlurm. Lihat HyperPod.

Memilih pendekatan Anda

Sebelum menyempurnakan, pertimbangkan apakah pendekatan yang lebih sederhana memenuhi kebutuhan Anda:

Rekayasa yang Cepat

Model Anda memberikan jawaban yang dapat diterima tetapi membutuhkan nada, format, atau gaya yang lebih baik. Tidak diperlukan pelatihan — iterasi cepat. Lihat Rek ayasa cepat untuk model pondasi.

RAG (Pengambilan Generasi Augmented)

Model Anda tidak memiliki pengetahuan tentang domain spesifik Anda. Tambah dengan sumber pengetahuan eksternal tanpa pelatihan ulang. Lihat Peng ambilan Augmented Generation.

Fine-tuning

Model Anda perlu secara konsisten mempelajari perilaku, gaya, atau keahlian domain baru. Latih data Anda untuk mengubah bobot model. Lanjutkan membaca panduan ini.

Model yang didukung untuk penyempurnaan

Model berikut tersedia untuk penyesuaian di seluruh tanpa server, Pekerjaan SageMaker Pelatihan AI, dan HyperPod infrastruktur.

Penyedia Model Model ID Nirserver Lowongan Kerja Pelatihan HyperPod
AlibabaQwen3.6 27Bhuggingface-vlm-qwen3-6-27b✓✓✓
AlibabaQwen3.5 27Bhuggingface-vlm-qwen3-5-27b✓✓✓
AlibabaQwen3.5 9Bhuggingface-vlm-qwen3-5-9b✓✓✓
AlibabaQwen3.5 4Bhuggingface-vlm-qwen3-5-4b✓✓✓
AlibabaQwen3 32Bhuggingface-reasoning-qwen3-32b✓✓✓
AlibabaQwen3 14Bhuggingface-reasoning-qwen3-14b✓✓✓
AlibabaQwen3Bhuggingface-reasoning-qwen3-8b✓✓✓
AlibabaQwen3Bhuggingface-reasoning-qwen3-4b✓✓✓
AlibabaQwen3 1.7Bhuggingface-reasoning-qwen3-1-7b✓✓✓
AlibabaQwen3 0,6Bhuggingface-reasoning-qwen3-06b✓✓✓
AlibabaQwen2.5 Instruksikan 72Bhuggingface-llm-qwen2-5-72b-instruct✓✓✓
AlibabaQwen2.5 Instruksikan 32Bhuggingface-llm-qwen2-5-32b-instruct✓✓✓
AlibabaQwen2.5 Instruksikan 14Bhuggingface-llm-qwen2-5-14b-instruct✓✓✓
AlibabaQwen2.5 Instruksikan 7Bhuggingface-llm-qwen2-5-7b-instruct✓✓✓
DeepSeekR1 Distilasi Qwen 32Bdeepseek-llm-r1-distill-qwen-32b✓✓✓
DeepSeekR1 Distilasi Qwen 14Bdeepseek-llm-r1-distill-qwen-14b✓✓✓
DeepSeekR1 Distilasi Qwen 7Bdeepseek-llm-r1-distill-qwen-7b✓✓✓
DeepSeekR1 Distilasi Qwen 1.5Bdeepseek-llm-r1-distill-qwen-1-5b✓✓✓
DeepSeekR1 Distilasi Llama 70Bdeepseek-llm-r1-distill-llama-70b✓✓✓
DeepSeekR1 Distilasi Lama 8Bdeepseek-llm-r1-distill-llama-8b✓✓✓
GoogleGemma 4 31Bhuggingface-vlm-gemma-4-31b-it✓✓✓
GoogleGemma 4 26B A4Bhuggingface-vlm-gemma-4-26b-a4b-it✓✓✓
GoogleGemma 4 E4Bhuggingface-vlm-gemma-4-e4b-it✓✓✓
MetaLlama 3.3 Instrukt 70Bmeta-textgeneration-llama-3-3-70b-instruct✓✓✓
MetaLlama 3.2 Instruksi 3Bmeta-textgeneration-llama-3-2-3b-instruct✓✓✓
MetaLlama 3.2 Instruksi 1Bmeta-textgeneration-llama-3-2-1b-instruct✓✓✓
MetaLlama 3.1 Instruksi 8Bmeta-textgeneration-llama-3-1-8b-instruct✓✓✓
NVIDIANemotron 3 Super 120B (A12B)huggingface-llm-nvidia-nemotron-3-super-120b-a12b-bf16✓✓✓
NVIDIANemotron 3 Nano 30B (A3B)huggingface-reasoning-nvidia-nemotron-3-nano-30b-a3b-bf16✓✓✓
OpenAIGPT OSS 120Bopenai-reasoning-gpt-oss-120b✓✓✓
OpenAIGPT OSS 20Bopenai-reasoning-gpt-oss-20b✓✓✓

Untuk model Amazon Nova, lihat panduan Nova di bawahKustomisasi model tanpa server.