Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.
Menyesuaikan model Amazon Nova di AI SageMaker
Anda dapat menyesuaikan model Amazon Nova, termasuk model Amazon Nova 2.0 yang disempurnakan, melalui resep dan melatihnya SageMaker. Resep ini mendukung teknik seperti fine tuning (SFT) dan Penguatan Fine-Tuning (RFT), dengan opsi adaptasi peringkat penuh dan peringkat rendah (LoRa).
Alur kerja kustomisasi ujung ke ujung melibatkan tahapan seperti pelatihan model, evaluasi model, dan penerapan untuk inferensi. Pendekatan kustomisasi model ini SageMaker memberikan fleksibilitas dan kontrol yang lebih besar untuk menyempurnakan model Amazon Nova yang didukung, mengoptimalkan hyperparameter dengan presisi, dan menerapkan teknik seperti fine-tuning hemat parameter LoRa (PEFT), SFT peringkat penuh, RFT, dan Lanjutan (CPT). Pre-Training
Pendekatan kustomisasi
SageMaker menawarkan dua pendekatan untuk menyesuaikan model Amazon Nova:
UI-based pengalaman — Gunakan Amazon SageMaker Studio untuk menyesuaikan model Amazon Nova melalui antarmuka yang sederhana dan dipandu. Pendekatan ini menyediakan alur kerja ujung ke ujung termasuk pelatihan, evaluasi, dan penerapan tanpa menulis kode. Peng UI-based alaman ini ideal untuk eksperimen cepat, pengembangan bukti konsep, dan pengguna yang lebih menyukai alur kerja visual.
Code-based pengalaman — Gunakan SageMaker Python SDK, Nova SDK dan resep pelatihan untuk menyesuaikan model secara terprogram. Pendekatan ini menawarkan fleksibilitas yang lebih besar, memungkinkan Anda mengonfigurasi hyperparameter lanjutan, mengintegrasikan dengan CI/CD pipeline, dan mengotomatiskan alur kerja pelatihan. Pengalaman berbasis kode direkomendasikan untuk beban kerja produksi, persyaratan penyesuaian yang kompleks, dan tim dengan praktik MLOPS yang mapan.
| Pendekatan | Terbaik untuk | Manfaat utama |
|---|---|---|
| UI-based | Eksperimen, pembuatan prototipe, iterasi cepat | Pengaturan sederhana, alur kerja terpandu, tidak diperlukan pengkodean |
| Code-based | Produksi, otomatisasi, konfigurasi lanjutan | Fleksibilitas penuh, integrasi pipeline, kontrol versi |
Platform kustomisasi
AWS menawarkan tiga platform untuk menyesuaikan model Amazon Nova, masing-masing dirancang untuk kasus penggunaan dan persyaratan yang berbeda:
Amazon Bedrock - Menyediakan jalur termudah dan tercepat untuk kustomisasi model dengan pengaturan minimal. Bedrock menangani semua manajemen infrastruktur secara otomatis, memungkinkan Anda untuk fokus pada data dan kasus penggunaan Anda. Platform ini sangat ideal ketika Anda membutuhkan waktu tercepat untuk mendapatkan nilai dan lebih memilih pengalaman yang dikelola sepenuhnya.
SageMaker pekerjaan pelatihan — Menyediakan lingkungan yang dikelola sepenuhnya untuk menyesuaikan model Amazon Nova di mana Anda tidak perlu membuat atau memelihara cluster apa pun. Layanan ini secara otomatis menangani semua penyediaan infrastruktur, penskalaan, dan manajemen sumber daya, memungkinkan Anda untuk fokus pada konfigurasi parameter pelatihan dan pengiriman pekerjaan Anda. Platform ini menawarkan keseimbangan antara kemudahan penggunaan dan fleksibilitas, mendukung teknik seperti Parameter Efisien Fine-tuning (PEFT), Penyetelan Peringkat Penuh, dan Penguatan Fine-Tuning (RFT).
SageMaker HyperPod— Menawarkan lingkungan khusus untuk pelatihan terdistribusi skala besar dengan mengharuskan Anda membuat dan mengelola cluster EKS dengan grup instans terbatas (RIG). Platform ini memberi Anda fleksibilitas maksimum dalam mengonfigurasi lingkungan pelatihan Anda dengan instans GPU khusus dan penyimpanan Amazon FSx untuk Lustre terintegrasi, membuatnya sangat cocok untuk skenario pelatihan terdistribusi tingkat lanjut, pengembangan model berkelanjutan, dan beban kerja penyesuaian skala perusahaan.
| Platform | Kompleksitas | Fleksibilitas | Terbaik untuk |
|---|---|---|---|
| Amazon Bedrock | Terendah | Standar | Kustomisasi tercepat, pengaturan minimal |
| SageMaker lowongan kerja pelatihan | Sedang | Tinggi | Fleksibilitas yang seimbang dan kemudahan penggunaan |
| SageMaker HyperPod | Tertinggi | Maksimum | Pelatihan terdistribusi besar, beban kerja perusahaan |
catatan
Jika Anda memberikan kunci KMS untuk pekerjaan pelatihan kustomisasi model Amazon Nova untuk enkripsi di bucket S3 Amazon-owned keluaran:
-
Anda harus memberikan kunci KMS yang sama saat memanggil pekerjaan pelatihan berulang berikutnya, atau saat memanggil CreateCustomModel API Amazon Bedrock memanfaatkan model terenkripsi.
-
Identitas yang memanggil
CreateTrainingJobAPI (bukan peran eksekusi) harus memiliki izin keCreateGrant,,RetireGrantEncrypt, danGenerateDataKeyseperti yang didefinisikan dalam kebijakan kunci KMS.