View a markdown version of this page

SFT - Amazon SageMaker AI

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

SFT

Diawasi mel Fine-Tuning atih model pada pasangan input-output berlabel untuk menyelaraskan perilakunya dengan contoh spesifik. Model belajar menghasilkan respons yang sesuai dengan data pelatihan Anda.

Kapan harus digunakan

  • Anda memiliki pasangan respon cepat berkualitas tinggi untuk tugas target Anda

  • Anda ingin model mempelajari gaya, format, atau pengetahuan domain tertentu

  • Anda membutuhkan perilaku yang konsisten pada tugas yang terdefinisi dengan baik (ringkasan, klasifikasi, Tanya Jawab)

Apa yang dicapai

Model belajar meniru pola dalam contoh pelatihan Anda, menghasilkan output yang sesuai dengan gaya, format, dan konten data berlabel Anda.

Format kumpulan data

SFT mendukung dua format dataset. Semua dataset harus dalam format JSONL (satu objek JSON per baris). systemPesan bersifat opsional dalam kedua format.

Format 1: pesan

Mewakili percakapan sebagai daftar pesan dengan tag peran. Jika disertakan, system pesan harus menjadi elemen pertama.

{ "messages": [ {"role": "system", "content": "..."}, {"role": "user", "content": "..."}, {"role": "assistant", "content": "..."} ] }

Format 2: promp t/ penyelesaian

Berikan input dan output yang diharapkan sebagai bidang terpisah, dengan system bidang tingkat atas opsional.

{ "system": "...", "prompt": "...", "completion": "..." }
catatan

systemPesan itu opsional. Pastikan keragaman dalam petunjuk dan gaya respons.

Hyperparameter

catatan

Tabel di bawah ini menunjukkan hyperparameter yang tersedia saat Anda menggunakan kustomisasi model tanpa server. Hyperparameter lainnya telah ditetapkan oleh Amazon SageMaker AI menggunakan default yang dioptimalkan. Saat Anda menggunakan SageMaker Pekerjaan Pelatihan AI atau HyperPod, Anda dapat mengakses daftar lengkap hyperparameter yang tersedia di resep. Lihat repositori Resep SageMaker AI untuk mendapatkan resep dan mengakses semua hyperparameter.

SFT LoRa

Parameter Tipe Diperlukan? Rentang/Nilai Deskripsi
max_epochsIntegerDiperlukan 1–100Jumlah lintasan lengkap melalui dataset pelatihan.
global_batch_sizeintegerDiperlukan 8, 16, 32, 64, 128, 256, 512, 1024Total sampel yang diproses per langkah pengoptimal di semua instance.
learning_ratefloatDiperlukan 5e-07—1e-04Ukuran langkah untuk pembaruan berat selama pengoptimalan.
lr_schedulerstringDiperlukan kosinus, konstanJadwal penurunan tingkat pembelajaran selama pelatihan.
lr_warmup_steps_ratiofloatDiperlukan 0—1Fraksi dari total langkah yang dihabiskan untuk meningkatkan tingkat pembelajaran dari 0.
weight_decayfloatDiperlukan 0,0-1,0Koefisien regularisasi L2. Membantu mencegah overfit.
gradient_clippingbooleanDiperlukan benar, salahTurunkan gradien jika norma melebihi ambang batas.
gradient_clipping_thresholdfloatDiperlukan 0,0-5,0Norma gradien maksimum yang diizinkan.
dataset_max_lenintegerDiperlukan 256—131072Panjang urutan maksimum dalam token. Urutan yang lebih panjang dipotong.
seedintegerDiperlukan 0–2147483647Benih acak untuk reproduktifitas.
logging_stepsintegerDiperlukan 1–100Frekuensi pencatatan metrik dalam langkah-langkah pengoptimal.
lora_rankintegerDiperlukan 8, 16, 32, 64, 128Dimensi matriks peringkat rendah. Lebih rendah = lebih sedikit parameter yang dapat dilatih.
lora_dropoutfloatDiperlukan 0,0-1,0Probabilitas putus untuk lapisan LoRA adaptor.
lora_alphaintegerDiperlukan 16, 32, 64, 128, 256LoRAfaktor penskalaan. Timbangan LR yang efektif sebagai alpha/rank.
merge_weightsbooleanDiperlukan benar, salahGabungkan LoRA bobot ke dalam model dasar setelah pelatihan.
train_val_split_ratiofloatOpsional0,0-1,0Fraksi dialokasikan untuk pelatihan vs validasi.
temperaturefloatDiperlukan 0,0-2,0Suhu pengambilan sampel untuk evaluasi.

SFT FFT

Parameter Tipe Diperlukan? Rentang/Nilai Deskripsi
max_epochsIntegerDiperlukan 1–100Jumlah lintasan lengkap melalui dataset pelatihan.
global_batch_sizeintegerDiperlukan 8, 16, 32, 64, 128, 256, 512, 1024Total sampel yang diproses per langkah pengoptimal.
learning_ratefloatDiperlukan 5e-07—1e-04Ukuran langkah untuk pembaruan berat.
lr_schedulerstringDiperlukan kosinus, konstanJadwal peluruhan tingkat pembelajaran.
lr_warmup_steps_ratiofloatDiperlukan 0—1Fraksi langkah untuk pemanasan LR.
weight_decayfloatDiperlukan 0,0-1,0Koefisien regularisasi L2.
gradient_clippingbooleanDiperlukan benar, salahTurunkan gradien jika norma melebihi ambang batas.
gradient_clipping_thresholdfloatDiperlukan 0,0-5,0Norma gradien maksimum yang diizinkan.
dataset_max_lenintegerDiperlukan 256—131072Panjang urutan maksimum dalam token.
max_response_lengthintegerDiperlukan 100—200000Token maksimum untuk respons yang dihasilkan.
seedintegerDiperlukan 0–2147483647Benih acak untuk reproduktifitas.
logging_stepsintegerDiperlukan 1–100Frekuensi pencatatan metrik.
train_val_split_ratiofloatOpsional0,0-1,0Fraksi dialokasikan untuk pelatihan vs validasi.
temperaturefloatDiperlukan 0,0-2,0Suhu pengambilan sampel untuk evaluasi.