Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.
Parameter permintaan inferensi dan bidang respons untuk model pondasi
Topik di bagian ini menjelaskan parameter permintaan dan bidang respons untuk model yang disediakan Amazon Bedrock. Saat Anda membuat panggilan inferensi ke model dengan operasi API pemanggilan model (InvokeModel, InvokeModelWithResponseStream, Converse, dan ConverseStream), Anda menyertakan parameter permintaan tergantung pada model yang Anda gunakan.
Jika Anda membuat model khusus, gunakan parameter inferensi yang sama dengan model dasar dari mana model itu disesuaikan.
Jika Anda mengimpor model yang disesuaikan ke Amazon Bedrock, pastikan untuk menggunakan parameter inferensi yang sama yang disebutkan untuk model khusus yang Anda impor. Jika Anda menggunakan parameter inferensi yang tidak cocok dengan parameter inferensi yang disebutkan untuk model tersebut dalam dokumentasi ini, parameter tersebut akan diabaikan.
Sebelum melihat parameter model untuk model yang berbeda, Anda harus membiasakan diri dengan inferensi model apa dengan membaca Bab berikut:Kirim petunjuk dan hasilkan tanggapan dengan inferensi model.
Lihat halaman berikut untuk informasi lebih lanjut tentang berbagai model di Amazon Bedrock:
-
Untuk tabel model dan penggunaannya IDs dengan operasi API pemanggilan model, Wilayah tempat mereka didukung, dan fitur umum yang mereka dukung, lihat. Model pondasi yang didukung di Amazon Bedrock
-
Untuk tabel Wilayah Batuan Dasar Amazon yang didukung oleh setiap model, lihatDukungan model oleh Wilayah AWS di Amazon Bedrock.
-
Untuk tabel fitur Amazon Bedrock yang didukung oleh setiap model, lihatDukungan model berdasarkan fitur.
-
Untuk memeriksa apakah Converse API (
Converse
andConverseStream
) mendukung model tertentu, lihatModel dan fitur model yang didukung. -
Saat Anda membuat panggilan inferensi ke model, Anda menyertakan prompt untuk model tersebut. Untuk informasi umum tentang membuat prompt untuk model yang didukung Amazon Bedrock, lihat. Konsep rekayasa yang cepat
-
Untuk contoh kode, lihat Contoh kode untuk Amazon Bedrock menggunakan AWS SDKs.
Pilih topik untuk mempelajari model untuk penyedia tersebut dan parameternya.