View a markdown version of this page

Membuat profil inferensi aplikasi - Amazon Bedrock

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Membuat profil inferensi aplikasi

Anda dapat membuat profil inferensi aplikasi dengan satu atau lebih Wilayah untuk melacak penggunaan dan biaya saat memanggil model.

  • Untuk membuat profil inferensi aplikasi untuk satu Wilayah, tentukan model dasar. Penggunaan dan biaya untuk permintaan yang dibuat ke Wilayah tersebut dengan model itu akan dilacak.

  • Untuk membuat profil inferensi aplikasi untuk beberapa Wilayah, tentukan profil inferensi lintas Wilayah (ditentukan sistem). Profil inferensi akan merutekan permintaan ke Wilayah yang ditentukan dalam profil inferensi lintas Wilayah (ditentukan sistem) yang Anda pilih. Penggunaan dan biaya untuk permintaan yang dibuat ke Wilayah dalam profil inferensi akan dilacak.

Anda dapat membuat profil inferensi aplikasi menggunakan konsol Amazon Bedrock atau Amazon Bedrock API.

Untuk membuat profil inferensi menggunakan API, kirim CreateInferenceProfile permintaan dengan titik akhir bidang kontrol Amazon Bedrock.

Bidang-bidang berikut wajib diisi:

Bidang Kasus penggunaan
kesimpulan ProfileName Untuk menentukan nama untuk profil inferensi.
Sumber Model Untuk menentukan model dasar atau profil inferensi lintas Wilayah (ditentukan sistem) yang mendefinisikan model dan Wilayah yang ingin Anda lacak biaya dan penggunaannya.

Bidang berikut bersifat opsional:

Bidang Kasus penggunaan
deskripsi Untuk memberikan deskripsi untuk profil inferensi.
tag Untuk melampirkan tag ke profil inferensi. Untuk informasi selengkapnya, lihat Menandai sumber daya Amazon Bedrock dan Mengatur dan melacak biaya menggunakan tag alokasi AWS biaya.
Klien RequestToken Untuk memastikan permintaan API selesai hanya sekali. Untuk informasi lebih lanjut, lihat Memas tikan idempotensi.

Respons mengembalikan sebuah inferenceProfileArn yang dapat digunakan dalam tindakan terkait profil inferensi lainnya dan yang dapat digunakan dengan pemanggilan model dan sumber daya Amazon Bedrock.