Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.
Untuk meningkatkan tingkat dan jumlah token yang dapat diproses agen selama inferensi model, kaitkan Throughput Terprovisi yang telah Anda beli untuk model yang digunakan agen Anda. Untuk mempelajari lebih lanjut tentang Provisioned Throughput dan cara membelinya, lihat. Tingkatkan kapasitas pemanggilan model dengan Provisioned Throughput di Amazon Bedrock
Anda dapat mengaitkan Throughput yang Disediakan saat membuat atau memperbarui alias agen. Di konsol Amazon Bedrock, Anda memilih Throughput yang Disediakan saat menyiapkan alias atau mengeditnya. Di Amazon Bedrock API, Anda menentukan provisionedThroughput
di routingConfiguration
saat Anda mengirim permintaan CreateAgentAliasor UpdateAgentAlias;.