Menyediakan throughput tambahan untuk model agen Anda - Amazon Bedrock

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Menyediakan throughput tambahan untuk model agen Anda

Untuk meningkatkan tingkat dan jumlah token yang dapat diproses agen selama inferensi model, kaitkan Throughput Terprovisi yang telah Anda beli untuk model yang digunakan agen Anda. Untuk mempelajari lebih lanjut tentang Provisioned Throughput dan cara membelinya, lihat. Tingkatkan kapasitas pemanggilan model dengan Provisioned Throughput di Amazon Bedrock

Anda dapat mengaitkan Throughput yang Disediakan saat membuat atau memperbarui alias agen. Di konsol Amazon Bedrock, Anda memilih Throughput yang Disediakan saat menyiapkan alias atau mengeditnya. Di Amazon BedrockAPI, Anda menentukan provisionedThroughput di routingConfiguration saat Anda mengirim permintaan CreateAgentAliasatau UpdateAgentAlias;.