本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。
若要提高代理程式在模型推論期間可以處理的字符速率和數量,請建立您已為代理程式使用的模型購買的佈建輸送量關聯。若要進一步了解佈建輸送量以及如何購買,請參閱 使用 Amazon Bedrock 中的佈建輸送量增加模型調用容量。
您可以在建立或更新客服人員別名時建立佈建輸送量的關聯。在 Amazon Bedrock 主控台中,您可以在設定別名或編輯別名時選擇佈建輸送量。在 Amazon Bedrock API 中,當您傳送 CreateAgentAlias 或 UpdateAgentAlias; 請求routingConfiguration
時,您可以在 provisionedThroughput
中指定 。