选择您的 Cookie 首选项

我们使用必要 Cookie 和类似工具提供我们的网站和服务。我们使用性能 Cookie 收集匿名统计数据,以便我们可以了解客户如何使用我们的网站并进行改进。必要 Cookie 无法停用,但您可以单击“自定义”或“拒绝”来拒绝性能 Cookie。

如果您同意,AWS 和经批准的第三方还将使用 Cookie 提供有用的网站功能、记住您的首选项并显示相关内容,包括相关广告。要接受或拒绝所有非必要 Cookie,请单击“接受”或“拒绝”。要做出更详细的选择,请单击“自定义”。

为代理模型预调配额外的吞吐量

聚焦模式
为代理模型预调配额外的吞吐量 - Amazon Bedrock

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

要提高代理在模型推理期间能够处理的令牌数量和速率,请将您为代理使用的模型购买的预调配吞吐量关联起来。要了解关于预调配吞吐量及其购买方式的更多信息,请参阅 利用 Amazon Bedrock 中的预调配吞吐量增加模型调用容量

您可以在创建更新代理别名时关联预调配吞吐量。在 Amazon Bedrock 控制台中,您可以在设置别名或编辑别名时选择预调配吞吐量。在 Amazon Bedrock API provisionedThroughput 中,您可以在发送CreateAgentAliasUpdateAgentAlias; 请求routingConfiguration时在中指定。

隐私网站条款Cookie 首选项
© 2025, Amazon Web Services, Inc. 或其附属公司。保留所有权利。