部署 Amazon Bedrock 代理 - Amazon Bedrock

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

部署 Amazon Bedrock 代理

当你第一次创建 Amazon Bedrock 代理时,你有一个工作草稿版本 (DRAFT) 和一个指向工作草稿版本的测试别名 (TSTALIASID)。当您对代理进行更改时,更改将应用于工作草稿。在对代理人的行为感到满意之前,您可以反复修改工作草稿。然后,您可以通过创建代理的别名来设置代理以进行部署和集成到应用程序中。

要部署代理,必须创建别名。在创建别名期间,Amazon Bedrock 会自动为您的代理创建一个版本。别名指向这个新创建的版本。或者,您可以将别名指向先前创建的代理版本。然后,您将应用程序配置为对该别名进行 API 调用。

版本是一种将资源保留在创建时存在的快照。如有必要,您可以继续修改工作草稿并创建代理的新别名(以及相应的版本)。在 Amazon Bedrock 中,您可以通过创建默认指向新版本的别名来创建代理的新版本。Amazon Bedrock 创建的版本按数字顺序排列,从 1 开始。

版本是不可变的,因为它们充当你创建代理时的快照。要在生产环境中对代理进行更新,必须创建一个新版本并将应用程序设置为调用指向该版本的别名。

使用别名,您可以在代理的不同版本之间高效切换,而无需应用程序跟踪版本。例如,如果有需要快速恢复的更改,则可以将别名更改为指向代理的先前版本。

部署您的代理
  1. 创建代理的别名和版本。选择与您选择的方法相对应的选项卡,然后按照步骤操作。

    Console
    创建别名(也可以创建新版本)
    1. AWS Management Console 使用具有 Amazon Bedrock 权限的 IAM 角色登录,然后通过 https://console.aws.amazon.com/bedrock/ 打开亚马逊 Bedrock 控制台。

    2. 从左侧导航窗格中选择 “代理”。然后,在 “代理” 部分中选择一个代理

    3. 在 “别名” 部分中,选择创建

    4. 输入唯一的别名并提供可选的描述

    5. 在 “关联版本” 下,选择以下选项之一:

      • 要创建新版本,请选择创建新版本并将其与此别名相关联

      • 要使用现有版本,请选择使用现有版本关联此别名。从下拉菜单中,选择要将别名关联到的版本。

    6. “选择吞吐量” 下,选择以下选项之一:

      • 要让您的代理按照为您的账户设置的费率运行模型推理,请选择按需 (ODT)。有关更多信息,请参阅 Amazon Bedrock 的配额

      • 要让您的代理使用您之前为模型购买的预配置吞吐量以更高的速度运行模型推理,请选择预配置吞吐量 (PT),然后选择预配置模型。有关更多信息,请参阅 Amazon Bedrock 的预配置吞吐量

    7. 选择创建别名

    API

    要为代理创建别名,请使用 A mazon Bedrock 代理构建时终端节点发送CreateAgentAlias请求(有关请求和响应格式以及字段详情,请参阅链接)。

    以下字段是必填字段:

    字段 应用场景
    agentId 指定要为其创建别名的代理的 ID。
    agentName 为别名指定名称。

    以下字段为可选字段:

    字段 应用场景
    description 提供别名的描述。
    路由配置 指定要与别名关联的版本(留空以创建新版本)以及要与别名关联的预配置吞吐量
    clientToken 用于确保 API 请求仅完成一次的标识符。
    标签 标签与别名相关联。

    查看代码示例

  2. 通过将您的应用程序设置为使用适用于 A mazon Bedrock 的代理运行时终端节点发出InvokeAgent请求(有关请求和响应格式以及字段详情,请参阅链接)来部署您的代理。在该agentAliasId字段中,指定指向要使用的代理版本的别名 ID。

要了解如何管理代理的版本和别名,请从以下主题中进行选择。