将 Amazon Bedrock 代理部署到应用程序中并与之集成 - Amazon Bedrock

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

将 Amazon Bedrock 代理部署到应用程序中并与之集成

在您首次创建 Amazon Bedrock 代理时,系统会创建一个工作草稿版本(DRAFT)和一个指向工作草稿版本的测试别名(TSTALIASID)。当您对代理作出更改时,这些更改将应用于工作草稿。您可以反复修改工作草稿,直到您对代理的行为感到满意。然后,您可以通过创建代理的别名来设置代理,以将其部署到应用程序中并与之集成。

要部署代理,您必须创建一个别名。在别名创建期间,Amazon Bedrock 会自动为您的代理创建一个版本。别名指向这个新创建的版本。或者,您也可以将别名指向先前创建的代理版本。然后,将应用程序配置为对该别名进行API调用。

版本是一个快照,它保留了创建资源时资源的存在状态。您可以继续修改工作草稿并根据需要为代理创建新别名(以及相应的版本)。在 Amazon Bedrock 中,您可以通过创建默认指向新版本的别名来创建代理的新版本。Amazon Bedrock 创建的版本按数字顺序排列,从 1 开始。

版本是不可更改的,因为它们是代理在创建时的快照。要更新生产环境中的代理,您必须创建一个新版本并将应用程序设置为调用指向该版本的别名。

使用别名,您可以在代理的不同版本之间高效切换,而无需应用程序对版本进行跟踪。例如,如果存在需要快速还原的更改,您可以将别名更改为指向代理的先前版本。

部署代理
  1. 为代理创建别名和版本。选择您首选方法的选项卡,然后按照以下步骤操作:

    Console
    创建别名(也可以创建新版本)
    1. AWS Management Console 使用具有 Amazon Bedrock 权限的IAM角色登录,然后通过以下网址打开 Amazon Bedrock 控制台。https://console.aws.amazon.com/bedrock/

    2. 从左侧导航窗格中选择代理。然后,在代理部分选择一个代理。

    3. 别名部分,选择创建

    4. 输入唯一的别名名称,(可选)并提供描述

    5. 关联版本下,选择以下选项之一:

      • 要创建新版本,请选择创建新版本并将其关联到此别名

      • 要使用现有版本,请选择使用现有版本关联此别名。从下拉菜单中,选择要关联别名的版本。

    6. 选择吞吐量下,选择以下选项之一:

    7. 选择创建别名

    API

    要为代理创建别名,请使用适用于 Amazon Bedrock 的代理构建时终端节点发送CreateAgentAlias请求。

    以下字段是必填字段:

    字段 应用场景
    agentId 指定要为之创建别名的代理的 ID。
    agentName 指定别名的名称。

    以下字段是可选字段:

    字段 应用场景
    description 提供别名的描述。
    routingConfiguration 指定要与别名关联的版本(留空表示创建新版本)以及要与别名关联的预置吞吐量
    clientToken 确保API请求只完成一次。有关更多信息,请参阅确保幂等性
    tags 用于将标签与别名关联。

    参阅代码示例

  2. 通过设置应用程序来部署代理 InvokeAgent使用适用于 Amazon Bedrock 的代理运行时终端节点进行请求。在 agentAliasId 字段中,指定指向要使用的代理版本的别名 ID。

    InvokeAgent响应流包含多个事件,响应的每个部分按顺序分块。您可以选择通过在直播配置truestreamFinalResponse将设置为来启用流式传输。

    • 如果您的代理配置了 Guardrail,则还可以在applyGuardrailInterval中指定StreamingConfigurations,以控制拨出响应字符的ApplyGuardrail呼叫频率(例如,每 50 个字符)

    • 当前,只有 Orchestration 提示符支持响应流。

    • 直播目前不支持引文。

    • 确保代理执行角色包含已配置代理模型的bedrock:InvokeModelWithResponseStream权限。