View a markdown version of this page

工作原理 - Amazon Bedrock AgentCore

工作原理

AgentCore 优化通过可重复的周期将评估结果与经过验证的改进联系起来。典型的迭代遵循以下步骤:

  1. 生成建议:将推荐 API 指向 CloudWatch 日志中的代理跟踪,然后指定要优化的评估者。该服务会分析故障模式并返回经过优化的系统提示或一组工具描述,以及对更改内容和原因的解释。

  2. (可选)Package 作为配置包:使用推荐的配置创建捆绑包版本。捆绑包是代理配置(系统提示、型号 ID、工具描述)的版本化、不可变的快照,无需部署代码即可动态更改。当您想要将代理行为与代码分离时,配置包非常有用;它们不是必需的。您也可以通过部署到单独的运行时端点来验证更改。

  3. 通过@@ A/B 测试进行验证:通过 Gate AgentCore way 在当前代理(控制)和改进版本(处理)之间分配生产流量。在线评估对每次会话进行评分,并报告具有统计学意义的结果。 A/B 测试支持两种模式:

    • 配置包变体:相同的运行时间,不同的捆绑包版本。当更改纯粹是配置(提示、型号 ID、工具描述)时使用。

    • Target-based 变体:指向不同运行时端点的不同网关目标。当更改包括代码更改、框架升级或想要比较完全不同的代理实现时使用。每个变体都可以有自己的在线评估配置。

  4. 部署获胜变体并重复:将 100% 的流量路由到获胜变体。来自新基线的新轨迹为下一次迭代提供了基础。