使用 Amazon Bedrock 中的高级提示模板提高代理的准确性 - Amazon Bedrock

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

使用 Amazon Bedrock 中的高级提示模板提高代理的准确性

创建代理后,系统会默认配置四个基本提示模板。这些模板定义了代理在其序列的每个步骤中如何构建提示并发送给基础模型。有关每个步骤所包含内容的详细信息,请参阅 运行时流程

  • 预处理

  • 编排

  • 知识库响应生成

  • 后处理(默认禁用)

  • 内存摘要

提示模板定义了代理如何执行以下操作:

  • 处理基础模型中的用户输入文本和输出提示 (FMs)

  • 在 FM、操作组和知识库之间进行编排

  • 处理响应格式并将其返回给用户

使用高级提示,您可以修改这些提示模板以提供详细的配置,从而提高代理的准确性。您还可以提供精心挑选的示例进行少样本提示,即通过为特定任务提供带标签的示例来提升模型的表现。

选择一个主题以了解有关高级提示的更多信息。

高级提示术语

以下术语有助于理解高级提示的工作原理。

  • 会话-向具有相同会话 ID 的同一个代理发出的一组InvokeAgent请求。发出 InvokeAgent 请求时,可以重复使用上一次调用的响应返回的 sessionId,以便继续与代理进行同一会话。只要代理配置中的 idleSessionTTLInSeconds 时间未到期,您就可以与代理保持同一会话。

  • 回合 – 一个 InvokeAgent 调用。一个会话包含一个或多个回合。

  • 迭代 – 一系列以下操作:

    1. (必要)对根基模型的调用

    2. (可选)操作组调用

    3. (可选)知识库调用

    4. (可选)对用户要求提供更多信息的回应

    可以根据代理的配置或代理当时的要求跳过某个操作。一个回合包含一次或多次迭代。

  • 提示 – 提示包含对代理的指令、上下文和文本输入。文本输入可以来自用户,也可以来自代理序列中另一个步骤的输出。向基础模型提供提示,以确定代理在响应用户输入时要采取的下一步行动

  • 基本提示模板 – 构成提示的结构元素。这种模板由占位符组成,这些占位符会在运行时被用户输入、代理配置和上下文信息填充,用于创建在代理到达相应步骤时供基础模型处理的提示。有关这些占位符的更多信息,请参阅 在 Amazon Bedrock 代理提示模板中使用占位符变量。使用高级提示时,您可以编辑这些模板。