使用 Amazon Bedrock 中的高级提示模板提高代理的准确性 - Amazon Bedrock

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

使用 Amazon Bedrock 中的高级提示模板提高代理的准确性

创建后,将使用以下四个默认基本提示模板配置代理,这些模板概述了代理序列的每一步如何构造要发送到基础模型的提示。有关每个步骤所包含内容的详细信息,请参阅运行时进程

  • 预处理

  • 编排

  • 知识库响应生成

  • 后期处理(默认禁用)

提示模板定义了代理如何执行以下操作:

  • 处理来自基础模型的用户输入文本和输出提示 (FMs)

  • 在 FM、行动小组和知识库之间进行协调

  • 格式化回复并将其返回给用户

通过使用高级提示,您可以通过修改这些提示模板来提供详细的配置,从而提高代理的准确性。您还可以提供精心策划的少镜头提示示例,在这些示例中,您可以通过为特定任务提供带标签的示例来提高模型性能。

选择一个主题以了解有关高级提示的更多信息。

高级提示术语

以下术语有助于理解高级提示的工作原理。

  • 会话-向具有相同会话 ID 的同一个代理发出的一组InvokeAgent请求。发出 InvokeAgent 请求时,可以重复使用上一次调用的响应返回的 sessionId,以便继续与代理进行同一会话。只要代理配置中的idleSessionTTLInSeconds时间未到期,您就可以与代理保持相同的会话。

  • 回合 – 一个 InvokeAgent 调用。一个会话由一个或多个回合组成。

  • 迭代-以下操作的序列:

    1. (必要)对根基模型的调用

    2. (可选)操作组调用

    3. (可选)知识库调用

    4. (可选)对用户要求提供更多信息的回应

    可能会跳过某项操作,具体取决于代理的配置或代理当时的要求。一个回合包含一次或多次迭代。

  • 提示 – 提示包含对代理的指令、上下文和文本输入。文本输入可以来自用户,也可以来自代理序列中另一个步骤的输出。向基础模型提供提示,以确定代理在响应用户输入时要采取的下一步行动

  • 基本提示模板 – 构成提示的结构元素。该模板由占位符组成,这些占位符在运行时填充了用户输入、代理配置和上下文,用于为基础模型创建当代理到达该步骤时要处理的提示。有关这些占位符的更多信息,请参阅在 Amazon Bedrock 代理提示模板中使用占位符变量)。使用高级提示,您可以编辑这些模板。