本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。
配置高级提示
您可以在 AWS Management Console 或中通过配置高级提示API。
- Console
-
在控制台中,您可以在创建代理后配置高级提示。您可以在编辑代理时进行配置。
查看或编辑代理的高级提示
-
AWS Management Console 使用具有 Amazon Bedrock 权限的IAM角色登录,然后通过以下网址打开 Amazon Bedrock 控制台。https://console.aws.amazon.com/bedrock/
-
在左侧导航窗格中,选择代理。然后在 “代理” 部分中选择一个代理。
-
在代理详细信息页面上,在工作草稿部分,选择工作草稿。
-
在 “工作草稿” 页面的 “高级提示” 部分,选择 “编辑”。
-
在 “编辑高级提示” 页面上,选择与要编辑的代理序列步骤相对应的选项卡。
-
要启用模板编辑功能,请打开 “覆盖模板默认值”。在 “覆盖模板默认值” 对话框中,选择 “确认”。
警告
如果您关闭 “覆盖模板默认值” 或更改模型,则会使用默认的 Amazon Bedrock 模板,并且您的模板将立即被删除。要进行确认,请在文本框中输入
confirm
以确认出现的消息。 -
要允许代理在生成响应时使用模板,请打开激活模板。如果此配置被关闭,代理将不使用该模板。
-
要修改示例提示模板,请使用提示模板编辑器。
-
在配置中,您可以修改提示的推理参数。有关参数的定义,以及不同模型所支持参数的更多信息,请参阅基础模型的推理请求参数和响应字段。
-
(可选)要使用您定义的 Lambda 函数来解析原始基础模型输出,请执行以下操作:
注意
所有提示模板均使用一个 Lambda 函数。
-
在配置部分,选择使用 Lambda 函数进行解析。如果清除此设置,您的代理将使用默认解析器作为提示。
-
对于解析器 Lambda 函数,请从下拉菜单中选择一个 Lambda 函数。
注意
您必须为代理附加权限,这样它才能访问 Lambda 函数。有关更多信息,请参阅 基于资源的策略,允许 Amazon Bedrock 调用操作组 Lambda 函数。
-
-
要保存您的设置,请选择以下选项之一:
-
要保持在同一窗口中,以便在测试更新的代理时动态更新提示设置,请选择 “保存”。
-
要保存设置并返回工作草稿页面,请选择保存并退出。
-
-
要测试更新的设置,请在 “测试” 窗口中选择 “准备”。
-
- API
-
要使用API操作配置高级提示,请发送UpdateAgent呼叫并修改以下
promptOverrideConfiguration
对象。"promptOverrideConfiguration": { "overrideLambda": "string", "promptConfigurations": [ { "basePromptTemplate": "string", "inferenceConfiguration": { "maximumLength": int, "stopSequences": [ "string" ], "temperature": float, "topK": float, "topP": float }, "parserMode": "DEFAULT | OVERRIDDEN", "promptCreationMode": "DEFAULT | OVERRIDDEN", "promptState": "ENABLED | DISABLED", "promptType": "PRE_PROCESSING | ORCHESTRATION | KNOWLEDGE_BASE_RESPONSE_GENERATION | POST_PROCESSING" } ] }
-
在
promptConfigurations
列表中,为要编辑的每个提示模板添加promptConfiguration
对象。 -
在
promptType
字段中指定要修改的提示。 -
通过以下步骤修改提示模板:
-
使用提示模板指定
basePromptTemplate
字段。 -
在
inferenceConfiguration
对象中包含推理参数。有关推理配置的更多信息,请参阅基础模型的推理请求参数和响应字段。
-
-
要启用提示模板,
promptCreationMode
请将设置为OVERRIDDEN
。 -
要允许或阻止代理执行
promptType
字段中的步骤,请修改该promptState
值。此设置可用于对代理的行为进行故障排除。-
如果
promptState
将DISABLED
、或POST_PROCESSING
步骤设置为PRE_PROCESSING
KNOWLEDGE_BASE_RESPONSE_GENERATION
,则代理会跳过该步骤。 -
如果将
ORCHESTRATION
步骤设置promptState
DISABLED
为,则代理在编排中仅将用户输入发送到基础模型。此外,代理会按原样返回响应,而无需协调API操作和知识库之间的调用。 -
默认情况下,该
POST_PROCESSING
步骤为DISABLED
。默认情况下,PRE_PROCESSING
ORCHESTRATION
、和KNOWLEDGE_BASE_RESPONSE_GENERATION
步骤为ENABLED
。
-
-
要使用您定义的 Lambda 函数来解析原始基础模型输出,请执行以下步骤:
-
对于要为其启用 Lambda 函数的每个提示模板,请将设置为
parserMode
。OVERRIDDEN
-
在对象的
overrideLambda
字段中指定 Lambda 函数的亚马逊资源名称 (ARN)。promptOverrideConfiguration
-
-