根据您的应用场景使用防护机制 - Amazon Bedrock

本文属于机器翻译版本。若本译文内容与英语原文存在差异，则一律以英文原文为准。

根据您的应用场景使用防护机制

创建护栏后，您可以使用以下功能进行申请：

  • 模型推理 — 在模型上运行推理时，对提交的提示和生成的响应设置防护栏。

  • 代理 — 将护栏与代理关联，将其应用于发送给代理的提示和从中返回的响应。

  • 知识库-在查询知识库并从中生成响应时采取防护措施。

  • 流程 — 向流程中的提示节点或知识库节点添加护栏，将其应用于这些节点的输入和输出。

下表描述了如何使用 AWS Management Console 或 Amazon Bedrock 为每项功能添加护栏。API

应用场景 控制台 API
模型推断 使用游乐场时请选择护栏。 在InvokeModel或InvokeModelWithResponseStream请求的标题中指定，或者在 C onverse 或ConverseStream请求正文的guardrailConfig字段中包含该字段。
与代理关联 创建或更新代理时，请在代理生成器的 Guardrail 详细信息部分中指定。 在正文中包含一个guardrailConfiguration字段 CreateAgent 或 UpdateAgent 请求。
在查询知识库时使用 按照查询配置防护机制部分中的步骤进行操作。在设置配置时添加护栏。 在正文中包含一个guardrailConfiguration字段 RetrieveAndGenerate 请求。
包含在流程的提示节点中 创建或更新流程时，请选择提示节点并在 “配置” 部分指定护栏。 在CreateFlow或UpdateFlow请求的nodes字段中定义提示节点时，请在中加入一个guardrailConfiguration字段PromptFlowNodeConfiguration。
包含在流程的知识库节点中 创建或更新流程时，请选择知识库节点并在 “配置” 部分指定护栏。 在CreateFlow或UpdateFlow请求的nodes字段中定义知识库节点时，请在中包含一个guardrailConfiguration字段KnowledgeBaseFlowNodeConfiguration。

本节介绍如何使用带有模型推断的护栏和 Amazon Bedrock。API您可以使用基本推理运算（InvokeModel和 InvokeModelWithResponseStream）和 Converse API（匡威和 ConverseStream）。通过这两组操作，您可以在同步和流式模型推理中使用防护机制。您还可以有选择地评估用户输入，并配置流式响应行为。

主题