本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。
为您的用例使用护栏
创建护栏后,您可以通过以下方式应用护栏:
-
模型推断 — 在 Amazon Bedrock 控制台中,使用操场时选择您的护栏。有了 Amazon BedrockAPI,你可以使用带有基本推理操作的护栏或匡威。API
-
为代理添加护栏-在创建或更新代理时,您可以将护栏与代理关联起来。在 Amazon Bedrock 控制台中,您可以在代理生成器的护栏详细信息部分添加护栏。在 Amazon Bedrock 中API,您可以指定GuardrailConfiguration何时发送 CreateAgent 或 UpdateAgent 请求。
-
查询@@ 知识库时使用护栏 — 按照查询配置防护机制部分中的步骤进行操作。在 Amazon Bedrock 控制台中,在设置配置时添加护栏。在 Amazon Bedrock 中API,包括GuardrailConfiguration当你发送 RetrieveAndGenerate 请求。
本节介绍如何使用带有模型推断的护栏和 Amazon Bedrock。API您可以使用基本推理运算(InvokeModel和 InvokeModelWithResponseStream)和匡威(Converse API 和)。ConverseStream在这两组操作中,您可以使用具有同步和流式模型推理的护栏。您还可以有选择地评估用户输入,并可以配置流媒体响应行为。