為您的使用案例使用護欄 - Amazon Bedrock

本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。

為您的使用案例使用護欄

建立護欄之後，您可以使用下列功能來套用 ：

  • 模型推論 – 在模型上執行推論時，將護欄套用至提交的提示和產生的回應。

  • 客服人員 – 將護欄與客服人員建立關聯，以將其套用至傳送給客服人員的提示，以及從中傳回的回應。

  • 知識庫 – 在查詢知識庫並從中產生回應時套用護欄。

  • 流程 – 將護欄新增至流程中的提示節點或知識庫節點，以將其套用至這些節點的輸入和輸出。

下表說明如何使用 AWS Management Console 或 Amazon Bedrock 來包含每個功能的護欄API。

使用案例 主控台 API
模型推論 使用遊樂場時，請選取護欄。 在 InvokeModel或 InvokeModelWithResponseStream 請求的 標頭中指定 ，或在 Converse 或 ConverseStream請求內文的 guardrailConfig 欄位中指定 。
與客服人員建立關聯 當您建立或更新代理程式時，請在代理程式建置器的護欄詳細資訊區段中指定 。 在 內文中包含guardrailConfiguration欄位 CreateAgent 或 UpdateAgent 請求。
查詢知識庫時使用 請遵循查詢組態 護欄區段中的步驟。設定組態時新增護欄。 在 內文中包含guardrailConfiguration欄位 RetrieveAndGenerate 請求。
在流程的提示節點中包含 當您建立或更新流程時，請選取提示節點，並在設定區段中指定護欄。 當您在 CreateFlow或 UpdateFlow請求的 nodes 欄位中定義提示節點時，請在 中包含 guardrailConfiguration 欄位PromptFlowNodeConfiguration。
包含在流程中的知識庫節點中 當您建立或更新流程時，請選取知識庫節點，並在設定區段中指定護欄。 當您在 CreateFlow或 UpdateFlow請求的 nodes 欄位中定義知識庫節點時，請在 中包含 guardrailConfiguration 欄位KnowledgeBaseFlowNodeConfiguration。

本節涵蓋使用具有模型推論和 Amazon Bedrock 的護欄API。您可以使用基本推論操作 (InvokeModel 和 InvokeModelWithResponseStream) 和 Converse API (Converse 和 ConverseStream)。使用這兩組操作時，您可以使用具有同步和串流模型推論的護欄。您也可以選擇性地評估使用者輸入，並設定串流回應行為。

主題