為您的使用案例使用護欄 - Amazon Bedrock

本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。

為您的使用案例使用護欄

建立護欄之後,您可以使用下列功能來套用 :

  • 模型推論 – 在模型上執行推論時,將護欄套用至提交的提示和產生的回應。

  • 客服人員 – 將護欄與客服人員建立關聯,以將其套用至傳送給客服人員的提示,以及從中傳回的回應。

  • 知識庫 – 在查詢知識庫並從中產生回應時套用護欄。

  • 流程 – 將護欄新增至流程中的提示節點或知識庫節點,以將其套用至這些節點的輸入和輸出。

下表說明如何使用 AWS Management Console 或 Amazon Bedrock 來包含每個功能的護欄API。

使用案例 主控台 API
模型推論 使用遊樂場時,請選取護欄。 InvokeModelInvokeModelWithResponseStream 請求的 標頭中指定 ,或在 ConverseConverseStream請求內文的 guardrailConfig 欄位中指定 。
與客服人員建立關聯 當您建立或更新代理程式時,請在代理程式建置器護欄詳細資訊區段中指定 。 在 內文中包含guardrailConfiguration欄位 CreateAgentUpdateAgent 請求。
查詢知識庫時使用 請遵循查詢組態 護欄區段中的步驟。設定組態時新增護欄。 在 內文中包含guardrailConfiguration欄位 RetrieveAndGenerate 請求。
在流程的提示節點中包含 當您建立更新流程時,請選取提示節點,並在設定區段中指定護欄。 當您在 CreateFlowUpdateFlow請求的 nodes 欄位中定義提示節點時,請在 中包含 guardrailConfiguration 欄位PromptFlowNodeConfiguration
包含在流程中的知識庫節點中 當您建立更新流程時,請選取知識庫節點,並在設定區段中指定護欄。 當您在 CreateFlowUpdateFlow請求的 nodes 欄位中定義知識庫節點時,請在 中包含 guardrailConfiguration 欄位KnowledgeBaseFlowNodeConfiguration

本節涵蓋使用具有模型推論和 Amazon Bedrock 的護欄API。您可以使用基本推論操作 (InvokeModelInvokeModelWithResponseStream) 和 Converse API (ConverseConverseStream)。使用這兩組操作時,您可以使用具有同步和串流模型推論的護欄。您也可以選擇性地評估使用者輸入,並設定串流回應行為。