View a markdown version of this page

Amazon Bedrock 防護機制的使用案例 - Amazon Bedrock

本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。

Amazon Bedrock 防護機制的使用案例

建立防護機制之後,您可以使用下列功能來套用:

  • 模型推論 – 在模型上執行推論時,將防護機制套用至提交的提示和產生的回應。

  • 代理程式 – 將防護機制與代理程式建立關聯,以將其套用至傳送給代理程式的提示,以及從中傳回的回應。

  • 知識庫 – 在查詢知識庫並從中產生回應時,套用防護機制。

  • 流程 – 將防護機制新增至流程中的提示節點或知識庫節點,以將其套用至這些節點的輸入和輸出。

下表說明如何使用 AWS 管理主控台 或 Amazon Bedrock API 包含這些功能的護欄。

使用案例 主控台 API
模型推論 使用遊樂場時,請選取防護機制。 在 InvokeModel 或 InvokeModelWithResponseStream 請求的標頭中指定,或在 Converse 或 ConverseStream 請求內文的 guardrailConfig 欄位中包含。
與代理程式建立關聯 當您建立或更新代理程式時,請在代理程式建置器的防護機制詳細資訊區段中指定。 在 CreateAgent 或 UpdateAgent 請求的內文中包含 guardrailConfiguration 欄位。
查詢知識庫時使用 請遵循查詢組態 防護機制 區段中的步驟。設定組態時新增防護機制。 在 RetrieveAndGenerate 請求內文中包含 guardrailConfiguration 欄位。
在流程的提示節點中包含 當您建立或更新流程時,請選取提示節點,並在設定區段中指定防護機制。 當您在 CreateFlow 或 UpdateFlow 請求的 nodes 欄位中定義提示節點時,請在 PromptFlowNodeConfiguration 中包含 guardrailConfiguration 欄位。
在流程的知識庫節點中包含 當您建立或更新流程時,請選取知識庫節點,並在設定區段中指定防護機制。 當您在 CreateFlow 或 UpdateFlow 請求的 nodes 欄位中定義知識庫節點時,請在 KnowledgeBaseFlowNodeConfiguration 中包含 guardrailConfiguration 欄位。

本節涵蓋使用具有模型推論和 Amazon Bedrock API 的防護機制。您可以使用基本推論操作 (InvokeModel 和 InvokeModelWithResponseStream) 以及 Converse API (Converse 和 ConverseStream)。您可以透過這兩組操作來使用具有同步和串流模型推論的防護機制。您也可以選擇性地評估使用者輸入,並設定串流回應行為。