本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。
針對您的使用案例使用護欄
建立護欄之後,您可以使用下列方式套用護欄:
-
模型推論 — 在 Amazon 基岩主控台中,使用遊樂場時選擇護欄。使用 Amazon 基岩API,您可以使用護欄與基本推論操作或匡威。API
-
將護欄新增至您的代理程式 — 您可以在建立或更新代理程式時,將護欄與代理程式建立關聯。在 Amazon 基岩主控台中,您可以在代理程式建置器的護欄詳細資料區段中新增護欄。在 Amazon 基岩中API,您可以在發送GuardrailConfiguration時指定 CreateAgent 或 UpdateAgent 請求。
-
查詢知識庫時請使用護欄 — 請依照查詢組態一護欄節中的步驟執行。在 Amazon 基岩主控台中,在設定組態時新增護欄。在 Amazon 基岩API, 包括一個GuardrailConfiguration當你發送 RetrieveAndGenerate 請求。
本節介紹了使用帶有模型推論和 Amazon 基岩的護欄。API您可以使用基本推論操作(InvokeModel和 InvokeModelWithResponseStream)和匡威API(匡威和)。ConverseStream透過這兩組作業,您可以使用具有同步和串流模型推論的護欄。您也可以選擇性地評估使用者輸入,並設定串流回應行為。