本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。
Amazon Bedrock Guardrails 透過評估使用者輸入和模型回應,協助確保您的生成式 AI 應用程式安全。
您可以根據下列考量為應用程式設定護欄
帳戶可以有多個護欄,每個護欄都有不同的組態,並自訂為特定的使用案例。
護欄是針對提示和回應設定的多個政策的組合,包括內容篩選條件、拒絕的主題、敏感資訊篩選條件、字詞篩選條件和影像內容篩選條件。
護欄可以使用單一政策或多個政策的組合來設定。
護欄可在模型推論期間參考護欄,以搭配任何文字或影像基礎模型 (FM) 使用。
您可以搭配 Amazon Bedrock Agents 和 Amazon Bedrock 知識庫使用護欄。
在 InvokeModel、InvokeModelWithResponseStream、Converse 或 ConverseStream APIs中使用護欄時,它在推論呼叫期間運作如下:
系統會根據護欄中指定的設定政策來評估輸入。此外,為了改善延遲,會針對每個設定的政策平行評估輸入。
如果輸入評估導致護欄介入,則會傳回設定的封鎖訊息回應,並捨棄基礎模型推論。
如果輸入評估成功,模型回應隨後會根據護欄中設定的政策進行評估。
如果回應導致護欄介入或違規,則會以預先設定的封鎖訊息或敏感資訊遮罩覆寫。
如果回應的評估成功,回應會傳回給應用程式,而不需進行任何修改。
如需 Amazon Bedrock Guardrails 定價的資訊,請參閱 Amazon Bedrock 定價
如何計算 Amazon Bedrock Guardrails 的費用
Amazon Bedrock Guardrails 的費用只會針對在護欄中設定的政策產生。Amazon Bedrock 定價
-
如果護欄封鎖輸入提示,則會向您收取護欄評估的費用。基礎模型推論呼叫不收取任何費用。
-
如果護欄封鎖模型回應,則會向您收取護欄評估輸入提示和模型回應的費用。在這種情況下,除了在護欄評估之前產生的模型回應之外,還會向您收取基礎模型推論呼叫的費用。
-
如果護欄未封鎖輸入提示和模型回應,除了基礎模型推論之外,還需要支付護欄評估提示和模型回應的費用。