Amazon 基岩護欄的工作原理 - Amazon Bedrock

本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。

Amazon 基岩護欄的工作原理

Amazon 基岩護欄可評估使用者輸入和模型回應,協助確保您的生成 AI 應用程式安全。

您可以根據下列考量為應用程式設定護欄

  • 一個帳戶可以有多個護欄,每個護欄都有不同的規劃,並根據特定的使用案例進行自訂。

  • 護欄是針對提示和回應設定的多個原則的組合,包括:內容篩選器、拒絕的主題、敏感資訊篩選器和文字篩選器。

  • 您可以使用單一原則或多個原則的組合來設定護欄。

  • 護欄可用於任何純文字基礎模型 (FM),方法是在模型推斷期間參照護欄。

  • 您可以將護欄與 Amazon 基岩代理和 Amazon 基岩知識庫一起使用。

使用護欄時,它在推論調用期間的工作方式如下:

  • 系統會根據護欄中指定的已設定原則評估輸入。此外,為了改善延遲,系統會針對每個設定的原則 parallel 評估輸入。

  • 如果輸入評估導致護欄介入,則會傳回已設定的封鎖訊息回應,並捨棄基礎模型推論。

  • 如果輸入評估成功,則隨後會根據護欄中設定的原則評估模型回應。

  • 如果回應導致護欄干預或違規,則會以預先設定的封鎖訊息或敏感資訊遮罩來覆寫此回應。

  • 如果回應的評估成功,則回應會傳回應用程式,而不進行任何修改。

有關 Amazon 基岩護欄定價的資訊,請參閱 Amazon 基岩定價。

Amazon 基岩護欄的費用計算方式

只有在護欄中設定的政策,才會產生 Amazon 基岩護欄的費用。每種政策類型的價格均可在 Amazon 基岩定價中獲得。如果護欄阻擋了輸入提示,您將需要支付護欄評估費用。基礎模型推論呼叫不會收取任何費用。如果護欄阻擋了模型回應,您將需要支付輸入提示和模型回應的護欄評估費用。在此情況下,您需要支付基礎模型推論呼叫以及護欄評估之前產生的模型回應費用。