本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。
Amazon 基岩護欄的工作原理
Amazon 基岩護欄可評估使用者輸入和模型回應,協助確保您的生成 AI 應用程式安全。
您可以根據下列考量為應用程式設定護欄
一個帳戶可以有多個護欄,每個護欄都有不同的規劃,並根據特定的使用案例進行自訂。
護欄是針對提示和回應設定的多個原則的組合,包括:內容篩選器、拒絕的主題、敏感資訊篩選器和文字篩選器。
您可以使用單一原則或多個原則的組合來設定護欄。
護欄可用於任何純文字基礎模型 (FM),方法是在模型推斷期間參照護欄。
您可以將護欄與 Amazon 基岩代理和 Amazon 基岩知識庫一起使用。
使用護欄時,它在推論調用期間的工作方式如下:
系統會根據護欄中指定的已設定原則評估輸入。此外,為了改善延遲,系統會針對每個設定的原則 parallel 評估輸入。
如果輸入評估導致護欄介入,則會傳回已設定的封鎖訊息回應,並捨棄基礎模型推論。
如果輸入評估成功,則隨後會根據護欄中設定的原則評估模型回應。
如果回應導致護欄干預或違規,則會以預先設定的封鎖訊息或敏感資訊遮罩來覆寫此回應。
如果回應的評估成功,則回應會傳回應用程式,而不進行任何修改。
有關 Amazon 基岩護欄定價的資訊,請參閱 Amazon 基岩定價。
Amazon 基岩護欄的費用計算方式
只有在護欄中設定的政策,才會產生 Amazon 基岩護欄的費用。每種政策類型的價格均可在 Amazon 基岩