訓練後資料和模型偏差

訓練後偏差分析有助於揭示可能因資料中的偏差，或分類和預測演算法引入的偏差而產生偏差。這些分析會考量資料，包括標籤和模型的預測。您可以透過分析預測標籤，或將與資料中觀察目標值預測與具有不同屬性的群組進行比較，以評估效能。有差別公平性概念，每個概念都需要差別偏差指標來衡量。

有一些公平性的法律概念可能不容易顯示，因為它們很難偵測。例如，會發生美國差別影響概念，當採取的方法似乎是公平的，一個組 (稱為不太有利構面 d) 也會發生副作用。這種類型的偏差可能不是由於機器學習模型造成的，但可能仍然可以透過訓練後偏差分析來檢測。

Amazon SageMaker Clarify 會嘗試確保術語使用的一致性。有關術語及其定義的清單，請參閱Amazon SageMaker Clarify 偏差和公平性條款。

如需有關訓練後偏差指標的其他資訊，請參閱了解 Amazon SageMaker Clarify 如何協助偵測偏差及機器學習在金融領域的公平性量值。