훈련 후 데이터 및 모델 편향

훈련 후 편향 분석은 데이터에 존재하는 편향 또는 분류 단계나 예측 알고리즘에서의 편향으로 인해 야기되었을 수 있는 편향을 파악하는 데 도움이 됩니다. 이러한 분석에서는 레이블을 포함한 학습 데이터와 해당 모델이 수행한 예측을 살펴봅니다. 모델 성능의 평가는 예측된 레이블을 분석하거나 또는 예측치를 서로 다른 속성값을 가진 그룹과 관련한 데이터에서 관찰된 목표 값과 비교해보는 과정을 통해서 이루어집니다. 공정성에 대한 다양한 개념이 있으며, 각 개념마다 측정에 필요한 편향 지표가 다릅니다.

관련 특징을 파악하기 쉽지 않아 감지하기가 까다로운 법적 차원에서의 공정성 개념도 있습니다. 예를 들어, 미국식 불평등 효과(disparate impact)의 개념은 덜 유리한 패싯 d라는 그룹이 불리한 영향을 경험했다면 당시에 취해진 접근법이 공정해 보이더라도 여전히 적용될 수 있습니다. 이러한 유형의 편향은 기계 학습 모델 때문이 아닐 수도 있지만, 훈련 후 편향 분석을 통해서 여전히 감지가 가능할 수 있습니다.

Amazon SageMaker Clarify는 용어의 일관된 사용을 보장하기 위해 노력합니다. 관련 용어 및 정의의 목록은 편향 및 공정성에 대한 Amazon SageMaker Clarify 용어를 참조하세요.

훈련 후 편향 지표에 대한 자세한 내용은 Amazon SageMaker Clarify가 금융에서의 기계 학습에 대한 편향 및 공정성 측정치를 탐지하는 데 어떻게 도움이 되는지 알아보세요.를 참조하세요 Machine Learning.