As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.
Dados pós-treinamento e viés do modelo
A análise de desvio pós-treinamento pode ajudar a revelar desvios que podem ter emanado de desvios nos dados ou de desvios introduzidos pelos algoritmos de classificação e previsão. Essas análises levam em consideração os dados, incluindo os rótulos e as previsões de um modelo. Você avalia a performance analisando rótulos previstos ou comparando as previsões com os valores-alvo observados nos dados em relação a grupos com atributos diferentes. Há diferentes noções de equidade, cada uma exigindo diferentes métricas de desvio para medir.
Há conceitos jurídicos de equidade que podem não ser fáceis de capturar porque são difíceis de detectar. Por exemplo, o conceito americano de impacto díspar que ocorre quando um grupo, chamado de faceta d menos favorecida, experimenta um efeito adverso mesmo quando a abordagem adotada parece ser justa. Esse tipo de desvio pode não ser devido a um modelo de machine learning, mas ainda pode ser detectado pela análise de desvio pós-treinamento.
O Amazon SageMaker Clarify tenta garantir o uso consistente da terminologia. Para obter uma lista de termos e suas definições, consulte Amazon SageMaker esclarece os termos de preconceito e imparcialidade.
Para obter informações adicionais sobre métricas de viés pós-treinamento, consulte Saiba como o Amazon SageMaker Clarify ajuda a detectar medidas tendenciosas
