As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

Perguntas frequentes

Há muitos métodos para determinar a importância do atributo que não são discutidos aqui. Por que não são mencionados?

Este guia se concentra no que acreditamos ser os métodos mais eficazes e diretos para a interpretabilidade do modelo. Outros métodos têm vantagens em velocidade e facilidade de computação e podem ser apropriados dependendo do modelo. A orientação neste artigo é prescritiva, não proscritiva.

Quais são os pontos fracos dos métodos recomendados?

O SHAP exige atribuições derivadas de uma média ponderada de todas as combinações de atributos. As atribuições obtidas dessa forma podem ser enganosas ao estimar a importância dos atributos quando há fortes interações entre os atributos. Métodos baseados em gradientes integrados podem ser difíceis de interpretar devido ao grande número de dimensões presentes em grandes redes neurais. Os modelos podem usar atributos de maneiras inesperadas para atingir um determinado nível de desempenho e isso pode variar de acordo com o modelo, portanto, a importância do atributo sempre depende do modelo.