SageMaker Clarifiez l'explicabilité avec SageMaker AI Autopilot

Le pilote automatique utilise des outils fournis par Amazon SageMaker Clarify pour fournir des informations sur la manière dont les modèles d'apprentissage automatique (ML) établissent des prédictions. Ces outils peuvent aider les ingénieurs ML, les chefs de produit et d'autres intervenants internes à comprendre les caractéristiques d'un modèle. Pour faire confiance et interpréter les décisions prises sur la base des prédictions des modèles, les consommateurs et les régulateurs s'appuient sur la transparence de l'apprentissage automatique.

La fonctionnalité explicative d'Autopilot utilise une approche d'attribution de fonctions indépendante du modèle. Cette approche détermine la contribution des différentes fonctionnalités ou entrées à la sortie du modèle, fournissant ainsi des insights sur la pertinence des différentes fonctionnalités. Vous pouvez l'utiliser pour comprendre pourquoi un modèle a réalisé une prédiction après l'entraînement, ou l'utiliser pour fournir une explication par instance pendant l'inférence. L'implémentation inclut une implémentation évolutive de SHAP(Shapley Additive Explanations). Cette implémentation est basée sur le concept d'une valeur de Shapley issu de la théorie des jeux coopératifs, qui attribue à chaque caractéristique une valeur d'importance pour une prédiction particulière.

Vous pouvez utiliser SHAP des explications pour les éléments suivants : audit et respect des exigences réglementaires, renforcement de la confiance dans le modèle, soutien à la prise de décision humaine ou débogage et amélioration des performances du modèle.

Pour plus d'informations sur les valeurs et les lignes de base de Shapley, consultez SHAP la section Lignes de base pour l'explicabilité.

Pour un guide de la documentation Amazon SageMaker Clarify, consultez le Guide de la documentation SageMaker Clarify.