SageMaker SageMaker AI Autopilot で説明可能性を明確にする

Autopilot は、Amazon SageMaker Clarify が提供するツールを使用して、機械学習 (ML) モデルが予測を行う方法に関するインサイトを提供します。これらのツールは、ML エンジニア、プロダクトマネージャーなどの社内利害関係者がモデルの特性を理解するのに役立ちます。モデル予測に基づく決定を信頼して解釈するうえで、消費者や規制当局はともに機械学習の透明性を求めています。

Autopilot の説明機能は、モデルに依存しない特徴量帰属アプローチを使用します。このアプローチは、モデルの出力に対する個々の特徴量や入力の寄与度を判断し、さまざまな特徴量の関連性についてのインサイトを提供します。これを使用して、モデルがトレーニング後に予測を行った理由を理解したり、推論中にインスタンスごとの説明を提供したりできます。この実装には、 SHAP (Shapley Additive Descriptions) のスケーラブルな実装が含まれています。この実装は、協力ゲーム理論の Shapley 値の概念に基づいており、各特徴量に特定の予測の重要度値を割り当てます。

SHAP 説明は、規制要件の監査と適合、モデルへの信頼の構築、人による意思決定のサポート、モデルのパフォーマンスのデバッグと改善などに使用できます。

Shapley の値とベースラインの詳細については、「SHAPUnplainability のベースライン」を参照してください。

Amazon Clarify SageMaker ドキュメントのガイドについては、「Clarify SageMaker ドキュメントのガイド」を参照してください。