本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。

# 模型可解釋性
<a name="clarify-model-explainability"></a>

Amazon SageMaker Clarify 提供各種工具，協助說明機器學習 (ML) 模型如何進行預測。這些工具可協助機器學習 (ML) 建模者、開發人員以及其他內部利害關係人在部署之前瞭解整個模型特性，並在部署模型之後對模型提供的預測進行偵錯。
+ 若要取得資料集和模型的解釋，請參閱[使用 SageMaker Clarify 進行公平性、模型可解釋性和偏差偵測](clarify-configure-processing-jobs.md)。
+ 若要從 SageMaker AI 端點即時取得解釋，請參閱[SageMaker Clarify 線上可解釋性](clarify-online-explainability.md)。

關於機器學習 (ML) 模型如何達到預測的透明度對於消費者和監管機構來說也是至關重要的。如果他們要接受出自於模型的決定，他們需要信任模型預測。SageMaker Clarify 使用與模型無關的特徵歸因方法。您可以使用此特徵來瞭解模型在訓練後進行預測的原因，並在推論期間提供每個執行個體的說明。該操作包括 [SHAP](https://papers.nips.cc/paper/2017/file/8a20a8621978632d76c43dfd28b67767-Paper.pdf) 的可擴展性和高效能操作。這是基於合作賽局理論領域的夏普利值概念，該值為每個特徵分配一個特定預測的重要性值。

Clarify 會產生部分依賴圖 (PDP)，顯示特徵對機器學習模型預測結果的邊際影響。部分的依賴性有助於解釋特定一組輸入特徵的目標回應。它還支援電腦視覺 (CV) 和自然語言處理 (NLP) 可解釋性，使用與表格式資料解釋相同的夏普利值 (SHAP) 算法。

機器學習環境中的可解釋性特徵是什麼？ 可以將可解釋性視為*為什麼問題*的答案，該問題可以幫助人類了解預測的原因。在機器學習 (ML) 模型的環境中，您可能有興趣回答以下問題：
+ 為什麼該模型預測了負面結果，例如特定申請人拒絕貸款？ 
+ 模型如何做出預測？
+ 為什麼模型做出不正確的預測？
+ 哪些特徵對模型行為的影響最大？

您可以使用說明用以稽核和符合法規需求、建立對模型的信任以及支援人為決策，以及偵錯和改善模型效能。

滿足人類對機器學習 (ML) 推論性質和結果的理解需求是可解釋性所需的關鍵。哲學和認知科學學科的研究表明，人們特別關心對比性解釋，或解釋為什麼事件 X 發生而不是其他未發生的事件 Y 發生。在這裡，X 可能是未預期或令人驚訝的事件，Y 對應到以其現有作為心理模型*基準*的期望。請注意，對於同一個事件 X，不同的人可能會根據他們的觀點或心理模型 Y 尋求不同的可解釋性。在可解釋的 AI 的環境中，您可以將 X 視為解釋完的範例，Y 作為通常選擇代表資料集中資訊不足或平均範例的基準。有時候，例如，在對影像進行機器學習 (ML) 建模的情況下，基準可能是隱性的，其中都是相同顏色像素的影像可以用作基準。

## 範例筆記本
<a name="clarify-model-explainability-sample-notebooks"></a>

Amazon SageMaker Clarify 提供以下模型可解釋性的範例筆記本：
+ [Amazon SageMaker Clarify 處理](https://sagemaker-examples.readthedocs.io/en/latest/sagemaker-clarify/index.html#sagemaker-clarify-processing) — 使用 SageMaker Clarify 來建立用於偵測偏差的處理任務，並使用特徵歸因說明模型預測。範例包括使用 CSV 和 JSON 行資料格式、使用您自己的容器，以及使用 Spark 執行處理中的任務。
+ [使用 SageMaker Clarify 解釋影像分類](https://github.com/aws/amazon-sagemaker-examples/blob/master/sagemaker-clarify/computer_vision/image_classification/explainability_image_classification.ipynb) — SageMaker Clarify 可為您提供有關電腦視覺模型如何分類影像的深入分析。
+ [使用 SageMaker Clarify 說明物件偵測模型](https://github.com/aws/amazon-sagemaker-examples/blob/main/sagemaker-clarify/computer_vision/object_detection/object_detection_clarify.ipynb) — SageMaker Clarify 可提供您電腦視覺模型如何偵測物件的深入分析。

此筆記本已透過驗證，僅可在 Amazon SageMaker Studio 中執行。如果您需要有關如何在 Amazon SageMaker Studio 中打開筆記本的說明，請參閱[建立或開啟 Amazon SageMaker Studio Classic 筆記本](notebooks-create-open.md)。如果系統提示您選擇核心，請選擇 **Python 3 (資料科學)**。

**Topics**
+ [範例筆記本](#clarify-model-explainability-sample-notebooks)
+ [使用塑形值的特徵屬性](clarify-shapley-values.md)
+ [非對稱 Shapley 值](clarify-feature-attribute-shap-asymm.md)
+ [用於可解釋性的 SHAP 基準](clarify-feature-attribute-shap-baselines.md)