SageMaker SageMaker Chiarisci la spiegabilità con AI Autopilot

Autopilot utilizza gli strumenti forniti da Amazon SageMaker Clarify per contribuire a fornire informazioni su come i modelli di machine learning (ML) effettuano previsioni. Questo report può aiutare gli ingegneri del machine learning, i product manager e altri stakeholder interni a comprendere le caratteristiche del modello. Per fidarsi e interpretare le decisioni prese sulla base dei modelli di previsione, sia i consumatori che le autorità di regolamentazione si affidano alla trasparenza dell'apprendimento automatico.

La funzionalità esplicativa di Autopilot utilizza un approccio di attribuzione delle funzionalità indipendente dal modello. Questo approccio determina il contributo delle singole funzionalità o input all'output del modello, fornendo informazioni sulla rilevanza delle diverse funzionalità. È possibile utilizzarlo per capire perché un modello ha effettuato una previsione dopo l'addestramento e per fornire una spiegazione per istanza durante l'inferenza. L'implementazione include un'implementazione scalabile di SHAP(Shapley Additive Explanations). Questa implementazione si basa sul concetto di un valore Shapley tratto dalla teoria dei giochi cooperativi, che assegna a ciascuna caratteristica un valore di importanza per una particolare previsione.

È possibile utilizzare SHAP spiegazioni per quanto segue: controllo e rispetto dei requisiti normativi, creazione di fiducia nel modello, supporto del processo decisionale umano o debug e miglioramento delle prestazioni del modello.

Per ulteriori informazioni sui valori e sulle linee di base di Shapley, consulta Baseline for Explainability. SHAP

Per una guida alla documentazione di Amazon SageMaker Clarify, consulta Guide to the SageMaker Clarify Documentation.