Violazioni di deviazione dell'attribuzione delle funzionalità del modello - Amazon SageMaker

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Violazioni di deviazione dell'attribuzione delle funzionalità del modello

I processi di attribuzione delle funzionalità valutano i vincoli di base forniti dalla configurazione di base rispetto ai risultati dell'analisi corrente MonitoringExecution. Se vengono rilevate violazioni, il processo le elenca nel file constraint_violations.json nella posizione di output delle esecuzioni e contrassegna lo stato di esecuzione come Interpretazione dei risultati.

Di seguito è riportato lo schema del file delle violazioni di deviazione dell'attribuzione delle funzionalità.

  • label: il nome dell'etichetta, la configurazione dell'analisi del processo label_headers o un segnaposto come "label0".

  • metric_name: il nome del metodo di analisi della spiegabilità. Attualmento solo shap è supportato.

  • constraint_check_type: il tipo di violazione monitorata. Attualmento solo feature_attribution_drift_check è supportato.

  • description: un messaggio descrittivo che spiega la violazione.

{
    "version": "1.0",
    "violations": [{
        "label": "string",
        "metric_name": "string",
        "constraint_check_type": "string",
        "description": "string"
    }]
}

Per ogni etichetta della explanations sezione, i job di monitoraggio calcolano il DCGpunteggio n dei SHAP relativi valori globali nel file dei vincoli di base e nel file dei risultati dell'analisi del lavoro (analysis.json). Se il punteggio è inferiore a 0,9, viene registrata una violazione. Il SHAP valore globale combinato viene valutato, quindi non ci sono campi nella voce della violazione. “feature” L'output seguente fornisce un esempio di diverse violazioni registrate.

{
    "version": "1.0",
    "violations": [{
        "label": "label0",
        "metric_name": "shap",
        "constraint_check_type": "feature_attribution_drift_check",
        "description": "Feature attribution drift 0.7639720923277322 exceeds threshold 0.9"
    }, {
        "label": "label1",
        "metric_name": "shap",
        "constraint_check_type": "feature_attribution_drift_check",
        "description": "Feature attribution drift 0.7323763972092327 exceeds threshold 0.9"
    }]
}