Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.
Domande frequenti
Esistono molti metodi per determinare l'importanza delle funzionalità che non vengono discussi qui. Perché non vengono menzionati?
Questa guida si concentra su quelli che riteniamo siano i metodi più efficaci e diretti per l'interpretabilità dei modelli. Altri metodi offrono vantaggi in termini di velocità e facilità di calcolo e potrebbero essere appropriati a seconda del modello. Le linee guida contenute in questo articolo sono prescrittive, non prescrittive.
Quali sono i punti deboli dei metodi consigliati?
SHAP richiede attribuzioni derivate da una media ponderata di tutte le combinazioni di funzionalità. Le attribuzioni ottenute in questo modo possono essere fuorvianti nella stima dell'importanza delle caratteristiche quando vi sono forti interazioni tra le caratteristiche. I metodi basati su gradienti integrati possono essere difficili da interpretare a causa del gran numero di dimensioni presenti nelle reti neurali di grandi dimensioni. I modelli possono utilizzare le funzionalità in modi inaspettati per raggiungere un determinato livello di prestazioni e queste possono variare a seconda del modello, quindi l'importanza delle funzionalità dipende sempre dal modello.
