Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.
Häufig gestellte Fragen
Es gibt viele Methoden zur Bestimmung der Bedeutung von Merkmalen, auf die hier nicht eingegangen wird. Warum werden sie nicht erwähnt?
Dieser Leitfaden konzentriert sich auf die unserer Meinung nach effektivsten und direktesten Methoden zur Interpretierbarkeit von Modellen. Andere Methoden bieten Vorteile in Bezug auf Geschwindigkeit und einfache Berechnung und können je nach Modell geeignet sein. Die Leitlinien in diesem Artikel sind präskriptiv, nicht proskriptiv.
Was sind die Schwächen der empfohlenen Methoden?
SHAP erfordert Attributionen, die aus einem gewichteten Durchschnitt aller Merkmalskombinationen abgeleitet werden. Zuordnungen, die auf diese Weise ermittelt werden, können bei der Schätzung der Merkmalsbedeutung irreführend sein, wenn starke Interaktionen zwischen Merkmalen bestehen. Methoden, die auf integrierten Gradienten basieren, können aufgrund der großen Anzahl von Dimensionen, die in großen neuronalen Netzen vorhanden sind, schwierig zu interpretieren sein. Modelle können Merkmale auf unerwartete Weise verwenden, um ein bestimmtes Leistungsniveau zu erreichen, und diese können je nach Modell variieren, sodass die Bedeutung von Merkmalen immer vom Modell abhängt.
