View a markdown version of this page

Fairness, Erklärbarkeit von Modellen und Erkennung von Verzerrungen mit Clarify SageMaker - Amazon SageMaker KI
Was sind Fairness und Erklärbarkeit von Modellen?SageMaker Klärung von Verarbeitungsaufträgen Beispiel-Notebooks

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Fairness, Erklärbarkeit von Modellen und Erkennung von Verzerrungen mit Clarify SageMaker

Anmerkung

Amazon SageMaker Clarify steht neuen Kunden nicht mehr offen. Bestehende Kunden können den Service weiterhin wie gewohnt nutzen. AWS investiert weiterhin in Sicherheits- und Verfügbarkeitsverbesserungen für Clarify, aber wir planen nicht, neue Funktionen einzuführen. Weitere Informationen finden Sie unter Klären Sie die Verfügbarkeit, ändern.

Sie können Amazon SageMaker Clarify verwenden, um Fairness und die Erklärbarkeit von Modellen zu verstehen und um Verzerrungen in Ihren Modellen zu erklären und zu erkennen. Sie können einen SageMaker Clarify-Verarbeitungsauftrag konfigurieren, um Verzerrungsmetriken und Merkmalsattribute zu berechnen und Berichte zur Erklärbarkeit von Modellen zu generieren. SageMaker Clarify-Verarbeitungsaufträge werden mithilfe eines speziellen SageMaker Clarify-Container-Images implementiert. Auf der folgenden Seite wird beschrieben, wie SageMaker Clarify funktioniert und wie Sie mit einer Analyse beginnen.

Was bedeutet Fairness und Modellverständlichkeit für Vorhersagen im Bereich Machine Learning?

Machine-Learning-Modelle (ML) unterstützen die Entscheidungsfindung in Bereichen wie Finanzdienstleistungen, Gesundheitswesen, Bildung und Personalwesen. Politische Entscheidungsträger, Aufsichtsbehörden und Befürworter haben das Bewusstsein für die ethischen und politischen Herausforderungen geschärft, die Machine Learning und datengesteuerte Systeme mit sich bringen. Amazon SageMaker Clarify kann Ihnen helfen zu verstehen, warum Ihr ML-Modell eine bestimmte Vorhersage getroffen hat und ob sich diese Verzerrung auf diese Vorhersage während des Trainings oder der Inferenz auswirkt. SageMaker Clarify bietet auch Tools, mit denen Sie weniger voreingenommene und verständlichere Modelle für maschinelles Lernen erstellen können. SageMaker Clarify kann auch Model-Governance-Berichte erstellen, die Sie Risiko- und Compliance-Teams sowie externen Aufsichtsbehörden zur Verfügung stellen können. Mit SageMaker Clarify können Sie Folgendes tun:

  • Erkennen Sie Verzerrungen und helfen Sie dabei, Ihre Modellvorhersagen zu erklären.

  • Identifizieren Sie die Arten von Verzerrungen in den Daten vor dem Training.

  • Identifizieren Sie Arten von Verzerrungen in den Daten nach dem Training, die während des Trainings oder während der Produktion Ihres Modells auftreten können.

SageMaker Clarify hilft Ihnen zu erklären, wie Ihre Modelle mithilfe von Feature-Attributionen Vorhersagen treffen. Es kann auch Inferenzmodelle, die sich in der Produktion befinden, sowohl auf Verzerrungen als auch auf Drift bei der Feature-Attribution überwachen. Diese Informationen können Ihnen in folgenden Bereichen behilflich sein:

  • Regulatorische Vorschriften – Politische Entscheidungsträger und andere Aufsichtsbehörden können Bedenken haben, dass Entscheidungen, die Ergebnisse von ML-Modellen verwenden, diskriminierende Auswirkungen haben. Ein ML-Modell kann beispielsweise Verzerrungen kodieren und eine automatisierte Entscheidung beeinflussen.

  • Wirtschaft – Regulierte Bereiche benötigen möglicherweise zuverlässige Erklärungen dafür, wie ML-Modelle Vorhersagen treffen. Die Erklärbarkeit der Modelle kann für Branchen besonders wichtig sein, die auf Zuverlässigkeit, Sicherheit und Konformität angewiesen sind. Dazu können Finanzdienstleistungen, Personalwesen, Gesundheitswesen und automatisiertes Transportwesen gehören. Beispielsweise müssen Kreditanträge möglicherweise Erläuterungen dazu enthalten, wie ML-Modelle bestimmte Prognosen für Kreditsachbearbeiter, Prognostiker und Kunden getroffen haben.

  • Datenwissenschaft – Datenwissenschaftler und ML-Ingenieure können ML-Modelle debuggen und verbessern, wenn sie feststellen können, ob ein Modell auf der Grundlage verrauschter oder irrelevanter Merkmale Schlüsse zieht. Sie können auch die Einschränkungen ihrer Modelle und die Fehlerquellen verstehen, auf die ihre Modelle stoßen können.

Einen Blogbeitrag, der zeigt, wie Sie ein vollständiges Machine-Learning-Modell für betrügerische Fahrzeugansprüche entwerfen und erstellen, das SageMaker Clarify in eine SageMaker KI-Pipeline integriert, finden Sie im Artikel Architect and build the full machine learning Lifecycle mit AWS: Eine umfassende Amazon SageMaker AI-Demo. Dieser Blogbeitrag befasst sich mit der Bewertung und Minderung von Verzerrungen vor und nach dem Training sowie mit den Auswirkungen der Features auf die Modellprognose. Der Blogbeitrag enthält Links zu Beispielcode für jede Aufgabe im ML-Lebenszyklus.

Bewährte Methoden zur Bewertung von Fairness und Erklärbarkeit im ML-Lebenszyklus

Fairness als Prozess: Die Begriffe Voreingenommenheit und Fairness hängen von ihrer Anwendung ab. Die Messung der Verzerrung und die Wahl der Messwerte für die Verzerrung können sich an sozialen, rechtlichen und anderen nichttechnischen Überlegungen orientieren. Die erfolgreiche Einführung fairnessorientierter ML-Ansätze beinhaltet die Konsensbildung und die Zusammenarbeit zwischen den wichtigsten Interessengruppen. Diese können Produkte, Richtlinien, Recht, Technik, AI/ML Teams, Endbenutzer und Communitys umfassen.

Fairness und erklärbare Gestaltung im ML-Lebenszyklus – Berücksichtigen Sie Fairness und Erklärbarkeit in jeder Phase des ML-Lebenszyklus. Diese Phasen umfassen die Problemformulierung, die Erstellung des Datensatzes, die Auswahl des Algorithmus, den Modelltrainingsprozess, den Testprozess, die Bereitstellung sowie die Überwachung und Rückmeldung. Für diese Analyse ist es wichtig, über die richtigen Tools zu verfügen. Wir empfehlen, während des ML-Lebenszyklus die folgenden Fragen zu stellen:

  • Fördert das Modell Rückkopplungsschleifen, die zu zunehmend unfairen Ergebnissen führen können?

  • Ist ein Algorithmus eine ethische Lösung für das Problem?

  • Sind die Trainingsdaten repräsentativ für verschiedene Gruppen?

  • Gibt es Verzerrungen bei Bezeichnungen oder Merkmalen?

  • Müssen die Daten geändert werden, um Verzerrungen zu verringern?

  • Müssen Fairnessbeschränkungen in die Zielfunktion aufgenommen werden?

  • Wurde das Modell anhand relevanter Fairness-Kennzahlen bewertet?

  • Gibt es ungleiche Auswirkungen auf die einzelnen Nutzer?

  • Wird das Modell in einer Population eingesetzt, für die es nicht trainiert oder evaluiert wurde?

Bewährte Verfahren für den Prozess der Bewertung von Fairness und Erklärbarkeit von Modellen.

Leitfaden zu den SageMaker KI-Erklärungen und zur Dokumentation von Vorurteilen

Verzerrungen können sowohl vor als auch nach dem Training eines Modells auftreten und in den Daten gemessen werden. SageMaker Clarify kann Erklärungen für Modellvorhersagen nach dem Training und für Modelle liefern, die in der Produktion eingesetzt werden. SageMaker Clarify kann auch Modelle in der Produktion auf Abweichungen in ihren grundlegenden erklärenden Attributionen hin überwachen und bei Bedarf Ausgangswerte berechnen. Die Dokumentation zur Erklärung und Erkennung von Verzerrungen mithilfe von SageMaker Clarify ist wie folgt strukturiert:

So funktionieren SageMaker Clarify Processing-Jobs

Sie können SageMaker Clarify verwenden, um Ihre Datensätze und Modelle auf Erklärbarkeit und Verzerrungen hin zu analysieren. Bei einem SageMaker Clarify-Verarbeitungsauftrag wird der SageMaker Clarify-Verarbeitungscontainer verwendet, um mit einem Amazon S3-Bucket zu interagieren, der Ihre Eingabedatensätze enthält. Sie können SageMaker Clarify auch verwenden, um ein Kundenmodell zu analysieren, das auf einem SageMaker KI-Inferenzendpunkt bereitgestellt wird.

Die folgende Grafik zeigt, wie ein SageMaker Clarify-Verarbeitungsauftrag mit Ihren Eingabedaten und optional mit einem Kundenmodell interagiert. Diese Interaktion hängt von der spezifischen Art der durchgeführten Analyse ab. Der SageMaker Clarify-Verarbeitungscontainer ruft den Eingabedatensatz und die Konfiguration für die Analyse aus einem S3-Bucket ab. Für bestimmte Analysetypen, einschließlich der Feature-Analyse, muss SageMaker der Clarify-Verarbeitungscontainer Anforderungen an den Modellcontainer senden. Anschließend ruft er die Modellvorhersagen aus der Antwort ab, die der Modellcontainer sendet. Danach berechnet und speichert der SageMaker Clarify-Verarbeitungscontainer die Analyseergebnisse im S3-Bucket.

SageMaker Clarify kann Ihre Daten oder ein Kundenmodell auf Erklärbarkeit und Voreingenommenheit hin analysieren.

Sie können einen SageMaker Clarify-Verarbeitungsauftrag in mehreren Phasen des Lebenszyklus des Workflows für maschinelles Lernen ausführen. SageMaker Clarify kann Ihnen bei der Berechnung der folgenden Analysetypen helfen:

  • Pre-training Messwerte für Verzerrungen. Diese Metriken können Ihnen helfen, die Verzerrung in Ihren Daten zu verstehen, sodass Sie sie beheben und Ihr Modell anhand eines faireren Datensatzes trainieren können. Weitere Informationen über Messwerte Pre-training Kennzahlen zur Verzerrung für Verzerrungen vor dem Training finden Sie unter. Um einen Auftrag zur Analyse von Verzerrungsmetriken vor dem Training auszuführen, müssen Sie den Datensatz und eine Konfigurationsdatei für die JSON-Analyse bereitstellen. Analyse-Konfigurationsdateien

  • Post-training Kennzahlen zur Voreingenommenheit. Diese Metriken nach dem Training können Ihnen dabei helfen, Verzerrungen zu verstehen, die durch einen Algorithmus, durch Hyperparameter-Entscheidungen oder durch Verzerrungen verursacht wurden, oder jegliche Verzerrungen, die zu einem früheren Zeitpunkt nicht offensichtlich waren. Weitere Informationen zu Messwerten für Verzerrungen nach dem Training finden Sie unterPost-training Metriken für Daten und Modellverzerrungen. SageMaker Clarify verwendet die Modellvorhersagen zusätzlich zu den Daten und Beschriftungen, um Verzerrungen zu identifizieren. Um einen Auftrag zur Analyse von Verzerrungsmetriken nach dem Training auszuführen, müssen Sie den Datensatz und eine Konfigurationsdatei für die JSON-Analyse bereitstellen. Die Konfiguration sollte den Modell- oder Endpunktnamen enthalten.

  • Shapley-Werte, die Ihnen dabei helfen können, zu verstehen, welchen Einfluss Ihre Features auf die Prognose Ihres Modells hat. Weitere Informationen zu Shapley-Werten finden Sie unter Feature-Attributionen, die Shapley-Werte verwenden. Für diese Funktion ist ein trainiertes Modell erforderlich.

  • Partielle Abhängigkeitsdiagramme (PDPs) können Ihnen helfen zu verstehen, wie stark sich Ihre vorhergesagte Zielvariable ändern würde, wenn Sie den Wert eines Features variieren würden. Weitere Informationen zu PDPs finden Sie unter Für Analyse partieller Abhängigkeitsdiagramme (PDPs) diese Funktion ist ein trainiertes Modell erforderlich.

SageMaker Clarify benötigt Modellvorhersagen, um Verzerrungsmetriken und Merkmalsattribute nach dem Training zu berechnen. Du kannst einen Endpunkt angeben oder SageMaker Clarify erstellt anhand deines Modellnamens einen kurzlebigen Endpunkt, der auch als Schattenendpunkt bezeichnet wird. Der SageMaker Clarify-Container löscht den Schattenendpunkt, nachdem die Berechnungen abgeschlossen sind. Auf einer höheren Ebene führt der SageMaker Clarify-Container die folgenden Schritte durch:

  1. Überprüft Eingaben und Parameter.

  2. Erzeugt den Schattenendpunkt (falls ein Modellname angegeben wird).

  3. Lädt den Eingabedatensatz in einen Datenrahmen.

  4. Ruft bei Bedarf Modellvorhersagen vom Endpunkt ab.

  5. Berechnet Messwerte für Verzerrungen und Merkmalszuschreibungen.

  6. Löscht den Schattenendpunkt.

  7. Generieren Sie die Analyseergebnisse.

Nach Abschluss des SageMaker Clarify-Verarbeitungsauftrags werden die Analyseergebnisse an dem Ausgabespeicherort gespeichert, den Sie im Verarbeitungsausgabeparameter des Jobs angegeben haben. Zu diesen Ergebnissen gehören eine JSON-Datei mit Bias-Metriken und globalen Feature-Attributionen, ein grafischer Bericht und zusätzliche Dateien für lokale Feature-Attributionen. Sie können die Ergebnisse vom Ausgabespeicherort herunterladen und anzeigen.

Weitere Informationen zu Kennzahlen, Erklärbarkeit und deren Interpretation finden Sie unter Erfahren Sie, wie Amazon SageMaker Clarify bei der Erkennung von Vorurteilen hilft, Fairness-Maßnahmen für maschinelles Lernen im Finanzwesen und im Amazon-Whitepaper zu Fairness und Erklärbarkeit.

Beispiel-Notebooks

Die folgenden Abschnitte enthalten Notizbücher, die Ihnen den Einstieg in die Verwendung von SageMaker Clarify sowie die Verwendung von Clarify für spezielle Aufgaben, einschließlich Aufgaben innerhalb eines verteilten Jobs, und für Computer Vision erleichtern.

Erste Schritte

Die folgenden Beispielnotizbücher zeigen, wie Sie SageMaker Clarify verwenden, um mit Aufgaben zur Erklärbarkeit und Modellverzerrung zu beginnen. Zu diesen Aufgaben gehören die Erstellung eines Auftrags zur Verarbeitung, das Trainieren eines Modells für Machine Learning (ML) und die Überwachung von Modellvorhersagen:

Sonderfälle

Die folgenden Notizbücher zeigen Ihnen, wie Sie SageMaker Clarify für spezielle Fälle verwenden können, auch in Ihrem eigenen Container, und für Aufgaben zur Verarbeitung natürlicher Sprache:

Diese Notebooks wurden für die Ausführung in Amazon Studio Classic verifiziert. SageMaker Anweisungen zum Öffnen eines Notebooks in Studio Classic finden Sie unter Erstellen oder öffnen Sie ein Amazon Studio Classic-Notizbuch SageMaker. Wenn Sie aufgefordert werden, einen Kernel auszuwählen, wählen Sie Python 3 (Data Science).