Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.
SageMaker KI-Operatoren für Kubernetes
SageMaker KI-Operatoren für Kubernetes erleichtern Entwicklern und Datenwissenschaftlern, die Kubernetes verwenden, das Trainieren, Optimieren und Bereitstellen von Modellen für maschinelles Lernen (ML) in KI. SageMaker Sie können diese SageMaker KI-Operatoren auf Ihrem Kubernetes-Cluster in Amazon Elastic Kubernetes Service (Amazon EKS) installieren, um SageMaker KI-Jobs nativ mithilfe der Kubernetes-API und Befehlszeilen-Kubernetes-Tools wie z. B. zu erstellen. kubectl In diesem Handbuch wird gezeigt, wie Sie die Operatoren einrichten und verwenden, um Modelltraining, Hyperparameter-Tuning oder Inferenz (Echtzeit und Batch) für KI von einem Kubernetes-Cluster aus durchzuführen. SageMaker Bei den Verfahren und Richtlinien in diesem Kapitel wird davon ausgegangen, dass Sie mit Kubernetes und seinen grundlegenden Befehlen vertraut sind.
Wichtig
Wir stellen die Entwicklung und den technischen Support der Originalversion von Operators for Kubernetes ein. SageMaker
Wenn Sie derzeit eine Version v1.2.2 oder eine niedrigere Version von SageMaker Operators for Kubernetes verwenden, empfehlen wir
Informationen zu den Migrationsschritten finden Sie unter Migrieren Sie Ressourcen zu den neuesten Operatoren.
Antworten auf häufig gestellte Fragen zum Ende der Unterstützung der Originalversion von SageMaker Operators for Kubernetes finden Sie unter Ankündigung des Endes der Unterstützung der Originalversion von SageMaker AI Operators für Kubernetes
Anmerkung
Für die Nutzung dieser Operatoren fallen keine zusätzlichen Gebühren an. Für alle SageMaker KI-Ressourcen, die Sie über diese Operatoren verwenden, fallen Gebühren an.
Was ist ein Operator?
Ein Kubernetes-Operator ist ein Anwendungscontroller, der Anwendungen im Namen eines Kubernetes-Benutzers verwaltet. Die Controller der Steuerebene bestehen aus verschiedenen Regelkreisen, die einem Central State Manager (ETCD) zuhören, um den Status der von ihnen kontrollierten Anwendung zu regulieren. Beispiele für solche Anwendungen sind das Cloud-controller-manager kube-controller-manager. Betreiber bieten in der Regel eine Abstraktion auf höherer Ebene als die reine Kubernetes-API, was es Benutzern erleichtert, Anwendungen bereitzustellen und zu verwalten. Um Kubernetes um neue Funktionen zu erweitern, können Entwickler die Kubernetes-API erweitern, indem sie eine benutzerdefinierte Ressource erstellen, die ihre anwendungs- oder domainspezifische Logik und Komponenten enthält. Operatoren in Kubernetes ermöglichen es Benutzern, diese benutzerdefinierten Ressourcen nativ aufzurufen und die zugehörigen Workflows zu automatisieren.
Wie funktioniert AWS Controller für Kubernetes (ACK) funktionieren?
Mit den SageMaker AI-Operatoren für Kubernetes können Sie Jobs in SageMaker KI von Ihrem Kubernetes-Cluster aus verwalten. Die neueste Version von SageMaker AI Operators for Kubernetes basiert auf AWS Controllers for Kubernetes (ACK). ACK umfasst eine gemeinsame Controller-Laufzeit, einen Codegenerator und eine Reihe von AWS dienstspezifischen Controllern, von denen einer der KI-Controller ist. SageMaker
Das folgende Diagramm veranschaulicht diese Funktionsweise.
In diesem Diagramm möchte ein Kubernetes-Benutzer mithilfe der Kubernetes-API ein Modelltraining für SageMaker KI innerhalb des Kubernetes-Clusters durchführen. Der Benutzer ruft an und übergibt eine Dateikubectl
apply, die eine benutzerdefinierte Kubernetes-Ressource beschreibt, die den Trainingsjob beschreibt. SageMaker kubectl applyübergibt diese als Manifest bezeichnete Datei an den Kubernetes-API-Server, der im Kubernetes-Controller-Knoten ausgeführt wird (Schritt 1 im Workflow-Diagramm). Der Kubernetes-API-Server empfängt das Manifest mit der Spezifikation für den SageMaker Schulungsauftrag und bestimmt, ob der Benutzer berechtigt ist, eine benutzerdefinierte Ressource zu erstellensageMaker.services.k8s.aws/TrainingJob, und ob die benutzerdefinierte Ressource ordnungsgemäß formatiert ist (Schritt 2). Wenn der Benutzer autorisiert ist und die benutzerdefinierte Ressource gültig ist, schreibt der Kubernetes-API-Server (Schritt 3) die benutzerdefinierte Ressource in seinen etcd-Datenspeicher und antwortet dann (Schritt 4) dem Benutzer, dass die benutzerdefinierte Ressource erstellt wurde. Der SageMaker AI-Controller, der auf einem Kubernetes-Worker-Knoten im Kontext eines normalen Kubernetes-Pods ausgeführt wird, wird darüber informiert (Schritt 5), dass eine neue benutzerdefinierte Ressource dieser Art erstellt wurde. sageMaker.services.k8s.aws/TrainingJob Der SageMaker KI-Controller kommuniziert dann (Schritt 6) mit der SageMaker API und ruft die SageMaker AI-API auf, um den Trainingsjob CreateTrainingJob in zu erstellen. AWS Nach der Kommunikation mit der SageMaker API ruft der SageMaker KI-Controller den Kubernetes-API-Server auf, um den Status der benutzerdefinierten Ressource mit Informationen zu aktualisieren (Schritt 7), die sie von AI erhalten hat. SageMaker Der SageMaker KI-Controller stellt den Entwicklern daher dieselben Informationen zur Verfügung, die sie mit dem AWS SDK erhalten hätten.
Übersicht über die Berechtigungen
Die Betreiber greifen in Ihrem Namen auf SageMaker KI-Ressourcen zu. Die IAM-Rolle, die der Operator für die Interaktion mit AWS Ressourcen annimmt, unterscheidet sich von den Anmeldeinformationen, die Sie für den Zugriff auf den Kubernetes-Cluster verwenden. Die Rolle unterscheidet sich auch von der Rolle, AWS die Sie bei der Ausführung Ihrer Machine-Learning-Jobs übernehmen.
In der folgenden Abbildung werden die verschiedenen Authentifizierungsebenen erklärt.
