Funktionen von Amazon SageMaker AI

Sie können Rezepte in Amazon SageMaker HyperPod oder als SageMaker Trainingsjobs ausführen. Sie verwenden den HyperPod Trainingsadapter als Framework für die Ausführung von end-to-end Trainingsworkflows. Der Trainingsadapter basiert auf dem NVIDIA NeMo Framework und dem Neuronx Distributed Training Paket.

In Amazon SageMaker Studio können Sie Machine-Learning-Workloads auf HyperPod Clustern starten und HyperPod Cluster-Informationen anzeigen. Der bessere Einblick in Cluster-Details und Hardware-Metriken kann Ihrem Team helfen, den richtigen Kandidaten für Ihre Workloads vor der Schulung oder zur Feinabstimmung zu finden.

Amazon SageMaker HyperPod Task Governance ist ein robustes Managementsystem, das entwickelt wurde, um die Ressourcenzuweisung zu optimieren und eine effiziente Nutzung der Rechenressourcen durch Teams und Projekte für Ihre EKS Amazon-Cluster sicherzustellen. HyperPod Task Governance bietet auch Amazon EKS Cluster Observability, das Echtzeiteinblicke in die Clusterkapazität, Rechenverfügbarkeit und -nutzung, Teamzuweisung und -nutzung sowie Informationen zur Ausführung und Wartezeit von Aufgaben bietet.

Mit Amazon SageMaker Partner AI Apps erhalten Benutzer Zugriff auf Entwicklungsanwendungen für generative künstliche Intelligenz (KI) und maschinelles Lernen (ML), die von branchenführenden Anwendungsanbietern entwickelt, veröffentlicht und vertrieben werden. KI-Apps von Partnern sind für den Betrieb auf SageMaker KI zertifiziert. Mit Partner-KI-Apps können Benutzer die Entwicklung von Lösungen auf der Grundlage von Foundation Models (FM) und klassischen ML-Modellen beschleunigen und verbessern, ohne die Sicherheit ihrer sensiblen Daten zu gefährden, die vollständig innerhalb ihrer vertrauenswürdigen Sicherheitskonfiguration bleiben und niemals an Dritte weitergegeben werden.

Sie können mit Amazon Q Developer in Amazon SageMaker Canvas in natürlicher Sprache chatten, um generative KI-Unterstützung bei der Lösung Ihrer Probleme mit maschinellem Lernen zu erhalten. Sie können sich mit Q Developer unterhalten, um die Schritte eines Workflows für maschinelles Lernen zu besprechen und die Canvas-Funktionen wie Datentransformationen, Modellerstellung und Bereitstellung zu nutzen.

SageMaker Amazon-Schulungspläne sind eine Reservierungsfunktion für Rechenleistung, die für umfangreiche KI-Modell-Trainingsworkloads konzipiert wurde, die auf SageMaker Trainingsjobs und HyperPod Clustern ausgeführt werden. Sie bieten einen vorhersehbaren Zugriff auf stark beanspruchte und GPU beschleunigte Rechenressourcen innerhalb festgelegter Zeitpläne. Sie können einen gewünschten Zeitplan, eine Dauer und die maximale Anzahl an Rechenressourcen angeben. Mit SageMaker Schulungsplänen werden die Einrichtung der Infrastruktur, die Ausführung der Arbeitslast und die Fehlerbehebung automatisch verwaltet. Dies ermöglicht eine effiziente Planung und Ausführung unternehmenskritischer KI-Projekte mit einem vorhersehbaren Kostenmodell.

Ein Auto-ML-Service, der Menschen ohne Programmiererfahrung die Möglichkeit gibt, Modelle zu erstellen und damit Vorhersagen zu treffen.

Code Editor erweitert Studio, sodass Sie Ihren Analyse- und Machine-Learning-Code in einer Umgebung schreiben, testen, debuggen und ausführen können, die auf Visual Studio Code — Open Source („Code-OSS“) basiert.

Erstellen, trainieren und implementieren Sie ML-Modelle mithilfe von Geodaten.

Amazon SageMaker HyperPod ist eine SageMaker KI-Funktion, die eine ständig verfügbare Umgebung für maschinelles Lernen auf belastbaren Clustern bereitstellt, in der Sie beliebige Workloads für maschinelles Lernen ausführen können, um große Modelle für maschinelles Lernen wie große Sprachmodelle (LLMs) und Diffusionsmodelle zu entwickeln.

JupyterLab in Studio verbessert die Latenz und Zuverlässigkeit für Studio-Notebooks

Studio ist das neueste webbasierte Erlebnis für die Ausführung von ML-Workflows. Studio bietet eine Suite vonIDEs, darunter Code Editor, eine neue Jupyterlab-Anwendung und Studio ClassicRStudio.

Eine integrierte Umgebung für das maschinelle Lernen, in der Sie Ihre Modelle in derselben Anwendung erstellen, trainieren, bereitstellen und analysieren können.

Ein kostenloser Service, der Kunden Zugriff auf AWS Rechenressourcen in einer JupyterLab Open-Source-Umgebung bietet.

Eine integrierte Entwicklungsumgebung für R mit einer Konsole, einem Syntaxhervorhebungseditor, der die direkte Codeausführung unterstützt, und Tools für Plotten, Verlauf, Debugging und Workspace-Management.

Erstellen Sie die Workflows, die für die Überprüfung von ML-Vorhersagen durch Menschen erforderlich sind. Amazon A2I bietet allen Entwicklern die Möglichkeit, menschliche Überprüfungen vorzunehmen. Damit entfällt der undifferenzierte Aufwand, der mit dem Aufbau menschlicher Überprüfungssysteme oder der Verwaltung einer großen Anzahl menschlicher Prüfer verbunden ist.

Erstellen Sie einen AutoML-Job, um ein Modell automatisch in Pipelines zu trainieren.

Benutzer ohne Kenntnisse auf dem Gebiet des maschinellen Lernens können schnell Klassifizierungs- und Regressionsmodelle erstellen.

Führen Sie eine Vorverarbeitung von Datensätzen durch, führen Sie eine Inferenz aus, wenn Sie keinen persistenten Endpunkt benötigen, und ordnen Sie Eingabedatensätze Inferenzen zu, um die Interpretation von Ergebnissen zu unterstützen.

Verbessern Sie Ihre Modelle für Machine Learning, indem Sie potenzielle Verzerrungen erkennen und Ihnen helfen, die Vorhersagen der Modelle zu erklären.

Ein gemeinsam genutzter Bereich besteht aus einer gemeinsam genutzten JupyterServer Anwendung und einem gemeinsam genutzten Verzeichnis. Alle Benutzerprofile in einer Amazon SageMaker AI-Domain haben Zugriff auf alle gemeinsam genutzten Bereiche in der Domain.

Import, Analyse, Vorbereitung und Bereitstellung von Daten in Studio. SageMaker Sie können Data Wrangler in Ihre Workflows für Machine Learning integrieren, um die Datenvorverarbeitung und das Feature-Engineering mit wenig bis gar keiner Codierung zu vereinfachen und zu optimieren. Sie können auch Ihre eigenen Python-Skripte und Transformationen hinzufügen, um Ihren Datenvorbereitungsworkflow anzupassen.

Interagieren Sie mit Ihren Daten, erhalten Sie Visualisierungen, gewinnen Sie umsetzbare Erkenntnisse und beheben Sie Probleme mit der Datenqualität.

Untersuchen Sie Trainingsparameter und -daten während des gesamten Trainingsprozesses. Automatisches Erkennen und Hinweisen von Benutzern auf häufig auftretende Fehler, z. B. auf zu groß oder zu klein werdende Parameterwerte.

Optimieren Sie benutzerdefinierte Modelle für Edge-Geräte, erstellen und verwalten Sie Flotten und führen Sie Modelle mit einer effizienten Laufzeit aus.

Verwaltung und Nachverfolgung von Experimenten. Sie können anhand der verfolgten Daten ein Experiment rekonstruieren, inkrementell auf von Peers durchgeführten Experimenten aufbauen und die Herkunft von Modellen für Compliance- und Audit-Überprüfungen nachverfolgen.

Ein zentraler Speicher für Funktionen und zugehörige Metadaten, sodass Funktionen einfach gefunden und wiederverwendet werden können. Sie können zwei Arten von Geschäften erstellen: einen Online- oder einen Offline-Speicher. Der Online-Speicher kann für Anwendungsfälle mit niedriger Latenz und Echtzeit-Inferenzen verwendet werden, und der Offline-Speicher kann für Trainings und Batch-Inferenz verwendet werden.

Qualitativ hochwertige Training-Datensätze durch den Einsatz von Arbeitskräften zusammen mit Machine Learning, um mit Labels versehene Datensätze zu erstellen.

Eine sofort einsatzbereite Funktion zum Daten-Labeling, mit der Sie hochwertige Trainingsdatensätze erstellen können, ohne Kennzeichnungsanwendungen erstellen und das Labeling-Personal selbst verwalten zu müssen.

Holen Sie sich Empfehlungen zu Typen und Konfigurationen von Inferenz-Instances (z. B. Anzahl der Instances, Container-Parameter und Modelloptimierungen), um Ihre ML-Modelle und Workloads zu verwenden.

Evaluieren Sie alle Änderungen an Ihrer Model-Server-Infrastruktur, indem Sie deren Leistung mit der aktuell bereitgestellten Infrastruktur vergleichen.

Erfahren Sie anhand von kuratierten 1-Klick-Lösungen, Beispiel-Notebooks und vortrainierten Modellen, die Sie einsetzen können, mehr über die Funktionen und Fähigkeiten von SageMaker KI. Sie können die Modelle auch verfeinern und bereitstellen.

Verfolgen Sie die Herkunft der Workflows für Machine Learning.

Erstellen und verwalten Sie Pipelines für maschinelles Lernen, die direkt in SageMaker KI-Jobs integriert sind.

Dokumentieren Sie Informationen zu Ihren ML-Modellen an einem zentralen Ort, um die Verwaltung und Berichterstattung während des gesamten ML-Lebenszyklus zu optimieren.

Eine vorgefertigte, visuelle Übersicht über alle Modelle in Ihrem Konto. Model Dashboard integriert Informationen aus SageMaker Model Monitor, transformiert Jobs, Endpunkte und die Nachverfolgung der Herkunft, CloudWatch sodass Sie auf allgemeine Modellinformationen zugreifen und die Modellleistung in einer einheitlichen Ansicht verfolgen können.

Überwachen und analysieren Sie Modelle in der Produktion (Endpunkte), um Datendrift und Abweichungen in der Modellqualität zu erkennen.

Versionierung, Nachverfolgung von Artefakten und Herkunft, Genehmigungsworkflow und kontenübergreifende Unterstützung für den Einsatz Ihrer Machine-Learning-Modelle.

Trainieren Sie Machine-Learning-Modelle einmal und führen Sie sie dann an einer beliebigen Stelle in der Cloud oder am Edge aus.

Führen Sie Ihr SageMaker Studio-Notizbuch als nicht interaktiven, geplanten Job aus.

Analysieren und Vorverarbeiten von Daten, Entwickeln von Merkmalen und Bewerten von Modellen.

Erstellen Sie end-to-end ML-Lösungen mit CI/CD mithilfe SageMaker von Projekten.

Maximieren Sie die langfristige Belohnung, die ein Agent infolge seiner Aktionen erhält.

Administratoren können mithilfe benutzerdefinierter und vorkonfigurierter personenbasierter Rollen Berechtigungen mit den geringsten Rechten für gängige ML-Aktivitäten definieren. IAM

Eine serverlose Endpunktoption zum Hosten Ihres ML-Modells. Die Kapazität wird automatisch skaliert, um Ihren Endpunktdatenverkehr zu bedienen. Macht die Auswahl von Instance-Typen oder die Verwaltung von Skalierungsrichtlinien auf einem Endpunkt überflüssig.

Eine Git-Erweiterung, mit URL der Sie auf ein Git-Repository zugreifen, es in Ihre Umgebung klonen, Änderungen übertragen und den Commit-Verlauf anzeigen können.

Die nächste Generation von SageMaker Notebooks mit AWS IAM Identity Center (IAMIdentity Center-) Integration, schnellen Startzeiten und Teilen mit nur einem Klick.

Entdecken Sie EMR Amazon-Cluster, stellen Sie eine Verbindung zu ihnen her, erstellen, beenden und verwalten Sie sie in Konfigurationen mit einem oder mehreren Konten direkt von SageMaker Studio aus.

Trainieren Sie Deep-Learning-Modelle schneller auf skalierbaren, von SageMaker KI verwalteten GPU Instanzen.