Funktionen von Amazon SageMaker AI

Du kannst Rezepte innerhalb von Amazon SageMaker HyperPod oder als SageMaker Trainingsjobs ausführen. Sie verwenden den HyperPod Trainingsadapter als Framework, mit dem Sie umfassende Schulungsworkflows ausführen können. Der Trainingsadapter basiert auf dem NeMo NVIDIA-Framework und dem Neuronx Distributed Training-Paket.

In Amazon SageMaker Studio können Sie Machine-Learning-Workloads auf HyperPod Clustern starten und HyperPod Cluster-Informationen anzeigen. Die verbesserte Transparenz der Cluster-Details und Hardware-Metriken kann Ihrem Team helfen, den richtigen Kandidaten für Ihre Workloads vor dem Training oder zur Feinabstimmung zu finden.

Amazon SageMaker HyperPod Task Governance ist ein robustes Verwaltungssystem, das entwickelt wurde, um die Ressourcenzuweisung zu optimieren und eine effiziente Nutzung der Rechenressourcen über Teams und Projekte hinweg für Ihre Amazon EKS-Cluster sicherzustellen. HyperPod Task Governance bietet auch Amazon EKS-Cluster-Observability und bietet Echtzeiteinblicke in Clusterkapazität, Rechenverfügbarkeit und -nutzung, Teamzuweisung und -auslastung sowie Informationen zu Aufgabenausführung und Wartezeit.

Mit den AI-Apps von Amazon SageMaker Partner erhalten Benutzer Zugriff auf Entwicklungsanwendungen für generative künstliche Intelligenz (KI) und maschinelles Lernen (ML), die von branchenführenden Anwendungsanbietern erstellt, veröffentlicht und vertrieben werden. Die KI-Apps von Partnern sind für die Ausführung auf SageMaker KI zertifiziert. Mit Partner-KI-Apps können Benutzer die Entwicklung von Lösungen auf der Grundlage von Basismodellen (FM) und klassischen ML-Modellen beschleunigen und verbessern, ohne die Sicherheit ihrer sensiblen Daten zu gefährden, die vollständig innerhalb ihrer vertrauenswürdigen Sicherheitskonfiguration bleiben und niemals an Dritte weitergegeben werden.

Sie können mit Amazon Q Developer in Amazon SageMaker Canvas in natürlicher Sprache chatten, um generative KI-Unterstützung bei der Lösung Ihrer maschinellen Lernprobleme zu erhalten. Sie können sich mit Q Developer unterhalten, um die Schritte eines Machine-Learning-Workflows zu besprechen und die Canvas-Funktionen wie Datentransformationen, Modellerstellung und Bereitstellung zu nutzen.

Bei den SageMaker Amazon-Schulungsplänen handelt es sich um eine Reservierungsfunktion für Berechnungen, die für umfangreiche Trainingslasten mit KI-Modellen konzipiert wurden, die auf SageMaker Trainingsaufträgen und HyperPod Clustern ausgeführt werden. Sie bieten einen vorhersehbaren Zugriff auf GPU-accelerated Computerressourcen mit hohem Bedarf innerhalb bestimmter Zeitpläne. Sie können einen gewünschten Zeitplan, eine Dauer und eine maximale Anzahl an Rechenressourcen angeben. In den SageMaker Schulungsplänen werden die Einrichtung der Infrastruktur, die Ausführung der Arbeitslast und die Fehlerbehebung automatisch verwaltet. Dies ermöglicht die effiziente Planung und Ausführung unternehmenskritischer KI-Projekte mit einem vorhersehbaren Kostenmodell.

Ein Auto-ML-Service, der Menschen ohne Programmiererfahrung die Möglichkeit gibt, Modelle zu erstellen und damit Vorhersagen zu treffen.

Der Code-Editor erweitert Studio, sodass Sie Ihren Analyse- und Machine-Learning-Code in einer Umgebung schreiben, testen, debuggen und ausführen können, die auf Visual Studio Code — Open Source (“ Code-OSS „) basiert.

Erstellen, trainieren und implementieren Sie ML-Modelle mithilfe von Geodaten.

Amazon SageMaker HyperPod ist eine SageMaker KI-Funktion, die eine ständig verfügbare Umgebung für maschinelles Lernen auf belastbaren Clustern bereitstellt, in denen Sie beliebige Workloads für maschinelles Lernen ausführen können, um große Modelle für maschinelles Lernen wie große Sprachmodelle (LLMs) und Diffusionsmodelle zu entwickeln.

JupyterLab in Studio verbessert die Latenz und Zuverlässigkeit für Studio-Notebooks

Studio ist das neueste webbasierte Erlebnis für die Ausführung von ML-Workflows. Studio bietet eine Suite von IDEs, darunter den Code Editor, eine neue Jupyterlab-Anwendung, RStudio und Studio Classic.

Eine integrierte Umgebung für das maschinelle Lernen, in der Sie Ihre Modelle in derselben Anwendung erstellen, trainieren, bereitstellen und analysieren können.

Ein kostenloser Service, der Kunden Zugriff auf AWS Rechenressourcen in einer JupyterLab Open-Source-Umgebung bietet.

Eine integrierte Entwicklungsumgebung für R mit einer Konsole, einem Syntaxhervorhebungseditor, der die direkte Codeausführung unterstützt, und Tools für Plotten, Verlauf, Debugging und Workspace-Management.

Erstellen Sie die Workflows, die für die Überprüfung von ML-Vorhersagen durch Menschen erforderlich sind. Amazon A2I bietet allen Entwicklern die Möglichkeit, menschliche Überprüfungen vorzunehmen. Damit entfällt der undifferenzierte Aufwand, der mit dem Aufbau menschlicher Überprüfungssysteme oder der Verwaltung einer großen Anzahl menschlicher Prüfer verbunden ist.

Erstellen Sie einen AutoML-Job, um ein Modell in Pipelines automatisch zu trainieren.

Benutzer ohne Kenntnisse auf dem Gebiet des maschinellen Lernens können schnell Klassifizierungs- und Regressionsmodelle erstellen.

Führen Sie eine Vorverarbeitung von Datensätzen durch, führen Sie eine Inferenz aus, wenn Sie keinen persistenten Endpunkt benötigen, und ordnen Sie Eingabedatensätze Inferenzen zu, um die Interpretation von Ergebnissen zu unterstützen.

Verbessern Sie Ihre Modelle für Machine Learning, indem Sie potenzielle Verzerrungen erkennen und Ihnen helfen, die Vorhersagen der Modelle zu erklären.

Ein gemeinsam genutzter Bereich besteht aus einer gemeinsamen JupyterServer Anwendung und einem gemeinsamen Verzeichnis. Alle Benutzerprofile in einer Amazon SageMaker AI-Domain haben Zugriff auf alle gemeinsam genutzten Bereiche in der Domain.

Daten in Studio importieren, analysieren, vorbereiten und mit Features versehen. SageMaker Sie können Data Wrangler in Ihre Workflows für Machine Learning integrieren, um die Datenvorverarbeitung und das Feature-Engineering mit wenig bis gar keiner Codierung zu vereinfachen und zu optimieren. Sie können auch Ihre eigenen Python-Skripte und Transformationen hinzufügen, um Ihren Datenvorbereitungsworkflow anzupassen.

Interagieren Sie mit Ihren Daten, erhalten Sie Visualisierungen, gewinnen Sie umsetzbare Erkenntnisse und beheben Sie Probleme mit der Datenqualität.

Untersuchen Sie Trainingsparameter und -daten während des gesamten Trainingsprozesses. Automatisches Erkennen und Hinweisen von Benutzern auf häufig auftretende Fehler, z. B. auf zu groß oder zu klein werdende Parameterwerte.

Optimieren Sie benutzerdefinierte Modelle für Edge-Geräte, erstellen und verwalten Sie Flotten und führen Sie Modelle mit einer effizienten Laufzeit aus.

Verwaltung und Nachverfolgung von Experimenten. Sie können anhand der verfolgten Daten ein Experiment rekonstruieren, inkrementell auf von Peers durchgeführten Experimenten aufbauen und die Herkunft von Modellen für Compliance- und Audit-Überprüfungen nachverfolgen.

Ein zentraler Speicher für Funktionen und zugehörige Metadaten, sodass Funktionen einfach gefunden und wiederverwendet werden können. Sie können zwei Arten von Geschäften erstellen: einen Online- oder einen Offline-Speicher. Der Online-Speicher kann für Anwendungsfälle mit niedriger Latenz und Echtzeit-Inferenzen verwendet werden, und der Offline-Speicher kann für Trainings und Batch-Inferenz verwendet werden.

High-quality Schulung von Datensätzen mithilfe von Mitarbeitern und maschinellem Lernen zur Erstellung beschrifteter Datensätze.

Holen Sie sich Empfehlungen zu Typen und Konfigurationen von Inferenz-Instances (z. B. Anzahl der Instances, Container-Parameter und Modelloptimierungen), um Ihre ML-Modelle und Workloads zu verwenden.

Evaluieren Sie alle Änderungen an Ihrer Model-Server-Infrastruktur, indem Sie deren Leistung mit der aktuell bereitgestellten Infrastruktur vergleichen.

Lernen Sie mithilfe kuratierter 1-Klick-Lösungen, Beispiel-Notebooks und vortrainierter Modelle, die Sie einsetzen können, mehr über die Funktionen und Möglichkeiten von SageMaker KI. Sie können die Modelle auch verfeinern und bereitstellen.

Verfolgen Sie die Herkunft der Workflows für Machine Learning.

Erstellen und verwalten Sie Pipelines für maschinelles Lernen, die direkt in SageMaker KI-Jobs integriert sind.

Dokumentieren Sie Informationen zu Ihren ML-Modellen an einem zentralen Ort, um die Verwaltung und Berichterstattung während des gesamten ML-Lebenszyklus zu optimieren.

Eine vorgefertigte, visuelle Übersicht über alle Modelle in Ihrem Konto. Das Model Dashboard integriert Informationen aus SageMaker Model Monitor, Transformationsjobs, Endpunkten und Abstammungsverfolgung, CloudWatch sodass Sie auf allgemeine Modellinformationen zugreifen und die Modellleistung in einer einheitlichen Ansicht verfolgen können.

Überwachen und analysieren Sie Modelle in der Produktion (Endpunkte), um Datendrift und Abweichungen in der Modellqualität zu erkennen.

Versionierung, Nachverfolgung von Artefakten und Herkunft, Genehmigungsworkflow und kontenübergreifende Unterstützung für den Einsatz Ihrer Machine-Learning-Modelle.

Trainieren Sie Machine-Learning-Modelle einmal und führen Sie sie dann an einer beliebigen Stelle in der Cloud oder am Edge aus.

Führen Sie Ihr SageMaker Studio-Notizbuch als nicht interaktiven, geplanten Job aus.

Analysieren und Vorverarbeiten von Daten, Entwickeln von Merkmalen und Bewerten von Modellen.

Erstellen Sie mithilfe CI/CD von SageMaker Projekten umfassende ML-Lösungen mit.

Maximieren Sie die langfristige Belohnung, die ein Agent infolge seiner Aktionen erhält.

Administratoren können mithilfe von benutzerdefinierten und vorkonfigurierten persona-basierten IAM-Rollen Berechtigungen mit den geringsten Rechten für gängige ML-Aktivitäten definieren.

Eine serverlose Endpunktoption zum Hosten Ihres ML-Modells. Die Kapazität wird automatisch skaliert, um Ihren Endpunktdatenverkehr zu bedienen. Macht die Auswahl von Instance-Typen oder die Verwaltung von Skalierungsrichtlinien auf einem Endpunkt überflüssig.

Eine Git-Erweiterung, um die URL eines Git-Repositorys einzugeben, es in deine Umgebung zu klonen, Änderungen zu übertragen und den Commit-Verlauf anzusehen.

Die nächste Generation von SageMaker Notebooks, die AWS IAM Identity Center (IAM Identity Center) -Integration, schnelle Startzeiten und gemeinsame Nutzung mit nur einem Klick bieten.

Entdecken Sie Amazon EMR-Cluster ganz einfach, stellen Sie eine Verbindung zu ihnen her, erstellen, beenden und verwalten Sie sie in Konfigurationen mit einem Konto oder in kontoübergreifenden Konfigurationen direkt von Studio aus. SageMaker

Trainieren Sie Deep-Learning-Modelle schneller auf skalierbaren GPU-Instanzen, die von SageMaker KI verwaltet werden.