SageMaker Amazon-Funktionen

SageMaker Der Canvas-Chat für die Datenvorbereitung hilft Ihnen bei der Erstellung von Datenvorbereitungsabläufen mithilfe von. LLMs

Code Editor erweitert Studio, sodass Sie Ihren Analyse- und Machine-Learning-Code in einer Umgebung schreiben, testen, debuggen und ausführen können, die auf Visual Studio Code — Open Source („Code-OSS“) basiert.

SageMaker hat die NCCL Standardkerne durch inferenzoptimierte Kernel ersetzt, um die GPU Auslastung zu verbessern und eine differenzierte Leistung zu bieten. OSS

SageMaker Inference bietet Entwicklererfahrung und Abstraktionen von Benutzeroberflächen, damit Sie schneller mit der Modellbereitstellung beginnen können.

SageMaker Kunden können jetzt die Nutzung ihrer beschleunigten Recheninstanzen verbessern, indem sie bis zu Tausende von Modellen auf einem SageMaker Endpunkt mit garantiertem Durchsatz und auto-scaling pro Modell bereitstellen.

SageMaker Distribution ist eine Sammlung von Docker-Images, die für maschinelles Lernen, Datenwissenschaft und Datenanalyse entwickelt wurden. Die Bilder sind in Studio, Studio Lab, Studio-Notebooks und Github verfügbar.

Ein vereinfachtes und geführtes Onboarding-Erlebnis für SageMaker Amazon-Domains mit neuen Funktionen für Einzelbenutzer und Unternehmensadministratoren. Zu den Funktionen gehören die direkte Integration von IAM Identity Center, eine differenzierte Verwaltung von Zugriffsrichtlinien, eine nahtlose Verwaltung und Konfiguration von SageMaker Apps sowie eine VPC Speicherkonfiguration.

Amazon S3 Express One Zone ist eine neue Speicherklasse, die Zugriff im einstelligen Millisekundenbereich für die latenzempfindlichsten Anwendungen bietet. Amazon S3 Express One Zone ermöglicht es Kunden, ihre Objektspeicher- und Rechenressourcen in einer einzigen AWS Availability Zone zusammenzufassen und so sowohl die Rechenleistung als auch die Kosten bei erhöhter Datenverarbeitungsgeschwindigkeit zu optimieren.

Mithilfe von Evaluationen des Foundation-Modells (FMEval) können Sie das Risiko quantifizieren, dass Ihr Sprachmodell ungenaue, giftige oder voreingenommene Inhalte bereitstellt, sodass Sie das für Ihren Anwendungsfall am besten geeignete Modell auswählen können. Bringen Sie Ihren eigenen benutzerdefinierten Datensatz mit oder verwenden Sie einen integrierten Datensatz, um ein beliebiges Sprachmodell zu evaluieren. FMEvalist in Dutzende von textbasierten Basismodellen integriert JumpStart oder Sie können Ihre eigenen verwenden. Mithilfe der FMEval Bibliothek können Sie auch maßgeschneiderte Bewertungen erstellen.

SageMaker HyperPod ist eine Funktion SageMaker , die eine ständig verfügbare Umgebung für maschinelles Lernen auf stabilen Clustern bereitstellt, sodass Sie beliebige Workloads für maschinelles Lernen ausführen können, um große Modelle für maschinelles Lernen wie große Sprachmodelle (LLMs) und Diffusionsmodelle zu entwickeln.

Jupyter AI und Code Whisperer wurden in den Vertrieb aufgenommen. SageMaker Mit diesem Update können Benutzer von Studio oder Code Editor ganz einfach generative KI von ihren Notebooks aus verwenden und die Codevervollständigungsfunktion von Code Whisperer nutzen.

JupyterLab in Studio verbessert die Latenz und Zuverlässigkeit für Studio-Notebooks

SageMaker Notebook Jobs bietet SDK Unterstützung für Notizbuchjobs, sodass Sie Ihre Notizbuchjobs programmgesteuert planen können.

SageMaker Pipelines bietet Ihnen die Möglichkeit, Ihren lokalen Machine-Learning-Code in einen SageMaker Pipeline-Schritt zu konvertieren, von dem aus Sie eine Pipeline erstellen und ausführen können.

SageMaker Intelligentes Sieben ist eine Funktion von SageMaker Training, mit der Sie die Effizienz Ihrer Trainingsdatensätze verbessern und die Gesamtdauer und -kosten für das Training reduzieren können.

Studio ist das neueste webbasierte Erlebnis für die Ausführung von ML-Workflows. Studio bietet eine Suite vonIDEs, darunter Code Editor, eine neue Jupyterlab-Anwendung und Studio ClassicRStudio.

Erstellen, trainieren und implementieren Sie ML-Modelle mithilfe von Geodaten.

Ein Auto-ML-Service, der Menschen ohne Programmiererfahrung die Möglichkeit gibt, Modelle zu erstellen und damit Vorhersagen zu treffen.

Eine integrierte Umgebung für das maschinelle Lernen, in der Sie Ihre Modelle in derselben Anwendung erstellen, trainieren, bereitstellen und analysieren können.

Ein kostenloser Service, der Kunden Zugriff auf AWS Rechenressourcen in einer JupyterLab Open-Source-Umgebung bietet.

Eine integrierte Entwicklungsumgebung für R mit einer Konsole, einem Syntaxhervorhebungseditor, der die direkte Codeausführung unterstützt, und Tools für Plotten, Verlauf, Debugging und Workspace-Management.

Erstellen Sie die Workflows, die für die Überprüfung von ML-Vorhersagen durch Menschen erforderlich sind. Amazon A2I bietet allen Entwicklern die Möglichkeit, menschliche Überprüfungen vorzunehmen. Damit entfällt der undifferenzierte Aufwand, der mit dem Aufbau menschlicher Überprüfungssysteme oder der Verwaltung einer großen Anzahl menschlicher Prüfer verbunden ist.

Erstellen Sie einen AutoML-Job, um ein Modell automatisch in Pipelines zu trainieren.

Benutzer ohne Kenntnisse auf dem Gebiet des maschinellen Lernens können schnell Klassifizierungs- und Regressionsmodelle erstellen.

Führen Sie eine Vorverarbeitung von Datensätzen durch, führen Sie eine Inferenz aus, wenn Sie keinen persistenten Endpunkt benötigen, und ordnen Sie Eingabedatensätze Inferenzen zu, um die Interpretation von Ergebnissen zu unterstützen.

Verbessern Sie Ihre Modelle für Machine Learning, indem Sie potenzielle Verzerrungen erkennen und Ihnen helfen, die Vorhersagen der Modelle zu erklären.

Ein gemeinsam genutzter Bereich besteht aus einer gemeinsam genutzten JupyterServer Anwendung und einem gemeinsam genutzten Verzeichnis. Alle Benutzerprofile in einer SageMaker Amazon-Domain haben Zugriff auf alle gemeinsam genutzten Bereiche in der Domain.

Import, Analyse, Vorbereitung und Bereitstellung von Daten in Studio. SageMaker Sie können Data Wrangler in Ihre Workflows für Machine Learning integrieren, um die Datenvorverarbeitung und das Feature-Engineering mit wenig bis gar keiner Codierung zu vereinfachen und zu optimieren. Sie können auch Ihre eigenen Python-Skripte und Transformationen hinzufügen, um Ihren Datenvorbereitungsworkflow anzupassen.

Interagieren Sie mit Ihren Daten, erhalten Sie Visualisierungen, gewinnen Sie umsetzbare Erkenntnisse und beheben Sie Probleme mit der Datenqualität.

Untersuchen Sie Trainingsparameter und -daten während des gesamten Trainingsprozesses. Automatisches Erkennen und Hinweisen von Benutzern auf häufig auftretende Fehler, z. B. auf zu groß oder zu klein werdende Parameterwerte.

Optimieren Sie benutzerdefinierte Modelle für Edge-Geräte, erstellen und verwalten Sie Flotten und führen Sie Modelle mit einer effizienten Laufzeit aus.

Verwaltung und Nachverfolgung von Experimenten. Sie können anhand der verfolgten Daten ein Experiment rekonstruieren, inkrementell auf von Peers durchgeführten Experimenten aufbauen und die Herkunft von Modellen für Compliance- und Audit-Überprüfungen nachverfolgen.

Ein zentraler Speicher für Funktionen und zugehörige Metadaten, sodass Funktionen einfach gefunden und wiederverwendet werden können. Sie können zwei Arten von Geschäften erstellen: einen Online- oder einen Offline-Speicher. Der Online-Speicher kann für Anwendungsfälle mit niedriger Latenz und Echtzeit-Inferenzen verwendet werden, und der Offline-Speicher kann für Trainings und Batch-Inferenz verwendet werden.

Qualitativ hochwertige Training-Datensätze durch den Einsatz von Arbeitskräften zusammen mit Machine Learning, um mit Labels versehene Datensätze zu erstellen.

Eine sofort einsatzbereite Funktion zum Daten-Labeling, mit der Sie hochwertige Trainingsdatensätze erstellen können, ohne Kennzeichnungsanwendungen erstellen und das Labeling-Personal selbst verwalten zu müssen.

Holen Sie sich Empfehlungen zu Typen und Konfigurationen von Inferenz-Instances (z. B. Anzahl der Instances, Container-Parameter und Modelloptimierungen), um Ihre ML-Modelle und Workloads zu verwenden.

Evaluieren Sie alle Änderungen an Ihrer Model-Server-Infrastruktur, indem Sie deren Leistung mit der aktuell bereitgestellten Infrastruktur vergleichen.

Erfahren SageMaker Sie anhand von kuratierten 1-Klick-Lösungen, Beispiel-Notebooks und vortrainierten Modellen, die Sie einsetzen können, mehr über Funktionen und Möglichkeiten. Sie können die Modelle auch verfeinern und bereitstellen.

Verfolgen Sie die Herkunft der Workflows für Machine Learning.

Erstellen und verwalten Sie Pipelines für maschinelles Lernen, die direkt in Jobs integriert sind. SageMaker

Dokumentieren Sie Informationen zu Ihren ML-Modellen an einem zentralen Ort, um die Verwaltung und Berichterstattung während des gesamten ML-Lebenszyklus zu optimieren.

Eine vorgefertigte, visuelle Übersicht über alle Modelle in Ihrem Konto. Model Dashboard integriert Informationen aus SageMaker Model Monitor, transformiert Jobs, Endpunkte und die Nachverfolgung der Herkunft, CloudWatch sodass Sie auf allgemeine Modellinformationen zugreifen und die Modellleistung in einer einheitlichen Ansicht verfolgen können.

Überwachen und analysieren Sie Modelle in der Produktion (Endpunkte), um Datendrift und Abweichungen in der Modellqualität zu erkennen.

Versionierung, Nachverfolgung von Artefakten und Herkunft, Genehmigungsworkflow und kontenübergreifende Unterstützung für den Einsatz Ihrer Machine-Learning-Modelle.

Trainieren Sie Machine-Learning-Modelle einmal und führen Sie sie dann an einer beliebigen Stelle in der Cloud oder am Edge aus.

Führen Sie Ihr SageMaker Studio-Notizbuch als nicht interaktiven, geplanten Job aus.

Analysieren und Vorverarbeiten von Daten, Entwickeln von Merkmalen und Bewerten von Modellen.

Erstellen Sie end-to-end ML-Lösungen mit CI/CD mithilfe SageMaker von Projekten.

Maximieren Sie die langfristige Belohnung, die ein Agent infolge seiner Aktionen erhält.

Administratoren können mithilfe benutzerdefinierter und vorkonfigurierter personenbasierter Rollen Berechtigungen mit den geringsten Rechten für gängige ML-Aktivitäten definieren. IAM

Eine serverlose Endpunktoption zum Hosten Ihres ML-Modells. Die Kapazität wird automatisch skaliert, um Ihren Endpunktdatenverkehr zu bedienen. Macht die Auswahl von Instance-Typen oder die Verwaltung von Skalierungsrichtlinien auf einem Endpunkt überflüssig.

Eine Git-Erweiterung, mit URL der Sie auf ein Git-Repository zugreifen, es in Ihre Umgebung klonen, Änderungen übertragen und den Commit-Verlauf anzeigen können.

Die nächste Generation von SageMaker Notebooks mit AWS IAM Identity Center (IAMIdentity Center-) Integration, schnellen Startzeiten und Teilen mit nur einem Klick.

Entdecken Sie EMR Amazon-Cluster, stellen Sie eine Verbindung zu ihnen her, erstellen, beenden und verwalten Sie sie in Konfigurationen mit einem oder mehreren Konten direkt von SageMaker Studio aus.

Trainieren Sie Deep-Learning-Modelle schneller auf skalierbaren GPU Instanzen, die von verwaltet werden SageMaker.