View a markdown version of this page

Anpassen von Amazon Nova-Modellen auf KI SageMaker - Amazon Nova

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Anpassen von Amazon Nova-Modellen auf KI SageMaker

Sie können Amazon Nova-Modelle, einschließlich der erweiterten Amazon Nova 2.0-Modelle, anhand von Rezepten anpassen und an ihnen trainieren SageMaker. Diese Rezepte unterstützen Techniken wie Supervised Fine-Tuning (SFT) und Reinforcement Fine-Tuning (RFT), wobei es sowohl Optionen für Full-Rank- als auch Low-Rank Adaptation (LoRa) gibt.

Der gesamte Anpassungsablauf umfasst Phasen wie das Modelltraining, die Modellbewertung und die Bereitstellung für Inferenz. Dieser Ansatz zur Modellanpassung SageMaker bietet mehr Flexibilität und Kontrolle bei der Feinabstimmung der unterstützten Amazon Nova-Modelle, bei der präzisen Optimierung von Hyperparametern und bei der Implementierung von Techniken wie der parametereffizienten LoRa-Feinabstimmung (PEFT), SFT, RFT und Continued (CPT). Pre-Training

Ansätze zur Anpassung

SageMaker bietet zwei Ansätze für die Anpassung von Amazon Nova-Modellen:

UI-based Erfahrung — Verwenden Sie Amazon SageMaker Studio, um Amazon Nova-Modelle über eine einfache, geführte Oberfläche anzupassen. Dieser Ansatz bietet einen durchgängigen Arbeitsablauf, einschließlich Schulung, Bewertung und Bereitstellung, ohne Code schreiben zu müssen. Die UI-based Erfahrung ist ideal für schnelle Experimente, die Entwicklung von Machbarkeitsnachweisen und für Benutzer, die einen visuellen Arbeitsablauf bevorzugen.

Code-based Erfahrung — Verwenden Sie das SageMaker Python-SDK, das Nova-SDK und die Trainingsrezepte, um Modelle programmgesteuert anzupassen. Dieser Ansatz bietet mehr Flexibilität und ermöglicht es Ihnen, erweiterte Hyperparameter zu konfigurieren, in CI/CD Pipelines zu integrieren und Trainingsabläufe zu automatisieren. Die codebasierte Erfahrung wird für Produktionsworkloads, komplexe Anpassungsanforderungen und Teams mit etablierten MLOps-Praktiken empfohlen.

Ansatz Am besten geeignet für Wichtigste Vorteile
UI-based Experimentieren, Prototyping, schnelle Iterationen Einfache Einrichtung, geführter Arbeitsablauf, keine Codierung erforderlich
Code-based Produktion, Automatisierung, erweiterte Konfigurationen Volle Flexibilität, Pipeline-Integration, Versionskontrolle

Plattformen zur Anpassung

AWS bietet drei Plattformen für die Anpassung von Amazon Nova-Modellen, die jeweils für unterschiedliche Anwendungsfälle und Anforderungen konzipiert sind:

Amazon Bedrock — Bietet den einfachsten und schnellsten Weg zur Modellanpassung mit minimalem Einrichtungsaufwand. Bedrock kümmert sich automatisch um das gesamte Infrastrukturmanagement, sodass Sie sich auf Ihre Daten und Ihren Anwendungsfall konzentrieren können. Diese Plattform ist ideal, wenn Sie eine möglichst schnelle Amortisierung benötigen und ein vollständig verwaltetes Erlebnis bevorzugen.

SageMaker Schulungsjobs — Bietet eine vollständig verwaltete Umgebung für die Anpassung von Amazon Nova-Modellen, in der Sie keine Cluster erstellen oder verwalten müssen. Der Service kümmert sich automatisch um die Bereitstellung, Skalierung und das Ressourcenmanagement der gesamten Infrastruktur, sodass Sie sich auf die Konfiguration Ihrer Schulungsparameter und die Einreichung Ihres Jobs konzentrieren können. Diese Plattform bietet ein ausgewogenes Verhältnis zwischen Benutzerfreundlichkeit und Flexibilität und unterstützt Techniken wie Parameter Efficient Fine-tuning (PEFT), Full Rank Fine Tuning und Reinforcement Fine-Tuning (RFT).

SageMaker HyperPod— Bietet eine spezielle Umgebung für groß angelegte verteilte Schulungen, da Sie EKS-Cluster mit eingeschränkten Instanzgruppen (RIGs) erstellen und verwalten müssen. Diese Plattform bietet Ihnen maximale Flexibilität bei der Konfiguration Ihrer Trainingsumgebung mit speziellen GPU-Instances und integriertem Amazon FSx for Lustre-Speicher und eignet sich daher besonders für fortgeschrittene verteilte Trainingsszenarien, die laufende Modellentwicklung und Anpassungsworkloads auf Unternehmensebene.

Plattform Komplexität Flexibilität Am besten geeignet für
Amazon Bedrock Am niedrigsten Standard Schnellste Anpassung, minimaler Einrichtungsaufwand
SageMaker Ausbildungsberufe Medium Hoch Ausgewogene Flexibilität und einfache Bedienung
SageMaker HyperPod Am höchsten Maximum Umfangreiches verteiltes Training, Unternehmens-Workloads
Anmerkung

Wenn Sie einen KMS-Schlüssel für Ihren Trainingsauftrag zur Anpassung des Amazon Nova-Modells für die Verschlüsselung im Amazon-owned S3-Ausgabe-Bucket angeben:

  • Sie müssen denselben KMS-Schlüssel angeben, wenn Sie nachfolgende iterative Trainingsjobs aufrufen oder wenn Sie die Amazon CreateCustomModel Bedrock-API aufrufen, die das verschlüsselte Modell nutzt.

  • Die Identität, die die CreateTrainingJob API aufruft (und nicht die Ausführungsrolle), muss über die in der KMS-Schlüsselrichtlinie definierten Berechtigungen für CreateGrant RetireGrantEncrypt, und GenerateDataKey verfügen.