Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.
Anpassen von Amazon Nova-Modellen auf KI SageMaker
Sie können Amazon Nova-Modelle, einschließlich der erweiterten Amazon Nova 2.0-Modelle, anhand von Rezepten anpassen und sie anhand von Rezepten trainieren SageMaker. Diese Rezepte unterstützen Techniken wie Supervised Fine-Tuning (SFT) und Reinforcement Fine-Tuning (RFT) mit Optionen für Full-Rank und Low-Rank Adaptation (LoRa).
Der gesamte Anpassungsablauf umfasst Phasen wie das Modelltraining, die Modellbewertung und die Bereitstellung für Inferenz. Dieser Ansatz zur Modellanpassung SageMaker bietet mehr Flexibilität und Kontrolle bei der Feinabstimmung der unterstützten Amazon Nova-Modelle, der präzisen Optimierung von Hyperparametern und der Implementierung von Techniken wie LoRa Parameter-Efficient Fine-Tuning (PEFT), Full-Rank SFT, RFT und Continued (CPT). Pre-Training
Ansätze zur Anpassung
SageMaker bietet zwei Ansätze für die Anpassung von Amazon Nova-Modellen:
UI-based Erfahrung — Verwenden Sie diese Option, um Amazon Nova-Modelle über eine einfache, geführte Oberfläche anzupassen. Dieser Ansatz bietet einen durchgängigen Workflow, einschließlich Schulung, Evaluierung und Bereitstellung, ohne dass Code geschrieben werden muss. Die UI-based Erfahrung ist ideal für schnelle Experimente, die Entwicklung von Machbarkeitsnachweisen und für Benutzer, die einen visuellen Arbeitsablauf bevorzugen.
Code-based Erfahrung — Verwenden Sie das SageMaker Python SDK, das Nova SDK und Trainingsrezepte, um Modelle programmgesteuert anzupassen. Dieser Ansatz bietet mehr Flexibilität und ermöglicht Ihnen die Konfiguration erweiterter Hyperparameter, die Integration in CI/CD Pipelines und die Automatisierung von Trainingsabläufen. Die codebasierte Erfahrung wird für Produktionsworkloads, komplexe Anpassungsanforderungen und Teams mit etablierten MLOps-Praktiken empfohlen.
| Ansatz | Am besten geeignet für | Wichtigste Vorteile |
|---|---|---|
| UI-based | Experimentieren, Prototyping, schnelle Iterationen | Einfache Einrichtung, geführter Arbeitsablauf, keine Codierung erforderlich |
| Code-based | Produktion, Automatisierung, erweiterte Konfigurationen | Volle Flexibilität, Pipeline-Integration, Versionskontrolle |
Plattformen zur Anpassung
AWS bietet drei Plattformen für die Anpassung von Amazon Nova-Modellen, die jeweils für unterschiedliche Anwendungsfälle und Anforderungen konzipiert sind:
Amazon Bedrock — Bietet den einfachsten und schnellsten Weg zur Modellanpassung mit minimalem Einrichtungsaufwand. Bedrock wickelt das gesamte Infrastrukturmanagement automatisch ab, sodass Sie sich auf Ihre Daten und Ihren Anwendungsfall konzentrieren können. Diese Plattform ist ideal, wenn Sie die schnellste Amortisierungszeit benötigen und ein vollständig verwaltetes Erlebnis bevorzugen.
SageMaker Schulungsjobs — Bietet eine vollständig verwaltete Umgebung für die Anpassung von Amazon Nova-Modellen, in der Sie keine Cluster erstellen oder verwalten müssen. Der Service kümmert sich automatisch um die gesamte Bereitstellung, Skalierung und Ressourcenverwaltung der Infrastruktur, sodass Sie sich auf die Konfiguration Ihrer Schulungsparameter und die Einreichung Ihres Jobs konzentrieren können. Diese Plattform bietet ein ausgewogenes Verhältnis zwischen Benutzerfreundlichkeit und Flexibilität und unterstützt Techniken wie Parameter Efficient Fine-tuning (PEFT), Full Rank Fine Tuning und Reinforcement Fine-Tuning (RFT).
SageMaker HyperPod— Bietet eine spezielle Umgebung für groß angelegte verteilte Schulungen, in der Sie EKS-Cluster mit eingeschränkten Instanzgruppen (RIGs) erstellen und verwalten müssen. Diese Plattform bietet Ihnen maximale Flexibilität bei der Konfiguration Ihrer Schulungsumgebung mit speziellen GPU-Instances und integriertem Amazon FSx for Lustre-Speicher und eignet sich daher besonders für fortgeschrittene verteilte Schulungsszenarien, die laufende Modellentwicklung und kundenspezifische Workloads auf Unternehmensebene.
| Plattform | Komplexität | Flexibilität | Am besten geeignet für |
|---|---|---|---|
| Amazon Bedrock | Am niedrigsten | Standard | Schnellste Anpassung, minimaler Einrichtungsaufwand |
| SageMaker Ausbildungsjobs | Medium | Hoch | Ausgewogene Flexibilität und Benutzerfreundlichkeit |
| SageMaker HyperPod | Am höchsten | Maximum | Umfangreiches, verteiltes Training, Workloads für Unternehmen |
Anmerkung
Wenn Sie einen KMS-Schlüssel für Ihren Schulungsjob zur Anpassung des Amazon Nova-Modells für die Verschlüsselung im Amazon-owned Ausgabe-S3-Bucket angeben:
-
Sie müssen denselben KMS-Schlüssel angeben, wenn Sie nachfolgende iterative Trainingsjobs aufrufen oder wenn Sie die Amazon CreateCustomModel Bedrock-API aufrufen, die das verschlüsselte Modell nutzt.
-
Die Identität, die die
CreateTrainingJobAPI aufruft (und nicht die Ausführungsrolle), muss über die in der KMS-Schlüsselrichtlinie definierten Berechtigungen fürCreateGrantRetireGrantEncrypt,, undGenerateDataKeyverfügen.