View a markdown version of this page

Anpassen von Amazon Nova-Modellen auf KI SageMaker - Amazon Nova

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Anpassen von Amazon Nova-Modellen auf KI SageMaker

Anmerkung

Diese Dokumentation bezieht sich auf Amazon Nova Version 1. Amazon Nova 2 ist jetzt mit neuen Modellen und erweiterten Funktionen erhältlich. Informationen zum Anpassen von Amazon Nova 2 finden Sie unter Anpassen von Amazon Nova 2-Modellen.

Sie können Amazon Nova-Modelle, einschließlich der erweiterten Amazon Nova 2.0-Modelle, anhand von Rezepten anpassen und mit ihnen trainieren. SageMaker Diese Rezepte unterstützen Techniken wie Supervised Fine-Tuning (SFT), Direct Preference Optimization (DPO) und Reinforcement Fine-Tuning (RFT), wobei es sowohl Optionen für Full-Rank als auch Low-Rank Adaptation (LoRa) gibt.

Der gesamte Anpassungsablauf umfasst Phasen wie das Modelltraining, die Modellbewertung und die Bereitstellung für Inferenz. Dieser Ansatz zur Modellanpassung SageMaker bietet mehr Flexibilität und Kontrolle zur Feinabstimmung der unterstützten Amazon Nova-Modelle, zur präzisen Optimierung von Hyperparametern und zur Implementierung von Techniken wie LoRa-Parameter-Efficient Fine-Tuning (PEFT), Full-Rank SFT, DPO, RFT, Continued Pre-Training (CPT), Proximal Policy Optimization (PPO) usw.

SageMaker bietet zwei Umgebungen für die Anpassung von Amazon Nova-Modellen.

  • SageMaker Training Jobs bietet eine vollständig verwaltete Umgebung für die Anpassung von Amazon Nova-Modellen, in der Sie keine Cluster erstellen oder verwalten müssen. Der Service kümmert sich automatisch um die gesamte Bereitstellung, Skalierung und Ressourcenverwaltung der Infrastruktur, sodass Sie sich ausschließlich auf die Konfiguration Ihrer Trainingsparameter und die Einreichung Ihres Jobs konzentrieren können. Sie können Nova-Modelle für SageMaker Trainingsjobs mit Techniken wie Parameter Efficient Fine-tuning (PEFT), Full-Rank-Feinabstimmung, Direct Preference Optimization (DPO) und Reinforcement Fine-Tuning (RFT) anpassen. Weitere Informationen finden Sie unter Amazon Nova-Anpassung für SageMaker Ausbildungsjobs.

    Anmerkung

    Wenn Sie einen KMS-Schlüssel für Ihren Trainingsauftrag zur Anpassung des Amazon Nova-Modells für die Verschlüsselung im Amazon-owned S3-Ausgabe-Bucket angeben:

    • Sie müssen denselben KMS-Schlüssel angeben, wenn Sie nachfolgende iterative Trainingsjobs aufrufen oder wenn Sie die Amazon CreateCustomModel Bedrock-API aufrufen, die das verschlüsselte Modell nutzt.

    • Die Identität, die die CreateTrainingJob API aufruft (und nicht die Ausführungsrolle), muss über die in der KMS-Schlüsselrichtlinie definierten Berechtigungen für CreateGrant RetireGrantEncrypt, und GenerateDataKey verfügen.

  • SageMaker HyperPodbietet eine spezielle Umgebung zum Trainieren von Amazon Nova-Modellen, indem Sie SageMaker HyperPod EKS-Cluster mit eingeschränkten Instanzgruppen (RIGs) erstellen und verwalten müssen. Diese Umgebung bietet Ihnen Flexibilität bei der Konfiguration Ihrer Trainingsumgebung mit speziellen GPU-Instances und integriertem Speicher von Amazon FSx für Lustre, wodurch sie sich besonders für fortgeschrittene verteilte Trainingsszenarien und die laufende Modellentwicklung eignet. Weitere Informationen finden Sie unter Amazon Nova-Anpassung auf SageMaker HyperPod.

In diesem Kapitel