View a markdown version of this page

Amazon-Nova-Rezepte - Amazon Nova
Erstellen von BasisrezeptenForge-Rezepte abrufenVerfügbare Modelle und AlgorithmenAmazon Nova LiteAmazon Nova MicroAmazon Nova Pro

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Amazon-Nova-Rezepte

Sie können ein Amazon Nova-Rezept aus dem SageMaker HyperPod Rezept-Repository abrufen. Ein Amazon Nova-Rezept ist eine https://yaml.org/ YAML-Konfigurationsdatei, die Details SageMaker zur Ausführung Ihres Modellanpassungsauftrags enthält. Sie enthält den Namen des Basismodells, legt die Hyperparameter für das Training fest, definiert Feinabstimmungseinstellungen und enthält alle zusätzlichen Optionen, die für die Feinabstimmung oder das erfolgreiche Training des Modells erforderlich sind.

Sie können auch über Amazon SageMaker Studio auf Amazon Nova-Rezepte zugreifen, JumpStart indem Sie zum SageMaker JumpStart Modell-Hub navigieren, Amazon Nova-Modelle auswählen und durchsuchen AWS, um die zugehörigen Rezepte zu finden. Sowohl Amazon SageMaker Studio als auch Amazon JumpStart bieten Beispiel-Notizbücher für jedes Rezept an, die alle notwendigen Schritte zur Änderung der Rezepte und zur Ausführung von Anpassungsaufträgen mithilfe von SageMaker Trainingsaufträgen oder SageMaker HyperPod Umgebungen enthalten.

Um auf die Rezeptseiten in Amazon SageMaker Studio zugreifen zu können, muss die Ausführungsrolle über die folgenden Berechtigungen verfügen.

JSON
{
    "Version":"2012-10-17",
    "Statement": [
        {
            "Effect": "Allow",
            "Action": [
                "s3:GetObject"
            ],
            "Resource": [
                "arn:aws:s3:::*model-customization-recipes*"
            ]
        }
    ]
}

Verwenden Sie eine der folgenden SageMaker Distributions-Image-Versionen SageMaker HyperPod, um die Beispiel-Notebooks bei SageMaker Trainingsaufträgen auszuführen:2.7.1+, 2.8.0+3.2.1+,3.3.0+. Dies gilt sowohl für Amazon SageMaker Studio als auch JumpStart.

Abrufen von Amazon-Nova-Rezepten

Um ein Amazon Nova-Basisrezept zu erhalten, klonen Sie das SageMaker HyperPod Rezepte-Repository, indem Sie den folgenden Befehl ausführen.

git clone https://github.com/aws/sagemaker-hyperpod-recipes.git

Die Basisrezepte sind unter recipes_collection/recipes/ verfügbar.

cd recipes_collection/recipes/

Die Amazon-Nova-Anpassungsrezepte befinden sich in den folgenden Ordnern.

Rezepttyp Ordner
SFT (Full-rank und PEFT), PPO, DPO (Full-rank und PEFT) in Ordnung- tuning/nova
Bewertung evaluation/nova
CPT training/nova

Rezepte von Amazon Nova Forge abrufen

Um auf spezielle Amazon Nova Forge-Rezepte für SageMaker HyperPod Jobs zuzugreifen, richten Sie bitte Ihren Zugang zu Amazon Nova Forge ein und nehmen Sie dann an diesem Workshop teil, um die Forge-Version der SageMaker HyperPod CLI einzurichten. Bei SageMaker Trainingsjobs greifen die AWS Konsole und das SageMaker Python-SDK automatisch auf Forge-Rezepte zu.

Verfügbare Modelle und Algorithmen

Die folgende Tabelle fasst die Verfügbarkeit von Anpassungsmöglichkeiten für Amazon Nova-Modelle und unterstützte Algorithmen SageMaker zusammen.

Modellname

Modell-ID

Fine-tuning

Hinweise

Amazon Nova Lite 2.0

amazon.nova-2-lite-v 1:0:256 k

Ja

  • SFT — Akzeptiert entweder and/or Textbild oder Textvideo als Eingabe und erzeugt Text als Ausgabe. and/or Ein einzelner Job kann Text, Bild und Video nicht in derselben Ausführung kombinieren.

  • DPO – Akzeptiert Text und Bild als Eingabe und erzeugt Text als Ausgabe.

  • RFT — Akzeptiert Text und Bild als Eingabe für Single-Turn-Konversationen und erzeugt Text als Ausgabe. Verbesserte Funktionen zur Optimierung von Belohnungen.

Amazon Nova Lite

In der folgenden Tabelle finden Sie detaillierte Informationen zur Amazon Nova Lite-Rezeptreferenz.

Modell Category/Sub-category Technik Name des Rezepts Bild-URI (Ausbildungsberufe) Bild-URI (SageMaker HyperPod) Instanz berechnen
Nova Lite Training/Fine-tuning Betreut Fine-Tuning (LoRa)

nova_lite_1_0_g5_g6_12x_gpu_lora_sft.yaml

nova_lite_1_0_g5_g6_48x_gpu_lora_sft.yaml

nova_lite_1_0_p5_p4d_gpu_lora_sft.yaml

 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-latest

ml.p5.48xlarge, ml.p5en.48xlarge,

ml.g5.12xlarge, ml.g6.12xlarge,

ml.g5.48xlarge, ml.g6.48xlarge
Nova Lite Training/Fine-tuning Betreut Fine-Tuning (voll) nova_lite_1_0_p5_p4d_gpu_sft.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova Lite Training/Fine-tuning Direkte Präferenzoptimierung (vollständig) nova_lite_1_0_p5_p4d_gpu_dpo.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-DPO-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-DPO-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova Lite Training/Fine-tuning Direkte Präferenzoptimierung (LoRA)

nova_lite_1_0_p5_p4d_gpu_lora_dpo.yaml

nova_lite_1_0_g5_g6_48x_gpu_lora_dpo.yaml

 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-DPO-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-DPO-latest

ml.p5.48xlarge, ml.p5en.48xlarge,

ml.g5.48xlarge, ml.g6.48xlarge
Nova Lite Training/Reinforcement Lernen Verstärkung Fine-Tuning (RFT) nova_lite_1_0_p5_gpu_ppo.yaml n/a 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SMHP-PPO-TRAIN-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova Lite Training/Continued Pre-Training Fortsetzung Pre-Training (Basismodell) nova_lite_gpu_p5x16_pretrain.yaml n/a 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:HP-CPT-latest ml.p5.48xlarge
Nova Lite Evaluation/Evaluate Standard-Text-Benchmarks nova_lite_p5_48xl_general_text_benchmark_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Lite Evaluation/Evaluate Benutzerdefinierte Datensatzbewertung nova_lite_p5_48xl_bring_your_own_dataset_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Lite Evaluation/Evaluate Multi-modal Benchmarks nova_lite_p5_48_general_multi_modal_benchmark_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Lite Evaluation/Evaluate LLM-as-a-Judge nova_lite_p5_48xl_llm_judge_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge

Amazon Nova Micro

In der folgenden Tabelle sind detaillierte Informationen zur Amazon Nova Micro-Rezeptreferenz aufgeführt.

Modell Category/Sub-category Technik Name des Rezepts Bild-URI (Ausbildungsberufe) Bild-URI (SageMaker HyperPod) Instanz berechnen
Nova Micro Training/Fine-tuning Betreut Fine-Tuning (LoRa)

nova_micro_1_0_p5_p4d_gpu_lora_sft.yaml

nova_micro_1_0_g5_g6_12x_gpu_lora_sft.yaml

nova_micro_1_0_g5_g6_48x_gpu_lora_sft.yaml

 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-latest

ml.p5.48xlarge, ml.p5en.48xlarge, ml.p4d.24xlarge,

ml.g5.12xlarge, ml.g6.12xlarge,

ml.g5.48xlarge, ml.g6.48xlarge
Nova Micro Training/Fine-tuning Betreut Fine-Tuning (voll)

nova_micro_1_0_p5_p4d_gpu_sft.yaml

nova_micro_1_0_g5_g6_48x_gpu_sft.yaml

 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-latest

ml.p5.48xlarge, ml.p5en.48xlarge, ml.p4d.24xlarge,

ml.g5.48xlarge, ml.g6.48xlarge
Nova Micro Training/Fine-tuning Direkte Präferenzoptimierung (LoRA)

nova_micro_1_0_g5_g6_12x_gpu_lora_dpo.yaml

nova_micro_1_0_g5_g6_48x_gpu_lora_dpo.yaml

nova_micro_1_0_p5_p4d_gpu_lora_dpo.yaml

 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-DPO-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-DPO-latest

ml.p5.48xlarge, ml.p5en.48xlarge, ml.p4d.24xlarge,

ml.g5.12xlarge, ml.g6.12xlarge,

ml.g5.48xlarge, ml.g6.48xlarge
Nova Micro Training/Fine-tuning Direkte Präferenzoptimierung (vollständig) nova_micro_1_0_p5_p4d_gpu_dpo.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-DPO-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-DPO-latest ml.p5.48xlarge, ml.p5en.48xlarge, ml.p4d.24xlarge
Nova Micro Training/Reinforcement Lernen Verstärkung Fine-Tuning (RFT) nova_micro_1_0_p5_gpu_ppo.yaml n/a 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SMHP-PPO-TRAIN-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova Micro Training/Continued Pre-Training Fortsetzung Pre-Training (Basismodell) nova_micro_gpu_p5x8_pretrain.yaml n/a 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:HP-CPT-latest ml.p5.48xlarge
Nova Micro Evaluation/Evaluate Allgemeines Text-Benchmark nova_micro_p5_48xl_general_text_benchmark_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Micro Evaluation/Evaluate Benchmark mit eigenem Datensatz (gen_qa) nova_micro_p5_48xl_bring_your_own_dataset_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Micro Evaluation/Evaluate LLM-as-a-Judge nova_micro_p5_48xl_llm_judge_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge

Amazon Nova Pro

In der folgenden Tabelle finden Sie detaillierte Informationen zur Amazon Nova Pro-Rezeptreferenz.

Modell Category/Sub-category Technik Name des Rezepts Bild-URI (Ausbildungsberufe) Bild-URI (SageMaker HyperPod) Instanz berechnen
Nova Pro Training/Fine-tuning Betreut Fine-Tuning (LoRa) nova_pro_1_0_p5_p4d_gpu_lora_sft.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-latest ml.p5.48xlarge, ml.p5en.48xlarge, ml.p4d.24xlarge
Nova Pro Training/Fine-tuning Betreut Fine-Tuning (voll) nova_pro_1_0_p5_p4d_gpu_sft.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova Pro Training/Fine-tuning Direkte Präferenzoptimierung (vollständig) nova_pro_1_0_p5_gpu_dpo.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-DPO-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-DPO-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova Pro Training/Fine-tuning Direkte Präferenzoptimierung (LoRA) nova_pro_1_0_p5_p4d_gpu_lora_dpo.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-DPO-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-DPO-latest ml.p5.48xlarge, ml.p5en.48xlarge, ml.p4d.24xlarge
Nova Pro Training/Reinforcement Lernen Verstärkung Fine-Tuning (RFT) nova_pro_1_0_p5_gpu_ppo.yaml n/a 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SMHP-PPO-TRAIN-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova Pro Training/Continued Pre-Training Fortsetzung Pre-Training (Basismodell) nova_pro_gpu_p5x24_pretrain.yaml n/a 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:HP-CPT-latest ml.p5.48xlarge
Nova Pro Training/Data Augmentation Modelldestillation nach dem Training nova_pro_r5_cpu_distill.yaml n/a 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-distillation-repo:SM-TJ-DISTILL-LATEST ml.r5.24xlarge
Nova Pro Evaluation/Evaluate Standard-Text-Benchmarks nova_pro_p5_48xl_general_text_benchmark_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Pro Evaluation/Evaluate Benutzerdefinierte Datensatzbewertung nova_pro_p5_48xl_bring_your_own_dataset_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Pro Evaluation/Evaluate Multi-modal Benchmarks nova_pro_p5_48xl_general_multi_modal_benchmark_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Pro Evaluation/Evaluate LLM-as-a-Judge nova_pro_p5_48xl_llm_judge_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge