View a markdown version of this page

Ricette Amazon Nova - Amazon Nova
Recupero di ricette di baseOttenere le ricette di ForgeModelli e algoritmi disponibiliAmazon Nova LiteAmazon Nova MicroAmazon Nova Pro

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Ricette Amazon Nova

Puoi ottenere una ricetta di Amazon Nova dal repository delle SageMaker HyperPod ricette. Una ricetta Amazon Nova è un file di configurazione YAML che fornisce dettagli SageMaker su come eseguire il processo di personalizzazione del modello. Fornisce il nome del modello di base, imposta gli iperparametri di addestramento, definisce le impostazioni di ottimizzazione e include tutte le opzioni aggiuntive necessarie per eseguire il fine-tuning o addestrare correttamente il modello.

Puoi anche accedere alle ricette di Amazon Nova tramite Amazon SageMaker Studio e JumpStart accedendo all'hub dei SageMaker JumpStart modelli AWS, selezionando e sfogliando i modelli Amazon Nova per trovare le ricette associate. Sia Amazon SageMaker Studio che JumpStart forniscono taccuini di esempio per ogni ricetta, che includono tutti i passaggi necessari per modificare le ricette ed eseguire lavori di personalizzazione utilizzando SageMaker lavori o ambienti di formazione. SageMaker HyperPod

Per accedere alle pagine delle ricette in Amazon SageMaker Studio, il ruolo di esecuzione deve disporre delle seguenti autorizzazioni.

JSON
{
    "Version":"2012-10-17",
    "Statement": [
        {
            "Effect": "Allow",
            "Action": [
                "s3:GetObject"
            ],
            "Resource": [
                "arn:aws:s3:::*model-customization-recipes*"
            ]
        }
    ]
}

Per eseguire i taccuini di esempio sui lavori di SageMaker formazione SageMaker HyperPod, utilizza una delle seguenti versioni delle immagini di SageMaker distribuzione:2.7.1+,,,. 2.8.0+ 3.2.1+ 3.3.0+ Questo vale sia per Amazon SageMaker Studio che. JumpStart

Recupero di ricette Amazon Nova

Per ottenere una ricetta base di Amazon Nova, clona il repository delle SageMaker HyperPod ricette eseguendo il seguente comando.

git clone https://github.com/aws/sagemaker-hyperpod-recipes.git

Le ricette di base sono disponibili in recipes_collection/recipes/.

cd recipes_collection/recipes/

Le ricette di personalizzazione di Amazon Nova si trovano nelle seguenti cartelle.

Recipe type Cartella
SFT (Full-rank e PEFT), PPO, DPO (e PEFT) Full-rank bene- tuning/nova
Valutazione evaluation/nova
CPT training/nova

Ottenere le ricette di Amazon Nova Forge

Per accedere a ricette specializzate di Amazon Nova Forge per i SageMaker HyperPod lavori, configura il tuo accesso ad Amazon Nova Forge e poi segui questo workshop per configurare la versione Forge della CLI. SageMaker HyperPod Per i SageMaker Training Jobs, la AWS Console e l'SDK SageMaker Python accederanno automaticamente alle ricette di Forge.

Modelli e algoritmi disponibili

La tabella seguente riassume la disponibilità della personalizzazione per i modelli Amazon Nova e gli algoritmi supportati utilizzando. SageMaker

Nome modello

ID modello

Fine-tuning

Note

Amazon Nova Lite 2.0

amazon.nova-2-lite-v 1:0:256k

Sì

  • SFT - Accetta and/or immagini di testo o video di testo come input e produce testo come output. and/or Un singolo job non può combinare testo, immagini e video nella stessa esecuzione.

  • DPO - Accetta testo e immagini come input e produce testo come output.

  • RFT: accetta testo e immagini come input per conversazioni a turno singolo e produce testo come output. Funzionalità di ottimizzazione delle ricompense migliorate.

Amazon Nova Lite

La tabella seguente elenca informazioni dettagliate sul riferimento alle ricette di Amazon Nova Lite.

Modello Category/Sub-category Tecnica Nome della ricetta URI dell'immagine (lavori di formazione) URI dell'immagine (SageMaker HyperPod) Istanza di calcolo
Nova Lite Training/Fine-tuning Supervisionato Fine-Tuning (LoRa)

nova_lite_1_0_g5_g6_12x_gpu_lora_sft.yaml

nova_lite_1_0_g5_g6_48x_gpu_lora_sft.yaml

nova_lite_1_0_p5_p4d_gpu_lora_sft.yaml

 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-latest

ml.p5.48xlarge, ml.p5en.48xlarge,

ml.g5.12xlarge, ml.g6.12xlarge,

ml.g5.48xlarge, ml.g6.48xlarge
Nova Lite Training/Fine-tuning Supervisionato Fine-Tuning (completo) nova_lite_1_0_p5_p4d_gpu_sft.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova Lite Training/Fine-tuning Ottimizzazione diretta delle preferenze (completa) nova_lite_1_0_p5_p4d_gpu_dpo.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-DPO-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-DPO-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova Lite Training/Fine-tuning Ottimizzazione diretta delle preferenze (LoRA)

nova_lite_1_0_p5_p4d_gpu_lora_dpo.yaml

nova_lite_1_0_g5_g6_48x_gpu_lora_dpo.yaml

 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-DPO-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-DPO-latest

ml.p5.48xlarge, ml.p5en.48xlarge,

ml.g5.48xlarge, ml.g6.48xlarge
Nova Lite Training/Reinforcement apprendimento Rinforzo Fine-Tuning (RFT) nova_lite_1_0_p5_gpu_ppo.yaml n/a 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SMHP-PPO-TRAIN-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova Lite Training/Continued Pre-Training Continua Pre-Training (modello base) nova_lite_gpu_p5x16_pretrain.yaml n/a 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:HP-CPT-latest ml.p5.48xlarge
Nova Lite Evaluation/Evaluate Benchmark testuali standard nova_lite_p5_48xl_general_text_benchmark_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Lite Evaluation/Evaluate Valutazione dei set di dati personalizzati nova_lite_p5_48xl_bring_your_own_dataset_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Lite Evaluation/Evaluate Multi-modal parametri di riferimento nova_lite_p5_48_general_multi_modal_benchmark_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Lite Evaluation/Evaluate LLM-as-a-judge nova_lite_p5_48xl_llm_judge_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge

Amazon Nova Micro

La tabella seguente elenca informazioni dettagliate sul riferimento alle ricette di Amazon Nova Micro.

Modello Category/Sub-category Tecnica Nome della ricetta URI dell'immagine (lavori di formazione) URI dell'immagine (SageMaker HyperPod) Istanza di calcolo
Nova Micro Training/Fine-tuning Supervisionato Fine-Tuning (LoRa)

nova_micro_1_0_p5_p4d_gpu_lora_sft.yaml

nova_micro_1_0_g5_g6_12x_gpu_lora_sft.yaml

nova_micro_1_0_g5_g6_48x_gpu_lora_sft.yaml

 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-latest

ml.p5.48xlarge, ml.p5en.48xlarge, ml.p4d.24xlarge,

ml.g5.12xlarge, ml.g6.12xlarge,

ml.g5.48xlarge, ml.g6.48xlarge
Nova Micro Training/Fine-tuning Supervisionato Fine-Tuning (completo)

nova_micro_1_0_p5_p4d_gpu_sft.yaml

nova_micro_1_0_g5_g6_48x_gpu_sft.yaml

 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-latest

ml.p5.48xlarge, ml.p5en.48xlarge, ml.p4d.24xlarge,

ml.g5.48xlarge, ml.g6.48xlarge
Nova Micro Training/Fine-tuning Ottimizzazione diretta delle preferenze (LoRA)

nova_micro_1_0_g5_g6_12x_gpu_lora_dpo.yaml

nova_micro_1_0_g5_g6_48x_gpu_lora_dpo.yaml

nova_micro_1_0_p5_p4d_gpu_lora_dpo.yaml

 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-DPO-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-DPO-latest

ml.p5.48xlarge, ml.p5en.48xlarge, ml.p4d.24xlarge,

ml.g5.12xlarge, ml.g6.12xlarge,

ml.g5.48xlarge, ml.g6.48xlarge
Nova Micro Training/Fine-tuning Ottimizzazione diretta delle preferenze (completa) nova_micro_1_0_p5_p4d_gpu_dpo.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-DPO-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-DPO-latest ml.p5.48xlarge, ml.p5en.48xlarge, ml.p4d.24xlarge
Nova Micro Training/Reinforcement apprendimento Rinforzo Fine-Tuning (RFT) nova_micro_1_0_p5_gpu_ppo.yaml n/a 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SMHP-PPO-TRAIN-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova Micro Training/Continued Pre-Training Continua Pre-Training (modello base) nova_micro_gpu_p5x8_pretrain.yaml n/a 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:HP-CPT-latest ml.p5.48xlarge
Nova Micro Evaluation/Evaluate Benchmark testuale generale nova_micro_p5_48xl_general_text_benchmark_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Micro Evaluation/Evaluate Benchmark Bring Your Own Dataset (gen_qa) nova_micro_p5_48xl_bring_your_own_dataset_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Micro Evaluation/Evaluate LLM-as-a-judge nova_micro_p5_48xl_llm_judge_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge

Amazon Nova Pro

La tabella seguente elenca informazioni dettagliate sulle ricette di riferimento di Amazon Nova Pro.

Modello Category/Sub-category Tecnica Nome della ricetta URI dell'immagine (lavori di formazione) URI dell'immagine (SageMaker HyperPod) Istanza di calcolo
Nova Pro Training/Fine-tuning Supervisionato Fine-Tuning (LoRa) nova_pro_1_0_p5_p4d_gpu_lora_sft.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-latest ml.p5.48xlarge, ml.p5en.48xlarge, ml.p4d.24xlarge
Nova Pro Training/Fine-tuning Supervisionato Fine-Tuning (completo) nova_pro_1_0_p5_p4d_gpu_sft.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova Pro Training/Fine-tuning Ottimizzazione diretta delle preferenze (completa) nova_pro_1_0_p5_gpu_dpo.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-DPO-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-DPO-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova Pro Training/Fine-tuning Ottimizzazione diretta delle preferenze (LoRA) nova_pro_1_0_p5_p4d_gpu_lora_dpo.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-DPO-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-DPO-latest ml.p5.48xlarge, ml.p5en.48xlarge, ml.p4d.24xlarge
Nova Pro Training/Reinforcement apprendimento Rinforzo Fine-Tuning (RFT) nova_pro_1_0_p5_gpu_ppo.yaml n/a 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SMHP-PPO-TRAIN-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova Pro Training/Continued Pre-Training Continua Pre-Training (modello base) nova_pro_gpu_p5x24_pretrain.yaml n/a 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:HP-CPT-latest ml.p5.48xlarge
Nova Pro Training/Data aumento Distillazione di modelli per il post-addestramento nova_pro_r5_cpu_distill.yaml n/a 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-distillation-repo:SM-TJ-DISTILL-LATEST ml.r5.24xlarge
Nova Pro Evaluation/Evaluate Benchmark testuali standard nova_pro_p5_48xl_general_text_benchmark_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Pro Evaluation/Evaluate Valutazione dei set di dati personalizzati nova_pro_p5_48xl_bring_your_own_dataset_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Pro Evaluation/Evaluate Multi-modal parametri di riferimento nova_pro_p5_48xl_general_multi_modal_benchmark_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Pro Evaluation/Evaluate LLM-as-a-judge nova_pro_p5_48xl_llm_judge_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge