View a markdown version of this page

Formules Amazon Nova - Amazon Nova

Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.

Formules Amazon Nova

Vous pouvez obtenir une recette Amazon Nova depuis le référentiel de SageMaker HyperPod recettes. Une recette Amazon Nova est un fichier de configuration YAML qui fournit des informations détaillées SageMaker sur la manière d'exécuter votre tâche de personnalisation de modèle. Il fournit le nom du modèle de base, définit les hyperparamètres d’entraînement, définit les paramètres d’optimisation et inclut toutes les options supplémentaires nécessaires pour optimiser ou entraîner le modèle avec succès.

Vous pouvez également accéder aux recettes Amazon Nova via Amazon SageMaker Studio et JumpStart en accédant au hub de SageMaker JumpStart modèles AWS, en sélectionnant et en parcourant les modèles Amazon Nova pour trouver les recettes associées. Amazon SageMaker Studio et Amazon JumpStart fournissent des exemples de blocs-notes pour chaque recette, qui incluent toutes les étapes nécessaires pour modifier les recettes et exécuter des tâches de personnalisation à l'aide de tâches de SageMaker formation ou d' SageMaker HyperPod environnements.

Pour accéder aux pages de recettes dans Amazon SageMaker Studio, le rôle d'exécution doit disposer des autorisations suivantes.

JSON
{ "Version":"2012-10-17", "Statement": [ { "Effect": "Allow", "Action": [ "s3:GetObject" ], "Resource": [ "arn:aws:s3:::*model-customization-recipes*" ] } ] }

Pour exécuter les exemples de blocs-notes sur les tâches de SageMaker formation SageMaker HyperPod, utilisez l'une des versions d'image de SageMaker distribution suivantes :2.7.1+,, 2.8.0+3.2.1+,3.3.0+. Cela s'applique à la fois à Amazon SageMaker Studio et à JumpStart.

Obtention de formules Amazon Nova

Pour obtenir une recette Amazon Nova de base, clonez le référentiel de SageMaker HyperPod recettes en exécutant la commande suivante.

git clone https://github.com/aws/sagemaker-hyperpod-recipes.git

Les formules de base sont disponibles sur recipes_collection/recipes/.

cd recipes_collection/recipes/

Les formules de personnalisation d’Amazon Nova se trouvent dans les dossiers suivants.

Type de formule Dossier
SFT (Full-rank et PEFT), PPO, DPO (Full-rank et PEFT) très bien- tuning/nova
Évaluation evaluation/nova
CPT training/nova

Obtenir des recettes Amazon Nova Forge

Pour accéder à des recettes Amazon Nova Forge spécialisées pour les SageMaker HyperPod tâches, configurez votre accès à Amazon Nova Forge, puis suivez cet atelier pour configurer la version Forge de l' SageMaker HyperPod interface de ligne de commande. Pour les tâches de SageMaker formation, la AWS console et le SDK SageMaker Python accèdent automatiquement aux recettes Forge.

Modèles et algorithmes disponibles

Le tableau suivant récapitule la disponibilité de la personnalisation pour les modèles Amazon Nova et les algorithmes pris en charge utilisant SageMaker.

Nom du modèle

ID du modèle

Fine-tuning

Remarques

Amazon Nova Lite 2.0

amazon.nova-2-lite-v 1:0:256 k

Oui

  • SFT - Accepte une and/or image textuelle ou une and/or vidéo textuelle en entrée et produit du texte en sortie. Une même tâche ne peut pas combiner du texte, une image et une vidéo au cours d’une même exécution.

  • DPO - Accepte le texte et l’image en entrée et produit du texte en sortie.

  • RFT - Accepte le texte et l'image en entrée pour les conversations à tour unique et produit du texte en sortie. Capacités d'optimisation des récompenses améliorées.

Amazon Nova Lite

Le tableau ci-dessous répertorie les informations détaillées relatives à la référence des recettes Amazon Nova Lite.

Modèle Category/Sub-category Technique Nom de la recette URI de l'image (Emplois de formation) URI de l'image (SageMaker HyperPod) Instance de calcul
Nova Lite Training/Fine-tuning Supervisé Fine-Tuning (LoRa)

nova_lite_1_0_g5_g6_12x_gpu_lora_sft.yaml

nova_lite_1_0_g5_g6_48x_gpu_lora_sft.yaml

nova_lite_1_0_p5_p4d_gpu_lora_sft.yaml

708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-latest

ml.p5.48xlarge, ml.p5en.48xlarge,

ml.g5.12xlarge, ml.g6.12xlarge,

ml.g5.48xlarge, ml.g6.48xlarge

Nova Lite Training/Fine-tuning Supervisé Fine-Tuning (complet) nova_lite_1_0_p5_p4d_gpu_sft.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova Lite Training/Fine-tuning Optimisation directe des préférences (complète) nova_lite_1_0_p5_p4d_gpu_dpo.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-DPO-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-DPO-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova Lite Training/Fine-tuning Optimisation directe des préférences (LoRA)

nova_lite_1_0_p5_p4d_gpu_lora_dpo.yaml

nova_lite_1_0_g5_g6_48x_gpu_lora_dpo.yaml

708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-DPO-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-DPO-latest

ml.p5.48xlarge, ml.p5en.48xlarge,

ml.g5.48xlarge, ml.g6.48xlarge

Nova Lite Training/Reinforcement apprentissage Renforcement Fine-Tuning (RFT) nova_lite_1_0_p5_gpu_ppo.yaml n/a 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SMHP-PPO-TRAIN-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova Lite Training/Continued Pre-Training Suite Pre-Training (modèle de base) nova_lite_gpu_p5x16_pretrain.yaml n/a 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:HP-CPT-latest ml.p5.48xlarge
Nova Lite Evaluation/Evaluate Points de référence de texte standard nova_lite_p5_48xl_general_text_benchmark_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Lite Evaluation/Evaluate Évaluation de jeu de données personnalisé nova_lite_p5_48xl_bring_your_own_dataset_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Lite Evaluation/Evaluate Multi-modal points de repère nova_lite_p5_48_general_multi_modal_benchmark_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Lite Evaluation/Evaluate LLM-juge nova_lite_p5_48xl_llm_judge_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge

Amazon Nova Micro

Le tableau ci-dessous répertorie les informations détaillées relatives à la référence des recettes Amazon Nova Micro.

Modèle Category/Sub-category Technique Nom de la recette URI de l'image (Emplois de formation) URI de l'image (SageMaker HyperPod) Instance de calcul
Nova Micro Training/Fine-tuning Supervisé Fine-Tuning (LoRa)

nova_micro_1_0_p5_p4d_gpu_lora_sft.yaml

nova_micro_1_0_g5_g6_12x_gpu_lora_sft.yaml

nova_micro_1_0_g5_g6_48x_gpu_lora_sft.yaml

708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-latest

ml.p5.48xlarge, ml.p5en.48xlarge, ml.p4d.24xlarge,

ml.g5.12xlarge, ml.g6.12xlarge,

ml.g5.48xlarge, ml.g6.48xlarge

Nova Micro Training/Fine-tuning Supervisé Fine-Tuning (complet)

nova_micro_1_0_p5_p4d_gpu_sft.yaml

nova_micro_1_0_g5_g6_48x_gpu_sft.yaml

708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-latest

ml.p5.48xlarge, ml.p5en.48xlarge, ml.p4d.24xlarge,

ml.g5.48xlarge, ml.g6.48xlarge

Nova Micro Training/Fine-tuning Optimisation directe des préférences (LoRA)

nova_micro_1_0_g5_g6_12x_gpu_lora_dpo.yaml

nova_micro_1_0_g5_g6_48x_gpu_lora_dpo.yaml

nova_micro_1_0_p5_p4d_gpu_lora_dpo.yaml

708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-DPO-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-DPO-latest

ml.p5.48xlarge, ml.p5en.48xlarge, ml.p4d.24xlarge,

ml.g5.12xlarge, ml.g6.12xlarge,

ml.g5.48xlarge, ml.g6.48xlarge

Nova Micro Training/Fine-tuning Optimisation directe des préférences (complète) nova_micro_1_0_p5_p4d_gpu_dpo.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-DPO-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-DPO-latest ml.p5.48xlarge, ml.p5en.48xlarge, ml.p4d.24xlarge
Nova Micro Training/Reinforcement apprentissage Renforcement Fine-Tuning (RFT) nova_micro_1_0_p5_gpu_ppo.yaml n/a 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SMHP-PPO-TRAIN-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova Micro Training/Continued Pre-Training Suite Pre-Training (modèle de base) nova_micro_gpu_p5x8_pretrain.yaml n/a 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:HP-CPT-latest ml.p5.48xlarge
Nova Micro Evaluation/Evaluate Point de référence de texte général nova_micro_p5_48xl_general_text_benchmark_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Micro Evaluation/Evaluate Apportez votre propre point de référence de jeu de données (gen_qa) nova_micro_p5_48xl_bring_your_own_dataset_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Micro Evaluation/Evaluate LLM-juge nova_micro_p5_48xl_llm_judge_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge

Amazon Nova Pro

Le tableau ci-dessous répertorie les informations détaillées relatives à la référence des recettes Amazon Nova Pro.

Modèle Category/Sub-category Technique Nom de la recette URI de l'image (Emplois de formation) URI de l'image (SageMaker HyperPod) Instance de calcul
Nova Pro Training/Fine-tuning Supervisé Fine-Tuning (LoRa) nova_pro_1_0_p5_p4d_gpu_lora_sft.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-latest ml.p5.48xlarge, ml.p5en.48xlarge, ml.p4d.24xlarge
Nova Pro Training/Fine-tuning Supervisé Fine-Tuning (complet) nova_pro_1_0_p5_p4d_gpu_sft.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova Pro Training/Fine-tuning Optimisation directe des préférences (complète) nova_pro_1_0_p5_gpu_dpo.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-DPO-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-DPO-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova Pro Training/Fine-tuning Optimisation directe des préférences (LoRA) nova_pro_1_0_p5_p4d_gpu_lora_dpo.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-DPO-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-DPO-latest ml.p5.48xlarge, ml.p5en.48xlarge, ml.p4d.24xlarge
Nova Pro Training/Reinforcement apprentissage Renforcement Fine-Tuning (RFT) nova_pro_1_0_p5_gpu_ppo.yaml n/a 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SMHP-PPO-TRAIN-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova Pro Training/Continued Pre-Training Suite Pre-Training (modèle de base) nova_pro_gpu_p5x24_pretrain.yaml n/a 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:HP-CPT-latest ml.p5.48xlarge
Nova Pro Training/Data augmentation Distillation de modèles pour post-entraînement nova_pro_r5_cpu_distill.yaml n/a 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-distillation-repo:SM-TJ-DISTILL-LATEST ml.r5.24xlarge
Nova Pro Evaluation/Evaluate Points de référence de texte standard nova_pro_p5_48xl_general_text_benchmark_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Pro Evaluation/Evaluate Évaluation de jeu de données personnalisé nova_pro_p5_48xl_bring_your_own_dataset_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Pro Evaluation/Evaluate Multi-modal points de repère nova_pro_p5_48xl_general_multi_modal_benchmark_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Pro Evaluation/Evaluate LLM-juge nova_pro_p5_48xl_llm_judge_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge