View a markdown version of this page

Amazon Nova 配方 - Amazon Nova

本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。

Amazon Nova 配方

您可以從 SageMaker HyperPod 配方儲存庫取得 Amazon Nova 配方。Amazon Nova 配方是 YAML 組態檔案,可提供有關如何執行模型自訂任務的詳細資訊給 SageMaker。它提供基本模型名稱、設定訓練超參數、定義最佳化設定,並包含成功微調或訓練模型所需的任何其他選項。

您也可以透過 SageMaker AI Monarch 和 JumpStart 存取 Amazon Nova 配方,方法是導覽至 SageMaker JumpStart 模型中樞 AWS、選取和瀏覽 Amazon Nova 模型以尋找其相關聯的配方。SageMaker AI Monarch 和 JumpStart 都為每個配方提供範例筆記本,其中包括修改配方並使用 SageMaker 訓練任務或 SageMaker HyperPod 環境執行自訂任務的所有必要步驟。

若要存取 Amazon SageMaker Studio 中的配方頁面,執行角色必須具有下列許可。

JSON
{ "Version":"2012-10-17", "Statement": [ { "Effect": "Allow", "Action": [ "s3:GetObject" ], "Resource": [ "arn:aws:s3:::*model-customization-recipes*" ] } ] }

若要在 SageMaker 訓練任務和 SageMaker HyperPod 上執行範例筆記本,請使用下列其中一個 SageMaker Distribution 映像版本:2.7.1+2.8.0+3.2.1+3.3.0+。這同時適用於 SageMaker AI Monarch 和 JumpStart。

取得 Amazon Nova 配方

若要取得基本 Amazon Nova 配方,請執行下列命令複製 SageMaker HyperPod 配方儲存庫。

git clone https://github.com/aws/sagemaker-hyperpod-recipes.git

基本配方可在 recipes_collection/recipes/ 取得。

cd recipes_collection/recipes/

Amazon Nova 自訂配方位於下列資料夾中。

配方類型 資料夾
SFT (全排名和 PEFT) fine-tuning/nova
評估 evaluation/nova
CPT training/nova

取得 Amazon Nova Forge 配方

若要存取 SageMaker HyperPod 任務專用的 Amazon Nova Forge 配方,請設定您對 Amazon Nova Forge 的存取權,然後遵循本研討會來設定 SageMaker HyperPod CLI 的 Forge 版本。對於 SageMaker 訓練任務, AWS 主控台和 SageMaker Python SDK 會自動存取 Forge 配方。

可用的模型和演算法

下表摘要說明 Amazon Nova 2.0 模型的自訂可用性,以及使用 SageMaker 支援的演算法。如需 Amazon Nova 1.0 模型自訂,請參閱 Amazon Nova 1.0 配方。

模型名稱

模型 ID

微調

備註

Amazon Nova Lite 2.0

amazon.nova-2-lite-v1:0:256k

  • SFT - 接受文字和/或影像或文字和/或影片做為輸入,並產生文字做為輸出。單一任務無法在同一個執行中結合文字、影像和影片。

  • RFT - 接受文字作為單轉對話的輸入,並產生文字作為輸出。

  • CPT - 接受文字做為輸入。

Amazon Nova 2.0 Lite

下表列出 Amazon Nova 2.0 Lite 配方參考的詳細資訊。水平捲動以檢視完整資料表,包括映像 URIs和運算執行個體類型。

模型 類別/子類別 技術 配方名稱 映像 URI (訓練任務) 映像 URI (SageMaker HyperPod) 運算執行個體
Nova 2.0 Lite 培訓 持續訓練前 nova_lite_2_0_p5x8_gpu_pretrain.yaml N/A 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-CPT-V2-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova 2.0 Lite 參數高效率微調 微調 nova_lite_2_0_p5_gpu_lora_sft.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-V2-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-V2-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova 2.0 Lite 全執行微調 微調 nova_lite_2_0_p5_gpu_sft.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-V2-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-V2-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova 2.0 Lite 參數效率 RFT 微調 nova_lite_v2_smtj_p5_p5en_gpu_lora_rft.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-RFT-V2-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-RFT-TRAIN-V2-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova 2.0 Lite 完整排名 RFT 微調 nova_lite_v2_smtj_p5en_gpu_rft.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-RFT-V2-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-RFT-TRAIN-V2-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova 2.0 Lite 使用您自己的資料 評估 nova_lite_2_0_p5_48xl_gpu_bring_your_own_dataset_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-V2-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-V2-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova 2.0 Lite 一般文字基準 評估 nova_lite_2_0_p5_48xl_gpu_general_text_benchmark_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-V2-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-V2-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova 2.0 Lite RFT 評估 評估 nova_lite_2_0_p5_48xl_gpu_rft_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-V2-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-V2-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova 2.0 Lite 以 LLM Rubric 為基礎的判斷 評估 nova_lite_2_0_p5_48xl_gpu_rubric_llm_judge_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-V2-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-V2-latest ml.p5.48xlarge, ml.p5en.48xlarge