本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。
Amazon Nova 配方
您可以從 SageMaker HyperPod 配方
您也可以透過 SageMaker AI Monarch 和 JumpStart 存取 Amazon Nova 配方,方法是導覽至 SageMaker JumpStart 模型中樞 AWS、選取和瀏覽 Amazon Nova 模型以尋找其相關聯的配方。SageMaker AI Monarch 和 JumpStart 都為每個配方提供範例筆記本,其中包括修改配方並使用 SageMaker 訓練任務或 SageMaker HyperPod 環境執行自訂任務的所有必要步驟。
若要存取 Amazon SageMaker Studio 中的配方頁面,執行角色必須具有下列許可。
若要在 SageMaker 訓練任務和 SageMaker HyperPod 上執行範例筆記本,請使用下列其中一個 SageMaker Distribution 映像版本:2.7.1+、2.8.0+、3.2.1+、3.3.0+。這同時適用於 SageMaker AI Monarch 和 JumpStart。
取得 Amazon Nova 配方
若要取得基本 Amazon Nova 配方,請執行下列命令複製 SageMaker HyperPod 配方
git clone https://github.com/aws/sagemaker-hyperpod-recipes.git
基本配方可在 recipes_collection/recipes/
cd recipes_collection/recipes/
Amazon Nova 自訂配方位於下列資料夾中。
| 配方類型 | 資料夾 |
|---|---|
| SFT (全排名和 PEFT) | fine-tuning/nova |
| 評估 | evaluation/nova |
| CPT | training/nova |
取得 Amazon Nova Forge 配方
若要存取 SageMaker HyperPod 任務專用的 Amazon Nova Forge 配方,請設定您對 Amazon Nova Forge 的存取權,然後遵循本研討會
可用的模型和演算法
下表摘要說明 Amazon Nova 2.0 模型的自訂可用性,以及使用 SageMaker 支援的演算法。如需 Amazon Nova 1.0 模型自訂,請參閱 Amazon Nova 1.0 配方。
模型名稱 |
模型 ID |
微調 |
備註 |
|---|---|---|---|
Amazon Nova Lite 2.0 |
amazon.nova-2-lite-v1:0:256k |
是 |
|
Amazon Nova 2.0 Lite
下表列出 Amazon Nova 2.0 Lite 配方參考的詳細資訊。水平捲動以檢視完整資料表,包括映像 URIs和運算執行個體類型。
| 模型 | 類別/子類別 | 技術 | 配方名稱 | 映像 URI (訓練任務) | 映像 URI (SageMaker HyperPod) | 運算執行個體 |
|---|---|---|---|---|---|---|
| Nova 2.0 Lite | 培訓 | 持續訓練前 | nova_lite_2_0_p5x8_gpu_pretrain.yaml |
N/A | 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-CPT-V2-latest |
ml.p5.48xlarge, ml.p5en.48xlarge |
| Nova 2.0 Lite | 參數高效率微調 | 微調 | nova_lite_2_0_p5_gpu_lora_sft.yaml |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-V2-latest |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-V2-latest |
ml.p5.48xlarge, ml.p5en.48xlarge |
| Nova 2.0 Lite | 全執行微調 | 微調 | nova_lite_2_0_p5_gpu_sft.yaml |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-V2-latest |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-V2-latest |
ml.p5.48xlarge, ml.p5en.48xlarge |
| Nova 2.0 Lite | 參數效率 RFT | 微調 | nova_lite_v2_smtj_p5_p5en_gpu_lora_rft.yaml |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-RFT-V2-latest |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-RFT-TRAIN-V2-latest |
ml.p5.48xlarge, ml.p5en.48xlarge |
| Nova 2.0 Lite | 完整排名 RFT | 微調 | nova_lite_v2_smtj_p5en_gpu_rft.yaml |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-RFT-V2-latest |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-RFT-TRAIN-V2-latest |
ml.p5.48xlarge, ml.p5en.48xlarge |
| Nova 2.0 Lite | 使用您自己的資料 | 評估 | nova_lite_2_0_p5_48xl_gpu_bring_your_own_dataset_eval.yaml |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-V2-latest |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-V2-latest |
ml.p5.48xlarge, ml.p5en.48xlarge |
| Nova 2.0 Lite | 一般文字基準 | 評估 | nova_lite_2_0_p5_48xl_gpu_general_text_benchmark_eval.yaml |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-V2-latest |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-V2-latest |
ml.p5.48xlarge, ml.p5en.48xlarge |
| Nova 2.0 Lite | RFT 評估 | 評估 | nova_lite_2_0_p5_48xl_gpu_rft_eval.yaml |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-V2-latest |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-V2-latest |
ml.p5.48xlarge, ml.p5en.48xlarge |
| Nova 2.0 Lite | 以 LLM Rubric 為基礎的判斷 | 評估 | nova_lite_2_0_p5_48xl_gpu_rubric_llm_judge_eval.yaml |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-V2-latest |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-V2-latest |
ml.p5.48xlarge, ml.p5en.48xlarge |