本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。

持續訓練前和中訓練

Nova Forge CPT 提供超越標準 CPT 的進階功能，包括存取中繼檢查點，以及與 Nova 訓練前 corpus 混合的資料。這些功能可更有效率地調整網域，並更好地保留模型的一般功能。

什麼是中繼檢查點？為什麼需要中繼檢查點？

中繼檢查點是在模型達到其最終生產就緒狀態之前，儲存在訓練前不同階段的 Amazon Nova 模型快照。在模型開發期間，Amazon Nova 會經歷多個訓練階段：具有持續學習率的初始預先訓練、學習率逐步下降、內容延伸訓練，以及最後的指示遵循一致性和安全性訓練。對於 CPT，中繼檢查點通常比最終產品檢查點更喜歡，因為它們更可整形且接受網域適應。Prod 檢查點經過廣泛的指示遵循一致性和安全性訓練，可最佳化模型以供一般對話使用，但可以在 CPT 期間防止學習新的領域特定模式。相反地，部分和完全預先訓練的純文字檢查點會保留模型的預先訓練特性。它們尚未嚴重轉向特定行為，使它們更有效率地開始適應網域。執行大規模 CPT (>10B 權杖） 時，從中繼檢查點開始，通常會產生更快的收斂、更好的訓練穩定性，以及更有效的領域知識取得。不過，對於小規模 CPT (<10B 權杖），或需要保留指示遵循功能時，Prod 檢查點可能更適合，因為它允許網域適應，同時維持模型的對話能力。

CPT 需要多個中繼檢查點，因為它們提供不同層級的模型可塑性，影響模型吸收新領域知識的效率。最終產品檢查點已經過廣泛的指示遵循一致性和安全性訓練，可將其最佳化以供一般對話使用，但可抵禦學習新的領域特定模式。換句話說，它已透過訓練後強化。相反地，較舊的檢查點會保留模型的預先訓練特性，並且尚未嚴重轉向特定行為，使它們更具可塑性且接受網域適應性。

為了獲得最佳訓練效率，提供了多個中繼檢查點。

有哪些檢查點可用？

新版本 2.0

有三個 Amazon Nova Lite 2.0 檢查點。

下表詳細說明訓練前和中訓練的不同條件。

要使用哪個檢查點？

部分預先訓練的純文字和完全預先訓練的純文字檢查點通常會收斂得更快，並且需要較少的訓練步驟才能進行網域調整。不過，他們沒有指令調校，需要經過訓練後步驟，才能執行有用的任務並遵循指示。GA 檢查點可能需要更多步驟來調整，但為小規模實驗提供更安全的起點，即使經過 CPT 訓練，也會在訓練功能後維持其中一部分。

一般而言，對於大型訓練資料集 (>10B 權杖），從僅部分預先訓練的文字或完全預先訓練的文字僅檢查點開始，以獲得更有效率且穩定的訓練，因為模型的知識庫將會大幅修改。對於小型資料集 (<10B 權杖），請使用 GA 檢查點來保留指示遵循功能，同時適應網域。

如何使用 Nova 2.0 的資料混合？

使用新的網域資料執行 CPT 時，將新資料與先前在模型的訓練前階段使用的一些資料混合使用會非常有益。將舊資料與新網域資料混合可解決兩個問題：

新 CPT 資料混合功能

存取 Amazon Nova 預先訓練資料和檢查點是 Amazon Nova CPT 自訂的核心產品之一。Amazon Nova CPT 自訂可讓您輕鬆混合網域資料與 Amazon Nova 的預先訓練 corpus。此外，可以變更特定 Amazon Nova 資料類別 （例如程式碼、數學、推理等） 的取樣率，以及其控制成補充網域資料的比例。這允許強化與使用案例一致的功能，同時將模型調整為特定網域。

尋找最佳混合比率

Amazon Nova 資料與網域資料的最佳比率取決於資料集的網域、複雜性、大小、品質，以及維護一般功能的重要性。必須透過實驗探索此比率。決定要混合多少 Amazon Nova 資料的實驗架構如下。

選取代表性的網域資料子集 （例如 5B 字符），並在所有實驗執行中保持此常數。

執行小規模 CPT 實驗只會改變混合於以下項目的 Amazon Nova 資料量：

在網域和一般網域基準中評估 上的每個檢查點。也請在任何訓練之前評估起始檢查點 (Amazon Nova 檢查點）。

找出最佳混合比率後，請使用具有所選混合比率的完整網域資料集來執行完整規模的 CPT。

解析資料混合類別

在下面，我們剖析資料混合中的每個可用類別，以便您最佳地決定哪些資料類別在整體資料混合中呈現最有意義。

如何啟用資料混合

使用跨資料集類別的適當百分比分佈，將 data_mixing區段新增至您的配方。nova_data 百分比的總和必須為 100。

Nova 2.0 組態與資料混合

# Note:
# This recipe can run on p5.48xlarge

# Run config
display_name: "Nova Lite Pretrain on P5 GPU"
versions: ["2.0"]
instance_types: ["ml.p5.48xlarge"]

run:
  name: "my-cpt-run"     # A descriptive name for your training job
  model_type: "amazon.nova-2-lite-v1:0:256k" # Model variant specification, do not change
  model_name_or_path: "nova-lite-2/prod" # Base model path, do not change
  replicas: 8       # Number of compute instances for training, allowed values are 4, 8, 16, 32
  data_s3_path: ""       # Customer data paths
  validation_data_s3_path: ""        # Customer validation data paths
  output_s3_path: ""   # Output artifact path, SageMaker HyperPod job-specific configuration - not compatible with standard SageMaker Training jobs

## Training specific configs
training_config:
  task_type: cpt
  max_length: 8192              # Maximum context window size (tokens)
  global_batch_size: 64        # Global batch size, allowed values are 32, 64, 128, 256.

  trainer:
    max_steps: 10               # The number of training steps to run total
    val_check_interval: 10      # The number of steps between running validation
    limit_val_batches: 2        # Batches of the validation set to use each trigger

  model:
    hidden_dropout: 0.0           # Dropout for hidden states, must be between 0.0 and 1.0
    attention_dropout: 0.0        # Dropout for attention weights, must be between 0.0 and 1.0

  optim:
    optimizer: adam
    lr: 1e-5                      # Learning rate
    name: distributed_fused_adam  # Optimizer algorithm, do not change
    adam_w_mode: true             # Enable AdamW mode
    eps: 1e-06                    # Epsilon for numerical stability
    weight_decay: 0.0             # L2 regularization strength, must be between 0.0 and 1.0
    adam_beta1: 0.9               # Beta1 for Adam optimizer
    adam_beta2: 0.95              # Beta2 for Adam optimizer
    sched:
      warmup_steps: 10            # Learning rate warmup steps
      constant_steps: 0           # Steps at constant learning rate
      min_lr: 1e-6                # Minimum learning rate, must be lower than lr

data_mixing:
  dataset_catalog: cpt_text_lite
  sources:
    nova_data:   # percent inputs for Nova data must sum to 100%; use 0% if you want to exclude a data grouping
      agents: 20
      business-and-finance: 4
      scientific: 10
      code: 5
      factual-and-news: 5
      longform-text: 6
      health-and-medicine: 1
      humanities-and-education: 1
      legal: 1
      math: 9
      additional-languages: 15
      social-and-personal-interest: 11
      entertainment: 0.5
      reasoning: 10
      other: 0.5
      tables: 1
    customer_data: # percent input of customer data. 100 = use only customer data, 0 = use only the nova_data mix above
      percent: 25

這些類別代表什麼意思

注意：Nova 2.0 包含無法在 Nova reasoning-code1.0 中使用的其他推理特定類別 （例如 reasoning-math、、reasoning-instruction-following)。

類別和資訊標籤摘要：

參數指南

訓練中使用的字符總數可從 max_length * global_batch_size * 計算 max_steps

從 Amazon S3 串流訓練資料以降低儲存成本

當您執行持續的預先訓練 (CPT) 任務時，Nova Forge 預設會從 FSx for Lustre 檔案系統讀取 Amazon 策劃的訓練資料。完整策劃的 corpus 很大，讓它駐留在 FSx 上會增加您的訓練儲存成本。

您可以選擇加入在訓練期間從 Amazon S3 串流精選訓練資料的替代資料配置。您的 FSx 檔案系統仍會用於您自己的資料集、檢查點和任務輸出，但策劃的訓練資料會隨需直接從 S3 讀取。這會從您的 FSx 儲存體使用量中移除精選資料集，並可大幅降低 CPT 任務的儲存成本，尤其是長時間執行的訓練執行。

策劃的資料、混合比率和資料集合成與預設目錄相同。只有來源位置會變更。

要求

在配方中啟用 S3-backed培訓資料

在 CPT 配方的 data_mixing區段中，dataset_catalog將 變更為 cpt_text_lite_s3。配方中的所有其他項目保持不變。

run:
  name: my-cpt-run
  model_type: amazon.nova-2-lite-v1:0:256k
  model_name_or_path: nova-lite-2/prod
  replicas: 4
  data_s3_path: s3://my-bucket/my-dataset
  output_s3_path: s3://my-bucket/my-output

training_config:
  task_type: cpt
  max_length: 8192
  global_batch_size: 32
  save_steps: 1000
  trainer:
    max_steps: 5000
  optim:
    lr: 1.0e-05

data_mixing:
  dataset_catalog: cpt_text_lite_s3   # stream curated data from S3
  sources:
    customer_data:
      percent: 25

使用與任何其他 CPT 配方相同的工作流程提交任務。Nova Forge 會在訓練設定期間處理 S3 資料串流，而您不需要額外的組態。

預期事項

限制

回到預設目錄

如果您想要隨時還原至預設的 FSx 常駐目錄，請在配方dataset_catalog: cpt_text_lite中設定 。不需要其他變更。

限制

目前的 CPT 僅支援文字資料，不支援任何客戶多模態資料集。