本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。
在 SageMaker AI 上自訂 Amazon Nova 模型
您可以透過配方自訂 Amazon Nova 模型,包括增強型 Amazon Nova 2.0 模型,並在 SageMaker 上進行訓練。這些配方支援監督式微調 (SFT) 和強化微調 (RFT) 等技術,同時具有全階和低階調整 (LoRA) 選項。
端對端自訂工作流程涉及模型訓練、模型評估和部署等階段以進行推論。SageMaker 上的此模型自訂方法提供更大的彈性和控制,以微調其支援的 Amazon Nova 模型、精確地最佳化超參數,並實作諸如 LoRA 參數效率微調 (PEFT)、全排名 SFT、RFT 和持續預先訓練 (CPT) 等技術。
自訂方法
SageMaker 提供兩種自訂 Amazon Nova 模型的方法:
UI 型體驗 – 透過簡單的引導式界面,使用 自訂 Amazon Nova 模型。此方法提供end-to-end工作流程,包括訓練、評估和部署,無需撰寫程式碼。UI 型體驗非常適合快速實驗、proof-of-concept開發,以及偏好視覺化工作流程的使用者。
程式碼型體驗 – 使用 SageMaker Python SDK、Nova SDK 和訓練配方,以程式設計方式自訂模型。此方法提供更高的彈性,可讓您設定進階超參數、與 CI/CD 管道整合,以及自動化訓練工作流程。對於生產工作負載、複雜的自訂需求,以及具有既定 MLOps 實務的團隊,建議使用程式碼型體驗。
| 方法 | 最適合 | 主要優點 |
|---|---|---|
| 以 UI 為基礎的 | 實驗、原型設計、快速反覆運算 | 簡單設定、引導式工作流程、不需要編碼 |
| 程式碼型 | 生產、自動化、進階組態 | 完全彈性、管道整合、版本控制 |
自訂平台
AWS 提供三種平台來自訂 Amazon Nova 模型,每個都針對不同的使用案例和需求而設計:
Amazon Bedrock – 以最少的設定提供最簡單且最快的模型自訂路徑。Bedrock 會自動處理所有基礎設施管理,讓您專注於資料和使用案例。當您需要最快time-to-value,並偏好全受管體驗時,此平台是理想的選擇。
SageMaker 訓練任務 – 提供全受管環境,可讓您自訂不需要建立或維護任何叢集的 Amazon Nova 模型。服務會自動處理所有基礎設施佈建、擴展和資源管理,讓您專注於設定訓練參數和提交任務。此平台在易用性和靈活性之間取得平衡,支援參數效率微調 (PEFT)、完整排名微調和強化微調 (RFT) 等技術。
SageMaker HyperPod – 要求您建立和管理具有受限執行個體群組 (RIGs) 的 EKS 叢集,為大規模分散式訓練提供專業環境。此平台可讓您在使用特殊 GPU 執行個體和整合式 Amazon FSx for Lustre 儲存體設定訓練環境時獲得最大的彈性,使其特別適合進階分散式訓練案例、持續模型開發和企業規模的自訂工作負載。
| 平台 | 複雜性 | 彈性 | 最適合 |
|---|---|---|---|
| Amazon Bedrock | 最低 | 標準 | 最快的自訂、最少的設定 |
| SageMaker 訓練任務 | 中 | 高 | 平衡彈性和易用性 |
| SageMaker HyperPod | 最高 | 上限 | 大型分散式訓練、企業工作負載 |
注意
如果您提供 KMS 金鑰給 Amazon Nova 模型自訂訓練任務,以便在 Amazon 擁有的輸出 S3 儲存貯體中進行加密:
-
呼叫後續反覆訓練任務時,或利用加密模型呼叫 Amazon Bedrock CreateCustomModel API 時,您必須提供相同的 KMS 金鑰。
-
呼叫
CreateTrainingJobAPI 的身分 (而非執行角色) 必須具有CreateGrant、Encrypt、 和 的許可RetireGrant,GenerateDataKey如 KMS 金鑰政策所定義。