使用 ModelPackage類別部署專屬基礎模型 - Amazon SageMaker

本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。

使用 ModelPackage類別部署專屬基礎模型

訂閱 AWS Marketplace中的模型後,必須使用模型套件資訊部署專屬模型。如需 SageMaker 和 的詳細資訊 AWS Marketplace,請參閱中的買賣 Amazon SageMaker 演算法和模型 AWS Marketplace。若要尋找最新專屬模型 AWS Marketplace 的連結,請參閱 Amazon 入門 SageMaker JumpStart

在 中訂閱您選擇的模型後 AWS Marketplace,您可以使用 部署基礎模型 SageMaker Python SDK 和與模型提供者SDK相關聯的 。例如, AI21 Labs、Cohere 和 分別 LightOn 使用 "ai21[SM]"cohere-sagemakerlightonsage套件。

例如,若要使用來自 AI21 Labs 的 Jurassic-2 Jumbo Instruct 定義 JumpStart 模型,請使用下列程式碼:

import sagemaker import ai21 role = get_execution_role() sagemaker_session = sagemaker.Session() model_package_arn = "arn:aws:sagemaker:us-east-1:865070037744:model-package/j2-jumbo-instruct-v1-1-43-4e47c49e61743066b9d95efed6882f35" my_model = ModelPackage( role=role, model_package_arn=model_package_arn, sagemaker_session=sagemaker_session )

如需 step-by-step範例,請在 SageMaker Studio Classic 中尋找並執行與您選擇的專屬基礎模型相關聯的筆記本。如需更多資訊,請參閱在 Amazon SageMaker Studio Classic 中使用基礎模型。如需 的詳細資訊 SageMaker Python SDK,請參閱 ModelPackage