与ModelPackage课堂一起部署专有的基础模型

在 AWS Marketplace中订阅模型后，必须使用模型软件包信息部署专有模型。有关 SageMaker 和的更多信息 AWS Marketplace，请参阅中的买入和出售 Amazon SageMaker 算法和模型 AWS Marketplace。要查找最新专有机型的 AWS Marketplace 链接，请参阅 Amazon 入门 SageMaker JumpStart。

在中订阅您选择的模型后 AWS Marketplace，您可以使用部署基础模型 SageMaker Python SDK以及与模型提供者SDK相关的。例如，AI21Labs、Cohere 和 Cohere 分别 LightOn 使用"ai21[SM]"cohere-sagemaker、和lightonsage软件包。

例如，要使用AI21实验室中的 Jurassic-2 Jumbo Instruct 定义 JumpStart 模型，请使用以下代码：

import sagemaker
import ai21

role = get_execution_role()
sagemaker_session = sagemaker.Session()
model_package_arn = "arn:aws:sagemaker:us-east-1:865070037744:model-package/j2-jumbo-instruct-v1-1-43-4e47c49e61743066b9d95efed6882f35"

my_model = ModelPackage(
    role=role, model_package_arn=model_package_arn, sagemaker_session=sagemaker_session
)

step-by-step例如，在 SageMaker Studio Classic 中查找并运行与您选择的专有基础型号相关的笔记本电脑。请参阅在 Amazon SageMaker Studio 经典版中使用基础模型了解更多信息。有关以下内容的更多信息 SageMaker Python SDK，请参阅ModelPackage。