独自の基盤モデルを ModelBuilder クラスでデプロイする

独自モデルは、 AWS Marketplaceでモデルをサブスクライブした後に、モデルパッケージ情報を使用してデプロイする必要があります。SageMaker AI と の詳細については AWS Marketplace、「 で Amazon SageMaker AI アルゴリズムとモデルを購入および販売する AWS Marketplace」を参照してください。最新の独自モデル AWS Marketplace へのリンクについては、Amazon SageMaker JumpStart の開始方法」を参照してください。

で選択したモデルにサブスクライブした後 AWS Marketplace、SageMaker Python SDK を使用して基盤モデルをデプロイできます。サブスクライブされたモデルパッケージを ARN で参照し、 でデプロイしますModelBuilder。

たとえば、次のコードは、AI21 Labs の Jurassic-2 Jumbo Instruct を使用して JumpStart モデルをデプロイします。

from sagemaker.core.resources import ModelPackage
from sagemaker.serve import ModelBuilder

model_package_arn = "arn:aws:sagemaker:us-east-1:865070037744:model-package/j2-jumbo-instruct-v1-1-43-4e47c49e61743066b9d95efed6882f35"

# Reference the subscribed Marketplace model package by its ARN.
model_package = ModelPackage.get(model_package_name=model_package_arn)

# Build and deploy with ModelBuilder. Marketplace packages do not carry
# JumpStart hosting configurations, so specify an instance_type explicitly
# (choose one from the package's supported real-time inference instance types).
model_builder = ModelBuilder(
    model=model_package,
    role_arn="arn:aws:iam::123456789012:role/SageMakerExecutionRole",
    instance_type="ml.g5.12xlarge",
)
model = model_builder.build()
endpoint = model_builder.deploy()

ステップバイステップの例については、選択した独自の基盤モデルに関連するノートブックを SageMaker Studio Classic で見つけて実行してください。詳細については「Amazon SageMaker Studio Classic で基盤モデルを使用する」を参照してください。SageMaker Python SDK の詳細については、「ドキュメントを読む」ウェブサイトの「SageMaker Python SDK ドキュメント」のModelBuilder」を参照してください。 SageMaker