独自の基盤モデルを ModelPackage クラスでデプロイする

独自モデルは、 AWS Marketplaceでモデルをサブスクライブした後に、モデルパッケージ情報を使用してデプロイする必要があります。SageMaker AI と の詳細については AWS Marketplace、「 で Amazon SageMaker AI アルゴリズムとモデルを購入および販売する AWS Marketplace」を参照してください。最新の独自モデル AWS Marketplace へのリンクについては、Amazon SageMaker JumpStart の開始方法」を参照してください。

で選択したモデルにサブスクライブした後 AWS Marketplace、SageMaker Python SDK とモデルプロバイダーに関連付けられた SDK を使用して基盤モデルをデプロイできます。例えば、AI21 Labs、Cohere、LightOn はそれぞれ、"ai21[SM]"、cohere-sagemaker、lightonsage のパッケージを使用しています。

例えば、AI21 Labs の Jurassic-2 Jumbo Instruct を使用して JumpStart モデルを定義するには、次のコードを使用します。

import sagemaker
import ai21

role = get_execution_role()
sagemaker_session = sagemaker.Session()
model_package_arn = "arn:aws:sagemaker:us-east-1:865070037744:model-package/j2-jumbo-instruct-v1-1-43-4e47c49e61743066b9d95efed6882f35"

my_model = ModelPackage(
    role=role, model_package_arn=model_package_arn, sagemaker_session=sagemaker_session
)

ステップバイステップの例については、選択した独自の基盤モデルに関連するノートブックを SageMaker Studio Classic で見つけて実行してください。詳細については、「Amazon SageMaker Studio Classic で基盤モデルを使用する」を参照してください。SageMaker Python SDK の詳細については、「ModelPackage」を参照してください。