モデルをデプロイする - Amazon Bedrock

翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。

モデルをデプロイする

モデルをサブスクライブしたら、SageMaker AI エンドポイントにデプロイします。エンドポイントに対して推論呼び出しを行います。モデルは SageMaker AI によってホストされます。デプロイプロセス中に、次の情報を指定します。

  • SageMaker AI エンドポイントの名前

  • エンドポイントへの推論呼び出しを行うインスタンスの数

  • エンドポイントのインスタンスタイプ

タグなどのオプションの詳細オプションを設定することもできます。

SageMaker AI サービスロールは、SageMaker AI がユーザーに代わってアクションを引き受けて実行するために自動的に作成されます。Amazon SageMaker AI アクセス許可の詳細については、SageMaker AI 実行ロールの使用方法」を参照してください。

または、既存のロールを選択するか、新しいロールを作成することもできます。Amazon Bedrock Marketplace モデルをデプロイする方法については、使用する方法に対応するタブを選択し、手順に従ってください。

モデルをデプロイするには

  1. Amazon Bedrock アクセス許可を持つ IAM ロール AWS Management Console を使用して にサインインします。

  2. 検索バーで「Amazon Bedrock」を指定し、ドロップダウンリストから Amazon Bedrock を選択します。

  3. ナビゲーションペインから、モデルカタログを選択します。

  4. デプロイするモデルのモデルカードを選択します。

  5. [デプロイ] を選択します。

  6. エンドポイント名には、エンドポイントの名前を指定します。

  7. インスタンスの数を選択し、インスタンスタイプを選択します。

  8. 詳細設定では、オプションで次のことができます。

    1. VPC のセットアップ

    2. サービスアクセスロールを設定する

    3. 暗号化設定をカスタマイズする

    4. タグを追加する

  9. デプロイを選択して、Amazon Bedrock Marketplace モデルを SageMaker AI エンドポイントにデプロイします。このプロセスには通常 10～15 分かかります。

CreateMarketplaceModelEndpoint オペレーションを使用してエンドポイントを作成します。一部のモデルには、エンドユーザーライセンス契約 (EULA) があります。EULA に同意するには、 AcceptEulaを に設定しますTrue。

次の例では、 AWS Command Line Interface コマンド例を使用してエンドポイントを作成します。

aws bedrock create-marketplace-model-endpoint --model-source-identifier HubContentArn --endpoint-config "{\"sageMaker\":{\"initialInstanceCount\":1,\"instanceType\":\"ml.g5.xlarge\",\"executionRole\":\"arn:aws:iam::111122223333:role/example-IAM-role\"}}" --endpoint-name "example-endpoint-name"
注記

CreateMarketplaceModelEndpoint、、UpdateMarketplaceModelEndpointおよび RegisterMarketplaceModelEndpointオペレーションのレスポンスは同じです。

{"marketplaceModelEndpoint":{"createdAt":"2024-11-12T02:31:58.201474085Z","endpoint":{"sageMaker":{"executionRole":"arn:aws:iam::111122223333:role/service-role/amazon-sagemaker-execution-role","initialInstanceCount":1,"instanceType":"ml.g5.2xlarge","kmsEncryptionKey":null,"vpc":null}},"endpointArn":"arn:aws:sagemaker:region:555555555555:endpoint/example-endpoint-name","endpointStatus":"Creating","endpointStatusMessage":"","modelSourceIdentifier":"arn:aws:sagemaker:region:aws:hub-content/SageMakerPublicHub/Model/example-model-name/1.2.2","status":"ACTIVE","statusMessage":"","updatedAt":"2024-11-12T02:31:58.201474085Z"}}

Amazon Bedrock Marketplace と Amazon SageMaker AI の両方でエンドポイントを変更できます。Amazon Bedrock 内でのみエンドポイントを変更することをお勧めします。SageMaker AI 内でエンドポイントを変更すると、Amazon Bedrock 内でエンドポイントを使用できない場合があります。以下は、Amazon Bedrock 内でエンドポイントが失敗する原因となる変更です。

エンドポイントを動作させるには、エンドポイントを登録して稼働させる必要があります。次の AWS Command Line Interface コマンドを使用して、エンドポイントのステータスを確認できます。


aws bedrock get-marketplace-model-endpoint --endpoint-arn arn:aws:sagemaker:region:111122223333:endpoint/example-endpoint-name

Amazon Bedrock で使用するエンドポイントのステータスは次のとおりです。


endpointStatus: InService
status: REGISTERED

エンドポイントが失敗する原因となった変更を加えた場合は、エンドポイントの登録を解除して再登録できます。DeregisterEndpoint オペレーションを使用して、エンドポイントの登録を解除します。RegisterEndpoint オペレーションを使用して再登録します。


aws bedrock deregister-marketplace-model-endpoint --endpoint-arn arn:aws:sagemaker:region:111122223333:endpoint/example-endpoint-name
    

aws bedrock register-marketplace-model-endpoint --endpoint-identifier arn:aws:sagemaker:region:111122223333:endpoint/example-endpoint-name --model-source-identifier
         HubContentArn