Use a custom model
カスタムされたモデルを使用する前に、プロビジョンドスループットを購入する必要があります。プロビジョンドスループットの詳細については、「Amazon Bedrock のプロビジョンドスループットでモデル呼び出し容量を増やす」を参照してください。その後、結果のプロビジョニングされたモデルを推論に使用できます。選択した方法に対応するタブを選択し、手順に従います。
- Console
-
カスタムモデルのプロビジョンドスループットを購入するには
-
Amazon Bedrock アクセス許可を持つ IAM ロールを使用して AWS Management Consoleにサインインし、Amazon Bedrock コンソール (https://console.aws.amazon.com/bedrock/
) を開きます。 -
左側のナビゲーションペインの [基盤モデル] で [カスタムモデル] を選択します。
-
[モデル] タブで、プロビジョンドスループットを購入するモデルの横にあるラジオボタンを選択するか、モデル名を選択して詳細ページに遷移します。
-
[プロビジョンドスループットを購入] を選択します。
-
詳細については、Amazon Bedrock モデルのプロビジョンドスループットを購入する の手順を実行します。
-
カスタムモデルにプロビジョンドスループットを購入後、Amazon Bedrock リソースでプロビジョンドスループットを使用する の手順を実行します。
この選択に応じてカスタムジョブにフィードするデータセットの形式が決まります。
-
- API
-
カスタムモデルにプロビジョンドスループットを購入するには、Amazon Bedrock モデルのプロビジョンドスループットを購入する の手順を実行して、Amazon Bedrock コントロールプレーンエンドポイントを使用して、CreateProvisionedModelThroughput リクエスト (リクエストとレスポンスの形式とフィールドの詳細についてはリンクを参照) を送信します。カスタムモデルの名前または ARN は
modelId
として使用します。レスポンスは、InvokeModel または InvokeModelWithResponseStream リクエストを行う際にmodelId
として使用できるprovisionedModelArn
を返します。