Use a custom model - Amazon Bedrock

Use a custom model

カスタムされたモデルを使用する前に、プロビジョンドスループットを購入する必要があります。プロビジョンドスループットの詳細については、「Amazon Bedrock のプロビジョンドスループットでモデル呼び出し容量を増やす」を参照してください。その後、結果のプロビジョニングされたモデルを推論に使用できます。選択した方法に対応するタブを選択し、手順に従います。

Console
カスタムモデルのプロビジョンドスループットを購入するには
  1. Amazon Bedrock アクセス許可を持つ IAM ロールを使用して AWS Management Consoleにサインインし、Amazon Bedrock コンソール (https://console.aws.amazon.com/bedrock/) を開きます。

  2. 左側のナビゲーションペインの [基盤モデル][カスタムモデル] を選択します。

  3. [モデル] タブで、プロビジョンドスループットを購入するモデルの横にあるラジオボタンを選択するか、モデル名を選択して詳細ページに遷移します。

  4. [プロビジョンドスループットを購入] を選択します。

  5. 詳細については、Amazon Bedrock モデルのプロビジョンドスループットを購入する の手順を実行します。

  6. カスタムモデルにプロビジョンドスループットを購入後、Amazon Bedrock リソースでプロビジョンドスループットを使用する の手順を実行します。

この選択に応じてカスタムジョブにフィードするデータセットの形式が決まります。

API

カスタムモデルにプロビジョンドスループットを購入するには、Amazon Bedrock モデルのプロビジョンドスループットを購入する の手順を実行して、Amazon Bedrock コントロールプレーンエンドポイントを使用して、CreateProvisionedModelThroughput リクエスト (リクエストとレスポンスの形式とフィールドの詳細についてはリンクを参照) を送信します。カスタムモデルの名前または ARN はmodelId として使用します。レスポンスは、InvokeModel または InvokeModelWithResponseStream リクエストを行う際に modelId として使用できる provisionedModelArn を返します。

コード例を見る