プロビジョンドスループットを使用する - Amazon Bedrock

翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。

プロビジョンドスループットを使用する

プロビジョンドスループットを購入したら、次の機能でプロビジョンドスループットを使用してスループットを向上させることができます。

  • モデル推論 — Amazon Bedrock コンソールのプレイグラウンドでプロビジョンドスループットをテストできます。プロビジョンドスループットをデプロイする準備ができたら、プロビジョニングされたモデルを呼び出すようにアプリケーションを設定します。選択した方法に対応するタブを選択し、ステップに従います。

    Console
    Amazon Bedrock コンソールのプレイグラウンドでプロビジョンドスループットを使用するには

    1. Amazon Bedrock のアクセス許可を持つ IAM ロール AWS Management Console を使用して にサインインし、https://console.aws.amazon.com/bedrock/ で Amazon Bedrock コンソールを開きます。 Amazon Bedrock の開始方法

    2. 左側のナビゲーションペインから、ユースケースに応じて、プレイグラウンド の下にあるチャット 、テキスト 、または画像 を選択します。

    3. モデルを選択 を選択します。

    4. 1 で。カテゴリ列で、プロバイダーまたはカスタムモデルカテゴリを選択します。次に、 2 で 。モデル列で、プロビジョンドスループットが関連付けられているモデルを選択します。

    5. 3 で。スループット列で、プロビジョンドスループットを選択します。

    6. [適用] を選択します。

    Amazon Bedrock プレイグラウンドの使用方法については、「」を参照してくださいプレイグラウンドを使用してビジュアルインターフェイスでレスポンスを生成する。

    API

    プロビジョンドスループットを使用して推論を実行するには、Amazon Bedrock ランタイムエンドポイント を使用して InvokeModelまたは InvokeModelWithResponseStreamリクエスト (リクエストとレスポンスの形式とフィールドの詳細のリンクを参照) を送信します。 https://docs.aws.amazon.com/general/latest/gr/bedrock.html#br-rtmodelId パラメータとして、プロビジョンドモデルの ARN を指定します。さまざまなモデルのリクエストボディの要件を確認するには、「」を参照してください基盤モデルの推論パラメータ。

    コード例を参照

  • プロビジョンドスループットをエージェントエイリアスに関連付ける – エージェントエイリアスを作成または更新するときに、プロビジョンドスループットを関連付けることができます。Amazon Bedrock コンソールで、エイリアスの設定時または編集時にプロビジョンドスループットを選択します。Amazon Bedrock API では、 CreateAgentAlias または UpdateAgentAlias; リクエストを送信するprovisionedThroughputroutingConfigurationときに、 で を指定します。