Amazon Bedrock リソースでプロビジョンドスループットを使用する - Amazon Bedrock

翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。

Amazon Bedrock リソースでプロビジョンドスループットを使用する

プロビジョンドスループットを購入したら、次の機能を使用してスループットを向上させることができます。

  • モデル推論 – Amazon Bedrock コンソールのプレイグラウンドでプロビジョンドスループットをテストできます。プロビジョンドスループットをデプロイする準備ができたら、プロビジョニングされたモデルを呼び出すようにアプリケーションを設定します。選択した方法に対応するタブを選択し、ステップに従います。

    Console
    Amazon Bedrock コンソールのプレイグラウンドでプロビジョンドスループットを使用するには

    1. IAM Amazon Bedrock アクセス許可 を持つロール AWS Management Console を使用して にサインインし、 で Amazon Bedrock コンソールを開きますhttps://console.aws.amazon.com/bedrock/。

    2. 左側のナビゲーションペインで、ユースケースに応じて、プレイグラウンド のチャット 、テキスト 、またはイメージ を選択します。

    3. Select model を選択します。

    4. 1 で。カテゴリ列で、プロバイダーまたはカスタムモデルカテゴリを選択します。次に、 2 で。モデル列で、プロビジョンドスループットが関連付けられているモデルを選択します。

    5. 3 で。スループット列で、プロビジョンドスループットを選択します。

    6. [Apply] を選択します。

    Amazon Bedrock プレイグラウンドの使用方法については、「」を参照してくださいプレイグラウンドを使用してビジュアルインターフェイスでレスポンスを生成する。

    API

    プロビジョンドスループットを使用して推論を実行するには、Amazon Bedrock ランタイムエンドポイント を使用してInvokeModel、、InvokeModelWithResponseStream、変換、または ConverseStream リクエスト (リクエストとレスポンスの形式とフィールドの詳細については、リンクを参照) を送信します。プロビジョニングされたモデルを modelIdパラメータARNとして指定します。さまざまなモデルのリクエスト本文の要件を確認するには、「」を参照してください基盤モデルの推論リクエストパラメータとレスポンスフィールド。

    コード例を参照

  • プロビジョンドスループットをエージェントエイリアスに関連付ける – エージェントエイリアスを作成または更新するときにプロビジョンドスループットを関連付けることができます。Amazon Bedrock コンソールで、エイリアスを設定または編集するときにプロビジョンドスループットを選択します。Amazon Bedrock ではAPI、 CreateAgentAliasまたは UpdateAgentAlias; リクエストを送信するroutingConfigurationときに、 provisionedThroughputで を指定します。