Cookie の設定を選択する

当社は、当社のサイトおよびサービスを提供するために必要な必須 Cookie および類似のツールを使用しています。当社は、パフォーマンス Cookie を使用して匿名の統計情報を収集することで、お客様が当社のサイトをどのように利用しているかを把握し、改善に役立てています。必須 Cookie は無効化できませんが、[カスタマイズ] または [拒否] をクリックしてパフォーマンス Cookie を拒否することはできます。

お客様が同意した場合、AWS および承認された第三者は、Cookie を使用して便利なサイト機能を提供したり、お客様の選択を記憶したり、関連する広告を含む関連コンテンツを表示したりします。すべての必須ではない Cookie を受け入れるか拒否するには、[受け入れる] または [拒否] をクリックしてください。より詳細な選択を行うには、[カスタマイズ] をクリックしてください。

プロビジョンドスループットのコード例

フォーカスモード
プロビジョンドスループットのコード例 - Amazon Bedrock

翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。

翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。

次のコード例は、 と Python SDK を使用してプロビジョンドスループットを作成する方法と、プロビジョンドスループットを管理 AWS CLI および呼び出す方法を示しています。プロビジョニングされたスループットは、基盤モデルまたは既にカスタマイズしたモデルから作成できます。開始する前に、次の前提条件を実行します。

前提条件

次の例では、Amazon Nova Liteモデル ID が であるモデルを使用しますamazon.nova-lite-v1:0:24k。まだアクセスしていない場合は、「」の手順に従って へのアクセスをリクエストAmazon Nova LiteしますAdd or remove access to Amazon Bedrock foundation models

別の基盤モデルまたはカスタムモデルのプロビジョンドスループットを購入する場合は、以下を実行する必要があります。

  1. 次のいずれかを実行して、モデルの ID (基盤モデルの場合)、名前 (カスタムモデルの場合)、または ARN (いずれかの場合) を見つけます。

    • 基盤モデルのプロビジョンドスループットを購入する場合は、次のいずれかの方法でプロビジョニングをサポートするモデルの ID または Amazon リソースネーム (ARN) を見つけます。

    • カスタムモデルのプロビジョンドスループットを購入する場合は、次のいずれかの方法でカスタマイズしたモデルの名前または Amazon リソースネーム (ARN) を見つけます。

      • Amazon Bedrock コンソールで、左側のナビゲーションペインからカスタムモデルを選択します。カスタマイズされたモデルの名前をモデルリストで検索するか、モデルを選択してモデルの詳細でモデル ARN を見つけます。

      • ListCustomModels リクエストを送信し、レスポンスでカスタムモデルの modelNameまたは modelArn値を見つけます。

  2. 以下の例bodyInvokeModel リクエストの を変更して、モデルの本文の形式に合わせて、 で見つけますInference request parameters and response fields for foundation models

任意の方法のタブを選択し、ステップに従います。

AWS CLI
  1. ターミナルで次のコマンドを実行して、CreateProvisionedModelThroughput リクエストを送信し、MyPT という非コミットプロビジョンドスループットを作成します。

    aws bedrock create-provisioned-model-throughput \ --model-units 1 \ --provisioned-model-name MyPT \ --model-id amazon.nova-lite-v1:0:24k
  2. レスポンスは provisioned-model-arn を返します。作成が完了するまでしばらく待ちます。ステータスを確認するには、次のコマンドを実行して、GetProvisionedModelThroughput リクエストを送信しprovisioned-model-id、プロビジョニングされたモデルの名前または ARN を として指定します。

    aws bedrock get-provisioned-model-throughput \ --provisioned-model-id ${provisioned-model-arn}
  3. InvokeModel リクエストを送信して、プロビジョニングされたモデルで推論を実行します。CreateProvisionedModelThroughput レスポンスで返されたプロビジョニング済みモデルの ARN を として指定しますmodel-id。出力は、現在のフォルダの output.txt という名前のファイルに書き込まれます。

    aws bedrock-runtime invoke-model \ --model-id ${provisioned-model-arn} \ --body '{ "messages": [{ "role": "user", "content": [{ "text": "Hello" }] }], "inferenceConfig": { "temperature":0.7 } }' \ --cli-binary-format raw-in-base64-out \ output.txt
  4. 次のコマンドを使用して DeleteProvisionedModelThroughput リクエストを送信し、プロビジョンドスループットを削除します。プロビジョンドスループットの料金は発生しなくなります。

    aws bedrock delete-provisioned-model-throughput --provisioned-model-id MyPT
Python (Boto)

次のコードスニペットでは、プロビジョンドスループットを作成してその情報を取得し、プロビジョンドスループットを呼び出す方法について説明します。

  1. MyPT というノーコミットプロビジョンドスループットを作成し、プロビジョンドスループットの ARN を provisioned_model_arn という変数に割り当てるには、次の CreateProvisionedModelThroughput リクエストを送信します。

    import boto3 provisioned_model_name = 'MyPT' bedrock = boto3.client(service_name='bedrock') response = bedrock.create_provisioned_model_throughput( modelUnits=1, provisionedModelName=provisioned_model_name, modelId='amazon.nova-lite-v1:0:24k' ) provisioned_model_arn = response['provisionedModelArn']
  2. 作成が完了するまでしばらく待ちます。次のコードスニペットを使用して、ステータスを確認します。CreateProvisionedModelThroughput レスポンスから返されるプロビジョンドスループットの名前または ARN を provisionedModelId として指定できます。

    bedrock.get_provisioned_model_throughput(provisionedModelId=provisioned_model_name)
  3. 次のコマンドを使用し、プロビジョニングされたモデルの ARN を として使用して、更新されたプロビジョニングされたモデルで推論を実行しますmodelId

    import json import logging import boto3 from botocore.exceptions import ClientError class ImageError(Exception): "Custom exception for errors returned by the model" def __init__(self, message): self.message = message logger = logging.getLogger(__name__) logging.basicConfig(level=logging.INFO) def generate_text(model_id, body): """ Generate text using your provisioned custom model. Args: model_id (str): The model ID to use. body (str) : The request body to use. Returns: response (json): The response from the model. """ logger.info( "Generating text with your provisioned custom model %s", model_id) brt = boto3.client(service_name='bedrock-runtime') accept = "application/json" content_type = "application/json" response = brt.invoke_model( body=body, modelId=model_id, accept=accept, contentType=content_type ) response_body = json.loads(response.get("body").read()) finish_reason = response_body.get("error") if finish_reason is not None: raise ImageError(f"Text generation error. Error is {finish_reason}") logger.info( "Successfully generated text with provisioned custom model %s", model_id) return response_body def main(): """ Entrypoint for example. """ try: logging.basicConfig(level=logging.INFO, format="%(levelname)s: %(message)s") model_id = provisioned-model-arn body = json.dumps({ "inputText": "what is AWS?" }) response_body = generate_text(model_id, body) print(f"Input token count: {response_body['inputTextTokenCount']}") for result in response_body['results']: print(f"Token count: {result['tokenCount']}") print(f"Output text: {result['outputText']}") print(f"Completion reason: {result['completionReason']}") except ClientError as err: message = err.response["Error"]["Message"] logger.error("A client error occurred: %s", message) print("A client error occured: " + format(message)) except ImageError as err: logger.error(err.message) print(err.message) else: print( f"Finished generating text with your provisioned custom model {model_id}.") if __name__ == "__main__": main()
  4. 次のコードスニペットを使用して、プロビジョンドスループットを削除します。プロビジョンドスループットの料金は発生しなくなります。

    bedrock.delete_provisioned_model_throughput(provisionedModelId=provisioned_model_name)
  1. ターミナルで次のコマンドを実行して、CreateProvisionedModelThroughput リクエストを送信し、MyPT という非コミットプロビジョンドスループットを作成します。

    aws bedrock create-provisioned-model-throughput \ --model-units 1 \ --provisioned-model-name MyPT \ --model-id amazon.nova-lite-v1:0:24k
  2. レスポンスは provisioned-model-arn を返します。作成が完了するまでしばらく待ちます。ステータスを確認するには、次のコマンドを実行して、GetProvisionedModelThroughput リクエストを送信しprovisioned-model-id、プロビジョニングされたモデルの名前または ARN を として指定します。

    aws bedrock get-provisioned-model-throughput \ --provisioned-model-id ${provisioned-model-arn}
  3. InvokeModel リクエストを送信して、プロビジョニングされたモデルで推論を実行します。CreateProvisionedModelThroughput レスポンスで返されたプロビジョニング済みモデルの ARN を として指定しますmodel-id。出力は、現在のフォルダの output.txt という名前のファイルに書き込まれます。

    aws bedrock-runtime invoke-model \ --model-id ${provisioned-model-arn} \ --body '{ "messages": [{ "role": "user", "content": [{ "text": "Hello" }] }], "inferenceConfig": { "temperature":0.7 } }' \ --cli-binary-format raw-in-base64-out \ output.txt
  4. 次のコマンドを使用して DeleteProvisionedModelThroughput リクエストを送信し、プロビジョンドスループットを削除します。プロビジョンドスループットの料金は発生しなくなります。

    aws bedrock delete-provisioned-model-throughput --provisioned-model-id MyPT
プライバシーサイト規約Cookie の設定
© 2025, Amazon Web Services, Inc. or its affiliates.All rights reserved.