翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。
モデル呼び出しジョブを送信するときに選択または指定する S3 の場所にバッチ推論データを追加する必要があります。S3 の場所には、次の項目が含まれている必要があります。
-
モデル入力を定義する少なくとも 1 つの JSONL ファイル。JSONL には JSON オブジェクトの行が含まれています。JSONL ファイルは拡張子 .jsonl で終わり、次の形式である必要があります。
{ "recordId" : "
alphanumeric string
", "modelInput" :{JSON body}
} ...各行には、
recordId
フィールドを含む JSON オブジェクトと、送信する入力のリクエスト本文を含むmodelInput
フィールドが含まれます。modelInput
JSON オブジェクトの形式は、InvokeModel
リクエストで使用するモデルのbody
フィールドと一致する必要があります。詳細については、「Inference request parameters and response fields for foundation models」を参照してください。注記
-
recordId
フィールドを省略すると、Amazon Bedrock はそのフィールドを出力に追加します。 -
バッチ推論ジョブを作成するときに使用するモデルを指定します。
-
-
(Amazon S3 の場所として入力コンテンツを定義する場合) 一部のモデルでは、入力のコンテンツを S3 の場所として定義できます。このオプションを選択した場合は、指定する S3 の場所にコンテンツと JSONL ファイルの両方が含まれていることを確認します。コンテンツと JSONL ファイルは、指定した S3 の場所のフォルダにネストできます。例については、のビデオ入力の例 Amazon Novaを参照してください。
入力がバッチ推論クォータに準拠していることを確認します。Amazon Bedrock サービスクォータでは、次のクォータを検索できます。
-
バッチ推論ジョブあたりのレコードの最小数 – ジョブ内の JSONL ファイル全体のレコード (JSON オブジェクト) の最小数。
-
バッチ推論ジョブあたりの入力ファイルあたりのレコード – ジョブ内の 1 つの JSONL ファイル内のレコード (JSON オブジェクト) の最大数。
-
バッチ推論ジョブあたりのレコード – ジョブ内の JSONL ファイル全体のレコード (JSON オブジェクト) の最大数。
-
バッチ推論入力ファイルサイズ – ジョブ内の 1 つのファイルの最大サイズ。
-
バッチ推論ジョブサイズ – すべての入力ファイルの最大累積サイズ。
バッチ推論入力の設定方法の詳細については、次の例を参照してください。
のテキスト入力の例 AnthropicClaude 3 Haiku
Anthropic Claude 3 Haiku モデルの Messages API 形式を使用してバッチ推論を実行する場合は、次の JSON オブジェクトを含む JSONL ファイルを行の 1 つとして指定できます。
{
"recordId": "CALL0000001",
"modelInput": {
"anthropic_version": "bedrock-2023-05-31",
"max_tokens": 1024,
"messages": [
{
"role": "user",
"content": [
{
"type": "text",
"text": "Summarize the following call transcript: ..."
}
]
}
]
}
}
のビデオ入力の例 Amazon Nova
Amazon Nova Lite または Amazon Nova Proモデルを使用してビデオ入力でバッチ推論を実行する場合は、動画をバイト単位で定義するか、JSONL ファイル内の S3 の場所として定義するかを選択できます。たとえば、パスが でs3://batch-inference-input-bucket
、次のファイルが含まれている S3 バケットがあるとします。
videos/ video1.mp4 video2.mp4 ... video50.mp4 input.jsonl
input.jsonl
ファイルのサンプルレコードは次のとおりです。
{
"recordId": "RECORD01",
"modelInput": {
"messages": [
{
"role": "user",
"content": [
{
"text": "You are an expert in recipe videos. Describe this video in less than 200 words following these guidelines: ..."
},
{
"video": {
"format": "mp4",
"source": {
"s3Location": {
"uri": "s3://batch-inference-input-bucket/videos/video1.mp4
",
"bucketOwner": "111122223333
"
}
}
}
}
]
}
]
}
}
バッチ推論ジョブを作成するときに、S3 の場所s3://batch-inference-input-bucket
として を指定できます。バッチ推論は、JSONL input.jsonl
ファイルで参照されているvideos
フォルダ内のビデオファイルに加えて、 の場所にあるファイルを処理します。
次のリソースは、バッチ推論用のビデオ入力の送信に関する詳細情報を提供します。
-
入力リクエストで Amazon S3 URIs をプロアクティブに検証する方法については、Amazon S3 URL 解析ブログ
を参照してください。 -
Nova でビデオを理解するための呼び出しレコードを設定する方法の詳細については、Amazon Novaビジョンプロンプトガイドラインを参照してください。
次のトピックでは、ID がバッチ推論を実行できるように S3 アクセスとバッチ推論のアクセス許可を設定する方法について説明します。