View a markdown version of this page

bedrock-mantle エンドポイントの Responses API - Amazon Bedrock

翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。

bedrock-mantle エンドポイントの Responses API

Amazon Bedrock は、 エンドポイントbedrock-runtimebedrock-mantleエンドポイントの両方で OpenAI Responses API を提供します。API を使用すると、使い慣れた OpenAI SDK とツールを Amazon Bedrock モデルで使用できるため、既存のアプリケーションを最小限のコード変更で移行できます。基本 URL と API キーを更新するだけです。 SDKs 新しいアプリケーションの場合は、 bedrock-runtimeエンドポイントをお勧めします。

2 つのエンドポイントは同じ機能をサポートしていません。のリクエストbedrock-runtimeは常に同期的で、サーバー側のツールは使用できず、デフォルトのプロジェクトのみがサポートされます。完全な比較については「」を参照しAmazon Bedrock でサポートされているエンドポイント、各違いの詳細については「」を参照してくださいbedrock-runtime エンドポイントでの Responses API の使用

重要

Amazon Bedrock で OpenAI SDK を使用する場合は、エンドポイントではなく Amazon Bedrock OpenAIエンドポイントを指す必要があります。次の環境変数を設定し、必要なエンドポイントのベース URL を選択します。

# bedrock-runtime (recommended) OPENAI_BASE_URL="https://bedrock-runtime.<your-region>.amazonaws.com/openai/v1" # bedrock-mantle OPENAI_BASE_URL="https://bedrock-mantle.<your-region>.api.aws/v1" OPENAI_API_KEY="<your Bedrock API key>"

OpenAI API キーまたはOpenAIベース URL () を使用しないでくださいhttps://api.openai.com/v1。これらは Amazon Bedrock ではなく OpenAIに直接接続します。Amazon Bedrock API キーを作成するには、「」を参照してくださいAPI キー

主な利点は次のとおりです:

  • 非同期推論 — Responses API を使用した長時間実行される推論ワークロードのサポート。bedrock-mantle でのみ使用できます。

  • ステートフル会話管理 – 各リクエストで会話履歴を手動で渡すことなく、コンテキストを自動的に再構築します。

  • ツールの使用の簡素化 – エージェントワークフローの統合の合理化

  • 柔軟なレスポンスモード – ストリーミングレスポンスと非ストリーミングレスポンスの両方のサポート

  • 簡単な移行 – 既存の OpenAI SDK コードベースと互換性があります

各エンドポイントは、独自のクォータのセットによって管理されます。でのレスポンストラフィックについてはbedrock-runtime、モデルの tokens-per-minute数と tokens-per-day APIs 「」を参照してくださいbedrock-runtime エンドポイントのクォータbedrock-mantle の場合は、「bedrock-mantle エンドポイントのクォータ」を参照してください。

サポートされているリージョンとエンドポイント

bedrock-runtime エンドポイントでは、 AWS GovCloud (米国) リージョンなど、そのエンドポイントが利用可能なすべての AWS リージョン で Responses API を使用できます。リストについては、「エンドポイント別のリージョンの可用性」を参照してください。各エンドポイントで API をサポートするモデルについては、「」を参照してくださいモデル別のエンドポイントの可用性

bedrock-mantle エンドポイントは、次の AWS リージョンで使用できます。

リージョン名 リージョン エンドポイント
米国東部 (オハイオ) us-east-2 bedrock-mantle.us-east-2.api.aws
米国東部 (バージニア北部) us-east-1 bedrock-mantle.us-east-1.api.aws
米国西部 (オレゴン) us-west-2 bedrock-mantle.us-west-2.api.aws
アジアパシフィック (ジャカルタ) ap-southeast-3 bedrock-mantle.ap-southeast-3.api.aws
アジアパシフィック (ムンバイ) ap-south-1 bedrock-mantle.ap-south-1.api.aws
アジアパシフィック (シドニー) ap-southeast-2 bedrock-mantle.ap-southeast-2.api.aws
アジアパシフィック (東京) ap-northeast-1 bedrock-mantle.ap-northeast-1.api.aws
欧州 (フランクフルト) eu-central-1 bedrock-mantle.eu-central-1.api.aws
欧州 (アイルランド) eu-west-1 bedrock-mantle.eu-west-1.api.aws
欧州 (ロンドン) eu-west-2 bedrock-mantle.eu-west-2.api.aws
欧州 (ミラノ) eu-south-1 bedrock-mantle.eu-south-1.api.aws
欧州 (ストックホルム) eu-north-1 bedrock-mantle.eu-north-1.api.aws
南米 (サンパウロ) sa-east-1 bedrock-mantle.sa-east-1.api.aws
AWS GovCloud (米国西部) us-gov-west-1 bedrock-mantle.us-gov-west-1.api.aws

前提条件

OpenAI APIsを使用する前に、以下があることを確認してください。

  • 認証 – 以下を使用して認証できます。

    • Amazon Bedrock API キー ( OpenAI SDK に必要)

    • AWS 認証情報 (HTTP リクエストでサポート)

  • OpenAI SDK (オプション) – SDK OpenAI ベースのリクエストを使用している場合は、Python SDK をインストールします。

  • 環境変数 – 次の環境変数を設定します。

    • OPENAI_API_KEY – Amazon Bedrock API キーに設定する

    • OPENAI_BASE_URL – リージョンの Amazon Bedrock エンドポイント (例: https://bedrock-runtime.us-east-1.amazonaws.com/openai/v1または https://bedrock-mantle.us-east-1.api.aws/v1) に設定します。

  • アクセス許可 – 必要なアクションはエンドポイントによって異なります。ではbedrock-mantle、推論は を承認しますbedrock-mantle:CreateInference。ではbedrock-runtime、推論ターゲットとアカウントのデフォルトプロジェクトbedrock:InvokeModelの両方で を承認し、ストアドレスポンスを管理すると、そのプロジェクトbedrock:DeleteInvokebedrock:GetInvokebedrock:CancelInvoke、 を承認します。IAM ポリシーの例については、「モデル推論を実行するための前提条件」を参照してください。

モデル API

Models API を使用すると、Mantle を搭載した Amazon Bedrock で利用可能なモデルを検出できます。この API を使用して、 Responses API で使用できるモデルのリストを取得します。API の詳細については、OpenAI「 Models ドキュメント」を参照してください。

使用可能なモデルを一覧表示する

使用可能なモデルを一覧表示するには、任意の方法のタブを選択し、ステップに従います。

OpenAI SDK (Python)
# List all available models using the OpenAI SDK # Requires OPENAI_API_KEY and OPENAI_BASE_URL environment variables from openai import OpenAI client = OpenAI() models = client.models.list() for model in models.data: print(model.id)
HTTP request

に GET リクエストを行います/v1/models

# List all available models # Requires OPENAI_API_KEY and OPENAI_BASE_URL environment variables curl -X GET $OPENAI_BASE_URL/models \ -H "Authorization: Bearer $OPENAI_API_KEY"

レスポンス API

Responses API は、ストリーミング、バックグラウンド処理、マルチターンインタラクションをサポートするステートフルな会話管理を提供します。API の詳細については、OpenAIレスポンスドキュメントを参照してください。

注記

すべてのモデルが Responses API をサポートしているわけではありません。Responses API をサポートするモデルを確認するには、「」を参照してくださいモデルによる API の互換性

Responses API が会話状態を保存する方法

Responses API は、保存状態を使用してマルチターン会話を有効にし、 previous_response_idパラメータで以前のターンを参照できます。ストレージはデフォルトで有効になっていますが、 storeパラメータを使用してリクエストごとに無効にできます。ストアドレスポンスはプロジェクトによってスコープされます。1 つのプロジェクトからのレスポンスを前のレスポンスとして使用したり、2 番目のプロジェクトで読み取ったりすることはできません。プロジェクトの詳細については、「」を参照してくださいプロジェクト (OpenAI 互換)

  • storetrue (デフォルト) の場合、Amazon Bedrock は入力と出力を含むレスポンスを 30 日間保持します。このウィンドウでは、 GET /v1/responses/{id}の または で応答を渡previous_response_idして取得することでbedrock-mantle、フォローアップリクエストGET /openai/v1/responses/{id}を連鎖できますbedrock-runtime。30 日後、レスポンスは自動的に削除され、取得できなくなります。

  • store が の場合false、Amazon Bedrock はリクエストまたはレスポンスのデータを保持しません。previous_response_id パラメータを使用して会話を続行することはできません。

デフォルト値は true OpenAIResponses API 仕様と一致します。Amazon Bedrock が会話データを保持することを望まないお客様は、すべてのリクエストfalseで明示的に store を に設定するか、アカウントのデータ保持モードを に設定する必要があります。これによりnone、明示的にstore=true完全に拒否されます。詳細については、「データ保持」を参照してください。

保存されたデータは保管時に暗号化され、呼び出し元の AWS アカウントのプロジェクトリソースに限定されます。データはリクエストを処理するためにのみ保存され、他の目的で使用または保持されることはありません。ではbedrock-mantle、 AWS リージョン リクエストの送信先として保持されます。ではbedrock-runtimeクロスリージョン推論を使用するリクエストを別の で処理でき AWS リージョン、レスポンスはそれを処理した リージョンに保存されます。そのため、グローバル推論プロファイルを使用するリクエストは、ルーティング先の任意の商用リージョンにデータを保存できます。データレジデンシー要件がある場合は、グローバルプロファイルではなく、地理的推論プロファイルを使用してください。

基本リクエスト

レスポンスを作成するには、任意の方法のタブを選択し、ステップに従います。

OpenAI SDK (Python)
# Create a basic response using the OpenAI SDK # Requires OPENAI_API_KEY and OPENAI_BASE_URL environment variables from openai import OpenAI client = OpenAI() response = client.responses.create( model="openai.gpt-oss-120b", input=[ {"role": "user", "content": "Hello! How can you help me today?"} ] ) print(response)
HTTP request

に POST リクエストを行います/v1/responses

# Create a basic response # Requires OPENAI_API_KEY and OPENAI_BASE_URL environment variables curl -X POST $OPENAI_BASE_URL/responses \ -H "Content-Type: application/json" \ -H "Authorization: Bearer $OPENAI_API_KEY" \ -d '{ "model": "openai.gpt-oss-120b", "input": [ {"role": "user", "content": "Hello! How can you help me today?"} ] }'

ストリームレスポンス

レスポンスイベントを段階的に受信するには、任意の方法のタブを選択し、ステップに従います。

OpenAI SDK (Python)
# Stream response events incrementally using the OpenAI SDK # Requires OPENAI_API_KEY and OPENAI_BASE_URL environment variables from openai import OpenAI client = OpenAI() stream = client.responses.create( model="openai.gpt-oss-120b", input=[{"role": "user", "content": "Tell me a story"}], stream=True ) for event in stream: print(event)
HTTP request

streamに設定/v1/responsesして、 に POST リクエストを行いますtrue

# Stream response events incrementally # Requires OPENAI_API_KEY and OPENAI_BASE_URL environment variables curl -X POST $OPENAI_BASE_URL/responses \ -H "Content-Type: application/json" \ -H "Authorization: Bearer $OPENAI_API_KEY" \ -d '{ "model": "openai.gpt-oss-120b", "input": [ {"role": "user", "content": "Tell me a story"} ], "stream": true }'

bedrock-runtime エンドポイントでの Responses API の使用

の Responses API bedrock-runtimeは、 と同じリクエストとレスポンスの形式を使用するためbedrock-mantle、OpenAISDK はどちらの形式でも動作します。変更点は、ベース URL、モデル IDs、アクセス許可、このセクションで説明する少数の動作です。

ベース URL とパス

基本 URL を に設定しますhttps://bedrock-runtime.region.amazonaws.com/openai/v1。API は次のパスで提供されます。

  • POST /openai/v1/responses – レスポンスを作成します。

  • GET /openai/v1/responses/{id} – 保存されたレスポンスを取得します。

  • POST /openai/v1/responses/{id}/cancel – まだ進行中のレスポンスをキャンセルします。

  • DELETE /openai/v1/responses/{id} – 保存されたレスポンスを削除します。

モデル IDs

クロスリージョン推論プロファイルには、基盤モデル ID ではなくモデルとして名前を付けます。OpenAI GPT モデルは、商用リージョンの us.および global. プロファイルと、 AWS GovCloud (米国) リージョンの us-gov.プロファイルを使用します。たとえば、 ですus.openai.gpt-5.6-sol。リージョン内推論は、このエンドポイントのこれらのモデルでは使用できません。各モデルのプロファイル ID については、 のモデルカードモデルの概要を参照してください。ルーティングの仕組みについては、「」を参照してくださいクロスリージョン推論 AWS リージョン を使用してモデル推論リクエストを 全体にルーティングする

アクセス許可

レスポンスを作成すると、推論リクエストと同様に、推論ターゲット上の bedrock:InvokeModel (または bedrock:InvokeModelWithResponseStream) と、アカウントのデフォルトプロジェクトbedrock:InvokeModel上の 2 つのリソースが認可されます。ストアドレスポンスの取得、キャンセル、削除はそれぞれbedrock:GetInvoke、プロジェクトbedrock:DeleteInvoke上の bedrock:CancelInvoke、、および を承認します。個々のレスポンス IDsは IAM リソースではありません。

2 つの条件キーにより、いずれかのリソースのポリシーが他方を制限できます。推論ターゲット認可は を保持しbedrock:ProjectArn、プロジェクト認可はbedrock:ModelArn、リクエストの名前が付けられた推論プロファイルまたは基盤モデルで評価される を保持します。クロスリージョンプロファイルがルーティングする送信先モデルはありません。IAM ポリシーの例については、「モデル推論を実行するための前提条件」を参照してください。

動作の違い

  • リクエストは常に同期されます。 background=trueは 400 エラーで拒否されます。store パラメータは影響を受けず、デフォルトの のままになるためtrue、保存されているマルチターン会話は正常に機能します。

  • model は、 を提供するリクエストを含め、すべてのリクエストで必要ですprevious_response_id。これは Responses API OpenAI 仕様や とは異なりbedrock-mantle、モデルを省略して前のレスポンスから継承できます。モデルはリクエストが承認される対象の一部であるため、リクエスト自体に名前を付ける必要があります。

  • ウェブ検索など、サーバー側のツールの使用や事前設定されたツールは利用できません。クライアント側のツールの使用は、両方のエンドポイントで機能します。

  • デフォルトのプロジェクトのみがサポートされています。OpenAI-Project ヘッダーは、独自のデフォルトプロジェクト ARN defaultとしてのみ受け入れられ、その他の値は拒否されます。「プロジェクト (OpenAI 互換)」を参照してください。

  • アプリケーション推論プロファイルはサポートされていません。1 つを推論ターゲットとして指定するリクエストは、400 エラーで拒否されます。システム、地理的、グローバル推論プロファイルは正常に機能します。

  • ガードレールは Responses API には適用されません。このエンドポイントの GPT モデルにガードレールを適用するには、代わりに Converse API を呼び出します。

  • 保存されたレスポンスは、それ AWS リージョン に対応した に属します。それを取得、キャンセル、または削除し、 との会話を続行するとprevious_response_id、すべてそのリージョンによって処理されます。見つからないレスポンス ID は、存在しなかったり、別のアカウントに属したり、保存されなかったりするため、すべてのケースで同じ 404 エラーを返します。

モニタリングとコスト

すべてのリクエストは同期であるため、CloudWatch メトリクスとモデル呼び出しログ記録は、ストリーミングリクエストを含め、このエンドポイントの他の推論 API と同じように Responses APIs で機能します。使用量は、Converse および InvokeModel の場合とまったく同じように、推論ターゲットに帰属します。デフォルトのプロジェクトは請求アンカーではありません。「Amazon Bedrock の使用状況とコストを追跡する」を参照してください。