翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。
Amazon Bedrock でサポートされているエンドポイント
Amazon Bedrock は、推論オペレーションを実行するためのさまざまなエンドポイントをサポートしています。
推論オペレーション
Amazon Bedrock は、推論をプログラムで実行するために、次の 2 つの主要なエンドポイントをサポートしています。
| Endpoint | サポートされている APIs | 説明 |
|---|---|---|
bedrock-mantle.{region}.api.aws |
Responses API / Chat Completions API / Messages API | OpenAI 互換エンドポイントと Anthropic Messages API を使用して Amazon Bedrock でホストされているモデルの推論リクエストを行うためのリージョン固有のエンドポイント。 |
bedrock-runtime.{region}.amazonaws.com |
InvokeModel / Converse / Chat Completions / Messages API | InvokeModel/Converse/Chat Completions/Messages API を使用して Amazon Bedrock でホストされているモデルの推論リクエストを行うためのリージョン固有のエンドポイント。 APIs Amazon Bedrock ランタイム APIsこちらをご覧ください。 |
新しいアプリケーションの場合は、 bedrock-mantleエンドポイントをお勧めします。OpenAI 互換 APIs (応答とチャットの完了) と Anthropic Messages API をサポートし、組み込みツールの使用とステートフルな会話管理が含まれており、基本 URL と API キーのみを変更することで、既存の OpenAI SDK コードベースを Amazon Bedrock に持ち込むことができます。Bedrock ネイティブの InvokeModel または Converse APIs を使用している場合、または目的のモデルが でまだ利用できない場合、bedrock-runtimeエンドポイントは完全にサポートされたままであり、適切な選択ですbedrock-mantle。各モデルがサポートするエンドポイントを確認するには、「」を参照してくださいモデル別のエンドポイントの可用性。
次の表は、各エンドポイントで使用できるものを比較したものです。
| API | bedrock-runtime |
bedrock-mantle |
|---|---|---|
| InvokeModel |  |
 |
| Converse/ConverseStream | |
|
| チャットの完了 (OpenAI 互換) | |
|
| Responses API (OpenAI 互換) | |
|
| Messages API (Anthropic-native) | |
|
注記
Messages API は両方のエンドポイントで使用できますが、2 つの表面は同じ機能をサポートしていません。特に、構造化出力 ( output_config.formatパラメータ) は ではサポートされていませんbedrock-mantle。 を含むリクエストoutput_config.formatは 400 エラーで拒否されます。Anthropic Claude モデルで構造化出力を使用するには、 で Converse または InvokeModel APIsますbedrock-runtime。
| 機能 | bedrock-runtime |
bedrock-mantle |
|---|---|---|
| クロスリージョン推論 (地理的プロファイルとグローバルプロファイル) | |
|
| ステートフルな会話管理 | |
|
| 非同期 (長時間実行) 推論 | |
|
| クライアント側のツールの使用 | |
|
| サーバー側のツールの使用 | |
|
| 事前設定されたready-to-useツール | |
|
| プロジェクト | |
|
| WorkSpaces | |
|
| Item | bedrock-runtime |
bedrock-mantle |
|---|---|---|
| AWS SigV4 認証 | |
|
| Bedrock API キー (OpenAI SDK でも動作) | |
|
| 使用状況属性 | IAM、リクエストごとのメタデータタグ付け | プロジェクト、ワークスペース |
| 機能 | bedrock-runtime |
bedrock-mantle |
|---|---|---|
| ガードレール | |
|
| プロンプトキャッシュ | |
|
| インテリジェントなプロンプトルーティング | |
|
注記
のプロンプトキャッシュのサポートbedrock-mantleは、特定のモデルによって異なります。モデルの概要詳細については、「」の各モデルカードを参照してください。
スループットとクォータのアプローチ
各エンドポイントは、スループットを管理するために異なるアプローチを使用します。
-
bedrock-runtime– 従来の多くのマルチテナントサービスでは、このアーキテクチャは、共有リソースへの公平な共有アクセスを管理するためにアカウントごとのクォータを中心に設計されています。これは、 で使用されるアプローチですbedrock-runtime。各モデルには、引き上げをリクエストできる固定スループットクォータ (RPM と TPM) があります。詳細については、「bedrock-runtime エンドポイントのクォータ」を参照してください。 -
bedrock-mantle– このエンドポイントは、より高い初期スループット制限をサポートしながら公平な配分を実現する高度なスケジューリングとワークキューイングメカニズムで設計されています。また、この設計によりbedrock-mantle、 はさまざまなモデルをホストし、モデルカタログ全体で利用できる幅広い機能を提供できます。ほとんどの場合、リクエストはすぐに処理されます。場合によっては、処理中のワークロードが完了し、スループットが利用可能になったときに、リクエストが一時的にキューに入れられることがあります。詳細については、「bedrock-mantle エンドポイントのクォータ」および「スケーリングとスループットのベストプラクティス」を参照してください。
料金
同じモデルのトークンごとの料金は、 bedrock-runtimeと で同じですbedrock-mantle。コストではなく、必要な APIsと機能に基づいてエンドポイントを選択します。現在の料金については、「Amazon Bedrock の料金
各エンドポイントを選択するタイミング
以下を行うbedrock-mantleときは、 から始めます。
Responses API、Chat Completions API、または Messages API をステートフルなマルチターン会話で使用します。
基本 URL と API キーのみを変更して、既存の OpenAI SDK コードを Amazon Bedrock に持ち込みます。
非同期または長時間実行される推論ワークロードを実行します。
サーバー側のツールまたは事前設定されたツールを使用してエージェントワークフローを構築します。
プロジェクト (OpenAI 互換) または WorkSpaces (Anthropic 互換)を使用してワークロードを分離し、コストと使用状況をアプリケーションレベルで追跡します。
次のbedrock-runtime場合に使用します。
Bedrock ネイティブの InvokeModel API または Converse APIs引き続き使用します。
でまだ利用できないモデルを使用します
bedrock-mantle。「モデル別のエンドポイントの可用性」を参照してください。
両方のエンドポイントを同じアプリケーションから一緒に使用できます。ユースケースごとに選択します。
VPC インターフェイスエンドポイントを使用してデータ出力コストを削減する
VPC 内から Amazon Bedrock を呼び出す場合は、VPC インターフェイスエンドポイント (AWS PrivateLink) を使用してトラフィックを AWS ネットワーク内に保持し、NAT ゲートウェイまたはインターネットゲートウェイに関連するデータ出力料金を回避することを検討してください。
