View a markdown version of this page

Amazon Bedrock 支援的 APIs - Amazon Bedrock

本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。

Amazon Bedrock 支援的 APIs

支援的推論 APIs

Amazon Bedrock 提供五種主要 API 模式來執行推論。對於新應用程式,我們建議使用 bedrock-runtime端點。APIs 會依其使用的服務端點分組。

bedrock-runtime 端點 (建議)

bedrock-runtime.{region}.amazonaws.com 端點支援下列 APIs:

API 方法 最適合 的使用案例 金鑰功能
Converse (建議) 多轉聊天/標準化 Converse API 提供與 Amazon Bedrock 中所有模型互動的統一界面。
Invoke 單一交易/大型承載 調用 API 可讓您直接存取對請求和回應格式具有更多控制權的模型。
回應 OpenAI 相容、有狀態的對話 將 Responses API 用於與 OpenAI 相容的具狀態多轉對話 — 相同的 OpenAI 形狀,以及 Amazon Bedrock 功能,例如護欄跨區域推論。在 上bedrock-runtime,請求一律是同步的,且伺服器端工具無法使用 – Amazon Bedrock 支援的端點 如需完整比較,請參閱 。
聊天完成 OpenAI 相容、無狀態多轉聊天 使用聊天完成 API 進行 OpenAI 相容無狀態聊天互動。
  訊息 API Anthropic 原生界面 透過 InvokeModel 使用 Messages API,以原生請求格式直接存取 Anthropic 模型。

bedrock-mantle 端點

bedrock-mantle.{region}.amazonaws.com 端點支援下列 APIs:

API 方法 最適合 的使用案例 金鑰功能
回應 API 與伺服器端工具的有狀態對話 將 上的回應 API bedrock-mantle 用於需要內建伺服器端工具使用的代理應用程式 (搜尋、程式碼解譯器)、多模式輸入和非同步推論。
  訊息 API Anthropic 原生界面 使用 Messages API,使用 Anthropic 原生請求和回應格式直接存取 Anthropic 模型。
聊天完成 無狀態多轉聊天 聊天完成 API 用於輕量、無狀態、以文字為中心的任務,其中您需要完全控制聊天歷史記錄管理和更低延遲。

進一步了解 Amazon Bedrock 支援的 APIs

在 APIs之間決定

您使用的 API 取決於您的使用案例。

使用案例 建議的 API
從 OpenAI API 相容端點遷移 bedrock-runtime端點上使用 OpenAI 相容回應 API聊天完成 API — 相同的 OpenAI 形狀,以及 Amazon Bedrock 功能,例如護欄跨區域推論。根據 OpenAI,建議的 API 長期是回應 API。
使用與 OpenAI 相容端點不相容的模型 使用原生 Amazon Bedrock APIs:ConverseInvoke。如需詳細資訊,請參閱使用叫用 API 的推論
所有模型的一致界面 Converse API - 適用於所有支援訊息的模型。編寫程式碼一次,並搭配不同的模型使用。如需範例程式碼,請參閱 Converse API 範例
具有完全控制的直接模型存取 叫用 API - 提供對模型的直接存取,對請求和回應格式有更多控制權。使用 產生文字、影像和內嵌。如需範例程式碼,請參閱叫用模型程式碼範例
Amazon Bedrock 的新手 如果您偏好 OpenAI 或 Anthropic 相容介面,建議您將bedrock-runtime端點與 Converse API 搭配使用,以實現跨模型的統一界面,或搭配使用 Messages APIChat Completions APIResponses API

每個 API 和端點支援的模型

首先,瀏覽我們的模型以決定您想要使用的模型。決定要使用的模型後,您可以查看其支援的 APIs並選擇端點。我們建議bedrock-runtime端點,其支援調用、轉換、回應、聊天完成和訊息 APIs。bedrock-mantle 也完全支援端點,並提供回應、聊天完成和訊息 APIs。由於兩個端點都提供回應、聊天完成和訊息 APIs,但每個端點都不支援相同的功能,因此請在選擇Amazon Bedrock 支援的端點之前參閱 。