本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。
Amazon Bedrock 支援的 APIs
支援的推論 APIs
Amazon Bedrock 提供五種主要 API 模式來執行推論。對於新應用程式,我們建議使用 bedrock-runtime端點。APIs 會依其使用的服務端點分組。
bedrock-runtime 端點 (建議)
bedrock-runtime.{region}.amazonaws.com 端點支援下列 APIs:
| API 方法 | 最適合 的使用案例 | 金鑰功能 |
|---|---|---|
| Converse (建議) | 多轉聊天/標準化 | Converse API 提供與 Amazon Bedrock 中所有模型互動的統一界面。 |
| Invoke | 單一交易/大型承載 | 調用 API 可讓您直接存取對請求和回應格式具有更多控制權的模型。 |
| 回應 | OpenAI 相容、有狀態的對話 | 將 Responses API 用於與 OpenAI 相容的具狀態多轉對話 — 相同的 OpenAI 形狀,以及 Amazon Bedrock 功能,例如護欄和跨區域推論。在 上bedrock-runtime,請求一律是同步的,且伺服器端工具無法使用 – Amazon Bedrock 支援的端點 如需完整比較,請參閱 。 |
| 聊天完成 | OpenAI 相容、無狀態多轉聊天 | 使用聊天完成 API 進行 OpenAI 相容無狀態聊天互動。 |
| 訊息 API | Anthropic 原生界面 | 透過 InvokeModel 使用 Messages API,以原生請求格式直接存取 Anthropic 模型。 |
bedrock-mantle 端點
bedrock-mantle.{region}.amazonaws.com 端點支援下列 APIs:
進一步了解 Amazon Bedrock 支援的 APIs。
在 APIs之間決定
您使用的 API 取決於您的使用案例。
| 使用案例 | 建議的 API |
|---|---|
| 從 OpenAI API 相容端點遷移 | 在bedrock-runtime端點上使用 OpenAI 相容回應 API |
| 使用與 OpenAI 相容端點不相容的模型 | 使用原生 Amazon Bedrock APIs:Converse 和 Invoke。如需詳細資訊,請參閱使用叫用 API 的推論。 |
| 所有模型的一致界面 | Converse API - 適用於所有支援訊息的模型。編寫程式碼一次,並搭配不同的模型使用。如需範例程式碼,請參閱 Converse API 範例。 |
| 具有完全控制的直接模型存取 | 叫用 API - 提供對模型的直接存取,對請求和回應格式有更多控制權。使用 產生文字、影像和內嵌。如需範例程式碼,請參閱叫用模型程式碼範例。 |
| Amazon Bedrock 的新手 | 如果您偏好 OpenAI 或 Anthropic 相容介面,建議您將bedrock-runtime端點與 Converse API 搭配使用,以實現跨模型的統一界面,或搭配使用 Messages API、Chat Completions API 或 Responses API。 |
每個 API 和端點支援的模型
首先,瀏覽我們的模型以決定您想要使用的模型。決定要使用的模型後,您可以查看其支援的 APIs並選擇端點。我們建議bedrock-runtime端點,其支援調用、轉換、回應、聊天完成和訊息 APIs。bedrock-mantle 也完全支援端點,並提供回應、聊天完成和訊息 APIs。由於兩個端點都提供回應、聊天完成和訊息 APIs,但每個端點都不支援相同的功能,因此請在選擇Amazon Bedrock 支援的端點之前參閱 。