本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。
Amazon Bedrock 支持的终端节点
Amazon Bedrock 支持各种终端节点,具体取决于您是要执行控制平面运算符还是推理操作。
控制平面操作
Amazon Bedrock 控制平面操作可用于终端节点:bedrock.{region}.amazonaws.com.它可用于管理资源,例如列出可用模型、创建自定义模型任务和管理预配置吞吐量。在此处阅读有关我们的控制平面 API 的更多信息。
推理操作
Amazon Bedrock 支持以下两个主要端点,用于以编程方式执行推理:
| Endpoint | 支持 APIs | 描述 |
|---|---|---|
bedrock-mantle.{region}.api.aws |
响应 API/聊天完成 API/消息 API | 特定区域的终端节点,用于使用兼容 OpenAI 的终端节点和 Anthropic Messages API 对托管在 Amazon Bedrock 中的模型发出推理请求。 |
bedrock-runtime.{region}.amazonaws.com |
InvokeModel/Converse/聊天完成/消息 AP I | 特定区域的终端节点,用于使用/对托管在 Amazon Bedrock 中的模型发出推理请求。 InvokeModel Converse/Chat Completions/Messages APIs在此处阅读有关 Amazon Bedrock Runtime 的 APIs 更多信息。 |
您应该使用哪个服务端点进行推理?
您使用的终端节点取决于您的用例。
| Endpoint | 功能和用例 |
|---|---|
bedrock-mantle |
支持兼容 OpenAI APIs (响应 API、聊天完成 API)和 Anthropic 原生消息 API。 用于:从使用兼容 OpenAI APIs 的其他型号轻松迁移。 功能:支持客户端和服务器端工具与 Lambda 函数一起使用,并在您的应用程序中配置了 ready-to-use工具。 推荐对象:A mazon Bedrock 的新用户。 |
bedrock-runtime |
支持 Amazon Bedrock 原生 APIs (调用 API、C onverse API)、Anthropic-Native Messages API 和兼容 OpenAI 的聊天完成 API。 用于:运行 Amazon Bedrock 支持的任何型号。C onverse API 提供了一个统一的接口,用于与 Amazon Bedrock 中的所有模型进行交互,而 Invoke API 则提供对模型的直接访问,从而更有能力控制请求和响应格式。您还可以使用聊天完成 API 与您的模型互动。 功能:仅支持客户端工具与 Lambda 函数一起使用,且未预 ready-to-use先配置工具。允许您在调用模型时跟踪使用情况和成本。 |
如果您不熟悉 Amazon Bedrock,我们建议您从bedrock-mantle终端节点开始。
使用 VPC 接口终端节点降低数据流出成本
如果您在 VPC 内调用 Amazon Bedrock,请考虑使用 VPC 接口终端节点 (AWS PrivateLink) 将流量保持在 AWS 网络内,避免与 NAT 网关或互联网网关相关的数据出站费用。