本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。
Cross-region 正在处理 AWS Transform
以下各节介绍如何使用跨区域推理和跨区域调用来提供服务。 AWS Transform
Cross-region 推断
AWS Transform 由 Amazon Bedrock 提供支持,使用跨区域推理在不同区域之间分配流量, AWS 区域 以增强大型语言模型 (LLM) 的推理性能和可靠性。通过跨区域推理,您可以:
-
在高需求时期提高吞吐量和弹性
-
提高性能
-
访问新推出的 AWS Transform 功能和功能,这些功能依赖于 Amazon Bedrock 上托管的最强大的 LLM
Cross-region 推理请求保存在数据最初所在的地理区域内。 AWS 区域 例如,根据美国 AWS Transform 配置发出的请求保存在美国境内。 AWS 区域 尽管跨区域推理不会更改存储数据的位置,但您的请求和输出结果可能会移出数据最初所在的区域。所有数据都将通过 Amazon 的安全网络加密传输。使用跨区域推理不会产生额外成本。
跨区域推理不会影响存储数据的位置。有关使用时数据存储位置的信息 AWS Transform,请参阅中的数据保护 AWS Transform。
支持的区域 AWS Transform 跨区域推理
您发出的某些请求 AWS Transform 可能需要跨区域调用。下表描述您的请求可能路由到哪些区域,具体取决于发出请求的地理位置。
| 源区域 | 目标区域 |
|---|---|
| 美国东部(弗吉尼亚州北部)(us-east-1) | 美国东部(弗吉尼亚州北部)(us-east-1) 美国东部(俄亥俄州)(us-east-2) 美国西部(俄勒冈州)(us-west-2) |
| 欧洲地区(法兰克福)(eu-central-1) | 欧洲地区(法兰克福)(eu-central-1) 欧洲(斯德哥尔摩)(eu-north-1) 欧洲地区(米兰)(eu-south-1) 欧洲(西班牙)(eu-south-2) 欧洲地区(爱尔兰)(eu-west-1) 欧洲地区(巴黎)(eu-west-3) |
| 亚太地区(孟买)(ap-south-1) | 亚太地区(东京)(ap-northeast-1) 亚太地区(首尔)(ap-northeast-2) 亚太地区(大阪)(ap-northeast-3) 亚太地区(孟买)(ap-south-1) 亚太地区(海得拉巴)(ap-south-2) 亚太地区(新加坡)(ap-southeast-1) 亚太地区(悉尼)(ap-southeast-2) 亚太地区(墨尔本)(ap-southeast-4) |
| 亚太地区(东京)(ap-northeast-1) | 亚太地区(东京)(ap-northeast-1) 亚太地区(大阪)(ap-northeast-3) |
| 亚太地区(首尔)(ap-northeast-2) | 亚太地区(东京)(ap-northeast-1) 亚太地区(首尔)(ap-northeast-2) 亚太地区(大阪)(ap-northeast-3) 亚太地区(孟买)(ap-south-1) 亚太地区(海得拉巴)(ap-south-2) 亚太地区(新加坡)(ap-southeast-1) 亚太地区(悉尼)(ap-southeast-2) 亚太地区(墨尔本)(ap-southeast-4) |
| 亚太地区(悉尼)(ap-southeast-2) | 亚太地区(悉尼)(ap-southeast-2) 亚太地区(墨尔本)(ap-southeast-4) |
| 欧洲地区(伦敦)(eu-west-2) | 欧洲地区(法兰克福)(eu-central-1) 欧洲(斯德哥尔摩)(eu-north-1) 欧洲地区(米兰)(eu-south-1) 欧洲(西班牙)(eu-south-2) 欧洲地区(爱尔兰)(eu-west-1) 欧洲地区(伦敦)(eu-west-2) 欧洲地区(巴黎)(eu-west-3) |
| 加拿大(中部)(ca-central-1) | 商业 AWS 区域 + 加拿大(中部)(ca-central-1) |
| 南美洲(圣保罗)(sa-east-1) | 商业 AWS 区域 + 南美洲(圣保罗)(sa-east-1) |
有关可供使用的区域的完整列表 AWS Transform,请参阅支持的区域 AWS Transform。
Cross-Region 知识
当您询问有关 AWS Transform 服务、转换工作流程或相关 AWS 文档的一般问题时, AWS Transform 可能会向美国东部(弗吉尼亚)(us-east-1)(美国地区的 us-east-1)或向欧洲(法兰克福)(eu-central-1)提出跨区域请求,要求所有其他地区检索文档并满足您的请求。例如,当您询问有关如何使用其他 AWS 服务(例如 Lambda)的问题时, AWS Transform 可能会拨打跨区域调用以检索相关 AWS 文档来回答您的问题。下表描述您的请求可能路由到哪些区域,具体取决于发出请求的地理位置。
| 源区域 | 目标区域 |
|---|---|
| 美国东部(弗吉尼亚州北部)(us-east-1) | 美国东部(弗吉尼亚州北部)(us-east-1) |
| 欧洲地区(法兰克福)(eu-central-1) | 欧洲地区(法兰克福)(eu-central-1) |
| 欧洲地区(伦敦)(eu-west-2) | 欧洲地区(法兰克福)(eu-central-1) |
| 亚太地区(东京)(ap-northeast-1) | 欧洲地区(法兰克福)(eu-central-1) |
| 亚太地区(悉尼)(ap-southeast-2) | 欧洲地区(法兰克福)(eu-central-1) |
| 亚太地区(首尔)(ap-northeast-2) | 欧洲地区(法兰克福)(eu-central-1) |
| 亚太地区(孟买)(ap-south-1) | 欧洲地区(法兰克福)(eu-central-1) |
| 加拿大(中部)(ca-central-1) | 欧洲(法兰克福)(eu-central-1) |
| 南美洲(圣保罗)(sa-east-1) | 欧洲地区(法兰克福)(eu-central-1) |
默认情况下,此设置处于启用状态。账户管理员可以修改此设置。禁用此功能会导致无法访问 AWS Transform 需要从其他区域检索知识的功能。这可能会导致回复的准确性降低。
要禁用通过以下方式 AWS Transform进行的跨区域呼叫:
-
首次设置时 AWS Transform,导航到 “入门” 页面并完成配置。对于现有 AWS Transform 配置,请导航到 “设置” 页面。
-
将启用跨区域呼叫以回答一般 AWS 相关问题切换到关闭位置。
AWS Transform 用于 Windows 跨区域推理
下表显示了您可以从中调用推理配置文件的源区域,以及可以将请求路由到的目标区域:
| 源区域 | 推理目标区域 |
|---|---|
| 美国东部(弗吉尼亚州北部)(us-east-1) | 美国东部(弗吉尼亚州北部)(us-east-1) 美国东部(俄亥俄州)(us-east-2) 美国西部(俄勒冈州)(us-west-2) |
| 欧洲地区(法兰克福)(eu-central-1) | 欧洲地区(法兰克福)(eu-central-1) 欧洲(斯德哥尔摩)(eu-north-1) 欧洲地区(米兰)(eu-south-1) 欧洲(西班牙)(eu-south-2) 欧洲地区(爱尔兰)(eu-west-1) 欧洲地区(巴黎)(eu-west-3) |
| 亚太地区(东京)(ap-northeast-1) | 亚太地区(东京)(ap-northeast-1) 亚太地区(大阪)(ap-northeast-3) |
| 亚太地区(悉尼)(ap-southeast-2) | 亚太地区(悉尼)(ap-southeast-2) 亚太地区(墨尔本)(ap-southeast-4) |
| 亚太地区(首尔)(ap-northeast-2) | 所有商业区域 |
| 亚太地区(孟买)(ap-south-1) | 所有商业区域 |
| 加拿大(中部)(ca-central-1) | 所有商业区域 |
AWS Transform 用于跨区域迁移推断
下表显示了您可以从中调用推理配置文件的源区域,以及可以将请求路由到的目标区域:
| 源区域 | 推理目标区域 |
|---|---|
| 美国东部(弗吉尼亚州北部)(us-east-1) | 所有商业区域 |
| 欧洲地区(法兰克福)(eu-central-1) | 所有商业区域 |
| 欧洲地区(伦敦)(eu-west-2) | 所有商业区域 |
| 亚太地区(东京)(ap-northeast-1) | 亚太地区(东京)(ap-northeast-1) 亚太地区(大阪)(ap-northeast-3) |
| 亚太地区(悉尼)(ap-southeast-2) | 亚太地区(悉尼)(ap-southeast-2) 亚太地区(墨尔本)(ap-southeast-4) |
| 亚太地区(首尔)(ap-northeast-2) | 所有商业区域 |
| 亚太地区(孟买)(ap-south-1) | 所有商业区域 |
| 加拿大(中部)(ca-central-1) | 所有商业区域 |
AWS Transform 用于大型机跨区域推理
AWS Transform 对于大型机,使用 Amazon Bedrock 地理跨区域推理。这意味着您的某些呼叫可能会被路由到源区域 AWS 区域 以外。下表显示了您可以从中调用推理配置文件的源区域,以及可以将请求路由到的目标区域:
| 源区域 | 推理目标区域 |
|---|---|
| 美国东部(弗吉尼亚州北部)(us-east-1) | 美国东部(弗吉尼亚州北部)(us-east-1) 美国东部(俄亥俄州)(us-east-2) 美国西部(俄勒冈州)(us-west-2) |
| 欧洲地区(法兰克福)(eu-central-1) | 欧洲地区(法兰克福)(eu-central-1) 欧洲(斯德哥尔摩)(eu-north-1) 欧洲地区(米兰)(eu-south-1) 欧洲(西班牙)(eu-south-2) 欧洲地区(爱尔兰)(eu-west-1) 欧洲地区(巴黎)(eu-west-3) |
| 欧洲地区(伦敦)(eu-west-2) | 欧洲地区(法兰克福)(eu-central-1) 欧洲(斯德哥尔摩)(eu-north-1) 欧洲地区(米兰)(eu-south-1) 欧洲(西班牙)(eu-south-2) 欧洲地区(爱尔兰)(eu-west-1) 欧洲地区(伦敦)(eu-west-2) 欧洲地区(巴黎)(eu-west-3) |
| 亚太地区(东京)(ap-northeast-1) | 亚太地区(东京)(ap-northeast-1) 亚太地区(大阪)(ap-northeast-3) |
| 亚太地区(悉尼)(ap-southeast-2) | 亚太地区(悉尼)(ap-southeast-2) 亚太地区(墨尔本)(ap-southeast-4) |
| 亚太地区(首尔)(ap-northeast-2) | 所有商业区域 |
| 亚太地区(孟买)(ap-south-1) | 所有商业区域 |
| 加拿大(中部)(ca-central-1) | 加拿大(中部)(ca-central-1) 美国东部(弗吉尼亚州北部)(us-east-1) 美国东部(俄亥俄州)(us-east-2) 美国西部(俄勒冈州)(us-west-2) |
| 南美洲(圣保罗)(sa-east-1) | 所有商业区域 |
AWS Transform 自定义
AWS Transform custom 使用 Amazon Bedrock 地理跨区域推理。这意味着您的某些呼叫可能会被路由到源区域 AWS 区域 以外。下表显示了您可以从中调用推理配置文件的源区域,以及可以将请求路由到的目标区域:
| 源区域 | 推理目标区域 |
|---|---|
| 美国东部(弗吉尼亚州北部)(us-east-1) | 美国东部(弗吉尼亚州北部)(us-east-1) 美国东部(俄亥俄州)(us-east-2) 美国西部(俄勒冈州)(us-west-2) |
| 欧洲地区(法兰克福)(eu-central-1) | 欧洲地区(法兰克福)(eu-central-1) 欧洲(斯德哥尔摩)(eu-north-1) 欧洲地区(米兰)(eu-south-1) 欧洲(西班牙)(eu-south-2) 欧洲地区(爱尔兰)(eu-west-1) 欧洲地区(巴黎)(eu-west-3) |
| 欧洲地区(伦敦)(eu-west-2) | 欧洲地区(法兰克福)(eu-central-1) 欧洲(斯德哥尔摩)(eu-north-1) 欧洲地区(米兰)(eu-south-1) 欧洲(西班牙)(eu-south-2) 欧洲地区(爱尔兰)(eu-west-1) 欧洲地区(伦敦)(eu-west-2) 欧洲地区(巴黎)(eu-west-3) |
| 亚太地区(东京)(ap-northeast-1) | 所有商业区域 |
| 亚太地区(悉尼)(ap-southeast-2) | 亚太地区(悉尼)(ap-southeast-2) 亚太地区(墨尔本)(ap-southeast-4) |
| 亚太地区(首尔)(ap-northeast-2) | 所有商业区域 |
| 亚太地区(孟买)(ap-south-1) | 所有商业区域 |
| 加拿大(中部)(ca-central-1) | 加拿大(中部)(ca-central-1) 美国东部(弗吉尼亚州北部)(us-east-1) 美国东部(俄亥俄州)(us-east-2) 美国西部(俄勒冈州)(us-west-2) |