本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。
跨区域推断
AgentCore 评估将自动选择您所在地理区域内的最佳区域来处理您的推理请求。这样可以最大限度地利用可用计算资源、模型可用性,并提供最佳的客户体验。您的数据将仅存储在发起请求的区域,但是,输入提示和输出结果可能会在该区域之外进行处理。所有数据都将通过安全网络以加密方式传输。 AWS
对于 AgentCore 评估,来自亚太地区(海得拉巴)(ap-southeast-2)、亚太地区(马来西亚)(ap-southeast-5)、亚太地区(首尔)(ap-northeast-2)和亚太地区(泰国)(ap-southeast-7)的推理请求使用全球跨区域推理,并将安全地路由到所有全球商业区域的所有可用计算资源。 AWS 有关更多信息,请参阅评估的全球跨区域推理。 AgentCore
如果您的用例需要避免跨区域推断,则可以创建不使用 CRIS 运行的自定义评估器。自定义评估器可灵活地实现:
-
无需使用 CRIS 即可复制内置评估器的功能
-
将相同的评估标准和评分模式定义为内置评估器
-
保持对推理配置的完全控制
注意
虽然可以将自定义评估器配置为与内置评估器功能相匹配,但您负责管理模型可用性和计算资源。