Amazon Bedrock 知识库支持的型号和区域 - Amazon Bedrock

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

Amazon Bedrock 知识库支持的型号和区域

以下区域支持 Amazon Bedrock 知识库(有关 Amazon Bedrock 支持的区域的更多信息,请参阅 Amazon Bedroc k 终端节点和配额):

  • 美国东部(弗吉尼亚州北部)

  • 美国东部(俄亥俄州)

  • 美国西部(俄勒冈州)

  • AWS GovCloud (美国西部)

  • AWS GovCloud (美国东部)

  • Asia Pacific (Tokyo)

  • 亚太地区(首尔)

  • 亚太地区(孟买)

  • 亚太地区(新加坡)(门控)

  • 亚太地区(悉尼)

  • 加拿大(中部)

  • 欧洲地区(法兰克福)

  • 欧洲(苏黎世)

  • 欧洲(爱尔兰)(封闭)

  • 欧洲地区(伦敦)

  • 欧洲(巴黎)

  • 南美洲(圣保罗)

您可以使用以下基础模型(要查看哪些区域支持每种模型,请参阅Amazon Bedrock 中支持的根基模型)进行知识库查询:

  • AI21 Labs Jamba 1.5 Large

  • AI21 Labs Jamba 1.5 Mini

  • AI21 Labs Jamba-Instruct

  • Amazon Titan Text G1 - Premier

  • Anthropic Claude 2.1

  • Anthropic Claude 2

  • Anthropic Claude 3 Haiku

  • Anthropic Claude 3 Sonnet

  • Anthropic Claude 3.5 Haiku

  • Anthropic Claude 3.5 Sonnet v2

  • Anthropic Claude 3.5 Sonnet

  • Cohere Command R+

  • Cohere Command R

  • Meta Llama 3 70B Instruct

  • Meta Llama 3 8B Instruct

  • Meta Llama 3.1 405B Instruct

  • Meta Llama 3.1 70B Instruct

  • Meta Llama 3.1 8B Instruct

  • Meta Llama 3.2 11B Instruct

  • Meta Llama 3.2 90B Instruct

  • Mistral AI Mistral Large (24.02)

  • Mistral AI Mistral Large (24.07)

  • Mistral AI Mistral Small (24.02)

Amazon Bedrock 知识库还支持使用推理配置文件来解析数据或生成响应。借助推理配置文件,您可以跟踪成本和指标,还可以进行跨区域推理,将模型推理请求分发到一组区域以实现更高的吞吐量。你可以在中指定推理配置文件 RetrieveAndGenerateCreateDataSource 请求。有关更多信息,请参阅 使用推理配置文件设置模型调用资源

重要

如果您使用跨区域推理,则您的数据可以跨区域共享。

您也可以使用 SageMaker AI 模型或根据自己的数据进行训练的自定义模型

注意

如果您使用 A SageMaker I 或自定义模型,则必须指定编排和生成提示(有关更多信息,请参阅中的知识库提示模板配置和自定义查询与响应生成)。您的提示必须包含信息变量才能访问用户的输入和上下文。

Amazon Bedrock 知识库中某些功能的地区和型号支持有所不同。选择一个主题以查看对某项功能的支持:

矢量嵌入支持的模型

Amazon Bedrock 知识库使用嵌入模型将您的数据转换为矢量嵌入并将嵌入存储在矢量数据库中。有关更多信息,请参阅 将数据转化为知识库

嵌入模型支持以下向量类型。

模型名称 支持的向量类型
Amazon Titan Embeddings G1 - Text 浮点数
Amazon Titan 文本嵌入 V2 浮点、二进制
Cohere Embed (英语) 浮点、二进制
Cohere Embed (多语言) 浮点、二进制

支持的模型和解析区域

将数据转换为矢量嵌入时,您可以在 Amazon Bedrock 知识库中使用不同的方法来解析数据。有关更多信息,请参阅 数据源的解析选项

以下列出了对解析选项的支持:

  • 美国西部(俄勒冈州)支持 Amazon Bedrock 数据自动化解析器,该解析器处于预览阶段,可能会发生变化。

  • 以下基础模型可用作解析器:

    • Anthropic Claude 3.5 Sonnet

    • Anthropic Claude 3 Haiku

支持在查询期间对结果进行重新排名的模型和区域

检索知识库查询结果时,您可以使用重新排名模型对知识库查询的结果进行重新排名。有关更多信息,请参阅查询知识库并检索数据查询知识库并根据检索到的数据生成响应

有关支持重新排名的模型和区域的列表,请参阅支持在 Amazon Bedrock 中重新排名的地区和型号