在 Amazon Bedrock 中使用重新排名模型提高查询响应的相关性 - Amazon Bedrock

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

在 Amazon Bedrock 中使用重新排名模型提高查询响应的相关性

Amazon Bedrock 提供了对重新排名模型的访问权限,您可以在查询时使用这些模型来提高检索结果的相关性。重新排序模型计算区块与查询的相关性,并根据其计算的分数对结果进行重新排序。通过使用重新排名模型,您可以返回更适合回答查询的响应。或者,您可以在运行模型推理时将结果包含在提示中,以生成更相关和更准确的响应。使用重新排名模型,您可以检索更少但更相关的结果。通过将这些结果提供给用于生成响应的基础模型,还可以降低成本和延迟。

Reranker 模型经过训练,可以根据查询识别相关信号,然后使用这些信号对文档进行排名。因此,模型可以提供更相关、更准确的结果。

注意

您只能对文本数据使用重新排名。

有关重新排名型号的定价信息,请参阅 Amazon Bedrock 定价。

重新排名至少需要以下输入:

  • 一种重新排名模型,它接受用户查询并评估其可以访问的数据源的相关性。

  • 用户查询。

  • 重新排序者必须根据其与查询的相关性重新排序的文档列表。

您可以通过以下方式在 Amazon Bedrock 中使用重新排名模型:

  • 直接通过 Amazon Bedro API ck 调用 “重新排名” 操作。该Rerank操作将查询、文档和任何其他配置作为输入发送到重新排序模型中。然后,模型根据与查询的相关性对文档进行重新排名,并在响应中返回文档。

  • 如果您使用 Amazon Bedrock 知识库来构建检索增强生成 (RAG) 应用程序,请在调用时使用重新排名模型 RetrieveRetrieveAndGenerate操作。重新排名的结果会覆盖 Amazon Bedrock 知识库确定的默认排名。