在 Amazon Bedrock 中使用重新排名器模型 - Amazon Bedrock

本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。

在 Amazon Bedrock 中使用重新排名器模型

您可以直接使用重新排名器模型,或在知識庫查詢期間擷取結果時使用。如需在知識庫查詢期間使用重新排名器模型的指示,請參閱 查詢知識庫並擷取資料查詢知識庫並根據擷取的資料產生回應

注意

您無法直接在 中使用重新排名器模型 AWS Management Console,但您可以透過開啟組態窗格,在 主控台的擷取或 RetrieveAndGenerate 工作流程中使用重新排名器模型。

若要直接搭配 Amazon Bedrock 使用重新排名模型API,請針對 Amazon Bedrock 執行期端點傳送 代理程式的重新排名請求。

下列是必要欄位:

欄位 基本描述
queries 一個RerankQuery物件的陣列。指定 TEXT做為 ,type並在 textQuery 欄位中包含查詢。
sources 要提交至重新排名模型的RerankSource物件陣列。對於每個 RerankSource,指定 INLINE為 ,type並在 inlineDocumentSource 欄位中包含RerankDocument物件。如需 的詳細資訊,請參閱下方RerankDocument
rerankingConfiguration 包括要使用的重新排名模型的 Amazon Resource Name (ARN),以及在重新排名後要傳回的結果數量,以及選擇性的模型推論組態。您可以將其他模型組態指定為索引鍵/值對。如需詳細資訊,請參閱 上的重新排名 Cohere 文件網站。

下列欄位為選用:

欄位 使用案例
nextToken 在上一個回應中傳回的權杖,您可以包含該權杖,以提供下一批次的結果。

您包含的RerankSource物件格式取決於使用案例。若要查看不同RerankSource類型的格式,請展開與您的使用案例對應的區段:

如果文件是字串,請將RerankDocument物件type欄位的值指定為 TEXT,並在 欄位中包含文件text。例如:

{ "inlineDocumentSource": { "textDocument": { "text": "string" }, "type": "TEXT" }, "type": "INLINE" }

如果文件是JSON物件,則將RerankDocument物件中的type欄位值指定為 JSON,並將文件包含在 jsonDocument 欄位中。例如:

{ "inlineDocumentSource": { "jsonDocument": JSON value, "type": "JSON" }, "type": "INLINE" }

Rerank請求的回應會傳回 results 欄位中的RerankResult物件清單。每個物件包含下列欄位:

  • document – 包含您提交之文件的相關資訊。

  • relevanceScore – 文件的關聯性分數,由重新排名模型指派。

  • index – 指出文件相對於清單中其他文件的排名。分數越低,排名越高。

如果結果太多,則回應會在 nextToken 欄位中傳回值。在此情況下,若要查看下一批結果,請在後續請求中包含該字符。