View a markdown version of this page

Verwenden eines Reranker-Modells in Amazon Bedrock - Amazon Bedrock

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Verwenden eines Reranker-Modells in Amazon Bedrock

Sie können ein Reranker-Modell direkt oder beim Abrufen von Ergebnissen während einer Wissensdatenbankabfrage verwenden. Wählen Sie die Registerkarte für Ihre bevorzugte Methode aus und befolgen Sie die angegebenen Schritte:

Console

Sie können ein Reranker-Modell nicht direkt in der verwenden AWS-Managementkonsole, aber Sie können ein Reranker-Modell verwenden, wenn Sie Ihre Wissensdatenbank abfragen, indem Sie wie folgt vorgehen:

  1. Wenn Sie eine Wissensdatenbank abfragen, öffnen Sie den Bereich Konfigurationen, indem Sie auf das Symbol Three horizontal sliders with adjustable circular controls for settings or parameters. klicken.

  2. Erweitern Sie den Abschnitt Neuordnung.

  3. Klicken Sie auf Modell auswählen, um ein Reranker-Modell auszuwählen.

  4. Wenn Ihrer Servicerolle von Wissensdatenbanken für Amazon Bedrock die Berechtigungen zur Verwendung des Reranker-Modells fehlen, wählen Sie Servicerolle aktualisieren aus, um die Rolle mit den entsprechenden Berechtigungen zu ändern.

  5. (Optional) Ändern Sie im Abschnitt Zusätzliche Reranking-Optionen, die geändert werden müssen.

  6. Geben Sie einen Prompt ein und klicken Sie auf Ausführen. Die Antwort ist das Ergebnis nach der Anwendung des Reranker-Modells.

Ausführlichere Anweisungen zur Durchführung von Wissensdatenbankabfragen finden Sie unter Abrufen einer Wissensdatenbank und Datenabruf und So fragen Sie eine Wissensdatenbank ab und generieren Antworten auf Grundlage der abgerufenen Daten.

API

Anweisungen zur Verwendung eines Reranker-Modells bei einer Wissensdatenbankabfrage finden Sie unter Abrufen einer Wissensdatenbank und Datenabruf und So fragen Sie eine Wissensdatenbank ab und generieren Antworten auf Grundlage der abgerufenen Daten.

Wenn Sie ein Reranker-Modell direkt mit der Amazon-Bedrock-API verwenden möchten, senden Sie eine Rerank-Anfrage mit einem Runtime-Endpunkt von Agenten für Amazon Bedrock.

Die folgenden Felder sind erforderlich:

Feld Grundlegende Beschreibung
queries Ein Array aus einem Objekt. RerankQuery Geben Sie TEXT als type an und fügen Sie die Abfrage in das Feld textQuery ein.
Quellen Eine Reihe von RerankSourceObjekten, die dem Renanking-Modell übergeben werden sollen. Geben Sie für jedes RerankSource Objekt INLINE als an type und fügen Sie ein RerankDocumentObjekt in das inlineDocumentSource Feld ein. Im Folgenden finden Sie Einzelheiten zu RerankDocument.
rerankingConfiguration Beinhaltet den Amazon-Ressourcennamen (ARN) des zu verwendenden Reranking-Modells und die Anzahl der Ergebnisse, die nach der Neuordnung zurückgegeben werden sollen, sowie optional Inferenzkonfigurationen für das Modell. Sie geben zusätzliche Modellkonfigurationen als Schlüssel-Wert-Paare an. Weitere Informationen finden Sie unter Rerank auf der Website der Cohere-Dokumentation.

Die folgenden Felder sind optional:

Feld Anwendungsfall
nextToken Ein in einer früheren Antwort zurückgegebenes Token, das Sie einbeziehen können, um den nächsten Ergebnisstapel bereitzustellen.

Das Format des RerankSource-Objekts, das Sie einschließen, hängt vom Format des Dokuments ab. Wenn Sie das Format für verschiedene RerankSource-Typen sehen möchten, wählen Sie die Registerkarte aus, die dem Format des Dokuments entspricht:

StringJSON object
String

Wenn es sich bei dem Dokument um eine Zeichenfolge handelt, geben Sie den Wert des type Felds des RerankDocumentObjekts als an TEXT und schließen Sie das Dokument in das text Feld ein. Beispiel:

{
    "inlineDocumentSource": {
        "textDocument": {
            "text": "string"
        },
        "type": "TEXT"
    },
    "type": "INLINE"
}
JSON object

Wenn es sich bei dem Dokument um ein JSON-Objekt handelt, geben Sie den Wert des type Felds im RerankDocumentObjekt als an JSON und schließen Sie das Dokument in das jsonDocument Feld ein. Beispiel:

{
    "inlineDocumentSource": {
        "jsonDocument": JSON value,
        "type": "JSON"
    },
    "type": "INLINE"
}

Die Antwort auf Ihre Rerank Anfrage gibt eine Liste der RerankResultObjekte in dem results Feld zurück. Jedes Objekt enthält die folgenden Felder:

  • document – Enthält Informationen zu dem Dokument, das Sie übermittelt haben

  • relevanceScore – Eine Relevanzbewertung für das Dokument, die vom Reranking-Modell zugewiesen wurde

  • index – Gibt die Rangfolge des Dokuments im Vergleich zu den anderen Dokumenten in der Liste an. Je niedriger die Punktzahl, desto höher die Rangfolge.

Wenn es zu viele Ergebnisse gibt, um angezeigt zu werden, gibt die Antwort einen Wert im Feld nextToken zurück. In diesem Fall müssen Sie dieses Token in eine nachfolgende Anfrage aufnehmen, um den nächsten Ergebnisstapel zu sehen.