Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.
# Verbessern der Relevanz von Abfrageantworten mit einem Reranker-Modell in Amazon Bedrock
Amazon Bedrock bietet Zugriff auf Reranker-Modelle, die Sie bei Abfragen verwenden können, um die Relevanz der abgerufenen Ergebnisse zu verbessern. Ein Reranker-Modell berechnet die Relevanz von Chunks für eine Abfrage und ordnet die Ergebnisse auf der Grundlage der berechneten Punktzahlen neu. Mithilfe eines Reranker-Modells können Sie Antworten zurückgeben, die für die Beantwortung der Abfrage besser geeignet sind. Sie können die Ergebnisse auch in einen Prompt einbeziehen, wenn Sie die Modellinferenz ausführen, um aussagekräftigere und genauere Antworten zu erhalten. Mit einem Reranker-Modell können Sie weniger, aber relevantere Ergebnisse abrufen. Indem Sie diese Ergebnisse in das Basismodell einfließen lassen, das Sie zur Generierung einer Antwort verwenden, können Sie auch die Kosten und die Latenz verringern.
Reranker-Modelle werden darauf trainiert, auf der Grundlage einer Abfrage Relevanzsignale zu identifizieren und diese Signale dann zum Neuordnen von Dokumenten zu verwenden. Aus diesem Grund können die Modelle relevantere und genauere Ergebnisse liefern.
**Anmerkung**
Sie können das Reranking nur für Textdaten verwenden.
Informationen zu den Preisen von Reranking-Modellen finden Sie unter [Amazon Bedrock – Preise](https://aws.amazon.com/bedrock/pricing/).
Für das Reranking sind mindestens die folgenden Eingaben erforderlich:
+ Ein Reranker-Modell, das anhand einer Benutzerabfrage die Relevanz der Datenquellen bewertet, auf die es zugreifen kann
+ Die Benutzerabfrage
+ Eine Liste von Dokumenten, die der Reranker entsprechend ihrer Relevanz für die Abfrage neu ordnen muss.
Sie können Reranker-Modelle in Amazon Bedrock wie folgt verwenden:
+ Rufen Sie die [Rerank](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_agent-runtime_Rerank.html)-Operation direkt über die Amazon Bedrock API auf. Die `Rerank`-Operation sendet die Abfrage, Dokumente und alle zusätzlichen Konfigurationen als Eingabe an ein Reranker-Modell. Das Modell ordnet die Dokumente dann nach Relevanz für die Abfrage neu und gibt die Dokumente in der Antwort zurück.
+ Wenn Sie [Wissensdatenbanken für Amazon Bedrock](knowledge-base.md) zum Erstellen Ihrer Retrieval Augmented Generation (RAG)-Anwendung nutzen, verwenden Sie ein Reranker-Modell, wenn Sie die Operation [https://docs.aws.amazon.com/bedrock/latest/APIReference/API_agent-runtime_Retrieve.html](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_agent-runtime_Retrieve.html) oder [https://docs.aws.amazon.com/bedrock/latest/APIReference/API_agent-runtime_RetrieveAndGenerate.html](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_agent-runtime_RetrieveAndGenerate.html) aufrufen oder Ihre Wissensdatenbank in der AWS-Managementkonsole abfragen. Die Ergebnisse der Neuordnung überschreiben die von Wissensdatenbanken für Amazon Bedrock festgelegte Standardreihenfolge.
**Topics**
+ [Unterstützte Regionen/Modelle](rerank-supported.md)
+ [Berechtigungen](rerank-prereq.md)
+ [Verwenden eines Reranker-Modells](rerank-use.md)
# Unterstützte Regionen und Modelle für das Reranking in Amazon Bedrock
Die folgende Liste enthält Links zu allgemeinen Informationen über den regionalen und Modell-Support in Amazon Bedrock:
+ Eine Liste der in Amazon Bedrock unterstützten Regionscodes und Endpunkte finden Sie unter [Endpunkte und Kontingente von Amazon Bedrock](https://docs.aws.amazon.com/general/latest/gr/bedrock.html#bedrock_region).
+ Eine Liste der Amazon Bedrock-Modelle IDs , die beim Aufrufen von Amazon Bedrock-API-Operationen verwendet werden können, finden Sie unter. [Unterstützte Basismodelle in Amazon Bedrock](models-supported.md)
Die folgende Tabelle zeigt die Reranker-Modelle, die Sie verwenden können, und die Regionen, in denen diese unterstützt werden:
**Anmerkung**
Das Modell Amazon Rerank 1.0 wird in der AWS-Region USA Ost (Nord-Virginia) nicht unterstützt. Sie können nur in dieser Region nur das Modell Cohere Rerank 3.5 verwenden.
Die folgende Tabelle zeigt die Modellunterstützung für Rerankings:
| Anbieter | Modell | Modell-ID | Modellunterstützung für einzelne Regionen |
| --- | --- | --- | --- |
| Amazon | Rerank 1.0 | amazon.rerank-v1:0 | ap-northeast-1 ca-central-1 eu-central-1 us-west-2 |
| Cohere | Rerank 3.5 | cohere.rerank-v3-5:0 | ap-northeast-1 ca-central-1 eu-central-1 us-east-1 us-west-2 |
Weitere Informationen zum Reranking anhand von Cohere-Modellen und ihren Inferenzparametern finden Sie auf der Website der Cohere-Dokumentation unter [Rerank](https://docs.cohere.com/reference/rerank).
# Berechtigungen für die Neuordnung in Amazon Bedrock
Ein Benutzer benötigt die folgenden Berechtigungen, um das Reranking (Neuordnung) nutzen zu können:
+ Zugriff auf die Reranking-Modelle, die sie verwenden möchten. Weitere Informationen finden Sie unter [Zugriff auf Amazon-Bedrock-Basismodelle](model-access.md).
+ Berechtigungen für ihre Rolle und, falls sie planen, Reranking in einem [https://docs.aws.amazon.com/bedrock/latest/APIReference/API_agent-runtime_Retrieve.html](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_agent-runtime_Retrieve.html)-Workflow zu verwenden, Berechtigungen für die Servicerolle von Wissensdatenbanken für Amazon Bedrock, die in einem [Vertrauensverhältnis](kb-permissions.md#kb-permissions-trust) zu ihrer Rolle steht.
**Tipp**
Sie können die erforderlichen Berechtigungen schnell konfigurieren, indem Sie wie folgt vorgehen:
Hängen Sie die [AmazonBedrockFullAccess](security-iam-awsmanpol.md#security-iam-awsmanpol-AmazonBedrockFullAccess)AWSverwaltete Richtlinie an die Benutzerrolle an. Weitere Informationen zum Anhängen einer Richtlinie an eine IAM-Rolle finden Sie unter [Hinzufügen und Entfernen von IAM-Identitätsberechtigungen](https://docs.aws.amazon.com/IAM/latest/UserGuide/access_policies_manage-attach-detach.html).
Verwenden Sie die Amazon-Bedrock-Konsole, um beim [Erstellen einer Wissensdatenbank](knowledge-base-create.md) eine Servicerolle von Wissensdatenbanken für Amazon Bedrock zu generieren. Wenn Sie bereits über eine Servicerolle von Wissensdatenbanken für Amazon Bedrock verfügen, die die Konsole für Sie erstellt hat, können Sie diese mithilfe der Konsole aktualisieren, wenn Sie [Quellen in der Konsole abrufen](kb-test-retrieve.md).
**Wichtig**
Wenn Sie Reranking in einem `Retrieve`-Workflow mit einer Servicerolle von Wissensdatenbanken für Amazon Bedrock verwenden, beachten Sie Folgendes:
Wenn Sie die AWS Identity and Access Management (IAM) -Richtlinie, die Amazon Bedrock für Ihre Wissensdatenbank-Servicerolle erstellt hat, manuell bearbeiten, können Fehler auftreten, wenn Sie versuchen, die Berechtigungen in der zu aktualisieren. AWS-Managementkonsole Zur Behebung dieses Problems löschen Sie in der IAM-Konsole die Richtlinienversion, die Sie manuell erstellt haben. Aktualisieren Sie anschließend die Seite „Reranker“ in der Amazon-Bedrock-Konsole und versuchen Sie es erneut.
Wenn Sie eine benutzerdefinierte Rolle verwenden, kann Amazon Bedrock die Servicerolle der Wissensdatenbank nicht in Ihrem Namen aktualisieren. Stellen Sie sicher, dass die Berechtigungen für die Servicerolle richtig konfiguriert sind.
Eine Zusammenfassung der Anwendungsfälle und der dafür erforderlichen Berechtigungen finden Sie in der folgenden Tabelle:
****
[\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/rerank-prereq.html)
Beispiele für Berechtigungsrichtlinien, die Sie einer IAM-Rolle anhängen können, finden Sie, indem Sie den Abschnitt erweitern, der Ihrem Anwendungsfall entspricht:
## Berechtigungsrichtlinie für die unabhängige Verwendung eines Reranking-Modells
Wenn Sie [Rerank](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_agent-runtime_Rerank.html) direkt mit einer Liste von Quellen verwenden möchten, benötigt die Benutzerrolle Berechtigungen sowohl für die Aktion `bedrock:Rerank` als auch die Aktion `bedrock:InvokeModel`. Damit die Verwendung eines Reranking-Modells verhindert wird, müssen Sie Berechtigungen für beide Aktionen verweigern. Damit die Benutzerrolle ein Reranking-Modell unabhängig verwenden kann, können Sie der Rolle die folgende Richtlinie anfügen:
------
#### [ JSON ]
****
```
{
"Version":"2012-10-17",
"Statement": [
{
"Sid": "RerankSid",
"Effect": "Allow",
"Action": [
"bedrock:Rerank"
],
"Resource": "*"
},
{
"Sid": "InvokeModelSid",
"Effect": "Allow",
"Action": [
"bedrock:InvokeModel"
],
"Resource": [
"arn:aws:bedrock:us-east-1::foundation-model/model-id"
]
}
]
}
```
------
In der vorherigen Richtlinie beschränken Sie die Berechtigungen für die Aktion `bedrock:InvokeModel` auf die Modelle, die von der Rolle für das Reranking verwendet werden können. Um den Zugriff auf alle Modelle zu ermöglichen, verwenden Sie einen Platzhalter () in dem Feld. *\$1* `Resource`
## Berechtigungsrichtlinien für die Verwendung eines Reranking-Modells in einem Retrieve-Workflow
Zur Verwendung von Reranking beim Abrufen von Daten aus einer Wissensdatenbank müssen Sie die folgenden Berechtigungen einrichten:
**Für die Benutzerrolle**
Die Benutzerrolle benötigt Berechtigungen, um die Aktion `bedrock:Retrieve` verwenden zu können. Damit die Benutzerrolle Daten aus einer Wissensdatenbank abrufen kann, können Sie der Rolle die folgende Richtlinie anhängen:
------
#### [ JSON ]
****
```
{
"Version":"2012-10-17",
"Statement": [
{
"Sid": "RetrieveSid",
"Effect": "Allow",
"Action": [
"bedrock:Retrieve"
],
"Resource": [
"arn:aws:bedrock:us-east-1:123456789012:knowledge-base/KnowledgeBaseId"
]
}
]
}
```
------
In der vorherigen Richtlinie beschränken Sie die Berechtigungen für die Aktion `bedrock:Retrieve` auf die Wissensdatenbanken, aus denen die Rolle Informationen abrufen darf. Um den Zugriff auf alle Wissensdatenbanken zu ermöglichen, können Sie in dem Feld einen Platzhalter (*\$1*) verwenden. `Resource`
**Für die Servicerolle**
Die [Servicerolle von Wissensdatenbanken für Amazon Bedrock](kb-permissions.md), die der Benutzer verwendet, benötigt Berechtigungen zur Verwendung der Aktionen `bedrock:Rerank` und `bedrock:InvokeModel`. Sie können die Amazon-Bedrock-Konsole verwenden, um die Berechtigungen für Ihre Servicerolle automatisch zu konfigurieren, wenn Sie bei der [Konfiguration von Wissensdatenbankabrufen](kb-test-retrieve.md) ein Reranking-Modell auswählen. Sie können der Servicerolle andernfalls die folgende Richtlinie anfügen, um ihr zu ermöglichen, Quellen während des Abrufs neu zu ordnen:
------
#### [ JSON ]
****
```
{
"Version":"2012-10-17",
"Statement": [
{
"Sid": "RerankSid",
"Effect": "Allow",
"Action": [
"bedrock:Rerank"
],
"Resource": "*"
},
{
"Sid": "InvokeModelSid",
"Effect": "Allow",
"Action": [
"bedrock:InvokeModel"
],
"Resource": "arn:aws:bedrock:us-east-1::foundation-model/RerankModelId"
}
]
}
```
------
In der vorherigen Richtlinie beschränken Sie die Berechtigungen für die Aktion `bedrock:InvokeModel` auf die Modelle, die von der Rolle für das Reranking verwendet werden können. Wenn Sie den Zugriff auf alle Modelle ermöglichen möchten, können Sie einen Platzhalter (\$1) im Feld `Resource` verwenden.
## Berechtigungsrichtlinie für die Verwendung eines Renanking-Modells in einem Workflow RetrieveAndGenerate
Damit Sie beim Abrufen von Daten aus einer Wissensdatenbank und beim anschließenden Generieren von Antworten auf der Grundlage der abgerufenen Ergebnisse ein Reranking-Modell verwenden können, benötigt die Benutzerrolle Berechtigungen zur Verwendung der Aktionen `bedrock:RetrieveAndGenerate`, `bedrock:Rerank` und `bedrock:InvokeModel`. Damit beim Abruf eine Neuordnung von Quellen und die Generierung von Antworten auf der Grundlage der Ergebnisse ermöglicht werden, können Sie der Benutzerrolle die folgende Richtlinie anfügen:
------
#### [ JSON ]
****
```
{
"Version":"2012-10-17",
"Statement": [
{
"Sid": "RerankRetrieveAndGenerateSid",
"Effect": "Allow",
"Action": [
"bedrock:Rerank",
"bedrock:RetrieveAndGenerate"
],
"Resource": "*"
},
{
"Sid": "InvokeModelSid",
"Effect": "Allow",
"Action": [
"bedrock:InvokeModel"
],
"Resource": [
"arn:aws:bedrock:us-east-1::foundation-model/RerankModelId}",
"arn:aws:bedrock:us-east-1::foundation-model/GenerationModelId}"
]
}
]
}
```
------
In der vorherigen Richtlinie beschränken Sie die Berechtigungen für die `bedrock:InvokeModel`-Operation auf die Modelle, die von der Rolle für das Reranking verwendet werden dürfen, und auf die Modelle, die die Rolle zum Generieren von Antworten verwenden darf. Um den Zugriff auf alle Modelle zu ermöglichen, können Sie in dem Feld einen Platzhalter (*\$1*) verwenden. `Resource`
Wenn Sie Berechtigungen weiter einschränken möchten, können Sie Aktionen weglassen oder Ressourcen und Bedingungsschlüssel angeben, nach denen Berechtigungen gefiltert werden sollen. Weitere Informationen über Aktionen, Ressourcen und Bedingungsschlüssel finden Sie in den folgenden Themen in der *Referenz zur Serviceautorisierung*:
+ [Von Amazon Bedrock definierte Aktionen](https://docs.aws.amazon.com/service-authorization/latest/reference/list_amazonbedrock.html#amazonbedrock-actions-as-permissions) – Erfahren Sie mehr über Aktionen, die Ressourcentypen, auf die Sie diese im `Resource`-Feld beschränken können, und die Bedingungsschlüssel, nach denen Sie Berechtigungen im `Condition`-Feld filtern können.
+ [Von Amazon Bedrock definierte Ressourcentypen](https://docs.aws.amazon.com/service-authorization/latest/reference/list_amazonbedrock.html#amazonbedrock-resources-for-iam-policies) – Erfahren Sie mehr über die Ressourcentypen in Amazon Bedrock.
+ [Zustandsschlüssel für Amazon Bedrock](https://docs.aws.amazon.com/service-authorization/latest/reference/list_amazonbedrock.html#amazonbedrock-policy-keys) – Erfahren Sie mehr über die Zustandsschlüssel in Amazon Bedrock.
# Verwenden eines Reranker-Modells in Amazon Bedrock
Sie können ein Reranker-Modell direkt oder beim Abrufen von Ergebnissen während einer Wissensdatenbankabfrage verwenden. Wählen Sie die Registerkarte für Ihre bevorzugte Methode aus und befolgen Sie die angegebenen Schritte:
------
#### [ Console ]
Sie können ein Reranker-Modell nicht direkt in der AWS-Managementkonsole verwenden. Sie können ein Reranker-Modell allerdings verwenden, wenn Sie Ihre Wissensdatenbank abfragen, indem Sie wie folgt vorgehen:
1. Wenn Sie eine Wissensdatenbank abfragen, öffnen Sie den Bereich **Konfigurationen**, indem Sie auf das Symbol ![\[Three horizontal sliders with adjustable circular controls for settings or parameters.\]](http://docs.aws.amazon.com/de_de/bedrock/latest/userguide/images/icons/configurations.png) klicken.
1. Erweitern Sie den Abschnitt **Neuordnung**.
1. Klicken Sie auf **Modell auswählen**, um ein Reranker-Modell auszuwählen.
1. Wenn Ihrer Servicerolle von Wissensdatenbanken für Amazon Bedrock die [Berechtigungen zur Verwendung des Reranker-Modells](rerank-prereq.md) fehlen, wählen Sie **Servicerolle aktualisieren** aus, um die Rolle mit den entsprechenden Berechtigungen zu ändern.
1. (Optional) Ändern Sie im Abschnitt **Zusätzliche Reranking-Optionen**, die geändert werden müssen.
1. Geben Sie einen Prompt ein und klicken Sie auf **Ausführen**. Die Antwort ist das Ergebnis nach der Anwendung des Reranker-Modells.
Ausführlichere Anweisungen zur Durchführung von Wissensdatenbankabfragen finden Sie unter [Abrufen einer Wissensdatenbank und Datenabruf](kb-test-retrieve.md) und [So fragen Sie eine Wissensdatenbank ab und generieren Antworten auf Grundlage der abgerufenen Daten](kb-test-retrieve-generate.md).
------
#### [ API ]
Anweisungen zur Verwendung eines Reranker-Modells bei einer Wissensdatenbankabfrage finden Sie unter [Abrufen einer Wissensdatenbank und Datenabruf](kb-test-retrieve.md) und [So fragen Sie eine Wissensdatenbank ab und generieren Antworten auf Grundlage der abgerufenen Daten](kb-test-retrieve-generate.md).
Wenn Sie ein Reranker-Modell direkt mit der Amazon-Bedrock-API verwenden möchten, senden Sie eine [Rerank](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_agent-runtime_Rerank.html)-Anfrage mit einem [Runtime-Endpunkt von Agenten für Amazon Bedrock](https://docs.aws.amazon.com/general/latest/gr/bedrock.html#bra-rt).
Die folgenden Felder sind erforderlich:
****
| Feld | Grundlegende Beschreibung |
| --- | --- |
| queries | Ein Array mit einem [RerankQuery](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_agent-runtime_RerankQuery.html)-Objekt. Geben Sie TEXT als type an und fügen Sie die Abfrage in das Feld textQuery ein. |
| Quellen | Ein Array mit [RerankSource](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_agent-runtime_RerankSource.html)-Objekten, die an das Reranking-Modell übermittelt werden sollen. Geben Sie für jede RerankSource INLINE als type an und fügen Sie ein [RerankDocument](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_agent-runtime_RerankDocument.html)-Objekt in das Feld inlineDocumentSource ein. Im Folgenden finden Sie Einzelheiten zu RerankDocument. |
| rerankingConfiguration | Beinhaltet den Amazon-Ressourcennamen (ARN) des zu verwendenden Reranking-Modells und die Anzahl der Ergebnisse, die nach der Neuordnung zurückgegeben werden sollen, sowie optional Inferenzkonfigurationen für das Modell. Sie geben zusätzliche Modellkonfigurationen als Schlüssel-Wert-Paare an. Weitere Informationen finden Sie unter [Rerank](https://docs.cohere.com/reference/rerank) auf der Website der Cohere-Dokumentation. |
Die folgenden Felder sind optional:
****
| Feld | Anwendungsfall |
| --- | --- |
| nextToken | Ein in einer früheren Antwort zurückgegebenes Token, das Sie einbeziehen können, um den nächsten Ergebnisstapel bereitzustellen. |
Das Format des `RerankSource`-Objekts, das Sie einschließen, hängt vom Format des Dokuments ab. Wenn Sie das Format für verschiedene `RerankSource`-Typen sehen möchten, wählen Sie die Registerkarte aus, die dem Format des Dokuments entspricht:
------
#### [ String ]
Wenn es sich bei dem Dokument um eine Zeichenfolge handelt, geben Sie den Wert des Felds `type` des [RerankDocument](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_agent-runtime_RerankDocument.html)-Objekts mit `TEXT` an und schließen Sie das Dokument in das Feld `text` ein. Zum Beispiel:
```
{
"inlineDocumentSource": {
"textDocument": {
"text": "string"
},
"type": "TEXT"
},
"type": "INLINE"
}
```
------
#### [ JSON object ]
Wenn es sich bei dem Dokument um ein JSON-Objekt handelt, geben Sie den Wert des Felds `type` des [RerankDocument](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_agent-runtime_RerankDocument.html)-Objekts mit `JSON` an und schließen Sie das Dokument in das Feld `jsonDocument` ein. Zum Beispiel:
```
{
"inlineDocumentSource": {
"jsonDocument": JSON value,
"type": "JSON"
},
"type": "INLINE"
}
```
------
Die Antwort auf Ihre `Rerank`-Anfrage gibt eine Liste der [RerankResult](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_agent-runtime_RerankResult.html)-Objekte im Feld `results` zurück. Jedes Objekt enthält die folgenden Felder:
+ `document` – Enthält Informationen zu dem Dokument, das Sie übermittelt haben
+ `relevanceScore` – Eine Relevanzbewertung für das Dokument, die vom Reranking-Modell zugewiesen wurde
+ `index` – Gibt die Rangfolge des Dokuments im Vergleich zu den anderen Dokumenten in der Liste an. Je niedriger die Punktzahl, desto höher die Rangfolge.
Wenn es zu viele Ergebnisse gibt, um angezeigt zu werden, gibt die Antwort einen Wert im Feld `nextToken` zurück. In diesem Fall müssen Sie dieses Token in eine nachfolgende Anfrage aufnehmen, um den nächsten Ergebnisstapel zu sehen.
------