

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

# Beispiel: Verwenden Sie Anwendungssignale, um Fehler bei generativen KI-Anwendungen zu beheben, die mit Amazon Bedrock Modellen interagieren
<a name="Services-example-scenario-GenerativeAI"></a>

Sie können Anwendungssignale verwenden, um Fehler bei Ihren generativen KI-Anwendungen zu beheben, die mit Amazon Bedrock Modellen interagieren. Application Signals optimiert diesen Prozess, indem es out-of-the-box Telemetriedaten bereitstellt und so tiefere Einblicke in die Interaktionen Ihrer Anwendung mit LLM-Modellen bietet. Das ist unter anderem für folgende Anwendungsfälle hilfreich:
+ Probleme mit der Konfiguration von Modellen
+ Kosten der Modellnutzung
+ Modell-Latenz
+ Generierung von Modellantworten wurde beendet

[Durch die Aktivierung von Anwendungssignalen](https://docs.aws.amazon.com/AmazonCloudWatch/latest/monitoring/CloudWatch-Application-Signals-Enable.html) mit LLM/GenAI Observability erhalten Sie in Echtzeit Einblick in die Interaktionen Ihrer Anwendung mit den Amazon Bedrock-Services. Application Signals generiert automatisch Leistungskennzahlen und Traces für Amazon Bedrock API-Aufrufe und korreliert diese.

Application Signals unterstützt derzeit die folgenden LLM-Modelle in Amazon Bedrock.
+ AI21 Jamba
+ Amazon Titan
+ Anthropic Claude
+ Cohere Command
+ Meta Llama
+ Mistral AI
+ Nova

## Detaillierte Metriken und Traces
<a name="Services-example-scenario-GenerativeAI-metricandtraces"></a>

Für jeden Amazon Bedrock API-Aufruf generiert Application Signals detaillierte Leistungskennzahlen auf Ressourcenebene, darunter:
+ Modell-ID
+ Integritätsschutz-ID
+ Wissensdatenbank-ID
+ Bedrock-Agent-ID

Darüber hinaus bieten korrelierte Trace-Spans auf derselben Ebene einen umfassenden Überblick über die Ausführung von Anforderungen und ihre Abhängigkeiten.

![Leistungsmetriken unter Verwendung von Application Signals](http://docs.aws.amazon.com/de_de/AmazonCloudWatch/latest/monitoring/images/AppSignalsAIExample.png)


## OpenTelemetry Unterstützung von GenAI-Attributen
<a name="Services-example-scenario-GenerativeAI-OpenTelemetryAISupport"></a>

Application Signals generiert die folgenden GenAI-Attribute für Amazon Bedrock API-Aufrufe mit OpenTelemetry semantischer Konvention. Diese Attribute helfen bei der Analyse der Modellnutzung, der Kosten und der Antwortqualität und können über die [Transaktionssuche](https://docs.aws.amazon.com/AmazonCloudWatch/latest/monitoring/CloudWatch-Transaction-Search.html) genutzt werden, um tiefere Einblicke zu erhalten.
+ gen\_ai.system
+ gen\_ai.request.model
+ gen\_ai.request.max\_tokens
+ gen\_ai.request.temperature
+ gen\_ai.request.top\_p
+ gen\_ai.usage.input\_tokens
+ gen\_ai.usage.output\_tokens
+ gen\_ai.response.finish\_reasons

![GenAI-Attribute unter Verwendung von Application Signals](http://docs.aws.amazon.com/de_de/AmazonCloudWatch/latest/monitoring/images/AppSignalsAIExample_1.png)


Sie können beispielsweise die Analysefunktionen der Transaktionssuche verwenden, um die Token-Nutzung und die Kosten verschiedener LLM-Modelle für denselben Prompt zu vergleichen, was eine kosteneffiziente Modellauswahl ermöglicht.

![GenAI-Attribute unter Verwendung von Application Signals](http://docs.aws.amazon.com/de_de/AmazonCloudWatch/latest/monitoring/images/AppSignalsAIExample_2.png)


Weitere Informationen finden Sie unter [Verbessern Sie die Amazon Bedrock Beobachtbarkeit mit CloudWatch ](https://aws.amazon.com/blogs/mt/improve-amazon-bedrock-observability-with-amazon-cloudwatch-appsignals/) Anwendungssignalen.