Soluzione per il monitoraggio delle applicazioni Kafka con Amazon Managed Grafana

Il tuo spazio di lavoro Amazon Managed Service for Prometheus per archiviare i parametri di Kafka e Java Virtual Machine () dal tuo cluster Amazon. JVM EKS

Raccolta di parametri e JVM parametri specifici su Kafka utilizzando l'agente, oltre a un componente aggiuntivo dell'agente. CloudWatch CloudWatch Le metriche sono configurate per essere inviate all'area di lavoro Amazon Managed Service for Prometheus.

Il tuo spazio di lavoro Amazon Managed Grafana per raccogliere questi parametri e creare dashboard per aiutarti a monitorare il tuo cluster.

Accesso agli spazi di lavoro Amazon Managed Grafana da parte degli utenti. Per ulteriori informazioni sui prezzi, consulta i prezzi di Amazon Managed Grafana.

Acquisizione e archiviazione delle metriche di Amazon Managed Service for Prometheus e analisi dei parametri (elaborazione di esempi di query). Il numero di parametri utilizzati da questa soluzione dipende dalla configurazione e dall'utilizzo dell'applicazione.

Puoi visualizzare i parametri di ingestione e archiviazione in Amazon Managed Service for Prometheus utilizzando Per CloudWatch ulteriori informazioni, consulta i parametri CloudWatchnella Guida per l'utente di Amazon Managed Service for Prometheus.

Puoi stimare il costo utilizzando il calcolatore dei prezzi nella pagina dei prezzi di Amazon Managed Service for Prometheus. Il numero di parametri dipenderà dal numero di nodi del cluster e dai parametri prodotti dalle applicazioni.

Costi di rete. È possibile che vengano addebitati costi AWS di rete standard per diverse zone di disponibilità, regioni o altro traffico.

jvm.classes.loaded

jvm.gc.collections.count

jvm.gc.collections.è trascorso

jvm.memory.heap.init

jvm.memory.heap.max

jvm.memory.heap.used

jvm.memory.heap.committed

jvm.memory.nonheap.init

jvm.memory.nonheap.max

jvm.memory.nonheap.used

jvm.memory.nonheap.committed

jvm.memory.pool.init

jvm.memory.pool.max

jvm.memory.pool.used

jvm.memory.pool.committed

jvm.threads.count

kafka.message.count

kafka.request.count

kafka.request.fallito

kafka.request.time.total

kafka.request.time.50p

kafka.request.time.99p

kafka.request.time.avg

kafka.network.io

kafka.purgatory.size

kafka.partition.count

kafka.partition.offline

kafka.partition.under_replicated

kafka.isr.operation.count

kafka.max.lag

kafka.controller.active.count

kafka.leader.election.rate

kafka.unclean.election.rate

kafka.request.queue

kafka.logs.flush.time.count

kafka.logs.flush.time.median

kafka.logs.flush.time.99p

kafka.consumer.fetch-rate

kafka.consumer. records-lag-max

kafka.consumer.total. bytes-consumed-rate

kafka.consumer.total. fetch-size-avg

kafka.consumer.total. records-consumed-rate

kafka.consumer. bytes-consumed-rate

kafka.consumer. fetch-size-avg

kafka.consumer. records-consumed-rate

kafka.producer. io-wait-time-ns-media

kafka.producer. outgoing-byte-rate

kafka.producer. request-latency-avg

kafka.producer.request-rate

kafka.producer.response-rate

kafka.producer.byte-rate

kafka.producer.compression-rate

kafka.producer. record-error-rate

kafka.producer. record-retry-rate

kafka.producer. record-send-rate

È necessario completare tutti i prerequisiti prima di installare la soluzione.

Il cluster deve contenere almeno un nodo prima di tentare di creare la soluzione o accedere alle metriche.

Nel EKS cluster Amazon devono essere installati AWS CNI CoreDNS kube-proxy i componenti aggiuntivi. Se non sono installati, la soluzione non funzionerà correttamente. Vengono installati per impostazione predefinita, quando si crea il cluster tramite la console. Potrebbe essere necessario installarli se il cluster è stato creato tramite un AWS SDK.

L'installazione EKS di Amazon pod è scaduta. Questo può accadere se la capacità disponibile dei nodi non è sufficiente. Le cause di questi problemi sono molteplici, tra cui:

Non vedi alcuna dashboard in Grafana: stai usando l'ID dell'area di lavoro Grafana errato.

Esegui il seguente comando per ottenere informazioni su Grafana:

kubectl describe grafanas external-grafana -n grafana-operator

Puoi controllare i risultati per l'area di lavoro URL corretta. Se non è quello che ti aspetti, esegui nuovamente la distribuzione con l'ID dell'area di lavoro corretto.

Spec:
  External:
    API Key:
      Key:   GF_SECURITY_ADMIN_APIKEY
      Name:  grafana-admin-credentials
    URL:     https://g-123example.grafana-workspace.aws-region.amazonaws.com
Status:
  Admin URL:  https://g-123example.grafana-workspace.aws-region.amazonaws.com
  Dashboards:
    ...

Non vedi alcun pannello di controllo in Grafana: stai utilizzando una API chiave scaduta.

Per cercare questo caso, è necessario contattare l'operatore grafana e verificare la presenza di errori nei log. Ottieni il nome dell'operatore Grafana con questo comando:

kubectl get pods -n grafana-operator

Questo restituirà il nome dell'operatore, ad esempio:

NAME                               READY   STATUS    RESTARTS   AGE
grafana-operator-1234abcd5678ef90   1/1     Running   0          1h2m

Utilizzate il nome dell'operatore nel seguente comando:

kubectl logs grafana-operator-1234abcd5678ef90 -n grafana-operator

Messaggi di errore come i seguenti indicano una API chiave scaduta:

ERROR   error reconciling datasource    {"controller": "grafanadatasource", "controllerGroup": "grafana.integreatly.org", "controllerKind": "GrafanaDatasource", "GrafanaDatasource": {"name":"grafanadatasource-sample-amp","namespace":"grafana-operator"}, "namespace": "grafana-operator", "name": "grafanadatasource-sample-amp", "reconcileID": "72cfd60c-a255-44a1-bfbd-88b0cbc4f90c", "datasource": "grafanadatasource-sample-amp", "grafana": "external-grafana", "error": "status: 401, body: {\"message\":\"Expired API key\"}\n"}
github.com/grafana-operator/grafana-operator/controllers.(*GrafanaDatasourceReconciler).Reconcile

In questo caso, crea una nuova API chiave e distribuisci nuovamente la soluzione. Se il problema persiste, puoi forzare la sincronizzazione utilizzando il seguente comando prima della ridistribuzione:

kubectl delete externalsecret/external-secrets-sm -n grafana-operator

Parametro mancante. SSM Se vedi un errore come il seguente, esegui cdk bootstrap e riprova.

Deployment failed: Error: aws-observability-solution-kafka-eks-$EKS_CLUSTER_NAME: SSM 
parameter /cdk-bootstrap/xxxxxxx/version not found. Has the environment been 
bootstrapped? Please run 'cdk bootstrap' (see https://docs.aws.amazon.com/cdk/latest/
guide/bootstrapping.html)