View a markdown version of this page

Inizia con CloudWatch SageMaker AI Insights - Amazon CloudWatch
Passaggio 1: abilitare l'arricchimento OtelFase 2: Verifica la configurazione dell'endpointPassaggio 3: conferma che l'endpoint è InServiceFase 4: Aprire SageMaker AI InsightsFase 5: Verifica del flusso dei datiAutorizzazioni richieste

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Inizia con CloudWatch SageMaker AI Insights

Segui questi passaggi per abilitare e accedere ad SageMaker AI Insights per i tuoi endpoint di inferenza.

Per la guida alla configurazione completa sull'attivazione di metriche di osservabilità dettagliate sugli endpoint, consulta l'osservabilità dettagliata dell'IA nella SageMaker AI Developer Guide. SageMaker

Passaggio 1: abilita l'arricchimento OTel

SageMaker AI Insights richiede che l'arricchimento delle metriche Otel e i tag delle risorse siano abilitati nel tuo account.

Per abilitare l'arricchimento OTel (console)

  1. Apri la CloudWatch console e scegli Impostazioni.

  2. Abilita l'arricchimento delle metriche OtEL.

  3. Abilita i tag delle risorse per la telemetria.

Per abilitare l'arricchimento OTel con AWS CLI, utilizzare i seguenti comandi.

aws cloudwatch start-otel-enrichment
aws observabilityadmin start-telemetry-enrichment

Passaggio 2: verifica la configurazione dell'endpoint

Assicurati che EnableDetailedObservability sia impostato true su nella configurazione dell'endpoint. Questa è l'impostazione predefinita per i nuovi endpoint.

aws sagemaker describe-endpoint-config --endpoint-config-name name
# Look for "EnableDetailedObservability": true

Se non è abilitato, crea una nuova configurazione dell'endpoint con il flag impostato su true e aggiorna l'endpoint.

Passaggio 3: conferma che l'endpoint è InService

Conferma che il tuo endpoint si trova nello InService stato.

aws sagemaker describe-endpoint --endpoint-name name --query "EndpointStatus"

L'output previsto è"InService".

Passaggio 4: Apri SageMaker AI Insights

Accedi alla dashboard utilizzando uno dei seguenti percorsi.

  • CloudWatch console → Monitoraggio dell'infrastruttura → SageMaker AI Insights

  • SageMaker Console AI → Endpoints → scegli Open SageMaker AI Insights

  • SageMaker Console AI → pagina dei dettagli degli endpoint → scegli Visualizza in SageMaker AI Insights

Passaggio 5: verifica che i dati scorrano

Dopo 2-3 minuti, la dashboard dovrebbe essere compilata con i seguenti dati.

  • Le chiamate contano nella barra di riepilogo

  • Dati relativi alle istanze e ai componenti di inferenza (IC) nella scheda Prestazioni

  • Metriche di utilizzo nella scheda Capacità

Suggerimento

Se vedi Nessun dato, verifica che l'arricchimento OTel sia abilitato e che l'endpoint sia attivo da almeno 2-3 InService minuti.

Autorizzazioni richieste per AI Insights SageMaker

Alcune autorizzazioni IAM sono necessarie per utilizzare SageMaker AI Insights. La seguente policy contiene le autorizzazioni necessarie per utilizzare SageMaker AI Insights.

{
    "Effect": "Allow",
    "Action": [
        "cloudwatch:GetMetricData",
        "cloudwatch:ListMetrics",
        "cloudwatch:DescribeAlarms",
        "sagemaker:DescribeEndpoint",
        "sagemaker:DescribeEndpointConfig",
        "sagemaker:ListEndpoints",
        "sagemaker:ListInferenceComponents"
    ],
    "Resource": "*"
}