Alarmas y registros para rastrear las métricas de los puntos finales sin servidor - Amazon SageMaker

Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.

Alarmas y registros para rastrear las métricas de los puntos finales sin servidor

Para supervisar su terminal sin servidor, puede utilizar CloudWatch las alarmas de Amazon. CloudWatch es un servicio que recopila métricas en tiempo real de sus AWS aplicaciones y recursos. Una alarma vigila las métricas a medida que se recopilan y permite especificar previamente un umbral y las medidas que deberían tomarse en caso de que se supere. Por ejemplo, la CloudWatch alarma puede enviarle una notificación si su terminal supera un umbral de error. Al configurar CloudWatch las alarmas, obtiene visibilidad del rendimiento y la funcionalidad de su terminal. Para obtener más información sobre CloudWatch las alarmas, consulta Uso de CloudWatch alarmas de Amazon en la Guía del CloudWatch usuario de Amazon.

Monitorización con CloudWatch

Las siguientes métricas son una lista exhaustiva de métricas para puntos de conexión sin servidor. Las métricas que no figuran a continuación no se publican para los puntos de conexión sin servidor. Para obtener información sobre las siguientes métricas, consulta Supervisar Amazon SageMaker con Amazon CloudWatch.

Métricas de puntos de conexión comunes

Estas CloudWatch métricas son las mismas que las publicadas para los puntos de enlace en tiempo real.

La OverheadLatency métrica registra toda la latencia adicional que SageMaker se ha agregado, incluida la hora de arranque en frío para el lanzamiento de nuevos recursos de cómputo para su punto final sin servidor. En comparación con los puntos de conexión sin servidor bajo demanda, la OverheadLatency de los puntos de conexión sin servidor con la simultaneidad aprovisionada suele ser significativamente menor.

Los puntos de conexión sin servidor también pueden utilizar las métricas Invocations4XXErrors, Invocations5XXErrors, Invocations, ModelLatency, ModelSetupTime y MemoryUtilization. Para obtener más información sobre estas métricas, consulte SageMaker métricas de invocación de puntos finales.

Métricas de punto de conexión sin servidor

Estas CloudWatch métricas se publican tanto para los terminales sin servidor bajo demanda como para los terminales sin servidor con la simultaneidad aprovisionada.

Nombre de métrica Descripción Unidad/estadísticas
ServerlessConcurrentExecutionsUtilization El número de ejecuciones simultáneas entre la simultaneidad máxima.

Unidades: ninguna

Estadísticas válidas: media, máxima, mínima

Punto de conexión sin servidor con métricas de simultaneidad aprovisionada

Estas CloudWatch métricas se publican para los puntos finales sin servidor con la simultaneidad aprovisionada.

Nombre de métrica Descripción Unidad/estadísticas
ServerlessProvisionedConcurrencyExecutions El número de ejecuciones simultáneas que gestiona el punto de conexión.

Unidades: recuento

Estadísticas válidas: media, máxima, mínima

ServerlessProvisionedConcurrencyUtilization El número de ejecuciones simultáneas por la simultaneidad aprovisionada asignada.

Unidades: ninguna

Estadísticas válidas: media, máxima, mínima

ServerlessProvisionedConcurrencyInvocations El número de solicitudes InvokeEndpoint gestionadas por la simultaneidad aprovisionada.

Unidades: recuento

Estadísticas válidas: media, máxima, mínima

ServerlessProvisionedConcurrencySpilloverInvocations El número de solicitudes de InvokeEndpoint no administradas por la simultaneidad aprovisionada, sino administradas por la inferencia sin servidor bajo demanda.

Unidades: recuento

Estadísticas válidas: media, máxima, mínima

Registros

Si desea supervisar los registros de su punto de conexión para realizar una depuración o un análisis del progreso, puede utilizar Amazon CloudWatch Logs. El grupo SageMaker de registros proporcionado que puede usar para los puntos finales sin servidor es. /aws/sagemaker/Endpoints/[EndpointName] Para obtener más información sobre el uso de CloudWatch Logs in SageMaker, consulte. Registra los grupos y las transmisiones que Amazon SageMaker envía a Amazon CloudWatch Logs Para obtener más información sobre CloudWatch Logs, consulta ¿Qué es Amazon CloudWatch Logs? en la Guía del usuario CloudWatch de Amazon Logs.