Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.
Pruebas de sombra
Con Amazon SageMaker AI, puede evaluar cualquier cambio en su infraestructura de servicio de modelos comparando su rendimiento con la infraestructura actualmente implementada. Esta práctica se conoce como pruebas de sombra. Las pruebas de sombra pueden ayudarle a detectar posibles errores de configuración y problemas de rendimiento antes de que afecten a los usuarios finales. Con la SageMaker IA, no necesita invertir en la creación de una infraestructura de pruebas clandestinas, por lo que puede centrarse en el desarrollo de modelos.
Puede utilizar esta capacidad para validar los cambios en cualquier componente de la variante de producción, es decir, el modelo, el contenedor o la instancia, sin que ello afecte al usuario final. Es útil en situaciones que incluyen, entre otras, las siguientes:
-
Se está planteando promocionar un nuevo modelo que se ha validado fuera de línea para su puesta en producción, pero desea evaluar las métricas de rendimiento operativo, como, por ejemplo, la latencia y la tasa de errores, antes de tomar esta decisión.
-
Se está planteando realizar cambios en el contenedor de la infraestructura de servicio, como, por ejemplo, aplicación de parches a vulnerabilidades o actualizar a versiones más recientes, y desea evaluar el impacto de estos cambios antes de pasar a la fase de producción.
-
Se está planteando cambiar la instancia de ML y desea evaluar el rendimiento de la nueva instancia con las solicitudes de inferencia en tiempo real.
La consola de SageMaker IA proporciona una experiencia guiada para gestionar el flujo de trabajo de las pruebas clandestinas. Puede configurar las pruebas de sombra durante un período de tiempo predefinido, supervisar el progreso de las pruebas a través de un panel en directo, limpiarlas una vez finalizadas y actuar en función de los resultados. Seleccione una variante de producción con la que desee realizar la prueba y la SageMaker IA desplegará automáticamente la nueva variante en modo oculto y le enviará una copia de las solicitudes de inferencia en tiempo real desde el mismo punto final. Solo las respuestas de la variante de producción se devuelven a la aplicación que realiza la llamada. Puede optar por descartar o registrar las respuestas de la variante de sombra para compararlas. Para obtener más información sobre las variantes de producción y sombra, consulte Validación de modelos en producción.
Consulte Creación de una prueba de sombra para obtener instrucciones sobre cómo crear una prueba de sombra.
nota
Determinadas características de los puntos de conexión pueden hacer que el punto de conexión no sea compatible con las pruebas de sombra. Si el punto de conexión utiliza alguna de las siguientes características, no podrá utilizar pruebas de sombra en el punto de conexión, por lo que la solicitud de configurar pruebas de sombra provocará errores de validación.
Inferencia sin servidor
Inferencia asíncrona
Contenedores de Marketplace
Puntos de conexión con varios contenedores
Puntos de conexión multimodelo
Puntos de conexión que utilizan instancias Inf1 (basadas en inferencia)