Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.
Con Amazon SageMaker Partner AI Apps, los usuarios tienen acceso a aplicaciones de desarrollo generativas de IA y aprendizaje automático (ML) creadas, publicadas y distribuidas por proveedores de aplicaciones líderes del sector. Las aplicaciones de IA asociadas están certificadas para funcionar con IA. SageMaker Con las aplicaciones de IA de Partner, los usuarios pueden acelerar y mejorar la forma en que crean soluciones basadas en modelos básicos (FM) y modelos clásicos de aprendizaje automático sin comprometer la seguridad de sus datos confidenciales. Los datos permanecen completamente dentro de su configuración de seguridad de confianza y nunca se comparten con terceros.
Funcionamiento
Las aplicaciones de IA asociadas son paquetes completos de aplicaciones que incluyen un clúster de Amazon Elastic Kubernetes Service y una variedad de servicios complementarios que pueden incluir Application Load Balancer, Amazon Relational Database Service, depósitos de Amazon Simple Storage Service, colas de Amazon Simple Queue Service y Redis cachés.
Estas aplicaciones de servicio se pueden compartir entre todos los usuarios de un dominio de SageMaker IA y las aprovisiona un administrador. Tras aprovisionar la aplicación mediante la compra de una suscripción a través de AWS Marketplace, el administrador puede conceder a los usuarios del dominio de SageMaker IA permisos para acceder a la aplicación de IA asociada directamente desde Amazon SageMaker Studio, Amazon SageMaker Unified Studio (versión preliminar) o mediante una URL prefirmada. Para obtener información sobre cómo lanzar una aplicación desde Studio, consulte. Lanza Amazon SageMaker Studio
Partner AI Apps ofrece las siguientes ventajas a los administradores y usuarios.
-
Los administradores utilizan la consola de SageMaker IA para explorar, descubrir, seleccionar y aprovisionar las aplicaciones de IA asociadas para que las utilicen sus equipos de ciencia de datos y aprendizaje automático. Una vez implementadas las aplicaciones de IA asociadas, la SageMaker IA las ejecuta en un servicio Cuentas de AWS gestionado. Esto reduce significativamente la sobrecarga operativa asociada a la creación y el funcionamiento de estas aplicaciones, y contribuye a la seguridad y privacidad de los datos de los clientes.
-
Los científicos de datos y los desarrolladores de aprendizaje automático pueden acceder a las aplicaciones de IA asociadas desde su entorno de desarrollo de aprendizaje automático en Amazon SageMaker Studio o Amazon SageMaker Unified Studio (versión preliminar). Pueden usar las aplicaciones de IA asociadas para analizar sus datos, experimentos y modelos creados con SageMaker IA. Esto minimiza el cambio de contexto y ayuda a acelerar la creación de modelos básicos y la introducción en el mercado de nuevas capacidades generativas de IA.
Integración con Servicios de AWS
Partner AI Apps utiliza la configuración existente AWS Identity and Access Management (IAM) para la autorización y la autenticación. Como resultado, los usuarios no necesitan proporcionar credenciales independientes para acceder a cada aplicación de IA asociada desde Amazon SageMaker Studio. Para obtener más información sobre la autorización y la autenticación con las aplicaciones de IA asociadas, consulteConfigure aplicaciones de IA asociadas.
Partner AI Apps también se integra Amazon CloudWatch para proporcionar supervisión y gestión operativas. Los clientes también pueden explorar las aplicaciones de IA de nuestros socios y obtener información sobre ellas, como sus funciones, experiencia de cliente y precios, en el AWS Management Console. Para obtener más información Amazon CloudWatch, consulte Cómo Amazon CloudWatch funciona.
Tipos admitidos
Las aplicaciones de IA asociadas son compatibles con los siguientes tipos:
-
Comet
-
Deepchecks
-
Fiddler
-
Lakera Guard
Cuando el administrador lanza una aplicación de IA asociada, debe seleccionar la configuración del clúster de instancias con el que se lanza la aplicación de IA asociada. Esta configuración se conoce como nivel de la aplicación de IA asociada. El nivel de una aplicación de IA asociada puede tener uno de los siguientes valores:
-
small -
medium -
large
En las siguientes secciones se proporciona información sobre cada uno de los tipos de aplicaciones de IA asociadas y detalles sobre los valores de los niveles de la aplicación de IA asociada.
Comet proporciona una plataforma de evaluación de end-to-end modelos para desarrolladores de IA, con evaluaciones de maestría, seguimiento de experimentos y supervisión de la producción.
Recomendamos los siguientes niveles de aplicaciones de IA asociadas en función de la carga de trabajo:
-
small— Se recomienda para un máximo de 5 usuarios y 20 trabajos en ejecución. -
medium— Recomendado para un máximo de 50 usuarios y 100 trabajos en ejecución. -
large— Recomendado para un máximo de 500 usuarios y más de 100 trabajos en ejecución.
nota
SageMaker La IA no admite la visualización del Comet La interfaz de usuario forma parte de la salida de un cuaderno Jupyter.
Los desarrolladores de aplicaciones de IA y las partes interesadas pueden utilizar Deepchecks para validar continuamente las aplicaciones basadas en la LLM, incluidas las características, las métricas de rendimiento y los posibles problemas a lo largo de todo su ciclo de vida, desde la fase previa al despliegue y la experimentación interna hasta la producción.
Recomendamos los siguientes niveles de aplicaciones de IA asociadas en función de la velocidad deseada para la carga de trabajo:
-
small— Procesa 200 fichas por segundo. -
medium— Procesa 500 fichas por segundo. -
large— Procesa 1300 fichas por segundo.
La Fiddler La plataforma AI Observability facilita la validación, la supervisión y el análisis de los modelos de aprendizaje automático en producción, incluidos los modelos tabulares, de aprendizaje profundo, de visión artificial y de procesamiento del lenguaje natural.
Recomendamos los siguientes niveles de aplicaciones de IA asociadas en función de la velocidad deseada para la carga de trabajo:
-
small— El procesamiento de 10 millones de eventos en 5 modelos, 100 funciones y 20 iteraciones tarda unos 53 minutos. -
medium— El procesamiento de eventos de 10 mm en 5 modelos, 100 funciones y 20 iteraciones tarda unos 23 minutos. -
large— El procesamiento de eventos de 10 mm en 5 modelos, 100 funciones y 100 iteraciones tarda unos 27 minutos.
Lakera Guard es un firewall de aplicaciones de IA de baja latencia que protege las aplicaciones generativas de IA frente a las amenazas específicas de cada generación.
Recomendamos los siguientes niveles de aplicaciones de IA asociadas en función de la carga de trabajo:
-
small— Recomendado para un máximo de 20 automatizaciones de procesos robóticos (RPAs). -
medium— Recomendado para un máximo de 100 RPAs. -
large— Recomendado para un máximo de 200 personas RPAs.
