Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.
instancias
Cuando aloja un agente en el tipo de procesamiento Instances, Amazon Bedrock AgentCore Runtime ejecuta su agente en instancias administradas de Amazon EC2 que aprovisiona y opera dentro de su propia AWS cuenta, de modo que obtiene las ventajas de Amazon EC2 en cuanto a la selección de hardware y los precios sin tener que gestionar el ciclo de vida de la instancia, los parches, el escalado o el desmontaje del sistema operativo y del tiempo de ejecución. Un proveedor de capacidad define la infraestructura que utilizan esas instancias y AgentCore gestiona el aprovisionamiento, la aplicación de parches, el escalado y el desmontaje en su nombre. Como las instancias se ejecutan en su cuenta, los datos permanecen en ella, se aplican los controles de cuenta existentes y puede utilizar los acuerdos de precios de EC2, como los planes de ahorro, las instancias reservadas y las reservas de On-Demand capacidad (ODCR). Con las instancias, obtiene un procesamiento persistente y puede ejecutar varios agentes de colaboración en una sola instancia, a la vez que conserva la visibilidad y el control de la infraestructura subyacente.
Temas
¿Cuándo usar las instancias?
Elija el tipo de procesamiento de la instancia cuando su carga de trabajo necesite capacidades superiores a las que ofrece el modelo de microVM sin servidor:
-
Sesiones persistentes y de larga duración: las sesiones pueden durar hasta 14 días, en comparación con un máximo de 8 horas para las micromáquinas virtuales. Esto es adecuado para la automatización de larga duración, los trabajos de transformación y los agentes que se detienen y reanudan durante períodos prolongados.
-
Hardware especializado: elija un tipo de instancia de GPU compatible para cargas de trabajo con uso intensivo de computación, como el renderizado 3D, la simulación o la inferencia de modelos. AgentCore aprovisiona los controladores de GPU de la instancia, de modo que las imágenes de contenedor estándar funcionan sin agrupar los controladores y son compatibles tanto con las cargas de trabajo informáticas (CUDA) como con las gráficas. Para ver las familias compatibles, consulta Cómo usar tipos de instancias de GPU.
-
Multi-agent colaboración: varios agentes pueden ejecutarse en la misma instancia, compartir un sistema de archivos y coordinarse en la misma tarea.
-
Su cuenta, sus controles: las instancias se ejecutan en su cuenta, por lo que los datos permanecen en ella y puede utilizar los mecanismos de costes existentes, como los planes de ahorro y las reservas de On-Demand capacidad (ODCR).
Si tu carga de trabajo es ligera y API-driven la interacción se completa rápidamente, el tipo de procesamiento de microVM predeterminado suele ser el más adecuado. Para obtener más información, consulte Comparar los tipos de procesamiento.
Conceptos clave
Al hospedar un agente en instancias, se incluyen algunos recursos además de los conceptos básicos de tiempo de AgentCore ejecución que se describen en las micromáquinas virtuales.
Proveedor de capacidad
Un proveedor de capacidad define la infraestructura de EC2 en la que se ejecutan los agentes: el sistema operativo, los tipos de instancias permitidos, las redes (VPC y subredes), los volúmenes de almacenamiento y las funciones de IAM que se utilizan para aprovisionar las instancias y acceder a ellas. Un proveedor de capacidad es una plantilla reutilizable: puede asociarla a varios tiempos de ejecución de agentes y AgentCore utilizarla para lanzar instancias cuando se invocan esos tiempos de ejecución.
Características clave:
-
Un proveedor de capacidad se crea en un
CREATINGestado y pasa a serlo unaREADYvez que se valida su configuración. Si la validación falla, entraCREATE_FAILED. -
Una vez creado un proveedor de capacidad, solo se puede editar su descripción. Para cambiar otras configuraciones, duplique el proveedor de capacidad y realice las actualizaciones en el flujo duplicado.
-
Puede enumerar los tiempos de ejecución (y las versiones en tiempo de ejecución) asociados a un proveedor de capacidad y debe desasociarlos antes de poder eliminar el proveedor de capacidad.
-
Al eliminar un proveedor de capacidad, se detienen y se eliminan todas sus sesiones asociadas y su almacenamiento persistente.
Tiempo de ejecución del agente en las instancias
Cuando creas el tiempo de ejecución de un agente, eliges su tipo de procesamiento. Al seleccionar las instancias, se asocia el tiempo de ejecución con un proveedor de capacidad mediante el capacityProviderConfiguration parámetro. El tiempo de ejecución sigue definiendo qué agente se ejecuta (el código o el artefacto contenedor) y cómo se configura (protocolo, autenticación, puntos finales, versiones); el proveedor de capacidad define el procesamiento en el que se ejecuta.
No puedes cambiar el tipo de procesamiento después de crear un tiempo de ejecución.
Session
Una sesión es una instancia EC2 aislada de la que se crea una instancia a partir del proveedor de capacidad de un entorno de ejecución. Cada sesión tiene su propio ciclo de vida y estado persistente, y usted la identifica con una runtimeSessionId que proporciona al invocar. AgentCore crea una sesión en la primera invocación con un identificador de sesión nuevo y la sesión conserva su estado en todas las paradas.
Una sesión dura un máximo de 14 días. Cuando una sesión alcanza esta duración máxima, AgentCore se detiene automáticamente. Termina la instancia EC2 pero conserva los volúmenes persistentes de la sesión. Para reanudar el trabajo después de detener una sesión, vuelva a invocar el motor de ejecución con el mismo comando. runtimeSessionId AgentCore aprovisiona una nueva instancia y vuelve a adjuntar los volúmenes persistentes para que los datos permanezcan intactos. Como la nueva instancia puede lanzarse desde una imagen de máquina actualizada, es posible que una sesión reiniciada se ejecute en una instancia con los parches más recientes. Cuando eliminas una sesión, AgentCore desaprovisiona todo, incluidos los volúmenes persistentes.
Para obtener información sobre el aislamiento de sesiones y el modelo de seguridad multiusuario, consulta el artículo Modelo de seguridad y permisos para las instancias en tiempo de ejecución.
Agente
Un agente es una carga de trabajo que se ejecuta dentro de una sesión. A diferencia del modelo de microVM, en el que un tiempo de ejecución aloja un agente, una sola sesión de instancias puede alojar varios agentes. Cuando dos tiempos de ejecución de agentes comparten el mismo proveedor de capacidad, puede invocarlos con el mismo runtimeSessionId para enviar a ambos agentes a la misma instancia de EC2. Allí, comparten un sistema de archivos y pueden colaborar en la misma tarea.
Descripción de las instancias administradas
Las instancias EC2 que respaldan sus sesiones son instancias administradas por Amazon EC2: AgentCore las aprovisionan y operan en su cuenta en su nombre, por lo que tiene permisos restringidos en comparación con las instancias EC2 estándar. Puede identificarlas mediante el Operator campo de la DescribeInstances salida de EC2 y mediante la etiqueta AgentCore capacidad-provider de la instancia.
No realizas directamente las operaciones estándar del ciclo de vida de EC2 en estas instancias; por ejemplo, no las lanzas, aplicas parches ni las terminas tú mismo. AgentCore administra su ciclo de vida; para eliminarlas, borra el proveedor de capacidad asociado, que detiene y elimina sus sesiones y su almacenamiento persistente. Las instancias administradas se ocultan de forma predeterminada en las vistas de la consola EC2 y en las operaciones de la lista de API; puede cambiarlo con la configuración de visibilidad de los recursos administrados. Permanecen en pleno funcionamiento y se pueden facturar en su cuenta.
Compara los tipos de cómputos
En la siguiente tabla, se comparan los tipos de procesamiento de microVM e instancias para ayudarlo a elegir el más adecuado para su carga de trabajo.
| Característica | MicroVM | instancias |
|---|---|---|
|
El más adecuado para lo siguiente: |
API-driven Agentes livianos que comienzan rápidamente, escalan según demanda y finalizan en cuestión de horas |
Long-runningcargas de trabajo colaborativas, con estado o que requieren GPU o sesiones con varios agentes |
|
Modelo de gestión |
Totalmente AWS administrado, sin servidores, escalable bajo demanda |
AWS administró EC2 en su cuenta; AWS administra los parches y las actualizaciones, con sesiones persistentes |
|
Duración máxima de la sesión |
Hasta 8 horas |
Hasta 14 días |
|
Sistemas operativos |
Contenedores Linux ( |
Linux ( |
|
Red |
|
VPC |
|
Modalidad de agente |
API, CLI |
API, CLI |
|
Agentes por sesión |
Un tiempo de ejecución aloja un agente (1:1) |
Una sesión puede alojar a varios agentes (1:N) |
|
Artefactos compatibles |
Imagen de contenedor y fuente de Amazon S3 |
Imagen del contenedor y fuente de Amazon S3 |
|
Acceso a la GPU |
No compatible |
Elige un tipo de instancia de GPU compatible; los controladores están aprovisionados para ti |
|
Precios |
Consumption-based, facturado por AgentCore |
Las instancias EC2 se ejecutan en su cuenta; utilice sus planes de ahorro y sus ODCR |
|
Modelos y marcos |
Cualquiera |
Cualquiera |
Usa tipos de instancias de GPU
En el caso de las cargas de trabajo con uso intensivo de recursos informáticos, como la inferencia de modelos, el renderizado 3D y el procesamiento multimedia, incluye un tipo de instancia de GPU en los tipos de instancia permitidos por tu proveedor de capacidad. AgentCore aprovisiona los controladores de GPU de la instancia para que no configures las rutas de los dispositivos, los índices de GPU ni las versiones de los controladores, y las imágenes de contenedor estándar (por ejemplo, las imágenes CUDA) funcionan sin agrupar los controladores. Se admiten cargas de trabajo informáticas (CUDA) y gráficas (como Vulkan, EGL y GLX). Cuando se ejecuta más de un agente en la misma instancia, todos los agentes comparten el acceso a sus GPU.
Se admiten las siguientes familias de instancias de GPU y aceleradoras:
-
Familias de GPU NVIDIA:
g4dng5g6g6e,gr6,g6f,gr6f, yg7e. -
AWS familias de aceleradores:
inf2(con tecnología de AWS Inferentia2).
Si incluyes un tipo de instancia aceleradora de una familia que no es compatible, se produce un CreateCapacityProvider error con un ValidationException nombre para el tipo de instancia y una lista de las familias compatibles. Non-accelerator los tipos de instancia no se ven afectados.
Flujo de invocación
La invocación de un agente en tiempo de ejecución respaldado por un proveedor de capacidad sigue el mismo punto de InvokeAgentRuntime entrada que el modelo de microVM. AgentCore resuelve el proveedor de capacidad, garantiza que la instancia y el agente estén en ejecución durante la sesión y envía la solicitud al agente por proxy:
-
Llamas
InvokeAgentRuntimecon el ARN en tiempo de ejecución y un.runtimeSessionId -
Si no existe ninguna sesión para ese identificador de sesión, AgentCore aprovisiona una instancia EC2 del proveedor de capacidad del motor de ejecución en tu cuenta y lanza el agente en ella. La primera invocación de una sesión lleva más tiempo porque incluye el aprovisionamiento de instancias.
-
Si ya existe una sesión, AgentCore reutiliza la instancia en ejecución. Al invocar un segundo tiempo de ejecución que comparte el mismo proveedor de capacidad con el mismo ID de sesión, se lanza ese agente junto con el primero en la misma instancia.
-
AgentCore envía la solicitud por proxy al agente y te devuelve la respuesta. Cada agente se ejecuta con sus propias credenciales de IAM derivadas de su función de ejecución en tiempo de ejecución.
Como el agente se ejecuta en una instancia de su cuenta, la instancia EC2, sus interfaces de red y cualquier volumen persistente están visibles en la consola EC2 de su cuenta y se facturan a su cuenta. Se trata de instancias administradas por Amazon EC2, es decir, instancias que AgentCore aprovisionan y operan en su cuenta en su nombre. Puede controlar si aparecen en las vistas de la consola EC2 y en las operaciones de la lista de API mediante la configuración de visibilidad de los recursos gestionados.
Almacenamiento persistente en todas las sesiones
Un proveedor de capacidad puede definir uno o más volúmenes de Amazon EBS. Al guardar el proveedor de capacidad, AgentCore guarda la configuración del volumen y crea el volumen de EBS en el primer lanzamiento de la sesión. Cuando el tiempo de ejecución de un agente monta un volumen a través de su configuración de almacenamiento, los datos del volumen sobreviven a las paradas de sesión:
-
En la primera invocación de una sesión, AgentCore crea el volumen y lo adjunta a la instancia EC2.
-
Cuando AgentCore detiene la sesión, termina la instancia EC2 pero conserva el volumen.
-
En la siguiente invocación con la misma instancia
runtimeSessionId, AgentCore aprovisiona una nueva instancia y vuelve a adjuntar el volumen existente para que el agente vea intactos los datos anteriores.
Esto permite flujos de trabajo de agentes con estado en los que los archivos, las cachés y los puntos de control del espacio de trabajo persisten cuando se reinicia la sesión. La eliminación de la sesión desaprovisiona los recursos de EC2 (instancia, interfaz de red y volumen de EBS), por lo que deja de incurrir en costos de infraestructura que ya no necesita.
Roles de IAM
El hospedaje de los agentes en las instancias implica las siguientes funciones, además de la función de ejecución del agente en tiempo de ejecución, que otorga al código del agente sus permisos de ejecución:
-
Perfil de instancia: un rol de IAM adjunto a la instancia EC2. AgentCore lo usa para recopilar los registros del sistema de la instancia; no otorga permisos al código del agente (sí lo hace la función de ejecución del agente en tiempo de ejecución).
-
Función de infraestructura: función de IAM que consiste AgentCore en aprovisionar y administrar las instancias EC2 de su cuenta en su nombre (lanzar, etiquetar y configurar las redes para las instancias y sus interfaces de red).
Puede dejar que la consola cree los roles predeterminados para usted o que suministre los roles existentes. Dado que la función de infraestructura permite administrar AgentCore la computación en tu cuenta, asignarle el menor número de privilegios que requieran tus cargas de trabajo y usar las condiciones de IAM para restringirla a VPC, subredes o tipos de instancias específicos, según corresponda.