Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.
nota
La gestión de APIs las sesiones está en versión preliminar y está sujeta a cambios.
La gestión de sesiones le APIs permite guardar puntos de control para mantener conversaciones en curso en aplicaciones generativas de IA creadas con marcos de código abierto, como y. LangGraph LlamaIndex Puede utilizarla APIs para gestionar de forma segura el estado y el contexto de la conversación en flujos de trabajo de IA generativa de varios pasos. No es necesario crear, mantener ni escalar soluciones de back-end personalizadas para mantener el estado y el contexto.
Con la administración de sesiones APIs, puede hacer lo siguiente:
-
Etapas del flujo de trabajo Checkpoint para pruebas y human-in-the-loop flujos de trabajo iterativos.
-
Reanude las conversaciones y las tareas desde el punto de interrupción.
-
Revise los registros de las sesiones para analizar las etapas del flujo de trabajo y depurar los errores.
Como las sesiones son un recurso en Amazon Bedrock, puede controlar el acceso a la sesión con AWS Identity and Access Management (IAM). De forma predeterminada, Amazon Bedrock usa claves AWS administradas para el cifrado de la sesión, incluidos los metadatos de la sesión, o puede usar su propia AWS KMS clave. Para obtener más información, consulte Cifrado de sesión.
Puede crear y gestionar sesiones de Amazon Bedrock con Amazon Bedrock APIs, o. AWS SDKs Para las aplicaciones basadas en LangGraph ellas, puede utilizar la BedrockSessionSaver clase de la langgraph_checkpoint_aws.saver biblioteca. Se trata de una implementación personalizada de LangGraph CheckpointSaver. Para obtener más información, consulte langgraph-checkpoint-aws
nota
Se utiliza una sesión para almacenar el estado y el historial de conversaciones de las aplicaciones generativas de IA creadas con marcos de código abierto. En el caso de los agentes de Amazon Bedrock, el servicio administra automáticamente el contexto de la conversación y lo asocia al SessionID específico del agente que especifique en la operación de la API. InvokeAgent
Temas
Ejemplo de casos de uso
Es posible que tengas una aplicación que utilice un LangGraph agente para ayudar a los clientes a planificar sus itinerarios de viaje. Un usuario puede iniciar una conversación con este agente para crear el itinerario de un próximo viaje y añadir destinos, hoteles preferidos y detalles de vuelos.
Con la administración de sesiones APIs, el agente puede guardar los estados intermedios y el contexto persistente a lo largo de la interacción ampliada de varios pasos. El agente podría utilizar una sesión de Amazon Bedrock para comprobar su estado después de añadir cada destino y conservar los detalles sobre las preferencias del cliente.
Si la conversación se interrumpe o se produce un error, el agente puede reanudar la sesión más tarde con el contexto intacto, incluidos el texto y las imágenes. Esto permite al agente continuar sin necesidad de que el cliente repita la información. Además, en caso de fallo, puede investigar los detalles de la sesión para depurar la causa.
Flujo de trabajo
El flujo de trabajo para usar la administración de sesiones APIs es el siguiente. Para obtener información sobre el uso de la BedrockSessionSaver biblioteca, consulteGestione las sesiones con BedrockSessionSaver LangGraph la biblioteca.
-
Crear una sesión: cuando el usuario final inicia la conversación por primera vez, usted crea una sesión con la operación de la CreateSessionAPI y especifica un ID para la sesión. Este ID se utiliza para almacenar y recuperar el estado de la conversación.
-
Almacene las conversaciones y el contexto: a medida que sus usuarios finales interactúan con su asistente de IA generativa, utilice la CreateInvocationAPI para crear un grupo de interacciones dentro de la sesión. Para cada invocación, usa las operaciones de la PutInvocationStepAPI para almacenar puntos de control de estado detallados, incluidos texto e imágenes, para cada interacción.
-
Recupere el historial y el contexto de la conversación: utilice las operaciones GetSessionListInvocations, y GetInvocationStepAPI para recuperar los metadatos de la sesión y los detalles de las interacciones.
-
Finalizar la sesión: cuando se complete la sesión, finalice la sesión con la operación de la EndSessionAPI. Tras finalizar una sesión, podrás seguir accediendo a su contenido, pero no podrás añadirlo. Para eliminar la sesión y su contenido, se utiliza la operación de DeleteSessionAPI.
Consideraciones
Antes de crear y administrar sesiones, tenga en cuenta lo siguiente:
-
Puede crear y administrar sesiones con Amazon Bedrock APIs y AWS SDKs. No puede usar la consola de AWS administración para administrar las sesiones.
-
En el caso de las aplicaciones de agente integradas LangGraph, puede utilizar la
BedrockSessionSaverclase de lalangchain-awsbiblioteca. Se trata de una implementación personalizada de LangGraph CheckpointSaver. Para obtener información sobre el uso de la BedrockSessionSaver biblioteca, consulteGestione las sesiones con BedrockSessionSaver LangGraph la biblioteca. Para ver el código directamente, consulte langgraph-checkpoint-awsen el LangChain GitHub repositorio. -
Si especificas una AWS KMS clave administrada por el cliente al crear una sesión, el usuario o rol que crea la sesión debe tener permiso para usar la clave. Para obtener más información, Cifrado de sesión.
-
La administración de sesiones APIs tiene las siguientes cuotas:
-
Número de pasos de invocación en una sesión en todas las invocaciones: 1000
-
Tamaño máximo de cada paso de invocación: 50 MB
-
IdleSession Tiempo de espera: 1 hora
-
Periodo de retención: los datos de la sesión se eliminan automáticamente después de 30 días
-
