Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.
Note
La gestion APIs des sessions est en avant-première et est sujette à modification.
La gestion des sessions vous APIs permet d'enregistrer des points de contrôle pour les conversations en cours dans des applications d'IA génératives conçues avec des frameworks open source, tels que LangGraph et. LlamaIndex Vous pouvez l'utiliser APIs pour gérer en toute sécurité l'état et le contexte des conversations dans le cadre de flux de travail d'IA générative en plusieurs étapes. Il n'est pas nécessaire de créer, de gérer ou de dimensionner des solutions dorsales personnalisées pour garantir la persistance de l'état et du contexte.
Grâce à la gestion des sessions APIs, vous pouvez effectuer les opérations suivantes :
-
Étapes du flux de travail Checkpoint pour les tests itératifs et human-in-the-loop les flux de travail.
-
Reprenez les conversations et les tâches à partir du point d'interruption.
-
Consultez les journaux de session pour analyser les étapes du flux de travail et les échecs de débogage.
Les sessions étant une ressource dans Amazon Bedrock, vous pouvez contrôler l'accès à la session avec AWS Identity and Access Management (IAM). Par défaut, Amazon Bedrock utilise des clés AWS gérées pour le chiffrement de session, y compris les métadonnées de session, ou vous pouvez utiliser votre propre AWS KMS clé. Pour de plus amples informations, veuillez consulter Chiffrement de session.
Vous pouvez créer et gérer des sessions Amazon Bedrock avec Amazon Bedrock APIs, ou. AWS SDKs Pour les applications basées sur LangGraph, vous pouvez utiliser la BedrockSessionSaver classe de la langgraph_checkpoint_aws.saver bibliothèque. Il s'agit d'une implémentation personnalisée du LangGraph CheckpointSaver. Pour plus d'informations, consultez langgraph-checkpoint-aws
Note
Vous utilisez une session pour stocker l'état et l'historique des conversations pour les applications d'IA générative conçues avec des frameworks open source. Pour les agents Amazon Bedrock, le service gère automatiquement le contexte des conversations et les associe au SessionID spécifique à l'agent que vous spécifiez dans l'opération d'API. InvokeAgent
Rubriques
Créez une session pour préparer le stockage de l'historique et du contexte des conversations
Stocker l'historique et le contexte des conversations dans une session
Récupérer l'historique et le contexte des conversations à partir d'une session
Mettre fin à une session lorsque l'utilisateur met fin à la conversation
Exemple de cas d'utilisation
Vous avez peut-être une application qui fait appel à un LangGraph agent pour aider les clients à planifier leurs itinéraires de voyage. Un utilisateur peut entamer une conversation avec cet agent pour créer l'itinéraire d'un prochain voyage, en ajoutant des destinations, des hôtels préférés et les détails du vol.
Grâce à la gestion des sessions APIs, l'agent peut enregistrer des états intermédiaires et un contexte persistant tout au long de l'interaction étendue en plusieurs étapes. L'agent peut utiliser une session Amazon Bedrock pour vérifier son état après l'ajout de chaque destination, en préservant les informations relatives aux préférences du client.
Si la conversation est interrompue ou échoue, l'agent peut reprendre la session ultérieurement avec le contexte intact, y compris le texte et les images. Cela permet à l'agent de continuer sans obliger le client à répéter les informations. De plus, en cas d'échec, vous pouvez examiner les détails de la session pour en déterminer la cause.
Flux de travail
Le flux de travail pour utiliser la gestion de session APIs est le suivant. Pour plus d'informations sur l'utilisation de la BedrockSessionSaver bibliothèque, consultezGérer les sessions avec BedrockSessionSaver LangGraph la bibliothèque.
-
Création d'une session : lorsque votre utilisateur final lance la conversation pour la première fois, vous créez une session avec l'opération CreateSessionAPI et vous spécifiez un identifiant pour la session. Vous utilisez cet identifiant lorsque vous enregistrez et récupérez l'état de la conversation.
-
Stockez les conversations et le contexte : lorsque vos utilisateurs finaux interagissent avec votre assistant d'IA générative, utilisez l'CreateInvocationAPI pour créer un groupe d'interactions au sein de la session. Pour chaque appel, utilisez les opérations de l'PutInvocationStepAPI pour stocker des points de contrôle d'état précis, y compris du texte et des images, pour chaque interaction.
-
Récupérez l'historique et le contexte des conversations : utilisez les opérations GetSessionListInvocations, et GetInvocationStepAPI pour récupérer les métadonnées de session et les détails des interactions.
-
Fin de session — Lorsque la session est terminée, mettez-la fin à l'opération EndSessionAPI. Une fois que vous avez terminé une session, vous pouvez toujours accéder à son contenu, mais vous ne pouvez pas y ajouter de contenu. Pour supprimer la session et son contenu, vous devez utiliser l'opération DeleteSessionAPI.
Considérations
Avant de créer et de gérer des sessions, notez les points suivants :
-
Vous pouvez créer et gérer des sessions avec Amazon Bedrock APIs et AWS SDKs. Vous ne pouvez pas utiliser la console AWS de gestion pour gérer les sessions.
-
Pour les applications d'agent basées sur LangGraph, vous pouvez utiliser la
BedrockSessionSaverclasse de lalangchain-awsbibliothèque. Il s'agit d'une implémentation personnalisée du LangGraph CheckpointSaver. Pour plus d'informations sur l'utilisation de la BedrockSessionSaver bibliothèque, consultezGérer les sessions avec BedrockSessionSaver LangGraph la bibliothèque. Pour consulter le code directement, consultez langgraph-checkpoint-awsle LangChain GitHub référentiel. -
Si vous spécifiez une AWS KMS clé gérée par le client lorsque vous créez une session, l'utilisateur ou le rôle qui crée la session doit être autorisé à utiliser la clé. Pour plus d’informations, consultez Chiffrement de session.
-
La gestion des sessions APIs a les quotas suivants :
-
Nombre d'étapes d'invocation dans une session, toutes invocations confondues : 1 000
-
Taille maximale de chaque étape d'invocation : 50 Mo
-
IdleSession Délai d'attente : 1 heure
-
Période de conservation — Les données de session sont automatiquement supprimées après 30 jours
-
