세션 관리 APIs 사용하여 대화 기록 및 컨텍스트 저장 및 검색

기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

세션 관리 APIs를 사용하면 LangGraph 및 LlamaIndex와 같은 오픈 소스 프레임워크로 구축된 생성형 AI 애플리케이션에서 지속적인 대화를 위한 체크포인트를 저장할 수 있습니다. APIs를 사용하여 다단계 생성형 AI 워크플로에서 상태 및 대화 컨텍스트를 안전하게 관리할 수 있습니다. 상태 및 컨텍스트 지속성을 위해 사용자 지정 백엔드 솔루션을 구축, 유지 관리 또는 확장할 필요가 없습니다.

세션 관리 APIs를 사용하여 다음을 수행할 수 있습니다.

세션은 Amazon Bedrock의 리소스이므로 AWS Identity and Access Management (IAM)을 사용하여 세션에 대한 액세스를 제어할 수 있습니다. 기본적으로 Amazon Bedrock은 세션 메타데이터를 포함한 세션 암호화에 AWS관리형 키를 사용하거나 자체 AWS KMS 키를 사용할 수 있습니다. 자세한 내용은 세션 암호화 단원을 참조하십시오.

Amazon Bedrock APIs 또는 AWS SDKs. LangGraph 기반 애플리케이션의 경우 langgraph_checkpoint_aws.saver 라이브러리의 BedrockSessionSaver 클래스를 사용할 수 있습니다. 이는 LangGraph CheckpointSaver의 사용자 지정 구현입니다. 자세한 내용은 LangChain GitHub 리포지토리의 langgraph-checkpoint-aws를 참조하세요.

사용 사례 예제

고객이 여행 일정을 계획하는 데 도움이 되도록 LangGraph 에이전트를 사용하는 애플리케이션이 있을 수 있습니다. 사용자는이 에이전트와 대화를 시작하여 예정된 여행의 여정을 생성하고 목적지, 선호 호텔 및 항공편 세부 정보를 추가할 수 있습니다.

세션 관리 APIs를 사용하면 에이전트가 확장된 다단계 상호 작용 전반에 걸쳐 중간 상태 및 영구 컨텍스트를 저장할 수 있습니다. 에이전트는 Amazon Bedrock 세션을 사용하여 각 대상이 추가된 후 상태를 체크포인트하여 고객의 기본 설정에 대한 세부 정보를 보존할 수 있습니다.

대화가 중단되거나 실패하면 에이전트는 나중에 텍스트 및 이미지를 포함하여 컨텍스트가 그대로 유지된 상태로 세션을 재개할 수 있습니다. 이렇게 하면 고객이 정보를 반복할 필요 없이 에이전트가 계속할 수 있습니다. 또한 실패할 경우 세션 세부 정보를 조사하여 원인을 디버깅할 수 있습니다.

워크플로

세션 관리 APIs를 사용하는 워크플로는 다음과 같습니다. BedrockSessionSaver 라이브러리 사용에 대한 자세한 내용은 섹션을 참조하세요BedrockSessionSaver LangGraph 라이브러리를 사용하여 세션 관리.

고려 사항

세션을 생성하고 관리하기 전에 다음 사항에 유의하세요.