메모리를 사용하여 여러 세션에서 대화형 컨텍스트 유지

메모리는 에이전트가 여러 세션에 걸쳐 대화 컨텍스트를 유지하고 과거 작업 및 동작을 기억할 수 있는 기능을 제공합니다. 기본적으로 에이전트는 단일 세션에서 대화형 컨텍스트를 유지합니다. 에이전트의 메모리를 구성하려면 에이전트의 메모리 설정을 활성화하고 메모리를 유지할 스토리지 기간을 지정합니다.

대화 컨텍스트는 세션 형태로 메모리에 저장되고, 각 세션에는 에이전트를 간접적으로 호출할 때 사용자가 제공하는 세션 식별자(ID)가 부여됩니다. 요청 간에 동일한 세션 ID를 지정하여 동일한 대화를 계속할 수 있습니다.

에이전트에 메모리를 활성화하면, 현재 세션과 sessionId가 동일하고 endSessions가 'true'로 설정된 에이전트를 간접 호출한 경우 또는 에이전트에 대해 구성된 idleSessionTimeout이 시간 초과된 경우 현재 세션이 특정 메모리 컨텍스트와 연결됩니다. 이 메모리 컨텍스트에는 고유한 메모리 식별자가 부여됩니다. 에이전트는 메모리 컨텍스트를 사용하여 저장된 대화 기록 및 대화 요약에 액세스하고 이를 활용하여 응답을 생성합니다.

사용자가 여러 명인 경우, 동일한 사용자에 대해 동일한 메모리 식별자(memoryId)를 제공해야 합니다. 에이전트는 해당 memoryId에 대해 각 사용자의 메모리를 저장하며, 다음번에 동일한 memoryId로 에이전트를 간접 호출할 때 메모리에 저장된 각 세션의 요약이 현재 세션에 로드됩니다.

언제든지 메모리에 액세스하여 메모리에 저장된 세션의 요약 버전을 볼 수 있습니다. 또한 메모리에 저장된 모든 세션을 삭제하여 언제든지 메모리를 지울 수 있습니다.

메모리 요약

에이전트는 메모리 요약을 사용하여 모든 세션을 요약Amazon Bedrock의 고급 프롬프트 템플릿을 사용하여 에이전트의 정확도 향상하는 지침과 함께 파운데이션 모델을 호출합니다. 선택적으로 기본 프롬프트 템플릿을 수정하거나 사용자 지정 구문 분석기를 제공하여 모델 출력을 구문 분석할 수 있습니다.

요약 프로세스는 세션이 종료된 후 비동기 흐름에서 수행되므로 재정의된 템플릿 또는 구문 분석기로 인한 요약 실패에 대한 로그가에 게시됩니다 AWS 계정. 로깅 활성화에 대한 자세한 내용은 섹션을 참조하세요메모리 요약 로그 전송 활성화.

메모리 기간

메모리가 활성화된 경우 에이전트는 최대 365일 동안 메모리에 세션을 유지합니다. 선택적으로 1~365일의 기간을 지정하여 보존 기간을 구성할 수 있습니다. 세션 요약은 이 기간을 초과하면 모두 삭제됩니다.

지원되는 모델

다음을 제외한 모든 모델에서 에이전트에 대한 메모리를 활성화할 수 있습니다.

사용하려는 모델을 해당 리전에서 사용할 수 있는지 확인하세요. 자세한 내용은 모델 지원을 참조하세요 AWS 리전.