View a markdown version of this page

DynamoDB에서 에이전틱 AI 사용 - Amazon DynamoDB
DynamoDB용 생성형 AI 사용 사례RAG 및 에이전트 메모리에 대한 벡터 검색DynamoDB용 생성형 AI 블로그

DynamoDB에서 에이전틱 AI 사용

Amazon DynamoDB는 어떤 규모에서든 10밀리초 미만의 성능을 제공하는 완전 관리형 서버리스 분산형 NoSQL 데이터베이스입니다. DynamoDB는 처리량이 많은 워크로드에 최적화되어 있으며 생성형 AI 모델과 통합하여 기능을 확장할 수 있습니다. 생성형 AI 모델을 사용하면 DynamoDB 테이블에 저장된 데이터를 실시간으로 작업하고 상황에 맞게 인식되고 고도로 맞춤화된 애플리케이션을 구축할 수 있습니다. 또한 비즈니스, 사용자 및 애플리케이션 데이터를 완전하게 활용하여 생성형 AI 솔루션을 사용자 지정함으로써 최종 사용자 경험을 향상할 수 있습니다.

생성형 AI 및 AWS가 생성형 AI 애플리케이션 구축을 지원하는 솔루션에 대해 자세히 알아보려면 생성형 AI를 사용하여 비즈니스 전환을 참조하시기 바랍니다.

또한 DynamoDB는 벡터 인덱스를 통해 네이티브 벡터 검색을 제공하므로 별도의 벡터 데이터베이스 없이 운영 데이터와 함께 벡터 임베딩을 저장하고 SearchVectors API를 사용하여 유사성 검색을 실행할 수 있습니다. 자세한 내용은 DynamoDB에서 벡터 인덱스 사용 섹션을 참조하세요.

주제

DynamoDB용 생성형 AI 사용 사례

DynamoDB는 파운데이션 모델(FM)로 구축된 챗봇 및 고객 상담 센터와 같은 AI 기반 대화형 애플리케이션에 널리 사용됩니다. Amazon Bedrock, Amazon SageMaker AI 또는 기타 모델 공급업체를 통해 FM에 액세스할 수 있습니다. 이러한 애플리케이션은 일반적으로 DynamoDB를 사용하여 3가지 데이터 패턴(애플리케이션 데이터, 비즈니스 데이터 및 사용자 데이터) 전반에서 맞춤화를 개선하고 사용자 경험을 향상시킵니다. 이러한 데이터 패턴의 몇 가지 예는 다음과 같습니다.

  • LangChain, LlamaIndex 또는 사용자 지정 코드와의 통합을 통해 채팅 메시지 기록 등의 애플리케이션 데이터를 저장합니다. 이 컨텍스트를 통해 모델이 사용자와 전후로 대화할 수 있도록 하여 사용자 경험을 향상시킵니다. 에이전틱 AI 프레임워크와의 DynamoDB 통합에 대한 자세한 내용은 DynamoDB용 AI 프레임워크 커넥터 섹션을 참조하세요.

  • 인벤토리, 요금 및 설명서와 같은 비즈니스 데이터를 활용하여 사용자 지정 사용자 환경을 조성합니다.

  • 웹 기록, 과거 주문 및 사용자 기본 설정 등의 사용자 데이터를 적용하여 맞춤화된 답변을 제공합니다.

예를 들어 보험 회사는 DynamoDB로 챗봇을 빌드하여 거의 실시간 데이터에 대한 검색 증강 생성(RAG) 기반 생성형 AI 모델에 대한 액세스를 제공할 수 있습니다. 이러한 데이터의 예로는 실시간 모기지 요금, 제품 요금, 규정 준수/표준 계약 사본, 사용자 웹 기록 및 사용자 기본 설정이 있습니다. DynamoDB를 RAG와 결합하면 보험 상품 및 사용자 데이터에 관한 심층적이고 업데이트된 정보가 추가됩니다. 이렇게 하면 프롬프트와 답변이 강화되어 최종 사용자에게 정확하고 맞춤화된 경험을 거의 실시간으로 제공할 수 있습니다.

마찬가지로 금융 서비스 산업 고객은 DynamoDB, Amazon Bedrock 지식 기반 및 Amazon Bedrock 에이전트를 사용하여 RAG 기반 생성형 AI 애플리케이션을 구축합니다. 이러한 애플리케이션에서는 오픈 소스 수익 보고서 및 통화 스크립트를 사용할 수 있습니다. 또한 사용자별 포트폴리오와 트랜잭션 기록을 사용하여 향후 전망을 포함한 온디맨드 포트폴리오 요약을 만들 수 있습니다.

생성형 AI 애플리케이션은 의미에 따라 컨텍스트를 검색합니다. RAG 애플리케이션은 프롬프트와 가장 관련성이 높은 문서를 찾고 AI 에이전트는 현재 대화와 유사한 메모리를 재현합니다. 벡터 인덱스는 이 기능을 기본적으로 DynamoDB에 제공합니다. 벡터 임베딩을 테이블 항목에 속성으로 저장하면 SearchVectors API는 쿼리 벡터와 가장 유사한 항목을 유사성 점수로 순위를 매겨 반환합니다. 애플리케이션이 쓰는 데이터는 검색하는 데이터이므로 프로비저닝할 별도의 벡터 데이터베이스와 관리할 복제 파이프라인이 없습니다.

벡터 인덱스의 검색 스키마에서 파티션 키를 정의할 수도 있습니다. 그런 다음 각 유사성 검색의 범위가 테넌트 ID, 사용자 ID 또는 에이전트 세션 ID와 같은 단일 파티션 키 값으로 지정됩니다. 따라서 벡터 인덱스는 다중 테넌트 RAG 및 사용자별 에이전트 메모리에 자연스럽게 적합합니다.

벡터 인덱스를 시작하려면 다음 주제를 참조하십시오.

DynamoDB용 생성형 AI 블로그

다음 문서에서는 DynamoDB의 기능을 활용하여 고급 AI 기반 애플리케이션을 구축하는 데 도움이 되는 자세한 사용 사례, 모범 사례 및 단계별 가이드를 제공합니다.