DynamoDB에서 생성형 AI 사용 - Amazon DynamoDB
DynamoDB용 생성형 AI 사용 사례

DynamoDB에서 생성형 AI 사용

Amazon DynamoDB는 모든 규모에서 10밀리초 미만의 성능을 제공하는 서버리스, NoSQL, 완전관리형 데이터베이스입니다. DynamoDB는 처리량이 많은 워크로드에 최적화되어 있으며 생성형 AI 모델과 통합하여 기능을 확장할 수 있습니다. 생성형 AI 모델을 사용하면 DynamoDB 테이블에 저장된 데이터를 실시간으로 작업하고 상황에 맞게 인식되고 고도로 맞춤화된 애플리케이션을 구축할 수 있습니다. 또한 비즈니스, 사용자 및 애플리케이션 데이터를 완전하게 활용하여 생성형 AI 솔루션을 사용자 지정함으로써 최종 사용자 경험을 향상할 수 있습니다.

생성형 AI 및 AWS가 생성형 AI 애플리케이션 구축을 지원하는 솔루션에 대해 자세히 알아보려면 생성형 AI를 사용하여 비즈니스 전환을 참조하시기 바랍니다.

주제

DynamoDB용 생성형 AI 사용 사례

DynamoDB는 파운데이션 모델(FM)로 구축된 챗봇 및 고객 상담 센터와 같은 AI 기반 대화형 애플리케이션에 널리 사용됩니다. Amazon Bedrock, Amazon SageMaker 또는 기타 모델 공급자를 통해 FM에 액세스할 수 있습니다. 이러한 애플리케이션은 일반적으로 DynamoDB를 사용하여 3가지 데이터 패턴(애플리케이션 데이터, 비즈니스 데이터 및 사용자 데이터) 전반에서 맞춤화를 개선하고 사용자 경험을 향상시킵니다. 이러한 데이터 패턴의 몇 가지 예는 다음과 같습니다.

  • LangChain, LlamaIndex 또는 사용자 지정 코드와의 통합을 통해 채팅 메시지 기록 등의 애플리케이션 데이터를 저장합니다. 이 컨텍스트를 통해 모델이 사용자와 전후로 대화할 수 있도록 하여 사용자 경험을 향상시킵니다.

  • 인벤토리, 요금 및 설명서와 같은 비즈니스 데이터를 활용하여 사용자 지정 사용자 환경을 조성합니다.

  • 웹 기록, 과거 주문 및 사용자 기본 설정 등의 사용자 데이터를 적용하여 맞춤화된 답변을 제공합니다.

예를 들어 보험 회사는 DynamoDB로 챗봇을 빌드하여 거의 실시간 데이터에 대한 검색 증강 생성(RAG) 기반 생성형 AI 모델에 대한 액세스를 제공할 수 있습니다. 이러한 데이터의 예로는 실시간 모기지 요금, 제품 요금, 규정 준수/표준 계약 사본, 사용자 웹 기록 및 사용자 기본 설정이 있습니다. DynamoDB를 RAG와 결합하면 보험 상품 및 사용자 데이터에 관한 심층적이고 업데이트된 정보가 추가됩니다. 이렇게 하면 프롬프트와 답변이 강화되어 최종 사용자에게 정확하고 맞춤화된 경험을 거의 실시간으로 제공할 수 있습니다.

마찬가지로 금융 서비스 산업 고객은 DynamoDB, Amazon Bedrock 지식 기반 및 Amazon Bedrock 에이전트를 사용하여 RAG 기반 생성형 AI 애플리케이션을 구축합니다. 이러한 애플리케이션에서는 오픈 소스 수익 보고서 및 통화 스크립트를 사용할 수 있습니다. 또한 사용자별 포트폴리오와 트랜잭션 기록을 사용하여 향후 전망을 포함한 온디맨드 포트폴리오 요약을 만들 수 있습니다.