Usar IA agêntica com o DynamoDB
O Amazon DynamoDB é um banco de dados sem servidor, NoSQL distribuído e totalmente gerenciado com performance de latência inferior a dez milissegundos em qualquer escala. O DynamoDB é otimizado para workloads de alto throughput e você pode ampliar os recursos por meio da integração com modelos de IA generativa. Usando modelos de IA generativa, você pode trabalhar com dados armazenados em tabelas do DynamoDB em tempo real e criar aplicações que sejam contextualmente conscientes e altamente personalizadas. Também é possível aprimorar a experiência do usuário final aproveitando totalmente seus dados de negócios, de usuários e de aplicações para personalizar suas soluções de IA generativa.
Para obter mais informações sobre a IA generativa e as soluções fornecidas pela AWS para a criação de aplicações de IA generativa, consulte Transforme sua empresa com a IA generativa
O DynamoDB também fornece pesquisa vetorial nativa por meio de índices vetoriais, permitindo armazenar incorporações vetoriais junto com os dados operacionais e executar pesquisas de similaridade com a API SearchVectors, sem um banco de dados de vetores separado. Para obter mais informações, consulte Uso de índices vetoriais no DynamoDB.
Tópicos
Casos de uso de IA generativa para o DynamoDB
O DynamoDB é amplamente usado em aplicações conversacionais baseadas em IA, como chatbots e call centers, desenvolvidas com um modelo de base (FM)
-
Armazenamento de dados da aplicação, como histórico de mensagens do chat, por meio de integrações com LangChain
, LlamaIndex ou um código personalizado. Esse contexto aprimora a experiência do usuário, permitindo que o modelo converse com o usuário. Consulte mais integrações do DynamoDB com frameworks de IA agêntica em Conectores de frameworks de IA para o DynamoDB. -
Criação de uma experiência personalizada para o usuário, aproveitando dados comerciais, como inventário, preços e documentação.
-
Aplicação de dados do usuário, como histórico da web, pedidos anteriores e preferências do usuário, para fornecer respostas personalizadas.
Por exemplo, uma seguradora pode criar um chatbot usando o DynamoDB para fornecer acesso aos dados quase em tempo real para um modelo de IA generativa baseado em geração aumentada via recuperação (RAG). Exemplos desses dados são taxas de hipoteca, preços de produtos, cópia de contratos padrão/em conformidade, histórico da web do usuário e preferências do usuário, tudo em tempo real. A combinação do DynamoDB com RAG adiciona informações detalhadas e atualizadas sobre produtos de seguros e os dados do usuário. Isso enriquece os prompts e as respostas para fornecer aos usuários finais uma experiência precisa, personalizada e quase em tempo real.
Da mesma forma, os clientes do setor de serviços financeiros usam o DynamoDB, as bases de conhecimento do Amazon Bedrock e os agentes do Amazon Bedrock
Pesquisa vetorial para RAG e memória de agentes
As aplicações de IA generativa recuperam contexto por significado: uma aplicação de RAG encontra os documentos mais relevantes para um prompt, e um agente de IA recupera memórias semelhantes à conversa atual. Os índices vetoriais trazem esse recurso nativamente para o DynamoDB. Você armazena incorporações vetoriais como atributos nos itens da tabela, e a API SearchVectors retorna os itens mais semelhantes a um vetor de consulta, classificados pela pontuação de similaridade. Os dados gravados por uma aplicação são os mesmos dados que ela pesquisa, portanto não há um banco de dados de vetores separado para provisionar nem um pipeline de replicação para gerenciar.
Também é possível definir uma chave de partição no esquema de pesquisa de um índice vetorial. Cada pesquisa de similaridade fica então restrita a um único valor de chave de partição, como um ID de locatário, ID de usuário ou ID de sessão do agente. Isso torna os índices vetoriais uma opção natural para RAG multilocatário e memória de agentes por usuário.
Para começar a usar índices vetoriais, consulte os tópicos a seguir:
Blogs de IA generativa para o DynamoDB
Os artigos a seguir apresentam casos de uso detalhados, práticas recomendadas e guias passo a passo para ajudar a utilizar os recursos do DynamoDB na criação de aplicações avançadas com tecnologia de IA.
