View a markdown version of this page

搭配 DynamoDB 使用代理式 AI - Amazon DynamoDB

本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。

搭配 DynamoDB 使用代理式 AI

Amazon DynamoDB 是無伺服器、全受管的分散式 NoSQL 資料庫,具有任何規模的單一位數毫秒效能。DynamoDB 已針對高輸送量工作負載進行最佳化,您可以整合生成式 AI 模型來擴展其功能。使用生成式 AI 模型,您可以即時處理存放在 DynamoDB 資料表中的資料,並建置內容感知及高度個人化的應用程式。您也可以徹底運用業務、使用者和應用程式資料,自訂生成式 AI 解決方案,以強化最終使用者體驗。

如需有關 gen AI 和 解決方案 AWS 提供以建置 gen AI 應用程式的詳細資訊,請參閱使用生成式 AI 轉換您的業務

DynamoDB 也透過向量索引提供原生向量搜尋,因此您可以將向量內嵌與操作資料一起存放,並使用 SearchVectors API 執行相似性搜尋,而無需單獨的向量資料庫。如需詳細資訊,請參閱在 DynamoDB 中使用向量索引

DynamoDB 的生成式 AI 使用案例

DynamoDB 廣泛用於 AI 支援的對話式應用程式中,例如使用基礎模型 (FM) 建置的聊天機器人和客服中心。您可以透過 Amazon Bedrock、Amazon SageMaker AI 或其他模型供應商存取 FM。這類應用程式通常會使用 DynamoDB 來提升個人化效果,並強化應用程式資料、業務資料及使用者資料這三種資料模式的使用者體驗。以下是這些資料模式的範例:

  • 透過整合 LangChainLlamaIndex 或自訂程式碼,來儲存應用程式資料,例如聊天訊息歷程記錄。此內容可讓模型和使用者互相交談以強化使用者體驗。如需代理式 AI 架構的更多 DynamoDB 整合,請參閱 DynamoDB 的 AI 架構連接器

  • 利用庫存、定價和文件等業務資料,建立自訂使用者體驗。

  • 套用使用者資料,例如 Web 歷史記錄、過去的訂單和使用者偏好設定,以提供個人化的答案。

例如,保險公司可以使用 DynamoDB 建置聊天機器人,供檢索增強生成 (RAG) 型 AI 模型近即時存取資料。此類資料的範例包括即時貸款利率、產品定價、合規/標準合約副本、使用者 Web 歷史記錄和使用者偏好設定。結合 DynamoDB 與 RAG,可新增保險產品和使用者資料的深入及更新資訊。如此可讓提示和答案更豐富,為最終使用者提供準確、個人化且近乎即時的體驗。

同樣地,金融服務產業客戶可使用 DynamoDB、Amazon Bedrock 知識庫Amazon Bedrock 代理程式,來建置 RAG 型生成式 AI 應用程式。這些應用程式可以使用開源營利報告和通話文字記錄。亦可運用使用者特定的產品組合和交易歷史記錄,來產生產品組合隨選摘要,包括未來的前景。

生成式 AI 應用程式透過意義來擷取內容:RAG 應用程式會尋找與提示最相關的文件,而 AI 代理程式會回收與目前對話類似的記憶體。向量索引將此功能原生帶入 DynamoDB。您可以將向量內嵌儲存為資料表項目上的屬性,而 SearchVectors API 會傳回與查詢向量最相似的項目,並依相似度分數排名。應用程式寫入的資料是其搜尋的資料,因此無需佈建單獨的向量資料庫,也無需管理複寫管道。

您也可以在向量索引的搜尋結構描述中定義分割區索引鍵。然後,每個相似性搜尋都會範圍限定為單一分割區索引鍵值,例如租戶 ID、使用者 ID 或客服人員工作階段 ID。這使得向量索引非常適合多租戶 RAG 和每個使用者代理程式記憶體。

若要開始使用向量索引,請參閱下列主題:

DynamoDB 的生成式 AI 部落格

下列文章提供詳細的使用案例、最佳實務和逐步指南,協助您利用 DynamoDB 功能來建置進階的 AI 驅動應用程式。