本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。
搭配 DynamoDB 使用代理式 AI
Amazon DynamoDB 是無伺服器、全受管的分散式 NoSQL 資料庫,具有任何規模的單一位數毫秒效能。DynamoDB 已針對高輸送量工作負載進行最佳化,您可以整合生成式 AI 模型來擴展其功能。使用生成式 AI 模型,您可以即時處理存放在 DynamoDB 資料表中的資料,並建置內容感知及高度個人化的應用程式。您也可以徹底運用業務、使用者和應用程式資料,自訂生成式 AI 解決方案,以強化最終使用者體驗。
如需有關 gen AI 和 解決方案 AWS 提供以建置 gen AI 應用程式的詳細資訊,請參閱使用生成式 AI 轉換您的業務
DynamoDB 也透過向量索引提供原生向量搜尋,因此您可以將向量內嵌與操作資料一起存放,並使用 SearchVectors API 執行相似性搜尋,而無需單獨的向量資料庫。如需詳細資訊,請參閱在 DynamoDB 中使用向量索引。
主題
DynamoDB 的生成式 AI 使用案例
DynamoDB 廣泛用於 AI 支援的對話式應用程式中,例如使用基礎模型 (FM)
-
透過整合 LangChain
、LlamaIndex 或自訂程式碼,來儲存應用程式資料,例如聊天訊息歷程記錄。此內容可讓模型和使用者互相交談以強化使用者體驗。如需代理式 AI 架構的更多 DynamoDB 整合,請參閱 DynamoDB 的 AI 架構連接器。 -
利用庫存、定價和文件等業務資料,建立自訂使用者體驗。
-
套用使用者資料,例如 Web 歷史記錄、過去的訂單和使用者偏好設定,以提供個人化的答案。
例如,保險公司可以使用 DynamoDB 建置聊天機器人,供檢索增強生成 (RAG) 型 AI 模型近即時存取資料。此類資料的範例包括即時貸款利率、產品定價、合規/標準合約副本、使用者 Web 歷史記錄和使用者偏好設定。結合 DynamoDB 與 RAG,可新增保險產品和使用者資料的深入及更新資訊。如此可讓提示和答案更豐富,為最終使用者提供準確、個人化且近乎即時的體驗。
同樣地,金融服務產業客戶可使用 DynamoDB、Amazon Bedrock 知識庫和 Amazon Bedrock 代理程式
RAG 和代理程式記憶體的向量搜尋
生成式 AI 應用程式透過意義來擷取內容:RAG 應用程式會尋找與提示最相關的文件,而 AI 代理程式會回收與目前對話類似的記憶體。向量索引將此功能原生帶入 DynamoDB。您可以將向量內嵌儲存為資料表項目上的屬性,而 SearchVectors API 會傳回與查詢向量最相似的項目,並依相似度分數排名。應用程式寫入的資料是其搜尋的資料,因此無需佈建單獨的向量資料庫,也無需管理複寫管道。
您也可以在向量索引的搜尋結構描述中定義分割區索引鍵。然後,每個相似性搜尋都會範圍限定為單一分割區索引鍵值,例如租戶 ID、使用者 ID 或客服人員工作階段 ID。這使得向量索引非常適合多租戶 RAG 和每個使用者代理程式記憶體。
若要開始使用向量索引,請參閱下列主題:
DynamoDB 的生成式 AI 部落格
下列文章提供詳細的使用案例、最佳實務和逐步指南,協助您利用 DynamoDB 功能來建置進階的 AI 驅動應用程式。