ElastiCache 为什么 Valkey 用于代理记忆

Sub-millisecond 延迟 — ElastiCache 对于 Valkey，它为内存操作提供了微秒级的延迟，使其适用于实时代理交互，在这种交互中，内存查找不得给用户体验增加可感知的延迟。

向量相似度搜索 — 从 Valkey 8.2 版本开始， ElastiCache 支持通过 valkey-search 模块进行向量相似度搜索。这支持语义记忆检索，代理可以根据含义而不是精确的关键字匹配来找到相关的记忆。

Real-time 索引更新 — 新记忆在写入后立即可搜索。这对于代理应用程序至关重要，在这些应用程序中，代理可能需要在同一会话中调出刚才存储的信息。

Built-in 缓存管理 — TTL（存活时间）、驱逐策略（allkeys-lru）和原子操作等功能有助于管理内存生命周期。

多种数据结构 — Valkey 提供哈希、列表、字符串、流、JSON 和向量，每种数据结构都针对不同的内存模式进行了优化。单个 ElastiCache 实例可以支持会话状态（哈希）、对话历史记录（列表）、工具结果缓存（带有 TTL 的字符串）、事件日志（流）和语义内存（向量）。

可扩展性 — ElastiCache 可扩展以始终如一的低延迟处理数百万个请求，支持具有大量并发用户和代理的应用程序。