View a markdown version of this page

代理记忆的类型 - Amazon ElastiCache

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

代理记忆的类型

Short-term 记忆

Short-term 内存在单个会话中维护上下文。它跟踪当前的对话流程、最近的互动和中间推理步骤。 Short-term 记忆对于多回合对话至关重要,在这种对话中,代理需要引用对话的早期部分。

ElastiCache for Valkey 通过列表(用于有序聊天记录)、哈希(用于会话元数据)和字符串(用于过期缓存工具结果)等数据结构支持短 TTL-based 期记忆。

Long-term 记忆

Long-term 内存跨多个会话存储信息。这使客服人员能够记住用户偏好、过去的决策和历史背景,以便将来进行对话。 Long-term记忆需要一个支持语义检索的持久、可搜索的存储库,即根据含义而不是精确的关键字匹配来查找相关的记忆。

ElastiCache for Valkey 通过其向量相似度搜索功能(在 Valkey 8.2 及更高版本中可用)支持长期记忆。向量搜索支持语义内存检索,允许代理通过将存储内存的向量嵌入与新查询进行比较,根据含义找到相关的内存。

其他内存类型

内存类型 说明 ElastiCache 支持
情节记忆 过去特定互动和事件的记录 对存储的对话嵌入进行矢量搜索
语义记忆 从互动中提取的常识和事实 使用 HNSW 或 FLAT 索引进行向量相似度搜索
程序记忆 有关如何执行任务和使用工具的知识 Hash-based 存储工具配置和工作流程