View a markdown version of this page

代理程式記憶體的類型 - Amazon ElastiCache

本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。

代理程式記憶體的類型

短期記憶體

短期記憶體會在單一工作階段中維護內容。它會追蹤目前的對話流程、最近的互動和中繼推理步驟。短期記憶體對於客服人員需要參考對話早期部分的多迴轉對話至關重要。

ElastiCache for Valkey 透過資料結構支援短期記憶體,例如清單 (適用於排序聊天歷史記錄)、雜湊 (適用於工作階段中繼資料) 和字串 (適用於具有 TTL 型過期的工具結果快取)。

長期記憶體

長期記憶體會跨多個工作階段存放資訊。這可讓客服人員記住使用者偏好設定、過去的決策,以及未來對話的歷史內容。長期記憶體需要支援語意擷取的持久、可搜尋的存放區 - 根據意義而非確切關鍵字相符項目來尋找相關的記憶體。

ElastiCache for Valkey 透過向量相似性搜尋功能支援長期記憶體 (可在 Valkey 8.2 和更新版本中使用)。向量搜尋可擷取語意記憶體,透過比較已儲存記憶體的向量內嵌與新查詢,可讓客服人員根據意義尋找相關記憶體。

其他記憶體類型

記憶體類型 Description ElastiCache 支援
事件記憶體 特定過去互動和事件的記錄 透過預存對話內嵌進行向量搜尋
語意記憶體 從互動中擷取的一般知識和事實 使用 HNSW 或 FLAT 索引進行向量相似性搜尋
程序性記憶體 了解如何執行任務和使用工具的知識 工具組態和工作流程的雜湊型儲存