MemoryLake
工程与开发停止总结代理历史改为检索

停止总结代理历史。改为检索结构化记忆。

总结缓冲是针对有限上下文窗口的变通方案。通过适当的记忆架构,检索在每个指标上都优于总结:保真度、成本、延迟、可调试性。MemoryLake 使结构化检索成为默认 — 而总结是可选的,而不是架构的一部分。

Day 1“总结缓冲是针对有限上下文窗口的变通方案。通过适当的记忆架构,检索在每个指标上都优于总结:保真度、成本、延迟、可调试性。MemoryLake”“使结构化检索成为默认 —…”✓ Got it, I will remember.Day 7 — new session“Same task again — can you keep the context?”× Sure — what was the context again?(forgot every detail you taught it)+ MEMORYLAKE LAYERMemory auto-loaded类型化记忆优于总结模糊高效的检索块总结无法做到的冲突检测SESSION OUTPUT✓ Same prompt, on-brand answerNo re-briefing required.

停止总结代理历史。改为检索结构化记忆。

免费开始使用

永久免费 · 无需信用卡

问题:总结作为记忆是一个变通方案,已成为架构

长历史无法适应上下文窗口,因此团队进行了总结。总结失去了细节,因此他们减少了总结的频率。总结链成为了架构。现在改变它的感觉成本很高。但继续使用总结的成本更高。

MemoryLake 如何用检索替代总结

类型化记忆优于总结模糊

类型化记忆优于总结模糊

通过相关性检索特定的事实、事件和反思。

MEMORY高效的检索块

高效的检索块

比典型总结小,更有用。

MEMORY总结无法做到的冲突检测

总结无法做到的冲突检测

矛盾浮现;总结则平滑它们。

每个检索项的来源

每个检索项的来源

审计哪个记忆驱动了哪个输出。

免费开始使用

永久免费 · 无需信用卡

检索优先的代理记忆如何工作

  1. 连接 — 用 MemoryLake 每轮的写入替换总结链。
  2. 结构 — 按内容类型化记忆写入。
  3. 重用 — 每轮检索提取相关记忆。

前后对比:总结与结构化检索

Summary bufferMemoryLake retrieval
FidelityLossyVerbatim
Token costGrows with summary sizeCompact, constant
LatencySummary chain per turnOne retrieval call
DebuggabilityLimitedMemory provenance

适合谁

运行基于总结记忆的生产代理的工程团队,他们意识到变通方案已成为架构 — 而继续使用的成本高于切换的成本。

可运行的 demo约 8 分钟

在你自己的账号上跑通这个场景

一位平台工程师和团队 AI 助手的十二次会话,进入两种记忆:一种是应用每次会话后刷新的滚动摘要(「摘要保持在 150 词以内」),一种是 MemoryLake——每次会话是一段对话,由抽取变成事实。摘要一直无视预算,直到某一次压缩把它砍短,顺带丢掉一整段会话。问到明天就要进行的队列切换,助手如实回答「It is not recorded」。检索保住了这些值,挂载的 token 还比摘要少。

你会看到

  • 每次运行三条独立的摘要链(同一模型、同一 prompt、同一输入)和一个 MemoryLake 项目:每次会话一段 DIRECT 对话,抽取完再追加下一段,经 router chat --boundary 读取
  • 9 次运行中,27 条摘要链有 23 条在一次压缩里丢掉 4–12 个值,没有一条守住预算(160–608 词)
  • 问第一周的 18 个具体值(gpt-4o-mini,temperature 0),摘要答对 247/486(238 次「It is not recorded」),MemoryLake 答对 315/324——每题 prompt token 172 对 522
  • 逐次会话的摘要长度与保留值轨迹、summaries / memory / ask 子命令,以及本地 Web 界面

需要: 一个 MemoryLake API key · memorylake CLI · Python 3.9+

运行

git clone https://github.com/memorylake-ai/memorylake-usecases.git
cd memorylake-usecases/rolling-summary-memory
export MEMORYLAKE_BASE_URL=https://app.memorylake.cn/openapi/memorylake
export MEMORYLAKE_API_KEY=sk-…
python3 demo.py          # or: python3 web/server.py

看它跑起来 · 真实录制,未剪辑

相关场景

常见问题

什么时候总结是可以的?

用于 UI 显示,而不是代理检索。

迁移成本?

通常需要一天时间将总结缓冲替换为类型化检索。

自托管?

是的 — 企业级部署在您的 VPC 中。