工程与开发停止总结代理历史改为检索
停止总结代理历史。改为检索结构化记忆。
总结缓冲是针对有限上下文窗口的变通方案。通过适当的记忆架构,检索在每个指标上都优于总结:保真度、成本、延迟、可调试性。MemoryLake 使结构化检索成为默认 — 而总结是可选的,而不是架构的一部分。
问题:总结作为记忆是一个变通方案,已成为架构
长历史无法适应上下文窗口,因此团队进行了总结。总结失去了细节,因此他们减少了总结的频率。总结链成为了架构。现在改变它的感觉成本很高。但继续使用总结的成本更高。
MemoryLake 如何用检索替代总结
类型化记忆优于总结模糊
通过相关性检索特定的事实、事件和反思。
高效的检索块
比典型总结小,更有用。
总结无法做到的冲突检测
矛盾浮现;总结则平滑它们。
每个检索项的来源
审计哪个记忆驱动了哪个输出。
免费开始使用
永久免费 · 无需信用卡
检索优先的代理记忆如何工作
- 连接 — 用 MemoryLake 每轮的写入替换总结链。
- 结构 — 按内容类型化记忆写入。
- 重用 — 每轮检索提取相关记忆。
前后对比:总结与结构化检索
| Summary buffer | MemoryLake retrieval | |
|---|---|---|
| Fidelity | Lossy | Verbatim |
| Token cost | Grows with summary size | Compact, constant |
| Latency | Summary chain per turn | One retrieval call |
| Debuggability | Limited | Memory provenance |
适合谁
运行基于总结记忆的生产代理的工程团队,他们意识到变通方案已成为架构 — 而继续使用的成本高于切换的成本。
可运行的 demo约 8 分钟
在你自己的账号上跑通这个场景
一位平台工程师和团队 AI 助手的十二次会话,进入两种记忆:一种是应用每次会话后刷新的滚动摘要(「摘要保持在 150 词以内」),一种是 MemoryLake——每次会话是一段对话,由抽取变成事实。摘要一直无视预算,直到某一次压缩把它砍短,顺带丢掉一整段会话。问到明天就要进行的队列切换,助手如实回答「It is not recorded」。检索保住了这些值,挂载的 token 还比摘要少。
你会看到
- 每次运行三条独立的摘要链(同一模型、同一 prompt、同一输入)和一个 MemoryLake 项目:每次会话一段 DIRECT 对话,抽取完再追加下一段,经
router chat --boundary读取 - 9 次运行中,27 条摘要链有 23 条在一次压缩里丢掉 4–12 个值,没有一条守住预算(160–608 词)
- 问第一周的 18 个具体值(gpt-4o-mini,temperature 0),摘要答对 247/486(238 次「It is not recorded」),MemoryLake 答对 315/324——每题 prompt token 172 对 522
- 逐次会话的摘要长度与保留值轨迹、
summaries/memory/ask子命令,以及本地 Web 界面
需要: 一个 MemoryLake API key · memorylake CLI · Python 3.9+
运行
git clone https://github.com/memorylake-ai/memorylake-usecases.git cd memorylake-usecases/rolling-summary-memory export MEMORYLAKE_BASE_URL=https://app.memorylake.cn/openapi/memorylake export MEMORYLAKE_API_KEY=sk-… python3 demo.py # or: python3 web/server.py
看它跑起来 · 真实录制,未剪辑
相关场景
Engineering & Developer为什么总结缓冲会失去关键代理上下文Summary memory loses the details agents need. MemoryLake retains structured memory without lossy summarization. Free to get started.
Engineering & Developer停止因代理历史膨胀而导致的令牌膨胀Stuffing agent history into the prompt inflates token cost and latency. MemoryLake retrieves a compact memory block instead. Free to get started.
常见问题
什么时候总结是可以的?
什么时候总结是可以的?
用于 UI 显示,而不是代理检索。
迁移成本?
迁移成本?
通常需要一天时间将总结缓冲替换为类型化检索。
自托管?
自托管?
是的 — 企业级部署在您的 VPC 中。