MemoryLake
工程与开发人员为什么摘要缓冲区会丢失关键代理上下文

为什么摘要缓冲区会丢失代理所需的细节

摘要记忆在演示中有效,但在生产中失败。关键上下文——一个特定的数字、一个被拒绝的方法、一个顺便提到的用户约束——被平滑成摘要糊状物。MemoryLake 保留了结构化的类型记忆,而没有损失摘要。

Day 1“摘要记忆在演示中有效,但在生产中失败。关键上下文——一个特定的数字、一个被拒绝的方法、一个顺便提到的用户约束——被平滑成摘要糊状物。MemoryLake”“保留了结构化的类型记忆,而没有损失摘要。”✓ Got it, I will remember.Day 7 — new session“Same task again — can you keep the context?”× Sure — what was the context again?(forgot every detail you taught it)+ MEMORYLAKE LAYERMemory auto-loaded类型事实和事件记忆基于检索而非压缩反思记忆捕捉模式SESSION OUTPUT✓ Same prompt, on-brand answerNo re-briefing required.

为什么摘要缓冲区会丢失代理所需的细节

免费开始使用

永久免费 · 无需信用卡

问题:摘要是有损压缩

用户在第 12 回合说“我们已经尝试过 X,但因为 Y 失败了”。摘要记忆将其压缩为“用户提到过之前的尝试”。三轮后,代理建议 X。摘要保留了一种氛围;但丢失了重要的细节。

MemoryLake 如何避免摘要损失

类型事实和事件记忆

类型事实和事件记忆

逐字存储的具体声明和观察,而不是摘要。

MEMORY基于检索而非压缩

基于检索而非压缩

在查询时提取相关事实;没有固定大小的摘要。

MEMORY反思记忆捕捉模式

反思记忆捕捉模式

模式和主题拥有自己的记忆类型,而不压缩基础事实。

每个事实的来源

每个事实的来源

每个记忆项链接到其来源的回合。

免费开始使用

永久免费 · 无需信用卡

如何作为摘要缓冲区替代品工作

  1. 连接 — 用 MemoryLake 每回合的写入替换摘要链。
  2. 结构 — 逐字存储的事实、事件、对话回合。
  3. 重用 — 按相关性检索紧凑的记忆块,而不是按最近性或摘要。

之前与之后:摘要缓冲区与结构化记忆

Summary bufferMemoryLake
Specific facts retainedLost in compressionStored verbatim
Constraint stated turns agoOften droppedRetrievable
Pattern recognitionLimitedReflection memory
Cost per turnGrows with summary lengthCompact

适合谁

使用 LangChain ConversationSummaryMemory 或自定义摘要链的工程团队,在生产中随着对话变长而观察到代理质量下降。

可运行的 demo约 4 分钟

在你自己的账号上跑通这个场景

AI agent 团队在一次会上定下六个上线门槛,下一次会上按人们平常的说法念出评测结果:「新 reranker 的 recall@10 是 0.81。」MemoryLake 的抽取记住了每一个门槛,而在多数运行里,这些只有数字的读数一个都没留下。发布助手于是只有规则、没有结果:要么答「Unknown」,要么把已经达标的门槛说成没达标(评测是 2.6 美分,它说「每会话 token 成本没有降到 3 美分以下」)。读数连同结论一起说,决定会被记住,但常常丢了数字。由应用直接从评测 harness 写入,每个读数都在。

你会看到

  • 每份副本两次 GROUP 会议(六个门槛,然后六个读数),三个项目用同一个普通名字;一份听到的是裸读数,一份是带结论的读数,第三份拿第一份抽取出的事实(fact list → fact add)再加上 harness 的六条读数事实
  • 7 次运行,上线问题由记忆答对:按原话 6 / 126,带结论 124 / 126,harness 读数 125 / 126。数值问题(「recall@10 是多少?」):6 / 42 · 18 / 42 · 42 / 42
  • 按原话的那份记忆,71 次回答是「Unknown」,26 次答错,多数是把已达标的门槛说成没达标;另有 23 次结论碰巧对,但记忆里没有任何依据
  • 每次运行逐项目普查(门槛、读数、决定,以及说话人 actor 上的事实),每题一次无挂载基线;另有 memory、ask 子命令和本地网页版

需要: 一个 MemoryLake API key · memorylake CLI · Python 3.9+

运行

git clone https://github.com/memorylake-ai/memorylake-usecases.git
cd memorylake-usecases/bare-reading-memory
export MEMORYLAKE_BASE_URL=https://app.memorylake.cn/openapi/memorylake
export MEMORYLAKE_API_KEY=sk-…
python3 demo.py          # or: python3 web/server.py

看它跑起来 · 真实录制,未剪辑

相关场景

常见问题

什么时候摘要是可以的?

用于 UI 显示。不用于代理检索。

迁移成本?

通常需要一天时间将摘要缓冲区替换为类型检索。

自托管?

是的 — 企业级部署在您的 VPC 中。