为任何 LLM 提供长期记忆而不膨胀上下文窗口
LLMs 设计上是无状态的——每个会话从零开始。MemoryLake 通过提供一个任何模型都可以读取和写入的结构化记忆层来改变这一点,具有毫秒级检索和零上下文窗口膨胀。
记忆问题
LLMs 不是因为错误而忘记。它们忘记是因为变压器架构没有持久状态——每次推理调用都是独立的。像将先前对话塞入上下文窗口这样的变通方法很快就会达到令牌限制,降低响应质量,并增加延迟。你需要的是模型外部的记忆,而不是内部的记忆。
MemoryLake 的不同之处
类型化记忆类别,而不是扁平的知识转储
—MemoryLake 将记忆组织为六种结构化类型:背景(身份,只读)、事实(版本化,冲突检查,来源归属)、事件(时间线)、对话(永久会话历史)、反思(行为模式)和技能(可重用工作流)。检索是精确的,因为存储是结构化的。
LoCoMo 基准测试中的 #1 检索准确性
—MemoryLake 在 LoCoMo 上得分 94.03%,这是长期对话记忆的标准基准。这意味着当你的 LLM 查询三个月前用户所说的话时,它会得到正确的答案。
与直接上下文注入相比,规模提升 10,000 倍
—直接将记忆注入上下文无法扩展。MemoryLake 的检索架构以 10,000 倍的规模处理相同的工作负载,具有适合实时应用的毫秒级延迟。
永久免费 · 无需信用卡
工作原理
- 连接——通过 REST API、MCP(模型上下文协议)或 Python SDK 集成 MemoryLake。与 ChatGPT、Claude、Gemini、Qwen、AutoGPT 以及任何可通过 API 端点访问的模型兼容。
- 结构——当你的 LLM 会话运行时,相关输出——用户事实、决策、学习模式、重复工作流——被写入适当的类型化记忆类别,并附有来源归属和时间戳。
- 重用——在下一个会话(或任何未来会话)中,模型以毫秒速度检索相关记忆。上下文保持精简;模型保持信息更新。
前后对比
| Without MemoryLake | With MemoryLake | |
|---|---|---|
| Session continuity | Every session starts cold | Background + Conversation memory surfaces prior context instantly |
| Context window usage | Grows with every workaround | Memory lives outside the window; context stays focused |
| Retrieval accuracy | Degrades with scale | 94.03% LoCoMo benchmark accuracy at any scale |
| Conflicting facts | Model accepts the latest silently | Conflict detection flags and versions every Fact update |
| Multi-session workflows | Rebuilt from scratch each time | Skill Memory stores reusable workflows, available across runs |
为谁而建
MemoryLake 专为构建 LLM 驱动产品的开发者设计,这些产品需要连续性:AI 助手、编码代理、研究工具、面向客户的聊天机器人和多步骤自动化管道。如果你的用户与 LLM 进行多次交互,他们需要持久记忆。
在你自己的账号上跑通这个场景
助手对同一个用户的记忆从 20 条长到 100 条、再到 400 条。每个阶段用三种方式问同样四个问题:不带记忆、把全部记忆贴进 prompt、通过 MemoryRouter 挂一个 boundary。每条回复都按已存内容判分,直接看到「全贴进去」的代价,以及它从哪里开始出错。
你会看到
- 全贴进去的 prompt 每个问题要带 395、1,822、6,911 tokens 的记忆(
router chat --body);MemoryRouter 在每个规模下只挂 78~158 tokens(--boundary) - 点查(门禁码、护照到期日)两种方式都对;出错的是列举:400 条时 9 次运行 18 份生日名单 0 份完全正确,每次都有联系人被列进错误的月份
- MemoryRouter 108 个问题全部答对;Claude 走 Anthropic API、用同一个 boundary 也列出了同样的五个生日
- 每个多出来的名字都用
fact list --query回查:记忆里存的日期是对的。另有ask(任意问题、三种方式)与本地 Web 界面
需要: 一个 MemoryLake API key · memorylake CLI · Python 3.9+
运行
git clone https://github.com/memorylake-ai/memorylake-usecases.git cd memorylake-usecases/long-term-llm-memory export MEMORYLAKE_BASE_URL=https://app.memorylake.cn/openapi/memorylake export MEMORYLAKE_API_KEY=sk-… python3 demo.py # or: python3 web/server.py
看它跑起来 · 真实录制,未剪辑
相关场景
常见问题
MemoryLake 是否适用于任何 LLM?
MemoryLake 是否适用于任何 LLM?
是的。MemoryLake 是模型无关的。它支持 ChatGPT、Claude、Gemini、Qwen、OpenClaw、AutoGPT、Manus、Perplexity 以及任何可通过标准 API 端点访问的模型。记忆的存储和检索与模型无关。
MemoryLake 如何避免膨胀上下文窗口?
MemoryLake 如何避免膨胀上下文窗口?
记忆存储在外部并选择性检索——仅为给定会话呈现相关的记忆项。你的上下文窗口包含专注的、相关的信息,而不是完整的对话历史转储。
什么是 LoCoMo,为什么它重要?
什么是 LoCoMo,为什么它重要?
LoCoMo(长期对话记忆基准)是评估 AI 系统从长期交互历史中检索信息的准确性的标准。MemoryLake 的 94.03% 得分是该基准的当前最高结果,这意味着它比其他替代方案更可靠地检索正确的记忆。