为 Claude API 应用提供超出 200k 窗口的持久上下文
Claude 的长上下文窗口非常慷慨——直到您的应用需要在数百个会话中记住一年的用户历史。MemoryLake 为 Claude API 应用提供一个持久的上下文层,超出窗口 10,000 倍,具有毫秒级检索和跨模型可移植性。
问题:即使是 200k 窗口也会用尽
一个高级用户可以在几周的重度使用中填满 200k 个相关历史令牌。一个长时间运行的代理在几个小时内就能填满。一旦超出窗口,您的应用要么进行总结(有损),要么忘记(更糟)。Claude API 应用的持久上下文需要存在于窗口之外。
MemoryLake 如何解决 Claude API 应用的持久上下文
超出上下文窗口的 10,000 倍扩展
将数百万个令牌压缩为可检索的排名记忆。仅提取每次交互所需的内容。
原生 MCP 支持
Claude Desktop 和 Claude Code 可以通过模型上下文协议直接读取 MemoryLake。无需粘合代码。
六种记忆类型保留细微差别
背景、事实、事件、对话、反思、技能。比将所有内容压缩为一个摘要链更好。
跨模型的未来保障
今天是 Claude,明天是任何超越它的东西。您的用户记忆通过一次配置更改迁移。
永久免费 · 无需信用卡
它如何为 Claude API 应用工作
- 连接 — 使用 Python SDK、REST API 或 MCP 服务器。只需认证一次。
- 结构 — 当用户交互时,MemoryLake 将每次交互和文档存储为类型化记忆。
- 重用 — 在推理时,检索一个令牌预算的记忆块。将其作为 Claude 系统消息或工具结果注入。
之前与之后:Claude API 持久上下文
| Without MemoryLake | With MemoryLake | |
|---|---|---|
| Year-long user history | Truncated or summarized | Retrieved on demand |
| Context window utilization | Bloats over time | Compact, relevant block |
| MCP-based tool integrations | Custom state plumbing | MemoryLake as native MCP server |
| Migrating to a new Claude version | Manual prompt rework | Same memory, new model |
适合谁
在 Claude API 上交付生产应用的团队——长篇研究助手、编码助手、代理工作流——需要用户上下文,能够超出窗口而不牺牲保真度。
在你自己的账号上跑通这个场景
Larkspan Home 的退货助手跑在 Claude Haiku 4.5 上。每次请求都带同一份约 6,900 tokens 的 playbook(打了 Anthropic 提示缓存断点),再加上助手记得的这位客户的信息。demo 把 12 个问题按四种方式经 MemoryRouter 发出,逐条读回复里的缓存读数。把记忆作为断点之后的第二个 system 块(缓存指南描述的布局),每次请求 playbook 连同记忆都被写入缓存、一次也没读到:写入 60/60、读取 0,费用是完全不缓存的 1.24 倍。同样的记忆放在 user 消息开头,或交给 MemoryRouter 挂载,第一次之后每次都从缓存读,费用为 0.23 倍。带同样断点的精简版 playbook 则从未被缓存,也没有任何提示。
你会看到
- 6 位客户的事实用
fact add写入,一个 boundary 覆盖它们;价格取自memorylake router models(输入、缓存写入、缓存读取) - 每次请求是一份完整的 Anthropic Messages 请求体,用
memorylake router messages --body发送;每题一次search,三种方式拿到同一个记忆块,第四种用--boundary - 每条回复的
cache_creation_input_tokens、cache_read_input_tokens与input_tokens按方式逐行打印并计入账单 ask 4先问一个问题、再问同一客户的下一个问题,看缓存写一次、读一次;另有本地 Web 界面
需要: 一个 MemoryLake API key · memorylake CLI · Python 3.9+
运行
git clone https://github.com/memorylake-ai/memorylake-usecases.git cd memorylake-usecases/cache-breakpoint-memory export MEMORYLAKE_BASE_URL=https://app.memorylake.cn/openapi/memorylake export MEMORYLAKE_API_KEY=sk-… python3 demo.py # or: python3 web/server.py
看它跑起来 · 真实录制,未剪辑
相关场景
常见问题
这与 Claude 的提示缓存兼容吗?
这与 Claude 的提示缓存兼容吗?
是的。MemoryLake 的检索设计为可以插入可缓存的系统消息中,因此您可以同时获得持久记忆和提示缓存的节省。
那 Claude Code 呢?
那 Claude Code 呢?
Claude Code 可以作为 MCP 服务器连接到 MemoryLake,使 CLI 可以访问您团队的共享记忆。
这与总结旧历史有什么不同?
这与总结旧历史有什么不同?
摘要会丢失细节,无法按类型或时间查询。MemoryLake 存储结构化、可检索、版本化的记忆,具有完整的来源。