MemoryLake
工程与开发者代理应用的记忆缓存策略

在不冒风险的情况下缓存代理记忆热路径

生产代理中的热记忆路径受益于缓存——但简单的缓存会产生过时的事实和不一致的代理行为。MemoryLake 提供具有失效语义的内置缓存层，以保持正确性。

Day 1“生产代理中的热记忆路径受益于缓存——但简单的缓存会产生过时的事实和不一致的代理行为。MemoryLake”“提供具有失效语义的内置缓存层，以保持正确性。”✓ Got it, I will remember.Day 7 — new session“Same task again — can you keep the context?”× Sure — what was the context again?(forgot every detail you taught it)+ MEMORYLAKE LAYERMemory auto-loaded分层存储与自动缓存失效读写穿透模式每租户缓存范围SESSION OUTPUT✓ Same prompt, on-brand answerNo re-briefing required.

在不冒风险的情况下缓存代理记忆热路径

免费开始使用

永久免费 · 无需信用卡

问题：代理记忆上的 DIY 缓存层导致过时事实

您在记忆存储上添加了 Redis 缓存。延迟得到了改善。现在代理偶尔返回昨天的事实，因为在记忆更新时缓存没有失效。没有正确性保证的缓存会产生比修复的延迟更难调试的错误。

MemoryLake 如何原生处理缓存

分层存储与自动缓存失效

分层存储与自动缓存失效

热记忆被缓存；更新时干净失效。

MEMORY读写穿透模式

读写穿透模式

每个工作区可配置。

MEMORY每租户缓存范围

每租户缓存范围

保持多租户的正确性。

缓存可观察性

缓存可观察性

命中率、延迟、失效遥测。

免费开始使用

永久免费 · 无需信用卡

记忆缓存的工作原理

  1. 连接 — 为每个工作区配置缓存层。
  2. 结构 — 记忆写入使缓存读取失效。
  3. 重用 — 当有效时从缓存读取；否则从主存读取。

之前与之后：代理记忆缓存

DIY cacheMemoryLake
Cache invalidation correctnessManualBuilt in
Multi-tenant cache safetyCustomNative
Cache hit rate telemetryCustomOut of the box
Stale fact incidentsCommonPrevented

适合谁

运行具有高记忆访问吞吐量的生产代理应用的工程团队，在需要缓存但不能牺牲正确性的情况下。

可运行的 demo约 2 分钟

在你自己的账号上跑通这个场景

Harlow Desk 的支持代理以项目记忆为准，每个回答都是一次记忆检索，于是团队用三种方式缓存答案。15 分钟 TTL 有 7/20 次答案过期。每次读取前先检查项目版本看起来没问题：每次 API 写入它都会变。但计费负责人在频道里发了一条政策变更后，版本在消息追加那一刻就变了，代理立刻用旧值重新填充缓存；15 到 25 秒后 MemoryLake 的抽取器原地改写事实，版本却不再变化。于是缓存把旧的退款期限当作最新答案，20 次里 2 次过期，每一次都是缓存命中。检查事实本身的水位线成本相同，0 次过期。

你会看到

  • 三种缓存回答同样的四个问题，并与同一时刻直接 search 的结果对照：15 分钟 TTL、项目版本（proj get → updated_at）、事实水位线（fact list --page-size 1：最新的 updated_at + total）
  • 管理后台的 fact update、只改 metadata 的更新、fact delete 和消息追加都会推进项目版本；抽取器的原地改写（fact trace 显示为 COOK 的 UPDATE）只改动事实本身
  • 竞态：版本在追加消息时就变了，缓存在抽取落地前完成重填，这条带旧值的缓存一直被当作「最新」，直到一次无关的写入再次推进版本
  • 水位线为什么要带 total：删除不会改变最新那条事实；5 次运行中水位线 0/96 次过期；versions 子命令、本地 Web 界面，全程不调用模型

需要: 一个 MemoryLake API key · memorylake CLI · Python 3.9+

运行

git clone https://github.com/memorylake-ai/memorylake-usecases.git
cd memorylake-usecases/cache-invalidation-memory
export MEMORYLAKE_BASE_URL=https://app.memorylake.cn/openapi/memorylake
export MEMORYLAKE_API_KEY=sk-…
python3 demo.py          # or: python3 web/server.py
在 GitHub 上打开阅读完整说明

看它跑起来 · 真实录制，未剪辑

CLI 演示2:38Web 演示3:04

相关场景

Engineering & Developer大规模成本优化的代理记忆Agent memory cost balloons with users. MemoryLake's structured retrieval cuts inference token cost 10-100x at scale. Free to get started.
Engineering & Developer长时间运行代理的记忆驱逐策略Long-running agents accumulate memory until retrieval slows. MemoryLake provides eviction strategies that preserve what matters. Free to get started.

常见问题

缓存 TTL 配置？

按工作区和记忆类型配置。

缓存可观察性工具？

命中率、失效率、延迟分布仪表板。

自托管？

是的——企业级在您的 VPC 中部署。

全部场景免费开始使用