MemoryLake
工程与开发人员队列驱动代理管道的记忆

为队列驱动的 AI 管道在每个管道阶段提供共享记忆

基于 SQS、Kafka、RabbitMQ 或 Pub/Sub 的多阶段 AI 管道在阶段之间失去上下文。每个阶段仅获取适合消息的内容。MemoryLake 为队列驱动的管道在每个阶段提供共享记忆——即使消息不携带上下文,上下文也能流动。

Day 1“基于 SQS、Kafka、RabbitMQ 或 Pub/Sub 的多阶段 AI”“管道在阶段之间失去上下文。每个阶段仅获取适合消息的内容…”✓ Got it, I will remember.Day 7 — new session“Same task again — can you keep the context?”× Sure — what was the context again?(forgot every detail you taught it)+ MEMORYLAKE LAYERMemory auto-loaded跨阶段的共享记忆管道范围的记忆命名空间轻量级队列消息SESSION OUTPUT✓ Same prompt, on-brand answerNo re-briefing required.

为队列驱动的 AI 管道在每个管道阶段提供共享记忆

免费开始使用

永久免费 · 无需信用卡

问题:队列消息无法携带足够的上下文

第 1 阶段丰富了数据。第 2 阶段需要这些丰富的信息以及用户历史。消息变大;队列阻塞。或者第 2 阶段从数据库重新获取——缓慢、昂贵且不同步。队列管道需要超出消息有效负载的共享记忆。

MemoryLake 如何支持队列驱动的管道

跨阶段的共享记忆

跨阶段的共享记忆

每个阶段读取和写入同一个命名空间。

MEMORY管道范围的记忆命名空间

管道范围的记忆命名空间

按管道、按实体组织的记忆。

MEMORY轻量级队列消息

轻量级队列消息

消息携带 ID;阶段从 MemoryLake 检索上下文。

每个阶段转换的审计跟踪

每个阶段转换的审计跟踪

跟踪跨阶段的上下文流动。

免费开始使用

永久免费 · 无需信用卡

队列驱动管道记忆的工作原理

  1. 连接 — 每个阶段与 MemoryLake 进行身份验证。
  2. 结构 — 第 1 阶段写入上下文;后续阶段进行检索。
  3. 重用 — 消息保持轻量;上下文存储在共享记忆中。

之前与之后:队列驱动的 AI 管道记忆

DIY pipeline stateMemoryLake
Cross-stage contextStuffed in messagesShared memory
Message sizeBloats over stagesStays light
Stage-to-stage re-fetchCommonEliminated
Audit pipeline flowCustomMemory provenance

适用对象

在 SQS、Kafka、RabbitMQ、Pub/Sub 上运行多阶段 AI 管道的工程团队——在这些场景中,队列有效负载限制和重新获取开销正在降低管道质量和成本。

可运行的 demo约 3 分钟

在你自己的账号上跑通这个场景

第 1 站把客户的要求写进记忆,往队列里放一条轻量消息;第 2 站一秒后取到消息,先问记忆再动手。可 MemoryLake 读一条会话消息是在后台进行的,要 10 到 77 秒,于是第 2 站读到的是写入之前的记忆,照旧的区域、联系人、席位数去做,口气和答对时一样笃定。等抽取完成再投递能修好,但慢;把结果写成一条事实、把事实 id 放进消息,以队列的速度就修好了。

你会看到

  • 8 个客户(6 个各改一个值,2 个对照)走三条各自带记忆的管线:A 写入备注(conv msg append)后立即入队,B 等 conv consumed-messages + cook_finished 再入队,C 另用 fact add 写一条带日期的结果事实并把 fact id 放进队列消息
  • 7 次运行中,第 2 站对已变更客户读到新值:A 0 / 126(126 次旧值,读在 +1.8 秒),B 126 / 126(中位 +37.3 秒),C 126 / 126(+2.4 秒)
  • 等待还有第二重代价:抽取把一条备注写成了没有客户名的事实(「New environments must be created in eu-central」),MemoryRouter 把它挂到了另一个客户的问题上,B 的对照客户 36 / 42 次答对,A、C 均为 42 / 42
  • 第 2 站经 MemoryRouter 读取(router chat --boundary,同时读 3 次,配空检索基线);另有记忆普查、memory 与 ask 子命令和本地 Web 界面

需要: 一个 MemoryLake API key · memorylake CLI · Python 3.9+

运行

git clone https://github.com/memorylake-ai/memorylake-usecases.git
cd memorylake-usecases/stage-handoff-memory
export MEMORYLAKE_BASE_URL=https://app.memorylake.cn/openapi/memorylake
export MEMORYLAKE_API_KEY=sk-…
python3 demo.py          # or: python3 web/server.py

看它跑起来 · 真实录制,未剪辑

相关场景

常见问题

支持的队列平台?

SQS、Kafka、RabbitMQ、Pub/Sub、Redis Streams — 全部支持。

大规模吞吐量?

在高吞吐量下测试;每个命名空间的并发。

自托管?

是的 — 企业级部署在您的 VPC 中。