工程与开发人员队列驱动代理管道的记忆
为队列驱动的 AI 管道在每个管道阶段提供共享记忆
基于 SQS、Kafka、RabbitMQ 或 Pub/Sub 的多阶段 AI 管道在阶段之间失去上下文。每个阶段仅获取适合消息的内容。MemoryLake 为队列驱动的管道在每个阶段提供共享记忆——即使消息不携带上下文,上下文也能流动。
问题:队列消息无法携带足够的上下文
第 1 阶段丰富了数据。第 2 阶段需要这些丰富的信息以及用户历史。消息变大;队列阻塞。或者第 2 阶段从数据库重新获取——缓慢、昂贵且不同步。队列管道需要超出消息有效负载的共享记忆。
MemoryLake 如何支持队列驱动的管道
跨阶段的共享记忆
每个阶段读取和写入同一个命名空间。
管道范围的记忆命名空间
按管道、按实体组织的记忆。
轻量级队列消息
消息携带 ID;阶段从 MemoryLake 检索上下文。
每个阶段转换的审计跟踪
跟踪跨阶段的上下文流动。
免费开始使用
永久免费 · 无需信用卡
队列驱动管道记忆的工作原理
- 连接 — 每个阶段与 MemoryLake 进行身份验证。
- 结构 — 第 1 阶段写入上下文;后续阶段进行检索。
- 重用 — 消息保持轻量;上下文存储在共享记忆中。
之前与之后:队列驱动的 AI 管道记忆
| DIY pipeline state | MemoryLake | |
|---|---|---|
| Cross-stage context | Stuffed in messages | Shared memory |
| Message size | Bloats over stages | Stays light |
| Stage-to-stage re-fetch | Common | Eliminated |
| Audit pipeline flow | Custom | Memory provenance |
适用对象
在 SQS、Kafka、RabbitMQ、Pub/Sub 上运行多阶段 AI 管道的工程团队——在这些场景中,队列有效负载限制和重新获取开销正在降低管道质量和成本。
可运行的 demo约 3 分钟
在你自己的账号上跑通这个场景
第 1 站把客户的要求写进记忆,往队列里放一条轻量消息;第 2 站一秒后取到消息,先问记忆再动手。可 MemoryLake 读一条会话消息是在后台进行的,要 10 到 77 秒,于是第 2 站读到的是写入之前的记忆,照旧的区域、联系人、席位数去做,口气和答对时一样笃定。等抽取完成再投递能修好,但慢;把结果写成一条事实、把事实 id 放进消息,以队列的速度就修好了。
你会看到
- 8 个客户(6 个各改一个值,2 个对照)走三条各自带记忆的管线:A 写入备注(
conv msg append)后立即入队,B 等conv consumed-messages+cook_finished再入队,C 另用fact add写一条带日期的结果事实并把 fact id 放进队列消息 - 7 次运行中,第 2 站对已变更客户读到新值:A 0 / 126(126 次旧值,读在 +1.8 秒),B 126 / 126(中位 +37.3 秒),C 126 / 126(+2.4 秒)
- 等待还有第二重代价:抽取把一条备注写成了没有客户名的事实(「New environments must be created in eu-central」),MemoryRouter 把它挂到了另一个客户的问题上,B 的对照客户 36 / 42 次答对,A、C 均为 42 / 42
- 第 2 站经 MemoryRouter 读取(
router chat --boundary,同时读 3 次,配空检索基线);另有记忆普查、memory与ask子命令和本地 Web 界面
需要: 一个 MemoryLake API key · memorylake CLI · Python 3.9+
运行
git clone https://github.com/memorylake-ai/memorylake-usecases.git cd memorylake-usecases/stage-handoff-memory export MEMORYLAKE_BASE_URL=https://app.memorylake.cn/openapi/memorylake export MEMORYLAKE_API_KEY=sk-… python3 demo.py # or: python3 web/server.py
看它跑起来 · 真实录制,未剪辑
相关场景
Engineering & Developer背景代理工作者的记忆Background agent workers need memory that survives process boundaries. MemoryLake gives queued workers durable shared memory. Free to get started.
Engineering & DeveloperWebhook 触发代理的记忆Webhook-triggered agents need memory of prior triggers. MemoryLake gives webhook-driven AI persistent context. Free to get started.
Engineering & Developer事件源 AI 代理的记忆Event-sourced AI agents need durable event memory with replay. MemoryLake fits the event-sourced model natively. Free to get started.
常见问题
支持的队列平台?
支持的队列平台?
SQS、Kafka、RabbitMQ、Pub/Sub、Redis Streams — 全部支持。
大规模吞吐量?
大规模吞吐量?
在高吞吐量下测试;每个命名空间的并发。
自托管?
自托管?
是的 — 企业级部署在您的 VPC 中。