Redis Iris 六件套上线:给智能体准备意图路由、记忆与上下文网关

为什么智能体需要一层运行时数据层

过去两年做智能体,大部分团队的路径是一样的:先把上下文窗口塞满,把所有可能用到的资料、历史对话、工具说明一次性喂进去,指望模型自己挑。这套做法在 demo 阶段好看,进了生产就开始崩。

崩在三个地方。第一是成本,上下文越长,每次调用越贵,而绝大多数 token 是重复的、跟当前问题无关的。第二是延迟,长上下文的预填充时间会直接顶到用户可感知的阈值上。第三是正确性,塞进去的资料越多,模型被无关内容带偏的概率越高,这在需要精确答案的场景里是致命的。

Redis 在 2026 年 11 月 6 日发布的 Iris 升级,给出的答案是「把这层数据供给做成基础设施」,而不是让每个应用自己拼。CEO Rowan Trollope 在发布里反复强调一个词:运行时。意思很明确——不是训练时、不是离线索引时,而是请求正在发生的那一刻,决定要给模型看什么。

官方给出的落地节奏是两场直播:11 月 12 日(美洲)与 11 月 17 日(EMEA),细节在 redis.io/iris。对运维来说,更值得关注的是这六个组件里哪两个已经 GA、哪两个还在 beta,因为这直接决定能不能上生产。

六个组件各自解决什么

组件状态解决的问题运维关注点
Intent RouterGA按语义而非字面匹配,把请求路由到 FAQ、技能、人工或 LLM,支持模型路由与模糊条件判断路由表变更的灰度、误路由的回退路径
Agent PlaybooksGA把可复用的答案与「需要实时数据重跑」的流程固化成可执行单元版本管理、实时数据源不可用时的降级
Agent Memory已发布跨会话保存事实与偏好,供后续请求检索写入量、过期策略、隐私边界
Redis Context Gateway已发布统一上下文装配入口,按策略取回并裁剪命中率、单次装配延迟、缓存一致性
Redis Lensbeta观测与调试,看上下文是怎么被装配出来的采样开销、与现有 APM 的对接
Redis Agent Meshbeta多智能体之间的发现与协作拓扑复杂度、故障传播

这张表里最容易被误读的是 Intent Router。它不是简单的分类器,官方强调的是「按语义而不是字面」——用户说「我上周那个单子还没到」,字面匹配会去找「单子」这个关键词,语义路由会识别出这是「物流查询」这个意图,然后分派给对应的技能或人。它同时支持模型路由,也就是同一个意图可以根据复杂度分给不同规格的模型,这一条对成本控制的价值比路由本身更大。

Agent Playbooks 的价值在于把「答案」和「流程」分开。有些问题答案是固定的,缓存下来直接返回;有些问题必须先查实时库存才能回答,那就固化一条「查库存再生成」的程序。这两类混在一起是很多智能体答非所问的根源——模型不知道自己该不该去查数据。

token 账:把上下文塞满是笔亏本买卖

不用复杂模型,做一道小学算术就能看清差距。

假设一个中等规模的客服智能体,每天 20 万次请求,每次把 6000 token 的上下文(历史对话加知识片段)整包塞进去。日消耗是 12 亿 token。按每百万输入 token 0.5 美元这个量级估算,输入成本约 600 美元一天,一个月接近 1.8 万美元。这还只是输入,不含输出与工具调用。

如果用运行时装配,典型情况下真正需要的上下文是 800 到 1200 token:一段意图相关的知识、最近三轮对话摘要、若干条记忆事实。取中位数 1000 token,同样的请求量,日消耗降到 2 亿 token,成本降到原来的六分之一。

省下来的钱不是白来的,它换成了另一组开销:向量检索的算力、上下文装配的延迟、以及缓存不一致带来的返工。这笔账是否划算,取决于两个比值——「实际需要的上下文」占「整包上下文」的比例,以及命中缓存的请求占比。比例越低、命中率越高,运行时装配越划算;反过来,如果你的场景本来就需要通读一份长文档,那长上下文反而是对的。

所以第一件要做的事不是选型,而是测量:抽样统计真实请求里,模型实际引用到的内容占喂进去的比例。这个数字低于 20%,运行时装配几乎必然划算;高于 60%,先别急着改架构。

落地架构:一次请求怎么穿过三层

把六个组件串起来看,一次请求的路径大致是这样。

用户输入先进 Intent Router。路由器做语义匹配,输出三样东西:意图标签、目标(FAQ、技能、人工、LLM)、以及一组约束(比如必须使用哪个模型规格)。如果命中 FAQ 且答案稳定,直接返回,整条链路结束,这一步能吃掉相当比例的流量。

没命中就进 Context Gateway。它按意图标签去取上下文:从 Memory 取该用户的事实与偏好,从知识库取与意图相关的片段,从会话存储取最近几轮摘要。取回之后做裁剪——按 token 预算截断、按相关性排序、去重。裁剪策略是这个组件最核心的部分,也是最容易出问题的地方:裁多了模型答不全,裁少了成本失控。

装配好的上下文交给模型或 Playbook。Playbook 在需要实时数据时会触发一次工具调用,拿到结果再生成。生成完成后,把本次对话里值得长期记住的事实写回 Memory,这一步要有明确的准入规则,否则记忆会被噪声污染,越用越差。

Lens 和 Mesh 分别挂在这条链路的两侧:Lens 负责观测装配过程,Mesh 负责多智能体之间的调用。这两个还在 beta,生产环境建议先不接入主链路。

代码示例(示意)

下面这段 Python 只是帮助理解调用顺序,不是可直接运行的完整实现。真实的 SDK 名称、参数与方法签名请以官方文档为准,本文的类名与方法名均为示意。

import redis
from dataclasses import dataclass

r = redis.Redis(
    host="redis-context.internal",
    port=6379,
    password="",
    ssl=True,
    socket_timeout=0.05,      # 装配预算很紧,超时即降级
    socket_connect_timeout=0.2,
    health_check_interval=30,
    decode_responses=True,
)

@dataclass
class Route:
    intent: str
    target: str          # faq | skill | human | llm
    model_tier: str      # small | large

def route(user_input: str, tenant: str) -> Route:
    # 示意:真实实现由 Intent Router 完成语义匹配
    hit = r.json().get(f"route:{tenant}:{hash(user_input) % 4096}")
    if hit:
        return Route(**hit)
    return Route(intent="unknown", target="llm", model_tier="small")

def assemble(user_id: str, intent: str, budget_tokens: int = 1200):
    facts = r.json().get(f"memory:{user_id}") or {}
    chunks = r.ft(f"idx:kb:{intent}").search("*").docs[:8]
    # 按预算裁剪,超出的直接丢弃而不是截断句子
    ctx, used = [], 0
    for c in chunks:
        cost = len(c["text"]) // 3
        if used + cost > budget_tokens:
            break
        ctx.append(c["text"])
        used += cost
    return {"facts": facts, "chunks": ctx, "tokens": used}

def handle(user_id: str, tenant: str, user_input: str) -> str:
    rt = route(user_input, tenant)
    if rt.target == "faq":
        return r.get(f"faq:{rt.intent}") or "稍等,我确认一下"
    ctx = assemble(user_id, rt.intent)
    answer = call_model(rt.model_tier, user_input, ctx)   # 省略
    return answer

这段示意里有两个值得注意的工程细节。一是 socket_timeout 设得很短,因为上下文装配处在用户等待的关键路径上,宁可降级也不要拖慢;二是裁剪时按块丢弃而不是按字符截断,截断会产生半句话,模型容易顺着半句话编下去。

容量与 SLA 视角的运维要点

第一是内存规划。Context Gateway 的缓存与 Memory 的存储会长在同一套集群上,两者的增长曲线完全不同:缓存是稳定水位,记忆是单调增长。上线前就要把这两类数据分到不同的逻辑库甚至不同实例,否则记忆膨胀会把缓存挤掉,表现为命中率突然下降而内存看起来还很宽裕。

第二是持久化。Memory 一旦丢失,用户体验是断崖式的——智能体突然不认识你了。AOF everysec 加 RDB 快照的组合是常见起点,但要实测恢复时间,几 GB 的 AOF 重放可能需要几十秒,这段时间内所有依赖记忆的请求都会退化。

第三是故障域。路由、装配、记忆三段串行,任何一段超时都会拖垮整个请求。设计上必须允许「跳过」:路由失败就退到默认 LLM 路径,装配超时就只带最近三轮对话,记忆不可用就当新用户。降级路径要提前写好并压测,不要等故障时现想。

第四是可观测性。至少要有四个指标:路由命中率、上下文平均 token 数、装配 P99 延迟、记忆写入量与去重率。前两个直接决定成本,后两个决定体验。Lens 在 GA 之前,这些指标先用客户端埋点补齐。

第五是容量换算。按每次装配读 8 到 12 个文档块、每块 1 到 3 KB 估算,单请求的网络往返在 30 KB 量级。20 万次/天的请求量下,这部分流量不算大,但如果你的文档块更大、或者装配时做了多路召回,带宽会成为新的瓶颈,要提前算。

日常巡检可以直接用这几条查到水位与趋势:

# 内存水位与碎片率
redis-cli -h redis-context.internal --tls -a "$REDIS_PASS" INFO memory \
  | grep -E 'used_memory_human|maxmemory_human|mem_fragmentation_ratio'

# 连接数(装配服务横向扩容前必看)
redis-cli -h redis-context.internal --tls -a "$REDIS_PASS" INFO clients | grep connected_clients

# 记忆键的增长趋势,按天采样即可
redis-cli -h redis-context.internal --tls -a "$REDIS_PASS" --scan --pattern 'memory:*' | wc -l

# 装配路径的慢查询,重点看检索类命令
redis-cli -h redis-context.internal --tls -a "$REDIS_PASS" SLOWLOG GET 20

风险与观望建议

Intent Router 和 Agent Playbooks 已经 GA,可以用在生产,但建议先用旁路方式接——把线上真实请求复制一份过去,比对路由结果与现有逻辑的差异,跑一两周再切主链路。意图路由的错误是最难排查的一类问题,因为它不报错,只是答得不对。

Agent Memory 与 Context Gateway 已经发布但配套生态还在成型,接入前要明确数据边界:哪些信息可以跨会话记住、保存多久、用户要求删除时怎么保证删干净。这三条在合规审查里一定会被问。

Lens 与 Agent Mesh 还是 beta,不建议进主链路。Lens 的采样本身有开销,Mesh 引入的拓扑复杂度会显著放大故障排查难度。等 GA 再评估,期间可以用现有的 APM 加自定义埋点顶上。

最后给一个判断标准:这套东西真正解决的是「上下文供给的工程化」,不是「让模型更聪明」。如果你的智能体现在答不好,先确认是模型能力问题还是数据供给问题。前者换模型更快,后者才轮得到 Iris。把工具用在错的病灶上,只会多一层需要维护的组件。