通知异步管道:按延迟类拆 Topic,别靠 priority 字段救命

通知异步管道:按延迟类拆 Topic,别靠 priority 字段救命

Hello,我是小兔大白糖。 压测里 WebSocket 还扛得住,Kafka consumer 的 lag 却先红了——群资料改名和新消息挤在同一条 Topic 里抢算力,priority 字段写得再漂亮也救不了整组一起堵。写成这篇,给要在 IM / 社交产品里做通知异步管道与 Topic 选型的初中级后端同学:只谈 Kafka(或同类分区日志)上的切分与 key 合同,不绑某一家仓库配置。

说明:下文 Topic 名、分区数、retention 均为教学脱敏示意;落地请按自家流量与 SLA 压测。通道选路(Sync / Realtime / Push)见系列前文;本文解决的是进队列之后、触达之前的拥塞隔离。

估计阅读时间:10 分钟


目录


为什么现在要关心

积压隔离要签在 Topic / 消费组这一层;payload 里的 priority 字段救不了跨故障域的拥塞。

IM / 社交里「推一条通知」往往先落消息队列,再由 worker 选 WebSocket、平台推送或落库。常见痛点很少是 JSON 长什么样,而是这三类:

现象常见根因
新消息 lag 飙红,运维只能整题扩容不同延迟类事件挤在同一条管道,抢同一批 consumer 的算力与 lag 预算
热点群一条消息拖死全站已读回执顺序合同签在错误维度——按全局 FIFO 想「一切有序」
priority 字段全是 P0,线上仍一起堵优先级只写在 payload,没有 Topic / 消费组隔离

本文范围:Kafka(或 Pulsar、RocketMQ 等分区日志)上的 Topic 切分与 partition key。与 IM 触达三平面 正交——三平面管「触达职责」;与 多 Provider 推送策略 正交——Provider 管「通道实现」。Topic 管的是异步管道里的拥塞与扩缩。


心智模型:行李转盘,不是万能 FIFO

按延迟类拆 Topic,像机场给急救箱、普通行李、晚到件各开一条转盘——每条皮带转速(分区、retention、consumer 并发)可以单独调。

单 Topic 大杂烩对比按延迟类拆 Topic
单 Topic 大杂烩对比按延迟类拆 Topic · 点击查看 SVG 原图
  • 单 Topic 大杂烩:所有行李进一条皮带。高峰时纪念品和急救箱一起转,急救也慢——高优被低优 lag 拖死,扩容只能整题放大。
  • 按延迟类拆 Topic(混合策略):秒级、近实时、可分钟级分皮带;紧急档可以单独加 consumer,批量档可以少分区、短 retention。

类比局限:转盘只解释「隔离与独立 lag 预算」;解释不了跨 Topic 的全局顺序——那本来也不该承诺。FIFO 只在「你选定的 key 维度 + 同一分区」内成立。


精确定义:延迟类、Topic 合同与正交边界

「混合」= 按延迟档拆 Topic + payload 里仍保留业务 type;不是每个事件名开一个 Topic。

概念含义边界
延迟类(latency class)从入队到 worker 开始处理的 SLA 档:秒级 / 近实时 / 可分钟级按拥塞与扩缩需求归类,不是按产品功能菜单枚举
Topic 合同同一 Topic 内共享 retention、分区规模、consumer 组与 lag 告警阈值新事件先归入已有延迟档,再评估是否要新 Topic
priority 字段worker 进程内的相对调度、同批消息的排序提示不能替代 Topic / 消费组隔离;跨故障域靠物理分管道
统一信封(envelope)外层固定元数据 + data 复用业务 DTO避免「Kafka 一种 schema、API 又一种 schema」的双份模型
分区 key决定消息进哪个 partition,从而决定与谁共享有序队列只保证你书面承诺的那一维有序(会话、用户等)

和线程池类比:core/max 管的是池子大小;把紧急任务和低优任务丢进同一个无界队列,再在代码里 if urgent 插队,池子再大也会被低优占满——Topic 拆分相当于给不同 SLA 开不同队列。


业界模式对照表

默认调研基线倾向模式 C(按延迟类 / 优先级档拆 Topic);团队极小、流量低时可从 A 起步,但要写清何时升级到 C。

通知 Topic 四种切分模式对照
通知 Topic 四种切分模式对照 · 点击查看 SVG 原图
模式做法优点代价 / 边界
A. 单 Topic + 类型字段一切进 notifications,靠 type / priority 过滤运维简单;producer 只认一处高优被低优积压拖死;扩容只能整题放大
B. 按业务域拆 Topicchat / meeting / system 各一条域隔离清晰,ACL 好讲域内仍混延迟类;Topic 数随产品线膨胀
C. 按延迟类拆(混合)如 notif-urgent / notif-interactive / notif-batchlag 预算可独立;紧急可单独加 consumerproducer 要选 Topic;跨档顺序不保证
D. 单 Topic + 多消费组同流,不同 group 只处理子集类型Topic 数量少低优仍占存储与 broker 带宽;过滤浪费算力

模式 B 常与 C 叠用:域之间拆 Topic,域内再按延迟档拆——Topic 总数要有治理规则(见硬规则),避免变成「每个功能一个 Topic」。


硬规则:五条可复述的合同

删掉比喻后,这五条仍应能原样讲给同事听:

  1. 积压隔离按延迟类签合同,不按事件枚举无限开 Topic。 新事件先归入已有延迟档;只有 lag / SLA 证明需要独立管道时,才新开 Topic。
  2. 分区 key 只保证「你承诺有序的那一维」。 同会话消息常用 hash(conversation_id);用户侧回执常用 hash(user_id)。禁止对外假装全局 FIFO。
  3. priority 字段不能替代 Topic 隔离。 字段给 worker 内调度;跨 consumer 组、跨故障域的隔离靠 Topic / 配额 / 独立扩缩。
  4. retention 与压缩策略跟延迟类走。 示意:紧急档短留、分区偏多;批量档可更短 retention、更少分区、更激进压缩——具体数字压测定,别抄表当 SLA。
  5. 信封统一、业务体复用。 外层固定幂等键、类型、时间戳、目标与通道意图;data 直接复用既有业务 DTO,避免双份模型漂移。

示意拆分与统一信封

Topic 档按延迟类命名;数字全是示意,落地按 QPS、消息体积与 consumer 耗时压测。

Topic 档(示意名)延迟类分区量级(示意)retention(示意)典型内容
notif-urgent秒级较高数天会话新消息、需戳醒的系统广播
notif-interactive近实时中数天成员变更、会话资料、撤回
notif-batch可分钟级低较短在线状态、可合并的弱提示

统一信封(教学伪结构,非某 SDK 官方字段):

NotificationEnvelope:
  id          # 幂等 / 去重键
  type        # 业务类型(worker 分发用,不是 Topic 命名墙)
  ts_ms
  targets     # 用户列表或「全体成员」语义
  target_mode # all_members | explicit | online_only | …
  priority    # worker 内相对序;不替代 Topic
  channels    # 可选:ws / push 意图(仍服从三平面合同)
  data        # 复用业务 DTO

producer 根据延迟类选 Topic,根据业务填 type 与 data——Topic 名不必与 type 一一对应。


分区 key 与顺序承诺

顺序是「key + 分区」上的局部合同,不是集群级承诺。

事件类推荐 partition key顺序合同
同会话消息相关conversation_id同会话内有序;跨会话不保证
用户侧回执 / 弱状态user_id同用户有序;不为整站热点排队
广播 / 系统级固定 key 或轮询吞吐优先;接受乱序或靠版本号收敛

反例:key = random UUID——既放弃有序,又可能让分区负载看起来「均匀」实则无法推理 lag 热点。广播若全走同一固定 key,要接受单分区上限,或改接受乱序 + 客户端合并。


反模式

这些坑在架构评审里反复出现;踩了往往要动 Topic 合同才能救。

  • 每个 message_type 一个 Topic → ACL、监控、on-call 认知爆炸;改一个枚举就要改基础设施。
  • 高优低优共用同一消费组,只靠代码里 if priority 插队 → 进程 OOM 或 rebalance 时一起挂;lag 指标也无法按 SLA 拆开告警。
  • partition key 用随机 UUID → 有序合同失效,排障时无法按会话 / 用户对齐 lag。
  • 在通知 Topic 里塞完整聊天历史当同步通道 → 管道吞了 Sync 职责;retention 与体积失控。真相应走 同步平面,通知只带 hint 或摘要。

选型结论

需要独立 lag 预算与按档扩缩 → 默认按延迟类拆 Topic(模式 C);极小流量可 A 起步,但必须写清升级触发条件。

Topic、三平面与 Provider 三层正交
Topic、三平面与 Provider 三层正交 · 点击查看 SVG 原图
你的处境建议
已出现「某类通知拖死全局 lag」或要对紧急档单独 HPA consumer模式 C;必要时域内再叠 B
团队极小、总 QPS 低、尚无独立 on-call 分 Topic可 模式 A;触发条件示例:任一延迟类 lag 持续超阈、或紧急类 P99 处理时间超标 → 升级到 C
只想少 Topic、能接受 broker 存储与带宽被低优占满模式 D 仅作过渡,不适合作为长期 SLA 合同
与触达层怎么配合Topic 解 异步管道拥塞;三平面 解 Sync / Realtime / Notification 职责;多 Provider 解 APNs / FCM 等实现——三层正交,别混在一张表里选型

可行动清单(转发用):

  1. 先把现有事件按延迟类归三档,而不是按产品菜单列 Topic。
  2. 写清 partition key 与「对谁有序」的一页纸合同,禁止口头「全局有序」。
  3. priority 字段保留,但 lag 告警与扩容按 Topic / consumer 组 拆开。
  4. 统一 envelope,data 复用 DTO,避免 Kafka schema 与 API schema 两套真相。
  5. 评估是否该从单 Topic 升级:看分延迟类 lag,不看「感觉好像还行」。

系列导航