
Hello,我是小兔大白糖。 压测里 WebSocket 还扛得住,Kafka consumer 的 lag 却先红了——群资料改名和新消息挤在同一条 Topic 里抢算力,priority 字段写得再漂亮也救不了整组一起堵。写成这篇,给要在 IM / 社交产品里做通知异步管道与 Topic 选型的初中级后端同学:只谈 Kafka(或同类分区日志)上的切分与 key 合同,不绑某一家仓库配置。
说明:下文 Topic 名、分区数、retention 均为教学脱敏示意;落地请按自家流量与 SLA 压测。通道选路(Sync / Realtime / Push)见系列前文;本文解决的是进队列之后、触达之前的拥塞隔离。
估计阅读时间:10 分钟
目录
- 为什么现在要关心
- 心智模型:行李转盘,不是万能 FIFO
- 精确定义:延迟类、Topic 合同与正交边界
- 业界模式对照表
- 硬规则:五条可复述的合同
- 示意拆分与统一信封
- 分区 key 与顺序承诺
- 反模式
- 选型结论
为什么现在要关心
积压隔离要签在 Topic / 消费组这一层;payload 里的 priority 字段救不了跨故障域的拥塞。
IM / 社交里「推一条通知」往往先落消息队列,再由 worker 选 WebSocket、平台推送或落库。常见痛点很少是 JSON 长什么样,而是这三类:
| 现象 | 常见根因 |
|---|---|
| 新消息 lag 飙红,运维只能整题扩容 | 不同延迟类事件挤在同一条管道,抢同一批 consumer 的算力与 lag 预算 |
| 热点群一条消息拖死全站已读回执 | 顺序合同签在错误维度——按全局 FIFO 想「一切有序」 |
| priority 字段全是 P0,线上仍一起堵 | 优先级只写在 payload,没有 Topic / 消费组隔离 |
本文范围:Kafka(或 Pulsar、RocketMQ 等分区日志)上的 Topic 切分与 partition key。与 IM 触达三平面 正交——三平面管「触达职责」;与 多 Provider 推送策略 正交——Provider 管「通道实现」。Topic 管的是异步管道里的拥塞与扩缩。
心智模型:行李转盘,不是万能 FIFO
按延迟类拆 Topic,像机场给急救箱、普通行李、晚到件各开一条转盘——每条皮带转速(分区、retention、consumer 并发)可以单独调。
- 单 Topic 大杂烩:所有行李进一条皮带。高峰时纪念品和急救箱一起转,急救也慢——高优被低优 lag 拖死,扩容只能整题放大。
- 按延迟类拆 Topic(混合策略):秒级、近实时、可分钟级分皮带;紧急档可以单独加 consumer,批量档可以少分区、短 retention。
类比局限:转盘只解释「隔离与独立 lag 预算」;解释不了跨 Topic 的全局顺序——那本来也不该承诺。FIFO 只在「你选定的 key 维度 + 同一分区」内成立。
精确定义:延迟类、Topic 合同与正交边界
「混合」= 按延迟档拆 Topic + payload 里仍保留业务 type;不是每个事件名开一个 Topic。
| 概念 | 含义 | 边界 |
|---|---|---|
| 延迟类(latency class) | 从入队到 worker 开始处理的 SLA 档:秒级 / 近实时 / 可分钟级 | 按拥塞与扩缩需求归类,不是按产品功能菜单枚举 |
| Topic 合同 | 同一 Topic 内共享 retention、分区规模、consumer 组与 lag 告警阈值 | 新事件先归入已有延迟档,再评估是否要新 Topic |
| priority 字段 | worker 进程内的相对调度、同批消息的排序提示 | 不能替代 Topic / 消费组隔离;跨故障域靠物理分管道 |
| 统一信封(envelope) | 外层固定元数据 + data 复用业务 DTO | 避免「Kafka 一种 schema、API 又一种 schema」的双份模型 |
| 分区 key | 决定消息进哪个 partition,从而决定与谁共享有序队列 | 只保证你书面承诺的那一维有序(会话、用户等) |
和线程池类比:core/max 管的是池子大小;把紧急任务和低优任务丢进同一个无界队列,再在代码里 if urgent 插队,池子再大也会被低优占满——Topic 拆分相当于给不同 SLA 开不同队列。
业界模式对照表
默认调研基线倾向模式 C(按延迟类 / 优先级档拆 Topic);团队极小、流量低时可从 A 起步,但要写清何时升级到 C。
| 模式 | 做法 | 优点 | 代价 / 边界 |
|---|---|---|---|
| A. 单 Topic + 类型字段 | 一切进 notifications,靠 type / priority 过滤 | 运维简单;producer 只认一处 | 高优被低优积压拖死;扩容只能整题放大 |
| B. 按业务域拆 Topic | chat / meeting / system 各一条 | 域隔离清晰,ACL 好讲 | 域内仍混延迟类;Topic 数随产品线膨胀 |
| C. 按延迟类拆(混合) | 如 notif-urgent / notif-interactive / notif-batch | lag 预算可独立;紧急可单独加 consumer | producer 要选 Topic;跨档顺序不保证 |
| D. 单 Topic + 多消费组 | 同流,不同 group 只处理子集类型 | Topic 数量少 | 低优仍占存储与 broker 带宽;过滤浪费算力 |
模式 B 常与 C 叠用:域之间拆 Topic,域内再按延迟档拆——Topic 总数要有治理规则(见硬规则),避免变成「每个功能一个 Topic」。
硬规则:五条可复述的合同
删掉比喻后,这五条仍应能原样讲给同事听:
- 积压隔离按延迟类签合同,不按事件枚举无限开 Topic。 新事件先归入已有延迟档;只有 lag / SLA 证明需要独立管道时,才新开 Topic。
- 分区 key 只保证「你承诺有序的那一维」。 同会话消息常用
hash(conversation_id);用户侧回执常用hash(user_id)。禁止对外假装全局 FIFO。 - priority 字段不能替代 Topic 隔离。 字段给 worker 内调度;跨 consumer 组、跨故障域的隔离靠 Topic / 配额 / 独立扩缩。
- retention 与压缩策略跟延迟类走。 示意:紧急档短留、分区偏多;批量档可更短 retention、更少分区、更激进压缩——具体数字压测定,别抄表当 SLA。
- 信封统一、业务体复用。 外层固定幂等键、类型、时间戳、目标与通道意图;
data直接复用既有业务 DTO,避免双份模型漂移。
示意拆分与统一信封
Topic 档按延迟类命名;数字全是示意,落地按 QPS、消息体积与 consumer 耗时压测。
| Topic 档(示意名) | 延迟类 | 分区量级(示意) | retention(示意) | 典型内容 |
|---|---|---|---|---|
notif-urgent | 秒级 | 较高 | 数天 | 会话新消息、需戳醒的系统广播 |
notif-interactive | 近实时 | 中 | 数天 | 成员变更、会话资料、撤回 |
notif-batch | 可分钟级 | 低 | 较短 | 在线状态、可合并的弱提示 |
统一信封(教学伪结构,非某 SDK 官方字段):
NotificationEnvelope:
id # 幂等 / 去重键
type # 业务类型(worker 分发用,不是 Topic 命名墙)
ts_ms
targets # 用户列表或「全体成员」语义
target_mode # all_members | explicit | online_only | …
priority # worker 内相对序;不替代 Topic
channels # 可选:ws / push 意图(仍服从三平面合同)
data # 复用业务 DTOproducer 根据延迟类选 Topic,根据业务填 type 与 data——Topic 名不必与 type 一一对应。
分区 key 与顺序承诺
顺序是「key + 分区」上的局部合同,不是集群级承诺。
| 事件类 | 推荐 partition key | 顺序合同 |
|---|---|---|
| 同会话消息相关 | conversation_id | 同会话内有序;跨会话不保证 |
| 用户侧回执 / 弱状态 | user_id | 同用户有序;不为整站热点排队 |
| 广播 / 系统级 | 固定 key 或轮询 | 吞吐优先;接受乱序或靠版本号收敛 |
反例:key = random UUID——既放弃有序,又可能让分区负载看起来「均匀」实则无法推理 lag 热点。广播若全走同一固定 key,要接受单分区上限,或改接受乱序 + 客户端合并。
反模式
这些坑在架构评审里反复出现;踩了往往要动 Topic 合同才能救。
- 每个
message_type一个 Topic → ACL、监控、on-call 认知爆炸;改一个枚举就要改基础设施。 - 高优低优共用同一消费组,只靠代码里
if priority插队 → 进程 OOM 或 rebalance 时一起挂;lag 指标也无法按 SLA 拆开告警。 - partition key 用随机 UUID → 有序合同失效,排障时无法按会话 / 用户对齐 lag。
- 在通知 Topic 里塞完整聊天历史当同步通道 → 管道吞了 Sync 职责;retention 与体积失控。真相应走 同步平面,通知只带 hint 或摘要。
选型结论
需要独立 lag 预算与按档扩缩 → 默认按延迟类拆 Topic(模式 C);极小流量可 A 起步,但必须写清升级触发条件。
| 你的处境 | 建议 |
|---|---|
| 已出现「某类通知拖死全局 lag」或要对紧急档单独 HPA consumer | 模式 C;必要时域内再叠 B |
| 团队极小、总 QPS 低、尚无独立 on-call 分 Topic | 可 模式 A;触发条件示例:任一延迟类 lag 持续超阈、或紧急类 P99 处理时间超标 → 升级到 C |
| 只想少 Topic、能接受 broker 存储与带宽被低优占满 | 模式 D 仅作过渡,不适合作为长期 SLA 合同 |
| 与触达层怎么配合 | Topic 解 异步管道拥塞;三平面 解 Sync / Realtime / Notification 职责;多 Provider 解 APNs / FCM 等实现——三层正交,别混在一张表里选型 |
可行动清单(转发用):
- 先把现有事件按延迟类归三档,而不是按产品菜单列 Topic。
- 写清 partition key 与「对谁有序」的一页纸合同,禁止口头「全局有序」。
- priority 字段保留,但 lag 告警与扩容按 Topic / consumer 组 拆开。
- 统一 envelope,
data复用 DTO,避免 Kafka schema 与 API schema 两套真相。 - 评估是否该从单 Topic 升级:看分延迟类 lag,不看「感觉好像还行」。
系列导航