CompletableFuture 异步编排:指定跑道、超时哨声与汇合失败策略

Hello,我是小兔大白糖。 多源聚合把 P99 压下来了,下一轮压测却在「公共 ForkJoin 池饿死 / 无超时 join 挂死 / 异常被链路上吞掉」里轮换翻车。写成这篇,给熟悉线程池与超时重试、却还把 CompletableFuture(可组合的异步结果)当「随便 supplyAsync 一下」的后端同学:做一次业界向的异步编排选型调研。
说明:伪流程与数字均为教学脱敏 / 示意,不绑定某司业务栈。读完带走的是心智模型与取舍清单,不是项目实施说明书。
估计阅读时间:11 分钟
目录
- 为什么现在要关心
- 心智模型:接力赛
- 精确定义:编排是合同,不只是语法糖
- 模式对照:commonPool、业务池、纯串行
- 组合边界:依赖扁平 vs 并行汇合
- 教学场景:多源聚合与超时降级
- 常见坑
- 选型结论
为什么现在要关心
CompletableFuture 解决的是「可声明式组合多个异步阶段」;默认不解决「IO 该跑哪条跑道、超时谁喊停、汇合失败怎么交代」。
现场里常见的误伤:
| 你看到的现象 | 常见真相 |
|---|---|
| 异步一上,全 JVM 的 parallelStream / 默认 CF 一起抖 | supplyAsync 未传池,任务挤进 ForkJoinPool.commonPool() |
| 某下游抖一下,入口线程或业务 worker 一起挂 | 链上无 orTimeout / completeOnTimeout;join/get 无限等 |
| 监控显示「成功」,业务却拿到空壳 / 默认分 | 异常只打了日志,没有 exceptionally/handle 把失败变成显式降级合同 |
thenApply 里做远程调用,容器工作线程被拖死 | 无 Async 后缀时,阶段可能在完成线程或调用方线程同步执行 |
allOf 后偶发「不知道谁挂了」 | 子任务未各自降级;allOf 只告诉你「有人失败」,不替你写汇合策略 |
和上一篇线程池「容量合同」、再上一篇 JMM「可见性合同」同一类问题:你以为在写异步语法,其实在谈失败形态是否可预期。本文钉三件事——显式线程池、超时与异常合同、依赖 vs 并行汇合怎么选。
心智模型:接力赛
主比喻:接力赛。
| 比喻角色 | CF / 池对应 | 人话 |
|---|---|---|
| 指定跑道 | supplyAsync(supplier, executor) 等带池重载 | IO 密集别默认踩公共跑道 |
| 裁判哨声 | orTimeout / completeOnTimeout(Java 9+) | 到点要么异常完成,要么用默认值完成 |
| 掉棒替补 | exceptionally / handle / whenComplete | 失败要变成业务可接受的值,或继续把异常往下传 |
| 下一棒等上一棒 | thenCompose | 依赖上一步结果再开异步,且要扁平成一层 Future |
| 多棒同时跑再交棒 | thenCombine / allOf | 并行汇合;先写清「一人摔倒整队算不算输」 |
类比局限一句说清:接力赛解释「跑道、哨声、替补」;解释不了「超时后底层 HTTP/DB 调用是否仍占连接与线程」——JDK 的超时 API 默认只完成 Future,不自动中断在跑任务;客户端超时与池隔离要另配。
精确定义:编排是合同,不只是语法糖
先把线程池、超时、异常降级写成合同,再谈链式 API 好不好看。
和 Future 差在哪(分享向够用)
Future | CompletableFuture | |
|---|---|---|
| 等待 | 常见 get() 阻塞拿结果 | 可注册后续阶段,组合多个异步 |
| 组合 | 手工同步居多 | thenApply / thenCompose / thenCombine / allOf 等 |
| 异常 | 多在 get 时暴露 | 可在链上 exceptionally / handle 收口 |
| 默认执行器 | 取决于你怎么提交 | 无 Executor 的 async 重载 → 倾向 commonPool |
硬边界(公开 JDK 叙事,勿润软):
- 无 Executor 的
supplyAsync/runAsync/*Async:任务跑在ForkJoinPool.commonPool()(并行度不足时才退化为「一任务一线程」一类后备)。 IO 堵在这里,等于和parallelStream等共用一张小桌子。 - 无
Async后缀的依赖阶段(如thenApply):可能在完成上游的线程、或调用完成方法的线程上同步跑——别默认「一定进了线程池」。 orTimeout:超时则以TimeoutException异常完成;completeOnTimeout:超时则以给定值正常完成。二者都不等于「取消并中断底层工作」。thenCompose:函数返回CompletableFuture,管道自动展平;thenApply若返回 Future,会得到「Future 套 Future」。allOf结果类型是「全部完成」的信号(Void);取值仍看各子 Future;子任务失败策略要在汇合前写清。
和响应式栈的边界
CompletableFuture 擅长单值、有限阶段的编排(一次聚合、一次决策)。背压、无限事件流、复杂算子链,是 Reactor / Rx 一类问题——本文不混谈选型细节;需要流式与背压时另开调研。
模式对照:commonPool、业务池、纯串行
业界常见三条路:省事公共池、可控业务池、放弃并行——每条都有代价。
| 模式 | 做法 | 你多买到什么 | 主要代价 |
|---|---|---|---|
| A. commonPool 全家桶 | supplyAsync(fn) 不传池;链式也默认 async | 少写几行 | IO 堵死公共池;与 parallelStream 互相饿死;难命名、难隔离监控 |
| B. 业务池 + CF 编排 | 显式 Executor;IO/CPU 分池(见系列线程池文) | 故障域可控;线程名可读;拒绝策略可预期 | 池要隔离、看板与容量合同要养 |
| C. 纯同步串行 | 顺序调用下游 | 心智负担最低 | 延迟累加;高峰只能靠加副本硬扛 RT |
分享向默认推荐:
- 多源 IO 聚合 → 模式 B:CF + 显式业务池(必要时 IO 池与 CPU 池分开)。
- 短 CPU 变换且上游已完成 → 可用无池的
thenApply,但别在里面做阻塞 IO。 - 下游可降级 → 超时用
completeOnTimeout或orTimeout+exceptionally;不可降级的关键路径用失败显式上抛,别假装成功。
代价必须写进选型:并行买的是「延迟≈最慢那一棒」,卖的是池容量、超时误杀、降级后的正确性账单。
组合边界:依赖扁平 vs 并行汇合
下一步还要再开异步 → thenCompose;两边都已在飞、只缺合并 → thenCombine / allOf。
| API | 函数形态(人话) | 适用 | 延迟直觉 |
|---|---|---|---|
thenApply | 同步把 T 变成 U | 解析、映射、轻量校验 | 加在当前棒上 |
thenCompose | T 再产出另一层异步结果,并自动展平 | 按上一步结果决定下一次异步调用 | 近似串行相加 |
thenCombine | 两个 Future 都完成后合并 | 双源汇合 | 近似 max(两源) |
allOf | 等多个全部完成 | 多源汇合信号 | 近似 max(各源) |
anyOf / applyToEither | 谁先完成用谁 | 主备竞速、可牺牲一致性的加速 | 近似 min,要付「慢的仍在跑」账单 |
汇合失败策略(写进设计,而不是写进复盘):
| 策略 | 做法 | 代价 |
|---|---|---|
| 全有或全无 | 任一失败 → 整次失败 | 正确性紧;可用性差 |
| 逐源降级 | 每源 exceptionally 成空/默认,再 allOf | 可用性好;业务要接受残缺视图 |
| 分级超时 | P0 严、P1 短超时可降级 | 合同复杂;要监控「降级率」 |
教学场景:多源聚合与超时降级
场景(教学):一次同步决策要并行拉「画像 / 设备 / 近史 / 名单」四源,再做轻量规则;名单可降级,总链路要硬超时。
伪流程(非生产代码;池参数见系列上一篇「七参数」):
画像 ──┐
设备 ──┼─ supplyAsync(..., ioPool) ──► allOf
近史 ──┤
名单 ──┘ (+ orTimeout 短 / exceptionally → CLEAR)
│
▼
thenApplyAsync(规则, cpuPool)
│
▼
orTimeout(总预算) → exceptionally → 人工复核档
│
▼
join() // 同步入口才阻塞等结果设计要点(可复述):
- 查询进 IO 池,规则进 CPU 池——和「快慢路径隔离」同一合同。
- 可降级源单独短超时;总预算用链尾超时收口。
allOf之后再join各子 Future 取值是安全叙事(已完成);别在未汇合前对慢源无超时地join。- 入口若是同步 API,最终要有人
join/get;只创建链、无消费者,任务可能还在队列里。
最小 API 对照(教学摘录,以当前 JDK CompletableFuture 为准):
CompletableFuture.supplyAsync(() -> loadProfile(id), ioPool)
.orTimeout(80, TimeUnit.MILLISECONDS)
.exceptionally(ex -> Profile.EMPTY);异常三件套怎么选(先结论):
| API | 改结果? | 典型用途 |
|---|---|---|
exceptionally | 异常 → 正常值 | 局部降级 |
handle | 成功/失败都能合成新值 | 链尾收成统一业务类型 |
whenComplete | 不改结果 | 日志 / 指标;异常继续传 |
常见坑
-
supplyAsync不传池,IO 挤爆 commonPool
公共池线程数常按「CPU 相关并行度」叙事,不是为阻塞 IO 准备的编制。 -
在
thenApply里做阻塞 IO
可能同步占用完成线程或调用方(例如容器 worker)。耗时 / 阻塞步骤用thenApplyAsync(..., pool)。 -
allOf后无超时地join
最慢或挂死的下游决定你的尾延迟;哨声要写在合同里。 -
只打日志、不降级也不失败
调用方以为成功。失败必须变成显式值或显式异常,二选一写进 API 语义。 -
用
thenApply接「再返回 Future」却忘了展平
类型变成 Future 套 Future;依赖下一步异步用thenCompose。 -
以为
orTimeout会停掉底层 RPC
默认只完成 Future。连接池与客户端超时不配,超时后仍可能占着线程/连接——账单在资源层,不在链式语法里。 -
批量扇出无并发上限
每个请求一个无界并行,等于把下游当无限容量。业界常见补丁是信号量 / bulkhead 与有界池一起用(细节见线程池隔离文)。
选型结论
- IO 聚合用
CompletableFuture+ 显式业务池;把 commonPool 留给短 CPU 类工作,或干脆当「不要碰」的默认。 - 超时与降级写入合同:
orTimeout/completeOnTimeout+exceptionally/handle;别假设下游永远按时返回。 - 组合先分清依赖:再开异步 →
thenCompose;并行汇合 →thenCombine/allOf,并先写清汇合失败策略。 - 阻塞步骤带
Async并指定池;同步入口才join,异步入口保证有消费者与观测。 - 响应式栈另案选型;单值编排别硬上复杂流框架,流与背压也别倒回来用 CF 硬扛。
下一步:列一张「异步链清单」——每条链标注执行池、单源超时、总超时、可降级源、汇合失败策略、入口是同步 join 还是回调 → 缺任一项就先补合同,再谈微优化。
系列导航:
- 上一篇:/blog/java_jmm_volatile_synchronized/(
java-core-deepseriesOrder 2)— JMM、volatile 与 synchronized - 再上一篇:/blog/java_threadpool_params_and_isolation/(seriesOrder 1)— 线程池七参数与快慢路径隔离
- 本篇(seriesOrder 3):CompletableFuture 异步编排的跑道、哨声与汇合策略