结论先行:线程池没有万能参数公式,两条原则比公式重要——生产环境禁用 Executors 快捷方法,必须显式创建 ThreadPoolExecutor 并想清楚队列满之后怎么办。参数初值靠业务类型估算,最终值靠压测定。
先纠正一个常见的认知错误
任务提交后的顺序是:核心线程满了 → 入队 → 队列也满了 → 才创建非核心线程 → 达到最大线程数 → 触发拒绝策略。注意不是「线程开满再入队」。所以如果队列是无界的,最大线程数和拒绝策略永远轮不到出场,这正是 Executors 的坑:newFixedThreadPool 和 newSingleThreadExecutor 用的 LinkedBlockingQueue 默认上限是 Integer.MAX_VALUE,任务堆积过多直接 OOM;newCachedThreadPool 则相反,线程数无上限(maximumPoolSize 同样是 Integer.MAX_VALUE,SynchronousQueue 不存任务),任务突发时创建大量线程,每个线程还要吃掉一份 MB 级的栈内存:
// 错误写法:Executors 快捷方法,两个方向都会出事
ExecutorService a = Executors.newFixedThreadPool(16);
// 队列无界:任务生产快于消费时,堆被排队任务慢慢吃穿
ExecutorService b = Executors.newCachedThreadPool();
// 线程无上限:突发流量瞬间创建成百上千线程,栈内存与调度开销失控
// 正确写法:显式 ThreadPoolExecutor,每个参数都想清楚
ThreadPoolExecutor pool = new ThreadPoolExecutor(
8, 16, 60L, TimeUnit.SECONDS,
new ArrayBlockingQueue<>(1024),
namedThreadFactory("order-export"),
new ThreadPoolExecutor.CallerRunsPolicy());
这个顺序对应 execute 方法的三段式源码:workerCount 小于核心数时先创建核心线程;失败则 workQueue.offer 入队;入队失败再创建非核心线程;创建失败执行拒绝策略。每一步都有条件判断,理解顺序才能解释「为什么调大队列反而压不出非核心线程」这类现象——队列太长,非核心线程永远轮不到创建。
生产级写法
ThreadPoolExecutor executor = new ThreadPoolExecutor(
8, 16, 60L, TimeUnit.SECONDS,
new ArrayBlockingQueue<>(1024),
new ThreadFactory() {
private final AtomicInteger seq = new AtomicInteger(1);
@Override
public Thread newThread(Runnable r) {
// 线程名带业务含义:jstack 排查时一眼定位问题线程池
return new Thread(r, "order-export-" + seq.getAndIncrement());
}
},
new ThreadPoolExecutor.CallerRunsPolicy());
自定义 ThreadFactory 不是形式主义:线程名带上业务含义,线上 jstack 排查时一眼能定位是哪个线程池出了问题。CallerRunsPolicy 让提交任务的调用线程自己执行,天然形成反压——上游提交得越快,阻塞在提交动作上的时间越长。很多场景它比默认的 AbortPolicy(直接抛 RejectedExecutionException)更合适,但对响应时间敏感的入口线程(如 Web 容器线程)要慎用,会把 IO 线程也拖慢。四种内置策略的取舍集中对照:
| 策略 | 队列满之后的行为 | 适用场景 | 主要风险 |
|---|---|---|---|
| AbortPolicy(默认) | 抛 RejectedExecutionException | 任务可失败,调用方有重试或降级 | 调用方不接异常就是错误日志刷屏 |
| CallerRunsPolicy | 提交线程自己执行,天然反压 | 允许拖慢上游的后台任务 | 拖慢 Web 容器线程等关键入口 |
| DiscardPolicy | 静默丢弃新任务 | 丢了无所谓的采样、埋点 | 无感知丢弃,出问题难排查 |
| DiscardOldestPolicy | 丢弃队首最老任务再入队 | 只关心最新数据(行情、轨迹) | 丢掉的可能正是用户在等的任务 |
拒绝策略还可以自定义:实现 RejectedExecutionHandler,把被拒绝的任务写进 MQ 或落库延迟重放,比任何内置策略都更适合不可丢的业务。
线程池内部还有一个状态机值得了解:RUNNING → SHUTDOWN(shutdown 后不再接新任务、队列继续消化)→ STOP(shutdownNow 中断在跑任务、丢弃队列)→ TIDYING → TERMINATED。优雅关闭的标准姿势是先 shutdown 让存量任务跑完,配合 awaitTermination 设等待上限,超时再 shutdownNow 兜底——直接 shutdownNow 会把正在执行的任务拦腰打断,对有事务或外部副作用的任务就是事故。
参数怎么定初值
CPU 密集型任务,核心线程数取 N(CPU 核数)或 N+1;IO 密集型任务按 N * (1 + 等待时间/计算时间) 估算,常说的 2N 只是等待与计算约 1:1 时的特例。这些只是初值:队列长度要结合任务耗时和内存预算算(每个任务对象多大 × 1024 个队列位是不是扛得住),拒绝策略要和产品确认「满了之后丢弃能否接受」。最终数字一律压测说了算。另一个常被忽略的参数是 keepAliveTime:它只作用于「超过核心数的那部分线程」,allowCoreThreadTimeOut(true) 可以让核心线程也能超时回收,适合偶尔来一波任务的低频线程池,避免长期空占资源。
队列的实现选择也有讲究:ArrayBlockingQueue 预分配、内存可预算;LinkedBlockingQueue 按需分配,且读写是两把锁,高并发下吞吐反而可能更高;SynchronousQueue 不存任务、直接交接给线程,配合 Cached 风格的池使用。队列类型与线程数、拒绝策略是联动的三个旋钮,单独拧一个意义有限。
动态调参比静态猜数靠谱
ThreadPoolExecutor 提供了运行时修改参数的 API:setCorePoolSize、setMaximumPoolSize、setKeepAliveTime 调用即生效。把参数接到配置中心,配合 getActiveCount()、getQueue().size() 上报监控,高峰期临时扩容,比上线前猜一个数字然后赌它扛得住可靠得多。监控建议盯三个指标:活跃线程数(接近最大值说明容量告急)、队列长度(持续上涨说明消费速度跟不上)、拒绝次数(一旦出现就该告警)。这三项接入看板后,线程池从黑盒变成可观测组件,调参才有依据。
还有两个冷启动细节:默认核心线程在任务到达时才创建,服务冷启动的第一波请求会串行触发线程创建,对延迟敏感的场景可以调用 prestartAllCoreThreads() 预热;容器里还要确认系统层面的线程配额,线程数上限并不只由 JVM 参数决定。
同一服务里多个线程池的命名要有前缀规范(业务-用途-编号),监控聚合、告警路由都按名字分组;线程池对象建议收口到统一的工厂创建,禁止各处散落 new ThreadPoolExecutor——收口之后才有地方统一埋监控和默认策略,评审也只需要盯一个入口。
最后统一口径:参数可以调,纪律不能让——有界队列、显式创建、拒绝可观测,这三条在任何团队都应该是硬约束。
一个必查项
线程池结合 ThreadLocal 传递上下文(用户信息、traceId)时,线程复用会把上一个任务的值带给下一个任务。提交前 set、finally 里 remove 是底线;跨线程池传递则需要 TransmittableThreadLocal 这类方案,上线前务必在代码评审里确认清理逻辑存在:
// 错误写法:set 之后不清理,线程复用导致上下文串号
CONTEXT.set(parseUser(req));
pool.submit(() -> audit(CONTEXT.get())); // 任务读到的可能是上一个请求的残留值
// 没有 finally remove:线程归还后 Map 里一直挂着这个用户对象
// 正确写法:set 与 remove 严格配对
CONTEXT.set(parseUser(req));
try {
pool.submit(() -> audit(CONTEXT.get()));
} finally {
CONTEXT.remove(); // 线程归还前清干净
}
生产案例
某次大促前排查一个「内存缓慢上涨」的服务,发现它用 Executors.newFixedThreadPool(4) 做订单异步通知,无界队列在大促流量下悄悄积压了几十万条待通知任务,每个任务持有请求报文引用,堆占用随队列长度线性增长。压测一开始只是 Full GC 变频繁,负责同学先加堆内存继续压,结果只是把 OOM 往后拖。定位后整改:显式 ThreadPoolExecutor、有界队列,拒绝策略改为「落库 + 定时补偿重试」的自定义 handler,同时把活跃线程数、队列长度、拒绝次数接进监控。大促当天队列水位全程可见,拒绝发生后补偿任务把通知补齐,业务无损。这个案例的教训是:无界队列把「容量规划」这个问题藏起来了,但它并没有消失。
检查清单
- 生产代码零 Executors 快捷方法,一律显式 ThreadPoolExecutor
- 队列必须有界,容量按任务大小 × 内存预算计算
- 拒绝策略与业务确认,不可丢任务要落库重放而非丢弃
- 线程工厂命名带业务前缀,便于 jstack 定位
- 活跃线程数、队列长度、拒绝次数三项接入监控
- 参数接配置中心,保留运行时扩缩容能力
- ThreadLocal 在任务入口 set、finally remove 严格配对
- 跨线程池传上下文用 TransmittableThreadLocal 等方案