结论先行:线程池没有万能参数公式,两条原则比公式重要——生产环境禁用 Executors 快捷方法,必须显式创建 ThreadPoolExecutor 并想清楚队列满之后怎么办。参数初值靠业务类型估算,最终值靠压测定。

先纠正一个常见的认知错误

任务提交后的顺序是:核心线程满了 → 入队 → 队列也满了 → 才创建非核心线程 → 达到最大线程数 → 触发拒绝策略。注意不是「线程开满再入队」。所以如果队列是无界的,最大线程数和拒绝策略永远轮不到出场,这正是 Executors 的坑:newFixedThreadPool 和 newSingleThreadExecutor 用的 LinkedBlockingQueue 默认上限是 Integer.MAX_VALUE,任务堆积过多直接 OOM;newCachedThreadPool 则相反,线程数无上限(maximumPoolSize 同样是 Integer.MAX_VALUE,SynchronousQueue 不存任务),任务突发时创建大量线程,每个线程还要吃掉一份 MB 级的栈内存:

// 错误写法:Executors 快捷方法,两个方向都会出事
ExecutorService a = Executors.newFixedThreadPool(16);
// 队列无界:任务生产快于消费时,堆被排队任务慢慢吃穿
ExecutorService b = Executors.newCachedThreadPool();
// 线程无上限:突发流量瞬间创建成百上千线程,栈内存与调度开销失控

// 正确写法:显式 ThreadPoolExecutor,每个参数都想清楚
ThreadPoolExecutor pool = new ThreadPoolExecutor(
        8, 16, 60L, TimeUnit.SECONDS,
        new ArrayBlockingQueue<>(1024),
        namedThreadFactory("order-export"),
        new ThreadPoolExecutor.CallerRunsPolicy());

这个顺序对应 execute 方法的三段式源码:workerCount 小于核心数时先创建核心线程;失败则 workQueue.offer 入队;入队失败再创建非核心线程;创建失败执行拒绝策略。每一步都有条件判断,理解顺序才能解释「为什么调大队列反而压不出非核心线程」这类现象——队列太长,非核心线程永远轮不到创建。

生产级写法

ThreadPoolExecutor executor = new ThreadPoolExecutor(
        8, 16, 60L, TimeUnit.SECONDS,
        new ArrayBlockingQueue<>(1024),
        new ThreadFactory() {
            private final AtomicInteger seq = new AtomicInteger(1);
            @Override
            public Thread newThread(Runnable r) {
                // 线程名带业务含义:jstack 排查时一眼定位问题线程池
                return new Thread(r, "order-export-" + seq.getAndIncrement());
            }
        },
        new ThreadPoolExecutor.CallerRunsPolicy());

自定义 ThreadFactory 不是形式主义:线程名带上业务含义,线上 jstack 排查时一眼能定位是哪个线程池出了问题。CallerRunsPolicy 让提交任务的调用线程自己执行,天然形成反压——上游提交得越快,阻塞在提交动作上的时间越长。很多场景它比默认的 AbortPolicy(直接抛 RejectedExecutionException)更合适,但对响应时间敏感的入口线程(如 Web 容器线程)要慎用,会把 IO 线程也拖慢。四种内置策略的取舍集中对照:

策略队列满之后的行为适用场景主要风险
AbortPolicy(默认)抛 RejectedExecutionException任务可失败,调用方有重试或降级调用方不接异常就是错误日志刷屏
CallerRunsPolicy提交线程自己执行,天然反压允许拖慢上游的后台任务拖慢 Web 容器线程等关键入口
DiscardPolicy静默丢弃新任务丢了无所谓的采样、埋点无感知丢弃,出问题难排查
DiscardOldestPolicy丢弃队首最老任务再入队只关心最新数据(行情、轨迹)丢掉的可能正是用户在等的任务

拒绝策略还可以自定义:实现 RejectedExecutionHandler,把被拒绝的任务写进 MQ 或落库延迟重放,比任何内置策略都更适合不可丢的业务。

线程池内部还有一个状态机值得了解:RUNNING → SHUTDOWN(shutdown 后不再接新任务、队列继续消化)→ STOP(shutdownNow 中断在跑任务、丢弃队列)→ TIDYING → TERMINATED。优雅关闭的标准姿势是先 shutdown 让存量任务跑完,配合 awaitTermination 设等待上限,超时再 shutdownNow 兜底——直接 shutdownNow 会把正在执行的任务拦腰打断,对有事务或外部副作用的任务就是事故。

参数怎么定初值

CPU 密集型任务,核心线程数取 N(CPU 核数)或 N+1;IO 密集型任务按 N * (1 + 等待时间/计算时间) 估算,常说的 2N 只是等待与计算约 1:1 时的特例。这些只是初值:队列长度要结合任务耗时和内存预算算(每个任务对象多大 × 1024 个队列位是不是扛得住),拒绝策略要和产品确认「满了之后丢弃能否接受」。最终数字一律压测说了算。另一个常被忽略的参数是 keepAliveTime:它只作用于「超过核心数的那部分线程」,allowCoreThreadTimeOut(true) 可以让核心线程也能超时回收,适合偶尔来一波任务的低频线程池,避免长期空占资源。

队列的实现选择也有讲究:ArrayBlockingQueue 预分配、内存可预算;LinkedBlockingQueue 按需分配,且读写是两把锁,高并发下吞吐反而可能更高;SynchronousQueue 不存任务、直接交接给线程,配合 Cached 风格的池使用。队列类型与线程数、拒绝策略是联动的三个旋钮,单独拧一个意义有限。

动态调参比静态猜数靠谱

ThreadPoolExecutor 提供了运行时修改参数的 API:setCorePoolSize、setMaximumPoolSize、setKeepAliveTime 调用即生效。把参数接到配置中心,配合 getActiveCount()、getQueue().size() 上报监控,高峰期临时扩容,比上线前猜一个数字然后赌它扛得住可靠得多。监控建议盯三个指标:活跃线程数(接近最大值说明容量告急)、队列长度(持续上涨说明消费速度跟不上)、拒绝次数(一旦出现就该告警)。这三项接入看板后,线程池从黑盒变成可观测组件,调参才有依据。

还有两个冷启动细节:默认核心线程在任务到达时才创建,服务冷启动的第一波请求会串行触发线程创建,对延迟敏感的场景可以调用 prestartAllCoreThreads() 预热;容器里还要确认系统层面的线程配额,线程数上限并不只由 JVM 参数决定。

同一服务里多个线程池的命名要有前缀规范(业务-用途-编号),监控聚合、告警路由都按名字分组;线程池对象建议收口到统一的工厂创建,禁止各处散落 new ThreadPoolExecutor——收口之后才有地方统一埋监控和默认策略,评审也只需要盯一个入口。

最后统一口径:参数可以调,纪律不能让——有界队列、显式创建、拒绝可观测,这三条在任何团队都应该是硬约束。

一个必查项

线程池结合 ThreadLocal 传递上下文(用户信息、traceId)时,线程复用会把上一个任务的值带给下一个任务。提交前 set、finally 里 remove 是底线;跨线程池传递则需要 TransmittableThreadLocal 这类方案,上线前务必在代码评审里确认清理逻辑存在:

// 错误写法:set 之后不清理,线程复用导致上下文串号
CONTEXT.set(parseUser(req));
pool.submit(() -> audit(CONTEXT.get()));  // 任务读到的可能是上一个请求的残留值
// 没有 finally remove:线程归还后 Map 里一直挂着这个用户对象

// 正确写法:set 与 remove 严格配对
CONTEXT.set(parseUser(req));
try {
    pool.submit(() -> audit(CONTEXT.get()));
} finally {
    CONTEXT.remove();                     // 线程归还前清干净
}

生产案例

某次大促前排查一个「内存缓慢上涨」的服务,发现它用 Executors.newFixedThreadPool(4) 做订单异步通知,无界队列在大促流量下悄悄积压了几十万条待通知任务,每个任务持有请求报文引用,堆占用随队列长度线性增长。压测一开始只是 Full GC 变频繁,负责同学先加堆内存继续压,结果只是把 OOM 往后拖。定位后整改:显式 ThreadPoolExecutor、有界队列,拒绝策略改为「落库 + 定时补偿重试」的自定义 handler,同时把活跃线程数、队列长度、拒绝次数接进监控。大促当天队列水位全程可见,拒绝发生后补偿任务把通知补齐,业务无损。这个案例的教训是:无界队列把「容量规划」这个问题藏起来了,但它并没有消失。

检查清单

  • 生产代码零 Executors 快捷方法,一律显式 ThreadPoolExecutor
  • 队列必须有界,容量按任务大小 × 内存预算计算
  • 拒绝策略与业务确认,不可丢任务要落库重放而非丢弃
  • 线程工厂命名带业务前缀,便于 jstack 定位
  • 活跃线程数、队列长度、拒绝次数三项接入监控
  • 参数接配置中心,保留运行时扩缩容能力
  • ThreadLocal 在任务入口 set、finally remove 严格配对
  • 跨线程池传上下文用 TransmittableThreadLocal 等方案