直接起goroutine处理请求会导致内存暴涨、调度过载甚至OOM，因Go不限流且goroutine有栈开销；应使用带缓冲channel+固定worker池限流，并结合context与errgroup实现超时控制和优雅退出。
为什么直接起 goroutine 处理请求会崩
大量并发请求下，go handleRequest(req) 会无节制创建 goroutine，内存暴涨、调度器过载、甚至 OOM。Go runtime 不会自动限流，runtime.GOMAXPROCS 控制的是 OS 线程数，不是 goroutine 并发上限。
- 典型现象：
fatal error: runtime: out of memory或schedule: holding locks日志 - 根本原因：goroutine 是轻量级，但仍有栈内存（默认 2KB）、调度开销、GC 压力随数量线性上升
- 正确思路：用 channel 做任务队列 + 固定数量 worker goroutine 消费，实现可控并发
用 buffered channel + worker pool 实现限流
核心是把请求封装为任务，投递到带缓冲的 chan *http.Request（或自定义任务结构），由固定数量的 worker 从 channel 中取任务执行。
type WorkerPool struct {
tasks chan *http.Request
workers int
}
func NewWorkerPool(size int) WorkerPool {
return &WorkerPool{
tasks: make(chan http.Request, 1000), // 缓冲区防阻塞生产者
workers: size,
}
}
func (wp *WorkerPool) Start() {
for i := 0; i < wp.workers; i++ {
go func() {
for req := range wp.tasks {
// 实际处理逻辑，如解析、DB 查询、响应写入
http.Error(req.Response, "OK", http.StatusOK)
}
}()
}
}
func (wp WorkerPool) Submit(req http.Request) {
select {
case wp.tasks <- req:
// 成功入队
default:
// 队列满，拒绝或降级（如返回 503）
http.Error(req.Response, "Service Unavailable", http.StatusServiceUnavailable)
}
}
-
make(chan *http.Request, 1000)的缓冲大小需根据平均处理时长和 QPS 估算，太小易丢任务，太大吃内存 -
select {... default: ...}是非阻塞提交的关键，避免 handler 卡死 - worker 数量通常设为
runtime.NumCPU() * 2左右，过高反而因上下文切换降低吞吐
用 errgroup + context 控制超时与取消
单纯 channel 池无法优雅中断正在运行的任务。需结合 context.Context 和 errgroup.Group 实现整体超时与传播取消信号。
func (wp *WorkerPool) SubmitWithContext(ctx context.Context, req *http.Request) error {
// 包装请求上下文，携带超时与取消
req = req.WithContext(ctx)
select {
case wp.tasks <- req:
return nil
default:
return errors.New("task queue full")
}}
// 启动时改用 errgroup
func (wp WorkerPool) StartWithGroup(g errgroup.Group) {
for i := 0; i
-
req.WithContext(ctx)确保下游 DB、HTTP 客户端等能感知超时 -
errgroup
- 注意：channel 关闭后
req, ok := 中ok为 false，应退出 goroutine
别忽略 HTTP Server 层的连接与读写限制
goroutine 池只是应用层限流，若底层 TCP 连接不控，仍可能被慢连接打垮。必须配置 http.Server 的各项超时与限制。
server := &http.Server{
Addr: ":8080",
Handler: myHandler,
ReadTimeout: 5 * time.Second,
WriteTimeout: 10 * time.Second,
IdleTimeout: 30 * time.Second,
MaxHeaderBytes: 1 << 20, // 1MB
ConnState: func(conn net.Conn, state http.ConnState) {
if state == http.StateNew {
// 可在此做连接数硬限（如 atomic.AddInt64(&connCount, 1) > 10000 → close）
}
},
}-
ReadTimeout防慢请求头/体，WriteTimeout防慢响应，IdleTimeout防长连接耗尽 fd -
MaxHeaderBytes必须设，否则恶意大 header 可轻易触发 OOM - 真正高负载时，还需配合反向代理（如 nginx）做连接排队、TLS 卸载、IP 限流等
goroutine 池的边界很清晰：它只管“我有多少个工人能同时干活”，不管“谁来敲门”“门开了多久”“进门后赖着不走”。漏掉任一层，都可能让精心设计的池子毫无意义。
