Go高并发核心是协程池与限流协同:协程池通过固定worker复用goroutine、缓冲任务实现有序吞吐;限流在入口层基于令牌桶控制请求速率,二者需限流前置、池内任务channel设上限并用非阻塞提交。
用
Go 处理高并发请求,核心不是堆机器,而是让每个 goroutine 做得更少、更准、更可控。协程池 + 限流不是炫技组合,而是把“无序并发”变成“有序吞吐”的关键控制层。
直接用 go fn() 启动成千上万个 goroutine,看似轻量,但调度开销、内存占用、上下文切换成本会随并发数非线性上升。协程池通过固定数量的工作协程 + 任务队列,把并发压力“缓冲”和“节流”在池子内部。
workerpool(如 tidwall/workerpool)或手写带 channel 的 worker 模型:启动 N 个长期运行的 goroutine,从一个共享 channel 拉取任务2 × CPU 核数 起步,再根据实际 CPU 利用率与 P99 延迟压测调整;纯 I/O 密集可略高,计算密集务必保守协程池管的是“内部怎么跑”,限流管的是“外部能塞多少进来”。两者叠加,才能避免突发流量击穿下游或耗尽本地资源。
golang.org/x/time/rate 的 Limiter:基于令牌桶,支持平滑限流(如每秒 1000 请求),也支持突发(burst 参数预留缓冲)if !limiter.Allow() { http.Error(w, "Too Many Requests", http.StatusTooManyRequests); return }
sync.Map
二者不是简单拼接,配合不当反而引入瓶颈或失效。
select { case ch ),防止限流失效后任务持续堆积内存
不依赖第三方池库,50 行内搭出可用骨架:
var (
pool = workerpool.New(10) // 10 个工作协程
limiter = rate.NewLimiter(rate.Every(time.Second/100), 200) // 100 QPS,允许最多 200 突发
)
func handler(w http.ResponseWriter, r http.Request) {
if !limiter.Allow() {
http.Error(w, "rate limited", http.StatusTooManyRequests)
return
}
// 提交任务到池,带 context 控制超时
ctx, cancel := context.WithTimeout(r.Context(), 3time.Second)
defer cancel()
pool.Submit(func() {
select {
case <-ctx.Done():
return // 超时退出
default:
// 执行真实业务逻辑:DB / cache / call external
result := doWork(ctx)
// 写回响应需同步(不能在 goroutine 里直接 w.Write)
// 此处应改用 channel 或回调通知主 goroutine
}
})
}
注意:真实场景中响应写入必须在 handler goroutine 中完成,所以更稳妥做法是用 channel 等待结果或用 errgroup 控制生命周期。