最稳妥的并发控制方式是用 goroutine + sync.WaitGroup 配合信号量(chan struct{})限流,并配置 http.Client 超时与 Transport 连接复用参数,且每次请求后必须调用 resp.Body.Close()。
goroutine + sync.WaitGroup 控制并发数量最稳妥盲目起成百上千个 goroutine 发请求,容易打垮目标服务或触发本地文件描述符耗尽(too many open files)。必须显式限流。常见错误是只用 go http.Get(...) 不加控制,结果程序卡死或报错。
推荐做法:用 sync.WaitGroup 等待所有请求完成,配合带缓冲的 chan struct{} 或 semaphore 控制并发数。不依赖第三方库,标准库足够。
goroutine 必须有自己的 *http.Client 实例或复用同一个(但注意 Client.Timeout 是全局的)resp.Body.Close(),否则连接不释放,很快触发 too many open files
func doRequests(urls []string, maxConcurrent int) {
sem := make(chan struct{}, maxConcurrent)
var wg sync.WaitGroup
for _, url := range urls {
wg.Add(1)
go func(u string) {
defer wg.Done()
sem <- struct{}{} // 获取信号量
defer func() { zuojiankuohaophpcn-sem }() // 释放
resp, err := http.Get(u)
if err != nil {
log.Printf("GET %s failed: %v", u, err)
return
}
defer resp.Body.Close() // 关键!
body, _ := io.ReadAll(resp.Body)
log.Printf("GET %s ok, len=%d", u, len(body))
}(url)
}
wg.Wait()}
http.Client 的 Timeout 和 Transport 需要手动配置
默认的 http.DefaultClient 没有设置超时,遇到网络卡顿或服务无响应,goroutine 会无限阻塞,拖垮整个并发池。同时,默认的 Transport 连接复用参数偏保守,高并发下容易堆积 idle 连接。
Client.Timeout 控制整个请求生命周期(DNS + 连接 + 写请求 + 读响应),建议设为 10–30 秒Transport.MaxIdleConns 和 MaxIdleConnsPerHost 建议调大(如 100),避免频繁建连Transport.IdleConnTimeout 设为 30 秒,防止长连接被服务端断开后还留在池里client := &http.Client{
Timeout: 15 * time.Second,
Transport: &http.Transport{
MaxIdleConns: 100,
MaxIdleConnsPerHost: 100,
IdleConnTimeout: 30 * time.Second,
},
}context.WithTimeout 替代全局 Client.Timeout 更灵活当一批请求中部分需要更短超时(比如健康检查 2 秒超时,数据拉取 15 秒),用全局 Client.Timeout 就不够用了。此时应把 context.Context 传入 client.Do(req),实现 per-request 超时控制。
http.Get 用 context,得构造 *http.Request 后调用 client.Do
Transport 会自动处理复用或关闭RoundTripper,需确保它尊重 req.Context().Done()
req, _ := http.NewRequestWithContext(ctx, "GET", url, nil)
resp, err := client.Do(req)
if err != nil {
if errors.Is(err, context.DeadlineExceeded) {
log.Printf("request %s timed out", url)
}
return
}并发发请求时,DNS 解析失败(lookup xxx: no such host)或 TLS 握手失败(remote error: tls: bad certificate)会直接返回错误,但这类错误常被当成业务错误忽略,实际是基础设施问题。
net.Resolver + 本地 cache,或改用 dnsserver 代理Transport.TLSClientConfig.InsecureSkipVerify = true(仅限调试)connection refused)或超时(i/o timeout)要区分是网络层还是服务层问题,日志里保留原始错误类型真正难调的不是并发逻辑本身,而是超时组合、连接复用策略、错误分类这三者的交织。一个没关的 ,可能让后续几百个请求全卡住;一个没设的
BodyIdleConnTimeout,可能让服务在低 QPS 下缓慢泄漏连接。这些细节比 goroutine 怎么写重要得多。