YARP并发性能取决于Kestrel入站处理与HttpClient出站代理的协同,需复用HttpClient、合理配置MaxConnectionsPerServer(100~500)、缩短Timeout、选用PowerOfTwoChoices负载策略,并监控连接数与文件句柄限制。
YARP 本身不维护独立的线程池或连接池,它复用 ASP.NET Core 底层的 Kestrel 服务器处理入站请求,并通过 HttpClient(默认是 HttpMessageInvoker)发起出站代理请求。这意味着它的并发能力直接受限于:Kestrel 的连接队列、ThreadPool 的工作线程调度、以及后端 HttpClient 实例的连接复用与超时策略。
常见错误现象包括:高并发下大量 503 Service Unavailable、后端服务日志显示连接被拒绝、HttpClient 报 SocketException: Too many open files(Linux)或 WinHttpSendRequest failed: 12029(Windows)。
HttpClient 必须复用——每个路由不应 new 新实例;推荐使用 IHttpClientFactory 注册命名客户端Transforms 中做同步阻塞操作(如 File.ReadAllText),会卡住 Kestrel 线程ConnectionPool,但池大小由 HttpClientHandler.MaxConnectionsPerServer 控制,默认是 int.MaxValue(.NET 6+),实际受限于 OS 文件句柄数性能瓶颈往往出现在出站连接控制不当。YARP 的 Cluster 配置决定了如何将请求分发到多个后端节点,而底层 HttpClientHandler 决定了单个后端能维持多少并发连接。
以下配置需在 appsettings.json 或代码中显式设置:
HttpClientHandler.MaxConnectionsPerServer:建议设为 100~500(视后端吞吐能力而定),过高易触发 OS 限制;过低则连接复用率下降,增加 TLS 握手开销HttpClient.Timeout:YARP 默认为 100s,但应按后端 SLA 缩短(如 30s),避免请求堆积Cluster.LoadBalancingPolicy:生产环境慎用 Random,优先选 PowerOfTwoChoices(降低尾延迟)或 LeastRequests(需启用健康检查)HealthCheck.Active.HealthCheckTimeout:若开启主动健康检查,超时值必须小于 HttpClient.Timeout,否则健康检查自身会拖慢故障发现当压测出现吞吐不升反降、延迟毛刺增多时,不要只看 YARP 日志。真正瓶颈常藏在底层资源上。
dotnet-counters monitor -p --counters Microsoft.AspNetCore.Hosting,Microsoft.Net.Http.Connections ,重点关注 ActiveRequests 和 CurrentConnections 是否持续高位keepalive 32)、TLS session resumption 是否开启(减少握手耗时)lsof -p | wc -l 查看进程打开文件数,对比 ulimit -n;若接近上限,需调大 MaxConnectionsPerServer 或优化连接生命周期下面是在 Program.cs 中注册带精细控制的 HttpClient 的方式,适用于多数中高流量场景:
builder.Services.AddReverseProxy()
.ConfigureHttpClient((context, client) =>
{
client.Timeout = TimeSpan.FromSeconds(30);
client.DefaultRequestHeaders.UserAgent.ParseAdd("YARP/2.0");
})
.AddTransforms(builder =>
{
builder.UseRequestTransform(async transformContext =>
{
// 避免在此处 await Task.Delay 或 I/O 操作
transformContext.ProxyRequest.Headers.Host = transformContext.Destination.ParsedUri.Authority;
});
});
// 显式配置 handler,避免依赖默认值
builder.Services.AddSingleton(sp =>
{
var handler = new SocketsHttpHandler
{
MaxConnectionsPerServer = 200,
PooledConnectionLifetime = TimeSpan.FromMinutes(5),
PooledConnectionIdleTimeout = TimeSpan.FromMinutes(2),
KeepAlivePingDelay = TimeSpan.FromSeconds(30),
KeepAlivePingTimeout = TimeSpan.FromSeconds(5),
EnableMultipleHttp2Connections = true
};
return new HttpMessageInvoker(handler,
disposeHandler: true);
});
注意:HttpMessageInvoker 必须设为 Singleton,且 disposeHandler: true ——YARP 会在应用关闭时统一释放。手动 new HttpClient 或重复注册 handler 是最常被忽略的性能陷阱。