Spring Cloud 微服务限流实战:从算法到 Sentinel 落地
2026-06-09 14:25
一、为什么微服务必须限流?
先看几个真实故障:
秒杀活动开始 1 秒内,网关 QPS 从 200 飙到 8000,后端订单服务 CPU 100%,整个链路超时,连管理接口都打不开。
某个恶意用户用脚本循环调用 GET /api/product/1,导致 Redis 热点 key 被打爆,影响所有用户。
一个非核心的报表导出接口,因为数据量过大,每次请求占用数据库连接 30 秒,很快把连接池占满。
这些问题都可以通过限流(Rate Limiting)来预防。
1.1 限流、熔断、降级的区别
概念 目标 触发时机 典型动作
限流 控制请求速率 流量超过阈值 拒绝请求(返回 429)
熔断 防止故障扩散 错误率/慢调用比例超限 快速失败,不调用下游
降级 提供有损服务 资源紧张或下游不可用 返回兜底数据、关闭非核心功能
简单说:限流是主动预防,熔断是被动止损,降级是无奈妥协。三者常搭配使用。
二、你必须了解的四种限流算法
在动手写代码前,先搞懂算法,否则你会在配置阈值时一脸茫然。
2.1 固定窗口(Fixed Window)
原理:将时间切分为固定长度窗口(如 1 秒),每个窗口内计数,超过阈值则限流。
问题:窗口边界处可能出现两倍流量 —— 第 1 秒的最后 10ms 和第 2 秒的前 10ms 分别放过了阈值个请求,造成瞬时冲击。
2.2 滑动窗口(Sliding Window)
原理:将窗口细分为多个小格子,滑动统计过去 N 秒的总请求数。
优点:解决了边界突变问题,是实际系统中使用最广的算法(Sentinel 默认实现)。
2.3 令牌桶(Token Bucket)
原理:以固定速率生成令牌放入桶中,每个请求取一个令牌,桶满则丢弃令牌。
优点:允许一定程度的突发(桶内令牌可积攒)。
2.4 漏桶(Leaky Bucket)
原理:请求先进入漏桶,以恒定速率流出处理,桶满则拒绝。
优点:强制平滑流量,适合保护脆弱的下游。
算法选型建议:
需求场景 推荐算法
秒杀、抢购(允许短暂突发) 令牌桶
数据库保护(必须匀速) 漏桶
常规 API 限流(精确控制 QPS) 滑动窗口
简单单机限流(容易实现) 固定窗口 + 随机削峰
三、Spring Cloud 限流方案选型
Spring Cloud 生态下主要有四种选择:
方案 层次 是否需中心存储 动态配置 学习成本
Spring Cloud Gateway + Redis 网关 是(Redis) 一般 低
Sentinel 网关 + 服务内 可依赖 sentinel-dashboard 优秀 中
Resilience4j 服务内方法级 否(单机) 不支持 低
Bucket4j 任意 否(可扩展) 需自行实现 中
本文推荐组合:
网关层:Spring Cloud Gateway + Redis(简单全局限流)
关键业务服务:Sentinel(精细化、熔断一体)
下面分别给出实战。
四、实战一:Spring Cloud Gateway 实现全局限流
4.1 依赖引入
xml
org.springframework.cloud
spring-cloud-starter-gateway
org.springframework.boot
spring-boot-starter-data-redis-reactive
4.2 配置限流规则(application.yml)
yaml
spring:
cloud:
gateway:
routes:
- id: order_route
uri: lb://order-service
predicates:
- Path=/order/**
filters:
- name: RequestRateLimiter
args:
# 使用 SpEL 表达式引用 Bean
key-resolver: "#{@ipKeyResolver}"
redis-rate-limiter.replenishRate: 10 # 每秒生成 10 个令牌
redis-rate-limiter.burstCapacity: 20 # 令牌桶容量 20
redis-rate-limiter.requestedTokens: 1 # 每个请求消耗 1 个令牌
4.3 自定义 KeyResolver(按 IP 限流)
java
@Bean
public KeyResolver ipKeyResolver() {
return exchange -> Mono.just(
Objects.requireNonNull(exchange.getRequest().getRemoteAddress()).getAddress().getHostAddress()
);
}
也可以按用户 ID、接口路径等组合。
4.4 压测验证
使用 JMeter 或 wrk 对 /order/create 发起超过 10 QPS 的请求,响应码 429(Too Many Requests)即表示限流生效。
❌ 常见坑:Redis 连接失败时,Gateway 会默认放行所有请求(fail-open),可能造成风险。
✅ 解决:自定义限流器,若 Redis 异常则直接拒绝。
java
@Bean
public RedisRateLimiter redisRateLimiter() {
return new RedisRateLimiter(10, 20, 1) {
@Override
public Mono isAllowed(String routeId, String id) {
return super.isAllowed(routeId, id)
.onErrorResume(e -> {
log.error("Redis error, reject request", e);
return Mono.just(new Response(false, Collections.emptyMap()));
});
}
};
}
五、实战二:Sentinel 整合 Spring Cloud(核心)
Sentinel 是阿里开源的流量防卫组件,支持动态规则、集群限流、熔断降级,更适合微服务场景。
5.1 部署 Sentinel 控制台
下载 sentinel-dashboard.jar,运行:
bash
java -Dserver.port=8080 -Dcsp.sentinel.dashboard.server=localhost:8080 -jar sentinel-dashboard.jar
访问 http://localhost:8080 默认账号密码 sentinel/sentinel。
5.2 服务接入 Sentinel
在微服务中引入依赖:
xml
com.alibaba.cloud
spring-cloud-starter-alibaba-sentinel
配置 application.yml:
yaml
spring:
cloud:
sentinel:
transport:
dashboard: localhost:8080
port: 8719 # 客户端与 dashboard 通信端口
eager: true # 提前初始化 Sentinel
5.3 为 API 定义限流规则(代码演示)
java
@RestController
public class OrderController {
@GetMapping("/order/create")
@SentinelResource(value = "createOrder", blockHandler = "createOrderBlockHandler")
public String createOrder(@RequestParam String userId) {
return "Order created for " + userId;
}
// 限流后的回调方法,参数与原方法一致,最后可加 BlockException
public String createOrderBlockHandler(String userId, BlockException ex) {
return "系统繁忙,请稍后再试";
}
}
动态配置规则(通过 Sentinel 控制台)
打开控制台 → 找到应用 → “簇点链路” → 对 createOrder 资源设置流控规则:
阈值类型:QPS
单机阈值:20
流控效果:快速失败 / Warm Up / 排队等待
5.4 热点参数限流(防恶意高频刷单)
假设接口为 /order/query?orderId=123,攻击者不断换 orderId 会导致缓存穿透。使用热点参数限流:
java
@GetMapping("/order/query")
@SentinelResource(value = "queryOrder", blockHandler = "queryBlockHandler")
public String queryOrder(@RequestParam Long orderId) {
return orderService.query(orderId);
}
在控制台配置热点参数规则:
参数索引:0
统计窗口时长:1 秒
单机阈值:10
高级选项:对特定参数值(如 orderId=1)单独设阈值
这样,同一个 orderId 每秒最多请求 10 次,可有效防止 Hash 攻击。
5.5 规则持久化(避免重启丢失)
Sentinel 默认规则保存在内存,重启即丢。推荐集成 Nacos 实现持久化。
xml
com.alibaba.csp
sentinel-datasource-nacos
配置:
yaml
spring:
cloud:
sentinel:
datasource:
ds1:
nacos:
server-addr: localhost:8848
dataId: order-sentinel-flow-rules
groupId: DEFAULT_GROUP
rule-type: flow
然后在 Nacos 中配置 JSON 格式规则,Sentinel 会自动拉取并监听变化。
六、进阶:分布式全局限流(集群限流)
单机限流在集群环境中不准确:假设 10 台机器,每台限流 100 QPS,整体允许 1000 QPS,可能瞬间压垮后端。
集群限流 把整个集群的 QPS 上限作为统一阈值。
Sentinel 支持集群流控,有两种模式:
Token Server 模式:一台机器作为 Token Server,所有请求先向它申请令牌。
Embedded 模式:多台 Server 分摊 Token 校验责任,通过一致性 Hash 分片。
配置步骤较繁琐,需要专门篇幅,简单总结:
在 Sentinel Dashboard 中开启集群流控
指定 Token Server 或 客户端模式
配置 Namespace 与 Fallback
如果你需要,我可以单独出一篇集群限流实战。本文先给出思路:对于绝大多数场景,网关层 Redis 限流 + 服务内 Sentinel 单机限流已经足够。
七、最佳实践与避坑指南(⭐ 必读)
7.1 限流阈值设多少?不是拍脑袋
三步法:
基线压测:在不限流的情况下,找到服务最大可承受 QPS(响应时间仍满足 SLA)。
打 8 折:比如压测得出最大 500 QPS,限流阈值设为 400。
分链路预留:核心接口设 400,非核心接口设 200,总入口网关设 1000。
7.2 限流后的响应要友好
标准做法:
HTTP 状态码:429 Too Many Requests
响应头:Retry-After: 30(建议 30 秒后重试)
响应体:{"code":429, "message":"请求太频繁,请稍后再试"}
Gateway 可以自定义限流过滤器返回 JSON:
java
@Component
public class MyRateLimiterFilter implements GlobalFilter {
@Override
public Mono filter(ServerWebExchange exchange, GatewayFilterChain chain) {
// 限流判断...
if (限流命中) {
exchange.getResponse().setStatusCode(HttpStatus.TOO_MANY_REQUESTS);
exchange.getResponse().getHeaders().set("Retry-After", "30");
return exchange.getResponse().writeWith(Mono.just(
exchange.getResponse().bufferFactory().wrap("{\"code\":429}".getBytes())
));
}
return chain.filter(exchange);
}
}
7.3 区分重要接口与非重要接口
登录、下单、支付:严格限流 + 熔断(容忍低误杀)
浏览、搜索:较宽松限流,可配合热点参数
管理后台导出:极严格,甚至用漏桶强制匀速
7.4 不要过度限流
限流是为了保护系统,而不是让用户频繁看到错误。可考虑:
排队等待(Sentinel 的“排队等待”流控效果)
削峰填谷:用消息队列异步化,前端立即返回“处理中”
7.5 监控与告警
将 Sentinel 指标接入 Prometheus:
xml
io.micrometer
micrometer-registry-prometheus
暴露 /actuator/prometheus,监控以下指标:
sentinel_flow_qps(限流触发次数)
sentinel_flow_rejected(被拒绝的请求数)
设置告警:1 分钟内限流拒绝数 > 100 则触发钉钉/邮件告警。
八、总结
限流是微服务韧性设计的第一道门。本文从算法出发,逐步落地了:
Spring Cloud Gateway + Redis 的网关全局限流
Sentinel 在业务服务中的精确流控、热点参数限流
集群限流思路及生产环境必知的 5 个避坑点
一句话结论:先保证网关层粗粒度限流不被打穿,再对核心业务接口使用 Sentinel 动态调整,配合监控告警,才能真正做到“限得准、限得稳”。
下一步你可以尝试结合 自适应限流(根据 CPU 使用率或平均 RT 动态调整阈值),让系统在流量突增时更智能。
浏览
52先看几个真实故障:
秒杀活动开始 1 秒内,网关 QPS 从 200 飙到 8000,后端订单服务 CPU 100%,整个链路超时,连管理接口都打不开。
某个恶意用户用脚本循环调用 GET /api/product/1,导致 Redis 热点 key 被打爆,影响所有用户。
一个非核心的报表导出接口,因为数据量过大,每次请求占用数据库连接 30 秒,很快把连接池占满。
这些问题都可以通过限流(Rate Limiting)来预防。
1.1 限流、熔断、降级的区别
概念 目标 触发时机 典型动作
限流 控制请求速率 流量超过阈值 拒绝请求(返回 429)
熔断 防止故障扩散 错误率/慢调用比例超限 快速失败,不调用下游
降级 提供有损服务 资源紧张或下游不可用 返回兜底数据、关闭非核心功能
简单说:限流是主动预防,熔断是被动止损,降级是无奈妥协。三者常搭配使用。
二、你必须了解的四种限流算法
在动手写代码前,先搞懂算法,否则你会在配置阈值时一脸茫然。
2.1 固定窗口(Fixed Window)
原理:将时间切分为固定长度窗口(如 1 秒),每个窗口内计数,超过阈值则限流。
问题:窗口边界处可能出现两倍流量 —— 第 1 秒的最后 10ms 和第 2 秒的前 10ms 分别放过了阈值个请求,造成瞬时冲击。
2.2 滑动窗口(Sliding Window)
原理:将窗口细分为多个小格子,滑动统计过去 N 秒的总请求数。
优点:解决了边界突变问题,是实际系统中使用最广的算法(Sentinel 默认实现)。
2.3 令牌桶(Token Bucket)
原理:以固定速率生成令牌放入桶中,每个请求取一个令牌,桶满则丢弃令牌。
优点:允许一定程度的突发(桶内令牌可积攒)。
2.4 漏桶(Leaky Bucket)
原理:请求先进入漏桶,以恒定速率流出处理,桶满则拒绝。
优点:强制平滑流量,适合保护脆弱的下游。
算法选型建议:
需求场景 推荐算法
秒杀、抢购(允许短暂突发) 令牌桶
数据库保护(必须匀速) 漏桶
常规 API 限流(精确控制 QPS) 滑动窗口
简单单机限流(容易实现) 固定窗口 + 随机削峰
三、Spring Cloud 限流方案选型
Spring Cloud 生态下主要有四种选择:
方案 层次 是否需中心存储 动态配置 学习成本
Spring Cloud Gateway + Redis 网关 是(Redis) 一般 低
Sentinel 网关 + 服务内 可依赖 sentinel-dashboard 优秀 中
Resilience4j 服务内方法级 否(单机) 不支持 低
Bucket4j 任意 否(可扩展) 需自行实现 中
本文推荐组合:
网关层:Spring Cloud Gateway + Redis(简单全局限流)
关键业务服务:Sentinel(精细化、熔断一体)
下面分别给出实战。
四、实战一:Spring Cloud Gateway 实现全局限流
4.1 依赖引入
xml
4.2 配置限流规则(application.yml)
yaml
spring:
cloud:
gateway:
routes:
- id: order_route
uri: lb://order-service
predicates:
- Path=/order/**
filters:
- name: RequestRateLimiter
args:
# 使用 SpEL 表达式引用 Bean
key-resolver: "#{@ipKeyResolver}"
redis-rate-limiter.replenishRate: 10 # 每秒生成 10 个令牌
redis-rate-limiter.burstCapacity: 20 # 令牌桶容量 20
redis-rate-limiter.requestedTokens: 1 # 每个请求消耗 1 个令牌
4.3 自定义 KeyResolver(按 IP 限流)
java
@Bean
public KeyResolver ipKeyResolver() {
return exchange -> Mono.just(
Objects.requireNonNull(exchange.getRequest().getRemoteAddress()).getAddress().getHostAddress()
);
}
也可以按用户 ID、接口路径等组合。
4.4 压测验证
使用 JMeter 或 wrk 对 /order/create 发起超过 10 QPS 的请求,响应码 429(Too Many Requests)即表示限流生效。
❌ 常见坑:Redis 连接失败时,Gateway 会默认放行所有请求(fail-open),可能造成风险。
✅ 解决:自定义限流器,若 Redis 异常则直接拒绝。
java
@Bean
public RedisRateLimiter redisRateLimiter() {
return new RedisRateLimiter(10, 20, 1) {
@Override
public Mono
return super.isAllowed(routeId, id)
.onErrorResume(e -> {
log.error("Redis error, reject request", e);
return Mono.just(new Response(false, Collections.emptyMap()));
});
}
};
}
五、实战二:Sentinel 整合 Spring Cloud(核心)
Sentinel 是阿里开源的流量防卫组件,支持动态规则、集群限流、熔断降级,更适合微服务场景。
5.1 部署 Sentinel 控制台
下载 sentinel-dashboard.jar,运行:
bash
java -Dserver.port=8080 -Dcsp.sentinel.dashboard.server=localhost:8080 -jar sentinel-dashboard.jar
访问 http://localhost:8080 默认账号密码 sentinel/sentinel。
5.2 服务接入 Sentinel
在微服务中引入依赖:
xml
配置 application.yml:
yaml
spring:
cloud:
sentinel:
transport:
dashboard: localhost:8080
port: 8719 # 客户端与 dashboard 通信端口
eager: true # 提前初始化 Sentinel
5.3 为 API 定义限流规则(代码演示)
java
@RestController
public class OrderController {
@GetMapping("/order/create")
@SentinelResource(value = "createOrder", blockHandler = "createOrderBlockHandler")
public String createOrder(@RequestParam String userId) {
return "Order created for " + userId;
}
// 限流后的回调方法,参数与原方法一致,最后可加 BlockException
public String createOrderBlockHandler(String userId, BlockException ex) {
return "系统繁忙,请稍后再试";
}
}
动态配置规则(通过 Sentinel 控制台)
打开控制台 → 找到应用 → “簇点链路” → 对 createOrder 资源设置流控规则:
阈值类型:QPS
单机阈值:20
流控效果:快速失败 / Warm Up / 排队等待
5.4 热点参数限流(防恶意高频刷单)
假设接口为 /order/query?orderId=123,攻击者不断换 orderId 会导致缓存穿透。使用热点参数限流:
java
@GetMapping("/order/query")
@SentinelResource(value = "queryOrder", blockHandler = "queryBlockHandler")
public String queryOrder(@RequestParam Long orderId) {
return orderService.query(orderId);
}
在控制台配置热点参数规则:
参数索引:0
统计窗口时长:1 秒
单机阈值:10
高级选项:对特定参数值(如 orderId=1)单独设阈值
这样,同一个 orderId 每秒最多请求 10 次,可有效防止 Hash 攻击。
5.5 规则持久化(避免重启丢失)
Sentinel 默认规则保存在内存,重启即丢。推荐集成 Nacos 实现持久化。
xml
配置:
yaml
spring:
cloud:
sentinel:
datasource:
ds1:
nacos:
server-addr: localhost:8848
dataId: order-sentinel-flow-rules
groupId: DEFAULT_GROUP
rule-type: flow
然后在 Nacos 中配置 JSON 格式规则,Sentinel 会自动拉取并监听变化。
六、进阶:分布式全局限流(集群限流)
单机限流在集群环境中不准确:假设 10 台机器,每台限流 100 QPS,整体允许 1000 QPS,可能瞬间压垮后端。
集群限流 把整个集群的 QPS 上限作为统一阈值。
Sentinel 支持集群流控,有两种模式:
Token Server 模式:一台机器作为 Token Server,所有请求先向它申请令牌。
Embedded 模式:多台 Server 分摊 Token 校验责任,通过一致性 Hash 分片。
配置步骤较繁琐,需要专门篇幅,简单总结:
在 Sentinel Dashboard 中开启集群流控
指定 Token Server 或 客户端模式
配置 Namespace 与 Fallback
如果你需要,我可以单独出一篇集群限流实战。本文先给出思路:对于绝大多数场景,网关层 Redis 限流 + 服务内 Sentinel 单机限流已经足够。
七、最佳实践与避坑指南(⭐ 必读)
7.1 限流阈值设多少?不是拍脑袋
三步法:
基线压测:在不限流的情况下,找到服务最大可承受 QPS(响应时间仍满足 SLA)。
打 8 折:比如压测得出最大 500 QPS,限流阈值设为 400。
分链路预留:核心接口设 400,非核心接口设 200,总入口网关设 1000。
7.2 限流后的响应要友好
标准做法:
HTTP 状态码:429 Too Many Requests
响应头:Retry-After: 30(建议 30 秒后重试)
响应体:{"code":429, "message":"请求太频繁,请稍后再试"}
Gateway 可以自定义限流过滤器返回 JSON:
java
@Component
public class MyRateLimiterFilter implements GlobalFilter {
@Override
public Mono
// 限流判断...
if (限流命中) {
exchange.getResponse().setStatusCode(HttpStatus.TOO_MANY_REQUESTS);
exchange.getResponse().getHeaders().set("Retry-After", "30");
return exchange.getResponse().writeWith(Mono.just(
exchange.getResponse().bufferFactory().wrap("{\"code\":429}".getBytes())
));
}
return chain.filter(exchange);
}
}
7.3 区分重要接口与非重要接口
登录、下单、支付:严格限流 + 熔断(容忍低误杀)
浏览、搜索:较宽松限流,可配合热点参数
管理后台导出:极严格,甚至用漏桶强制匀速
7.4 不要过度限流
限流是为了保护系统,而不是让用户频繁看到错误。可考虑:
排队等待(Sentinel 的“排队等待”流控效果)
削峰填谷:用消息队列异步化,前端立即返回“处理中”
7.5 监控与告警
将 Sentinel 指标接入 Prometheus:
xml
暴露 /actuator/prometheus,监控以下指标:
sentinel_flow_qps(限流触发次数)
sentinel_flow_rejected(被拒绝的请求数)
设置告警:1 分钟内限流拒绝数 > 100 则触发钉钉/邮件告警。
八、总结
限流是微服务韧性设计的第一道门。本文从算法出发,逐步落地了:
Spring Cloud Gateway + Redis 的网关全局限流
Sentinel 在业务服务中的精确流控、热点参数限流
集群限流思路及生产环境必知的 5 个避坑点
一句话结论:先保证网关层粗粒度限流不被打穿,再对核心业务接口使用 Sentinel 动态调整,配合监控告警,才能真正做到“限得准、限得稳”。
下一步你可以尝试结合 自适应限流(根据 CPU 使用率或平均 RT 动态调整阈值),让系统在流量突增时更智能。
评论
