Spring Cloud 微服务限流实战:从算法到 Sentinel 落地

2026-06-09 14:25

一、为什么微服务必须限流?

先看几个真实故障:



秒杀活动开始 1 秒内,网关 QPS 从 200 飙到 8000,后端订单服务 CPU 100%,整个链路超时,连管理接口都打不开。



某个恶意用户用脚本循环调用 GET /api/product/1,导致 Redis 热点 key 被打爆,影响所有用户。



一个非核心的报表导出接口,因为数据量过大,每次请求占用数据库连接 30 秒,很快把连接池占满。



这些问题都可以通过限流(Rate Limiting)来预防。



1.1 限流、熔断、降级的区别

概念 目标 触发时机 典型动作

限流 控制请求速率 流量超过阈值 拒绝请求(返回 429)

熔断 防止故障扩散 错误率/慢调用比例超限 快速失败,不调用下游

降级 提供有损服务 资源紧张或下游不可用 返回兜底数据、关闭非核心功能

简单说:限流是主动预防,熔断是被动止损,降级是无奈妥协。三者常搭配使用。



二、你必须了解的四种限流算法

在动手写代码前,先搞懂算法,否则你会在配置阈值时一脸茫然。



2.1 固定窗口(Fixed Window)

原理:将时间切分为固定长度窗口(如 1 秒),每个窗口内计数,超过阈值则限流。



问题:窗口边界处可能出现两倍流量 —— 第 1 秒的最后 10ms 和第 2 秒的前 10ms 分别放过了阈值个请求,造成瞬时冲击。



2.2 滑动窗口(Sliding Window)

原理:将窗口细分为多个小格子,滑动统计过去 N 秒的总请求数。



优点:解决了边界突变问题,是实际系统中使用最广的算法(Sentinel 默认实现)。



2.3 令牌桶(Token Bucket)

原理:以固定速率生成令牌放入桶中,每个请求取一个令牌,桶满则丢弃令牌。



优点:允许一定程度的突发(桶内令牌可积攒)。



2.4 漏桶(Leaky Bucket)

原理:请求先进入漏桶,以恒定速率流出处理,桶满则拒绝。



优点:强制平滑流量,适合保护脆弱的下游。



算法选型建议:



需求场景 推荐算法

秒杀、抢购(允许短暂突发) 令牌桶

数据库保护(必须匀速) 漏桶

常规 API 限流(精确控制 QPS) 滑动窗口

简单单机限流(容易实现) 固定窗口 + 随机削峰

三、Spring Cloud 限流方案选型

Spring Cloud 生态下主要有四种选择:



方案 层次 是否需中心存储 动态配置 学习成本

Spring Cloud Gateway + Redis 网关 是(Redis) 一般 低

Sentinel 网关 + 服务内 可依赖 sentinel-dashboard 优秀 中

Resilience4j 服务内方法级 否(单机) 不支持 低

Bucket4j 任意 否(可扩展) 需自行实现 中

本文推荐组合:



网关层:Spring Cloud Gateway + Redis(简单全局限流)



关键业务服务:Sentinel(精细化、熔断一体)



下面分别给出实战。



四、实战一:Spring Cloud Gateway 实现全局限流

4.1 依赖引入

xml





org.springframework.cloud

spring-cloud-starter-gateway







org.springframework.boot

spring-boot-starter-data-redis-reactive



4.2 配置限流规则(application.yml)

yaml

spring:

cloud:

gateway:

routes:

- id: order_route

uri: lb://order-service

predicates:

- Path=/order/**

filters:

- name: RequestRateLimiter

args:

# 使用 SpEL 表达式引用 Bean

key-resolver: "#{@ipKeyResolver}"

redis-rate-limiter.replenishRate: 10 # 每秒生成 10 个令牌

redis-rate-limiter.burstCapacity: 20 # 令牌桶容量 20

redis-rate-limiter.requestedTokens: 1 # 每个请求消耗 1 个令牌

4.3 自定义 KeyResolver(按 IP 限流)

java

@Bean

public KeyResolver ipKeyResolver() {

return exchange -> Mono.just(

Objects.requireNonNull(exchange.getRequest().getRemoteAddress()).getAddress().getHostAddress()

);

}

也可以按用户 ID、接口路径等组合。



4.4 压测验证

使用 JMeter 或 wrk 对 /order/create 发起超过 10 QPS 的请求,响应码 429(Too Many Requests)即表示限流生效。



❌ 常见坑:Redis 连接失败时,Gateway 会默认放行所有请求(fail-open),可能造成风险。

✅ 解决:自定义限流器,若 Redis 异常则直接拒绝。



java

@Bean

public RedisRateLimiter redisRateLimiter() {

return new RedisRateLimiter(10, 20, 1) {

@Override

public Mono isAllowed(String routeId, String id) {

return super.isAllowed(routeId, id)

.onErrorResume(e -> {

log.error("Redis error, reject request", e);

return Mono.just(new Response(false, Collections.emptyMap()));

});

}

};

}

五、实战二:Sentinel 整合 Spring Cloud(核心)

Sentinel 是阿里开源的流量防卫组件,支持动态规则、集群限流、熔断降级,更适合微服务场景。



5.1 部署 Sentinel 控制台

下载 sentinel-dashboard.jar,运行:



bash

java -Dserver.port=8080 -Dcsp.sentinel.dashboard.server=localhost:8080 -jar sentinel-dashboard.jar

访问 http://localhost:8080 默认账号密码 sentinel/sentinel。



5.2 服务接入 Sentinel

在微服务中引入依赖:



xml



com.alibaba.cloud

spring-cloud-starter-alibaba-sentinel



配置 application.yml:



yaml

spring:

cloud:

sentinel:

transport:

dashboard: localhost:8080

port: 8719 # 客户端与 dashboard 通信端口

eager: true # 提前初始化 Sentinel

5.3 为 API 定义限流规则(代码演示)

java

@RestController

public class OrderController {



@GetMapping("/order/create")

@SentinelResource(value = "createOrder", blockHandler = "createOrderBlockHandler")

public String createOrder(@RequestParam String userId) {

return "Order created for " + userId;

}



// 限流后的回调方法,参数与原方法一致,最后可加 BlockException

public String createOrderBlockHandler(String userId, BlockException ex) {

return "系统繁忙,请稍后再试";

}

}

动态配置规则(通过 Sentinel 控制台)

打开控制台 → 找到应用 → “簇点链路” → 对 createOrder 资源设置流控规则:



阈值类型:QPS



单机阈值:20



流控效果:快速失败 / Warm Up / 排队等待



5.4 热点参数限流(防恶意高频刷单)

假设接口为 /order/query?orderId=123,攻击者不断换 orderId 会导致缓存穿透。使用热点参数限流:



java

@GetMapping("/order/query")

@SentinelResource(value = "queryOrder", blockHandler = "queryBlockHandler")

public String queryOrder(@RequestParam Long orderId) {

return orderService.query(orderId);

}

在控制台配置热点参数规则:



参数索引:0



统计窗口时长:1 秒



单机阈值:10



高级选项:对特定参数值(如 orderId=1)单独设阈值



这样,同一个 orderId 每秒最多请求 10 次,可有效防止 Hash 攻击。



5.5 规则持久化(避免重启丢失)

Sentinel 默认规则保存在内存,重启即丢。推荐集成 Nacos 实现持久化。



xml



com.alibaba.csp

sentinel-datasource-nacos



配置:



yaml

spring:

cloud:

sentinel:

datasource:

ds1:

nacos:

server-addr: localhost:8848

dataId: order-sentinel-flow-rules

groupId: DEFAULT_GROUP

rule-type: flow

然后在 Nacos 中配置 JSON 格式规则,Sentinel 会自动拉取并监听变化。



六、进阶:分布式全局限流(集群限流)

单机限流在集群环境中不准确:假设 10 台机器,每台限流 100 QPS,整体允许 1000 QPS,可能瞬间压垮后端。

集群限流 把整个集群的 QPS 上限作为统一阈值。



Sentinel 支持集群流控,有两种模式:



Token Server 模式:一台机器作为 Token Server,所有请求先向它申请令牌。



Embedded 模式:多台 Server 分摊 Token 校验责任,通过一致性 Hash 分片。



配置步骤较繁琐,需要专门篇幅,简单总结:



在 Sentinel Dashboard 中开启集群流控



指定 Token Server 或 客户端模式



配置 Namespace 与 Fallback



如果你需要,我可以单独出一篇集群限流实战。本文先给出思路:对于绝大多数场景,网关层 Redis 限流 + 服务内 Sentinel 单机限流已经足够。



七、最佳实践与避坑指南(⭐ 必读)

7.1 限流阈值设多少?不是拍脑袋

三步法:



基线压测:在不限流的情况下,找到服务最大可承受 QPS(响应时间仍满足 SLA)。



打 8 折:比如压测得出最大 500 QPS,限流阈值设为 400。



分链路预留:核心接口设 400,非核心接口设 200,总入口网关设 1000。



7.2 限流后的响应要友好

标准做法:



HTTP 状态码:429 Too Many Requests



响应头:Retry-After: 30(建议 30 秒后重试)



响应体:{"code":429, "message":"请求太频繁,请稍后再试"}



Gateway 可以自定义限流过滤器返回 JSON:



java

@Component

public class MyRateLimiterFilter implements GlobalFilter {

@Override

public Mono filter(ServerWebExchange exchange, GatewayFilterChain chain) {

// 限流判断...

if (限流命中) {

exchange.getResponse().setStatusCode(HttpStatus.TOO_MANY_REQUESTS);

exchange.getResponse().getHeaders().set("Retry-After", "30");

return exchange.getResponse().writeWith(Mono.just(

exchange.getResponse().bufferFactory().wrap("{\"code\":429}".getBytes())

));

}

return chain.filter(exchange);

}

}

7.3 区分重要接口与非重要接口

登录、下单、支付:严格限流 + 熔断(容忍低误杀)



浏览、搜索:较宽松限流,可配合热点参数



管理后台导出:极严格,甚至用漏桶强制匀速



7.4 不要过度限流

限流是为了保护系统,而不是让用户频繁看到错误。可考虑:



排队等待(Sentinel 的“排队等待”流控效果)



削峰填谷:用消息队列异步化,前端立即返回“处理中”



7.5 监控与告警

将 Sentinel 指标接入 Prometheus:



xml



io.micrometer

micrometer-registry-prometheus



暴露 /actuator/prometheus,监控以下指标:



sentinel_flow_qps(限流触发次数)



sentinel_flow_rejected(被拒绝的请求数)



设置告警:1 分钟内限流拒绝数 > 100 则触发钉钉/邮件告警。



八、总结

限流是微服务韧性设计的第一道门。本文从算法出发,逐步落地了:



Spring Cloud Gateway + Redis 的网关全局限流



Sentinel 在业务服务中的精确流控、热点参数限流



集群限流思路及生产环境必知的 5 个避坑点



一句话结论:先保证网关层粗粒度限流不被打穿,再对核心业务接口使用 Sentinel 动态调整,配合监控告警,才能真正做到“限得准、限得稳”。



下一步你可以尝试结合 自适应限流(根据 CPU 使用率或平均 RT 动态调整阈值),让系统在流量突增时更智能。
浏览 52
点赞
评论
收藏
分享

手机扫一扫分享

分享
举报
评论
图片
表情
推荐
点赞
评论
收藏
分享

手机扫一扫分享

分享
举报