抢票那一刻，为什么总提示系统繁忙？

抢票时弹出「系统繁忙，请稍后再试」，很多时候不是网站坏了，而是它故意拦了你一下。这种做法叫限流（rate limiting）。它像景区门口限量放人：里面每秒接待得了多少，门口就每秒放多少。下面分 6 步讲清楚。

6 步看懂限流

1. 系统繁忙#▶ 从这里看

• 「系统繁忙」常常是限流在起作用：先拦下一部分请求，保住整体还能正常工作。

2. 不限流会怎样#▶ 从这里看

• 服务器能同时处理的请求是有限的。一下子涌进太多，响应变慢、出错，最后连本来能处理的请求也处理不了。

3. 限流#▶ 从这里看

• 主动控制单位时间里放进来多少请求，超出的先拒绝或稍后再试，这就是限流。¹
• 限流常按两种维度来算，别混在一起：²³
  • 每秒请求数，简称 QPS（Queries Per Second）：每秒放进来多少个请求，管的是速度。
  • 并发数：此刻已经开始处理、还没处理完的请求有多少（在途请求数），管的是「里面同时有多少人」。
• 被限流时，接口通常返回 HTTP 429（Too Many Requests），页面上就显示成「系统繁忙」。⁴ 不过「繁忙」类提示也可能是服务真的不可用（常见为 HTTP 503），不一定都是限流。⁵

4. 令牌桶#▶ 从这里看

• 令牌桶：桶按固定速度放入令牌，每个请求要拿到一个令牌才能通过，桶空了就拒绝。
• 桶有容量上限，空闲时令牌会攒起来，所以能放过一小波突发流量，长期平均速度仍受控制。⁶⁷⁸
• 拿不到令牌时，有的实现直接返回 429，有的让请求排队等一等。⁹

5. 熔断和降级#▶ 从这里看

• 熔断：它不在门口管放多少人，而是装在「调用别的服务」的那一侧。调用方统计对某个下游服务的失败率或慢调用比例，超过阈值就「跳闸」，之后对它的调用直接快速失败；过一段时间进入半开状态，只放少量请求去试探，成功了再恢复。这样能避免故障一路拖垮上游。⁵¹⁰³
• 一句话分工：限流管入口，熔断管下游，降级管结果。¹¹
• 降级：压力太大时，先关掉不重要的功能，保住最核心的那一条（比如下单）。

6. 回顾#▶ 从这里看

• 消息队列：让订单排好队、不容易丢。
• 限流：让门口不被挤爆，分批放人进来。
• 两期合起来，就是网站「扛住高峰」的两招。

深入一问

限流和消息队列有什么区别？
消息队列是先把任务收下、排队慢慢处理（队列容量也有上限）；限流是门口控制放多少，超出的直接拒绝或短暂排队。两者经常一起用：先限流挡掉超出能力的部分，放进来的再排队。

每秒请求数和并发数，哪个更好？
各管一头：请求都很快时按 QPS 限够用；有些请求处理特别久时，按并发数限更能防止里面被塞满。很多系统两种一起配。²

被限流了，一直狂点刷新有用吗？
通常没用，还可能被当成异常请求拦得更久。按提示稍等再试更好。

易错点

• ❌ 「系统繁忙就是服务器挂了」→ ✅ 很多时候是限流在主动保护系统。
• ❌ 「令牌桶就是严格匀速」→ ✅ 攒下的令牌允许一小波突发，长期平均速度不会超过发令牌的速度。
• ❌ 「熔断就是限流」→ ✅ 限流管进来多少；熔断是调用方发现某个下游老出错，先停掉对它的调用、直接快速失败。
• ❌ 「熔断就是门口少放点人」→ ✅ 熔断不控制入口放多少，也不限制并发；限制同时在途的请求数要靠并发限流或舱壁隔离（Bulkhead）。¹⁰
• ❌ 「QPS 就是同时在线多少人」→ ✅ QPS 是每秒请求数；同时在处理多少个请求叫并发数。

参考资料