---
title: API 限流与熔断的设计与实现
keywords:
- 限流
- 熔断
- 令牌桶
- 漏桶
- 指数退避
description: 从算法到工程实践系统总结 API 限流与熔断的实现策略,结合监控与告警,构建可降级的稳态系统。
categories:
- 应用软件
- 编程开发
---
限流算法
- 令牌桶:控制平均速率并允许突发,适合外部接口保护。
- 漏桶:平滑输出速率,避免瞬时尖峰对下游冲击。
- 滑动窗口:更精确的时间窗口统计,适合登录/注册等防刷场景。
熔断与退避
- 熔断阈值:基于错误率与时延分位;设定半开探测策略。
- 退避策略:指数退避 + 抖动,避免雪崩重试。
- 降级:返回缓存/静态数据或引导稍后再试。
观测与告警
- 指标:QPS、拒绝率、时延分位与错误码分布。
- 告警:针对拒绝率与熔断状态变化设置阈值与通知。

发表评论 取消回复