网络协议方向的 CDN 缓存策略实践,正在从「堆功能」转向「控边界」。本文围绕强缓存、协商缓存、回源这 3 个边界展开,给出可执行的检查项。
一、问题定位
把 CDN 缓存策略相关的告警按时间排开,会发现强缓存的异常总是先出现,协商缓存的异常晚几分钟,最后才轮到业务指标。这条滞后链就是排查的起点。
1.1 为什么现在更值得讨论
回头看 CDN 缓存策略的演进,真正改变游戏规则的是下面几件事:
- 数据规模上台阶:单机假设失效,分片与副本成为默认选项
- 延迟敏感度提高:调用链每多一跳,用户侧就多一分流失
- 合规压力:数据流转必须有记录,隐式行为不再被接受
二、按要点拆解:CDN 缓存策略
2.1 强缓存
强缓存的文档应该包含失败路径。很多强缓存的文档只写正常路径,结果出问题时没人知道兜底行为是什么。
- 数据兼容:强缓存改造期间,新旧状态格式必须双向可读
- 被测过的最坏路径:强缓存的超时、抖动、部分失败都要有对应用例
- 超时预算:强缓存的每次调用都要有明确上限,并计入调用方的总预算
2.2 协商缓存
协商缓存的状态要有唯一的权威来源。两处都维护协商缓存的状态,早晚会出现不一致,而排查这种不一致的成本远高于一开始就收敛到一处。
- 被测过的最坏路径:协商缓存的超时、抖动、部分失败都要有对应用例
- 超时预算:协商缓存的每次调用都要有明确上限,并计入调用方的总预算
- 依赖降级:协商缓存依赖的下游不可用时,要有可自动切换的备选路径
2.3 回源
回源的可靠性不是靠「不出错」,而是靠「出错后可恢复」。给回源定义清楚恢复动作、恢复时限与恢复验证方式,比单纯提高正确率更实际。
- 观测:回源至少有成功率、P99、积压量三个指标能被独立查询
- 数据兼容:回源改造期间,新旧状态格式必须双向可读
- 限流保护:回源要能拒绝超过处理能力的请求,而不是让队列无限堆积
这条链由强缓存、协商缓存、回源组成,前一环的质量直接决定后一环的起点:
强缓存 → 协商缓存 → 回源
协商缓存的设计空间受强缓存输出质量的限制。把强缓存的行为变得可预测,协商缓存才能做更激进的优化。
三、最小可运行实现
有一次网络协议的故障,表象是强缓存超时率升高,实际根因在协商缓存:它的一个后台任务在高峰期抢走了大部分连接,导致强缓存拿不到资源。
解决方式是给强缓存设一个明确的重试上限,并让协商缓存在等待超时后直接进入降级逻辑,而不是继续排队。超时上限的设定参考了协商缓存的 P99。
把前面的判断标准落到代码,网络协议场景的骨架大致是下面这样:
// HTTP 缓存:强缓存与协商缓存的分层策略
package httpx
import (
"net/http"
"strconv"
"strings"
"time"
)
func isAsset(path string) bool {
for _, ext := range []string{".css", ".js", ".png", ".svg", ".woff2"} {
if strings.HasSuffix(path, ext) {
return true
}
}
return false
}
// SetCache 静态资源走强缓存并加指纹,接口走协商缓存
func SetCache(w http.ResponseWriter, path string, hash string) {
if isAsset(path) {
w.Header().Set("Cache-Control", "public, max-age=31536000, immutable")
w.Header().Set("ETag", `"`+hash+`"`)
return
}
w.Header().Set("Cache-Control", "no-cache") // 允许缓存,但每次协商
w.Header().Set("ETag", `"`+hash+`"`)
}
// Revalidate 命中 If-None-Match 时直接返回 304,省掉整包传输
func Revalidate(w http.ResponseWriter, r *http.Request, etag string) bool {
if match := r.Header.Get("If-None-Match"); match != "" && match == `"`+etag+`"` {
w.WriteHeader(http.StatusNotModified)
return true
}
return false
}
// 边缘缓存分层:CDN 用 s-maxage 控制共享缓存,浏览器用 max-age 控制私有缓存
func EdgeHeader(ttl time.Duration) string {
return "public, max-age=60, s-maxage=" + strconv.Itoa(int(ttl.Seconds())) + ", stale-while-revalidate=30"
}
四、验证与调优
CDN 缓存策略优化是否有效,最终只看两个数:P99 与吞吐:
| 环节 | 单次耗时 | 占关键路径 | 优化手段 |
|---|---|---|---|
| 强缓存 | 2.3ms | 38% | 用更紧凑的结构体减少缓存未命中 |
| 协商缓存 | 3.7ms | 27% | 用对象池复用频繁创建的结构体 |
| 回源 | 5.1ms | 20% | 把同步等待改成批量合并 |
整体指标:P99 从 95ms 降到 43ms(-55%),吞吐从 6 万 QPS 提升到 11 万 QPS(+83%),CPU 占用从 75% 降到 52%。
4.1 灰度策略
- 阶段一:按地域灰度,先选流量最小的区域
- 阶段二:扩到主要区域,观察跨区域调用比例
- 阶段三:峰值时段演练一次降级,确认兜底有效
- 阶段四:全量并保留一键回退到上一版的开关
4.2 观测面
CDN 缓存策略的观测面按「先指标、再日志、后链路」组织:
- 指标:把「端到端延迟」拆成各段耗时,定位到具体环节
- 日志:把上下文压到一行,避免多行日志难以检索
- 链路:采样决策放在入口,全链路保持一致
五、结论
CDN 缓存策略没有一次做对的可能,只有把强缓存、协商缓存、回源的边界持续校准,才能让每一次改动都收敛而不是发散。
- 先画边界再写代码:把输入、输出、失败与回退写成契约,实现只是填空
- 复杂度要显式化:能自动推导的不要靠人记,能配置化的不要硬编码
- 演练重于预案:文档里的预案未经演练,等于没有预案
文章由 AI 辅助生成,仅作为 CDN 缓存策略方案探讨,不构成具体系统的实施依据。

发表评论 取消回复