缓存穿透与击穿:三层防护的取舍
查不到的数据反复打到底层,和热点失效瞬间的洪峰,是两类不同的问题,解法也不该混用。
先把两类问题分开
穿透是查询本就不存在的键,每次都落到后端。击穿是某个热点键失效,大量请求同时回源。
混在一起讲,容易做出既贵又没有效果的设计;两类问题的触发条件根本不同。
第一层:参数与空值
不合法的键在入口就该被拒。合法但不存在的键,可以缓存短时的空值,避免重复回源。
空值缓存要设较短的过期时间,否则数据补入后仍然读不到。
第二层:合并回源
同一个键的并发请求只放一个到底层,其余等待结果。实现方式可以是进程内的锁,也可以是集中式的协调。
等待要有上限,超时就降级,不要让请求无限堆积;堆积到一定程度,雪崩来得很快。
第三层:预热与错峰
热点可以在失效前主动刷新,避免到点集体回源。刷新失败时保留旧值,比直接清空更稳。
过期时间加一点随机偏移,可以打散同时失效形成的峰值。
怎么验证有效
在压测里构造不存在的键与热点失效两种场景,看后端请求量是否真的被压住。
线上还要盯缓存命中率与后端连接数两个指标。压测通过而线上失守,多半是流量分布不同。
本文由合亚嗒资讯网编辑部整理撰写,观点仅供参考;转载请注明来源与链接。