快取層承載著大量的請求,有效保護了儲存層。但是如果由於大量快取失效或快取整體不能提供服務,導致大量的請求到達儲存層,會使儲存層負載增加(大量的請求查詢資料庫) 。這就是快取雪崩的場景;
解決快取雪崩可以從下面的幾點著手:
使用Redis哨兵模式或Redis叢集部署方式,即是個別Redis節點下線,整個快取層依然可以使用。除此之外還可以在多個機房部署Redis,這樣即便是機房死機,依然可以實現緩存層的高可用。
無論是快取層還是儲存層都會有出錯的機率,可以將它們視為資源。作為一個並發量較大的分散式系統,假如有一個資源不可用,可能會造成所有執行緒在取得這個資源時異常,造成整個系統不可用。降級在高並發系統中是非常正常的,例如推薦服務中,如果個性化推薦服務不可用,可以降級補充熱點數據,不至於造成整個推薦服務不可用。常見的限流降級組件如 Hystrix、Sentinel 等。
Redis 中儲存的key 永不失效,這樣就不會出現大量快取同時失效的問題,但是隨之而來的就是Redis 需要更多的儲存空間。
設計快取時,為每個 key 選擇合適的過期時間,避免大量的 key 在同一時刻同時失效,造成快取雪崩。
在高並發場景下,為了避免大量的請求同時到達儲存層查詢資料、重建緩存,可以使用互斥鎖控制,如根據key 去緩存層查詢數據,當緩存層為命中時,對key 加鎖,然後從存儲層查詢數據,將數據寫入緩存層,最後釋放鎖。若其他執行緒發現取得鎖定失敗,則讓執行緒休眠一段時間後重試。對於鎖的類型,如果是在單機環境下可以使用 Java 並發包下的 Lock,如果是在分散式環境下,可以使用分散式鎖定(Redis 中的 SETNX 方法)。
分散式環境下互斥鎖重建快取偽代碼
/** * 互斥锁建立缓存 * **/ public String get(String key) { // redis中查询key对应的value String value = redis.get(key); // 缓存未命中 if (value == null) { // 互斥锁 String key_mutex_lock = "mutex:lock" + key; // 互斥锁加锁成功 if(redis.setnx(key_mutex_lock,"1")) { // 返回 0(false),1(true) try { // 设置互斥锁超时时间,这里设置的是锁的失效时间,而不是key的失效时间 redis.expire(key_mutex_lock,3*60); // 从数据库查询 value = db.get(key); // 数据写入缓存 redis.set(key,value); } finally { // 释放锁 boolean keyExist = jedis.exists(key_mutex_lock); if(keyExist){ redis.delete(key_mutex_lock); } } else { // 加锁失败,线程休息50ms后重试 Thread.sleep(50); return get(key); // 直接返回缓存结果 } } }
在分散式環境下使用Redis 分散式鎖定實現快取重建,優點是設計想法簡單,對資料一致性有保障;缺點是程式碼複雜度增加,有可能會造成使用者等待。假設在高並發下,快取重建期間 key 是鎖著的,如果當前並發 1000 個請求,其中 999 個都在阻塞,會導致 999 個使用者請求阻塞而等待。
在這種方案下構建緩存採取異步策略,會從線程池中獲取線程來異步構建緩存,從而不會讓所有的請求直接到達存儲層,此方案中每個Redis key 維護邏輯逾時時間,當邏輯逾時時間小於目前時間時,則表示目前快取已失效,應進行快取更新,否則說明目前快取未失效,直接傳回快取中的value 值。如在Redis 中將 key 的過期時間設定為 60 min,在對應的 value 中設定邏輯過期時間為 30 min。這樣當 key 到了 30 min 的邏輯過期時間,就可以異步更新這個 key 的緩存,但是在更新緩存的這段時間內,舊的緩存仍然可用。這種非同步重建快取的方式可以有效避免大量的 key 同時失效。
/** * 异步重建缓存: ValueObject为对应的封装的实体模型 * **/ public String get(String key) { // 重缓存中查询key对应的ValueObject对象 ValueObject valueObject = redis.get(key); // 获取存储中对应的value值 String value = valueObject.getValue(); // 获取实体模型中的缓存过期的时间:timeOut = 设置缓存时的当前时间+过期时间(如30秒,60秒等等) long logicTimeOut = valueObject.getTimeOut(); // 等位换算为long类型 // 当前可以在逻辑上失效 if (logicTimeOut <= System.currentTimeMillis()) { // 异步更新缓存 threadPool.execute(new Runnable() { String key_mutex_lock = "mutex_lock" + key; // 互斥锁加锁成功 if(redis.setnx(key_mutex_lock,"1")) { // 返回 0(false),1(true) try { // 设置互斥锁超时时间,这里设置的是锁的失效时间,而不是key的失效时间 redis.expire(key_mutex_lock,3*60); // 从数据库查询 dbValue = db.get(key); // 数据写入缓存 redis.set(key,dbValue); } finally { // 释放锁 boolean keyExist = jedis.exists(key_mutex_lock); if(keyExist){ redis.delete(key_mutex_lock); } } } else { } }); return value; // 直接返回缓存结果 } }
以上是Redis快取雪崩問題怎麼解決的詳細內容。更多資訊請關注PHP中文網其他相關文章!