近些年,Redis憑借在性能、穩(wěn)定性和高可擴(kuò)展性上的卓越表現(xiàn),基本上已經(jīng)成了互聯(lián)網(wǎng)行業(yè)緩存中間件的標(biāo)配,甚至很多傳統(tǒng)行業(yè)也在使用Redis。那么我們?cè)谑褂肦edis等緩存中間件時(shí),要注意哪些問題呢?本文咱們就來聊聊,我們使用緩存中間件過程中曾經(jīng)遇到的坑!
緩存穿透
先看一個(gè)常見的緩存使用方式。請(qǐng)求來了,先查緩存,緩存有值就直接返回;緩存沒值,查數(shù)據(jù)庫(kù),然后把數(shù)據(jù)庫(kù)的值存到緩存,再返回。
假如緩存沒查到某個(gè)值,查數(shù)據(jù)庫(kù)也沒這個(gè)值,也就是說要查的值根本不存在,這樣就會(huì)導(dǎo)致每次對(duì)這個(gè)值的查詢請(qǐng)求都會(huì)穿透到數(shù)據(jù)庫(kù)。這就是所謂的“緩存穿透”。
如何避免緩存穿透?
如果從數(shù)據(jù)庫(kù)中沒查到值,可以在緩存中記錄一個(gè)空值,來避免“緩存穿透”。并且要給這個(gè)空值設(shè)置一個(gè)較短的過期時(shí)間。
比如說,我們經(jīng)常會(huì)把用戶信息緩存到Redis。如果調(diào)用方傳了一個(gè)不存在的UserID,在緩存中就查不到這個(gè)用戶信息,然后去DB也查不到。這樣就會(huì)導(dǎo)致,每次根據(jù)這個(gè)UserID查用戶信息,都會(huì)穿透到數(shù)據(jù)庫(kù),給數(shù)據(jù)庫(kù)造成了壓力。為了避免緩存穿透,當(dāng)數(shù)據(jù)庫(kù)查不到時(shí),我們可以在緩存中記錄一條空數(shù)據(jù),比如userID做為key,空json做為值,如果程序獲得這個(gè)空json,就按用戶不存在處理。再給這個(gè)key設(shè)置一個(gè)很短的過期時(shí)間,比如30秒。
緩存雪崩
我們經(jīng)常會(huì)遇到需要初始化緩存的情況。比如說用戶系統(tǒng)重構(gòu),表結(jié)構(gòu)發(fā)生了變化,緩存信息也要變,上線前需要初始化緩存,將用戶信息批量存入緩存。假如我們給這些用戶信息設(shè)置相同的過期時(shí)間,到過期時(shí)間點(diǎn)所有用戶信息的緩存記錄就會(huì)同時(shí)集中失效,導(dǎo)致大量請(qǐng)求瞬間打到數(shù)據(jù)庫(kù),數(shù)據(jù)庫(kù)很可能會(huì)被搞掛。這種緩存集中失效,導(dǎo)致大量請(qǐng)求同時(shí)穿透到數(shù)據(jù)庫(kù)的情況,就是所謂的“雪崩效應(yīng)”。
所以,當(dāng)我們向緩存初始化數(shù)據(jù)時(shí),要保證每個(gè)緩存記錄過期時(shí)間的離散性。可以采用一個(gè)較大的固定值加上一個(gè)較小的隨機(jī)值。比如過期時(shí)間可以是:10小時(shí) + 0到3600秒的隨機(jī)值。
緩存并發(fā)
當(dāng)系統(tǒng)并發(fā)很高,緩存數(shù)據(jù)尤其是熱點(diǎn)數(shù)據(jù)過期后,可能會(huì)出現(xiàn)多個(gè)請(qǐng)求同時(shí)訪問數(shù)據(jù)庫(kù)并設(shè)置緩存的情況,不但給數(shù)據(jù)庫(kù)帶來壓力,而且會(huì)有緩存頻繁更新的問題。
我們可以通過加鎖來避免緩存并發(fā)問題。如果從緩存查不到數(shù)據(jù),對(duì)查詢數(shù)據(jù)加分布式鎖,然后查數(shù)據(jù)庫(kù)并把數(shù)據(jù)庫(kù)查詢結(jié)果放入緩存。其他線程等待鎖釋放后,直接從緩存取值。
比如,電商系統(tǒng)會(huì)緩存商品SKU價(jià)格,一些熱點(diǎn)商品的并發(fā)訪問會(huì)非常高。當(dāng)緩存過期失效后,訪問請(qǐng)求從緩存查不到記錄,此時(shí)可以用商品SKU ID為Key加分布式鎖,然后從數(shù)據(jù)庫(kù)查詢價(jià)格并把價(jià)格放入緩存,最后解鎖。解鎖后其他請(qǐng)求就可以從緩存直接取值了。從而避免了數(shù)據(jù)庫(kù)的壓力。
分布式鎖
以我們之前做過的5人拼團(tuán)為例。如果有用戶參加團(tuán)購(gòu),我們需要先校驗(yàn)參團(tuán)人數(shù)是否達(dá)到了上限5人。如果沒達(dá)到5人,用戶才可以參團(tuán)。偽代碼如下:
//根據(jù)拼團(tuán)ID獲取目前參團(tuán)成員數(shù)量
int numOfMembers = pinTuanService.getNumOfMembersById(pinTuanID);
if(numOfMembers < 5) {
pinTuanService.pintuan();//執(zhí)行,加入拼團(tuán),生單等邏輯
}
高并發(fā)場(chǎng)景下,上面的代碼會(huì)有很嚴(yán)重的問題。如果某個(gè)團(tuán)當(dāng)前的參團(tuán)人數(shù)是4,這時(shí)有兩個(gè)用戶同時(shí)參團(tuán),用戶A和用戶B的請(qǐng)求同時(shí)進(jìn)入上面的代碼塊,A和B的請(qǐng)求同時(shí)執(zhí)行到第2行代碼,獲取的numOfMembers都是4,表達(dá)式 numOfMembers < 5 成立,所以兩個(gè)用戶都能執(zhí)行到第4行代碼,就是說A用戶和B用戶都能成功參加拼團(tuán)。于是,參團(tuán)人數(shù)就超過了5人的上限。所以我們就需要加鎖來避免這個(gè)問題。synchronized行嗎?不行。因?yàn)槲覀兊姆?wù)是多節(jié)點(diǎn)部署的,所以要加分布式鎖。代碼如下:
boolean aquired = distributedLock.aquireLock(pinTuanID, 3000);
if(aquired == true) {
try{
//根據(jù)拼團(tuán)ID獲取目前參團(tuán)成員數(shù)量
int numOfMembers = pinTuanService.getNumOfMembersById(pinTuanID);
if(numOfMembers < 5) {
pinTuanService.pintuan();//執(zhí)行,加入拼團(tuán),生單等邏輯
}
} finally {
distributedLock.releaseLock(pinTuanID);
}
}
這樣就好多啦!接下來我們看看基于Redis分布式鎖的實(shí)現(xiàn),以及特別要注意的問題。一般我們會(huì)基于setnx實(shí)現(xiàn)Redis分布式鎖。setnx命令可以檢查key是否存在,如果key不存在,就在Redis中創(chuàng)建一個(gè)鍵值對(duì)(操作成功),如果key已經(jīng)存在就放棄執(zhí)行(操作失敗)。
先看一段基于Springboot實(shí)現(xiàn)的加鎖和釋放鎖的代碼:
@Component
public class DistributedLock {
@Autowired
private StringRedisTemplate redisTemplate;
/**
* 加鎖
* lockKey,redis的key
* expireTime,過期時(shí)間,單位是毫秒
* 注:setIfAbsent方法就使用了redis的setnx
*/
public boolean aquireLock(String lockKey, long expireTime) {
long waitTime = 0;
boolean success = redisTemplate.opsForValue().setIfAbsent(lockKey, "distributedLock",
expireTime, TimeUnit.MILLISECONDS);
if(success == true){
return success;
} else {
//如果加鎖失敗,循環(huán)重試加鎖
while(success != true && waitTime < 5000L ) {
success = redisTemplate.opsForValue().setIfAbsent(lockKey, "distributedLock",
expireTime, TimeUnit.MILLISECONDS);
sleep 100毫秒;
waitTime += 100L;
}
}
return success;
}
/**
* 釋放鎖
* lockKey,redis的key
*/
public void releaseLock(String lockKey) {
redisTemplate.delete(lockKey);
}
}
上面的代碼。乍一看,好像沒什么問題!加鎖失敗有循環(huán)重試加鎖,過期時(shí)間設(shè)置了,而且也保證了創(chuàng)建Key-Value鍵值對(duì)和設(shè)置過期時(shí)間的原子性,這樣當(dāng)程序沒有正常釋放鎖時(shí),也能保證過期后鎖自動(dòng)釋放(注意:redis較老的版本不支持 setnx 和設(shè)置過期時(shí)間的原子操作,不過可以利用Lua腳本來保證原子性)。
我們?cè)僮屑?xì)思考一下,一般場(chǎng)景我們會(huì)對(duì)Key設(shè)置一個(gè)很短的過期時(shí)間,當(dāng)一次操作因?yàn)榫W(wǎng)絡(luò)等原因耗費(fèi)了較長(zhǎng)時(shí)間,操作還沒完成key就過期失效了。這樣會(huì)產(chǎn)生什么問題呢?我們還是以拼團(tuán)為例加以說明,先看看下面這張圖:
如上圖,用戶A和用戶B同時(shí)參加同一團(tuán),團(tuán)ID為 001,我們以團(tuán)ID作為分布式鎖的Key,"distributedLock" 作為固定的Value,過期時(shí)間是5秒。A先獲取分布式鎖,但是由于網(wǎng)絡(luò)等原因A的拼團(tuán)操作在5秒內(nèi)沒完成,這時(shí)Key過期并從Redis清除掉,A的分布式鎖失效。此時(shí)用戶B拿到分布式鎖,Key也同樣是團(tuán)ID 001。在用戶B的拼團(tuán)邏輯執(zhí)行完之前,用戶A的邏輯先執(zhí)行完了,緊接著A就把鎖給釋放了。不過A的鎖早已經(jīng)過期失效了,B持有鎖的Key和A又完全一樣,所以此時(shí)A釋放的其實(shí)是B的鎖。這樣一來整個(gè)拼團(tuán)還是有可能會(huì)超員。怎么解決呢?
我們可以把分布式鎖的Value設(shè)成可以區(qū)分的值,比如拼團(tuán)的場(chǎng)景Value可以設(shè)置為userID,在釋放鎖的時(shí)候根據(jù)key和value來判斷當(dāng)前的鎖是不是自己的,只有Redis中userID和自己的userID相同才釋放鎖。
改進(jìn)后的代碼如下:
@Component
public class DistributedLock {
@Autowired
private StringRedisTemplate redisTemplate;
/**
* 加鎖
* lockKey,redis的key
* expireTime,過期時(shí)間,單位是毫秒
* 注:setIfAbsent方法就使用了redis的setnx
*/
public boolean aquireLock(String lockKey, String userID, long expireTime) {
long waitTime = 0;
boolean success = redisTemplate.opsForValue().setIfAbsent(lockKey, userID,
expireTime, TimeUnit.MILLISECONDS);
if(success == true){
return success;
} else {
//如果加鎖失敗,循環(huán)重試加鎖
while(success != true && waitTime < 5000L ) {
success = redisTemplate.opsForValue().setIfAbsent(lockKey, userID,
expireTime, TimeUnit.MILLISECONDS);
sleep 100毫秒;
waitTime += 100L;
}
}
return success;
}
/**
* 釋放鎖
* lockKey,redis的key
*/
public void releaseLock(String lockKey, String userID) {
String userIDFromRedis = redisTemplate.get(lockKey);
if( userID.equals(userIDFromRedis) ) {
redisTemplate.delete(lockKey);
}
}
}
還有一種場(chǎng)景需要考慮。當(dāng)Redis master發(fā)生故障,主備切換時(shí)往往會(huì)造成數(shù)據(jù)丟失,包括分布式鎖的Key-Value 也可能丟失。這樣就會(huì)導(dǎo)致操作還沒執(zhí)行完,鎖就被其他請(qǐng)求拿到了。Redis官方提供了Redlock算法,以及相應(yīng)的開源實(shí)現(xiàn) Redisson。用到分布式鎖的場(chǎng)景,大家可以直接使用 Redisson,非常方便。如果系統(tǒng)對(duì)可靠性要求很高,如需用到分布式鎖,建議使用 Zookeeper,etcd 等。