最近一直在跟進(jìn)storm的問題，從storm集群的穩(wěn)定性到監(jiān)控到升級(jí)到bolt寫redis的問題,因?yàn)楣灸壳皼]有專業(yè)運(yùn)維redis的，只能我們數(shù)據(jù)部門自己搞了。。下面記錄下遇到的幾個(gè)問題:

目前創(chuàng)新互聯(lián)公司已為1000多家的企業(yè)提供了網(wǎng)站建設(shè)、域名、網(wǎng)站空間、網(wǎng)站托管、企業(yè)網(wǎng)站設(shè)計(jì)、清豐網(wǎng)站維護(hù)等服務(wù)，公司將堅(jiān)持客戶導(dǎo)向、應(yīng)用為本的策略，正道將秉承"和諧、參與、激情"的文化，與客戶和合作伙伴齊心協(xié)力一起成長，共同發(fā)展。

總結(jié)下目前storm寫redis問題:

1.redis高峰寫入異常，增加redis監(jiān)控，發(fā)現(xiàn)cpu性能瓶頸(redis單線程，最高10w/s的處理量)

2.之前redis bolt的并發(fā)在200以上，過多的并發(fā)對(duì)redis的性能造成比較大的影響，現(xiàn)在已經(jīng)減少為5

3.關(guān)閉了redis的monitor監(jiān)控,常駐的monitor監(jiān)控對(duì)redis的性能損耗在30%左右

4.關(guān)閉了redis的rdb持久化方式，開啟了aof的方式，在低峰aofrewrite

5.擴(kuò)容到8個(gè)實(shí)例，使用jedissharding的方式，高峰時(shí)單機(jī)超過5W/s處理量

6.去掉select操作，使用默認(rèn)db0

7.對(duì)高峰時(shí)的數(shù)據(jù)進(jìn)行分析，40w/s的處理量中，ping操作占50%以上，調(diào)整jedispool的設(shè)置，基本上屏蔽了ping的操作

8.bolt端batch處理，減少寫入量

9.40%的expire操作，測試ttl+expire vs expire的性能，基于ttl+expire的方式在一個(gè)操作里面的性能損耗在35%左右，

如果是同一個(gè)key在一個(gè)線程里面順序操作會(huì)有性能的提升（目前我們沒有這種場景）

1)直接expire

hardedJedis.set(key,value)

hardedJedis.expire(key,1000)

2)ttl+expire

hardedJedis.set(key,value)

Long re = shardedJedis.ttl(key);

if ((re == -1)||(re == -2)){hardedJedis.expire(key,1000)};

10.從第8點(diǎn)測試來看40%的expire操作是省不了了，只能從提高單次處理量(pipline)來做優(yōu)化了

11.測試了lvs->twemproxy->redis的方案，不太穩(wěn)定，考慮引用到的組件比較多，twemproxy相對(duì)來說對(duì)于我們這邊也是一個(gè)黑盒

12.jedissharding的方案在高峰時(shí)會(huì)有一些延遲，單機(jī)方案相對(duì)來說比較穩(wěn)定，如果接入數(shù)據(jù)量變大的話還是要走sharding模式，延遲的原因需要繼續(xù)跟進(jìn)

最后附幾個(gè)監(jiān)控圖：

1.redis cpu

2.redis conns

3.redis command/s

文章標(biāo)題：storm寫redis問題小結(jié)
當(dāng)前URL：http://chinadenli.net/article30/jhgjso.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供品牌網(wǎng)站建設(shè)、靜態(tài)網(wǎng)站、網(wǎng)站導(dǎo)航、動(dòng)態(tài)網(wǎng)站、商城網(wǎng)站、虛擬主機(jī)

廣告

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請(qǐng)盡快告知，我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場，如需處理請(qǐng)聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時(shí)需注明來源： 創(chuàng)新互聯(lián)