本篇內(nèi)容介紹了“Go語言中熔斷的原理是什么”的有關(guān)知識,在實(shí)際案例的操作過程中,不少人都會(huì)遇到這樣的困境,接下來就讓小編帶領(lǐng)大家學(xué)習(xí)一下如何處理這些情況吧!希望大家仔細(xì)閱讀,能夠?qū)W有所成!
郊區(qū)網(wǎng)站制作公司哪家好,找創(chuàng)新互聯(lián)!從網(wǎng)頁設(shè)計(jì)、網(wǎng)站建設(shè)、微信開發(fā)、APP開發(fā)、成都響應(yīng)式網(wǎng)站建設(shè)等網(wǎng)站項(xiàng)目制作,到程序開發(fā),運(yùn)營維護(hù)。創(chuàng)新互聯(lián)自2013年起到現(xiàn)在10年的時(shí)間,我們擁有了豐富的建站經(jīng)驗(yàn)和運(yùn)維經(jīng)驗(yàn),來保證我們的工作的順利進(jìn)行。專注于網(wǎng)站建設(shè)就選創(chuàng)新互聯(lián)。
今天我們就來一起看一下客戶端上的限流措施:熔斷。

熔斷器[^2]
如上圖[^2]所示,熔斷器存在三個(gè)狀態(tài):
關(guān)閉(closed):關(guān)閉狀態(tài)下沒有觸發(fā)斷路保護(hù),所有的請求都正常通行
打開(open):當(dāng)錯(cuò)誤閾值觸發(fā)之后,就進(jìn)入開啟狀態(tài),這個(gè)時(shí)候所有的流量都會(huì)被節(jié)流,不運(yùn)行通行
半打開(half-open):處于打開狀態(tài)一段時(shí)間之后,會(huì)嘗試嘗試放行一個(gè)流量來探測當(dāng)前 server 端是否可以接收新流量,如果這個(gè)沒有問題就會(huì)進(jìn)入關(guān)閉狀態(tài),如果有問題又會(huì)回到打開狀態(tài)
熔斷器中比較典型的實(shí)現(xiàn)就是 hystrix,Golang 也有對應(yīng)的版本,我們先來看一下 hystrix-go 是怎么實(shí)現(xiàn)的
先看一個(gè)使用案例,首先我們使用 gin 啟動(dòng)一個(gè)服務(wù)端,這個(gè)服務(wù)端主要是前 200ms 的請求都會(huì)返回 500,之后的請求都會(huì)返回 200
func server() { e := gin.Default() e.GET("/ping", func(ctx *gin.Context) { if time.Since(start) < 201*time.Millisecond { ctx.String(http.StatusInternalServerError, "pong") return } ctx.String(http.StatusOK, "pong") }) e.Run(":8080") }然后配置 hystrix,hystrix.ConfigureCommand(command name, config) hystrix 的配置是按照每個(gè) command 進(jìn)行配置,使用的時(shí)候我們也需要傳遞一個(gè) command,下面的配置就是我們的請求數(shù)量大于等于 10 個(gè)并且錯(cuò)誤率大于等于 20% 的時(shí)候就會(huì)觸發(fā)熔斷器開關(guān),熔斷器打開 500ms 之后會(huì)進(jìn)入半打開的狀態(tài),嘗試放一部分請求去訪問
func main(){ hystrix.ConfigureCommand("test", hystrix.CommandConfig{ // 執(zhí)行 command 的超時(shí)時(shí)間 Timeout: 10, // 最大并發(fā)量 MaxConcurrentRequests: 100, // 一個(gè)統(tǒng)計(jì)窗口 10 秒內(nèi)請求數(shù)量 // 達(dá)到這個(gè)請求數(shù)量后才去判斷是否要開啟熔斷 RequestVolumeThreshold: 10, // 熔斷器被打開后 // SleepWindow 的時(shí)間就是控制過多久后去嘗試服務(wù)是否可用了 // 單位為毫秒 SleepWindow: 500, // 錯(cuò)誤百分比 // 請求數(shù)量大于等于 RequestVolumeThreshold 并且錯(cuò)誤率到達(dá)這個(gè)百分比后就會(huì)啟動(dòng)熔斷 ErrorPercentThreshold: 20, }) }然后我們使用一個(gè)循環(huán)當(dāng)做客戶端代碼,會(huì)請求 20 次,每一個(gè)請求消耗 100ms
func main() { go server() // 這里是 config 代碼 for i := 0; i < 20; i++ { _ = hystrix.Do("test", func() error { resp, _ := resty.New().R().Get("http://localhost:8080/ping") if resp.IsError() { return fmt.Errorf("err code: %s", resp.Status()) } return nil }, func(err error) error { fmt.Println("fallback err: ", err) return err }) time.Sleep(100 * time.Millisecond) } }所以我們執(zhí)行的結(jié)果就是,前面 2 個(gè)請求報(bào) 500,等到發(fā)起了 10 個(gè)請求之后就會(huì)進(jìn)入熔斷, 500ms 也就是發(fā)出 5 個(gè)請求之后就會(huì)重新去請求服務(wù)端

image-20210504164650024
核心實(shí)現(xiàn)的方法是 AllowRequest,IsOpen判斷當(dāng)前是否處于熔斷狀態(tài),allowSingleTest就是去看是否過了一段時(shí)間需要重新進(jìn)行嘗試
func (circuit *CircuitBreaker) AllowRequest() bool { return !circuit.IsOpen() || circuit.allowSingleTest() }IsOpen先看當(dāng)前是否已經(jīng)打開了,如果已經(jīng)打開了就直接返回就行了,如果還沒打開就去判斷
請求數(shù)量是否滿足要求
請求的錯(cuò)誤率是否過高,如果兩個(gè)都滿足就會(huì)打開熔斷器
func (circuit *CircuitBreaker) IsOpen() bool { circuit.mutex.RLock() o := circuit.forceOpen || circuit.open circuit.mutex.RUnlock() if o { return true } if uint64(circuit.metrics.Requests().Sum(time.Now())) < getSettings(circuit.Name).RequestVolumeThreshold { return false } if !circuit.metrics.IsHealthy(time.Now()) { // too many failures, open the circuit circuit.setOpen() return true } return false }hystrix-go已經(jīng)可以比較好的滿足我們的需求,但是存在一個(gè)問題就是一旦觸發(fā)了熔斷,在一段時(shí)間之類就會(huì)被一刀切的攔截請求,所以我們來看看 google sre 的一個(gè)實(shí)現(xiàn)

算法如上所示,這個(gè)公式計(jì)算的是請求被丟棄的概率[^3]
requests: 一段時(shí)間的請求數(shù)量
accepts: 成功的請求數(shù)量
K: 倍率,K 越小表示越激進(jìn),越小表示越容易被丟棄請求
這個(gè)算法的好處是不會(huì)直接一刀切的丟棄所有請求,而是計(jì)算出一個(gè)概率來進(jìn)行判斷,當(dāng)成功的請求數(shù)量越少,K越小的時(shí)候
的值就越大,計(jì)算出的概率也就越大,表示這個(gè)請求被丟棄的概率越大
func (b *sreBreaker) Allow() error { // 統(tǒng)計(jì)成功的請求,和總的請求 success, total := b.summary() // 計(jì)算當(dāng)前的成功率 k := b.k * float64(success) if log.V(5) { log.Info("breaker: request: %d, succee: %d, fail: %d", total, success, total-success) } // 統(tǒng)計(jì)請求量和成功率 // 如果 rps 比較小,不觸發(fā)熔斷 // 如果成功率比較高,不觸發(fā)熔斷,如果 k = 2,那么就是成功率 >= 50% 的時(shí)候就不熔斷 if total < b.request || float64(total) < k { if atomic.LoadInt32(&b.state) == StateOpen { atomic.CompareAndSwapInt32(&b.state, StateOpen, StateClosed) } return nil } if atomic.LoadInt32(&b.state) == StateClosed { atomic.CompareAndSwapInt32(&b.state, StateClosed, StateOpen) } // 計(jì)算一個(gè)概率,當(dāng) dr 值越大,那么被丟棄的概率也就越大 // dr 值是,如果失敗率越高或者是 k 值越小,那么它越大 dr := math.Max(0, (float64(total)-k)/float64(total+1)) drop := b.trueOnProba(dr) if log.V(5) { log.Info("breaker: drop ratio: %f, drop: %t", dr, drop) } if drop { return ecode.ServiceUnavailable } return nil } // 通過隨機(jī)來判斷是否需要進(jìn)行熔斷 func (b *sreBreaker) trueOnProba(proba float64) (truth bool) { b.randLock.Lock() truth = b.r.Float64() < proba b.randLock.Unlock() return }可用性僅靠服務(wù)端來保證是不靠譜的,只有整條鏈路上的所有服務(wù)都做好了自己可用性相關(guān)的建設(shè)我們的服務(wù) SLA 最后才能夠有保證。今天我們講了 hystrix-go 和 kratos 兩種熔斷的實(shí)現(xiàn)方式,kratos采用 Google SRE 的實(shí)現(xiàn)的好處就是沒有半開的狀態(tài),也沒有完全開啟的狀態(tài),而是通過一個(gè)概率來進(jìn)行判斷我們的流量是否應(yīng)該通過,這樣沒有那么死板,也可以保證我們錯(cuò)誤率比較高的時(shí)候不會(huì)大量請求服務(wù)端,給服務(wù)端喘息恢復(fù)的時(shí)間。
“Go語言中熔斷的原理是什么”的內(nèi)容就介紹到這里了,感謝大家的閱讀。如果想了解更多行業(yè)相關(guān)的知識可以關(guān)注創(chuàng)新互聯(lián)網(wǎng)站,小編將為大家輸出更多高質(zhì)量的實(shí)用文章!
分享文章:Go語言中熔斷的原理是什么
網(wǎng)頁地址:http://chinadenli.net/article24/ghosje.html
成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供網(wǎng)站策劃、營銷型網(wǎng)站建設(shè)、移動(dòng)網(wǎng)站建設(shè)、電子商務(wù)、App開發(fā)、面包屑導(dǎo)航
聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請盡快告知,我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場,如需處理請聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時(shí)需注明來源: 創(chuàng)新互聯(lián)