首頁 > web前端 > js教程 > 深入淺析Node.js中的斷路器機制

深入淺析Node.js中的斷路器機制

青灯夜游
發布: 2021-10-18 09:53:55
轉載
2105 人瀏覽過

這篇文章帶大家了解一下Node.js中的斷路器機制,希望對大家有幫助!

深入淺析Node.js中的斷路器機制

架構演進帶來的問題

當我們使用傳統的CS 架構時,服務端會因為故障等原因而阻塞,可能會導致客戶端的請求失去回應,進而在一段時間後導致一批用戶無法獲得服務。而這種情況可能影響範圍是有限,可以預估的。

然而,在微服務體系下,您的伺服器可能依賴了若干其他微服務,而這些微服務又依賴其它更多的微服務,這種情況下,某個服務對於下游的堵塞,可能會瞬間(數秒內)因為級聯的資源消耗造成整條鏈路上災難性的後果,我們稱之為「服務血崩」。 【推薦學習:《nodejs 教學》】

深入淺析Node.js中的斷路器機制

深入淺析Node.js中的斷路器機制

#解決問題的幾種方式

  • 熔斷模式:顧名思義,就如同家用電路一樣,如果一條線路電壓過高,保險絲就會熔斷,防止火災。在使用熔斷模式的系統中,如果發現上游服務調用慢,或者有大量超時的時候,直接中止對於該服務的調用,直接返回訊息,快速釋放資源。直至上游服務好轉時再恢復呼叫。

  • 隔離模式:將不同的資源或服務的呼叫分割成幾個不同的請求池,一個池子的資源被耗盡並不會影響其它資源的請求,防止某個單點的故障消耗完全部的資源。這是非常傳統的一種容災設計。
  • 限流模式:熔斷和隔離都是一種事後處置的方式,限流模式則可以在問題出現之前降低問題出現的機率。限流模式可以對某些服務的請求設定一個最高的 QPS 閾值,超出閾值的請求直接返回,不再佔用資源處理。但是限流模式,並不能解決服務血崩的問題,因為往往會造成血崩並不是因為請求的數量大,而是因為多個級聯層數的放大。

斷路器的機制和實作

斷路器的存在,相當於給了我們一層保障,在呼叫穩定性欠佳,或者說很可能會呼叫失敗的服務和資源時,斷路器可以監視這些錯誤並且在達到一定閾值之後讓請求失敗,防止過度消耗資源。並且,斷路器還擁有自動識別服務狀態並恢復的功能,當上游服務恢復正常時,斷路器可以自動判斷並恢復正常請求。

讓我們來看看一個沒有斷路器的請求過程: 使用者依賴ServiceA 來提供服務,ServiceA 又依賴ServiceB 提供的服務,假設ServiceB 此時出現了故障,在10 分鐘內,對於每個請求都會延遲10 秒響應。

深入淺析Node.js中的斷路器機制

那麼假設我們有N 個User 在請求ServiceA 的服務時,幾秒鐘內,ServiceA 的資源就會因為對ServiceB 發起的請求被掛起而消耗一空,從而拒絕User 之後的任何請求。對使用者來說,這就等於 ServiceA 和 ServiceB 同時都出現了故障,造成了整個服務連結的崩潰。

而當我們在 ServiceA 上裝上一個斷路器後會怎麼樣呢?

  • 斷路器在失敗次數達到一定閾值後會發現對ServiceB 的請求已經無效,那麼此時ServiceA 就不需要繼續對ServiceB 進行請求,而是直接傳回失敗,或者使用其他Fallback 的備份資料。此時,斷路器處於 開路 狀態。

  • 在一段時間過後,斷路器會開始定時查詢 ServiceB 是否已經恢復,此時,斷路器處於 半開 狀態。

  • 如果 ServiceB 已經恢復,那麼斷路器會置於 關閉 狀態,此時 ServiceA 會正常呼叫 ServiceB 並且傳回結果。

深入淺析Node.js中的斷路器機制

斷路器的狀態圖如下:

深入淺析Node.js中的斷路器機制

由此可見,斷路器的幾個核心要點如下:

  • 逾時時間:請求達到多久,算引起了一次失敗

  • 失敗閾值:即斷路器觸發開路之前,需要達到的失敗次數

  • 重試逾時:當斷路器處於開路狀態後,隔多久開始重新嘗試請求,即進入半開狀態

有了這些知識,我們可以嘗試建立一個斷路器:

class CircuitBreaker {
  constructor(timeout, failureThreshold, retryTimePeriod) {
    // We start in a closed state hoping that everything is fine
    this.state = 'CLOSED';
    // Number of failures we receive from the depended service before we change the state to 'OPEN'
    this.failureThreshold = failureThreshold;
    // Timeout for the API request.
    this.timeout = timeout;
    // Time period after which a fresh request be made to the dependent
    // service to check if service is up.
    this.retryTimePeriod = retryTimePeriod;
    this.lastFailureTime = null;
    this.failureCount = 0;
  }
}
登入後複製

建構斷路器的狀態機:

async call(urlToCall) {
    // Determine the current state of the circuit.
    this.setState();
    switch (this.state) {
      case 'OPEN':
      // return  cached response if no the circuit is in OPEN state
        return { data: 'this is stale response' };
      // Make the API request if the circuit is not OPEN
      case 'HALF-OPEN':
      case 'CLOSED':
        try {
          const response = await axios({
            url: urlToCall,
            timeout: this.timeout,
            method: 'get',
          });
          // Yay!! the API responded fine. Lets reset everything.
          this.reset();
          return response;
        } catch (err) {
          // Uh-oh!! the call still failed. Lets update that in our records.
          this.recordFailure();
          throw new Error(err);
        }
      default:
        console.log('This state should never be reached');
        return 'unexpected state in the state machine';
    }
  }
登入後複製

補充剩餘功能:

// reset all the parameters to the initial state when circuit is initialized
  reset() {
    this.failureCount = 0;
    this.lastFailureTime = null;
    this.state = 'CLOSED';
  }

  // Set the current state of our circuit breaker.
  setState() {
    if (this.failureCount > this.failureThreshold) {
      if ((Date.now() - this.lastFailureTime) > this.retryTimePeriod) {
        this.state = 'HALF-OPEN';
      } else {
        this.state = 'OPEN';
      }
    } else {
      this.state = 'CLOSED';
    }
  }

  recordFailure() {
    this.failureCount += 1;
    this.lastFailureTime = Date.now();
  }
登入後複製

使用斷路器時,只需要將請求包裹在斷路器實例中的Call 方法裡呼叫即可:

...
const circuitBreaker = new CircuitBreaker(3000, 5, 2000);

const response = await circuitBreaker.call('http://0.0.0.0:8000/flakycall');
登入後複製

成熟的Node.js 斷路器庫

Red Hat 很早就創建了一個名叫Opossum 的成熟Node.js 斷路器實現,連結在此:Opossum 。對於分散式系統來說,使用這個函式庫可以極大地提升你的服務的容錯能力,從根本上解決服務血崩的問題。

原文網址:https://juejin.cn/post/7019217344601948173

作者:ES2049 / 尋找奇點

更多程式相關知識,請造訪:程式設計影片! !

以上是深入淺析Node.js中的斷路器機制的詳細內容。更多資訊請關注PHP中文網其他相關文章!

相關標籤:
來源:juejin.cn
本網站聲明
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn
最新問題
熱門教學
更多>
最新下載
更多>
網站特效
網站源碼
網站素材
前端模板