首頁 資料庫 Redis redis分片詳解

redis分片詳解

Dec 06, 2019 pm 05:13 PM
redis

redis分片詳解

分片(partitioning)就是將你的資料拆分到多個 Redis 實例的過程,這樣每個實例將只包含所有鍵的子集。本文第一部分將向你介紹分片的概念,第二部分將向你展示 Redis 分片的選配。

分片能做什麼

Redis 的分片承擔著兩個主要目標:

1、允許使用很多電腦的記憶體總和來支援更大的資料庫。沒有分片,你就被局限於單機能支援的記憶體容量。

2、允許伸縮運算能力到多核心或多伺服器,伸縮網路頻寬到多伺服器或多網路介面卡。

分片基礎

有很多不同的分片標準(criteria)。假想我們有4 個Redis 實例R0,R1,R2,R3,還有很多表示用戶的鍵,像user:1,user:2,… 等等,我們可以找到不同的方式來選擇一個指定的鍵存儲在哪個實例中。換句話說,有許多不同的方法來映射一個鍵到一個指定的 Redis 伺服器。

最簡單的執行分片的方式之一是範圍分片(range partitioning),透過映射物件的範圍到指定的 Redis 實例來完成分片。例如,我可以假設使用者從 ID 0 到 ID 10000 進入實例 R0,使用者從 ID 10001 到 ID 20000 進入實例 R1,等等。

這套辦法行得通,事實上在實務上被採用,然而,這有一個缺點,就是需要一個映射範圍到實例的表格。這張表需要管理,不同類型的物件都需要一個表,所以範圍分片在 Redis 中常常並不可取,因為這要比替他分片可選方案低效得多。

一種範圍分片的替代方案是哈希分片(hash partitioning)。這個模式適用於任何鍵,不需要鍵像object_name: 這樣的餓形式,就像這樣簡單:

1、使用一個雜湊函數(例如,crc32 雜湊函數) 將鍵名轉換為一個數字。例如,如果鍵是 foobar,crc32(foobar)將會輸出類似 93024922 的東西。

2、對這個資料進行取模運算,以將其轉換為 0 到 3 之間的數字,這樣這個數字就可以映射到我的 4 台 Redis 實例之一。 93024922 模 4 等於 2,所以我知道我的鍵 foobar 應儲存到 R2 實例。注意:取模運算傳回除法運算的餘數,在許多程式語言總是實作為%運算符。

有許多其他的方式可以分片,從這兩個例子中你就可以知道了。一種哈希分片的高級形式稱為一致性哈希(consistent hashing),被一些 Redis 客戶端和代理實現。

分片的不同實作

分片可由軟體堆疊中的不同部分來承擔。

1、客戶端分片(Client side partitioning)意味著,客戶端直接選擇正確的節點來寫入和讀取指定鍵。許多 Redis 客戶端實現了客戶端分片。

2、代理協助分片(Proxy assisted partitioning)意味著,我們的客戶端發送請求到一個可以理解 Redis 協議的代理上,而不是直接發送請求到 Redis 實例上。代理程式會根據配置好的分片模式,來保證轉送我們的請求到正確的 Redis 實例,並回傳回應給客戶端。 Redis 和 Memcached 的代理 Twemproxy 實現了代理協助的分片。

3、查詢路由(Query routing)意味著,你可以傳送你的查詢到一個隨機實例,這個實例會保證轉送你的查詢到正確的節點。 Redis 叢集在客戶端的幫助下,實現了查詢路由的一種混合形式 (請求不是直接從 Redis 實例轉發到另一個,而是客戶端收到重定向到正確的節點)。

分片的缺點

Redis 的一些特性與分片在一起時玩的不是很好:

1、涉及多個鍵的操作通常不支援。例如,你不能對映射在兩個不同 Redis 實例上的鍵執行交集(事實上有辦法做到,但不是直接這麼幹)。

2、涉及多個鍵的事務不能使用。

3、分片的粒度(granularity)是鍵,所以不能使用一個很大的鍵來分片資料集,例如一個很大的有序集合。

4、當使用了分片,資料處理變得更複雜,例如,你需要處理多個 RDB/AOF 文件,備份資料時你需要聚合多個實例和主機的持久化文件。

5、新增和刪除容量也很複雜。例如,Redis 叢集具有運行時動態添加和刪除節點的能力來支援透明地再均衡數據,但是其他方式,像客戶端分片和代理程式都不支援這個特性。但是,有一種稱為預分片(Presharding)的技術在這一點上能幫上忙。

資料儲存還是快取

儘管無論是將Redis 作為資料儲存還是緩存,Redis 的分片概念上都是一樣的,但是作為數據儲存時有一個重要的限制。當 Redis 作為資料儲存時,一個給定的鍵總是映射到相同的 Redis 實例。當Redis 作為快取時,如果一個節點不可用而使用另一個節點,這並不是一個什麼大問題,按照我們的願望來改變鍵和實例的映射來改進系統的可用性(就是系統回復我們查詢的能力) 。

一致性雜湊實作常常能夠在指定鍵的首選節點不可用時切換到其他節點。類似的,如果你加入一個新節點,部分資料就會開始被儲存到這個新節點。

這裡的主要概念如下:

1、如果 Redis 用作緩存,使用一致性哈希來實現伸縮擴展(scaling up and down)是很容易的。

2、如果 Redis 用作存儲,使用固定的鍵到節點的映射,所以節點的數量必須固定不能改變。否則,當增刪節點時,就需要一個支援再平衡節點間鍵的系統,目前只有 Redis 叢集可以做到這一點,但是 Redis 叢集現在還處在 beta 階段,尚未考慮再生產環境中使用。

預分片

我們已經知道分片存在的一個問題,除非我們使用Redis 作為緩存,增加和刪除節點是一件很棘手的事情,使用固定的鍵和實例映射要簡單得多。

然而,資料儲存的需求可能一直在變化。今天我可以接受 10 個 Redis 節點(實例),但明天我可能需要 50 個節點。

因為 Redis 只有相當少的記憶體佔用(footprint)而且輕量級(一個空閒的實例只是用 1MB 記憶體),一個簡單的解決辦法是一開始就開啟很多的實例。即使你一開始只有一台伺服器,你也可以在第一天就決定生活在分散式的世界裡,使用分片來運行多個 Redis 實例在一台伺服器上。

你一​​開始就可以選擇很多數量的實例。例如,32 或 64 個實例能滿足大多數的用戶,並且為未來的成長提供足夠的空間。

這樣,當你的資料儲存需要成長,你需要更多的 Redis 伺服器,你要做的就是簡單地將實例從一個伺服器移到另一個伺服器。當你新加入了第一台伺服器,你就需要把一半的 Redis 實例從第一台伺服器搬到第二台,如此等等。

使用 Redis 複製,你就可以在很小或根本不需要停機時間內完成移動資料:

1、在你的新伺服器上啟動一個空實例。

2、移動數據,配置新實例為來源實例的從服務。

3、停止你的客戶端。

4、更新被移動實例的伺服器 IP 位址配置。

5、向新伺服器上的從節點發送 SLAVEOF NO ONE 指令。

6、以新的更新設定啟動你的客戶端。

7、最後關掉掉舊伺服器上不再使用的實例。

Redis 分片的實作

Redis 叢集是自動分片和高可用的首選方式。目前還不能完全用於生產環境,但已經進入了 beta 階段。

一旦 Redis 叢集可用,以及支援 Redis 叢集的用戶端可用,Redis 叢集將會成為 Redis 分片的事實標準。

Redis 叢集是查詢路由和客戶端分片的混合模式。

Twemproxy 是 Twitter 開發的一個支援 Memcached ASCII 和 Redis 協定的代理。它是單線程的,由 C 語言編寫,運行非常的快。他是基於 Apache 2.0 許可的開源專案。

Twemproxy 支援自動在多個Redis 實例間分片,如果節點不可用時,還有可選的節點排除支援(這會改變鍵和實例的映射,所以你應該只在將Redis 作為緩存是才使用這個特性)。

這不是單點故障(single point of failure),因為你可以啟動多個代理,並且讓你的客戶端連接到第一個接受連接的代理。

Twemproxy 以外的可選方案,是使用實作了客戶端分片的客戶端,透過一致性雜湊或別的類似演算法。有多個支援一致性雜湊的 Redis 用戶端,例如 Redis-rb 和 Predis。

更多redis知識請關注redis資料庫教學欄位。

以上是redis分片詳解的詳細內容。更多資訊請關注PHP中文網其他相關文章!

本網站聲明
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn

熱AI工具

Undresser.AI Undress

Undresser.AI Undress

人工智慧驅動的應用程序,用於創建逼真的裸體照片

AI Clothes Remover

AI Clothes Remover

用於從照片中去除衣服的線上人工智慧工具。

Undress AI Tool

Undress AI Tool

免費脫衣圖片

Clothoff.io

Clothoff.io

AI脫衣器

AI Hentai Generator

AI Hentai Generator

免費產生 AI 無盡。

熱門文章

R.E.P.O.能量晶體解釋及其做什麼(黃色晶體)
1 個月前 By 尊渡假赌尊渡假赌尊渡假赌
R.E.P.O.最佳圖形設置
1 個月前 By 尊渡假赌尊渡假赌尊渡假赌
R.E.P.O.如果您聽不到任何人,如何修復音頻
1 個月前 By 尊渡假赌尊渡假赌尊渡假赌
R.E.P.O.聊天命令以及如何使用它們
1 個月前 By 尊渡假赌尊渡假赌尊渡假赌

熱工具

記事本++7.3.1

記事本++7.3.1

好用且免費的程式碼編輯器

SublimeText3漢化版

SublimeText3漢化版

中文版,非常好用

禪工作室 13.0.1

禪工作室 13.0.1

強大的PHP整合開發環境

Dreamweaver CS6

Dreamweaver CS6

視覺化網頁開發工具

SublimeText3 Mac版

SublimeText3 Mac版

神級程式碼編輯軟體(SublimeText3)

redis集群模式怎麼搭建 redis集群模式怎麼搭建 Apr 10, 2025 pm 10:15 PM

Redis集群模式通過分片將Redis實例部署到多個服務器,提高可擴展性和可用性。搭建步驟如下:創建奇數個Redis實例,端口不同;創建3個sentinel實例,監控Redis實例並進行故障轉移;配置sentinel配置文件,添加監控Redis實例信息和故障轉移設置;配置Redis實例配置文件,啟用集群模式並指定集群信息文件路徑;創建nodes.conf文件,包含各Redis實例的信息;啟動集群,執行create命令創建集群並指定副本數量;登錄集群執行CLUSTER INFO命令驗證集群狀態;使

redis數據怎麼清空 redis數據怎麼清空 Apr 10, 2025 pm 10:06 PM

如何清空 Redis 數據:使用 FLUSHALL 命令清除所有鍵值。使用 FLUSHDB 命令清除當前選定數據庫的鍵值。使用 SELECT 切換數據庫,再使用 FLUSHDB 清除多個數據庫。使用 DEL 命令刪除特定鍵。使用 redis-cli 工具清空數據。

redis指令怎麼用 redis指令怎麼用 Apr 10, 2025 pm 08:45 PM

使用 Redis 指令需要以下步驟:打開 Redis 客戶端。輸入指令(動詞 鍵 值)。提供所需參數(因指令而異)。按 Enter 執行指令。 Redis 返迴響應,指示操作結果(通常為 OK 或 -ERR)。

redis怎麼使用單線程 redis怎麼使用單線程 Apr 10, 2025 pm 07:12 PM

Redis 使用單線程架構,以提供高性能、簡單性和一致性。它利用 I/O 多路復用、事件循環、非阻塞 I/O 和共享內存來提高並發性,但同時存在並發性受限、單點故障和不適合寫密集型工作負載的局限性。

redis怎麼讀源碼 redis怎麼讀源碼 Apr 10, 2025 pm 08:27 PM

理解 Redis 源碼的最佳方法是逐步進行:熟悉 Redis 基礎知識。選擇一個特定的模塊或功能作為起點。從模塊或功能的入口點開始,逐行查看代碼。通過函數調用鏈查看代碼。熟悉 Redis 使用的底層數據結構。識別 Redis 使用的算法。

redis底層怎麼實現 redis底層怎麼實現 Apr 10, 2025 pm 07:21 PM

Redis 使用哈希表存儲數據,支持字符串、列表、哈希表、集合和有序集合等數據結構。 Redis 通過快照 (RDB) 和追加只寫 (AOF) 機制持久化數據。 Redis 使用主從復制來提高數據可用性。 Redis 使用單線程事件循環處理連接和命令,保證數據原子性和一致性。 Redis 為鍵設置過期時間,並使用 lazy 刪除機制刪除過期鍵。

redis怎麼讀取隊列 redis怎麼讀取隊列 Apr 10, 2025 pm 10:12 PM

要從 Redis 讀取隊列,需要獲取隊列名稱、使用 LPOP 命令讀取元素,並處理空隊列。具體步驟如下:獲取隊列名稱:以 "queue:" 前綴命名,如 "queue:my-queue"。使用 LPOP 命令:從隊列頭部彈出元素並返回其值,如 LPOP queue:my-queue。處理空隊列:如果隊列為空,LPOP 返回 nil,可先檢查隊列是否存在再讀取元素。

redis怎麼使用鎖 redis怎麼使用鎖 Apr 10, 2025 pm 08:39 PM

使用Redis進行鎖操作需要通過SETNX命令獲取鎖,然後使用EXPIRE命令設置過期時間。具體步驟為:(1) 使用SETNX命令嘗試設置一個鍵值對;(2) 使用EXPIRE命令為鎖設置過期時間;(3) 當不再需要鎖時,使用DEL命令刪除該鎖。

See all articles