首頁 > 資料庫 > SQL > 主體

資料庫分庫分錶,何時分?怎樣分?

發布: 2023-08-17 16:31:55
轉載
1013 人瀏覽過


一。資料切分

關係型資料庫本身比較容易成為系統瓶頸,單機儲存容量、連線數、處理能力都有限。當單表的資料量達到1000W或100G以後,由於查詢維度較多,即使添加從庫、最佳化索引,做很多操作時效能仍下降嚴重。此時就要考慮對其進行切分了,切分的目的就在於減少資料庫的負擔,縮短查詢時間。

1000W或100G可以說是業界參考值,具體還得看目前系統硬體設施、表格結構設計等因素。

資料庫分散式核心內容無非就是資料切分(Sharding),以及切分後對資料的定位、整合。資料切分就是將資料分散儲存到多個資料庫中,使得單一資料庫中的資料量變小,透過擴充主機的數量來緩解單一資料庫的效能問題,以達到提升資料庫操作效能的目的。

資料切分依其切分類型,可分為兩種方式:垂直(縱向)切分與水平(橫向)切分

1、垂直(縱向)切分

垂直切分常見有垂直分庫和垂直分錶兩種。

垂直分庫就是根據業務耦合性,將關聯度低的不同表格儲存在不同的資料庫中。做法與大系統拆分為多個小系統類似,依業務分類獨立劃分。與"微服務治理"的做法相似,每個微服務使用單獨的一個資料庫。如圖:

資料庫分庫分錶,何時分?怎樣分?

垂直分錶是基於資料庫中的"列"進行,某個表格欄位較多,可以新建一張擴充表,將不會常用或欄位長度較大的欄位拆分出去到擴充表中。在字段很多的情況下(例如一個大表有100多個字段),透過"大表拆小表",更便於開發與維護,也能避免跨頁問題,MySQL底層是透過資料頁儲存的,一條記錄佔用空間過大會導致跨頁,造成額外的效能開銷。另外資料庫以行為單位將數據載入到記憶體中,這樣表中欄位長度較短且存取頻率較高,記憶體能載入更多的數據,命中率更高,減少了磁碟IO,從而提升了資料庫效能。

資料庫分庫分錶,何時分?怎樣分?

#垂直切分的優點:

1、解決業務系統層面的耦合,業務清晰2、與微服務的治理類似,也能對不同業務的資料進行分級管理、維護、監控、擴展等3、高並發場景下,垂直切分一定程度的提升IO、資料庫連線數、單機硬體資源的瓶頸

缺點:

1、部分錶無法join,只能透過介面聚合方式解決,提升了開發的複雜度2、分散式事務處理複雜3、依然存在單表資料量過大的問題(需要水平切分)

2、水平(橫向)切分

當一個應用難以再細粒度的垂直切分,或切分後資料量行數龐大,存在單庫讀寫、儲存效能瓶頸,這時候就需要進行水平切分了。

水平切分分為庫內分錶和分庫分錶,是根據表內資料內在的邏輯關係,將同一個表依不同的條件分散到多個資料庫或多個表中,每個表中只包含一部分數據,使得單一表的數據量變小,達到分佈式的效果。如圖所示:

資料庫分庫分錶,何時分?怎樣分?

庫內分錶只解決了單一表格資料量過大的問題,但沒有將表分佈到不同機器的函式庫上,因此對於減輕MySQL資料庫的壓力來說,幫助不是很大,大家還是競爭同一個實體機的CPU、記憶體、網路IO,最好透過分庫分錶來解決。

水平切分的優點:

1、不存在單庫資料量過大、高並發的效能瓶頸,提升系統穩定性與負載能力2、應用端改造較小,不需要拆分業務模組

缺點:

1、跨分片的事務一致性難以保證2、跨庫的join關聯查詢性能較差3、資料多次擴展難度和維護量極大

水平切分後同一張表會出現在多個資料庫/表中,每個庫/表的內容不同。幾個典型的資料分片規則為:

1、根據數值範圍

依照時間區間或ID區間來切分。例如:按日期將不同月甚至是日的資料分散到不同的庫中;將userId為1~9999的記錄分到第一個庫,10000~20000的分到第二個庫,以此類推。某種意義上,某些系統中使用的"冷熱資料分離",將一些使用較少的歷史資料遷移到其他庫中,業務功能上只提供熱點資料的查詢,也是類似的實踐。

這樣的優點在於:

1、單表大小可控2、天然便於水平擴展,後期如果想對整個分片集群擴容時,只需要添加節點即可,無需對其他分片的資料進行遷移3、使用分片欄位進行範圍查找時,連續分片可快速定位分片進行快速查詢,有效避免跨分片查詢的問題。

缺點

熱點資料成為效能瓶頸。連續分片可能存在數據熱點,例如按時間字段分片,有些分片存儲最近時間段內的數據,可能會被頻繁的讀寫,而有些分片存儲的歷史數據,則很少被查詢

資料庫分庫分錶,何時分?怎樣分?

2、依數值取模

一般採用hash取模mod的切分方式,例如:將Customer 表根據cusno 字段切分到4個庫中,餘數為0的放到第一個庫,餘數為1的放到第二個庫,以此類推。這樣同一個使用者的資料會分散到同一個庫中,如果查詢條件帶有cusno字段,則可明確定位到對應庫去查詢。

優點

資料分片相對比較均勻,不容易出現熱點和並發存取的瓶頸

缺點:

1.後期分片群集擴容時,需要遷移舊的資料(使用一致性hash演算法能較好的避免這個問題) 2.容易面臨跨分片查詢的複雜問題。例如上例中,如果頻繁用到的查詢條件中不帶cusno時,將會導致無法定位資料庫,從而需要同時向4個庫發起查詢,再在內存中合併數據,取最小集返回給應用,分庫反而成為拖累。

資料庫分庫分錶,何時分?怎樣分?

二. 分庫分錶帶來的問題

#分庫分錶能有效的環節單機和單庫帶來的效能瓶頸和壓力,突破網路IO、硬體資源、連線數的瓶頸,同時也帶來了一些問題。以下將描述這些技術挑戰以及對應的解決思路。

1、交易一致性問題

#分散式交易

當更新內容同時分散在不同庫中,不可避免會帶來跨庫事務問題。跨分片事務也是分散式事務,沒有簡單的方案,一般可使用"XA協定"和"兩階段提交"處理。

分散式事務能最大限度地保證了資料庫操作的原子性。但在提交事務時需要協調多個節點,推後了提交事務的時間點,延長了事務的執行時間。導致事務在存取共享資源時發生衝突或死鎖的機率增高。隨著資料庫節點的增多,這種趨勢會越來越嚴重,從而成為系統在資料庫層面上水平擴展的枷鎖。

最終一致性

對於那些效能要求很高,但對一致性要求不高的系統,往往不苛求系統的即時一致性,只要在允許的時間內達到最終一致性即可,可採用交易補償的方式。與交易在執行中發生錯誤後立即回滾的方式不同,事務補償是一種事後檢查補救的措施,一些常見的實現方法有:對資料進行對帳檢查,基於日誌進行對比,定期同標準資料來源進行同步等等。事務補償還要結合業務系統來考慮。

2、跨節點關聯查詢join 問題

#切分之前,系統中許多清單和詳情頁所需的資料可以透過sql join來完成。而切分之後,資料可能分佈在不同的節點上,此時join帶來的問題就比較麻煩了,考慮到效能,盡量避免使用join查詢。

解決這個問題的一些方法:

1)全域表

全域表,也可看做是"資料字典表",就是系統中所有模組都可能依賴的一些表,為了避免跨庫join查詢,可以將這類表在每個資料庫中都保存一份。這些數據通常很少會進行修改,所以也不擔心一致性的問題。

2)欄位冗餘

典型的反範式設計,利用空間換時間,為了效能而避免join查詢。例如:訂單表保存userId時候,也將userName冗餘保存一份,這樣查詢訂單詳情時就不需要再去查詢"買家user表"了。

但這種方法適用場景也有限,比較適用於依賴欄位比較少的情況。而冗餘欄位的資料一致性也較難保證,就像上面訂單表的例子,買家修改了userName後,是否需要在歷史訂單中同步更新呢?這也要結合實際業務場景來考慮。

3)資料組裝

在系統層面,分兩次查詢,第一次查詢的結果集中找出關聯資料id,再根據id發起第二次請求得到關聯資料。最後將獲得的資料進行欄位拼裝。

4)ER分片

關係型資料庫中,如果可以先確定表格之間的關聯關係,並將那些存在關聯關係的表記錄存放在同一分片上,那麼就能較好的避免跨分片join問題。在1:1或1:n的情況下,通常會依照主表的ID主鍵切分。如下圖所示:

資料庫分庫分錶,何時分?怎樣分?

這樣一來,Data Node1上面的order訂單表與orderdetail訂單詳情表就可以透過orderId進行局部的關聯查詢了,Data Node2上也一樣。

3、跨節點分頁、排序​​、函數問題

#跨節點多庫進行查詢時,會出現limit分頁、order by排序等問題。分頁需要依照指定欄位進行排序,當排序欄位就是分片欄位時,透過分片規則就比較容易定位到指定的分片;當排序欄位非分片欄位時,就變得比較複雜了。需要先在不同的分片節點中將資料排序並返回,然後將不同分片返回的結果集進行匯總和再次排序,最終返回給使用者。如圖所示:

資料庫分庫分錶,何時分?怎樣分?

上圖中只是取第一頁的數據,對效能影響還不算很大。但是如果取得頁數很大,情況則變得複雜很多,因為各分片節點中的資料可能是隨機的,為了排序的準確性,需要將所有節點的前N頁資料都排序好做合併,最後再進行整體的排序,這樣的操作時很耗費CPU和記憶體資源的,所以頁數越大,系統的效能也會越差。

在使用Max、Min、Sum、Count之類的函數進行計算的時候,也需要先在每個分片上執行對應的函數,然後將各個分片的結果集進行匯總和再次計算,最終將結果傳回。如圖所示:

資料庫分庫分錶,何時分?怎樣分?

4、全域主鍵避重問題

在分庫分在表環境中,由於表中資料同時存在不同資料庫中,主鍵值平時使用的自增長將無用武之地,某個分區資料庫自產生的ID無法保證全域唯一。因此需要單獨設計全域主鍵,以避免跨庫主鍵重複問題。有一些常見的主鍵產生策略:

1)UUID

#UUID標準形式包含32個16進位數字,分為5段,形式為8-4-4-4-12的36個字符,例如:550e8400-e29b-41d4-a716-446655440000

UUID是主鍵是最簡單的方案,本地生成,性能高,沒有網路耗時。但缺點也很明顯,由於UUID非常長,會佔用大量的儲存空間;另外,作為主鍵建立索引和基於索引進行查詢時都會存在效能問題,在InnoDB下,UUID的無序性會造成資料位置頻繁變動,導致分頁。

2)結合資料庫維護主鍵ID表

#在資料庫中建立sequence 表:

CREATE TABLE `sequence` (    `id` bigint(20) unsigned NOT NULL auto_increment,    `stub` char(1) NOT NULL default '', PRIMARY KEY (`id`), UNIQUE KEY `stub` (`stub`)  ) ENGINE=MyISAM;
登入後複製

stub欄位設定為唯一索引,同一stub值在sequence表中只有一筆記錄,可以同時為多張表產生全域ID。 sequence表的內容,如下所示:

+-------------------+------+ | id                | stub |  +-------------------+------+ | 72157623227190423 |    a |  +-------------------+------+
登入後複製

使用 MyISAM 儲存引擎而不是 InnoDB,以獲取更高的效能。 MyISAM使用的是表格層級的鎖,對錶的讀寫是串列的,所以不用擔心在並發時兩次讀取同一個ID值。

當需要全域唯一的64位元ID時,執行:

REPLACE INTO sequence (stub) VALUES ('a'); SELECT LAST_INSERT_ID();
登入後複製

這兩個語句是Connection等級的,select lastinsertid() 必須與replace into 在同一資料庫連接下才能得到剛剛插入的新ID。

使用replace into代替insert into好處是避免了表格行數過大,不需要另外定期清理。

此方案較為簡單,但缺點也明顯:有單點問題,強烈依賴DB,當DB異常時,整個系統都不可用。配置主從可以增加可用性,但當主庫掛了,主從切換時,資料一致性在特殊情況下難以保證。另外效能瓶頸限制在單一MySQL的讀寫效能。

flickr團隊使用的一種主鍵產生策略,與上面的sequence表方案類似,但更好的解決了單點和效能瓶頸的問題。

這個方案的整體想法是:建立2個以上的全域ID產生的伺服器,每個伺服器上只部署一個資料庫,每個函式庫都有一張sequence表用於記錄目前全域ID。表中ID成長的步長是庫的數量,起始值依序錯開,這樣能將ID的生成雜湊到各個資料庫上。如下圖所示:

資料庫分庫分錶,何時分?怎樣分?

由兩個資料庫伺服器產生ID,設定不同的auto_increment值。第一台sequence的起始值為1,每次步長成長2,另一台的sequence起始值為2,每次步長成長也是2。結果第一台產生的ID都是奇數(1, 3, 5, 7 ...),第二台產生的ID都是偶數(2, 4, 6, 8 ...)。

這個方案將產生ID的壓力均勻分佈在兩台機器上。同時提供了系統容錯,第一台出現了錯誤,可以自動切換到第二台機器上取得ID。但有以下幾個缺點:系統增加機器,水平擴充時較複雜;每次取得ID都要讀寫一次DB,DB的壓力還是很大,只能靠堆機器提升效能。

可以基於flickr的方案繼續優化,使用批量的方式降低資料庫的寫入壓力,每次獲取一段區間的ID號段,用完之後再去資料庫獲取,可以大大減輕資料庫的壓力。如下圖所示:

資料庫分庫分錶,何時分?怎樣分?

或是使用兩台DB保證可用性,資料庫中只儲存目前的最大ID。 ID產生服務每次批次拉取6個ID,先將maxid修改為5,當應用程式存取ID產生服務時,就不需要存取資料庫,從號段快取依序派發0~5的ID。當這些ID發完後,再將maxid修改為11,下次就能發放6~11的ID。於是,資料庫的壓力降低為原來的1/6。

3)Snowflake分散式自增ID演算法

#Twitter的snowflake演算法解決了分散式系統產生全域ID的需求,產生64位的Long型數字,組成部分:

第一位未使用

接下來41位元是毫秒時間,41位元的長度可以表示69年的時間

5位元datacenterId,5位元workerId。 10位元的長度最多支援部署1024個節點

最後12位元是毫秒內的計數,12位元的計數順序號支援每個節點每毫秒產生4096個ID序列

資料庫分庫分錶,何時分?怎樣分?

#這樣的好處是:毫秒數在高位,產生的ID整體上按時間趨勢遞增;不依賴第三方系統,穩定性和效率較高,理論上QPS約為409.6w/s(1000*2^12),整個分散式系統內不會產生ID碰撞;可依自身業務靈活分配bit位。

不足就在於:強烈依賴機器時鐘,如果時鐘回撥,則可能導致生成ID重複。

綜上

結合資料庫與snowflake的唯一ID方案,可以參考業界較成熟的解法:Leaf-美團點評分佈式ID生成系統,並考慮了高可用、容災、分散式下時鐘等問題。

5、資料遷移、擴容問題

當業務高速發展,面臨效能和儲存的瓶頸時,才會考慮分片設計,此時就不可避免的需要考慮歷史資料遷移的問題。一般做法是先讀出歷史數據,然後按指定的分片規則再將數據寫入到各個分片節點。另外還需要根據目前的資料量和QPS,以及業務發展的速度,進行容量規劃,推算出大概需要多少分片(一般建議單一分片上的單表資料量不超過1000W)

如果採用數值範圍分片,只要加入節點就可以進行擴容了,不需要對分片資料遷移。如果採用的是數值取模分片,則考慮後期的擴容問題就相對比較麻煩。

三. 何時考慮切分

下面講述什麼時候需要考慮做資料切分。

1、能不切分盡量不要切分

#並不是所有表格都需要切分,主要還是看資料的成長速度。切分後會在某種程度上提升業務的複雜度,資料庫除了承載資料的儲存和查詢外,協助業務更好的實現需求也是其重要工作之一。

不到萬不得已不用輕易使用分庫分錶這個大招,避免"過度設計"和"過早優化"。在分庫分錶之前,不要為分而分,先盡力去做力所能及的事情,例如:升級硬體、升級網路、讀寫分離、索引優化等等。當資料量達到單表的瓶頸時候,再考慮分庫分錶。

2、資料量過大,正常運維影響業務存取

這裡所說的運維,指:

1)對資料庫備份,如果單表太大,備份時需要大量的磁碟IO和網路IO。例如1T的數據,網路傳輸佔50MB時候,需要20000秒才能傳輸完畢,整個過程的風險都是比較高的

2)對一個很大的表進行DDL修改時,MySQL會鎖住全表,這個時間會很長,這段時間業務不能訪問此表,影響很大。如果使用pt-online-schema-change,使用過程中會建立觸發器和影子表,也需要很長的時間。在此操作過程中,都算為風險時間。將資料表拆分,總量減少,有助於降低這個風險。

3)大表会经常访问与更新,就更有可能出现锁等待。将数据切分,用空间换时间,变相降低访问压力

3、随着业务发展,需要对某些字段垂直拆分

举个例子,假如项目一开始设计的用户表如下:

id   bigint #用户的IDname varchar #用户的名字last_login_time datetime #最近登录时间personal_info text #私人信息.....  #其他信息字段
登入後複製

在项目初始阶段,这种设计是满足简单的业务需求的,也方便快速迭代开发。而当业务快速发展时,用户量从10w激增到10亿,用户非常的活跃,每次登录会更新 lastloginname 字段,使得 user 表被不断update,压力很大。而其他字段:id, name, personalinfo 是不变的或很少更新的,此时在业务角度,就要将 lastlogintime 拆分出去,新建一个 usertime 表。

personalinfo 属性是更新和查询频率较低的,并且text字段占据了太多的空间。这时候,就要对此垂直拆分出 userext 表了。

4、数据量快速增长

随着业务的快速发展,单表中的数据量会持续增长,当性能接近瓶颈时,就需要考虑水平切分,做分库分表了。此时一定要选择合适的切分规则,提前预估好数据容量

5、安全性和可用性

鸡蛋不要放在一个篮子里。在业务层面上垂直切分,将不相关的业务的数据库分隔,因为每个业务的数据量、访问量都不同,不能因为一个业务把数据库搞挂而牵连到其他业务。利用水平切分,当一个数据库出现问题时,不会影响到100%的用户,每个库只承担业务的一部分数据,这样整体的可用性就能提高。

四. 案例分析

1、用户中心业务场景

用户中心是一个非常常见的业务,主要提供用户注册、登录、查询/修改等功能,其核心表为:

User(uid, login_name, passwd, sex, age, nickname)
uid为用户ID,  主键login_name, passwd, sex, age, nickname,  用户属性
登入後複製

任何脱离业务的架构设计都是耍流氓,在进行分库分表前,需要对业务场景需求进行梳理:

用户侧:前台访问,访问量较大,需要保证高可用和高一致性。主要有两类需求:

1、使用者登入:透過login_name/phone/email查詢使用者訊息,1%請求屬於這種類型2、使用者資訊查詢:登入之後,透過uid來查詢使用者訊息,99%請求屬這種類型營運側:後台訪問,支援營運需求,依照年齡、性別、登陸時間、註冊時間等進行分頁的查詢。是內部系統,訪問量較低,對可用性、一致性的要求不高。

2、水平切分方法

當資料量越來越大時,需要對資料庫進行水平切分,上文描述的切分方法有"根據數值範圍"和"根據數值取模"。

"依據數值範圍":以主鍵uid為劃分依據,並依uid的範圍將資料等級切分到多個資料庫上。例如:user-db1儲存uid範圍為0~1000w的數據,user-db2儲存uid範圍為1000w~2000wuid數據。

優點是:擴容簡單,如果容量不夠,只要增加新db即可。

不足是:請求量不均勻,一般新註冊的用戶活躍度會比較高,所以新的user-db2會比user-db1負載高,導致伺服器使用率不平衡

"根據數值取模":也是以主鍵uid為分割依據,依uid取模的值將資料水平切分到多個資料庫上。例如:user-db1儲存uid取模得1的數據,user-db2儲存uid取模得0的uid資料。

優點是:資料量和請求量分佈均均勻

#不足是:擴容麻煩,當容量不夠時,新增加db,需要rehash。需要考慮對資料進行平滑的遷移。

3、非uid的查詢方法

#水平切分後,對於按uid查詢的需求能很好的滿足,可以直接路由到具體資料庫。而按非uid的查詢,例如login_name,就不知道具體該訪問哪個庫了,此時需要遍歷所有庫,性能會降低很多。

對於用戶側,可以採用"建立非uid屬性到uid的映射關係"的方案;對於運營側,可以採用"前台與後台分離"的方案。

3.1、建立非uid屬性到uid的映射關係

1)映射關係

例如:loginname不能直接定位到資料庫,可以建立login_name→uid的映射關係,用索引表或快取來儲存。當存取loginname時,先透過映射表查詢出login_name對應的uid,再透過uid定位到具體的函式庫。

映射表只有兩列,可以承載很多數據,當數據量過大時,也可以對映射表再做水平切分。這類kv格式的索引結構,可以很好的使用cache來最佳化查詢效能,而且映射關係不會頻繁變更,快取命中率會很高。

2)基因法

分庫基因:假如透過uid分庫,分為8個庫,採用uid%8的方式進行路由,此時是由uid的最後3bit來決定這行User資料具體落到哪個函式庫上,那麼這3bit可以看為分庫基因。

上面的映射關係的方法需要額外儲存映射表,按非uid欄位查詢時,還需要多一次資料庫或cache的存取。如果想要消除多餘的儲存與查詢,可以透過f函數取loginname的基因作為uid的分庫基因。產生uid時,參考上文所述的分散式唯一ID產生方案,再加上最後3位元bit值=f(loginname)。當查詢loginname時,只要計算f(loginname)%8的值,就可以定位到具體的函式庫。不過這樣需要事先做好容量規劃,預估未來幾年的資料量需要分多少庫,要預留一定bit的分庫基因。

3.2、前台與後台分離

對於使用者側,主要需求是以單行查詢為主,需要建立login_name/phone/email到uid的對應關係,可以解決這些欄位的查詢問題。

而對於營運側,很多批次分頁且條件多樣的查詢,這類查詢計算量大,回傳資料量大,對資料庫的效能消耗較高。此時,如果和用戶側公用同一批服務或資料庫,可能因為後台的少量請求,佔用大量資料庫資源,而導致用戶側存取效能降低或逾時。

這類業務最好採用"前台與後台分離"的方案,運營側後台業務抽取獨立的service和db,解決和前台業務系統的耦合。由於營運側對可用性、一致性的要求不高,可以不存取即時庫,而是透過binlog異步同步資料到營運庫進行存取。在資料量大的情況下,也可以使用ES搜尋引擎或Hive來滿足後台複雜的查詢方式。

五.支援分庫分錶中間件

站在巨人的肩膀上能省力很多,目前分庫分錶已經有一些較成熟的開源解決方案:

  • sharding-jdbc(噹噹)
  • TSharding(蘑菇街)
  • Atlas(奇虎360)
  • Cobar(阿里巴巴)
  • MyCAT(基於Cobar)
  • Oceanus(58同城)
  • Vitess(Google)
#

以上是資料庫分庫分錶,何時分?怎樣分?的詳細內容。更多資訊請關注PHP中文網其他相關文章!

相關標籤:
來源:Java后端技术全栈
本網站聲明
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn
熱門教學
更多>
最新下載
更多>
網站特效
網站源碼
網站素材
前端模板