MYSQL資料庫資料分割之分庫分錶總結_MySQL

WBOY
發布: 2016-08-20 08:48:14
原創
1004 人瀏覽過

資料儲存演進思路一:單庫單表

單庫單表是最常見的資料庫設計,例如,有一張使用者(user)表格放在資料庫db中,所有的使用者都可以在db庫中的user表中查到。

資料儲存演進思路二:單庫多表

隨著使用者數量的增加,user表的資料量會越來越大,當資料量達到一定程度的時候對user表的查詢會漸漸的變慢,進而影響整個DB的效能。如果使用mysql, 還有一個更嚴重的問題是,當需要增加一列的時候,mysql會鎖定表,期間所有的讀寫操作只能等待。

可以透過某種方式將user進行水平的切分,產生兩個表結構完全一樣的user_0000,user_0001等表,user_0000 + user_0001 + …的資料剛好是一份完整的資料。

資料儲存演進思路三:多庫多表

         隨著資料量增加也許單一DB的儲存空間不夠,因此查詢量的增加單一資料庫伺服器已經沒辦法支援。這個時候可以再對資料庫進行水平區分。

Mysql資料庫分庫分錶規則

         設計表的時候需要決定此表格依照什麼樣的規則進行分庫分錶。例如,當有新使用者時,程式得確定將此使用者資訊加入哪個表格中;同理,當登入的時候我們得透過使用者的帳號找到資料庫中對應的記錄,所有的這些都需要依照某一規則進行。
路由

         以分庫分錶規則找出對應的表和函式庫的流程。如分庫分錶的規則是user_id mod 4的方式,當使用者新註冊了一個帳號,帳號id的123,我們可以透過id mod 4的方式確定此帳號應該要儲存到User_0003表格中。當使用者123登入的時候,我們透過123 mod 4後確定記錄在User_0003中。
 

下面是分庫分錶產生的問題,及注意事項

1.   分庫分錶維度的問題

假如用戶購買了商品,需要將交易記錄保存取來,如果按照用戶的緯度分錶,則每個用戶的交易記錄都保存在同一表中,所以很快很方便的查找到某用戶的購買情況,但是某商品被購買的情況則很有可能分佈在多張表中,查找起來比較麻煩。反之,依照商品維度分錶,可以很方便的查找到此商品的購買情況,但要查找到買人的交易記錄比較麻煩。

所以常見的解決方式有:

     a.以掃描表的方式解決,此方法基本上不可能,效率太低了。
     b.記錄兩份數據,一份依照使用者緯度分錶,一份依照商品維度分錶。
     c.透過搜尋引擎解決,但如果即時性要求很高,又得關係到即時搜尋。

2.   共同詢問的問題

聯合查詢基本上不可能,因為關聯的表有可能不在同一資料庫中。

3.   避免跨庫事務

避免在一個事務中修改db0中的表的時候同時修改db1中的表,一個是操作起來更複雜,效率也會有一定影響。

4.   盡量把同一組資料放到同一DB伺服器上

例如將賣家a的商品和交易資訊都放到db0中,當db1掛了的時候,賣家a相關的東西可以正常使用。也就是說避免資料庫中的資料依賴另一資料庫中的資料。

一主多備

在實際的應用中,絕大部分情況都是讀遠大於寫。 Mysql提供了讀寫分離的機制,所有的寫入操作都必須對應到Master,讀取操作可以在Master和Slave機器上進行,Slave與Master的結構完全一樣,一個Master可以有多個Slave,甚至Slave下還可以掛上Slave,透過此方式可有效的提升DB群集的QPS.                             

所有的寫入操作都是先在Master上操作,然後同步更新到Slave上,所以從Master同步到Slave機器有一定的延遲,當系統很繁忙的時候,延遲問題會更加嚴重,Slave機器數量的增加也會使這個問題更加嚴重。

此外,可以看出Master是叢集的瓶頸,當寫入作業過多,會嚴重影響到Master的穩定性,如果Master掛掉,整個叢集都將無法正常運作。

所以,1. 當讀取壓力很大的時候,可以考慮添加Slave機器的分式解決,但是當Slave機器達到一定的數量就得考慮分庫了。 2. 當寫壓力很大的時候,就必須得進行分庫操作。

MySQL使用為什麼要分庫分錶?

可以用說用到MySQL的地方,只要資料量一大, 馬上就會遇到一個問題,要分庫分錶.
這裡引用一個問題為什麼要分庫分錶呢?MySQL處理不了大的表嗎?
其實是可以處理的大表的.我所經歷的項目中單表物理上文件大小在80G多,單表記錄數在5億以上,而且這個表
屬於一個非常核用的表:朋友關係表.

但這種方式可以說不是一個最佳方式. 因為面臨文件系統如Ext3文件系統對大於大文件處理上也有許多問題.
這個層面可以用xfs檔案系統替換.但MySQL單表太大後有一個問題是不好解決: 表結構調整相關的操作基
本不在可能.所以大項在使用中都會面監著分庫分錶的應用.

從Innodb本身來講資料檔的Btree上只有兩個鎖, 葉子節點鎖和子節點鎖,可以想而知道,當發生頁拆分或是添加
新葉時都會造成表裡不能寫入資料.
所以分庫分錶還就是一個比較好的選擇了.

那麼分庫分錶多少適合呢?
經測試在單表1000萬筆記錄一下,寫入讀取性能是比較好的. 這樣在留點buffer,那麼單表全是數據字體的保持在
800萬筆記錄以下, 有字符型的單表保持在500萬以下.

如果以 100庫100表來規劃,如用戶業務:
500萬*100*100 = 50000000萬 = 5000億記錄.

心裡有一個數了,按業務做規劃還是比較容易的.

相關標籤:
來源:php.cn
本網站聲明
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn
熱門教學
更多>
最新下載
更多>
網站特效
網站源碼
網站素材
前端模板