首頁 資料庫 mysql教程 SQL Server数据库对上亿表的操作经验总结_MySQL

SQL Server数据库对上亿表的操作经验总结_MySQL

Jun 01, 2016 pm 02:00 PM
數據表

对上亿的表进行排序或者上亿的表之间进行join,会导致系统失去响应。

◆1.我确实做了一个很大的查询,涉及的数据表有两亿条记录,而且有一个group by操作,造成CPU、内存和磁盘开销均很大。后来和微软的人重新实验了一下,我的查询确实会造成系统反应变慢。后来我们也实验了一下,在这个2亿的表上统计一下行数,即select count(*) from table1,用了1分钟,内存涨了5G左右,磁盘子系统负荷很大,CPU也突然提高。这说明这种上亿的表的操作会非常严重的降低效率。

◆2.整个服务器的磁盘分配是这样的,网站访问的数据库库位于磁盘阵列中,而我们的统计临时库位于D盘中,C和D好像是一个磁盘组,也就相当于是在C盘。我们的数据库的大量磁盘I/O会导致系统的反应变慢。因此当我的查询很大的时候,就会使服务器整个系统变慢。

◆3.数据库的数据文件的自增长方式为每次1024k,数据文件的空间已经接近用光,而要发生增长,而增长空间要求应该比较大,所以就会不停的申请增长,造成磁盘开销较大。

◆4.操作中涉及到delete操作,会形成大量的日志,而上周扩容后,发现日志文件比以前缩小了,估计是重建了,昨天的操作会导致日志文件也要不断增长,也会造成磁盘的负荷加大。

解决办法:

针对一:

避免大表操作,所有的操作均可以按省或者时间分开,这样无论从时间或者地域维度,基本上可以将大表拆成30张以上的小表操作,甚至更多。然后再对结果进行合并,应该可以避免上述问题。

针对二:

无解决方案,只是建议将我们的数据库也单独分到一组磁盘上去,不要跟系统竞争。

针对三:

及时删除无用的临时数据,保障数据库空间,同时也可以做上空间监控,一旦数据文件空间发生增长时,给DBA一个预警邮件,我们收到邮件后可以立即做相应处理。

针对四:

日志文件目前已经涨得较大,我们执行一下截断日志的动作,将日志文件的空间使用保持在一个较低水平。

本網站聲明
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn

熱門文章

R.E.P.O.能量晶體解釋及其做什麼(黃色晶體)
1 週前 By 尊渡假赌尊渡假赌尊渡假赌
倉庫:如何復興隊友
3 週前 By 尊渡假赌尊渡假赌尊渡假赌
Hello Kitty Island冒險:如何獲得巨型種子
3 週前 By 尊渡假赌尊渡假赌尊渡假赌

熱門文章

R.E.P.O.能量晶體解釋及其做什麼(黃色晶體)
1 週前 By 尊渡假赌尊渡假赌尊渡假赌
倉庫:如何復興隊友
3 週前 By 尊渡假赌尊渡假赌尊渡假赌
Hello Kitty Island冒險:如何獲得巨型種子
3 週前 By 尊渡假赌尊渡假赌尊渡假赌

熱門文章標籤

記事本++7.3.1

記事本++7.3.1

好用且免費的程式碼編輯器

SublimeText3漢化版

SublimeText3漢化版

中文版,非常好用

禪工作室 13.0.1

禪工作室 13.0.1

強大的PHP整合開發環境

Dreamweaver CS6

Dreamweaver CS6

視覺化網頁開發工具

SublimeText3 Mac版

SublimeText3 Mac版

神級程式碼編輯軟體(SublimeText3)

MySQL中的資料表壓縮技術 MySQL中的資料表壓縮技術 Jun 16, 2023 am 08:16 AM

MySQL中的資料表壓縮技術

mysql修改資料表名 mysql修改資料表名 Jun 20, 2023 pm 05:52 PM

mysql修改資料表名

利用MySQL的AVG函數計算資料表中數字列的平均值方法 利用MySQL的AVG函數計算資料表中數字列的平均值方法 Jul 24, 2023 pm 09:52 PM

利用MySQL的AVG函數計算資料表中數字列的平均值方法

MySQL中的資料表DDL操作技術 MySQL中的資料表DDL操作技術 Jun 15, 2023 pm 07:55 PM

MySQL中的資料表DDL操作技術

MySQL中的資料表重載技巧 MySQL中的資料表重載技巧 Jun 15, 2023 pm 11:28 PM

MySQL中的資料表重載技巧

如何實現MySQL底層優化:資料表的水平和垂直分割策略 如何實現MySQL底層優化:資料表的水平和垂直分割策略 Nov 08, 2023 pm 06:57 PM

如何實現MySQL底層優化:資料表的水平和垂直分割策略

MySQL中如何使用MAX函數找到資料表中最大的數值 MySQL中如何使用MAX函數找到資料表中最大的數值 Jul 25, 2023 pm 09:49 PM

MySQL中如何使用MAX函數找到資料表中最大的數值

如何利用thinkorm實現資料表之間的關聯查詢 如何利用thinkorm實現資料表之間的關聯查詢 Aug 01, 2023 am 08:25 AM

如何利用thinkorm實現資料表之間的關聯查詢

See all articles