首页 数据库 mysql教程 DW业务在MySQL上dump数据缓慢问题解决_MySQL

DW业务在MySQL上dump数据缓慢问题解决_MySQL

Jun 01, 2016 pm 01:40 PM
业务

bitsCN.com

问题背景:

  北京的DBA同学反馈,最近DW从MySQL拉数据,发现拉数据缓慢,当时进行了切换处理。后来经过DBA与业务方的分析,定位在某一台备库的拉数据速度明显比其主库要慢。

  和DBA板桥进行详细沟通后背景后,看了板桥抓取的系统层面的信息后,发现iostat对比非常明显,大致怀疑是IO调度算法导致。用pt-summary看,发现内核版本和硬盘的调度不一样:

  主备硬件环境差异对比:

Kernel | 2.6.32-220.17.1.tb619.el6.x86_64       2.6.18-164.el5
sda     | [deadline]                                                128 [cfq] 128

  在板桥的组织下,我们拉上DW的同学重新测试了一把。

  原始的sda硬盘IO调度策略为cfq:

$ cat /sys/block/sda/queue/scheduler
noop anticipatory deadline [cfq]

Device: rrqm/s wrqm/s r/s w/s rsec/s wsec/s avgrq-sz avgqu-sz await svctm %util
sda 4.95 21017.82 1697.03 144.55 53600.00 83889.11 74.66 39.44 16.24 0.54 99.11
sda 4.00 7135.00 196.00 470.00 6112.00 153664.00 239.90 71.69 122.19 1.50 100.10
sda 5.00 173.00 1567.00 276.00 49544.00 14152.00 34.56 19.00 9.87 0.54 100.10
sda 6.00 240.00 1317.00 206.00 41704.00 6600.00 31.72 21.21 14.13 0.66 100.10
sda 5.00 123.00 1956.00 54.00 61872.00 1288.00 31.42 18.25 9.14 0.50 100.10
sda 6.00 3368.00 1515.00 85.00 47880.00 27544.00 47.14 22.12 13.61 0.63 100.10
sda 6.00 190.00 1664.00 66.00 52720.00 2288.00 31.80 19.19 11.24 0.58 100.10
sda 9.00 533.00 999.00 1329.00 30960.00 54736.00 36.81 18.79 7.68 0.43 100.10
sda 18.00 466.00 1771.00 864.00 54032.00 36336.00 34.30 13.07 5.38 0.38 100.10
sda 4.95 95.05 1401.98 15.84 44435.64 641.58 31.79 21.46 14.08 0.70 99.11
sda 13.00 291.00 1639.00 67.00 50296.00 3128.00 31.32 16.82 10.70 0.59 100.10
sda 4.00 191.00 1512.00 17.00 47792.00 1136.00 32.00 23.93 15.50 0.65 100.10
sda 8.00 108.00 1699.00 52.00 53792.00 1280.00 31.45 25.18 13.85 0.57 100.10
sda 7.00 143.00 1429.00 27.00 45344.00 1824.00 32.40 18.71 13.19 0.69 100.10
sda 13.00 186.00 990.00 19.00 30888.00 1176.00 31.78 18.06 18.11 0.99 100.10
sda 3.00 102.00 763.00 12.00 24184.00 1232.00 32.79 16.64 20.77 1.29 100.10

  将硬盘sda 的IO调度策略更改为deadline进行对比:

$ sudo su -c “回显截止日期| sudo tee /sys/block/sda/queue/scheduler”
截止时间
或者
$ echo 截止时间 | sudo tee /sys/block/sda/queue/scheduler
截止日期



设备:rrqm/s wrqm/s r/s w/s rsec/s wsec/s avgrq-sz avgqu -sz wait svctm %util
sda 31.00 208.00 4088.00 372.00 128432.00 11120.00 31.29 10.40 2.33 0.22 100.10
sda 28.00 193.00 417 3.00 360.00 132024.00 11016.00 31.56 9.12 2.01 0.22 100.10
sda 37.00 125.00 4503.00 317.00 142472.00 10048.00 31.64 9.1 3 1.89 0.21 100.10
sda 30.00 266.00 4452.00 414.00 141072.00 12040.00 31.47 8.68 1.78 0.21 100.10
sda 44.00 171.00 4629.00 4 50.00 146568.00 18064.00 32.41 8.74 1.72 0.20 100.10
sda 32.00 239.00 4660.00 560.00 147328.00 18456.00 31.76 9.84 1.89 0.19 100.10
sda 30.00 330.00 4004.00 463.00 125808.00 13072.00 31.09 9.63 2.16 0.22 100.10
sda 38.00 122.00 4730.00 358.00 149680.00 10392.00 31.46 8.71 1.72 0.20 100.10
sda 29.00 408.00 3897.00 813.00 122632.00 22760.00 30.87 9.48 2.01 0.21 100.10
sda 27.72 115.84 3687.13 282.18 116586.14 9655.45 31.80 9.19 2.32 0.25 99.11 sda 30.00 259.00 3629.00 739.00 739.00 114144.00 26616.00 32.23 10.55 2.40 0.23 100.10.10.10.10.10 SDA 34.00 190.00 4327.00 449.00 136304.00 11696.00 30.99 9.40 1.96 0.21 100.10
sda 41.00 229.00 4559.00 389.00 144408.00 11464.00 31.50 8.93 1.81 0.20 100.10
床头数据对比非常反映了CFQ和DEADLINE的特性:

1. CFQ通过对IO地址排序来减少磁盘查找时间上,关心的磁盘转数来满足关心多的IO请求。从rrqm/s和wrqm/s的数据来看非常明显。

3. DEADLINE比CFQ更适合DB。 rsec/s和wsec/s比CFQ中量更大,即IO吞吐量更高。

  通过DW同学的反馈,应用端速度明显快了,说明确实有效。这台机器属于老机器,新装的机器已经被OPS了同学统一设置为DEADLINE。

bitsCN.com
本站声明
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热AI工具

Undresser.AI Undress

Undresser.AI Undress

人工智能驱动的应用程序,用于创建逼真的裸体照片

AI Clothes Remover

AI Clothes Remover

用于从照片中去除衣服的在线人工智能工具。

Undress AI Tool

Undress AI Tool

免费脱衣服图片

Clothoff.io

Clothoff.io

AI脱衣机

Video Face Swap

Video Face Swap

使用我们完全免费的人工智能换脸工具轻松在任何视频中换脸!

热工具

记事本++7.3.1

记事本++7.3.1

好用且免费的代码编辑器

SublimeText3汉化版

SublimeText3汉化版

中文版,非常好用

禅工作室 13.0.1

禅工作室 13.0.1

功能强大的PHP集成开发环境

Dreamweaver CS6

Dreamweaver CS6

视觉化网页开发工具

SublimeText3 Mac版

SublimeText3 Mac版

神级代码编辑软件(SublimeText3)

MySQL vs. TiDB:谁更适合你的业务? MySQL vs. TiDB:谁更适合你的业务? Jul 13, 2023 pm 03:09 PM

MySQLvs.TiDB:谁更适合你的业务?随着互联网和大数据的快速发展,数据存储和管理成为企业业务中重要的一部分。在选择合适的数据库解决方案时,很多企业都遇到了MySQL和TiDB这两个选择。本文将比较MySQL和TiDB的特点和优势,帮助你确定哪一个更适合你的业务。MySQL是一个开源的关系型数据库管理系统,早在1995年就诞生

天啊,ChatGPT真的要代替我们工作了吗? 天啊,ChatGPT真的要代替我们工作了吗? Apr 13, 2023 am 08:19 AM

​前言最近这段ChatGPT​真的非常火,和ChatGPT​相关的AI 服务也是各种如火如荼的研究中。今天我们来看下ChatGPT​在编码方面的应用,最近发现一个叫做“AI Coding Assistant​” 的IntelliJ IDEA​插件,它就是集合了ChatGPT的技术,我们来看看有多么的智能,是否以后真的有可能会代替我们程序员的工作。插件安装为了开始使用该插件,必须要有一个 OpenAI​ 的令牌。如果你不知道在哪里可以找到它,可以在https://platform.openai.c

融合通信业务是什么 融合通信业务是什么 Oct 21, 2022 pm 03:11 PM

融合通信业务是指通信技术和信息技术的融合业务,可以为中国移动手机用户、IMS固话用户和传统固话用户提供语音、传真、视频通话、被叫一号通等服务,并能够将三类用户统一组网,提供融合V网业务,为用户实现跨网络、跨区域、跨终端的融合通信。

图计算的学习与思考 图计算的学习与思考 Apr 11, 2023 pm 12:10 PM

好的软件不是靠程序分析、查错查出来的,而是由正确的人构建出来的。图成为日益重要的运算对象,图结构是对群体关系的一种抽象,可以描述丰富的对象和关系。图计算的核心是如何将数据建模为图结构以及如何将问题的解法转化为图结构上的计算问题,当问题涉及到关联分析时,图计算往往能够使得问题的解法很自然地表示为一系列对图结构操作和计算的过程。例如,使用基于网页链接的图结构的PageRank算法得到网页权重,作为搜索引擎排序的参考,利用图结构的用户行为数据来得到精确的群体偏好分析和个性化产品推荐结果。1.什么是图计

"半数美国企业在使用ChatGPT,近一半员工可能被AI取代" "半数美国企业在使用ChatGPT,近一半员工可能被AI取代" Apr 22, 2023 am 11:25 AM

ChatGPT果然开始取代人类了!美国《财富》杂志网站近日报道,工作建议平台Resumebuilder.com对1,000名使用或计划使用ChatGPT的商业领袖进行了调查。结果显示,美国近50%的企业已经开始用ChatGPT了。大约一半的人表示,ChatGPT已经取代了他们公司的员工。果然,该来的还是来了!一半的美国公司在用ChatGPT了根据对这些企业领导者的调查,ChatGPT几乎涵盖了公司所有层面的业务。企业使用ChatGPT的原因有很多,66%用于写代码,58%用于写文案,57%用于客

业务指数级增长,可用性建设也可以如此稳当? 业务指数级增长,可用性建设也可以如此稳当? Jun 09, 2023 am 12:17 AM

一、问题与挑战从图中可以看到,从17年开始,vivo的机器规模、服务数量都有很大的增长。在机器规模方面,从17年到22年大概是增长了五倍的左右,在服务数量方面也是基本上增长了十几倍。在规模增长的情况下,挑战和复杂度肯定随之上升,在vivo比较典型的挑战主要分为变更挑战和故障挑战。1、变更挑战变更中还是存在着或多或少的手工变更场景;我们的单次的发布时间是比较长的;存在很多的业务大量迁移的场景;谷歌SRE有这样一个概念:70%的故障是由变更引起的。对应到vivo也确实是存在这种情况,变更对线上稳定性

字节跳动在业务中是否使用Golang? 字节跳动在业务中是否使用Golang? Mar 19, 2024 pm 05:33 PM

标题:字节跳动在业务中是否使用Golang?探究与实例分析在当下的互联网行业中,Golang作为一种高效、简洁、并发性能优秀的编程语言,受到了越来越多公司的青睐。其中,以内容分享和短视频为主要业务的字节跳动公司,在其技术栈中是否也使用了Golang呢?本文将对字节跳动在业务中使用Golang的情况进行探究,并通过具体的代码示例来进行分析。Golang在字节跳

ChatGPT老板撒钱救难:百万美元帮硅谷银行受害公司,不要借条不用承诺,能还时再还 ChatGPT老板撒钱救难:百万美元帮硅谷银行受害公司,不要借条不用承诺,能还时再还 Apr 12, 2023 pm 04:07 PM

本文经AI新媒体量子位(公众号 ID: QbitAI)授权转载,转载请联系出处。受硅谷银行倒闭事件波及的科技公司,可以稍微松口气了。一方面,科技行业富豪已出手救急:ChatGPT背后公司OpenAI的CEO山姆·阿尔特曼(Sam Altman)就被曝,已经给因硅谷银行发不出工资的公司,提供了总额超过100万美元的资金援助。并且什么借条啊文件啊都没要,只是说“等你有钱了再还我”。另一方面,美国监管机构确定兜底。根据美国财政部、美联储(Fed)和美国联邦存储保险公司(FDIC)发布的联合声明,硅谷银

See all articles