目錄
資料準備
聯合索引的首字段用範圍查詢
強制走索引
覆蓋索引最佳化
 修改為 
#可以看到,無論表的資料量大小,都會利用索引,為什麼呢?
,可以有效的減少回表次數。使用了索引下推優化後,上面那個查詢在聯合索引裡匹配到名字是'LiLei' 開頭的索引之後,同時還會在索引裡過濾age和position這兩個字段,拿著過濾完剩下的索引對應的主鍵id再回表查整行資料。
 在絕大多數情況來看,過濾後的結果集比較小,所以這裡Mysql選擇給like KK% 用了索引下推優化,當然這也
Trace 工具
深入优化
order by 和 group by
优化总结
Using filesort文件排序原理详解
单路排序模式;
双路排序(又叫回表排序模式)
分页优化
常规的limit分页
优化
根据主键排序
非主键排序的优化
表关联优化
常见的表关联算法
内嵌循环连接算法
基于块的嵌套循环算法
为什么要使用 BNLJ 算法呢?
对于关联sql的优化
小表的定义
in和exsits优化
关于Exists
count 查询优化
当字段有索引
当字段没有索引
count(*)
常见优化方法
索引设计原则
舉例
再舉個例子
首頁 資料庫 mysql教程 MySQL索引優化案例分析

MySQL索引優化案例分析

May 28, 2023 pm 12:25 PM
mysql

    資料準備

    CREATE TABLE `employees` (
     `id` int(11) NOT NULL AUTO_INCREMENT,
     `name` varchar(24) NOT NULL DEFAULT '' COMMENT '姓名',
     `age` int(11) NOT NULL DEFAULT '0' COMMENT '年龄',
     `position` varchar(20) NOT NULL DEFAULT '' COMMENT '职位',
     `hire_time` timestamp NOT NULL DEFAULT CURRENT_TIMESTAMP COMMENT '入职时间',
     PRIMARY KEY (`id`),
     KEY `idx_name_age_position` (`name`,`age`,`position`) USING BTREE
     ) ENGINE=InnoDB AUTO_INCREMENT=1 DEFAULT CHARSET=utf8 COMMENT='员工记录表';
    
     INSERT INTO employees(name,age,position,hire_time) VALUES('LiLei',22,'manager',NOW());
     INSERT INTO employees(name,age,position,hire_time) VALUES('HanMeimei', 23,'dev',NOW());
     INSERT INTO employees(name,age,position,hire_time) VALUES('Lucy',23,'dev',NOW());
    
     ‐‐ 插入一些示例数据
     drop procedure if exists insert_emp;
     delimiter ;;
     create procedure insert_emp()
     begin
     declare i int;
     set i=1;
     while(i<=100000)do
     insert into employees(name,age,position) values(CONCAT(&#39;zhuge&#39;,i),i,&#39;dev&#39;);
     set i=i+1;
     end while;
     end;;
     delimiter ;
     call insert_emp();
    登入後複製

    #如上有 employees 表,有主鍵索引和(name, age, position ) 聯合索引, 看下面的查詢範例:

    聯合索引的首字段用範圍查詢

    EXPLAIN SELECT * FROM employees WHERE name > &#39;LiLei&#39; AND age = 22 AND position =&#39;manager&#39;;
    登入後複製

    MySQL索引優化案例分析

    結論:聯合索引第一個欄位就用範圍查找不會走索引,mysql內部可能覺得第一個欄位就用範圍,結果集應該很大,回表效率不高,不如就全表掃描

    強制走索引

    EXPLAIN SELECT * FROM employees force index(idx_name_age_position) WHERE name > &#39;LiLei&#39; AND age = 22 AND position =&#39;manager&#39;;
    登入後複製

    MySQL索引優化案例分析

    結論:雖然使用了強制走索引讓聯合索引第一個欄位範圍查找也走索引,掃描的行rows看上去也少了點,但是最終查找效率不一定比全表掃描高,因為回表效率不高, 一般不會使用這個手段,除非有證據能證明強制走索引後效率大幅度提高

    覆蓋索引最佳化

    EXPLAIN SELECT name,age,position FROM employees WHERE name > &#39;LiLei&#39; AND age = 22 AND position =&#39;manager&#39;;
    登入後複製

    MySQL索引優化案例分析

     將 select * 修改為  將 

    select *

     修改為 

    select name, age, posiion

     , 只選擇索引中已存在的列,可以不用回表,所以會利用索引in和or什麼時候會走索引

    在表資料量比較大的情況會走索引,資料量不多的情況下會選擇全表掃描,範例如下:

    MySQL索引優化案例分析in 查詢

    EXPLAIN SELECT * FROM employees WHERE name in (&#39;LiLei&#39;,&#39;HanMeimei&#39;,&#39;Lucy&#39;) AND age = 22 AND position =&#39;manager&#39;;
    登入後複製

    用到全部索引 MySQL索引優化案例分析or 查詢

    EXPLAIN SELECT * FROM employees WHERE (name = &#39;LiLei&#39; or name = &#39;HanMeimei&#39;) AND age = 22 AND position =&#39;manager&#39;;
    登入後複製

    用到全部索引#​​下面新建一張employees_copy 表,結構和employee 一樣,但資料只有三條, 再執行上面兩個查詢

    MySQL索引優化案例分析in 查詢

    EXPLAIN SELECT * FROM employees_copy WHERE name in (&#39;LiLei&#39;,&#39;HanMeimei&#39;,&#39;Lucy&#39;) AND age = 22 AND position =&#39;manager&#39;;
    登入後複製

    全表掃描

    MySQL索引優化案例分析 or查詢

    EXPLAIN SELECT * FROM employees_copy WHERE (name = &#39;LiLei&#39; or name = &#39;HanMeimei&#39;) AND age = 22 AND position =&#39;manager&#39;;
    登入後複製

    全表掃描

    like xx% 一般都會走索引,和資料量無關MySQL索引優化案例分析

    大表

    EXPLAIN SELECT * FROM employees WHERE name like &#39;LiLei%&#39; AND age = 22 AND position =&#39;manager&#39;;
    登入後複製

    MySQL索引優化案例分析

    小表

    EXPLAIN SELECT * FROM employees_copy WHERE name like &#39;LiLei%&#39; AND age = 22 AND position =&#39;manager&#39;;
    登入後複製

    #可以看到,無論表的資料量大小,都會利用索引,為什麼呢?

    其實like 用到了索引下推的優化索引下推

    對於輔助聯合索引,正常情況下按照最左前綴原則, SELECT * from employees where name like 'LiLei%' and age = 22 and position = 'dev' 這種情況下只會走name字段的索引,因為根據name字段過濾完,得到的索引行裡的age和position是無序的,無法很好的利用索引。

    MySQL5.6之前的版本,這個查詢只能在聯合索引裡匹配到名字是'LiLei' 開頭的索引,然後拿這些索引對應的主鍵逐個回表,在主鍵索引上找出對應的記錄,再比對age和position這兩個欄位的值是否符合。

    MySQL 5.6引入了索引下推優化,可以在索引遍歷過程中,

    對索引中包含的所有欄位先做判斷,過濾掉不符合條件的記錄之後再回表

    ,可以有效的減少回表次數。使用了索引下推優化後,上面那個查詢在聯合索引裡匹配到名字是'LiLei' 開頭的索引之後,同時還會在索引裡過濾age和position這兩個字段,拿著過濾完剩下的索引對應的主鍵id再回表查整行資料。

    索引下推會減少回表次數,對於innodb引擎的表索引下推只能用於二級索引,innodb的主鍵索引(聚簇索引)樹葉子節點上保存的是全行數據,所以這個時候索引下推並不會起到減少查詢全行資料的效果。 為什麼範圍查找沒有用索引下推優化? 估計應該是Mysql認為範圍查找過濾的結果集太大,

    like KK%

     在絕大多數情況來看,過濾後的結果集比較小,所以這裡Mysql選擇給like KK% 用了索引下推優化,當然這也

    不是絕對的

    ,有時like KK% 也不一定會走索引下推。 如何選擇索引

    ######先看下面的兩個查詢:#######

    MySQL索引優化案例分析

    MySQL索引優化案例分析

    同样的表,同样的字段,因为条件的不同,选择的索引也不同,MySQL 是如何选择的呢?

    Trace 工具

    MySQl 提供了一个工具,可以看到选择索引的计算过程, 用法如下:

    mysql> set session optimizer_trace="enabled=on",end_markers_in_json=on;  --开启trace
    
    mysql> select * from employees where name > &#39;a&#39; order by position;
    
    mysql> SELECT * FROM information_schema.OPTIMIZER_TRACE;
    登入後複製

    下面是对 trace 字段的解析

    {
      "steps": [
        {
          "join_preparation": {    //第一阶段:SQL准备阶段,格式化sql
            "select#": 1,
            "steps": [
              {
                "expanded_query": "/* select#1 */ select `employees`.`id` AS `id`,`employees`.`name` AS `name`,`employees`.`age` AS `age`,`employees`.`position` AS `position`,`employees`.`hire_time` AS `hire_time` from `employees` where (`employees`.`name` > &#39;a&#39;) order by `employees`.`position`"
              }
            ] /* steps */
          } /* join_preparation */
        },
        {
          "join_optimization": {    //第二阶段:SQL优化阶段
            "select#": 1,
            "steps": [
              {
                "condition_processing": {    //条件处理
                  "condition": "WHERE",
                  "original_condition": "(`employees`.`name` > &#39;a&#39;)",
                  "steps": [
                    {
                      "transformation": "equality_propagation",
                      "resulting_condition": "(`employees`.`name` > &#39;a&#39;)"
                    },
                    {
                      "transformation": "constant_propagation",
                      "resulting_condition": "(`employees`.`name` > &#39;a&#39;)"
                    },
                    {
                      "transformation": "trivial_condition_removal",
                      "resulting_condition": "(`employees`.`name` > &#39;a&#39;)"
                    }
                  ] /* steps */
                } /* condition_processing */
              },
              {
                "substitute_generated_columns": {
                } /* substitute_generated_columns */
              },
              {
                "table_dependencies": [    //表依赖详情
                  {
                    "table": "`employees`",
                    "row_may_be_null": false,
                    "map_bit": 0,
                    "depends_on_map_bits": [
                    ] /* depends_on_map_bits */
                  }
                ] /* table_dependencies */
              },
              {
                "ref_optimizer_key_uses": [
                ] /* ref_optimizer_key_uses */
              },
              {
                "rows_estimation": [    //预估表的访问成本
                  {
                    "table": "`employees`",
                    "range_analysis": {
                      "table_scan": {     //全表扫描情况
                        "rows": 10123,    //扫描行数
                        "cost": 2054.7    //查询成本
                      } /* table_scan */,
                      "potential_range_indexes": [    //查询可能使用的索引
                        {
                          "index": "PRIMARY",    //主键索引
                          "usable": false,
                          "cause": "not_applicable"
                        },
                        {
                          "index": "idx_name_age_position",    //辅助索引
                          "usable": true,
                          "key_parts": [
                            "name",
                            "age",
                            "position",
                            "id"
                          ] /* key_parts */
                        }
                      ] /* potential_range_indexes */,
                      "setup_range_conditions": [
                      ] /* setup_range_conditions */,
                      "group_index_range": {
                        "chosen": false,
                        "cause": "not_group_by_or_distinct"
                      } /* group_index_range */,
                      "analyzing_range_alternatives": {    //分析各个索引使用成本
                        "range_scan_alternatives": [
                          {
                            "index": "idx_name_age_position",
                            "ranges": [
                              "a < name"      //索引使用范围
                            ] /* ranges */,
                            "index_dives_for_eq_ranges": true,
                            "rowid_ordered": false,    //使用该索引获取的记录是否按照主键排序
                            "using_mrr": false,
                            "index_only": false,       //是否使用覆盖索引
                            "rows": 5061,              //索引扫描行数
                            "cost": 6074.2,            //索引使用成本
                            "chosen": false,           //是否选择该索引
                            "cause": "cost"
                          }
                        ] /* range_scan_alternatives */,
                        "analyzing_roworder_intersect": {
                          "usable": false,
                          "cause": "too_few_roworder_scans"
                        } /* analyzing_roworder_intersect */
                      } /* analyzing_range_alternatives */
                    } /* range_analysis */
                  }
                ] /* rows_estimation */
              },
              {
                "considered_execution_plans": [
                  {
                    "plan_prefix": [
                    ] /* plan_prefix */,
                    "table": "`employees`",
                    "best_access_path": {    //最优访问路径
                      "considered_access_paths": [   //最终选择的访问路径
                        {
                          "rows_to_scan": 10123,
                          "access_type": "scan",     //访问类型:为scan,全表扫描
                          "resulting_rows": 10123,
                          "cost": 2052.6,
                          "chosen": true,            //确定选择
                          "use_tmp_table": true
                        }
                      ] /* considered_access_paths */
                    } /* best_access_path */,
                    "condition_filtering_pct": 100,
                    "rows_for_plan": 10123,
                    "cost_for_plan": 2052.6,
                    "sort_cost": 10123,
                    "new_cost_for_plan": 12176,
                    "chosen": true
                  }
                ] /* considered_execution_plans */
              },
              {
                "attaching_conditions_to_tables": {
                  "original_condition": "(`employees`.`name` > &#39;a&#39;)",
                  "attached_conditions_computation": [
                  ] /* attached_conditions_computation */,
                  "attached_conditions_summary": [
                    {
                      "table": "`employees`",
                      "attached": "(`employees`.`name` > &#39;a&#39;)"
                    }
                  ] /* attached_conditions_summary */
                } /* attaching_conditions_to_tables */
              },
              {
                "clause_processing": {
                  "clause": "ORDER BY",
                  "original_clause": "`employees`.`position`",
                  "items": [
                    {
                      "item": "`employees`.`position`"
                    }
                  ] /* items */,
                  "resulting_clause_is_simple": true,
                  "resulting_clause": "`employees`.`position`"
                } /* clause_processing */
              },
              {
                "reconsidering_access_paths_for_index_ordering": {
                  "clause": "ORDER BY",
                  "steps": [
                  ] /* steps */,
                  "index_order_summary": {
                    "table": "`employees`",
                    "index_provides_order": false,
                    "order_direction": "undefined",
                    "index": "unknown",
                    "plan_changed": false
                  } /* index_order_summary */
                } /* reconsidering_access_paths_for_index_ordering */
              },
              {
                "refine_plan": [
                  {
                    "table": "`employees`"
                  }
                ] /* refine_plan */
              }
            ] /* steps */
          } /* join_optimization */
        },
        {
          "join_execution": {    //第三阶段:SQL执行阶段
            "select#": 1,
            "steps": [
            ] /* steps */
          } /* join_execution */
        }
      ] /* steps */
    }
    // 结论:全表扫描的成本低于索引扫描,所以mysql最终选择全表扫描
    登入後複製
    mysql> select * from employees where name > &#39;zzz&#39; order by position;
    mysql> SELECT * FROM information_schema.OPTIMIZER_TRACE;
    
    # 查看trace字段可知索引扫描的成本低于全表扫描,所以mysql最终选择索引扫描
    
    mysql> set session optimizer_trace="enabled=off";    //关闭trace
    登入後複製

    深入优化

    order by 和 group by

    order by 和 group by 也会遵循左前缀法则, 如下例子 :

    MySQL索引優化案例分析

    根据左前缀法则,用到了 name 字段的索引,同时使用 age 字段用来排序, 因为 extra 种没有 filesort

    order by 或者 group by 用到的索引不会参与到 key_len 的计算,索引 key_len 仍然只是 74, 即 name字段的长度

    再看下面一个例子:

    MySQL索引優化案例分析

    where 条件是name 排序字段是 position 跳过了age字段,所以只能用 name 索引,无法利用 position 索引进行索引排序,用到是文件排序

    再看第三个例子:

    MySQL索引優化案例分析

    使用name条件查询, 同时使用 age position 双字段排序,没有跳过联合索引的字段. 所以可以用索引排序

    然后颠倒一下排序顺序,先position 再 age:

    MySQL索引優化案例分析

    发现此时只能文件排序了

    再看下面的例子

    MySQL索引優化案例分析

    虽然排序字段与索引字段不一样,但仍然是索引排序, 因为查询条件中 用到是 (name, age)索引,排序中用到是 position 索引,并没有颠倒顺序。所以还是索引排序

    如果一个正序一个倒序呢?

    MySQL索引優化案例分析

    虽然排序字段与索引字段顺序相同, 但是 age 是正序, position 是倒叙,导致与索引的排序方式不同,无法利用索引。Mysql8及以上版本可以使用降序索引来支持文件排序。

    先 in 查询:

    MySQL索引優化案例分析

    对于排序来说,多个相等条件也是范围查询, 无法利用索引排序

    先范围查询:

    MySQL索引優化案例分析

    这里发生了全表扫描,没有任何索引,排序自然也无法利用索引了,可以使用覆盖索引优化:

    MySQL索引優化案例分析

    优化总结

    • MySQL支持两种方式的排序filesort和index,Using index是指MySQL扫描索引本身完成排序。index效率高,filesort效率低。

    2、order by满足两种情况会使用Using index。

    • order by语句使用索引最左前列。

    • 使用where子句与order by子句条件列组合满足索引最左前列。

    • 尽量在索引列上完成排序,遵循索引建立(索引创建的顺序)时的最左前缀法则。

    • 如果order by的条件不在索引列上,就会产生Using filesort。

    • 能用覆盖索引尽量用覆盖索引

    • group by与order by很类似,其实质是先排序后分组,遵照索引创建顺序的最左前缀法则。对于group by的优化如果不需要排序的可以加上order by null禁止排序。注意,where高于having,能写在where中的限定条件就不要去having限定了。

    Using filesort文件排序原理详解

    单路排序模式;

    是一次性取出满足条件行的所有字段,然后在sort buffer中进行排序;用trace工具可以看到sort_mode信息里显示< sort_key, additional_fields >或者< sort_key, packed_additional_fields >

    双路排序(又叫回表排序模式)

    是首先根据相应的条件取出相应的排序字段和可以直接定位行数据的行 ID,然后在 sort buffer 中进行排序,排序完后需要再次取回其它需要的字段;用trace工具可以看到sort_mode信息里显示< sort_key, rowid >

    MySQL 通过比较系统变量 max_length_for_sort_data(默认1024字节) 的大小和需要查询的字段总大小来判断使用哪种排序模式。

    • 如果 字段的总长度小于max_length_for_sort_data ,那么使用 单路排序模式;

    • 如果 字段的总长度大于max_length_for_sort_data ,那么使用 双路排序模·式。

    分页优化

    常规的limit分页

    有如下查询语句

    select * from employees limit 10000,10;
    登入後複製

    该sql并不是只查询了10条,而是查找了10010条,然后把前10000条结果给舍弃掉, 因此要查询一个大表靠后的内容,执行效率是非常低的

    优化

    根据主键排序

    上面的下面的sql语句没有指定排序方式,默认使用ID排序。当使用ID排序时,我们可以使用下面的优化。

    select * from employees where id > 90000 limit 5;
    登入後複製

    如果id是连续自增的,和limit 90000,5 结果没有差别,是 90001 ~ 90005 的数据。

    但是如果在90000之前删除了一条数据,结果就不一样了,id > 90000 limit 5 的结果是 90001 ~ 90005, 但是limit 90000, 5 的结果是 90002 ~ 90006, 很明显 90002 ~ 90006 才是符合我们直觉的。所以这个优化只能限制与排序条件是连续的。如果id不是自增的呢?会出现什么情况,假如 90000 这条数据有两个,limit 90000, 5 的结果是 90000 ~ 90004,而 id > 90000 limit 5 的结果仍是 90001 ~ 90005, 会把 id= 90000 的数据漏掉一条。

    所以这个优化只能用于排序的字段是连续自增的,并且不能重复

    非主键排序的优化

    有如下查询语句

    EXPLAIN select * from employees ORDER BY name limit 90000,5;
    登入後複製

    MySQL索引優化案例分析

    发现并没有用上name的索引,因为 select * ,扫描联合索引时,无法的到全部数据,需要回表,成本比全表扫描更高,所以优化器放弃使用索引。

    可以使用索引覆盖的方法,使用分页查询仅仅找到少量的主键,然后在使用主键查找整行数据, 如下:

    select * from employees e inner join (select id from employees order by name limit 90000,5) ed on e.id = ed.id;
    登入後複製

    看下执行计划:

    MySQL索引優化案例分析

    原 SQL 使用文件排序,优化后的使用索引排序

    表关联优化

    先造一些数据:

    CREATE TABLE `t1` (
      `id` int(11) NOT NULL AUTO_INCREMENT,
      `a` int(11) DEFAULT NULL,
      `b` int(11) DEFAULT NULL,
      PRIMARY KEY (`id`),
      KEY `idx_a` (`a`)
    ) ENGINE=InnoDB DEFAULT CHARSET=utf8;
    
    create table t2 like t1;
    
    -- 插入一些示例数据
    -- 往t1表插入1万行记录
    drop procedure if exists insert_t1; 
    delimiter ;;
    create procedure insert_t1()
    begin
      declare i int;
      set i=1;
      while(i<=10000)do
        insert into t1(a,b) values(i,i);  
        set i=i+1;
      end while;
    end;;
    delimiter ;
    call insert_t1();
    
    -- 往t2表插入100行记录
    drop procedure if exists insert_t2; 
    delimiter ;;
    create procedure insert_t2()
    begin
      declare i int;
      set i=1;
      while(i<=100)do
        insert into t2(a,b) values(i,i);  
        set i=i+1;
      end while;
    end;;
    delimiter ;
    call insert_t2();
    登入後複製

    新建 t1 t2 表,结构一样, 都在a字段上有索引,b字段没有索引,t1表有 10000 行记录,t2表只有100条记录。

    常见的表关联算法

    • 内嵌循环连接算法 Nested-Loop Join

    • 基于块的嵌套循环连接算法 Block Nested-Loop Join

    内嵌循环连接算法

    一次一行循环地从第一张表(称为驱动表)中读取行,在这行数据中取到关联字段,根据关联字段在另一张表(被驱动表)里取出满足条件的行,然后取出两张表的结果合集。

    一般关联字段有索引的时候使用这种算法, 示例:

    EXPLAIN select * from t1 inner join t2 on t1.a= t2.a;
    登入後複製

    MySQL索引優化案例分析

    从执行计划中可以看到这些信息:

    • 驱动表是 t2,被驱动表是 t1。先执行的就是驱动表;优化器一般会优先选择小表做驱动表,用where条件过滤完驱动表,然后再跟被驱动表做关联查询。所以使用 inner join 时,排在前面的表并不一定就是驱动表

    • 当使用left join时,左表是驱动表,右表是被驱动表,当使用right join时,右表时驱动表,左表是被驱动表

    • 使用了 NLJ算法。一般 join 语句中,如果执行计划 Extra 中未出现 Using join buffer 则表示使用的 join 算法是 NLJ。

    上面sql的大致流程如下:

    • 从表 t2 中读取一行数据(如果t2表有查询过滤条件的,用先用条件过滤完,再从过滤结果里取出一行数据);

    • 从第 1 步的数据中,取出关联字段 a,到表 t1 中查找;

    • 取出表 t1 中满足条件的行,跟 t2 中获取到的结果合并,作为结果返回给客户端;

    • 重复上面 3 步。

    整个过程会读取 t2 表的所有数据(扫描100行),然后遍历这每行数据中字段 a 的值,根据 t2 表中 a 的值索引扫描 t1 表中的对应行(扫描100次 t1 表的索引,1次扫描可以认为最终只扫描 t1 表一行完整数据,也就是总共 t1 表也扫描了100行)。因此整个过程扫描了 200 行

    基于块的嵌套循环算法

    当关联字段没有没有索引的时候会使用这种算法

    把驱动表的数据读入到 join_buffer 中,然后扫描被驱动表,把被驱动表每一行取出来跟 join_buffer 中的数据做对比。

    如下:

    EXPLAIN select * from t1 inner join t2 on t1.b= t2.b;
    登入後複製

    MySQL索引優化案例分析

    Extra 中 的Using join buffer (Block Nested Loop)说明该关联查询使用的是 BNL 算法。

    上面sql的大致流程如下:

    • 把 t2 的所有数据放入到 join_buffer 中

    • 把表 t1 中每一行取出来,跟 join_buffer 中的数据做对比

    • 返回满足 join 条件的数据

    整个过程对表 t1 和 t2 都做了一次全表扫描,因此扫描的总行数为10000(表 t1 的数据总量) + 100(表 t2 的数据总量) = 10100并且 join_buffer 里的数据是无序的,因此对表 t1 中的每一行,都要做 100 次判断,所以内存中的判断次数是 100 * 10000= 100 万次。

    这个例子里表 t2 才 100 行,要是表 t2 是一个大表,join_buffer 放不下怎么办呢?·

    join_buffer 的大小是由参数 join_buffer_size 设定的,默认值是 256k。如果放不下表 t2 的所有数据话,策略很简单,就是分段放

    比如 t2 表有1000行记录, join_buffer 一次只能放800行数据,那么执行过程就是先往 join_buffer 里放800行记录,然后从 t1 表里取数据跟 join_buffer 中数据对比得到部分结果,然后清空 join_buffer ,再放入 t2 表剩余200行记录,再次从 t1 表里取数据跟 join_buffer 中数据对比。所以就多扫了一次 t1 表。

    为什么要使用 BNLJ 算法呢?

    如果上面第二条sql使用 Nested-Loop Join,那么扫描行数为 100 * 10000 = 100万次,这个是磁盘扫描。

    很显然,用BNL磁盘扫描次数少很多,相比于磁盘扫描,BNL的内存计算会快得多。

    通常情况下,MySQL会采用 BNL 算法进行关联查询,当被驱动表的关联字段没有索引时。当存在索引时,使用NLJ算法可以获得比BNL算法更好的性能

    对于关联sql的优化

    • 关联字段加索引,让mysql做join操作时尽量选择NLJ算法,驱动表因为需要全部查询出来,所以过滤的条件也尽量要走索引,避免全表扫描,总之,能走索引的过滤条件尽量都走索引

    • 小表驱动大表,写多表连接sql时如果明确知道哪张表是小表可以用straight_join写法固定连接驱动方式,省去mysql优化器自己判断的时间

    straight_join解释:straight_join功能同join类似,但能让左边的表来驱动右边的表,能改表优化器对于联表查询的执行顺序。

    比如:select * from t2 straight_join t1 on t2.a = t1.a; 代表指定mysql选着 t2 表作为驱动表。

    • straight_join只适用于inner join,并不适用于left join,right join。由于使用left join和right join已经明确了表的执行顺序

    • 尽可能让优化器去判断,因为大部分情况下mysql优化器是比人要聪明的。使用straight_join一定要慎重,因为部分情况下人为指定的执行顺序并不一定会比优化引擎要靠谱。

    小表的定义

    在决定哪个表做驱动表的时候,应该是两个表按照各自的条件过滤,过滤完成之后,计算参与 join 的各个字段的总数据量,数据量小的那个表,就是“小表”,应该作为驱动表。不单单是表的总数据量

    in和exsits优化

    原则:小表驱动大表,即小的数据集驱动大的数据集

    • in:当B表的数据集小于A表的数据集时,in优于exists

    select * from A where id in (select id from B)
    #等价于:   
    for(select id from B){
        select * from A where A.id = B.id
    }
    登入後複製
    • exists:当A表的数据集小于B表的数据集时,exists优于in

    将主查询A的数据,放到子查询B中做条件验证,根据验证结果(true或false)来决定主查询的数据是否保留

    select * from A where exists (select 1 from B where B.id = A.id)
    #等价于: 
    for(select * from A){
      select * from B where B.id = A.id 
    } 
    #A表与B表的ID字段应建立索引
    登入後複製

    关于Exists

    • EXISTS (subquery)只返回TRUE或FALSE,因此子查询中的SELECT * 也可以用SELECT 1替换,官方说法是实际执行时会忽略SELECT清单,因此没有区别

    • EXISTS子查询的实际执行过程可能经过了优化而不是我们理解上的逐条对比

    • EXISTS子查询往往也可以用JOIN来代替,何种最优需要具体问题具体分析

    count 查询优化

    有下面四条查询语句:

    EXPLAIN select count(1) from employees;
    EXPLAIN select count(id) from employees;
    EXPLAIN select count(name) from employees;
    EXPLAIN select count(*) from employees;
    登入後複製

    只有 count(字段名) 不会把该字段为null 计入总数

    其实上面四条的查询计划都一样,效率上没有太大的差别

    MySQL索引優化案例分析

    当字段有索引

    count(*)≈count(1)>count(字段)>count(主键 id)

    字段有索引,count(字段)统计走二级索引,二级索引存储数据比主键索引少,所以count(字段)>count(主键 id)

    当字段没有索引

    count(*)≈count(1)>count(主键 id)>count(字段)

    字段没有索引count(字段)统计走不了索引,count(主键 id)还可以走主键索引,所以count(主键 id)>count(字段)

    count(1)

    count(1)跟count(字段)执行过程类似,不过count(1)不需要取出字段统计,就用常量1做统计,count(字段)还需要取出字段,所以理论上count(1)比count(字段)会快一点。

    count(*)

    count(*) 是例外,mysql并不会把全部字段取出来,而是专门做了优化,不取值,按行累加,效率很高,所以不需要用count(列名)或count(常量)来替代 count(*)

    为什么对于count(id),mysql最终选择辅助索引而不是主键聚集索引?因为二级索引相对主键索引存储数据更少,检索性能应该更高,mysql内部做了点优化(应该是在5.7版本才优化)。

    常见优化方法

    自己维护的总行数

    show table status 如果只需要知道表总行数的估计值可以用如下sql查询,性能很高 show table status like 'employee' 

    MySQL索引優化案例分析

    将总数维护到Redis里 插入或删除表数据行的时候同时维护redis里的表总行数key的计数值(用incr或decr命令),但是这种方式可能不准,很难保证表操作和redis操作的事务一致性

    索引设计原则

    索引设计原则:

    1、代码先行,索引后上

    等到主体业务功能开发完毕,把涉及到该表相关sql都要拿出来分析之后再建立索引。

    2、联合索引尽量覆盖条件

    比如可以设计一个或者两三个联合索引(尽量少建单值索引),让每一个联合索引都尽量去包含sql语句里的where、order by、group by的字段,还要确保这些联合索引的字段顺序尽量满足sql查询的最左前缀原则。

    3、不要在小基数字段上建立索引

    索引基数是指这个字段在表里总共有多少个不同的值,比如一张表总共100万行记录,其中有个性别字段,其值不是男就是女,那么该字段的基数就是2。

    如果对这种小基数字段建立索引的话,还不如全表扫描了,因为你的索引树里就包含男和女两种值,根本没法进行快速的二分查找,那用索引就没有太大的意义了。

    一般建立索引,尽量使用那些基数比较大的字段,就是值比较多的字段,那么才能发挥出B+树快速二分查找的优势来。

    4、长字符串我们可以采用前缀索引

    尽量对字段类型较小的列设计索引,比如说什么tinyint之类的,因为字段类型较小的话,占用磁盘空间也会比较小,此时你在搜索的时候性能也会比较好一点。

    当然,这个所谓的字段类型小一点的列,也不是绝对的,很多时候你就是要针对varchar(255)这种字段建立索引,哪怕多占用一些磁盘空间也是有必要的。

    对于这种varchar(255)的大字段可能会比较占用磁盘空间,可以稍微优化下,比如针对这个字段的前20个字符建立索引,就是说,对这个字段里的每个值的前20个字符放在索引树里,类似于 KEY index(name(20),age,position)

    此時你在where條件裡搜尋的時候,如果是根據name字段來搜索,那麼此時就會先到索引樹裡根據name字段的前20個字符去搜索,定位到之後前20個字符的前綴相符的部分資料之後,再回到叢集索引提取出來完整的name欄位值進行比對。

    但是假如你要是order by name,那麼此時你的name因為在索引樹裡僅包含了前20個字符,所以這個排序是沒法用上索引的, group by也是同理

    5、where與order by衝突時優先where

    在where和order by出現索引設計衝突時,到底是針對where去設計索引,還是針對order by設計索引?到底是讓where去用上索引,還是讓order by用索引?

    一般這種時候往往都是讓where條件去使用索引來快速篩選出來一部分指定的數據,接著再進行排序。

    因為大多數情況基於索引進行where篩選往往可以最快速度篩選出你要的少部分數據,然後做排序的成本可能會小很多。

    舉例

    有employees表,name, age, sex, position 列, 有聯合索引(name, age, sex, position),

    # sex : 性別,取值0 或1

    有以下查詢: select id from employees where name = 'zhangsan' and age = 18 and position = 'dev' 因為跳過了sex 字段,position 無法利用索引

    因為sex 只有兩個取值,我們在查詢語句上把sex 的值全部枚舉出來, 如下:

    #select id from employees where name = 'zhangsan' and age = 18 and sex in (0, 1) and position = 'dev'

    #這樣一來就可以利用全部索引了。

    再舉個例子

    加入我們要查詢最近一週登入的用戶,首先想到的是 last_login_time > {一週前的時間}

    #這是一個範圍查詢,在後面的所有字段便無法利用索引了,我們可以再設計一個字段,recent_login_flag(tinyint) 標識是否最近登入過。用定時任務定期更新該欄位的值。這樣就由範圍查詢變成了等值查詢,資料可能不會太及時變化,就看業務是否允許了。

    總之就是想辦法最大限度的利用索引。

    以上是MySQL索引優化案例分析的詳細內容。更多資訊請關注PHP中文網其他相關文章!

    本網站聲明
    本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn

    熱AI工具

    Undresser.AI Undress

    Undresser.AI Undress

    人工智慧驅動的應用程序,用於創建逼真的裸體照片

    AI Clothes Remover

    AI Clothes Remover

    用於從照片中去除衣服的線上人工智慧工具。

    Undress AI Tool

    Undress AI Tool

    免費脫衣圖片

    Clothoff.io

    Clothoff.io

    AI脫衣器

    Video Face Swap

    Video Face Swap

    使用我們完全免費的人工智慧換臉工具,輕鬆在任何影片中換臉!

    熱工具

    記事本++7.3.1

    記事本++7.3.1

    好用且免費的程式碼編輯器

    SublimeText3漢化版

    SublimeText3漢化版

    中文版,非常好用

    禪工作室 13.0.1

    禪工作室 13.0.1

    強大的PHP整合開發環境

    Dreamweaver CS6

    Dreamweaver CS6

    視覺化網頁開發工具

    SublimeText3 Mac版

    SublimeText3 Mac版

    神級程式碼編輯軟體(SublimeText3)

    熱門話題

    Java教學
    1653
    14
    CakePHP 教程
    1413
    52
    Laravel 教程
    1306
    25
    PHP教程
    1251
    29
    C# 教程
    1224
    24
    MySQL的角色:Web應用程序中的數據庫 MySQL的角色:Web應用程序中的數據庫 Apr 17, 2025 am 12:23 AM

    MySQL在Web應用中的主要作用是存儲和管理數據。 1.MySQL高效處理用戶信息、產品目錄和交易記錄等數據。 2.通過SQL查詢,開發者能從數據庫提取信息生成動態內容。 3.MySQL基於客戶端-服務器模型工作,確保查詢速度可接受。

    docker怎麼啟動mysql docker怎麼啟動mysql Apr 15, 2025 pm 12:09 PM

    在 Docker 中啟動 MySQL 的過程包含以下步驟:拉取 MySQL 鏡像創建並啟動容器,設置根用戶密碼並映射端口驗證連接創建數據庫和用戶授予對數據庫的所有權限

    laravel入門實例 laravel入門實例 Apr 18, 2025 pm 12:45 PM

    Laravel 是一款 PHP 框架,用於輕鬆構建 Web 應用程序。它提供一系列強大的功能,包括:安裝: 使用 Composer 全局安裝 Laravel CLI,並在項目目錄中創建應用程序。路由: 在 routes/web.php 中定義 URL 和處理函數之間的關係。視圖: 在 resources/views 中創建視圖以呈現應用程序的界面。數據庫集成: 提供與 MySQL 等數據庫的開箱即用集成,並使用遷移來創建和修改表。模型和控制器: 模型表示數據庫實體,控制器處理 HTTP 請求。

    解決數據庫連接問題:使用minii/db庫的實際案例 解決數據庫連接問題:使用minii/db庫的實際案例 Apr 18, 2025 am 07:09 AM

    在開發一個小型應用時,我遇到了一個棘手的問題:需要快速集成一個輕量級的數據庫操作庫。嘗試了多個庫後,我發現它們要么功能過多,要么兼容性不佳。最終,我找到了minii/db,這是一個基於Yii2的簡化版本,完美地解決了我的問題。

    laravel框架安裝方法 laravel框架安裝方法 Apr 18, 2025 pm 12:54 PM

    文章摘要:本文提供了詳細分步說明,指導讀者如何輕鬆安裝 Laravel 框架。 Laravel 是一個功能強大的 PHP 框架,它 упростил 和加快了 web 應用程序的開發過程。本教程涵蓋了從系統要求到配置數據庫和設置路由等各個方面的安裝過程。通過遵循這些步驟,讀者可以快速高效地為他們的 Laravel 項目打下堅實的基礎。

    centos7如何安裝mysql centos7如何安裝mysql Apr 14, 2025 pm 08:30 PM

    優雅安裝 MySQL 的關鍵在於添加 MySQL 官方倉庫。具體步驟如下:下載 MySQL 官方 GPG 密鑰,防止釣魚攻擊。添加 MySQL 倉庫文件:rpm -Uvh https://dev.mysql.com/get/mysql80-community-release-el7-3.noarch.rpm更新 yum 倉庫緩存:yum update安裝 MySQL:yum install mysql-server啟動 MySQL 服務:systemctl start mysqld設置開機自啟動

    MySQL和PhpMyAdmin:核心功能和功能 MySQL和PhpMyAdmin:核心功能和功能 Apr 22, 2025 am 12:12 AM

    MySQL和phpMyAdmin是強大的數據庫管理工具。 1)MySQL用於創建數據庫和表、執行DML和SQL查詢。 2)phpMyAdmin提供直觀界面進行數據庫管理、表結構管理、數據操作和用戶權限管理。

    centos安裝mysql centos安裝mysql Apr 14, 2025 pm 08:09 PM

    在 CentOS 上安裝 MySQL 涉及以下步驟:添加合適的 MySQL yum 源。執行 yum install mysql-server 命令以安裝 MySQL 服務器。使用 mysql_secure_installation 命令進行安全設置,例如設置 root 用戶密碼。根據需要自定義 MySQL 配置文件。調整 MySQL 參數和優化數據庫以提升性能。

    See all articles