|
|
|
|
公众号矩阵

MySQL 8.0不讲武德,给我挖坑!

你在使用 MySQL 的 Group by 分组时,是否发现分组后的数据都是有序的?

作者:陈哈哈来源:51CTO技术栈|2021-01-27 09:19

【51CTO.com原创稿件】你在使用 MySQL 的 Group by 分组时,是否发现分组后的数据都是有序的?

图片来自 Pexels

其实,在 MySQL 8.0 ,优化器在分组查询时都会进行隐式排序。那既然隐式排序为什么还要保留 Order by?隐式排序的目的又是什么呢?让我们一起来看看。

背景小故事

年前我们换了领导,俗话说,新官上任总爱干傻事儿...

这不,领导要拥抱新事物,要求我们更新项目 MySQL 版本,从 MySQL 5.7 更新到 MySQL 8.0。不知是 MySQL 5.7 不香了,还是领导你眼光高了?

我把这个任务交给同事小王,小王不以为然,说换就换。迁完库,在代码基本不改的情况下自信上线。

上线后却发现原本一些有序的列表变无序了,最后临时回退了版本。

核对代码时我们发现,老版本 Select 语句中只是用到了 Group by 分组,也没有用到 Order by 排序,有点蒙,为啥没用 Order by 却排了序?

查资料后得知,在 MySQL 8.0 版本前是存在 Group by 隐式排序的!

就是说在我们使用分组(Group by)时,如:

  1. select * from T group by appName; 

会默认按照 appName 正序排序,相当于:

  1. select * from T group by appName order by appName; 

倒排同理:

  1. select * from T group by appName desc

可见,MySQL 在 8.0 版本前的分组查询中,偷偷加上了排序操作。

纳尼?MySQL 还有这种操作?快找一下官方文档对 Group by 隐式排序的介绍:

官方文档

官方文档 MySQL 5.7 Reference Manual 中的“2.1.14 ORDER BY Optimization”章节有如下介绍:

GROUP BY implicitly sorts by default (that is, in the absence of ASC or DESC designators for GROUP BY columns). However, relying on implicit GROUP BY sorting (that is, sorting in the absence of ASC or DESC designators) or explicit sorting for GROUP BY (that is, by using explicit ASC or DESC designators for GROUP BY columns) is deprecated. To produce a given sort order, provide an ORDER BY clause.

Google 翻译:默认情况下 GROUP BY 隐式排序(即,缺少 GROUP BY 列的 ASC 或 DESC 指示符)。

但是,不推荐依赖于隐式 GROUP BY 排序(即,在没有 ASC 或 DESC 指示符的情况下排序)或 GROUP BY 的显式排序(即,通过对 GROUP BY 列使用显式 ASC 或 DESC 指示符)。

要生成给定的排序 ORDER,请提供 ORDER BY 子句。

从 MySQL 8.0 开始,GROUP BY 字段不再支持隐式排序。官方文档 MySQL 8.0 Reference Manual中“8.2.1.16 ORDER BY Optimization”章节有如下介绍:

Previously (MySQL 5.7 and lower), GROUP BY sorted implicitly under certain conditions. In MySQL 8.0, that no longer occurs, so specifying ORDER BY NULL at the end to suppress implicit sorting (as was done previously) is no longer necessary. However, query results may differ from previous MySQL versions. To produce a given sort order, provide an ORDER BY clause.

Google 翻译:以前(MySQL 5.7 及更低版本),GROUP BY 在某些条件下隐式排序。

在 MySQL 8.0 中,不再发生这种情况,因此不再需要在末尾指定 ORDER BY NULL 来抑制隐式排序(如前所述)。

但是,查询结果可能与以前的 MySQL 版本不同。要产生给定的排序顺序,请提供 ORDER BY 子句。

陈哈哈:“哦,这么看来开发老版本的同事是没用 Order by,直接用了隐式排序。年轻人,不讲武德啊!!”

小王(小声):“哈哥,这模块之前好像是你负责的。”

陈哈哈(老脸一红):???

陈哈哈:“咳咳,这 MySQL 8.0 团队不讲武德,给我挖坑!”

好了,接下来我们用测试数据演示一下。

数据测试

下面是表 T 测试数据,无序:

  1. mysql> SELECT pid,appName from T;     
  2. +--------+-------------------------+ 
  3. | pid    | appName                 | 
  4. +--------+-------------------------+ 
  5. |      1 |  Dock Sound Redirector  | 
  6. |      2 |  Blues Music station    | 
  7. |      3 |  usb tether TRIAL       | 
  8. |      4 |  Il vero test del QI    | 
  9. |      5 |  FlightTime Calculator  | 
  10. |      6 |  ZX Spectrum Emulator   | 
  11. |      7 |  The City Dress Up      | 
  12. +--------+-------------------------+ 
  13. rows in set (0.00 sec) 

实验 1:(MySQL 版本:5.7.24)

  1. -- 隐式排序 
  2. mysql> SELECT pid,appName from T group by appName;     
  3. +--------+-------------------------+ 
  4. | pid    | appName                 | 
  5. +--------+-------------------------+ 
  6. |      2 |  Blues Music station    | 
  7. |      1 |  Dock Sound Redirector  | 
  8. |      5 |  FlightTime Calculator  | 
  9. |      4 |  Il vero test del QI    | 
  10. |      7 |  The City Dress Up      | 
  11. |      3 |  usb tether TRIAL       | 
  12. |      6 |  ZX Spectrum Emulator   | 
  13. +--------+-------------------------+ 
  14. rows in set (0.00 sec) 
  15. -- 如上述隐式排序,相当于SELECT pid,appName from T group by appName asc 或 SELECT pid,appName from T group by appName order by appName asc; 
  16. -- 显式排序,相当于SELECT pid,appName from T group by appName order by appName desc; 
  17. mysql> SELECT pid,appName from T group by appName desc;     
  18. +--------+-------------------------+ 
  19. | pid    | appName                 | 
  20. +--------+-------------------------+ 
  21. |      6 |  ZX Spectrum Emulator   | 
  22. |      3 |  usb tether TRIAL       | 
  23. |      7 |  The City Dress Up      | 
  24. |      4 |  Il vero test del QI    | 
  25. |      5 |  FlightTime Calculator  | 
  26. |      1 |  Dock Sound Redirector  | 
  27. |      2 |  Blues Music station    | 
  28. +--------+-------------------------+ 
  29. rows in set (0.00 sec) 

实验 2:(MySQL 版本:8.0.16)

  1. mysql> SELECT pid,appName from T group by appName;     
  2. +--------+-------------------------+ 
  3. | pid    | appName                 | 
  4. +--------+-------------------------+ 
  5. |      1 |  Dock Sound Redirector  | 
  6. |      2 |  Blues Music station    | 
  7. |      3 |  usb tether TRIAL       | 
  8. |      4 |  Il vero test del QI    | 
  9. |      5 |  FlightTime Calculator  | 
  10. |      6 |  ZX Spectrum Emulator   | 
  11. |      7 |  The City Dress Up      | 
  12. +--------+-------------------------+ 
  13. rows in set (0.00 sec) 
  14. mysql> SELECT pid,appName from T group by appName DESC
  15. ERROR 1064 (42000): You have an error in your SQL syntax; check the manual that corresponds to your MySQL server version for the right syntax to use near 'DESC' at line 1 

如上所示,在 MySQL 8.0 中,GROUP BY 隐式排序不支持了,上面测试例子是无序的。GROUP BY 显示排序则直接报错。

所以如果有数据库从 MySQL 5.7 或之前的版本,迁移升级到 MySQL 8 的话,就需要特别留意这个问题了。

隐式排序:起源(一个优美的 Bug)

最初为什么要用隐式排序呢?我们知道,要对一组数据进行分组,MySQL 优化器会选择不同的方法。

其中最有效的一种是分组之前对数据排序,降低数据复杂度,使得连续分组变得很容易。

另外,如果可以 Group by 一个索引字段来用于获取排序的数据,那么使用它的成本就非常低了(因为 BTree 索引是天然有序的)。

而在实际操作中,Group by 用到索引的频率很高。这么看,这确实是个很棒的主意!也可以说是留了一个优美的 Bug。

如下查询语句,用到了 appName_idx 索引,因此 Group by 查询不需要排序,直接分组,高效。

  1. -- 有索引:appName_idx 
  2. mysql> EXPLAIN SELECT appName from 0122_csj_demo GROUP BY appName \G 
  3. *************************** 1. row *************************** 
  4.            id: 1 
  5.   select_type: SIMPLE 
  6.         table: 0122_csj_demo 
  7.    partitions: NULL 
  8.          type: index 
  9. possible_keys: appName_idx 
  10.           key: appName_idx 
  11.       key_len: 515 
  12.           ref: NULL 
  13.          rows: 28 
  14.      filtered: 100.00 
  15.         Extra: Using index 
  16. 1 row in set, 1 warning (0.00 sec) 

如果没有索引,MySQL 优化器仍然可以决定在分组之前用外部临时表进行 filesort 排序,从效率上讲,和无序分组差不多。

当用户指定 Order by 时,是 MySQL 最希望看到的,这样就不会让排序工作白费,这也是让 MySQL 团队始终默认隐式排序存在的原因之一。

  1. mysql> EXPLAIN SELECT appName from 0122_csj_demo GROUP BY appName \G 
  2. *************************** 1. row *************************** 
  3.            id: 1 
  4.   select_type: SIMPLE 
  5.         table: 0122_csj_demo 
  6.    partitions: NULL 
  7.          type: ALL 
  8. possible_keys: NULL 
  9.           keyNULL 
  10.       key_len: NULL 
  11.           ref: NULL 
  12.          rows: 28 
  13.      filtered: 100.00 
  14.         Extra: Using temporary; Using filesort 
  15. 1 row in set, 1 warning (0.00 sec) 

另外,用户可以显式指定 ORDER BY NULL 就能让 MySQL 知道 GROUP BY 不需要排序。

因此需要一个非标准(ORDER BY NULL)语法来抵消另一个非标准扩展(GROUP BY 排序)的影响。

  1. mysql> EXPLAIN SELECT appName from 0122_csj_demo GROUP BY appName ORDER BY null \G 
  2. *************************** 1. row *************************** 
  3.            id: 1 
  4.   select_type: SIMPLE 
  5.         table: 0122_csj_demo 
  6.    partitions: NULL 
  7.          type: ALL 
  8. possible_keys: NULL 
  9.           keyNULL 
  10.       key_len: NULL 
  11.           ref: NULL 
  12.          rows: 28 
  13.      filtered: 100.00 
  14.         Extra: Using temporary 
  15. 1 row in set, 1 warning (0.00 sec) 

隐式排序:宿命

为了解决这个优美的 Bug,MySQL 团队在 8.0 版本引入了倒排索引。正负向索引排序的优化思路,给隐式排序体面的落下帷幕。

自此 Group by 隐式排序功能被删除,分组排序必须用 Order by 来进行,分组的算法依然可以基于正负向索引延续之前分组的高效性。

好了,本文到此基本结束,隐式排序算是 MySQL 角落里较冷门的知识点,对我来说却是一位结识四年的旧友了。

北漂四年,时光匆匆,从初识 MySQL 的步履维艰,到深入理解各知识点的实现思路,也算顺道吃了杯隐排的践行酒。

莫泊桑说:"生活可能不像你想象的那么好,但是,也不会你想象的那么糟"。

人的脆弱和坚强都超乎了自己的想,有时候可能脆弱的一句话,就泪流满面。

有时候你会发现,自己咬着牙走过很长的一段路。在外漂泊打工人不易,为了家人父母过上好日子,加油!

作者:陈哈哈

简介:MySQL 社区的非著名贡献者,一个爱笑的程序员,善于白嫖知识;陪伴 MySQL 五年,致力于高性能 SQL、事务锁优化方面的研究;长路漫漫,希望通过自己的分享让大家少踩一些坑。

编辑:陶家龙

征稿:有投稿、寻求报道意向技术人请联络小编微信:gordonlonglong

【51CTO原创稿件,合作站点转载请注明原文作者和出处为51CTO.com】

【编辑推荐】

  1. 大数据项目实战班视频课程
  2. 数据分析一问:指标波动有多大,才算是大!
  3. Python数据模型与Python对象模型
  4. 大数据与AI人才何处寻?权威挑战赛揭晓答案
  5. 大数据分析的技术有哪些?
【责任编辑:武晓燕 TEL:(010)68476606】

点赞 0
分享:
大家都在看
猜你喜欢

订阅专栏+更多

数据湖与数据仓库的分析实践攻略

数据湖与数据仓库的分析实践攻略

助力现代化数据管理:数据湖与数据仓库的分析实践攻略
共3章 | 创世达人

6人订阅学习

云原生架构实践

云原生架构实践

新技术引领移动互联网进入急速赛道
共3章 | KaliArch

33人订阅学习

数据中心和VPDN网络建设案例

数据中心和VPDN网络建设案例

漫画+案例
共20章 | 捷哥CCIE

220人订阅学习

订阅51CTO邮刊

点击这里查看样刊

订阅51CTO邮刊

51CTO服务号

51CTO官微