|
|
|
|
公众号矩阵

不知道MySQL排序的特性,加班到12点,认了认了!

原本是以为业务逻辑问题,重新Review了一遍代码,依旧未找到问题原因。最后只好把SQL语句拿出来单独执行,导出数据,对比发现竟然是SQL语句查询结果乱序导致的。

作者:二师兄 来源:程序新视界|2021-10-29 06:59

本文转载自微信公众号「程序新视界」,作者二师兄  。转载本文请联系程序新视界公众号。

小弟新写了一个功能,自测和测试环境测试都没问题,但在生产环境会出现偶发问题。于是,加班到12点一直排查问题,终于定位了的问题原因:Mysql Limit查询优化导致。现抽象出问题模型及解决方案,分析给大家,避免大家踩坑。

问题场景

新上线一个交易记录导出功能,逻辑很简单:根据查询条件,导出对应的数据。由于数据量比较大,在查询数据库时采用了分页查询,每次查询1000条数据。

自测正常,测试环境正常,上线之后运营反馈导出的数据有重复记录。

原本是以为业务逻辑问题,重新Review了一遍代码,依旧未找到问题原因。最后只好把SQL语句拿出来单独执行,导出数据,对比发现竟然是SQL语句查询结果乱序导致的。

原因分析

查询语句以create_time进行倒序排序,通过limit进行分页,在正常情况下不会出现问题。但当业务并发量比较大,导致create_time存在大量相同值时,再基于limit进行分页,就会出现乱序问题。

出现的场景是:以create_time排序,当create_time存在相同值,通过limit分页,导致分页数据乱序。

比如,查询1000条数据,其中有一批create_time记录值都为”2021-10-28 12:12:12“,当创建时间相同的这些数据,一部分出现在第一页,一部分出现在第二页,在查询第二页的数据时,可能会出现第一页已经查过的数据。

也就是说,数据会来回跳动,一会儿出现在第一页,一会儿出现在第二页,这就导致导出的数据一部分重复,一部分缺失。

查看了Mysql 5.7和8.0的官方文档,描述如下:

If multiple rows have identical values in the ORDER BY columns, the server is free to return those rows in any order, and may do so differently depending on the overall execution plan. In other words, the sort order of those rows is nondeterministic with respect to the nonordered columns.

上述内容概述:在使用ORDER BY对列进行排序时,如果对应(ORDER BY的列)列存在多行相同数据,(Mysql)服务器会按照任意顺序返回这些行,并且可能会根据整体执行计划以不同的方式返回。

简单来说就是:ORDER BY查询的数据,如果ORDER BY列存在多行相同数据,Mysql会随机返回。这就会导致虽然使用了排序,但也会发生乱序的状况。

解决方案

针对上述问题,基本的解决思路是:避免ORDER BY列的值出现重复。因此,可以加入其他维度,比如ID等其他排序列。

  1. select * from tb_order order by create_time ,id desc

这样,在create_time相同时,会根据id进行排序,而id肯定是不同的,就再不会出现上述问题了。

拓展知识

其实,上述内容在Mysql的官网已经有明确说明,而且还举了例子。下面对官网的内容和例子做一个简单的汇总总结。

limit查询优化

  • 如果我们只是查询一个结果集的一部分,那么不要查询所有数据,然后再丢弃不需要的数据,而是要通过limit条件来进行限制。
  • 在没使用having条件时,Mysql可能会对limit条件优化:
  • 如果只查询几条数据,建议使用limit,这样Mysql可能会用到索引,而通常情况下Mysql是全表扫描;
  • 如果将limit row_count和order by结合使用,Mysql会在找到第一个row_count结果集后立刻停止排序,而不是对整个结果集进行排序。如果此时基于索引进行操作,速度会更快。如果必须进行文件排序,在找到row_count结果集之前,会对部分或所有符合条件的结果进行排序。但当找到row_count结果之后,便不会对剩余部分进行排序了。这种特性的一个表现就是我们前面提到的带有limit和不带limit进行查询时,返回的结果顺序可能不同。
  • 如果将limit row_count和distinct结合使用,Mysql会在找到row_count结果集唯一行后立马停止。
  • 在某些情况下,可以通过按照顺序读取索引(或对索引进行排序),然后计算摘要直到索引变化来实现group by。在这种情况下,limit row_count不会计算任何不必要的group by值。
  • 一旦MySQL向客户端发送了所需数量的行,就会中止查询,除非使用了SQL_CALC_FOUND_ROWS。在这种情况下,可以使用 SELECT FOUND_ROWS() 检索行数。
  • LIMIT 0会快速返回一个空集合,通常可用于检查SQL的有效性。还可以用于在应用程序中获得结果集的类型。在Mysql客户端中,可以使用--column-type-info来显示结果列类型。
  • 如果使用临时表来解析查询,Mysql会使用 limit row_count来计算需要多少空间。
  • 如果order by未使用索引,且存在limit条件,则优化器可能会避免使用合并文件,而采用内存filesort操作对内存中的行进行排序。

了解了limit的一些特性,下面再回到本文的重点,limit row_count和order by结合使用特性。

limit与order by结合使用

在上面第二条中已经提到,limit row_count和order by结合呈现的特性之一就是结果返回的顺序是不确定的。而影响执行计划的一个因素就是limit,因此带有limit与不带有limit执行同样的查询语句,返回结果的顺序可能不同。

下面示例中,根据category列进行排序查询,而id和rating是不确定的:

  1. mysql> SELECT * FROM ratings ORDER BY category; 
  2. +----+----------+--------+ 
  3. | id | category | rating | 
  4. +----+----------+--------+ 
  5. |  1 |        1 |    4.5 | 
  6. |  5 |        1 |    3.2 | 
  7. |  3 |        2 |    3.7 | 
  8. |  4 |        2 |    3.5 | 
  9. |  6 |        2 |    3.5 | 
  10. |  2 |        3 |    5.0 | 
  11. |  7 |        3 |    2.7 | 
  12. +----+----------+--------+ 

当查询语句包含limit时,可能会影响到category值相同的数据:

  1. mysql> SELECT * FROM ratings ORDER BY category LIMIT 5; 
  2. +----+----------+--------+ 
  3. | id | category | rating | 
  4. +----+----------+--------+ 
  5. |  1 |        1 |    4.5 | 
  6. |  5 |        1 |    3.2 | 
  7. |  4 |        2 |    3.5 | 
  8. |  3 |        2 |    3.7 | 
  9. |  6 |        2 |    3.5 | 
  10. +----+----------+--------+ 

其中id为3和4的结果位置发生了变化。

在实践中,保持查询结果的顺序性往往非常重要,此时就需要引入其他列来保证结果的顺序性了。当上述实例引入id之后,查询语句及结果如下:

  1. mysql> SELECT * FROM ratings ORDER BY category, id; 
  2. +----+----------+--------+ 
  3. | id | category | rating | 
  4. +----+----------+--------+ 
  5. |  1 |        1 |    4.5 | 
  6. |  5 |        1 |    3.2 | 
  7. |  3 |        2 |    3.7 | 
  8. |  4 |        2 |    3.5 | 
  9. |  6 |        2 |    3.5 | 
  10. |  2 |        3 |    5.0 | 
  11. |  7 |        3 |    2.7 | 
  12. +----+----------+--------+ 
  13.  
  14. mysql> SELECT * FROM ratings ORDER BY category, id LIMIT 5; 
  15. +----+----------+--------+ 
  16. | id | category | rating | 
  17. +----+----------+--------+ 
  18. |  1 |        1 |    4.5 | 
  19. |  5 |        1 |    3.2 | 
  20. |  3 |        2 |    3.7 | 
  21. |  4 |        2 |    3.5 | 
  22. |  6 |        2 |    3.5 | 
  23. +----+----------+--------+ 

可以看出,当添加了id列的排序,即使category相同,也不会出现乱序问题。这正与我们最初的解决方案一致。

小结

本来通过实践中偶发的一个坑,聊到了Mysql对limit查询语句的优化,同时提供了解决方案,即满足了业务需求,又避免了业务逻辑的错误。

很多朋友都在使用order by和limit语句进行查询,但如果不知道Mysql的这些优化特性,很可能已经入坑,只不过数据量没有触发呈现而已。

如果这篇文章帮到你了,关注一波,后续更多实战干货分享。

Mysql官方文档:https://dev.mysql.com/doc/refman/8.0/en/limit-optimization.html

【编辑推荐】

  1. 鸿蒙官方战略合作共建——HarmonyOS技术社区
  2. Kafka 精妙的高性能设计之二
  3. 阿里云发布第一台设计师云电脑:单应用最高1024核的超级工作站
  4. 智能建筑的四个WiFi设计技巧
  5. 谷歌 Android 12 闪亮登场:基于壁纸颜色个性化设计、长截图、新状态栏指示器...
  6. Go 语言设计失误,缺乏远见?
【责任编辑:武晓燕 TEL:(010)68476606】

点赞 0
分享:
大家都在看
猜你喜欢

订阅专栏+更多

带你轻松入门 RabbitMQ

带你轻松入门 RabbitMQ

轻松入门RabbitMQ
共4章 | loong576

51人订阅学习

数据湖与数据仓库的分析实践攻略

数据湖与数据仓库的分析实践攻略

助力现代化数据管理:数据湖与数据仓库的分析实践攻略
共3章 | 创世达人

14人订阅学习

云原生架构实践

云原生架构实践

新技术引领移动互联网进入急速赛道
共3章 | KaliArch

42人订阅学习

订阅51CTO邮刊

点击这里查看样刊

订阅51CTO邮刊

51CTO服务号

51CTO官微