阿里云-云小站(无限量代金券发放中)
【腾讯云】云服务器、云数据库、COS、CDN、短信等热卖云产品特惠抢购

MySQL中WHERE后跟着N多个OR条件会是你期望的结果吗?

248次阅读
没有评论

共计 3098 个字符,预计需要花费 8 分钟才能阅读完成。

导读 不过要注意的是,改写后的 SQL 查询结果和原来并不是完全一致的,实际应用中,可能还要再做进一步筛选或者增加 LIMIT N 来控制。

MySQL 中 WHERE 后跟着 N 多个 OR 条件会是你期望的结果吗?

背景交代

用 tpcc-mysql​ 工具生成 50 个仓库 的测试数据,表 order_line 共有 37970973 条记录。

某工具在运行过程中,会产生下面的 SQL 进行查询,WHERE 后跟了 N 多个条件:

mysql> select * from order_line where 
   (ol_w_id = '1' and ol_d_id = '1' and ol_o_id = '2221' and ol_number = '5') 
or (ol_w_id = '1' and ol_d_id = '1' and ol_o_id = '2225' and ol_number = '1')
or (ol_w_id = '1' and ol_d_id = '1' and ol_o_id = '2155' and ol_number = '2')
...

这里说的 N 多个,是指总共有 10000 个 OR 条件,这条 SQL 的长度大概将近 800KB。

这条 SQL 在我的测试服务器上,运行了约 56 秒(另一个性能略差的机器上跑了 1800 秒左右才完成),共扫描 75563 行记录,返回 8192 行结果:

# Query_time: 56.031955  Lock_time: 0.047795 Rows_sent: 8129  Rows_examined: 75563 ... Read_first: 0 Read_last: 0 Read_key: 1 Read_next: 75563 Read_prev: 0 Read_rnd: 0 Read_rnd_next: 0 ...
...
#   InnoDB_pages_distinct: 501
...
select * from order_line where ...

相当于只做了 1 次索引范围查询,但总共要扫描 7.5 万条数据。

问题分析

只需要扫描 7.5 万行记录,501 个 page,返回 8192 行结果,正常情况下不应该需要这么久才对,肯定是哪里有问题。

再次手动执行这条 SQL,发现的确是这么慢,并且在最后还有个 warnings 提醒,查看下是啥内容:

mysql> show warnings\G
...
  Level: Warning
   Code: 3170
Message: Memory capacity of 8388608 bytes for 'range_optimizer_max_mem_size' exceeded. Range optimization was not done for this query.

第一次见到这种告警,先检查 MySQL 手册,看看 range_optimizer_max_mem_size 这个选项是干嘛用的:

 文档出处:https://dev.mysql.com/doc/refman/8.0/en/server-system-variables.html#sysvar_range_optimizer_max_mem_size

The limit on memory consumption for the range optimizer. A value of 0 means“no limit.”If an execution plan considered by the optimizer uses the range access method but 
the optimizer estimates that the amount of memory needed for this method would 
exceed the limit, it abandons the plan and considers other plans. For more 
information, see Limiting Memory Use for Range Optimization.

这个选项是从 MySQL 5.7.9 开始引入的,用于控制当优化器采用范围(RANGE)查询优化方案时使用的内存消耗限制。

其默认值为 8MB(5.7.12 及以上版本),当设置为 0 时,表示不做任何限制。当 WHERE 查询条件里有很多 OR、AND 组成时,优化器判断超过内存消耗限制,则会调整 SQL 执行计划,变成其他执行方案,甚至可能是全表扫描。

这也就是为什么执行上面的大 SQL 后,MySQL 会有这样的告警提示了。

经过几次简单尝试,把 range_optimizer_max_mem_size 选项值调大到 24MB 后,这个 SQL 就可以正常执行,并且运行速度很快:

# Query_time: 6.721209  Lock_time: 0.044637 Rows_sent: 8129  Rows_examined: 8129 Read_first: 0 Read_last: 0 Read_key: 10000 Read_next: 0 Read_prev: 0 Read_rnd: 0 Read_rnd_next: 0 ...
...
#   InnoDB_pages_distinct: 81

注意到几个变化:

  • 耗时从 56 秒降到 6.7 秒;
  • 扫描行数从 7.5 万行降到 8192 行(返回结果数不变);
  • Read_key 从 1 增加到 10000;
  • Read_next 从 75563 降到 0;
  • 扫描的 page 数从 501 降到 81。
  • 相当于做了 1 万次索引列等值条件查询。

    查询效率提升非常显著。

    进一步优化

    线上生产环境中,各式各样的 SQL 层出不穷,这次可能是一万条 OR 条件,下次可能是其他的,是不能无限度增加数据库内存消耗的。

    针对本案中的 SQL,更好的优化办法是找出这些 OR 条件的范围规律,并改写成一条更简单的 SQL,类似下面这样:

    mysql> select * from order_line where
    ol_w_id = 1 and ol_d_id = 1 and (ol_o_id between 2007 and 2997) 
    and (ol_number between 1 and 15);

    新的 SQL 执行代价:

    # Query_time: 0.006338  Lock_time: 0.000084 Rows_sent: 9883  Rows_examined: 9883...Read_first: 0 Read_last: 0 Read_key: 1 Read_next: 9883 Read_prev: 0 Read_rnd: 0 Read_rnd_next: 0...
    ...
    #   InnoDB_pages_distinct: 81

    相当于只做了 1 次索引范围查询,且只需扫描 9883 条记录。

    相比上面调高内存上限的优化方案,本次的做法则更为彻底,耗时从 6.7 秒直接降为 6.3 毫秒,提升了 1000 倍;扫描行数、次数和 page 数也下降了很多。

    不过要注意的是,改写后的 SQL 查询结果和原来并不是完全一致的,实际应用中,可能还要再做进一步筛选或者增加 LIMIT N 来控制。

    最后再次提醒,WHERE 条件后跟着 N 多个 OR/AND 条件的写法非常不可取,尤其是在用一些开发框架构造查询 SQL 时,尤其要注意规避这个问题,否则可能造成严重性能问题。

    延伸阅读

    sysvars-range_optimizer_max_mem_size,https://dev.mysql.com/doc/refman/8.0/en/server-system-variables.html#sysvar_range_optimizer_max_mem_size

    Limiting Memory Use for Range Optimization,https://dev.mysql.com/doc/refman/8.0/en/range-optimization.html#range-optimization-memory-use

    阿里云 2 核 2G 服务器 3M 带宽 61 元 1 年,有高配

    腾讯云新客低至 82 元 / 年,老客户 99 元 / 年

    代金券:在阿里云专用满减优惠券

    正文完
    星哥玩云-微信公众号
    post-qrcode
     0
    星锅
    版权声明:本站原创文章,由 星锅 于2024-07-24发表,共计3098字。
    转载说明:除特殊说明外本站文章皆由CC-4.0协议发布,转载请注明出处。
    【腾讯云】推广者专属福利,新客户无门槛领取总价值高达2860元代金券,每种代金券限量500张,先到先得。
    阿里云-最新活动爆款每日限量供应
    评论(没有评论)
    验证码
    【腾讯云】云服务器、云数据库、COS、CDN、短信等云产品特惠热卖中

    星哥玩云

    星哥玩云
    星哥玩云
    分享互联网知识
    用户数
    4
    文章数
    19352
    评论数
    4
    阅读量
    8022382
    文章搜索
    热门文章
    星哥带你玩飞牛NAS-6:抖音视频同步工具,视频下载自动下载保存

    星哥带你玩飞牛NAS-6:抖音视频同步工具,视频下载自动下载保存

    星哥带你玩飞牛 NAS-6:抖音视频同步工具,视频下载自动下载保存 前言 各位玩 NAS 的朋友好,我是星哥!...
    星哥带你玩飞牛NAS-3:安装飞牛NAS后的很有必要的操作

    星哥带你玩飞牛NAS-3:安装飞牛NAS后的很有必要的操作

    星哥带你玩飞牛 NAS-3:安装飞牛 NAS 后的很有必要的操作 前言 如果你已经有了飞牛 NAS 系统,之前...
    我把用了20年的360安全卫士卸载了

    我把用了20年的360安全卫士卸载了

    我把用了 20 年的 360 安全卫士卸载了 是的,正如标题你看到的。 原因 偷摸安装自家的软件 莫名其妙安装...
    再见zabbix!轻量级自建服务器监控神器在Linux 的完整部署指南

    再见zabbix!轻量级自建服务器监控神器在Linux 的完整部署指南

    再见 zabbix!轻量级自建服务器监控神器在 Linux 的完整部署指南 在日常运维中,服务器监控是绕不开的...
    飞牛NAS中安装Navidrome音乐文件中文标签乱码问题解决、安装FntermX终端

    飞牛NAS中安装Navidrome音乐文件中文标签乱码问题解决、安装FntermX终端

    飞牛 NAS 中安装 Navidrome 音乐文件中文标签乱码问题解决、安装 FntermX 终端 问题背景 ...
    阿里云CDN
    阿里云CDN-提高用户访问的响应速度和成功率
    随机文章
    从“纸堆”到“电子化”文档:用这个开源系统打造你的智能文档管理系统

    从“纸堆”到“电子化”文档:用这个开源系统打造你的智能文档管理系统

    从“纸堆”到“电子化”文档:用这个开源系统打造你的智能文档管理系统 大家好,我是星哥。公司的项目文档存了一堆 ...
    4盘位、4K输出、J3455、遥控,NAS硬件入门性价比之王

    4盘位、4K输出、J3455、遥控,NAS硬件入门性价比之王

      4 盘位、4K 输出、J3455、遥控,NAS 硬件入门性价比之王 开篇 在 NAS 市场中,威...
    让微信公众号成为 AI 智能体:从内容沉淀到智能问答的一次升级

    让微信公众号成为 AI 智能体:从内容沉淀到智能问答的一次升级

    让微信公众号成为 AI 智能体:从内容沉淀到智能问答的一次升级 大家好,我是星哥,之前写了一篇文章 自己手撸一...
    星哥带你玩飞牛NAS-3:安装飞牛NAS后的很有必要的操作

    星哥带你玩飞牛NAS-3:安装飞牛NAS后的很有必要的操作

    星哥带你玩飞牛 NAS-3:安装飞牛 NAS 后的很有必要的操作 前言 如果你已经有了飞牛 NAS 系统,之前...
    自己手撸一个AI智能体—跟创业大佬对话

    自己手撸一个AI智能体—跟创业大佬对话

    自己手撸一个 AI 智能体 — 跟创业大佬对话 前言 智能体(Agent)已经成为创业者和技术人绕...

    免费图片视频管理工具让灵感库告别混乱

    一言一句话
    -「
    手气不错
    每天一个好玩的网站-手机博物馆-CHAZ 3D Experience

    每天一个好玩的网站-手机博物馆-CHAZ 3D Experience

    每天一个好玩的网站 - 手机博物馆 -CHAZ 3D Experience 一句话介绍:一个用 3D 方式重温...
    把小米云笔记搬回家:飞牛 NAS 一键部署,小米云笔记自动同步到本地

    把小米云笔记搬回家:飞牛 NAS 一键部署,小米云笔记自动同步到本地

    把小米云笔记搬回家:飞牛 NAS 一键部署,小米云笔记自动同步到本地 大家好,我是星哥,今天教大家在飞牛 NA...
    星哥带你玩飞牛NAS硬件03:五盘位+N5105+双网口的成品NAS值得入手吗

    星哥带你玩飞牛NAS硬件03:五盘位+N5105+双网口的成品NAS值得入手吗

    星哥带你玩飞牛 NAS 硬件 03:五盘位 +N5105+ 双网口的成品 NAS 值得入手吗 前言 大家好,我...
    让微信公众号成为 AI 智能体:从内容沉淀到智能问答的一次升级

    让微信公众号成为 AI 智能体:从内容沉淀到智能问答的一次升级

    让微信公众号成为 AI 智能体:从内容沉淀到智能问答的一次升级 大家好,我是星哥,之前写了一篇文章 自己手撸一...
    免费无广告!这款跨平台AI RSS阅读器,拯救你的信息焦虑

    免费无广告!这款跨平台AI RSS阅读器,拯救你的信息焦虑

      免费无广告!这款跨平台 AI RSS 阅读器,拯救你的信息焦虑 在算法推荐主导信息流的时代,我们...