阿里云-云小站(无限量代金券发放中)
【腾讯云】云服务器、云数据库、COS、CDN、短信等热卖云产品特惠抢购

MySQL Insert语句单个批次数量过多导致的CPU性能问题分析

441次阅读
没有评论

共计 1259 个字符,预计需要花费 4 分钟才能阅读完成。

【问题】

最近有台服务器比较频繁的 CPU 报警,表现的特征有 CPU sys 占比偏高,大量慢查询,大量并发线程堆积。后面开发对 insert 的相关业务限流后,服务器性能恢复正常。

【异常期间线程处理情况】

下图是当时生产环境异常时抓取的信息,该事务正在执行 insert,已经执行 5 秒,线程运行在 innodb 内核,状态是 thread declared inside InnoDB,还有 4906 tickets 可用

 MySQL Insert 语句单个批次数量过多导致的 CPU 性能问题分析

统计了下有 64 个线程在 innodb 层,同时看到还有 280 个线程在排队等待进入 innodb 线程,状态是 sleeping before entering InnoDB

innodb 层的并发线程执行的 SQL 比较慢,产生了阻塞,导致了 MySQL 的并发线程堆积。

【哪些 SQL 执行慢】

从正在执行的 SQL 中,看到了 insert 的慢查询 SQL 语句,统计了下这句 SQL 批量插入大于 342 条记录 (SQL 被截断)

【批量 insert 的性能测试】

类似这种批量的 insert SQL 会对 MySQL 性能造成影响吗,多大的批次比较合理呢,做了下面测试

在测试服务器上新建测试表(表结构同生产环境),并定义了 5 个插入脚本,分别为单条 insert,每 10 条 1 个批次 insert,每 50 条 1 个批次 insert,每 100 条 1 个批次 insert,每 340 条 1 个批次 insert

用压测工具模拟 512 个并发线程的情况下,不同类型的 SQL 插入 100W 条记录服务器的性能情况,下表是压测统计

 

数据量

并发线程

执行时间(秒)

每秒 insert

慢查询数量

Context switch

CPU 使用率

CPU sys 占比

普通 insert(1 条)

1000000

512

33

3W

0

79W

73%

39%

批量 SQL(10 条)

1000000

512

23

4.3W

0

49W

78%

56%

批量 SQL(50 条)

1000000

512

21

4.7W

0

42W

80%

60%

批量 SQL(100 条)

1000000

512

15

6.6W

20

53W

70%

45%

批量 SQL(340 条)

1000000

512

15

6.6W

200

38W

86%

70%

 

下图是批量 SQL(340 条)执行时的性能情况,可以看到当每 100 条记录一个批次执行 insert 时,开始出现慢查询,每 340 条 1 个批次执行 insert 时,在高并发的情况下,会产生大量的慢查询,这个现象接近于我们目前生产环境异常时的情况

 MySQL Insert 语句单个批次数量过多导致的 CPU 性能问题分析

【优化方案】

对于 MySQL 需要插入大量数据时,每次单条的 insert 性能较差,为了提升 insert 性能,我们采用了每批次多条记录同时 insert 的方法。

但当批次增大到一定数量时,在高并发访问的情况下,单个批次执行的性能会出现较大的下降,出现大量慢查询,并发线程堆积,CPU 上升出现瓶颈,innodb 层的并发线程处理被慢查询阻塞,后面只能通过限流来缓解性能问题。

根据上面的测试结论, 建议控制热表单个批次 insert 的记录条数,最好单个批次控制在 10 条左右 (因为即使调大到 50 条,插入性能没有大的提升,在高并发场景下,首先要保证当前 SQL 的执行性能)。

【优化后 CPU 告警消失,运行平稳】

MySQL Insert 语句单个批次数量过多导致的 CPU 性能问题分析

正文完
星哥玩云-微信公众号
post-qrcode
 0
星锅
版权声明:本站原创文章,由 星锅 于2022-01-22发表,共计1259字。
转载说明:除特殊说明外本站文章皆由CC-4.0协议发布,转载请注明出处。
【腾讯云】推广者专属福利,新客户无门槛领取总价值高达2860元代金券,每种代金券限量500张,先到先得。
阿里云-最新活动爆款每日限量供应
评论(没有评论)
验证码
【腾讯云】云服务器、云数据库、COS、CDN、短信等云产品特惠热卖中

星哥玩云

星哥玩云
星哥玩云
分享互联网知识
用户数
4
文章数
19348
评论数
4
阅读量
7805189
文章搜索
热门文章
开发者必备神器:阿里云 Qoder CLI 全面解析与上手指南

开发者必备神器:阿里云 Qoder CLI 全面解析与上手指南

开发者必备神器:阿里云 Qoder CLI 全面解析与上手指南 大家好,我是星哥。之前介绍了腾讯云的 Code...
星哥带你玩飞牛NAS-6:抖音视频同步工具,视频下载自动下载保存

星哥带你玩飞牛NAS-6:抖音视频同步工具,视频下载自动下载保存

星哥带你玩飞牛 NAS-6:抖音视频同步工具,视频下载自动下载保存 前言 各位玩 NAS 的朋友好,我是星哥!...
云服务器部署服务器面板1Panel:小白轻松构建Web服务与面板加固指南

云服务器部署服务器面板1Panel:小白轻松构建Web服务与面板加固指南

云服务器部署服务器面板 1Panel:小白轻松构建 Web 服务与面板加固指南 哈喽,我是星哥,经常有人问我不...
我把用了20年的360安全卫士卸载了

我把用了20年的360安全卫士卸载了

我把用了 20 年的 360 安全卫士卸载了 是的,正如标题你看到的。 原因 偷摸安装自家的软件 莫名其妙安装...
星哥带你玩飞牛NAS-3:安装飞牛NAS后的很有必要的操作

星哥带你玩飞牛NAS-3:安装飞牛NAS后的很有必要的操作

星哥带你玩飞牛 NAS-3:安装飞牛 NAS 后的很有必要的操作 前言 如果你已经有了飞牛 NAS 系统,之前...
阿里云CDN
阿里云CDN-提高用户访问的响应速度和成功率
随机文章
240 元左右!五盘位 NAS主机,7 代U硬解4K稳如狗,拓展性碾压同价位

240 元左右!五盘位 NAS主机,7 代U硬解4K稳如狗,拓展性碾压同价位

  240 元左右!五盘位 NAS 主机,7 代 U 硬解 4K 稳如狗,拓展性碾压同价位 在 NA...
这个开源软件130k的star数!让电脑轻松管理安卓手机的神器

这个开源软件130k的star数!让电脑轻松管理安卓手机的神器

这个开源软件 130k 的 star 数!让电脑轻松管理安卓手机的神器 大家好,我是星哥。今天给大家安利一款宝...
星哥带你玩飞牛NAS-5:飞牛NAS中的Docker功能介绍

星哥带你玩飞牛NAS-5:飞牛NAS中的Docker功能介绍

星哥带你玩飞牛 NAS-5:飞牛 NAS 中的 Docker 功能介绍 大家好,我是星哥,今天给大家带来如何在...
星哥带你玩飞牛NAS硬件 01:捡垃圾的最爱双盘,暴风二期矿渣为何成不老神话?

星哥带你玩飞牛NAS硬件 01:捡垃圾的最爱双盘,暴风二期矿渣为何成不老神话?

星哥带你玩飞牛 NAS 硬件 01:捡垃圾的最爱双盘,暴风二期矿渣为何成不老神话? 前言 在选择 NAS 用预...
星哥带你玩飞牛NAS-2:飞牛配置RAID磁盘阵列

星哥带你玩飞牛NAS-2:飞牛配置RAID磁盘阵列

星哥带你玩飞牛 NAS-2:飞牛配置 RAID 磁盘阵列 前言 大家好,我是星哥之前星哥写了《星哥带你玩飞牛 ...

免费图片视频管理工具让灵感库告别混乱

一言一句话
-「
手气不错
你的云服务器到底有多强?宝塔跑分告诉你

你的云服务器到底有多强?宝塔跑分告诉你

你的云服务器到底有多强?宝塔跑分告诉你 为什么要用宝塔跑分? 宝塔跑分其实就是对 CPU、内存、磁盘、IO 做...
星哥带你玩飞牛NAS-6:抖音视频同步工具,视频下载自动下载保存

星哥带你玩飞牛NAS-6:抖音视频同步工具,视频下载自动下载保存

星哥带你玩飞牛 NAS-6:抖音视频同步工具,视频下载自动下载保存 前言 各位玩 NAS 的朋友好,我是星哥!...
星哥带你玩飞牛NAS-11:咪咕视频订阅部署全攻略

星哥带你玩飞牛NAS-11:咪咕视频订阅部署全攻略

星哥带你玩飞牛 NAS-11:咪咕视频订阅部署全攻略 前言 在家庭影音系统里,NAS 不仅是存储中心,更是内容...
支付宝、淘宝、闲鱼又双叕崩了,Cloudflare也瘫了连监控都挂,根因藏在哪?

支付宝、淘宝、闲鱼又双叕崩了,Cloudflare也瘫了连监控都挂,根因藏在哪?

支付宝、淘宝、闲鱼又双叕崩了,Cloudflare 也瘫了连监控都挂,根因藏在哪? 最近两天的互联网堪称“故障...
三大开源投屏神器横评:QtScrcpy、scrcpy、escrcpy 谁才是跨平台控制 Android 的最优解?

三大开源投屏神器横评:QtScrcpy、scrcpy、escrcpy 谁才是跨平台控制 Android 的最优解?

  三大开源投屏神器横评:QtScrcpy、scrcpy、escrcpy 谁才是跨平台控制 Andr...