|
|
51CTO旗下网站
|
|
移动端

通过mysqlslap与sysbench对MySQL进行压测

mysqlslap为mysql性能优化前后提供了直观的验证依据,系统运维和DBA人员应该掌握一些常见的压力测试工具,才能准确的掌握线上数据库支撑的用户流量上限及其抗压性等问题。

作者:张九冫来源:马哥Linux运维|2020-06-17 08:55

mysqlslap是mysql自带的基准测试工具,该工具查询数据,语法简单,灵活容易使用.该工具可以模拟多个客户端同时并发的向服务器发出查询更新,给出了性能测试数据而且提供了多种引擎的性能比较。mysqlslap为mysql性能优化前后提供了直观的验证依据,系统运维和DBA人员应该掌握一些常见的压力测试工具,才能准确的掌握线上数据库支撑的用户流量上限及其抗压性等问题。

更改其默认的最大连接数

在对MySQL进行压力测试之前,需要更改其默认的最大连接数,如下:

  1. [root@mysql ~]# vim /etc/my.cnf   
  2. ................  
  3. [mysqld]  
  4. max_connections=1024  
  5. [root@mysql ~]# systemctl restart mysqld 

登录MySQL查看最大连接数是否生效

  1. #查看最大连接数  
  2. mysql> show variables like 'max_connections';  
  3. +-----------------+-------+  
  4. | Variable_name   | Value |  
  5. +-----------------+-------+  
  6. | max_connections | 1024  |  
  7. +-----------------+-------+  
  8. 1 row in set (0.00 sec) 

进行压力测试:

  1. [root@mysql ~]# mysqlslap --defaults-file=/etc/my.cnf --concurrency=100,200 --iterations=1 --number-int-cols=20 --number-char-cols=30 --auto-generate-sql --auto-generate-sql-add-autoincrement --auto-generate-sql-load-type=mixed --engine=myisam,innodb --number-of-queries=2000 -uroot -p123 --verbose 

上述命令测试说明:

模拟测试两次读写并发,第一次100,第二次200,自动生成SQL脚本,测试表包含20个init字段,30 个char字段,每次执行2000查询请求。测试引擎分别是myisam,innodb。(上述选项中有很多都是默认值,可以省略,如果想要了解各个选项的解释,可以使用mysqlslap --help进行查询)

上述命令返回结果如下:

测试结果说明:Myisam第一次100客户端同时发起增查用0.557/s,第二次200客户端同时发起增查用0.522/s Innodb第一次100客户端同时发起增查用0.256/s,第二次200客户端同时发起增查用0.303/s 。

可以根据实际需求,一点点的加大并发数量进行压力测试。

使用第三方sysbench工具进行压力测试

安装sysbench工具

  1. [root@mysql ~]# yum -y install epel-release     #安装第三方epel源  
  2. [root@mysql ~]# yum -y install sysbench            #安装sysbench工具  
  3. [root@mysql ~]# sysbench --version           #确定工具已安装  
  4. sysbench 1.0.17 

sysbench 可以进行以下测试:

  1. 1. CPU 运算性能测试  
  2. 2. 磁盘 IO 性能测试  
  3. 3. 调度程序性能测试  
  4. 4. 内存分配及传输速度测试  
  5. 5. POSIX 线程性能测试  
  6. 6. 数据库性能测试(OLTP 基准测试,需要通过 /usr/share/sysbench/ 目录中的 Lua 脚本执行,例如 oltp_read_only.lua 脚本执行只读测试)  
  7. 7. sysbench 还可以通过运行命令时指定自己的 Lua 脚本来自定义测试。 

查看sysbench工具的帮助选项

  1. [root@mysql ~]# sysbench --help  
  2. Usage:  
  3.   sysbench [options]... [testname] [command]  
  4. Commands implemented by most tests: prepare run cleanup help # 可用的命令,四个  
  5. General options:            # 通用选项  
  6.   --threads=N                     要使用的线程数,默认 1 个 [1]  
  7.   --events=N                      最大允许的事件个数 [0]  
  8.   --time=N                        最大的总执行时间,以秒为单位 [10]  
  9.   --forced-shutdown=STRING        在 --time 时间限制到达后,强制关闭之前等待的秒数,默认“off”禁用(number of seconds to wait after the --time limit before forcing shutdown, or 'off' to disable) [off] 
  10.    --thread-stack-size=SIZE        每个线程的堆栈大小 [64K]  
  11.   --rate=N                        平均传输速率。0 则无限制 [0] 
  12.   --report-interval=N             以秒为单位定期报告具有指定间隔的中间统计信息 0 禁用中间报告 [0]  
  13.   --report-checkpoints=[LIST,...] 转储完整的统计信息并在指定的时间点重置所有计数器。参数是一个逗号分隔的值列表,表示从测试开始经过这个时间量时必须执行报告检查点(以秒为单位)。报告检查点默认关闭。 [] 
  14.   --debug[=on|off]                打印更多 debug 信息 [off]  
  15.   --validate[=on|off]             尽可能执行验证检查 [off]  
  16.   --help[=on|off]                 显示帮助信息并退出 [off]  
  17.   --version[=on|off]              显示版本信息并退出 [off]  
  18.   --config-file=FILENAME          包含命令行选项的文件  
  19.   --tx-rate=N                     废弃,改用 --rate [0]  
  20.   --max-requests=N                废弃,改用 --events [0]  
  21.   --max-time=N                    废弃,改用 --time [0]  
  22.   --num-threads=N                 废弃,改用 --threads [1]  
  23. Pseudo-Random Numbers Generator options:    # 伪随机数发生器选项  
  24.   --rand-type=STRING random numbers distribution {uniform,gaussian,special,pareto} [special]  
  25.   --rand-spec-iter=N number of iterations used for numbers generation [12]  
  26.   --rand-spec-pct=N  percentage of values to be treated as 'special' (for special distribution) [1]  
  27.   --rand-spec-res=N  percentage of 'special' values to use (for special distribution) [75]  
  28.   --rand-seed=N      seed for random number generator. When 0, the current time is used as a RNG seed. [0]  
  29.   --rand-pareto-h=N  parameter h for pareto distribution [0.2]  
  30. Log options:    # 日志选项 
  31.   --verbosity=N verbosity level {5 - debug, 0 - only critical messages} [3]  
  32.   --percentile=N       percentile to calculate in latency statistics (1-100). Use the special value of 0 to disable percentile calculations [95]  
  33.   --histogram[=on|off] print latency histogram in report [off]  
  34. General database options:   # 通用的数据库选项  
  35.   --db-driver=STRING  指定要使用的数据库驱动程序 ('help' to get list of available drivers)  
  36.   --db-ps-mode=STRING prepared statements usage mode {auto, disable} [auto]  
  37.   --db-debug[=on|off] print database-specific debug information [off]  
  38. Compiled-in database drivers:   # 內建的数据库驱动程序,默认支持 MySQL 和 PostgreSQL  
  39.   mysql - MySQL driver  
  40.   pgsql - PostgreSQL driver  
  41. mysql options:              # MySQL 数据库专用选项  
  42.   --mysql-host=[LIST,...]          MySQL server host [localhost]  
  43.   --mysql-port=[LIST,...]          MySQL server port [3306]  
  44.   --mysql-socket=[LIST,...]        MySQL socket  
  45.   --mysql-user=STRING              MySQL user [sbtest]  
  46.   --mysql-password=STRING          MySQL password []  
  47.   --mysql-db=STRING                MySQL database name [sbtest]  
  48.   --mysql-ssl[=on|off]             use SSL connections, if available in the client library [off]  
  49.   --mysql-ssl-cipher=STRING        use specific cipher for SSL connections []  
  50.   --mysql-compression[=on|off]     use compression, if available in the client library [off]  
  51.   --mysql-debug[=on|off]           trace all client library calls [off]  
  52.   --mysql-ignore-errors=[LIST,...] list of errors to ignore, or "all" [1213,1020,1205]  
  53.   --mysql-dry-run[=on|off]         Dry run, pretend that all MySQL client API calls are successful without executing them [off]  
  54. pgsql options:              # PostgreSQL 数据库专用选项  
  55.   --pgsql-host=STRING     PostgreSQL server host [localhost]  
  56.   --pgsql-port=N          PostgreSQL server port [5432]  
  57.   --pgsql-user=STRING     PostgreSQL user [sbtest]  
  58.   --pgsql-password=STRING PostgreSQL password []  
  59.   --pgsql-db=STRING       PostgreSQL database name [sbtest]  
  60. Compiled-in tests:          # 內建测试类型  
  61.   fileio - File I/O test  
  62.   cpu - CPU performance test  
  63.   memory - Memory functions speed test  
  64.   threads - Threads subsystem performance test  
  65.   mutex - Mutex performance test  
  66. See 'sysbench <testname> help' for a list of options for each test. 

sysbench测试MySQL数据库性能

1.准备测试数据

  1. #查看sysbench自带的lua脚本使用方法  
  2. [root@mysql ~]# sysbench /usr/share/sysbench/oltp_common.lua help  
  3. #必须创建sbtest库,sbtest事sysbench默认使用的库名  
  4. [root@mysql ~]# mysqladmin -uroot -p123 create sbtest;  
  5. #然后,准备测试所用的表,这些测试表放在测试库sbtest中。这里使用的lua脚本为/usr/share/sysbench/oltp_common.lua  
  6. [root@mysql ~]# sysbench --mysql-host=127.0.0.1 \  
  7. --mysql-port=3306 \  
  8. --mysql-user=root \  
  9. --mysql-password=123 \  
  10. /usr/share/sysbench/oltp_common.lua \  
  11. --tables=10 \  
  12. --table_size=100000 \  
  13. prepare  
  14. #其中--tables=10表示创建10个测试表,  
  15. #--table_size=100000表示每个表中插入10W行数据,  
  16. #prepare表示这是准备数的过程。 

2.确认测试数据以存在

  1. [root@mysql ~]# mysql -uroot  -p123 sbtest;        #登录到sbtest库  
  2. mysql> show tables;           #查看相应的表  
  3. +------------------+  
  4. | Tables_in_sbtest |  
  5. +------------------+  
  6. | sbtest1          |  
  7. | sbtest10         |  
  8. | sbtest2          |  
  9. | sbtest3          |  
  10. | sbtest4          |  
  11. | sbtest5          |  
  12. | sbtest6          |  
  13. | sbtest7          |  
  14. | sbtest8          |  
  15. | sbtest9          |  
  16. +------------------+  
  17. 10 rows in set (0.00 sec)  
  18. mysql> select count(*) from sbtest1;        #随机选择一个表,确认其有100000条数据  
  19. +----------+  
  20. | count(*) |  
  21. +----------+  
  22. |   100000 |  
  23. +----------+  
  24. 1 row in set (0.01 sec) 

3.数据库测试和结果分析

稍微修改下之前准备数据的语句,就可以拿来测试了。需要注意的是,之前使用的lua脚本为oltp_common.lua,它是一个通用脚本,是被其它lua脚本调用的,它不能直接拿来测试。所以,我这里用oltp_read_write.lua脚本来做读、写测试。还有很多其它类型的测试,比如只读测试、只写测试、删除测试、大批量插入测试等等。可找到对应的lua脚本进行调用即可。

  1. #执行测试命令如下:  
  2. [root@mysql ~]# sysbench --threads=4 \  
  3. --time=20 \  
  4.  --report-interval=5 \  
  5.  --mysql-host=127.0.0.1 \  
  6. --mysql-port=3306 \  
  7. --mysql-user=root \  
  8. --mysql-password=123 \  
  9. /usr/share/sysbench/oltp_read_write.lua \  
  10. --tables=10 \  
  11.  --table_size=100000 \  
  12. run 

上述命令返回的结果如下:

  1. [root@mysql ~]# sysbench --threads=4 --time=20  --report-interval=5  --mysql-host=127.0.0.1 --mysql-port=3306 --mysql-user=root --mysql-password=123 /usr/share/sysbench/oltp_read_write.lua --tables=10  --table_size=100000 run 
  2. sysbench 1.0.17 (using system LuaJIT 2.0.4)  
  3. Running the test with following options:  
  4. Number of threads: 4  
  5. Report intermediate results every 5 second(s)  
  6. Initializing random number generator from current time  
  7. Initializing worker threads...  
  8. Threads started!  
  9. #以下是每5秒返回一次的结果,统计的指标包括:  
  10. # 线程数、tps(每秒事务数)、qps(每秒查询数)、  
  11. # 每秒的读/写/其它次数、延迟、每秒错误数、每秒重连次数  
  12. [ 5s ] thds: 4 tps: 1040.21 qps: 20815.65 (r/w/o: 14573.17/4161.25/2081.22) lat (ms,95%): 7.17 err/s: 0.00 reconn/s: 0.00  
  13. [ 10s ] thds: 4 tps: 1083.34 qps: 21667.15 (r/w/o: 15165.93/4334.55/2166.68) lat (ms,95%): 6.55 err/s: 0.00 reconn/s: 0.00  
  14. [ 15s ] thds: 4 tps: 1121.57 qps: 22429.09 (r/w/o: 15700.64/4485.30/2243.15) lat (ms,95%): 6.55 err/s: 0.00 reconn/s: 0.00  
  15. [ 20s ] thds: 4 tps: 1141.69 qps: 22831.98 (r/w/o: 15982.65/4566.16/2283.18) lat (ms,95%): 6.09 err/s: 0.00 reconn/s: 0.00  
  16. SQL statistics:  
  17.     queries performed:  
  18.         read:                            307146         # 执行的读操作数量  
  19.         write:                           87756            # 执行的写操作数量  
  20.         other:                           43878          # 执行的其它操作数量  
  21.         total:                           438780  
  22.     transactions:                        21939  (1096.57 per sec.)       # 执行事务的平均速率  
  23.     queries:                             438780 (21931.37 per sec.)        # 平均每秒能执行多少次查询  
  24.     ignored errors:                      0      (0.00 per sec.)  
  25.     reconnects:                          0      (0.00 per sec.)  
  26. General statistics:  
  27.     total time:                          20.0055s           # 总消耗时间  
  28.     total number of events:              21939          # 总请求数量(读、写、其它)  
  29. Latency (ms):  
  30.          min:                                    1.39  
  31.          avg:                                    3.64  
  32.          max:                                  192.05  
  33.          95th percentile:                        6.67          # 采样计算的平均延迟  
  34.          sum:                                79964.26  
  35. Threads fairness:  
  36.     events (avg/stddev):           5484.7500/15.12  
  37.     execution time (avg/stddev):   19.9911/0.00 

4.cpu/io/内存等测试 sysbench内置的几个测试指标如下:

  1. [root@mysql ~]# sysbench --help  
  2.       ..........  # 省略部分内容  
  3. Compiled-in tests:  
  4.   fileio - File I/O test  
  5.   cpu - CPU performance test  
  6.   memory - Memory functions speed test  
  7.   threads - Threads subsystem performance test  
  8.   mutex - Mutex performance test 

可以直接help输出测试方法,例如,fileio测试:

  1. [root@mysql ~]# sysbench fileio help  
  2. sysbench 1.0.17 (using system LuaJIT 2.0.4)  
  3. fileio options:  
  4.   --file-num=N                  number of files to create [128]  
  5.   --file-block-size=N           block size to use in all IO operations [16384]  
  6.   --file-total-size=SIZE        total size of files to create [2G]  
  7.   --file-test-mode=STRING       test mode {seqwr, seqrewr, seqrd, rndrd, rndwr, rndrw}  
  8.   --file-io-mode=STRING         file operations mode {sync,async,mmap} [sync]  
  9.   --file-async-backlog=N        number of asynchronous operatons to queue per thread [128]  
  10.   --file-extra-flags=[LIST,...] list of additional flags to use to open files {sync,dsync,direct} [] 
  11.   --file-fsync-freq=N           do fsync() after this number of requests (0 - don't use fsync()) [100]  
  12.   --file-fsync-all[=on|off]     do fsync() after each write operation [off]  
  13.   --file-fsync-end[=on|off]     do fsync() at the end of test [on]  
  14.   --file-fsync-mode=STRING      which method to use for synchronization {fsync, fdatasync} [fsync]  
  15.   --file-merged-requests=N      merge at most this number of IO requests if possible (0 - don't merge) [0]  
  16.   --file-rw-ratio=N             reads/writes ratio for combined test [1.5] 

5.测试io性能 例如,创建5个文件,总共2G,每个文件大概400M。

  1. [root@mysql ~]# sysbench fileio --file-num=5 --file-total-size=2G prepare  
  2. [root@mysql ~]# ll -lh test*  
  3. -rw------- 1 root root 410M May 26 16:05 test_file.0  
  4. -rw------- 1 root root 410M May 26 16:05 test_file.1  
  5. -rw------- 1 root root 410M May 26 16:05 test_file.2  
  6. -rw------- 1 root root 410M May 26 16:05 test_file.3  
  7. -rw------- 1 root root 410M May 26 16:05 test_file.4 

然后运行测试:

  1. [root@mysql ~]# sysbench --events=5000 \  
  2. --threads=16 \  
  3. fileio \  
  4. --file-num=5 \  
  5. --file-total-size=2G \  
  6. --file-test-mode=rndrw \ 
  7. --file-fsync-freq=0 \  
  8. --file-block-size=16384 \  
  9. run 

返回的结果如下:

  1. Running the test with following options:  
  2. Number of threads: 16  
  3. Initializing random number generator from current time  
  4. Extra file open flags: (none)  
  5. 5 files, 409.6MiB each  
  6. 2GiB total file size 
  7. Block size 16KiB  
  8. Number of IO requests: 5000  
  9. Read/Write ratio for combined random IO test: 1.50  
  10. Calling fsync() at the end of test, Enabled.  
  11. Using synchronous I/O mode  
  12. Doing random r/w test  
  13. Initializing worker threads...  
  14. Threads started!  
  15. File operations:  
  16.     reads/s:                      9899.03  
  17.     writes/s:                     6621.38  
  18.     fsyncs/s:                     264.33  
  19. Throughput:               # 吞吐量  
  20.     read, MiB/s:                  154.66      #表示读带宽  
  21.     written, MiB/s:               103.46     #表示写的带宽  
  22. General statistics:  
  23.     total time:                          0.3014s  
  24.     total number of events:              5000  
  25. Latency (ms):  
  26.          min:                                    0.00  
  27.          avg:                                    0.81  
  28.          max:                                   53.56  
  29.          95th percentile:                        4.10  
  30.          sum:                                 4030.48  
  31. Threads fairness:  
  32.     events (avg/stddev):           312.5000/27.64  
  33.     execution time (avg/stddev):   0.2519/0.02 

6.测试cpu性能

  1. [root@mysql ~]# sysbench cpu --threads=40 --events=10000 --cpu-max-prime=20000 run 

然后对返回结果进行分析

【编辑推荐】

  1. MySQL的死锁系列之锁的类型以及加锁原理
  2. MySQL 可重复读,差点就让我背上了一个 P0 事故!
  3. MySQL优化:定位慢查询的两种方法以及使用explain分析SQL
  4. 神仙打架:PG和MySQL到底哪个更好用?
  5. 悄悄告诉你 MySQL MGR 牛在哪?
【责任编辑:庞桂玉 TEL:(010)68476606】

点赞 0
分享:
大家都在看
猜你喜欢

订阅专栏+更多

实操案例:Jenkins持续交付和持续部署

实操案例:Jenkins持续交付和持续部署

微服务架构下的自动化部署
共18章 | freshman411

146人订阅学习

思科交换网络安全指南

思科交换网络安全指南

安全才能无忧
共5章 | 思科小牛

99人订阅学习

云计算从入门到上瘾

云计算从入门到上瘾

传统IT工程师的转型
共26章 | 51CTO阿森

256人订阅学习

订阅51CTO邮刊

点击这里查看样刊

订阅51CTO邮刊

51CTO服务号

51CTO官微