|
|
51CTO旗下网站
|
|
移动端

来,看看MySQL插入速度能有50W每秒吗

MySQL每秒可以插入50w条记录吗? 带着疑问,我们一起看看mysql每秒可以插入多少条记录? 要回答这个问题,首先要考虑影响mysql插入速度的因素有哪些?

作者:一起web编程来源:今日头条|2020-06-30 15:50

来,看看mysql插入速度能有50w每秒吗

写入速度

  • MySQL每秒可以插入50w条记录吗?
  • 带着疑问,我们一起看看mysql每秒可以插入多少条记录?
  • 要回答这个问题,首先要考虑影响mysql插入速度的因素有哪些?

硬盘的速度,网卡的速度,写入行的数据量,数据在硬盘中的存放位置等等因素。

简单的数据,插入速度肯定快,复杂的插入肯定慢。

所以单纯这个问题不好回答,最好的办法是进行压力测试,最后求一个平均值。

一 测试环境:

MySQL表结构

  1. CREATE TABLE `user_10w` ( 
  2.   `id` int(10) NOT NULL AUTO_INCREMENT, 
  3.   `namevarchar(20) DEFAULT NULL
  4.   `mobile` varchar(11) DEFAULT NULL
  5.   `add_time` int(11) DEFAULT NULL
  6.   `groupid` tinyint(1) DEFAULT NULL
  7.   `login_time` int(11) DEFAULT NULL
  8.   PRIMARY KEY (`id`) 
  9. ) ENGINE=MyISAM AUTO_INCREMENT=4730016 DEFAULT CHARSET=utf8mb4 

电脑配置

4核 Intel(R) Core(TM) i3-8100 CPU @ 3.60GHz

ssd 120G硬盘

二. 开始测试

说明:单机测试,不涉及网卡,网络传输的影响

测试程序php pdo

  1. include_once("tool.php"); 
  2. $dsn = 'mysql:dbname=demo;host=127.0.0.1'
  3. $user = 'root'
  4. $pass = 'root'
  5. try{ 
  6.         $hand = new PDO($dsn, $user, $pass); 
  7. }catch(PDOException $e){ 
  8.         echo 'Connection failed: ' . $e->getMessage(); 
  9. $query = $hand->prepare("insert into user_10w(name,mobile,add_time,groupid,last_login_time) values(?,?,?,?,?)"); 
  10. $n=0; 
  11. $count = 1000000; //每次插入100w 
  12. $t = time(); 
  13. echo 'start write,time is '. $t. "\n"
  14. while(true){ 
  15. $n++; 
  16. $name = Tool::getRandomStr(5); 
  17. $mobile = Tool::getRandNum(9); 
  18. $group = Tool::getRandNum(1); 
  19. $rs = $query->execute([$name,'13'.$mobile,time(),$group,time()]); 
  20. if($n>$count)break; 
  21. echo 'write end, time is '. (time()-$t) . "\n"

1.无任何索引,单进程

  1. start write,time is 1593338798 
  2. write endtime is 50 

耗时50s, 平均2w/秒

2. 给name添加普通索引

  1. write endtime is 60  
  2. root@test:/data/php# php7 pdo.php  
  3. start write,time is 1593393695  
  4. write endtime is 61 

大概慢了10s ,所以索引会导致插入变慢,因为要更新索引

来,看看mysql插入速度能有50w每秒吗
负载

3. 多进程测试

用go写了一个简单的多进程执行程序

  1. package main 
  2.  
  3. import( 
  4.         "os/exec" 
  5.         "sync" 
  6. var wg sync.WaitGroup 
  7. func testRun(wg *sync.WaitGroup){ 
  8.         c := exec.Command("php7""./pdo.php"
  9.         c.Run() 
  10.         wg.Done() 
  11. func main(){ 
  12.         var n int = 10 
  13.         wg.Add(n) 
  14.         for i:=0;i<n;i++{ 
  15.                 go testRun(&wg) 
  16.         } 
  17.         wg.Wait(); 
来,看看mysql插入速度能有50w每秒吗
4进程负载

结果:

耗时115s ,插入速度平均3.4w/s

MySQL锁表状态

来,看看mysql插入速度能有50w每秒吗
mysql status

10进程一起执行

来,看看mysql插入速度能有50w每秒吗
10进程

耗时5‘10“ ,插入速度大概3.2w/s

MySQL锁表状态

来,看看mysql插入速度能有50w每秒吗
MySQL status

最后:

  • 可见,插入速度并没有网上说的那么高,随着进程数增多,锁冲突逐渐增加,插入效率下降。
  • 通过存储过程批量进行插入 ,插入速度应该会更高,但在实际高并发应用中使用并不多!
  • 抛开业务,单纯测这个好像没什么意义,一定要结合业务复杂度,性能需求来做测试,做优化。
  • 通过分布式、拆表提高并发量。

不足之处,请各位指正。

【编辑推荐】

  1. 日均7亿交易量,为什么我们要用MySQL?
  2. 后端开发必备的MySQL日志文件知识点
  3. 把MySQL中的各种锁及其原理都画出来
  4. 快速解“锁”MySQL,拿下这7把钥匙,便能撬倒面试官
  5. Mysql 单表适合的数据量是多少?如何优化其性能?
【责任编辑:未丽燕 TEL:(010)68476606】

点赞 0
分享:
大家都在看
猜你喜欢

订阅专栏+更多

大数据安全运维实战

大数据安全运维实战

CDH+Ambari
共20章 | cs312779641

72人订阅学习

实操案例:Jenkins持续交付和持续部署

实操案例:Jenkins持续交付和持续部署

微服务架构下的自动化部署
共18章 | freshman411

174人订阅学习

思科交换网络安全指南

思科交换网络安全指南

安全才能无忧
共5章 | 思科小牛

102人订阅学习

订阅51CTO邮刊

点击这里查看样刊

订阅51CTO邮刊

51CTO服务号

51CTO官微