我们专注攀枝花网站设计 攀枝花网站制作 攀枝花网站建设
成都网站建设公司服务热线:400-028-6601

网站建设知识

十年网站开发经验 + 多家企业客户 + 靠谱的建站团队

量身定制 + 运营维护+专业推广+无忧售后,网站问题一站解决

如何进行MySQL批量insert效率对比-创新互联

这篇文章给大家介绍如何进行MySQL批量insert效率对比,内容非常详细,感兴趣的小伙伴们可以参考借鉴,希望对大家能有所帮助。

创新互联专注为客户提供全方位的互联网综合服务,包含不限于成都网站设计、成都网站建设、丰林网络推广、微信小程序定制开发、丰林网络营销、丰林企业策划、丰林品牌公关、搜索引擎seo、人物专访、企业宣传片、企业代运营等,从售前售中售后,我们都将竭诚为您服务,您的肯定,是我们大的嘉奖;创新互联为所有大学生创业者提供丰林建站搭建服务,24小时服务热线:18982081108,官方网址:www.cdcxhl.com

MySQL批量insert效率对比

事例如下:
 [root@BDMYSQL-200-104 dumpdir]# more phone_area_new.sql 
INSERT INTO `phone_area_new` VALUES ('1302357', '江苏省', '江苏-南通', '南通');
INSERT INTO `phone_area_new` VALUES ('1302358', '江苏省', '江苏-南通', '南通');
INSERT INTO `phone_area_new` VALUES ('1302359', '江苏省', '江苏-南通', '南通');
INSERT INTO `phone_area_new` VALUES ('1302360', '浙江省', '浙江杭州', '杭州');
INSERT INTO `phone_area_new` VALUES ('1302361', '浙江省', '浙江杭州', '杭州');
INSERT INTO `phone_area_new` VALUES ('1302362', '浙江省', '浙江杭州', '杭州');
INSERT INTO `phone_area_new` VALUES ('1302363', '浙江省', '浙江杭州', '杭州');
INSERT INTO `phone_area_new` VALUES ('1302364', '浙江省', '浙江杭州', '杭州');
INSERT INTO `phone_area_new` VALUES ('1302365', '浙江省', '浙江杭州', '杭州');
INSERT INTO `phone_area_new` VALUES ('1302366', '浙江省', '浙江杭州', '杭州');
INSERT INTO `phone_area_new` VALUES ('1301743', '贵州省', '贵州-贵阳', '贵阳');
INSERT INTO `phone_area_new` VALUES ('1301744', '贵州省', '贵州-安顺', '安顺');
INSERT INTO `phone_area_new` VALUES ('1301745', '贵州省', '贵州-贵阳', '贵阳');
INSERT INTO `phone_area_new` VALUES ('1301746', '贵州省', '贵州-贵阳', '贵阳');
INSERT INTO `phone_area_new` VALUES ('1301747', '贵州省', '贵州-贵阳', '贵阳');
INSERT INTO `phone_area_new` VALUES ('1301748', '贵州省', '贵州-贵阳', '贵阳');
INSERT INTO `phone_area_new` VALUES ('1301749', '贵州省', '贵州-遵义', '遵义');
INSERT INTO `phone_area_new` VALUES ('1301750', '河南省', '河南-焦作', '焦作');
--More--(0%)
行数大概有271255行:
 [root@BDMYSQL-200-104 dumpdir]# wc -l phone_area_new.sql
271255 phone_area_new.sql
如果不合并insert大概需要3个小时左右才导入完,这样很悲剧,现在我们针对合并数量进行对比

1. 全并1000条数据 首先进行文本处理

 [root@BDMYSQL-200-104 dumpdir]#  sed ':a;N;s/;\r\?\n[^(]*/,/;0~1000!ba' phone_area_new.sql >mm.sql

清除表中数据

 system@localhost 21:01:  [netdata]> truncate table phone_area_new;
Query OK, 0 rows affected (0.20 sec)

测试导入数据

 [root@BDMYSQL-200-104 dumpdir]#  time mysql netdata

速度惊人,尽然只需要19S 2. 全并5000条数据 操作之前需要清理数据

 system@localhost 21:01:  [netdata]> truncate table phone_area_new;
Query OK, 0 rows affected (0.20 sec)

合并数据

 [root@BDMYSQL-200-104 dumpdir]#  sed ':a;N;s/;\r\?\n[^(]*/,/;0~5000!ba' phone_area_new.sql >mm.sql

测试导入数据

 [root@BDMYSQL-200-104 dumpdir]# time mysql netdata

竟然只要8S,还能不能更快 2. 全并7000条数据 操作之前需要清理数据

 system@localhost 22:16:  [netdata]> truncate table phone_area_new;
Query OK, 0 rows affected (0.24 sec)

合并数据

 [root@BDMYSQL-200-104 dumpdir]#  sed ':a;N;s/;\r\?\n[^(]*/,/;0~7000!ba' phone_area_new.sql >mm.sql

注释这里做合并花了十几秒 导入数据

 [root@BDMYSQL-200-104 dumpdir]#  time mysql netdata

7S,还能不能更快 2. 全并8000条数据 操作之前需要清理数据

 system@localhost 22:20:  [netdata]> truncate table phone_area_new;
Query OK, 0 rows affected (0.20 sec)

合并数据

 [root@BDMYSQL-200-104 dumpdir]#  sed ':a;N;s/;\r\?\n[^(]*/,/;0~8000!ba' phone_area_new.sql >mm.sql

导入数据

 [root@BDMYSQL-200-104 dumpdir]# time mysql netdata
批量提交数跟硬件IO性能有很大关系,硬件IO越好批量提交数可以设置高点

关于如何进行MySQL批量insert效率对比就分享到这里了,希望以上内容可以对大家有一定的帮助,可以学到更多知识。如果觉得文章不错,可以把它分享出去让更多的人看到。


网页名称:如何进行MySQL批量insert效率对比-创新互联
网站路径:http://mswzjz.cn/article/dejodc.html

其他资讯