bitsCN.com
mysql高效导数据方法
模拟现网测试,需要搭建测试环境,导入上亿级的数据到数据库。对于到的问题做些简单记录。
数据:一个db,2000个表格,2000张表格数据,每条记录30个column,平均每张表格4.3w条记录,总共86388670条记录。
机器:linux 64bit 8G内存 4核IntelX3320@2.5GHz
基本思路:
1 |
|
将load语句放在xxxx.sql中
load语法:
1 |
|
如果串行导入数据,会很慢,考虑并行,但可能有冲突,解决办法:
load之前清空表
1 |
|
或使用replace或ignore关键字。
bitsCN.com