mysql用php怎么分批处理插入？比如前1000条数据处理结束后，再处理1001至2000条，然后再处理2001至3000条……，直到全部处理完毕？-PHP Tutorial-php.cn

mysql用php怎么分批处理插入？比如前1000条数据处理结束后，再处理1001至2000条，然后再处理2001至3000条……，直到全部处理完毕？

WBOY

Release： 2016-06-23 13:44:26

Original

1196 people have browsed it

当表 member中数据量不大时，可以一次性执行：

$q="select * from member'";$r=$obj_db->simplequery($q);while($a=$obj_db->fetchrow($r,DB_FETCHMODE_ASSOC)){   $id=$a[id];   $mccd=$a[cca]+$a[ccb];      $query="insert into mingxi (mid,mccd,mtime) values ('$id','$mccd','$time')";   $obj_db->simplequery($query);}

Copy after login

但当member中数据量达到百万条时，说会出现执行超时的错误：
Fatal error: Maximum execution time of 30 seconds exceeded in D:

那么怎么现实分批处理呢，比如前1000条数据处理结束后，再处理1001至2000条，然后再处理2001至3000条……，直到全部处理完毕？

$q="select * from member'";$r=$obj_db->simplequery($q);while($a=$obj_db->fetchrow($r,DB_FETCHMODE_ASSOC)){$i++;$ep=1000;//这里假设处理完第1个1000条后再处理第二个1000条，直至处理结束？   $id=$a[id];   $mccd=$a[cca]+$a[ccb];      $query="insert into mingxi (mid,mccd,mtime) values ('$id','$mccd','$time')";   $obj_db->simplequery($query);}

Copy after login

请高手帮写出详细代码，谢谢！因代码隐藏在后台执行，所以不要考虑用分页一页一页手工去点的方式

回复讨论(解决方案)

可以用 insert into mingxi (mid,mccd,mtime) select id, cca+ccb, time from member

最近处理一些数据大约56万条,包括每条的读取计算处理和插入

使用一个ajax方法去请求PHP页面,调一个尚未被处理的进行处理,完毕后打上已处理的标记存库,返回到js, ajax接收到返回以后(可以先输出到页面上)调用自身,再次发起请求

56万条跑了大约10万秒, 页面和程序没死过

虽然很慢,但这跟我的需求(需要把每条数据进行分析处理)有关而且不会超时什么的.

这种方法没法试用异步, 处理完毕的返回值有可能先行返回, 除非是查询一条然后提交一条的方式. 否则有可能会造成数据丢失.
当然如果1天跑完你两天都没关应该是没太大问题.

为何会先行返回? 没看明白能否举个例子说明下

$offs = isset($_GET['offs']) ? $_GET['offs'] : 1;$sql = "select * from member limit $offs, 1000";//做你该做的事header("Location: $_SERVER[PHP_SELF]?offs=" . ($offs+1000));

Copy after login

$offs = isset($_GET['offs']) ? $_GET['offs'] : 1;$sql = "select * from member limit $offs, 1000";//做你该做的事header("Location: $_SERVER[PHP_SELF]?offs=" . ($offs+1000));

Copy after login

放在哪里呢？你这个是不是等于不断刷新页面啊?页面中还有一些其它代码，这个页面只能执行一次，谢谢

同问有解决吗