目录
回复内容:
首页 后端开发 php教程 请教大家关于php for循环中的 大数据量处理时自动exit的问题

请教大家关于php for循环中的 大数据量处理时自动exit的问题

Jun 06, 2016 pm 08:38 PM
for循环 php

<code>        /**
         * @function getSplitCache 对excelId基础数据进行分片缓存
         * @param type $excelId  excel文件id tax_excel的id
         * @param type $beforeAndAfterInsertid  details_excel  插入前后的id
         * @return 无  统一excel的缓存文件标准为: EXCEL_ID_NUM 
         */
        public function getSplitCache($excelId, $beforeAndAfterInsertid){
            processTip( '100%', 'Excel数据分片开始.....................');
            $where['id']        = array('gt', $beforeAndAfterInsertid['beforeId']); 
            $where['excel_id']   = array('eq', $excelId);        //是否可能存在两个表同时插入情况,如果无可省略此项
            $allExcelData =  $this->modelDetailsExcel->where($where)->group('nsrsbh,id')->select();
            $totalNum   = count($allExcelData);
            $this->_setAllRow($totalNum);
//            $interval = ceil( ($beforeAndAfterInsertid[1]-$beforeAndAfterInsertid[0])/$this->excelDataCacheNum);//多个人同时出现操作插入文件是可能错误
            $interval = ceil($totalNum/$this->excelDataCacheNum);
            for($i = 0; $iexcelDataCacheNum; $i++ ){
                $excelData[$i] = array_slice($allExcelData, $i*$interval, $interval);
            }
            unset($allExcelData);
            //1一个在开头一个在结尾利用时间差可以不再细分
            //2必须分在一起以下为分在一起的
            $i = 0;
            for($i;  $iexcelDataCacheNum-1;  $i++ ){
                if($excelData[$i][$interval-1]['nsrsbh'] === $excelData[$i+1][0]['nsrsbh']){
                    $j = 0;

                    while( $excelData[$i][$interval-1]['nsrsbh'] === $excelData[$i+1][$j]['nsrsbh']){
                        $excelData[$i][] = $excelData[$i+1][$j++];
                        P($j);
                    }
                    array_splice($excelData[$i+1], 0, $j);
                }
                //输出前台展示进度
                processTip( ($i/$this->excelDataCacheNum*100), 'Excel数据分片'.$i.'.....................');
                //Thinkphp的F缓存方法 指定位置和名称
                F('Excel_'.$excelId.'/'.$i , $excelData[$i]); 
            }
            F('Excel_'.$excelId.'/'.   $i , $excelData[$i]);
            processTip( '100%', 'Excel数据分片结束.....................');
            return  $this->excelDataCacheNum;
        }
</code>
登录后复制
登录后复制

基本原理是 将数据库数据按照nsrsbh 和 id排序 读取出来,然后将数据按照分片数据 分割指定数目的文件(用于前台ajax请求,模拟多线程操作,js发送请求后端接收后处理传过来的数据分片的文件name,然后处理改文件内的数据)
系统环境 apche php 分配的memoryliimit win(win10 64bit 4G内存)为2g linux(ubuntu14.04 64位 8g内存)为4g
经过测试当数据量在3500条时分片1000正常执行。
当数据量在11770条时,linux下和win下开始出现这个问题
到978片缓存生成时就进行不下去,php程序自动跳出 效果如下 然后进程就退出了。
请教大家关于php  for循环中的 大数据量处理时自动exit的问题
当分片为500的时候出现到488 就会卡 然后到了过个2分钟左右才会输出489 然后没有然后了 进程跳出了
请教大家关于php  for循环中的 大数据量处理时自动exit的问题

回复内容:

<code>        /**
         * @function getSplitCache 对excelId基础数据进行分片缓存
         * @param type $excelId  excel文件id tax_excel的id
         * @param type $beforeAndAfterInsertid  details_excel  插入前后的id
         * @return 无  统一excel的缓存文件标准为: EXCEL_ID_NUM 
         */
        public function getSplitCache($excelId, $beforeAndAfterInsertid){
            processTip( '100%', 'Excel数据分片开始.....................');
            $where['id']        = array('gt', $beforeAndAfterInsertid['beforeId']); 
            $where['excel_id']   = array('eq', $excelId);        //是否可能存在两个表同时插入情况,如果无可省略此项
            $allExcelData =  $this->modelDetailsExcel->where($where)->group('nsrsbh,id')->select();
            $totalNum   = count($allExcelData);
            $this->_setAllRow($totalNum);
//            $interval = ceil( ($beforeAndAfterInsertid[1]-$beforeAndAfterInsertid[0])/$this->excelDataCacheNum);//多个人同时出现操作插入文件是可能错误
            $interval = ceil($totalNum/$this->excelDataCacheNum);
            for($i = 0; $iexcelDataCacheNum; $i++ ){
                $excelData[$i] = array_slice($allExcelData, $i*$interval, $interval);
            }
            unset($allExcelData);
            //1一个在开头一个在结尾利用时间差可以不再细分
            //2必须分在一起以下为分在一起的
            $i = 0;
            for($i;  $iexcelDataCacheNum-1;  $i++ ){
                if($excelData[$i][$interval-1]['nsrsbh'] === $excelData[$i+1][0]['nsrsbh']){
                    $j = 0;

                    while( $excelData[$i][$interval-1]['nsrsbh'] === $excelData[$i+1][$j]['nsrsbh']){
                        $excelData[$i][] = $excelData[$i+1][$j++];
                        P($j);
                    }
                    array_splice($excelData[$i+1], 0, $j);
                }
                //输出前台展示进度
                processTip( ($i/$this->excelDataCacheNum*100), 'Excel数据分片'.$i.'.....................');
                //Thinkphp的F缓存方法 指定位置和名称
                F('Excel_'.$excelId.'/'.$i , $excelData[$i]); 
            }
            F('Excel_'.$excelId.'/'.   $i , $excelData[$i]);
            processTip( '100%', 'Excel数据分片结束.....................');
            return  $this->excelDataCacheNum;
        }
</code>
登录后复制
登录后复制

基本原理是 将数据库数据按照nsrsbh 和 id排序 读取出来,然后将数据按照分片数据 分割指定数目的文件(用于前台ajax请求,模拟多线程操作,js发送请求后端接收后处理传过来的数据分片的文件name,然后处理改文件内的数据)
系统环境 apche php 分配的memoryliimit win(win10 64bit 4G内存)为2g linux(ubuntu14.04 64位 8g内存)为4g
经过测试当数据量在3500条时分片1000正常执行。
当数据量在11770条时,linux下和win下开始出现这个问题
到978片缓存生成时就进行不下去,php程序自动跳出 效果如下 然后进程就退出了。
请教大家关于php  for循环中的 大数据量处理时自动exit的问题
当分片为500的时候出现到488 就会卡 然后到了过个2分钟左右才会输出489 然后没有然后了 进程跳出了
请教大家关于php  for循环中的 大数据量处理时自动exit的问题

你去php.ini文件中看看有没有配置最大变量长度的那个设置项,找到它,修改后服务器重启即可。

请教大家关于php  for循环中的 大数据量处理时自动exit的问题
我以前恰好遇到过这个问题

  • 打开 error_reporting
    可在脚本最上方添加

    <code>php</code><code>error_reporing(E_ALL);
    ini_set('display_errors');
    </code>
    登录后复制

    监控数据量多的情况下,是不是内存使用超出限制

  • 如果确认是内存溢出
    改造你的程序,降低内存使用
    比如使用generator
    具体根据你的业务,尽量不要取太多数据放入内存
    保证你程序运行的时候不要随着处理数据量的增大而内存也跟着增大
    理想的情况是处理数据量的增长不会导致程序运行内存的暴增

set_time_limit(0),设置超时时间,不是内存的问题可能是超时了

本站声明
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热AI工具

Undresser.AI Undress

Undresser.AI Undress

人工智能驱动的应用程序,用于创建逼真的裸体照片

AI Clothes Remover

AI Clothes Remover

用于从照片中去除衣服的在线人工智能工具。

Undress AI Tool

Undress AI Tool

免费脱衣服图片

Clothoff.io

Clothoff.io

AI脱衣机

AI Hentai Generator

AI Hentai Generator

免费生成ai无尽的。

热工具

记事本++7.3.1

记事本++7.3.1

好用且免费的代码编辑器

SublimeText3汉化版

SublimeText3汉化版

中文版,非常好用

禅工作室 13.0.1

禅工作室 13.0.1

功能强大的PHP集成开发环境

Dreamweaver CS6

Dreamweaver CS6

视觉化网页开发工具

SublimeText3 Mac版

SublimeText3 Mac版

神级代码编辑软件(SublimeText3)

适用于 Ubuntu 和 Debian 的 PHP 8.4 安装和升级指南 适用于 Ubuntu 和 Debian 的 PHP 8.4 安装和升级指南 Dec 24, 2024 pm 04:42 PM

PHP 8.4 带来了多项新功能、安全性改进和性能改进,同时弃用和删除了大量功能。 本指南介绍了如何在 Ubuntu、Debian 或其衍生版本上安装 PHP 8.4 或升级到 PHP 8.4

如何设置 Visual Studio Code (VS Code) 进行 PHP 开发 如何设置 Visual Studio Code (VS Code) 进行 PHP 开发 Dec 20, 2024 am 11:31 AM

Visual Studio Code,也称为 VS Code,是一个免费的源代码编辑器 - 或集成开发环境 (IDE) - 可用于所有主要操作系统。 VS Code 拥有针对多种编程语言的大量扩展,可以轻松编写

我后悔之前不知道的 7 个 PHP 函数 我后悔之前不知道的 7 个 PHP 函数 Nov 13, 2024 am 09:42 AM

如果您是一位经验丰富的 PHP 开发人员,您可能会感觉您已经在那里并且已经完成了。您已经开发了大量的应用程序,调试了数百万行代码,并调整了一堆脚本来实现操作

您如何在PHP中解析和处理HTML/XML? 您如何在PHP中解析和处理HTML/XML? Feb 07, 2025 am 11:57 AM

本教程演示了如何使用PHP有效地处理XML文档。 XML(可扩展的标记语言)是一种用于人类可读性和机器解析的多功能文本标记语言。它通常用于数据存储

在PHP API中说明JSON Web令牌(JWT)及其用例。 在PHP API中说明JSON Web令牌(JWT)及其用例。 Apr 05, 2025 am 12:04 AM

JWT是一种基于JSON的开放标准,用于在各方之间安全地传输信息,主要用于身份验证和信息交换。1.JWT由Header、Payload和Signature三部分组成。2.JWT的工作原理包括生成JWT、验证JWT和解析Payload三个步骤。3.在PHP中使用JWT进行身份验证时,可以生成和验证JWT,并在高级用法中包含用户角色和权限信息。4.常见错误包括签名验证失败、令牌过期和Payload过大,调试技巧包括使用调试工具和日志记录。5.性能优化和最佳实践包括使用合适的签名算法、合理设置有效期、

php程序在字符串中计数元音 php程序在字符串中计数元音 Feb 07, 2025 pm 12:12 PM

字符串是由字符组成的序列,包括字母、数字和符号。本教程将学习如何使用不同的方法在PHP中计算给定字符串中元音的数量。英语中的元音是a、e、i、o、u,它们可以是大写或小写。 什么是元音? 元音是代表特定语音的字母字符。英语中共有五个元音,包括大写和小写: a, e, i, o, u 示例 1 输入:字符串 = "Tutorialspoint" 输出:6 解释 字符串 "Tutorialspoint" 中的元音是 u、o、i、a、o、i。总共有 6 个元

解释PHP中的晚期静态绑定(静态::)。 解释PHP中的晚期静态绑定(静态::)。 Apr 03, 2025 am 12:04 AM

静态绑定(static::)在PHP中实现晚期静态绑定(LSB),允许在静态上下文中引用调用类而非定义类。1)解析过程在运行时进行,2)在继承关系中向上查找调用类,3)可能带来性能开销。

什么是PHP魔术方法(__ -construct,__destruct,__call,__get,__ set等)并提供用例? 什么是PHP魔术方法(__ -construct,__destruct,__call,__get,__ set等)并提供用例? Apr 03, 2025 am 12:03 AM

PHP的魔法方法有哪些?PHP的魔法方法包括:1.\_\_construct,用于初始化对象;2.\_\_destruct,用于清理资源;3.\_\_call,处理不存在的方法调用;4.\_\_get,实现动态属性访问;5.\_\_set,实现动态属性设置。这些方法在特定情况下自动调用,提升代码的灵活性和效率。

See all articles