请教大家关于php for循环中的 大数据量处理时自动exit的问题
<code> /** * @function getSplitCache 对excelId基础数据进行分片缓存 * @param type $excelId excel文件id tax_excel的id * @param type $beforeAndAfterInsertid details_excel 插入前后的id * @return 无 统一excel的缓存文件标准为: EXCEL_ID_NUM */ public function getSplitCache($excelId, $beforeAndAfterInsertid){ processTip( '100%', 'Excel数据分片开始.....................'); $where['id'] = array('gt', $beforeAndAfterInsertid['beforeId']); $where['excel_id'] = array('eq', $excelId); //是否可能存在两个表同时插入情况,如果无可省略此项 $allExcelData = $this->modelDetailsExcel->where($where)->group('nsrsbh,id')->select(); $totalNum = count($allExcelData); $this->_setAllRow($totalNum); // $interval = ceil( ($beforeAndAfterInsertid[1]-$beforeAndAfterInsertid[0])/$this->excelDataCacheNum);//多个人同时出现操作插入文件是可能错误 $interval = ceil($totalNum/$this->excelDataCacheNum); for($i = 0; $iexcelDataCacheNum; $i++ ){ $excelData[$i] = array_slice($allExcelData, $i*$interval, $interval); } unset($allExcelData); //1一个在开头一个在结尾利用时间差可以不再细分 //2必须分在一起以下为分在一起的 $i = 0; for($i; $iexcelDataCacheNum-1; $i++ ){ if($excelData[$i][$interval-1]['nsrsbh'] === $excelData[$i+1][0]['nsrsbh']){ $j = 0; while( $excelData[$i][$interval-1]['nsrsbh'] === $excelData[$i+1][$j]['nsrsbh']){ $excelData[$i][] = $excelData[$i+1][$j++]; P($j); } array_splice($excelData[$i+1], 0, $j); } //输出前台展示进度 processTip( ($i/$this->excelDataCacheNum*100), 'Excel数据分片'.$i.'.....................'); //Thinkphp的F缓存方法 指定位置和名称 F('Excel_'.$excelId.'/'.$i , $excelData[$i]); } F('Excel_'.$excelId.'/'. $i , $excelData[$i]); processTip( '100%', 'Excel数据分片结束.....................'); return $this->excelDataCacheNum; } </code>
基本原理是 将数据库数据按照nsrsbh 和 id排序 读取出来,然后将数据按照分片数据 分割指定数目的文件(用于前台ajax请求,模拟多线程操作,js发送请求后端接收后处理传过来的数据分片的文件name,然后处理改文件内的数据)
系统环境 apche php 分配的memoryliimit win(win10 64bit 4G内存)为2g linux(ubuntu14.04 64位 8g内存)为4g
经过测试当数据量在3500条时分片1000正常执行。
当数据量在11770条时,linux下和win下开始出现这个问题
到978片缓存生成时就进行不下去,php程序自动跳出 效果如下 然后进程就退出了。
当分片为500的时候出现到488 就会卡 然后到了过个2分钟左右才会输出489 然后没有然后了 进程跳出了
回复内容:
<code> /** * @function getSplitCache 对excelId基础数据进行分片缓存 * @param type $excelId excel文件id tax_excel的id * @param type $beforeAndAfterInsertid details_excel 插入前后的id * @return 无 统一excel的缓存文件标准为: EXCEL_ID_NUM */ public function getSplitCache($excelId, $beforeAndAfterInsertid){ processTip( '100%', 'Excel数据分片开始.....................'); $where['id'] = array('gt', $beforeAndAfterInsertid['beforeId']); $where['excel_id'] = array('eq', $excelId); //是否可能存在两个表同时插入情况,如果无可省略此项 $allExcelData = $this->modelDetailsExcel->where($where)->group('nsrsbh,id')->select(); $totalNum = count($allExcelData); $this->_setAllRow($totalNum); // $interval = ceil( ($beforeAndAfterInsertid[1]-$beforeAndAfterInsertid[0])/$this->excelDataCacheNum);//多个人同时出现操作插入文件是可能错误 $interval = ceil($totalNum/$this->excelDataCacheNum); for($i = 0; $iexcelDataCacheNum; $i++ ){ $excelData[$i] = array_slice($allExcelData, $i*$interval, $interval); } unset($allExcelData); //1一个在开头一个在结尾利用时间差可以不再细分 //2必须分在一起以下为分在一起的 $i = 0; for($i; $iexcelDataCacheNum-1; $i++ ){ if($excelData[$i][$interval-1]['nsrsbh'] === $excelData[$i+1][0]['nsrsbh']){ $j = 0; while( $excelData[$i][$interval-1]['nsrsbh'] === $excelData[$i+1][$j]['nsrsbh']){ $excelData[$i][] = $excelData[$i+1][$j++]; P($j); } array_splice($excelData[$i+1], 0, $j); } //输出前台展示进度 processTip( ($i/$this->excelDataCacheNum*100), 'Excel数据分片'.$i.'.....................'); //Thinkphp的F缓存方法 指定位置和名称 F('Excel_'.$excelId.'/'.$i , $excelData[$i]); } F('Excel_'.$excelId.'/'. $i , $excelData[$i]); processTip( '100%', 'Excel数据分片结束.....................'); return $this->excelDataCacheNum; } </code>
基本原理是 将数据库数据按照nsrsbh 和 id排序 读取出来,然后将数据按照分片数据 分割指定数目的文件(用于前台ajax请求,模拟多线程操作,js发送请求后端接收后处理传过来的数据分片的文件name,然后处理改文件内的数据)
系统环境 apche php 分配的memoryliimit win(win10 64bit 4G内存)为2g linux(ubuntu14.04 64位 8g内存)为4g
经过测试当数据量在3500条时分片1000正常执行。
当数据量在11770条时,linux下和win下开始出现这个问题
到978片缓存生成时就进行不下去,php程序自动跳出 效果如下 然后进程就退出了。
当分片为500的时候出现到488 就会卡 然后到了过个2分钟左右才会输出489 然后没有然后了 进程跳出了
你去php.ini
文件中看看有没有配置最大变量长度的那个设置项,找到它,修改后服务器重启即可。
我以前恰好遇到过这个问题
-
打开 error_reporting
可在脚本最上方添加<code>php</code><code>error_reporing(E_ALL); ini_set('display_errors'); </code>
登入後複製监控数据量多的情况下,是不是内存使用超出限制
如果确认是内存溢出
改造你的程序,降低内存使用
比如使用generator
具体根据你的业务,尽量不要取太多数据放入内存
保证你程序运行的时候不要随着处理数据量的增大而内存也跟着增大
理想的情况是处理数据量的增长不会导致程序运行内存的暴增
set_time_limit(0),设置超时时间,不是内存的问题可能是超时了

熱AI工具

Undresser.AI Undress
人工智慧驅動的應用程序,用於創建逼真的裸體照片

AI Clothes Remover
用於從照片中去除衣服的線上人工智慧工具。

Undress AI Tool
免費脫衣圖片

Clothoff.io
AI脫衣器

Video Face Swap
使用我們完全免費的人工智慧換臉工具,輕鬆在任何影片中換臉!

熱門文章

熱工具

記事本++7.3.1
好用且免費的程式碼編輯器

SublimeText3漢化版
中文版,非常好用

禪工作室 13.0.1
強大的PHP整合開發環境

Dreamweaver CS6
視覺化網頁開發工具

SublimeText3 Mac版
神級程式碼編輯軟體(SublimeText3)

PHP 8.4 帶來了多項新功能、安全性改進和效能改進,同時棄用和刪除了大量功能。 本指南介紹如何在 Ubuntu、Debian 或其衍生版本上安裝 PHP 8.4 或升級到 PHP 8.4

JWT是一種基於JSON的開放標準,用於在各方之間安全地傳輸信息,主要用於身份驗證和信息交換。 1.JWT由Header、Payload和Signature三部分組成。 2.JWT的工作原理包括生成JWT、驗證JWT和解析Payload三個步驟。 3.在PHP中使用JWT進行身份驗證時,可以生成和驗證JWT,並在高級用法中包含用戶角色和權限信息。 4.常見錯誤包括簽名驗證失敗、令牌過期和Payload過大,調試技巧包括使用調試工具和日誌記錄。 5.性能優化和最佳實踐包括使用合適的簽名算法、合理設置有效期、

本教程演示瞭如何使用PHP有效地處理XML文檔。 XML(可擴展的標記語言)是一種用於人類可讀性和機器解析的多功能文本標記語言。它通常用於數據存儲

靜態綁定(static::)在PHP中實現晚期靜態綁定(LSB),允許在靜態上下文中引用調用類而非定義類。 1)解析過程在運行時進行,2)在繼承關係中向上查找調用類,3)可能帶來性能開銷。

字符串是由字符組成的序列,包括字母、數字和符號。本教程將學習如何使用不同的方法在PHP中計算給定字符串中元音的數量。英語中的元音是a、e、i、o、u,它們可以是大寫或小寫。 什麼是元音? 元音是代表特定語音的字母字符。英語中共有五個元音,包括大寫和小寫: a, e, i, o, u 示例 1 輸入:字符串 = "Tutorialspoint" 輸出:6 解釋 字符串 "Tutorialspoint" 中的元音是 u、o、i、a、o、i。總共有 6 個元

PHP和Python各有優勢,選擇依據項目需求。 1.PHP適合web開發,尤其快速開發和維護網站。 2.Python適用於數據科學、機器學習和人工智能,語法簡潔,適合初學者。

PHP的魔法方法有哪些? PHP的魔法方法包括:1.\_\_construct,用於初始化對象;2.\_\_destruct,用於清理資源;3.\_\_call,處理不存在的方法調用;4.\_\_get,實現動態屬性訪問;5.\_\_set,實現動態屬性設置。這些方法在特定情況下自動調用,提升代碼的靈活性和效率。

PHP是一種廣泛應用於服務器端的腳本語言,特別適合web開發。 1.PHP可以嵌入HTML,處理HTTP請求和響應,支持多種數據庫。 2.PHP用於生成動態網頁內容,處理表單數據,訪問數據庫等,具有強大的社區支持和開源資源。 3.PHP是解釋型語言,執行過程包括詞法分析、語法分析、編譯和執行。 4.PHP可以與MySQL結合用於用戶註冊系統等高級應用。 5.調試PHP時,可使用error_reporting()和var_dump()等函數。 6.優化PHP代碼可通過緩存機制、優化數據庫查詢和使用內置函數。 7
