目錄
#1、工具" >#1、工具
2、類別庫" >2、類別庫
1、逾時" >1、逾時
2、溢出
解決方案" >解決方案
1、使用PHPExcel匯出" >1、使用PHPExcel匯出
2、使用csv導出" >2、使用csv導出
3、理想方案" >3、理想方案
4、最快方案" >4、最快方案
首頁 後端開發 PHP問題 一分鐘解PHP大資料量(大於50萬)匯出到Excel

一分鐘解PHP大資料量(大於50萬)匯出到Excel

Jun 25, 2021 am 09:38 AM
php

PHP中我們了解了那麼多關於PHP的知識,不知道你們對運用PHP的技能掌握多少,我相信很大一部分人會了解但是不會運用知識,那麼不急本篇文章就是帶領大家更深刻的去運用PHP。

分析

#1、工具

首先明確我們需要匯出的數量50W ,其次我們使用過都知道Excel2003版最大行數是65535行,Excel2007版的行數(1048576行)才能達到我們的要求,所以我們需要使用Excel的版本必須為2007版及以上。

2、類別庫

目前最常用的PHP處理Excel的類別庫是PHPExcel(經過實例測試匯出1w條數據,再加上各種數據判斷處理我用了5-8分鐘);我在網上還查到一款叫PHPOffice(這個我沒用過,大家可以嘗試一下,據說效率比PHPExcel要好,等下次再寫篇博文介紹一下);還有一個fputcsv(),匯出的是csv格式文件,也可以用Excel文件開啟。

1、逾時

這個是直接的,請求逾時。在這個多的資料請求處理下,超市非常常見,這時我們需要修改PHP的配置:set_time_limit(0)。

2、溢出

我們一次性的把所有資料從資料庫取出填入記憶體中,一下不光記憶體儲存不夠,如果伺服器CPU配置不高的話使用率一下也能達到100%,會造成伺服器卡負載。關於溢出我們也需要修改PHP的配置:ini_set('memory_limit', '1024M')。

解決方案

1、使用PHPExcel匯出

使用此種方案匯出50w 的資料體驗非常的不好,經測試之後是雖說是可行的,伺服器上也可以匯出,就是時間會慢一些,而且會是一直下載狀態。如果使用php類別庫,建議將php升級到最新的php7版本節省內存,且計算速度要快

2、使用csv導出

如果不是用php類別庫,那麼fputcsv()是最佳方式,這種方式要比PHPExcel好很多;因為csv檔案較小,csv檔案資料可存放數量可大可小,csv產生不佔用大量CPU和時間,而Excel的生成時間隨著文件資料量的增加成而所需時間越多。

3、理想方案

將資料依照某種條件分割,減少匯出的資料量,例如依照日期匯出,可一週匯出一次或一天匯出一次,資料分割肯定是必須的步驟,防止記憶體溢出,運行超時;

進行演算法優化,在資料循環時,減少嵌套循環,生成csv或Excel的資料物件時,一次成型,減少資料庫查詢次數,如果需要用到其他資料請事先產生對應資料結構的資料。

4、最快方案

將需求交給運維,直接執行sql語句進行匯出:

SELECT
	*
FROM
	table_name 
INTO OUTFILE 'F:/test.csv' 
FIELDS TERMINATED BY ',' 
OPTIONALLY ENCLOSED BY '"' 
LINES TERMINATED BY '\r\n';
登入後複製

執行此語句可能會出現如下錯誤:

The MySQL server is running with the --secure-file-priv option so it cannot execute this statement
登入後複製

這個是由於Mysql的配置權限問題,可以運行SHOW VARIABLES LIKE '%secure%';查看secure-file-priv 目前的值是什麼,NULL就代表禁止導出,所以需要設置一下。在Mysql安裝路徑下的my.ini文件,修改設定一下路徑,沒有的話添加上此配置:

secure_file_priv=F:/
登入後複製

50w 的資料你會發現很快就導出了。你也可以寫此語句,知道此文件在伺服器上的路徑,進行打包下載即可。

相關學習影片分享:php影片教學

#

以上是一分鐘解PHP大資料量(大於50萬)匯出到Excel的詳細內容。更多資訊請關注PHP中文網其他相關文章!

本網站聲明
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn

熱AI工具

Undresser.AI Undress

Undresser.AI Undress

人工智慧驅動的應用程序,用於創建逼真的裸體照片

AI Clothes Remover

AI Clothes Remover

用於從照片中去除衣服的線上人工智慧工具。

Undress AI Tool

Undress AI Tool

免費脫衣圖片

Clothoff.io

Clothoff.io

AI脫衣器

Video Face Swap

Video Face Swap

使用我們完全免費的人工智慧換臉工具,輕鬆在任何影片中換臉!

熱工具

記事本++7.3.1

記事本++7.3.1

好用且免費的程式碼編輯器

SublimeText3漢化版

SublimeText3漢化版

中文版,非常好用

禪工作室 13.0.1

禪工作室 13.0.1

強大的PHP整合開發環境

Dreamweaver CS6

Dreamweaver CS6

視覺化網頁開發工具

SublimeText3 Mac版

SublimeText3 Mac版

神級程式碼編輯軟體(SublimeText3)

熱門話題

Java教學
1653
14
CakePHP 教程
1413
52
Laravel 教程
1305
25
PHP教程
1251
29
C# 教程
1224
24
適用於 Ubuntu 和 Debian 的 PHP 8.4 安裝和升級指南 適用於 Ubuntu 和 Debian 的 PHP 8.4 安裝和升級指南 Dec 24, 2024 pm 04:42 PM

PHP 8.4 帶來了多項新功能、安全性改進和效能改進,同時棄用和刪除了大量功能。 本指南介紹如何在 Ubuntu、Debian 或其衍生版本上安裝 PHP 8.4 或升級到 PHP 8.4

在PHP API中說明JSON Web令牌(JWT)及其用例。 在PHP API中說明JSON Web令牌(JWT)及其用例。 Apr 05, 2025 am 12:04 AM

JWT是一種基於JSON的開放標準,用於在各方之間安全地傳輸信息,主要用於身份驗證和信息交換。 1.JWT由Header、Payload和Signature三部分組成。 2.JWT的工作原理包括生成JWT、驗證JWT和解析Payload三個步驟。 3.在PHP中使用JWT進行身份驗證時,可以生成和驗證JWT,並在高級用法中包含用戶角色和權限信息。 4.常見錯誤包括簽名驗證失敗、令牌過期和Payload過大,調試技巧包括使用調試工具和日誌記錄。 5.性能優化和最佳實踐包括使用合適的簽名算法、合理設置有效期、

您如何在PHP中解析和處理HTML/XML? 您如何在PHP中解析和處理HTML/XML? Feb 07, 2025 am 11:57 AM

本教程演示瞭如何使用PHP有效地處理XML文檔。 XML(可擴展的標記語言)是一種用於人類可讀性和機器解析的多功能文本標記語言。它通常用於數據存儲

解釋PHP中的晚期靜態綁定(靜態::)。 解釋PHP中的晚期靜態綁定(靜態::)。 Apr 03, 2025 am 12:04 AM

靜態綁定(static::)在PHP中實現晚期靜態綁定(LSB),允許在靜態上下文中引用調用類而非定義類。 1)解析過程在運行時進行,2)在繼承關係中向上查找調用類,3)可能帶來性能開銷。

php程序在字符串中計數元音 php程序在字符串中計數元音 Feb 07, 2025 pm 12:12 PM

字符串是由字符組成的序列,包括字母、數字和符號。本教程將學習如何使用不同的方法在PHP中計算給定字符串中元音的數量。英語中的元音是a、e、i、o、u,它們可以是大寫或小寫。 什麼是元音? 元音是代表特定語音的字母字符。英語中共有五個元音,包括大寫和小寫: a, e, i, o, u 示例 1 輸入:字符串 = "Tutorialspoint" 輸出:6 解釋 字符串 "Tutorialspoint" 中的元音是 u、o、i、a、o、i。總共有 6 個元

PHP和Python:比較兩種流行的編程語言 PHP和Python:比較兩種流行的編程語言 Apr 14, 2025 am 12:13 AM

PHP和Python各有優勢,選擇依據項目需求。 1.PHP適合web開發,尤其快速開發和維護網站。 2.Python適用於數據科學、機器學習和人工智能,語法簡潔,適合初學者。

什麼是PHP魔術方法(__ -construct,__destruct,__call,__get,__ set等)並提供用例? 什麼是PHP魔術方法(__ -construct,__destruct,__call,__get,__ set等)並提供用例? Apr 03, 2025 am 12:03 AM

PHP的魔法方法有哪些? PHP的魔法方法包括:1.\_\_construct,用於初始化對象;2.\_\_destruct,用於清理資源;3.\_\_call,處理不存在的方法調用;4.\_\_get,實現動態屬性訪問;5.\_\_set,實現動態屬性設置。這些方法在特定情況下自動調用,提升代碼的靈活性和效率。

PHP:網絡開發的關鍵語言 PHP:網絡開發的關鍵語言 Apr 13, 2025 am 12:08 AM

PHP是一種廣泛應用於服務器端的腳本語言,特別適合web開發。 1.PHP可以嵌入HTML,處理HTTP請求和響應,支持多種數據庫。 2.PHP用於生成動態網頁內容,處理表單數據,訪問數據庫等,具有強大的社區支持和開源資源。 3.PHP是解釋型語言,執行過程包括詞法分析、語法分析、編譯和執行。 4.PHP可以與MySQL結合用於用戶註冊系統等高級應用。 5.調試PHP時,可使用error_reporting()和var_dump()等函數。 6.優化PHP代碼可通過緩存機制、優化數據庫查詢和使用內置函數。 7

See all articles