Heim Backend-Entwicklung PHP-Tutorial php笔记之:有规律大文件的读取与写入的分析_PHP

php笔记之:有规律大文件的读取与写入的分析_PHP

Jun 01, 2016 pm 12:08 PM
写入 大文件 读取

这几天在做一个东西.研究PHP读取行数较多的文件(大概上百万行).考虑到效率问题.进行了简单的研究.总结如下

第一条.file()函数的效率问题.

file()函数的效率很底下 如果是有规律的文件.比如每行一条相应数据.那么尽量不要是用file()函数

可以使用file_get_contents()然后用explode切割.这样效率会快三分之一

举个例子:

文件样式如下:

11111\n

22222\n

33333\n

44444\n

55555\n

.....\n

nnnnnnnnnnn\n

如果用file($file)读入的话.耗时很长.

可以用如下方法explode("\n",file_get_contents($file));效率会快很多.

第二条,数组的遍历方式.

数据已经被读入数组了.下面就是遍历了.

我所需要的是确定数组中有无一个值的存在,比如说44444是否在数组中.首先想到的是in_array()

不过实验了下发现效率很低下.于是参考别人的代码想到一个办法.把数组翻转过来.变成所有值都为1.原来的值变成了索引.那么只要我在if里写($arr[索引]==1)去判断.果然效率高出很多.

在数组的遍历过程中.如果数组个头非常大,并且数组中的数据并不是全能用到的话,最好把用来遍历的数组抽出来.这样会提高很多效率.

第三条,数组的存储.

把计算过后的数据保存起来.存在一个文件中.考虑了三种方法.一种是直接写成php文件.一种是serialize,一种是json串.

第一种方式

直接写入文件保存成PHP

需要的时候直接require进来.

第二种方式.把变量serialize然后file_put_contents()进入文件.使用的时候unserialize就ok.

第三种方式和第二种类似.只不过写成了json串.

经过测试.发现第二种效率最高.第三种其次.和第二种效率不相上下.第一种最慢.和我预想的差距很大.真是大跌眼镜.

Erklärung dieser Website
Der Inhalt dieses Artikels wird freiwillig von Internetnutzern beigesteuert und das Urheberrecht liegt beim ursprünglichen Autor. Diese Website übernimmt keine entsprechende rechtliche Verantwortung. Wenn Sie Inhalte finden, bei denen der Verdacht eines Plagiats oder einer Rechtsverletzung besteht, wenden Sie sich bitte an admin@php.cn

Heiße KI -Werkzeuge

Undresser.AI Undress

Undresser.AI Undress

KI-gestützte App zum Erstellen realistischer Aktfotos

AI Clothes Remover

AI Clothes Remover

Online-KI-Tool zum Entfernen von Kleidung aus Fotos.

Undress AI Tool

Undress AI Tool

Ausziehbilder kostenlos

Clothoff.io

Clothoff.io

KI-Kleiderentferner

AI Hentai Generator

AI Hentai Generator

Erstellen Sie kostenlos Ai Hentai.

Heißer Artikel

R.E.P.O. Energiekristalle erklärten und was sie tun (gelber Kristall)
2 Wochen vor By 尊渡假赌尊渡假赌尊渡假赌
R.E.P.O. Beste grafische Einstellungen
2 Wochen vor By 尊渡假赌尊渡假赌尊渡假赌
R.E.P.O. So reparieren Sie Audio, wenn Sie niemanden hören können
3 Wochen vor By 尊渡假赌尊渡假赌尊渡假赌

Heiße Werkzeuge

Notepad++7.3.1

Notepad++7.3.1

Einfach zu bedienender und kostenloser Code-Editor

SublimeText3 chinesische Version

SublimeText3 chinesische Version

Chinesische Version, sehr einfach zu bedienen

Senden Sie Studio 13.0.1

Senden Sie Studio 13.0.1

Leistungsstarke integrierte PHP-Entwicklungsumgebung

Dreamweaver CS6

Dreamweaver CS6

Visuelle Webentwicklungstools

SublimeText3 Mac-Version

SublimeText3 Mac-Version

Codebearbeitungssoftware auf Gottesniveau (SublimeText3)

So lesen Sie eine TXT-Datei mit Pandas richtig So lesen Sie eine TXT-Datei mit Pandas richtig Jan 19, 2024 am 08:39 AM

Um Pandas zum korrekten Lesen von TXT-Dateien zu verwenden, sind bestimmte Codebeispiele erforderlich. Pandas ist eine weit verbreitete Python-Datenanalysebibliothek. Sie kann zur Verarbeitung einer Vielzahl von Datentypen verwendet werden, einschließlich CSV-Dateien, Excel-Dateien, SQL-Datenbanken usw. Gleichzeitig können damit auch Textdateien, beispielsweise TXT-Dateien, gelesen werden. Beim Lesen von TXT-Dateien treten jedoch manchmal Probleme auf, z. B. Codierungsprobleme, Trennzeichenprobleme usw. In diesem Artikel erfahren Sie, wie Sie TXT mit Pandas richtig lesen

Praktische Tipps zum Lesen von TXT-Dateien mit Pandas Praktische Tipps zum Lesen von TXT-Dateien mit Pandas Jan 19, 2024 am 09:49 AM

Praktische Tipps zum Lesen von TXT-Dateien mit Pandas. In der Datenanalyse und Datenverarbeitung sind TXT-Dateien ein gängiges Datenformat. Die Verwendung von Pandas zum Lesen von TXT-Dateien ermöglicht eine schnelle und bequeme Datenverarbeitung. In diesem Artikel werden verschiedene praktische Techniken vorgestellt, die Ihnen dabei helfen, Pandas besser zum Lesen von TXT-Dateien zu verwenden, sowie spezifische Codebeispiele. TXT-Dateien mit Trennzeichen lesen Wenn Sie Pandas zum Lesen von TXT-Dateien mit Trennzeichen verwenden, können Sie read_c verwenden

Beispiel für das Lesen und Schreiben von CSV-Dateien mit OpenCSV in Java Beispiel für das Lesen und Schreiben von CSV-Dateien mit OpenCSV in Java Dec 20, 2023 pm 01:39 PM

Beispiel für die Verwendung von OpenCSV zum Lesen und Schreiben von CSV-Dateien in Java. CSV (Comma-SeparatedValues) bezieht sich auf durch Kommas getrennte Werte und ist ein gängiges Datenspeicherformat. In Java ist OpenCSV eine häufig verwendete Toolbibliothek zum Lesen und Schreiben von CSV-Dateien. In diesem Artikel wird erläutert, wie Sie mit OpenCSV Beispiele für das Lesen und Schreiben von CSV-Dateien implementieren. Einführung in die OpenCSV-Bibliothek Zunächst müssen Sie die OpenCSV-Bibliothek vorstellen

Tipps zum Lösen verstümmelter chinesischer Zeichen beim Schreiben von TXT-Dateien mit PHP Tipps zum Lösen verstümmelter chinesischer Zeichen beim Schreiben von TXT-Dateien mit PHP Mar 27, 2024 pm 01:18 PM

Tipps zum Lösen chinesischer verstümmelter Zeichen, die von PHP in TXT-Dateien geschrieben wurden. Mit der rasanten Entwicklung des Internets wird PHP als weit verbreitete Programmiersprache von immer mehr Entwicklern verwendet. Bei der PHP-Entwicklung ist es häufig erforderlich, Textdateien zu lesen und zu schreiben, einschließlich TXT-Dateien, die chinesische Inhalte schreiben. Aufgrund von Problemen mit dem Codierungsformat erscheint die chinesische Schrift jedoch manchmal verstümmelt. In diesem Artikel werden einige Techniken zur Lösung des Problems chinesischer verstümmelter Zeichen, die von PHP in TXT-Dateien geschrieben werden, vorgestellt und spezifische Codebeispiele bereitgestellt. Problemanalyse in PHP, Text

Praktische Methoden zum Lesen von Webseitendaten mit Pandas Praktische Methoden zum Lesen von Webseitendaten mit Pandas Jan 04, 2024 am 11:35 AM

Die praktische Methode zum Lesen von Webseitendaten in Pandas erfordert spezifische Codebeispiele. Während der Datenanalyse und -verarbeitung müssen wir häufig Daten von Webseiten abrufen. Als leistungsstarkes Datenverarbeitungstool bietet Pandas praktische Methoden zum Lesen und Verarbeiten von Webseitendaten. In diesem Artikel werden mehrere häufig verwendete praktische Methoden zum Lesen von Webseitendaten in Pandas vorgestellt und spezifische Codebeispiele angehängt. Methode 1: Verwenden Sie die Funktion read_html() von Pandas, um direkt von der Webseite zu lesen.

Tutorial zur Pandas-Nutzung: Schnellstart zum Lesen von JSON-Dateien Tutorial zur Pandas-Nutzung: Schnellstart zum Lesen von JSON-Dateien Jan 13, 2024 am 10:15 AM

Schnellstart: Pandas-Methode zum Lesen von JSON-Dateien, spezifische Codebeispiele sind erforderlich. Einführung: Im Bereich Datenanalyse und Datenwissenschaft ist Pandas eine der wichtigsten Python-Bibliotheken. Es bietet umfangreiche Funktionen und flexible Datenstrukturen und kann verschiedene Daten problemlos verarbeiten und analysieren. In praktischen Anwendungen stoßen wir häufig auf Situationen, in denen wir JSON-Dateien lesen müssen. In diesem Artikel wird erläutert, wie Sie mit Pandas JSON-Dateien lesen und spezifische Codebeispiele anhängen. 1. Installation von Pandas

Wie man Excel-Dateien mit PHP liest und Antworten auf häufig gestellte Fragen Wie man Excel-Dateien mit PHP liest und Antworten auf häufig gestellte Fragen Jun 09, 2023 am 11:41 AM

So lesen Sie Excel-Dateien mit PHP und FAQs Excel ist ein sehr verbreitetes Tabellenkalkulationsdateiformat und viele Geschäfte und Daten werden in Excel-Dateien gespeichert. Wenn Sie während des Entwicklungsprozesses die Daten in der Excel-Datei in das System importieren müssen, müssen Sie PHP zum Lesen der Excel-Datei verwenden. In diesem Artikel erfahren Sie, wie Sie Excel-Dateien mit PHP lesen und häufig gestellte Fragen beantworten. 1. So lesen Sie Excel-Dateien mit PHP 1. Verwenden Sie die PHPExcel-Klassenbibliothek PHPExcel ist ein P

Lesevorgänge für Golang-Dateien: Tipps zum schnellen Lesen großer Dateien Lesevorgänge für Golang-Dateien: Tipps zum schnellen Lesen großer Dateien Jan 19, 2024 am 08:33 AM

Lesevorgang für Golang-Dateien: Tipps zum schnellen Lesen großer Dateien. Es sind spezifische Codebeispiele erforderlich. In der Golang-Programmierung ist das Lesen von Dateien ein sehr häufiger Vorgang. Wenn jedoch große Dateien gelesen werden müssen, ist dies normalerweise ein zeit- und ressourcenintensiver Vorgang. Daher ist das schnelle Lesen großer Dateien ein diskussionswürdiges Thema. In diesem Artikel wird erläutert, wie Sie die Funktionen von Golang und einige Techniken zum schnellen Lesen großer Dateien verwenden, und es werden spezifische Codebeispiele bereitgestellt. Verwenden von bufio zum Lesen von Dateien in Golang, Lesen von Dateien

See all articles