Maison développement back-end tutoriel php php笔记之:有规律大文件的读取与写入的分析_php实例

php笔记之:有规律大文件的读取与写入的分析_php实例

May 17, 2016 am 09:05 AM
写入 大文件 读取

这几天在做一个东西.研究PHP读取行数较多的文件(大概上百万行).考虑到效率问题.进行了简单的研究.总结如下

第一条.file()函数的效率问题.

file()函数的效率很底下 如果是有规律的文件.比如每行一条相应数据.那么尽量不要是用file()函数

可以使用file_get_contents()然后用explode切割.这样效率会快三分之一

举个例子:

文件样式如下:

11111\n

22222\n

33333\n

44444\n

55555\n

.....\n

nnnnnnnnnnn\n

如果用file($file)读入的话.耗时很长.

可以用如下方法explode("\n",file_get_contents($file));效率会快很多.

第二条,数组的遍历方式.

数据已经被读入数组了.下面就是遍历了.

我所需要的是确定数组中有无一个值的存在,比如说44444是否在数组中.首先想到的是in_array()

不过实验了下发现效率很低下.于是参考别人的代码想到一个办法.把数组翻转过来.变成所有值都为1.原来的值变成了索引.那么只要我在if里写($arr[索引]==1)去判断.果然效率高出很多.

在数组的遍历过程中.如果数组个头非常大,并且数组中的数据并不是全能用到的话,最好把用来遍历的数组抽出来.这样会提高很多效率.

第三条,数组的存储.

把计算过后的数据保存起来.存在一个文件中.考虑了三种方法.一种是直接写成php文件.一种是serialize,一种是json串.

第一种方式

直接写入文件保存成PHP

需要的时候直接require进来.

第二种方式.把变量serialize然后file_put_contents()进入文件.使用的时候unserialize就ok.

第三种方式和第二种类似.只不过写成了json串.

经过测试.发现第二种效率最高.第三种其次.和第二种效率不相上下.第一种最慢.和我预想的差距很大.真是大跌眼镜.

Déclaration de ce site Web
Le contenu de cet article est volontairement contribué par les internautes et les droits d'auteur appartiennent à l'auteur original. Ce site n'assume aucune responsabilité légale correspondante. Si vous trouvez un contenu suspecté de plagiat ou de contrefaçon, veuillez contacter admin@php.cn

Outils d'IA chauds

Undresser.AI Undress

Undresser.AI Undress

Application basée sur l'IA pour créer des photos de nu réalistes

AI Clothes Remover

AI Clothes Remover

Outil d'IA en ligne pour supprimer les vêtements des photos.

Undress AI Tool

Undress AI Tool

Images de déshabillage gratuites

Clothoff.io

Clothoff.io

Dissolvant de vêtements AI

Video Face Swap

Video Face Swap

Échangez les visages dans n'importe quelle vidéo sans effort grâce à notre outil d'échange de visage AI entièrement gratuit !

Outils chauds

Bloc-notes++7.3.1

Bloc-notes++7.3.1

Éditeur de code facile à utiliser et gratuit

SublimeText3 version chinoise

SublimeText3 version chinoise

Version chinoise, très simple à utiliser

Envoyer Studio 13.0.1

Envoyer Studio 13.0.1

Puissant environnement de développement intégré PHP

Dreamweaver CS6

Dreamweaver CS6

Outils de développement Web visuel

SublimeText3 version Mac

SublimeText3 version Mac

Logiciel d'édition de code au niveau de Dieu (SublimeText3)

Comment lire correctement le fichier txt à l'aide de pandas Comment lire correctement le fichier txt à l'aide de pandas Jan 19, 2024 am 08:39 AM

Comment utiliser pandas pour lire correctement les fichiers txt nécessite des exemples de code spécifiques. Pandas est une bibliothèque d'analyse de données Python largement utilisée. Elle peut être utilisée pour traiter une variété de types de données, notamment des fichiers CSV, des fichiers Excel, des bases de données SQL, etc. En même temps, il peut également être utilisé pour lire des fichiers texte, tels que des fichiers txt. Cependant, lors de la lecture de fichiers txt, nous rencontrons parfois quelques problèmes, comme des problèmes d'encodage, des problèmes de délimiteur, etc. Cet article explique comment lire correctement le txt à l'aide de pandas.

Conseils pratiques pour lire les fichiers txt à l'aide de pandas Conseils pratiques pour lire les fichiers txt à l'aide de pandas Jan 19, 2024 am 09:49 AM

Conseils pratiques pour lire les fichiers txt à l'aide de pandas, des exemples de code spécifiques sont requis Dans l'analyse et le traitement des données, les fichiers txt sont un format de données courant. L'utilisation de pandas pour lire les fichiers txt permet un traitement des données rapide et pratique. Cet article présentera plusieurs techniques pratiques pour vous aider à mieux utiliser les pandas pour lire les fichiers txt, ainsi que des exemples de code spécifiques. Lire des fichiers txt avec des délimiteurs Lorsque vous utilisez pandas pour lire des fichiers txt avec des délimiteurs, vous pouvez utiliser read_c

Conseils pour résoudre les caractères chinois tronqués lors de l'écriture de fichiers txt avec PHP Conseils pour résoudre les caractères chinois tronqués lors de l'écriture de fichiers txt avec PHP Mar 27, 2024 pm 01:18 PM

Conseils pour résoudre les caractères chinois tronqués écrits par PHP dans des fichiers txt Avec le développement rapide d'Internet, PHP, en tant que langage de programmation largement utilisé, est utilisé par de plus en plus de développeurs. Dans le développement PHP, il est souvent nécessaire de lire et d'écrire des fichiers texte, y compris des fichiers txt qui écrivent du contenu chinois. Cependant, en raison de problèmes de format d'encodage, le chinois écrit apparaîtra parfois tronqué. Cet article présentera quelques techniques pour résoudre le problème des caractères chinois tronqués écrits dans des fichiers txt par PHP et fournira des exemples de code spécifiques. Analyse de problèmes en PHP, texte

Méthodes pratiques pour lire les données d'une page Web avec Pandas Méthodes pratiques pour lire les données d'une page Web avec Pandas Jan 04, 2024 am 11:35 AM

La méthode pratique de lecture des données des pages Web dans Pandas nécessite des exemples de code spécifiques. Lors de l'analyse et du traitement des données, nous avons souvent besoin d'obtenir des données à partir de pages Web. En tant qu'outil puissant de traitement de données, Pandas fournit des méthodes pratiques pour lire et traiter les données des pages Web. Cet article présentera plusieurs méthodes pratiques couramment utilisées pour lire les données de pages Web dans Pandas et joindra des exemples de code spécifiques. Méthode 1 : utilisez la fonction read_html() de Pandas pour lire directement à partir de la page Web.

Exemple de lecture et d'écriture de fichiers CSV à l'aide d'OpenCSV en Java Exemple de lecture et d'écriture de fichiers CSV à l'aide d'OpenCSV en Java Dec 20, 2023 pm 01:39 PM

Exemple d'utilisation d'OpenCSV pour lire et écrire des fichiers CSV en Java. CSV (Comma-SeparatedValues) fait référence à des valeurs séparées par des virgules et constitue un format de stockage de données courant. En Java, OpenCSV est une bibliothèque d'outils couramment utilisée pour lire et écrire des fichiers CSV. Cet article expliquera comment utiliser OpenCSV pour implémenter des exemples de lecture et d'écriture de fichiers CSV. Présentation de la bibliothèque OpenCSV Tout d'abord, vous devez présenter la bibliothèque OpenCSV à

Comment lire des fichiers Excel avec PHP et réponses aux questions courantes Comment lire des fichiers Excel avec PHP et réponses aux questions courantes Jun 09, 2023 am 11:41 AM

Comment lire des fichiers Excel avec PHP et FAQ Excel est un format de fichier de feuille de calcul très courant, et de nombreuses entreprises et données sont stockées dans des fichiers Excel. Pendant le processus de développement, si vous devez importer les données du fichier Excel dans le système, vous devez utiliser PHP pour lire le fichier Excel. Cet article explique comment lire des fichiers Excel avec PHP et répond aux questions courantes. 1. Comment lire des fichiers Excel avec PHP 1. Utilisez la bibliothèque de classes PHPExcel PHPExcel est un P

Tutoriel d'utilisation de Pandas : Démarrage rapide pour la lecture de fichiers JSON Tutoriel d'utilisation de Pandas : Démarrage rapide pour la lecture de fichiers JSON Jan 13, 2024 am 10:15 AM

Démarrage rapide : méthode Pandas de lecture des fichiers JSON, des exemples de code spécifiques sont requis Introduction : Dans le domaine de l'analyse des données et de la science des données, Pandas est l'une des bibliothèques Python importantes. Il fournit des fonctions riches et des structures de données flexibles, et peut facilement traiter et analyser diverses données. Dans les applications pratiques, nous rencontrons souvent des situations où nous devons lire des fichiers JSON. Cet article expliquera comment utiliser Pandas pour lire des fichiers JSON et joindra des exemples de code spécifiques. 1. Installation de Pandas

Opérations de lecture de fichiers Golang : conseils pour lire rapidement des fichiers volumineux Opérations de lecture de fichiers Golang : conseils pour lire rapidement des fichiers volumineux Jan 19, 2024 am 08:33 AM

Opération de lecture de fichiers Golang : astuces pour lire rapidement des fichiers volumineux, des exemples de code spécifiques sont nécessaires. Dans la programmation Golang, la lecture de fichiers est une opération très courante. Mais lorsque des fichiers volumineux doivent être lus, il s’agit généralement d’une opération qui prend beaucoup de temps et de ressources. Par conséquent, comment lire rapidement des fichiers volumineux est un sujet qui mérite d’être discuté. Cet article expliquera comment utiliser les fonctionnalités de Golang et certaines techniques pour lire rapidement des fichiers volumineux, et fournira des exemples de code spécifiques. Utiliser bufio pour lire des fichiers dans Golang, lecture de fichiers

See all articles